본문 바로가기
지식 확장/테크

Meta, 오픈소스 모델 Llama 3.3 출시 🚀

by Augmentia 2024. 12. 7.
728x90

Meta가 최신 다중언어 대규모 언어 모델(LLM)인 Llama 3.3을 출시했어요! 😊 이 모델은 성능을 크게 개선하면서도 더 적은 비용과 리소스로 사용할 수 있도록 설계되었답니다.

더 작아진 사이즈로 강력한 성능 제공 💪

Llama 3.3은 70억 개의 매개변수를 활용해 이전의 Llama 3.1-405B 모델과 비슷한 성능을 제공하지만, 필요한 GPU 용량은 크게 줄었어요. 🖥️
예를 들어, Llama 3.1-405B는 최대 1,944GB의 GPU 메모리를 요구했지만, Llama 3.3은 약 42-168GB만 필요해요. 💾 덕분에 최대 24배의 GPU 비용 절감이 가능해요! 💸
이와 함께 Llama 시리즈는 다양한 유형의 모델을 제공해요. 다중언어 텍스트 전용 모델(1B, 3B), 양자화된 버전, 텍스트-이미지 모델(11B, 90B), 그리고 Llama 3.3 70B 모델까지 포함되어 있어요. 📝 이러한 모델들은 높은 품질의 성능을 더 낮은 비용으로 제공해 텍스트 기반 애플리케이션에 적합할 수 있어요. 🌟

친환경적이고 경제적인 인공지능 🌍

Meta는 모델 학습 중 발생한 11,390톤의 이산화탄소 배출량을 재생 에너지를 통해 상쇄해 탄소 중립을 달성했어요. 🌱
또한, Llama 3.3은 토큰 생성 비용이 백만 토큰당 $0.01로 매우 저렴해서, 다른 주요 AI 모델보다 경제적으로 접근 가능해요. 💰

강력한 다중언어 지원과 긴 문맥 처리 🗣️

Llama 3.3은 15조 개의 데이터를 학습하고, 2500만 개 이상의 합성 데이터로 미세 조정되었어요. 📖
다중언어 처리에서 91.1% 정확도를 자랑하며, 영어 외에도 독일어, 프랑스어, 스페인어, 힌디어 등 다양한 언어를 완벽히 지원해요. 🗺️
또한, 128k 토큰 길이의 Context Window를 제공해 긴 문서를 이해하여 결과를 생성하거나 복잡한 대화도 문제없답니다! ✨

안전하고 유용한 기능 강화 🛡️

Llama 3.3은 RLHF(사용자 피드백 강화 학습)와 SFT(지도형 미세 조정)를 사용해 더 안전하고 현실적으로 유용한 AI 어시스턴트로써의 기능을 제공해요. 🤖
Meta는 Llama Guard 3Prompt Guard 등의 도구를 통해 사용자가 모델을 안전하게 배포할 수 있도록 지원하고 있어요. 🚀

개방형 리소스 🌟

Meta는 Hugging Face, GitHub 등을 통해 Llama 3.3을 다운로드할 수 있도록 하고, 라이선스 정책도 개방적이에요. 🎉
700만 이상의 월간 활성 사용자(MAU)를 가진 기업은 상업 라이선스를 취득해야 하지만, 대부분의 개발자는 자유롭게 활용할 수 있답니다. 🔑

728x90