Meta Tarafından Geliştirilen Yeni Llama 3 Modelleri ve Özellikleri Tanıtıldı
Kaynak: huggingface.co ·
Meta, açık erişimli dil modelleri ailesinin yeni sürümü olan Llama 3'ü 8B ve 70B parametre boyutlarında piyasaya sürdü. Bu yeni sürüm, her biri temel ve sohbet odaklı ince ayarlı sürümlere sahip dört modelin yanı sıra güvenlik odaklı Llama Guard 2'yi içeriyor. Modeller, önceki sürüme kıyasla daha büyük bir kelime dağarcığına sahip yeni bir belirteçleyici kullanıyor ve 15 trilyondan fazla token üzerinde eğitildi. Ayrıca, Hugging Face ekosisteminde tam destekle sunulan modeller, tüketici tipi donanımlarda çalıştırılabiliyor ve çeşitli bulut platformlarında dağıtılabiliyor.
Neden önemli?
Bu geliştirme, geliştiricilerin ve araştırmacıların daha büyük veri setleriyle eğitilmiş açık kaynaklı modellere erişmesini sağlayarak büyük dil modeli teknolojilerini daha erişilebilir hale getiriyor. Tüketici tipi donanımlarda çalışabilen 8B sürümü, bireysel geliştiricilerin maliyetleri düşürmesine olanak tanırken, 70B sürümü büyük ölçekli uygulamalar için güçlü bir alternatif sunuyor.
Bununla neler yapılabilir?
- Olası kullanım: 8B parametreli modeli tüketici tipi bir GPU üzerinde yerel olarak çalıştırarak özel sohbet botları geliştirmek.
- Olası kullanım: TRL kütüphanesi ve 4-bit nicemleme kullanarak 8B modeli tek bir GPU üzerinde özel veri setleriyle ince ayardan geçirmek.
- Olası kullanım: 70B modelini Google Cloud veya Amazon SageMaker uç noktaları üzerinden büyük ölçekli yapay zeka uygulamaları için devreye almak.
Somut sonuçlar ve kanıtlar
- Llama 3, 8B ve 70B olmak üzere iki boyutta, temel ve sohbet odaklı ince ayarlı varyantlarıyla toplam 4 model olarak yayınlandı. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Modellerin kullanımında Meta tarafından belirlenen lisans şartlarına uyulması gerekmekte olup, türev çalışmalarda belirli atıf zorunlulukları bulunmaktadır. Donanım gereksinimleri modele göre değişiklik göstermektedir.