Gemma 3n Modelleri Açık Kaynak Ekosisteminde Çoklu Ortam Desteğiyle Çıktı
Kaynak: huggingface.co ·
Google tarafından geliştirilen Gemma 3n yapay zeka modelleri, yerel donanımda çalışmak üzere tasarlanmış iki farklı boyut ve varyantla açık kaynak ekosisteminde tamamen erişime açıldı. E2B ve E4B isimli bu modeller; metin, görsel, ses ve video girdilerini işleyebilen çoklu ortam yeteneklerine sahip olup, hafıza verimliliği artırılmış mimarileri sayesinde düşük VRAM gereksinimi sunuyor. Yeni duyurulan modeller transformers, MLX, llama.cpp, ollama ve transformers.js gibi yaygın kütüphanelerle ilk günden itibaren uyumlu olarak çalışabiliyor.
Neden önemli?
Yerel donanımlarda yüksek performansla çalışabilen çoklu ortam yapay zeka modellerine erişimi kolaylaştırarak geliştiricilerin cihaz üzerinde daha az bellek tüketimiyle uygulama geliştirmesini sağlar.
Bununla neler yapılabilir?
- Olası kullanım: Görsel ve metin girdilerini birleştirerek yerel cihazlar üzerinde çoklu ortam veri analizi yapmak.
- Olası kullanım: Ses girdilerini metne dönüştürme ve çeviri görevlerini yerel donanım üzerinde çalıştırmak.
- Olası kullanım: Sağlanan Google Colab defterleri aracılığıyla modeli belirli alanlar ve veri setleri için ince ayardan geçirmek.
Somut sonuçlar ve kanıtlar
- E4B modeli, 1300 üzerinde LMArena skoru elde eden 10 milyar parametre altındaki ilk model oldu. (Üreticinin açıklaması)
- MobileNet-v5-300 görüntü kodlayıcısı Google Pixel üzerinde 60 FPS elde ediyor. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
llama.cpp desteği yalnızca metin girdileriyle sınırlıdır; modelin donanım performansları cihaz özelliklerine göre değişiklik gösterebilir.