Yerel Donanımda Çalışabilen Kodlayıcısız Çok Modelli Gemma 4 12B Modeli Tanıtıldı
Kaynak: deepmind.google ·
Google DeepMind, dizüstü bilgisayarlarda yerel olarak çalışabilen, kodlayıcısız ve birleştirilmiş yeni çok modlu yapay zeka modeli Gemma 4 12B'yi duyurdu. 12 milyar parametreli bu orta ölçekli model; görüntü, ses ve metin girdilerini ayrı ayrı çeviren geleneksel kodlayıcılar yerine doğrudan büyük dil modeli omurgasına entegre eden yeni bir mimari kullanıyor. Sadece 16 gigabayt video belleği veya ortak bellek gerektiren cihazlarda çalışabilen model, Apache 2.0 lisansıyla erişime açıldı.
Neden önemli?
Bu model, geliştiricilerin bulut maliyetleri olmadan kendi dizüstü bilgisayarlarında çok modlu akıllı ajanlar çalıştırmasına olanak tanıyor. Yerleşik ses ve görüntü işleme yeteneği sayesinde ek kodlayıcı yükünü ortadan kaldırarak gecikmeyi azaltıyor.
Bununla neler yapılabilir?
- Olası kullanım: 16 gigabayt belleğe sahip tüketici dizüstü bilgisayarlarında yerel olarak çok modlu yapay zeka ajanları geliştirip test etmek.
- Olası kullanım: Çoklu Belirteç Tahmini taslak oluşturucuları kullanarak yerel çıkarım boru hatlarında gecikmeyi düşürmek.
- Olası kullanım: Hugging Face Transformers, llama.cpp veya MLX araçlarını kullanarak yerel ortamda ses ve görüntü girdileriyle akışlar kurmak.
Somut sonuçlar ve kanıtlar
- Gemma 4 12B modelinin görsel işleme için tek bir matris çarpımı, konumsal gömme ve normalleştirmelerden oluşan hafif bir gömme modülü kullandığı belirtiliyor. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Modelin verimli çalışabilmesi için en az 16 gigabayt RAM veya ortak belleğe sahip bir donanım gerekmektedir. Kaynak metinde doğruluk oranlarına dair bağımsız bir test sonucu sunulmamıştır.