Google Tarafından Geliştirilen EmbeddingGemma Çok Dilli Hafif Metin Gömme Modeli Tanıtıldı
Kaynak: huggingface.co ·
Google, mobil ve uç birimlerde kullanım için tasarlanmış 308 milyon parametreli yeni çok dilli gömme modeli EmbeddingGemma'yı duyurdu. Model, 100'den fazla dili destekliyor ve 2 bin token bağlam penceresi sunuyor. Matryoshka Gösterim Öğrenimi ile eğitilen model, çıktı boyutlarının düşürülmesine olanak tanırken, nicemlendiğinde 200 MB RAM altında çalışabiliyor.
Neden önemli?
Bu model, mobil cihazlar ve kaynak kısıtlı ortamlar için yüksek performanslı ve gizlilik odaklı yapay zeka uygulamaları geliştirilmesini sağlar. Geliştiriciler, daha küçük boyutlu bu modeli kullanarak cihaz üzerinde daha hızlı arama ve getirme artırılmış üretim sistemleri kurabilirler.
Bununla neler yapılabilir?
- Olası kullanım: Mobil uygulamalar ve uç birimlerde hafıza tasarrufu sağlayarak metinleri vektörlere dönüştürmek
- Olası kullanım: Medikal talimat ve getirme veri kümesi ile alan adı özelleştirmesi yaparak bilimsel tıbbi makalelerde arama yapmak
- Olası kullanım: Web uygulamalarında Transformers.js kullanarak tarayıcı üzerinde yerel olarak gömme hesaplamaları yapmak
Somut sonuçlar ve kanıtlar
- Üreticiye göre EmbeddingGemma, 500M altındaki metin tabanlı en yüksek sıralamalı çok dilli gömme modelidir. (Üreticinin açıklaması)
- Üreticiye göre tıbbi veri kümesi ile ince ayar yapılan model test kümesinde NDCG@10 skoru elde etmiştir. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Modelin bağlam penceresi 2 bin token ile sınırlıdır ve 308 milyon parametre barındırmaktadır. Cihaz uyumluluğu ve performans sonuçları kullanılan donanıma göre değişiklik gösterebilir.