NVIDIA Magpie Çok Dilli Metin Okuma Modeli 12 Dilde Açık Ağırlıklarla Duyuruldu
Kaynak: huggingface.co ·
NVIDIA, 364 milyon parametreli açık ağırlıklı çok dilli metin okuma modeli Magpie'yi duyurdu. Yeni sürüm, Modern Standart Arapça, Korece ve Brezilya Portekizcesi dillerini ekleyerek toplam dili 12'ye çıkarırken Fransızca ve İspanyolca gibi mevcut dillerde kaliteyi artırdı. Çerçeve yığma ve yerel transformatör mimarisi sayesinde model, tek akışta 32 ila 79 milisaniye arasında ilk ses gecikmesi sunuyor. Model, kendi altyapınızda veri gizliliğini koruyarak çalıştırılabiliyor ve özelleştirilebiliyor.
Neden önemli?
Bu model, sesli asistan geliştirenlerin harici yönetilen servis bağımlılığını ortadan kaldırarak gecikme bütçesini doğrudan kontrol etmesini sağlar. Kendi altyapısında gizlilik gereksinimlerini karşılayan, düşük gecikmeli ve çok dilli sesli uygulamalar kurmak isteyen şirketler için esneklik sunar.
Bununla neler yapılabilir?
- Olası kullanım: Küresel müşteri destek sistemleri için kesintisiz ve düşük gecikmeli çok dilli sesli yanıt asistanları geliştirmek.
- Olası kullanım: Sağlık dokümantasyonu ve kurumsal asistanlar için verileri kendi altyapısında tutarak ses sentezi yapmak.
Somut sonuçlar ve kanıtlar
- B200 donanımında tek akışta ilk ses gecikmesi (TTFA) 32 milisaniye olarak ölçülmüştür. (Üreticinin açıklaması)
- Fransızca için karakter hata oranı yüzde 2.70'ten yüzde 1.54'e düşmüştür. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Modelin sunduğu performans sonuçları donanıma (B200, H100, DGX Spark, A100) ve akış yüküne göre değişiklik göstermektedir; her ortamda aynı gecikme süreleri garanti edilmemektedir.