Nemotron 3.5 İçerik Güvenliği Modeli Çok Modlu ve Çok Dilli Kurumsal Güvenlik İçin Tanıtıldı
Kaynak: huggingface.co ·
Nemotron 3.5 İçerik Güvenliği modeli, tek bir çıkarım çağrısında çok modlu girdileri, çok dilli kapsamı, özel kurumsal politika uygulamalarını ve denetlenebilir muhakeme yeteneklerini birleştirerek kurumsal yapay zeka güvenliği için duyuruldu. Google Gemma 3 4B IT tabanlı olan bu model; metin, resim ve yanıtları tek bir bağlam penceresinde değerlendirerek etkileşim kaynaklı ihlalleri yakalayabiliyor. 12 dili doğrudan desteklerken yaklaşık 140 dilde sıfır örnekli genelleme sunan model, Aegis 2.0 çerçevesine uyumlu 13 temel kategori ve 10 alt kategori barındırıyor. Ayrıca Üreticiye göre Multilingual Aegis değerlendirmesinde 12 dilde ortalama yüzde 96.5 zararlı içerik sınıflandırma doğruluğuna ulaşıyor. Model, araştırma ve ticari kullanım için Hugging Face üzerinde NVIDIA Açık Model Lisansı ile erişime sunulmuştur.
Neden önemli?
Önceki içerik güvenliği çözümleri genellikle sadece İngilizce veya metin odaklıyken, bu model çok dilli yapıyı, görsel girdileri ve kuruma özel politikaları tek bir kompakt 4 milyar parametreli yapıda buluşturarak maliyet ve gecikmeyi azaltıyor. Düzenlemeye tabi finans, sağlık veya eğitim gibi sektörlerde faaliyet gösteren geliştiriciler ve kurumsal yapay zeka ekipleri, modelin denetlenebilir muhakeme izleri sayesinde kararların gerekçelerini inceleyebiliyor.
Bununla neler yapılabilir?
- Olası kullanım: Finans veya sağlık gibi farklı risk profillerine sahip sektörlerde, doğal dille yazılan özel kurumsal güvenlik politikalarının model tarafından anlık çıkarım sırasında uygulanması.
- Olası kullanım: DevOps araçlarında bir kod parçacığı veya komut işlenirken 'süreci sonlandır' gibi masum ifadelerin şiddet kategorisini tetiklemesini önlemek için kategori baskılama yapılması.
- Olası kullanım: Karmaşık politika ihlali durumlarında DÜŞÜNME modunun (THINK mode) etkinleştirilerek son güvenli/güvensiz etiketi verilmeden önce adım adım mantık izlerinin üretilmesi ve uyumluluk denetimleri için kaydedilmesi.
Somut sonuçlar ve kanıtlar
- Nemotron 3.5 Content Safety achieves an average of 96.5% harmful-content classification accuracy across 12 languages on Multilingual Aegis. (Üreticinin açıklaması)
- Nemotron 3.5 Content Safety achieves an average of 88.8% on RTP-LX, for a combined Aegis and RTP-LX average of 92.7%. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Model, 8GB ve üzeri VRAM gerektiren grafik kartlarında çalışacak şekilde tasarlanmış olup DÜŞÜNME modu açık olduğunda ek çıkarım süresi ekleyebilir. Gerçek dünya performansları özel etki alanlarına ve girdilerin karmaşıklığına göre değişiklik gösterebilir.