Hugging Face ve Protect AI Ortaklığıyla 4 Milyondan Fazla Yapay Zeka Modeli Taramadan Geçirildi
Kaynak: huggingface.co ·
Hugging Face ve Protect AI, yapay zeka ve makine öğrenimi model güvenliğini artırmak amacıyla yürüttükleri ortaklığın altıncı ayını tamamladı. Bu süreçte Guardian tarama teknolojisi geliştirilerek dört yeni tehdit algılama modülü kullanıma sunuldu ve platform üzerinde kritik güvenlik uyarıları verilmeye başlandı. 1 Nisan 2025 itibarıyla 1,41 milyon depodaki 4,47 milyon benzersiz model sürümü başarıyla tarandı. Ortaklık, açık kaynaklı yapay zeka modellerinin güvenli bir şekilde kullanılabilmesi için sıfır güven yaklaşımını benimsiyor.
Neden önemli?
Bu ortaklık, geliştiricilerin dış kaynaklardan indirdikleri yapay zeka modellerindeki gizli tehditleri, kötü amaçlı kodları ve mimari arka kapıları erkenden fark etmesini sağlar. Açık kaynak ekosistemindeki güvenlik açıklarını kapatarak model entegrasyon süreçlerini daha güvenli hale getirir.
Bununla neler yapılabilir?
- Olası kullanım: Geliştiriciler, Hugging Face platformundaki modelleri projelerine entegre etmeden önce Guardian tarafından sağlanan satır içi uyarıları ve kapsamlı güvenlik açığı raporlarını inceleyebilir.
- Olası kullanım: Güvenlik ekipleri, kütüphane bağımlı saldırı zincirlerini ve gizlenmiş yükleri tespit etmek için tarama araçlarından yararlanabilir.
Somut sonuçlar ve kanıtlar
- 1 Nisan 2025 itibarıyla Protect AI, Hugging Face Hub üzerindeki 1,41 milyon depoda bulunan 4,47 milyon benzersiz model sürümünü taradı. (Üreticinin açıklaması)
- Protect AI, 51.700 modelde toplam 352.000 güvensiz veya şüpheli sorun tespit etti. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Tarama araçları gizli tehditleri ve karmaşık saldırı zincirlerini yakalamayı hedeflese de tüm risklerin tamamen ortadan kalktığı anlamına gelmez; eski sürümler ve güvensiz bağımlılıklar risk oluşturmaya devam etmektedir.