Hugging Face ve JFrog Ortaklığı Yapay Zeka Güvenliğini Artırıyor
Kaynak: huggingface.co ·
Hugging Face platformu, yapay zeka model güvenliğini artırmak amacıyla JFrog ile ortaklık kurarak tarayıcı sistemine JFrog tarayıcısını entegre etti. Bu entegrasyon sayesinde model ağırlıklarında bulunan ve seri hale getirme (deserialization) ile çıkarım aşamalarında çalıştırılabilen kodlar derinlemesine analiz edilecek. Mevcut picklescan aracı modül adlarında sadece kalıp eşleştirmesi yaparken, yeni eklenen sistem potansiyel kötü amaçlı kullanımları tespit etmek için kodu ayrıştırıp inceleyebiliyor. Tüm halka açık model depoları, dosyalar platforma yüklendiği anda otomatik olarak taranacak.
Neden önemli?
Model ağırlıklarının içerdiği kodlar ve seri hale getirme formatları (pickle gibi) daha önce güvenlik açıklarına yol açabiliyordu. Bu ortaklık, geliştiricilerin platformu daha güvenli kullanmasını sağlarken yanlış alarm oranlarını azaltmayı hedefliyor.
Bununla neler yapılabilir?
- Olası kullanım: Halka açık model depolarına yeni dosyalar yüklendiğinde JFrog tarayıcısı ile otomatik güvenlik taramasından geçirilmesi.
- Olası kullanım: Model ağırlıklarında yer alan kodların zararlı kullanım açısından ayrıştırılıp incelenmesi.
Somut sonuçlar ve kanıtlar
- JFrog tarayıcısının entegrasyonu ile model ağırlıklarında bulunan kodlar ayrıştırılıp olası zararlı kullanımlar kontrol edilecek. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Milyonlarca model deposu bulunması nedeniyle tarama işleminin tüm depolar için hemen görünmeyebileceği ve zaman alabileceği belirtilmiştir.