Hugging Face ve Protect AI İşbirliğiyle Model Güvenlik Taramaları Başlatıldı
Kaynak: huggingface.co ·
Hugging Face, makine öğrenmesi topluluğu için güvenli bir platform sunma taahhüdü kapsamında Protect AI ile ortaklık kurduğunu duyurdu. Bu işbirliği çerçevesinde Guardian aracı, Hugging Face tarayıcı paketine üçüncü taraf bir tarayıcı olarak entegre edildi. Yapılan entegrasyonla birlikte tüm açık model depolarına dosyalar yüklendiği anda otomatik tarama uygulanmaya başlandı. Ayrıca bu süreçte tarama sonuçlarını göstermek için arayüz de yenilendi.
Neden önemli?
Model paylaşımında kullanılan bazı serileştirme biçimleri ve Keras Lambda katmanları gibi formatlar zararlı kod çalıştırma gibi açıklara yol açabiliyor. Bu entegrasyon, platformu kullanan geliştiricilerin ve topluluk üyelerinin tehlikeli dosya formatlarından ve olası güvenlik açığı barındıran modellerden otomatik olarak korunmasını sağlıyor.
Bununla neler yapılabilir?
- Olası kullanım: Kullanıcılar, platforma yeni model dosyaları yükledikten hemen sonra otomatik olarak güvenlik taraması sonuçlarını arayüzde görüntüleyebilir.
Somut sonuçlar ve kanıtlar
- Üreticiye göre Guardian, pickle formatındaki açıkları ve Keras Lambda katmanlarındaki istismarları yakalayabilmektedir. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Platformda halihazırda 1 milyondan fazla model deposu bulunduğu için tarama sürecinin tamamlanması zaman alabilir ve her model için tarama sonucu hemen görünmeyebilir.