Anthropic, Yapay Zeka Çıktılarının Kimliğini Kriptografik Olarak Doğrulayan FlashProve Sistemini Geliştiriyor
Kaynak: techcrunch.com ·
Anthropic, bir yapay zeka modelinin belirli bir çıktıyı ürettiğini matematiksel olarak kanıtlamayı amaçlayan FlashProve adlı açık kaynaklı bir sistem geliştiriyor. Yapay zeka laboratuvarlarının modelleri için genel bir "parmak izi" yayımlamasını gerektiren bu sistem, çıktıların doğrulanmasını sağlıyor ve gizli model ağırlıklarını açığa çıkarmıyor. Böylece şirketlerin daha ucuz veya daha pahalı modelleri gizlice ikame etmesinin önüne geçilmesi hedefleniyor. Araştırmacılar detaylı teknik şartname ve çalışma kodunu GitHub üzerinde paylaştı ancak şu an için herhangi bir laboratuvarda canlıya alma planı bulunmuyor.
Neden önemli?
Bu sistem, yapay zeka sağlayıcılarının model performansını şişirmesini veya maliyet düşürmek için gizli model değiştirmesini engellemesi açısından önem taşır. Geliştiriciler ve son kullanıcılar, aldıkları yanıtların iddia edilen gelişmiş model tarafından üretilip üretilmediğini güvenle teyit edebilir.
Bununla neler yapılabilir?
- Olası kullanım: Bir geliştiricinin yazılım kütüphanesinin gerçekten gelişmiş bir siber güvenlik modeli tarafından taranıp taranmadığının doğrulanması.
- Olası kullanım: Şirketlerin iş planı onay süreçlerinde kullanılan yapay zeka modelinin kimliğinin kriptografik olarak kanıtlanması.
Somut sonuçlar ve kanıtlar
- FlashProve, bir modelin belirli bir çıktıyı ürettiğini kanıtlayan kriptografik bir matematiksel garanti sağlar. (Kaynak)
Sınırlar ve açık kalan sorular
Sistem henüz ara aşamada bir araştırma projesidir; Anthropic veya başka bir laboratuvarda kullanıma alma planı yoktur.