Anthropic ve OpenAI Kaliforniya Yönetimine Tehlikeli Yapay Zeka Sistemlerini Durdurma Önerileri Sundu
Kaynak: shiftdelete.net ·
Anthropic ve OpenAI, Vali Gavin Newsom'un imzaladığı kararname doğrultusunda Kaliforniya yönetimine tehlikeli yapay zeka sistemlerini durdurmaya yönelik farklı yöntemler sundu. Anthropic, başsavcıya mahkeme yoluyla müdahale yetkisi ve otomatik sigorta anlamına gelen circuit breaker kavramını önerdi. OpenAI ise teknik incelemelerin uyum denetiminden ayrılmasını, acil kapatma mekanizmalarının kullanılmasını ve NIST ile ortak standartlar geliştirilmesini savundu. İki şirket de risk raporlamasının genişletilmesi konusunda ortak görüş paylaştı.
Neden önemli?
Bu öneriler, eyalet düzeyinde yapay zeka güvenliği düzenlemelerinin nasıl şekilleneceğini ve geliştiricilerin yasal yükümlülüklerini doğrudan etkiliyor. Etkilenen kişiler arasında yapay zeka geliştiricileri, bilişim hizmeti sağlayıcıları ve bu sistemleri kullanan şirketler yer alıyor.
Bununla neler yapılabilir?
- Olası kullanım: Geliştiriciler ve kurumlar, acil risk durumlarında model eğitimini durdurma veya ajanları izole etme gibi acil kapatma mekanizmalarını devreye sokabilir.
- Olası kullanım: Bağımsız denetçiler, en güçlü modellere ve iç bilgilere erişerek risk raporları hazırlayabilir.
Somut sonuçlar ve kanıtlar
- Anthropic, eyaletin başsavcısına mahkeme yoluyla müdahale yetkisi verilmesini ve sonuçların yayımlanmasını istedi. (Kaynak)
Sınırlar ve açık kalan sorular
Kararname şu an yeni bir zorunluluk getirmiyor ve öneriler için son tarih 16 Kasım olarak belirlenmiştir.