METR Denetimi, Anthropic'in Yapay Zeka Geliştirme Hızlandırma Eşiğini Geçtiğini Gösterdi
Kaynak: the-decoder.com ·
Kar amacı gütmeyen METR kuruluşu, Anthropic şirketinin iç araştırma verilerine on bir hafta boyunca erişerek modellerin gelişim hızının yaklaşık iki katına çıktığını tespit etti. Yapılan analizler, bu hızlanmanın yaklaşık yüzde 80'inin yapay zekanın şirketin kendi araştırmalarında kullanılmasından kaynaklandığını ortaya koydu. Anthropic'in Sorumlu Ölçeklendirme Politikası'na göre bu durum, model gelişim hızının iki katına çıkması halinde tetiklenmesi gereken bir uyarı seviyesi olarak değerlendiriliyor. Bununla birlikte, Anthropic raporun en önemli kanıtlarını ve gelecekteki modellere ilişkin tahminleri gizlerken, METR gerçek hızlanma faktörünün 1.3 ile 3 arasında değişebileceğini vurguluyor.
Neden önemli?
Yapay zekanın daha iyi yapay zeka sistemleri geliştirmeyi hızlandırması, güvenlik tartışmalarında kritik bir erken uyarı sinyali olarak kabul ediliyor. Bu durum, modellerin haleflerini giderek daha hızlı geliştirdiği bir geri besleme döngüsünün aşırı ve riskli yeteneklerin ani ortaya çıkmasına yol açabileceği endişesini doğuruyor.
Bununla neler yapılabilir?
- Olası kullanım: Araştırma ekipleri, yapay zeka destekli sistemleri kendi geliştirme döngülerine entegre ederek kodlama süreçlerindeki darboğazları azaltabilir.
- Olası kullanım: Güvenlik denetçileri ve kar amacı gütmeyen kuruluşlar, model geliştiricilerin dahili risk raporlarını ve hızlanma eşiklerini bağımsız olarak doğrulayabilir.
Somut sonuçlar ve kanıtlar
- Anthropic'in model test puanları, Ekim 2025'ten bu yana önceki döneme kıyasla yaklaşık 1.9 kat daha hızlı tırmanıyor ve bir yılda iki yıllık ilerleme kaydedildi. (Kaynak)
Sınırlar ve açık kalan sorular
Anthropic, gizli bilgilerin diğer yapay zekâ geliştiricilerini hızlandırmasını önlemek amacıyla gelecekteki modellere yönelik tahminler, eğitim adımları dökümleri ve darboğaz analizi gibi en bilgilendirici kanıtların çoğunu sansürlemiştir. METR, gerçek hızlanma faktörünün 1.3 ile 3 arasında değişebileceğini belirterek sonuçların belirsizliğine dikkat çekmektedir.