CloudOpsBench: Yapay Zeka Ajanlarının Bulut Operasyonlarındaki En Büyük Engeli Mantık Yürütme

Kaynak: the-decoder.com ·

CloudOpsBench: Yapay Zeka Ajanlarının Bulut Operasyonlarındaki En Büyük Engeli Mantık Yürütme

Bulut operasyonlarında yapay zeka ajanlarının performansını ölçmek için CloudOpsBench adında yeni bir açık kaynaklı karşılaştırma düzeyi geliştirildi. Michigan Üniversitesi'nden Ang Chen liderliğindeki ekibin araştırmasına göre, en iyi modeller dahi DevOps görevlerinin birçoğunda başarısız oluyor. Hataların yaklaşık yüzde 80'i bilgi eksikliğinden değil, ajanların görevin kapsamını yanlış değerlendirmesinden veya uygun servisleri kontrol etmemesinden kaynaklanıyor. Sürüm 1.0, AWS üzerinde 45 görev içerirken, projeye ait kodlar Apache 2.0 lisansıyla GitHub üzerinden erişime sunuldu.

Neden önemli?

Bu açık kaynaklı karşılaştırma düzeyi, yapay zeka ajanlarının bulut altyapısındaki gerçek dünya becerilerini ve mantık yürütme sınırlarını somut bir şekilde ortaya koyarak geliştiricilerin sistem güvenilirliğini artırmasına olanak tanır.

Bununla neler yapılabilir?

  • Olası kullanım: AWS üzerinde servis arızalarını giderme ve kaynakları kaldırma işlemlerini otomatikleştirmek.
  • Olası kullanım: Bulut altyapısında erişim haklarını kısıtlama ve güncellemeleri devreye alma süreçlerini test etmek.

Somut sonuçlar ve kanıtlar

  • Claude Fable 5.1 görevlerin yüzde 60'ını, GPT-6 Astra ise yüzde 53'ünü çözmeyi başardı. (Kaynak)
  • Hataların yaklaşık yüzde 80'i ajanların görev kapsamını yanlış değerlendirmesinden, ilgili servisleri kontrol etmemesinden veya erken durmasından kaynaklanıyor. (Kaynak)

Sınırlar ve açık kalan sorular

Sürüm 1.0 yalnızca AWS üzerindeki 45 görevi kapsamaktadır; GCP, Azure ve OCI için uzantılar ise planlan aşamasındadır.

İlgili haberler