Seçim Sürecinde Yapay Zeka Sohbet Botlarının Bilgi Yanılgıları ve Güvenilirlik Sınırları
Kaynak: wired.com ·
Pew Research verilerine göre ABD'deki yetişkinlerin yaklaşık yüzde 50'si bir yapay zeka sohbet botu kullanmış ve yüzde 8'i adaylar ile politikalar hakkında bilgi edinmek için bu araçlara başvurmuştur. Ancak Forum AI tarafından yapılan araştırmaya göre, ana akım sohbet botlarının seçim sorularına verdiği yanıtların neredeyse yüzde 40'ı en az bir olgusal hata içermektedir. Haber siteleri ve siyasi gruplarca finanse edilen güvenilmez web siteleri, botların bilgi kaynaklarının büyük bir kısmını oluşturmaktadır.
Neden önemli?
Seçmenlerin adaylar ve politikalar hakkında doğru bilgilere ulaşamaması, demokratik süreçleri ve kamuoyu kararlarını olumsuz etkileyebilir. Yapay zeka şirketlerinin aşırı vaatlerde bulunması ve botların yanıltıcı bilgileri gerçek gibi sunması kullanıcılar için ciddi riskler barındırmaktadır.
Bununla neler yapılabilir?
- Olası kullanım: Seçim adaylarının geçmişleri ve politikaları hakkında bilgi ararken yanıtların güvenilirliğini resmi kaynaklardan doğrulamak.
- Olası kullanım: Seçim takvimi ve oy verme tarihleri gibi kritik iddiaları ilgili devlet kurumlarının resmi web siteleri üzerinden teyit etmek.
Somut sonuçlar ve kanıtlar
- Forum AI araştırmasına göre ana akım sohbet botlarının seçim yanıtlarının neredeyse yüzde 40'ı en az bir olgusal hata içermektedir. (Kaynak)
- NewsGuard verilerine göre OpenAI'ın ChatGPT modeli, adaylar ve politikalarla ilgili sorularda partizan veya güvenilmez web sitelerine yüzde 70'ten fazla oranında atıfta bulunmuştur. (Kaynak)
Sınırlar ve açık kalan sorular
Araştırma sonuçları belirli bir dönemdeki seçim sorularını ve sınırlı sayıda sohbet botunu kapsamaktadır; tüm yapay zeka sistemlerinin genel performansını temsil etmeyebilir ve web kaynaklarının kalitesine göre değişiklik gösterebilir.