Yapay Zeka Politikalarında Felaket Odaklı Güvenlik Anlayışı Günlük Zararları ve Bilişsel Borcu Göz Ardı Ediyor
Kaynak: technologyreview.com ·
Teknoloji politikalarındaki başarı tanımları genellikle yapay zekanın intihara teşvik etmeme veya çocukların tehlikeli maddelere erişimini engelleme gibi en uç felaket senaryolarını önlemeye odaklanmaktadır. Ancak bu dar güvenlik standartları, gençlerin simüle edilmiş arkadaşlıklara bağımlı hale gelmesine veya dikkat çekme algoritmalarıyla kaydırmaya yönlendirilmesine yol açan günlük zararları gizlemektedir. Şirketler yasal sorumluluktan kaçınmak için bu dar düzenlemeleri desteklerken, yapay zekanın insan düşüncesini, öğrenmesini ve kişilerarası ilişkilerini zayıflatan sinsi etkileri göz ardı edilmektedir. MIT araştırmacıları, ChatGPT ile makale yazan gençlerin görev sırasında daha zayıf beyin bağlantısı gösterdiğini ve bilişsel borcun görev tamamlandıktan sonra bile devam ettiğini ortaya koymuştur.
Neden önemli?
Yalnızca felaketleri önlemeye odaklanan düzenlemeler teknoloji şirketleri için kârlı ve yasal baskıyı azaltan bir kalkan oluştururken, kullanıcıların düşünme alışkanlıklarını, akıl sağlığını ve sosyal ilişkilerini eritmeye devam etmektedir. Okullarda ve günlük yaşamda yapay zeka kullanımının artması, çocukların problem çözme yeteneklerini ve bağımsız karar verme becerilerini kalıcı olarak zedeleyebilecek uzun vadeli kültürel ve zihinsel riskler barındırmaktadır.
Bununla neler yapılabilir?
- Olası kullanım: Okul yönetimleri ve eğitimciler, yapay zekanın sınıf ortamında eleştirel düşünceyi gerçekten geliştirip geliştirmediğini bağımsız kanıtlarla sorgulayabilir.
- Olası kullanım: Yasa koyucular, yapay zekanın intihara teşvik veya zararlı içerik engellerinin ötesine geçerek kullanıcıların duygusal bağımlılık geliştirmesini önleyecek katı denetim yasaları tasarlayabilir.
Somut sonuçlar ve kanıtlar
- MIT researchers found that young people using ChatGPT to write essays showed weaker brain connectivity during the task, and their evidence indicated that “cognitive debt” persisted even after the task was complete. (Kaynak)
Sınırlar ve açık kalan sorular
Yapay zekanın uzun vadeli etkileri hakkında henüz bilinmeyen pek çok husus bulunmaktadır ve bu durum her yaş grubunda aynı sonucu doğurmayabilir. Metin, araştırma verilerinin tüm gençleri veya tüm görev türlerini kapsayıp kapsamadığı konusunda sınırlı genelleme sunmaktadır.