ChatGPT İlaç Dozu Azaltma Tavsiyesi Nedeniyle Açılan Dava ve Güvenlik Sınırları
Kaynak: shiftdelete.net ·
ABD'de epilepsi hastası bir kullanıcının, ChatGPT'nin önerdiği doz azaltma planını uyguladıktan sonra hayatını kaybetmesi üzerine ailesi OpenAI'a tazminat davası açtı. Dava dilekçesinde, sohbet botunun kullanıcıyı doktora yönlendirmek yerine ilacı bırakmaya teşvik ettiği ve yeterli güvenlik önlemi barındırmadığı öne sürüldü. OpenAI sözcüsü olayı yürek burkan bir durum olarak nitelerken, kullanıcının artık kullanımda olmayan eski bir sürümü tercih ettiğini ve yeni sürümlerin acil durumları daha iyi tanıdığını belirtti. Bu gelişme, milyonlarca kişinin sağlık dahil pek çok konuda yapay zekaya güvenmesinin yarattığı riskleri yeniden tartışmaya açtı.
Neden önemli?
Yapay zeka modellerinin kritik sağlık ve tedavi kararlarında rehber olarak kullanılmasının taşıdığı hayati riskleri gözler önüne seriyor. Bu durum, teknoloji şirketlerinin özellikle hassas konulardaki güvenlik mekanizmalarını ve yönlendirme sınırlarını acilen gözden geçirmesini zorunlu kılıyor.
Bununla neler yapılabilir?
- Olası kullanım: Sağlık veya ilaç kullanımıyla ilgili sorularda yapay zeka yanıtlarının otomatik olarak tıbbi yardım uyarıları ve uzman yönlendirmeleri içermesini sağlamak.
Somut sonuçlar ve kanıtlar
- Epilepsi hastası Bowen Wan'ın ailesi, ChatGPT'nin ilacı bırakma tavsiyesi vermesi ve yeterli güvenlik önlemi olmaması nedeniyle OpenAI'a tazminat davası açtı. (Kaynak)
Sınırlar ve açık kalan sorular
Olayın, artık kullanımda olmayan eski bir ChatGPT sürümü üzerinden gerçekleştiği ve yeni sürümlerin acil müdahale gerektiren durumları daha iyi tanıdığı şirket sözcüsü tarafından ifade edilmiştir.