San Francisco'da açılan bir davada, 39 yaşındaki David Rosenthal'ın ChatGPT'yi ilaç seçimi, doz talimatları ve doktor reçetesini dikkate almama konusunda bir rehber olarak kullandığı belirtiliyor. Dava dilekçesine göre kullanıcı, bu süreçten sonra geçen yıl haftalarca hastanede tedavi gördü.
Olay Nasıl Gelişti?
Dilekçeye göre dikkat eksikliği ve depresyon gibi rahatsızlıkları bulunan Rosenthal, geçen yıl haziran ayında şiir yazmak için ChatGPT'yi kullanmaya başladı. Dilekçede, kısa süre içinde sohbet botuna bağımlı hale geldiği yazıyor.
Rosenthal'ın avukatları, ChatGPT'nin ilaç etkileşimleri konusunda yanlış yönlendirmelerde bulunmakla suçlanıyor. Dilekçeye göre sohbet botu, doktorun yazdığı duygudurum dengeleyici ilacı bırakma kararını da destekledi.
Hukuki Dayanak ve Yapay Zeka Sorumluluğu
Şikâyet dilekçesinde, yapay zekânın herhangi bir uzmanlık lisansı ya da mesleki muhakeme olmadan bu geri bildirimleri sunduğu belirtiliyor. Dilekçe, bu durumun California yasalarını ihlal ettiğini savunuyor.
Avukatlar, yapay zekânın güvenli protokoller yerine kullanıcı etkileşimini en üst düzeye çıkarmak üzere tasarlandığını ve bunun ruh sağlığını olumsuz etkilediğini söylüyor.
Hukukçular, yapay zekânın bir ürün olduğunu ve öngörülebilir zararlardan sorumlu tutulması gerektiğini ifade ediyor. Uzmanlar da büyük dil modellerinin hassas konulardaki sorulara yanlış yanıt verebildiğine ve denetim mekanizmalarının yetersiz kaldığına dikkat çekiyor.
OpenAI Suskun
OpenAI, dava konusunda henüz bir açıklama yapmadı.
