ABD'nin Florida eyaletinde görev yapan rahip Scott Winters, OpenAI tarafından geliştirilen sohbet robotu ChatGPT’nin kendisini yanlış yönlendirdiği ve hayati tehlike atlatan bir sağlık krizine zemin hazırladığı iddiasıyla hukuki süreç başlattı. California eyalet mahkemesine sunulan dava dilekçesinde, yapay zeka devinin yöneticisi Sam Altman ve OpenAI şirketi doğrudan hedef alındı.
Dava dosyasına yansıyan detaylara göre, Scott Winters 2024 yılında yaşadığı fiziksel rahatsızlıkları analiz etmesi için ChatGPT’ye başvurdu. İlk görüşmelerde sistem, kullanıcıya bir sağlık uzmanına başvurması yönünde standart güvenlik uyarıları sundu. Ancak iddianameye göre sohbet ilerledikçe ve zaman geçtikçe, yapay zeka bu temkinli yaklaşımı bir kenara bıraktı. Tıbbi yönlendirmeleri doğrudan kendi yapmaya başlayan sistem, Winters’ın giderek şiddetlenen ağrılarını hafife alan ve ciddi bir soruna işaret etmediğini belirten telkinlerde bulundu.
Hafife Alınan Ağrı Yoğun Bakımda Bitti
Yapay zekanın "endişelenecek bir durum yok" yönündeki telkinlerine güvenerek hastaneye gitmeyi erteleyen Winters, kısa süre sonra akciğer embolisi teşhisiyle acil olarak yoğun bakıma kaldırıldı. Ölümün eşiğinden dönen din adamı, ChatGPT’nin güvenlik filtrelerinin yetersiz kaldığını ve sistemin kendisini adeta tedavi almaktan caydırdığını savundu. Mahkemeye sunulan dilekçede OpenAI ve Sam Altman; yetkisiz hekimlik yapmak, ihmalkarlık göstermek ve kullanıcı güvenliğini sağlamamakla suçlandı.
OpenAI Savunması: "Kullanım Sözleşmesi Açık"
Gelişmelerin ardından açıklama yapan bir OpenAI sözcüsü, sohbet robotunun kullanım politikalarına dikkat çekti. Şirket yetkilisi, ChatGPT’nin hiçbir şekilde hastalık teşhisi koyma veya tedavi yöntemi sunma amacıyla tasarlanmadığını ve kullanıcı sözleşmesinde bu durumun açıkça belirtildiğini vurguladı.
