Sağlık Sistemlerindeki Kriz, İnsanları Yapay Zekâya Yönlendiriyor
Uzayan randevu süreleri ve artan sağlık harcamaları nedeniyle, birçok kişi sağlıkla ilgili sorularına yanıt bulmak için ChatGPT gibi yapay zekâ destekli sohbet botlarına yöneliyor. Yapılan bir ankete göre, Amerikalı yetişkinlerin yaklaşık altıda biri her ay düzenli olarak bu tür botları sağlık tavsiyesi için kullanıyor.
Oxford Üniversitesi’nden Uyarı: Sohbet Botlarına Körü Körüne Güvenmeyin
Ancak Oxford Üniversitesi liderliğinde yapılan yeni bir araştırma, bu güvenin riskli olabileceğine işaret ediyor. Özellikle de kullanıcılar, chatbot’lardan en iyi yanıtları alabilmek için ne tür bilgiler vermeleri gerektiğini bilmediklerinde.
Oxford İnternet Enstitüsü'nden araştırmanın yazarlarından Adam Mahdi, TechCrunch’a verdiği demeçte, “Araştırma, çift yönlü bir iletişim kopukluğunu ortaya koydu. Chatbot kullanan katılımcılar, kendi yöntemlerini kullananlara göre daha doğru kararlar veremedi,” dedi.
1.300 Kişilik Deney: Yapay Zekâ Yanıltıcı Olabiliyor
Araştırma kapsamında, Birleşik Krallık’tan yaklaşık 1.300 katılımcıya doktorlar tarafından oluşturulmuş çeşitli sağlık senaryoları sunuldu. Katılımcılardan, bu senaryolarda yer alan sağlık sorunlarını belirlemeleri ve olası adımları — örneğin doktora gitmek ya da hastaneye başvurmak — değerlendirmeleri istendi. Bunun için hem sohbet botlarını hem de kendi kişisel yöntemlerini kullanmaları sağlandı.
Kullanılan sohbet botları arasında ChatGPT’yi çalıştıran GPT-4o, Cohere’in Command R+ modeli ve bir dönem Meta AI’a güç veren Llama 3 yer aldı. Sonuçlara göre, bu modeller katılımcıların doğru tanı koyma ihtimalini düşürmekle kalmadı, aynı zamanda tanısı yapılan durumların ciddiyetini de olduğundan hafif değerlendirmelerine yol açtı.
Eksik Bilgi ve Belirsiz Yanıtlar: İki Taraflı Sorun
Mahdi, kullanıcıların botlara genellikle eksik bilgi verdiğini ve botlardan gelen yanıtların yorumlanmasının zor olduğunu belirtti. Ayrıca birçok yanıtta doğru ve yanlış tavsiyelerin bir arada bulunduğuna dikkat çekti.
“Mevcut değerlendirme yöntemleri, insanların sohbet botlarıyla olan karmaşık etkileşimlerini yansıtmıyor,” dedi Mahdi. “Bu sistemler, tıpkı yeni ilaçların klinik denemeleri gibi, gerçek dünyada test edilmeden kullanılmamalı.”
Teknoloji Devleri Sağlıkta AI Yatırımlarını Artırıyor
Yapay zekânın sağlık alanındaki kullanımı teknoloji devlerinin ilgisini çekmiş durumda. Apple, egzersiz, beslenme ve uyku tavsiyesi verebilecek bir AI aracı geliştiriyor. Amazon, sosyal etkenleri analiz edebilen bir sağlık yapay zekâsı üzerinde çalışıyor. Microsoft ise, hasta mesajlarını sağlık profesyonellerine yönlendiren bir yapay zekâ sistemine katkı sağlıyor.
Uzmanlar Uyarıyor: Chatbot’lar Klinik Kararlar İçin Uygun Değil
İlk kez yapılan bu kapsamlı değerlendirme, hem sağlık profesyonellerinin hem de hastaların AI konusunda kararsız olduğunu gösteriyor. Amerikan Tabipler Birliği, doktorlara ChatGPT gibi sohbet botlarının klinik kararlar için kullanılmamasını öneriyor. Aynı zamanda, OpenAI gibi büyük şirketler de bu tür araçların teşhis amacıyla kullanılmaması gerektiği konusunda kullanıcıları uyarıyor.
Mahdi ise şu tavsiyede bulunuyor: “Sağlıkla ilgili kararlar için güvenilir bilgi kaynaklarına başvurmanızı öneriyoruz. Mevcut test sistemleri, AI ile insan etkileşiminin karmaşıklığını yansıtmıyor. Bu teknolojiler gerçek hayatta denenmeden geniş çapta kullanılmamalı.”
