OpenAI’ın sağlık ve fitness verileriyle daha güvenli analizler sunma iddiasıyla tanıttığı ChatGPT Health, ilk ciddi testlerde beklentileri karşılayamadı. Apple Health gibi platformlardan alınan uzun vadeli verilerle kişiselleştirilmiş sonuçlar üretmesi beklenen sistem, bazı durumlarda sağlıklı bireyleri yüksek risk grubunda gösterdi. Bu tablo, yapay zekanın sağlık alanındaki sınırlarını yeniden gündeme taşıdı.
on yıllık veri, tek bir sonuç yok
Washington Post yazarı Geoffrey A. Fowler, ChatGPT Health’i sınamak için sisteme 10 yıllık Apple Health verisini yükledi. Ortaya çıkan değerlendirme oldukça sertti - kalp sağlığı için “F” notu. Ancak bir kardiyolog bu sonucu incelediğinde, verilerin gerçek bir kalp hastalığı riskine işaret etmediğini ve değerlendirmenin temelsiz olduğunu ifade etti. Aynı verilerin farklı sohbetlerde bambaşka notlarla sonuçlanması da dikkat çekti.
giyilebilir teknolojiye fazla güven
Scripps Araştırma Enstitüsü’nden Dr. Eric Topol’a göre sorun, ChatGPT Health’in henüz tıbbi değerlendirme yapabilecek olgunlukta olmaması. Özellikle Apple Watch gibi cihazlardan gelen VO2 max ve kalp atım değişkenliği ölçümlerinin cihazdan cihaza değişebildiği bilinirken, sistem bu verileri kesin göstergeler gibi ele alıyor. Bu yaklaşım, sağlıklı bireyleri gereksiz bir risk algısına sürükleyebiliyor. Uzmanlara göre bu tür ölçümler tek başına klinik karar için yeterli kabul edilmiyor.
tutarsızlıklar ve unutulan veriler
Testlerde ortaya çıkan bir diğer sorun ise tutarlılık oldu. Aynı sağlık verileriyle yapılan tekrar değerlendirmelerde ChatGPT Health’in verdiği notlar F ile B arasında değişti. Bazı analizlerde güncel kan tahlilleri dikkate alınmazken, bazı görüşmelerde yaş ve cinsiyet gibi temel bilgiler bile hesaba katılmadı. Bu durum, sistemin bağlamı korumakta zorlandığını gösterdi.
OpenAI, ChatGPT Health’in bir doktorun yerini tutmadığını özellikle vurguluyor. Ancak yapay zekanın kendinden emin bir dille kişisel yorumlar yapması, uzmanlara göre iki yönlü risk barındırıyor - sağlıklı kişileri gereksiz yere endişelendirmek ve gerçekten risk altında olanlara yanlış bir güven duygusu vermek. Şu aşamada ChatGPT Health, vaat ettiği güvenli rehberlikten çok, sağlık teknolojilerinde dikkatli olunması gerektiğini hatırlatan bir örnek olarak öne çıkıyor.
