Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zekâ sistemlerinde yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğini belirtti. Baydar, yapay zekânın kararlarını klinik olarak anlamlı olmayan özelliklere dayandırmasının farklı hasta gruplarında güvenilirliği zedeleyebileceğini ifade ederek, modellerin karar mekanizmalarının açıklanabilir olmasının şart olduğunu kaydetti.
Yapay zekânın sağlık alanındaki kullanımının giderek yaygınlaştığını aktaran Dr. Öğr. Üyesi Damla Övek Baydar; tıbbi görüntülerin değerlendirilmesinden hastalık risklerinin tahminine, genomik verilerin analizinden klinik karar destek sistemlerine kadar birçok sahada yapay zekâ modellerinin hekimlere ve sağlık personeline yardımcı sonuçlar sunduğunu söyledi.
Yapay zekâ sistemlerinin başarısının çoğunlukla tahmin doğruluğuyla ölçüldüğünü dile getiren Baydar, "Bu gelişmeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir" dedi.
"Modelin kararı nasıl verdiği önemli"
Derin öğrenme modellerinin karar süreçlerinin şeffaf olması gerektiğini vurgulayan Baydar, şu ifadeleri kullandı:
"Genetik, ilaç keşfi ve hastalık araştırmalarında giderek daha fazla kullanılan derin öğrenme modelleri çoğu zaman ‘kara kutu’ olarak tanımlanır. Bu modeller çok miktarda veriden karmaşık örüntüler öğrenebilir, ancak hangi bilgilere dayanarak sonuca vardıkları her zaman kolayca görülemez. Bu nedenle derin öğrenme modellerinin yalnızca başarılı olması değil, karar süreçlerinin de mümkün olduğunca anlaşılabilir olması önem taşır. Bir model yüksek doğrulukla tahmin yapabilir. Ancak bu tahmini biyolojik ya da klinik olarak anlamlı bir işarete mi, yoksa verideki tesadüfi veya yanıltıcı bir örüntüye mi dayandırdığını bilmiyorsak sonuca güvenmek zorlaşır."
Yapay zekânın sağlık alanındaki kararlarının sadece netice üzerinden ele alınmaması gerektiğini belirten Baydar, "Örneğin bir derin öğrenme modeli bir tıbbi görüntüyü ‘yüksek riskli’ olarak sınıflandırabilir ya da belirli bir genetik varyantın biyolojik açıdan önemli olabileceğini öngörebilir. Fakat sağlık profesyoneli açısından yalnızca sonucun kendisi değil, bu sonucu destekleyen bilgiler de önemlidir. Model görüntünün hangi bölgesine odaklanmıştır? Hastaya ait hangi değişkenleri daha önemli kabul etmiştir? Genomik bir analizde DNA dizisinin hangi bölümleri tahmini etkilemiştir? Bu sorular açıklanabilir yapay zekâ olarak adlandırılan yaklaşımın temelini oluşturur" diye konuştu.
"Doğru cevap ile doğru nedene dayanan cevap aynı şey değildir"
Yapay zekâ modellerinde açıklanabilirliğin hasta sağlığı açısından taşıdığı öneme değinen Baydar, şunları kaydetti:
"Açıklanabilirlik, yapay zekâ sistemlerinin karar süreçlerini insanlar için daha anlaşılır hâle getirmeyi amaçlar. Bunun sağlık alanında özellikle önemli olmasının nedenlerinden biri, modelin doğru sonuca doğru gerekçelerle ulaşıp ulaşmadığını değerlendirmeye yardımcı olabilmesidir. Bir yapay zekâ modeli testlerde yüksek doğruluk gösterebilir; ancak kararını klinik olarak anlamlı olmayan özelliklere dayandırıyorsa, farklı hasta gruplarında veya farklı koşullarda güvenilir sonuçlar vermeyebilir. Sağlık alanında bu nedenle yalnızca tahminin doğru olması değil, modelin bu tahmine hangi bilgilere dayanarak ulaştığının anlaşılması da önemlidir. Bir model yüksek doğruluk oranına sahip olsa bile, karar verirken klinik olarak anlamlı olmayan bir örüntüden yararlanıyor olabilir. Eğitim verisindeki beklenmedik bir özellik, kullanılan cihazlar arasındaki farklılıklar ya da belirli bir hasta grubuna özgü yanlılıklar modelin tahminlerini etkileyebilir."
"Yapay zekânın sunduğu her açıklama gerçek mekanizmayı göstermez"
Açıklanabilirliğin hekimlerin karar alma süreçlerini destekleyebileceğini ancak bu açıklamaların da bilimsel süzgeçten geçirilmesi gerektiğini vurgulayan Baydar, şu değerlendirmelerde bulundu:
"Açıklanabilirlik aynı zamanda güven açısından da önemlidir. Bir hekimin karar destek sisteminin önerisini değerlendirebilmesi için yalnızca bir risk puanı görmesi çoğu zaman yeterli değildir. Sistemin hangi bulguların tahmini desteklediğine ilişkin anlamlı bilgiler sunması, yapay zekânın klinik karar sürecine daha kontrollü biçimde dahil edilmesine yardımcı olabilir. Bir modelin hangi verilerden etkilendiğini görselleştirmek, hastalığın nedenini ortaya çıkardığı anlamına gelmez. Bu nedenle açıklanabilirlik yöntemlerinin sonuçları da eleştirel biçimde değerlendirilmeli ve mümkün olduğunda klinik bilgi, biyolojik kanıt ve bağımsız doğrulamalarla desteklenmelidir."
"Yapay zekâ, uzmanla birlikte kullanılmalı"
Açıklanabilir yapay zekâ yöntemlerinin bilimsel araştırmalar için yeni kapılar aralayabileceğini söyleyen Baydar, "Açıklanabilir yapay zekâ yaklaşımları yalnızca güven oluşturmakla kalmaz, yapay zekânın yeni biyolojik soruların ortaya çıkmasına katkı sağlamasına da imkân tanır. Modelin öğrendiği örüntülerin incelenmesi, daha önce fark edilmemiş biyolojik ilişkilere işaret edebilir ve araştırmacılara yeni hipotezler geliştirme fırsatı sunabilir. Modeli yalnızca bir tahmin makinesi olarak görmek yerine, hangi örüntüleri öğrendiğini anlamaya çalıştığımızda hem modeli geliştirebilir hem de biyoloji hakkında yeni sorular sorabiliriz" dedi.
Yapay zekânın hekimlerin yerine geçecek bir sistem olmadığını belirten Dr. Öğr. Üyesi Damla Övek Baydar, sözlerini şöyle tamamladı:
"Sağlık alanında yapay zekâyı, uzmanın yerini alan bağımsız bir karar mekanizmasından ziyade, karar süreçlerini destekleyen güçlü bir araç olarak değerlendirmek daha doğru olacaktır. Bu açıdan bakıldığında, açıklanabilirlik daha da önemli hâle gelir. Amaç yalnızca yüksek performanslı modeller geliştirmek değil; güvenilir, denetlenebilir ve insan uzmanlığıyla birlikte kullanılabilecek sistemler oluşturmaktır. Sağlıkta yapay zekânın başarısını gelecekte yalnızca ulaştığı doğruluk oranı değil, verdiği kararları ne ölçüde açıklayabildiğimiz de belirleyecektir. Bu nedenle ‘Model ne kadar doğru?’ sorusunu sormak tek başına yeterli değildir. ‘Hangi verilerden öğrendi?’, ‘Hangi hasta gruplarında başarısız olabilir?’, ‘Kararını hangi özelliklere dayanarak verdi?’ ve ‘Bu açıklama klinik veya biyolojik olarak anlamlı mı?’ gibi sorular da doğruluk kadar önemlidir. Sağlıkta yapay zekânın güvenilir olması, yalnızca doğru tahmin yapan değil, sınırları bilinen ve kararları eleştirel biçimde değerlendirilebilen sistemlerin geliştirilmesine bağlıdır."
