Teknolojinin hayatımızın her alanına hızla entegre olması, hayatı kolaylaştırırken beraberinde yeni ve beklenmedik riskleri de getiriyor. Çin'in Anhui eyaletinde yaşanan son örnek, yapay zeka destekli karar mekanizmalarının doğrulanmadan kullanılmasının açabileceği büyük maddi ve manevi zararları gözler önüne serdi.
Teknolojik Asistana Duyulan Güven Felaketle Bitti
Chuzhou şehrinde yaşayan 67 yaşındaki deneyimli bir çiftçi, bir yılı aşkın süredir tarlasındaki gübreleme ve tarımsal takvim planlaması gibi kritik süreçlerde bir yapay zeka yazılımından destek alıyordu. Tarım süreçlerini modernize etmek amacıyla başvurduğu bu yöntem, son aşamada büyük bir felakete dönüştü.
Susam tarlasındaki yabani otlar ve zararlılarla mücadele etmek için en etkili yöntemi öğrenmek isteyen çiftçi, yapay zekaya danıştı. Sistem tarafından sunulan reçeteyi hiçbir uzman kaynağa veya ziraat mühendisine doğrulatmadan doğrudan tarlaya uygulayan yaşlı çiftçi, kısa süre içinde tarladaki tüm filizlerin sararıp kuruduğunu fark etti.
Ziraat Uzmanlarından "Yanlış Etken Madde" Uyarısı
Yaşanan olay sonrası inceleme başlatan ziraat uzmanları, felaketin temel sebebinin "flufenaset" adlı kimyasal ot ilacı olduğunu belirtti. Uzmanlar, söz konusu etken maddenin oldukça güçlü olduğuna ve doğru ürün ile hedef kitleye göre hassas bir şekilde kullanılmaması durumunda susam gibi hassas bitkilere doğrudan zarar vererek tamamen kurutabileceğine dikkat çekti.
Öte yandan, yapay zeka uygulamasının arayüzünde "Yapay zeka içeriği hatalı olabilir, lütfen doğrulayın" şeklinde bir uyarı ibaresinin yer aldığı, ancak kullanıcının bu uyarıyı göz ardı ettiği öğrenildi.
Tehlike Sadece Tarımda Değil: Sağlık Alanında da Risk Büyük
Yapay zeka sistemlerinin sunduğu bilgilerin körü körüne uygulanmasının yarattığı tehlikeler yalnızca tarımla sınırlı kalmıyor. Geçtiğimiz dönemde sağlık alanında yaşanan benzer bir olay, teknolojinin yanlış ellerde ne kadar ölümcül olabileceğini kanıtladı.
Sofra tuzunu tamamen kesmesi yönünde yapay zekadan tavsiye alan bir kullanıcı, sistemin yönlendirmesiyle gıdalarına alternatif olarak sodyum bromür eklemeye başladı. Üç ay boyunca bu tehlikeli kimyasalı tüketen talihsiz kişi, şiddetli brom zehirlenmesi teşhisiyle hastaneye kaldırıldı ve uzun süre psikoz tedavisi gördü.
Annals of Internal Medicine dergisinde yayımlanan kapsamlı bir incelemede de bu duruma dikkat çekilerek, yapay zeka uygulamalarının bilimsel açıdan hatalı ve yanıltıcı bilgiler üretebileceği, bunun da dijital dünyada ciddi bir bilgi kirliliği yaratarak insan hayatını tehdit ettiği vurgulandı.
