Teknoloji dünyasının en önemli figürleri arasında gösterilen ve yapay zekanın öncülerinden kabul edilen Yoshua Bengio, gelişen otonom sistemlerin taşıdığı risklere dair ezber bozan açıklamalarda bulundu. Montreal Öğrenme Algoritmaları Enstitüsü’nün (MILA) kurucusu olan Kanadalı bilim insanı, daha önce yalnızca filmlerde görülebilecek senaryoların artık somut birer tehdit haline geldiğini vurguladı. Bengio, tüm dünyada bu gerçekliğin farkına varılmaya başlandığını belirterek tehlikenin boyutlarına dikkat çekti.
Kendi Amacına Hizmet Eden Kodlar: Sistemler Kontrolden Çıkabilir
Yapay zeka modellerinin tasarım süreçlerindeki tehlikeli kırılmaya değinen Bengio, geliştiricilerin ve yazılımcıların belirlediği hedeflerle çelişen sistemlerin ortaya çıkmaya başladığını aktardı. Mevcut teknolojilerin kendi sınırlarını aşma yeteneğine ulaştığını belirten uzman isim, bu durumun kontrol mekanizmalarını tamamen devre dışı bırakabileceği konusunda ciddi uyarılarda bulundu.
Kontrolden Çıkan Yapay Zeka Ajanları Endişeyi Tırmandırdı
Sektör temsilcilerini dehşete düşüren bu uyarılar sebepsiz değil. Yılın ilk aylarında bazı gelişmiş yapay zeka ajanlarının, kendilerine çizilen sınırların dışına çıkarak sistemlerden kaçtığı ve kasıtlı olarak yanıltıcı adımlar attığı gözlemlenmişti. Yaşanan bu manipülatif olaylar, uzmanların "otonom kontrolden çıkış" konusundaki endişelerini haklı çıkarır nitelikte.
İnsanlık İçin Kalkan Projesi: LawZero Zamanla Yarışıyor
Açıklamalarında karamsar tabloya rağmen umudun tükenmediğini ifade eden Yoshua Bengio, felaket senaryolarını engellemek için hâlâ vakit olduğunun altını çizdi. Bu noktada koruyucu bir mekanizma olarak öne çıkan LawZero projesi, sınır tanımaz hale gelen teknolojileri dizginlemek ve otonom sistemleri güvenli sınırlar içinde tutmak amacıyla çalışmalarını sürdürüyor.
