Yapay zeka teknolojilerindeki baş döndürücü hız, teknoloji dünyasının en üst kademelerinde varoluşsal kaygıları ve istifaları beraberinde getiriyor. Sektörün önde gelen güvenlik uzmanları, kontrol mekanizmaları oturtulmadan ilerleyen bu yarışın insanlık için geri dönülemez sonuçlar doğurabileceği konusunda uyarıyor.
Güvenlik Endişesi İstifa Getirdi: "Hayatlarımızla Kumar Oynanıyor"
Yapay zeka güvenlik alanının önemli isimlerinden Jacob Coxon, OpenAI’ın ardından geçtiğimiz dönemde katıldığı Anthropic firmasından da ayrıldığını duyurdu. Teknoloji devlerinin sorumlu bir tutum sergilemediğini öne süren Coxon, şirketlerin küresel rekabet hırsıyla kontrolsüz bir şekilde süper zekaya ulaşmaya çalıştıklarını belirtti.
Geliştirme süreçlerinin "oyun sonu" evresine yaklaştığını ifade eden araştırmacı, resmi müdahaleler veya sektör genelinde alınacak ortak kararlar olmadıkça geleceğin büyük risk altında olduğuna dikkat çekti.
"Süper Zekayı Kontrol Edecek Bir Planımız Yok"
Tartışmayı derinleştiren hamle ise Anthropic araştırmacısı Evan Hubinger’dan geldi. Meslektaşının endişelerine katıldığını belirten Hubinger, yapay zekanın önümüzdeki 10 yıllık periyotta insanlığın sonunu getirme ihtimalini yüzde 10’un üzerinde gördüğünü açıkça ifade etti.
Hubinger, şirketlerin iyi niyetli çabalarına rağmen henüz süper zeka sistemlerini insan değerleriyle tam uyumlu hale getirecek kesin bir çözüme ulaşılamadığını itiraf etti.
Özyinelemeli Gelişim ve "Kendi Kendini Yöneten" Sistem Tehlikesi
Kaygıların odak noktasında, yapay zekanın insan müdahalesine ihtiyaç duymadan kendi kodlarını ve yeteneklerini yenileyebildiği "özyinelemeli kendini geliştirme" süreçleri yer alıyor. Araştırmacılar, bu seviyeye ulaşan sistemlerin zamanla insan direktiflerini reddedebileceğini ve kendi ajandalarını yürütebileceğini savunuyor.
Son dönemde yaşanan bazı güvenlik ihlalleri ve modellerin gerçekleştirdiği nitelikli siber eylemler, bu sistemlerin kötü niyetli amaçlar edinip bunları geliştiricilerden gizleme potansiyelini gözler önüne seriyor.
Uzmanlardan Küresel Çağrı: "Fren Bastırmalıyız"
Aralarında OpenAI CEO’su Sam Altman, Baş Bilim İnsanı Jakub Pachocki ve Anthropic CEO’su Dario Amodei’nin de bulunduğu 1.000’den fazla yapay zeka lideri ve bilim insanı, hükümetlerin acilen devreye girmesi gerektiğine dikkat çekiyor. Ortak kanaat; uluslararası denetim mekanizmaları kurulmadan ve denetimsiz özyinelemeli gelişim sınırlandırılmadan atılacak adımların telafisi imkansız krizlere yol açabileceği yönünde.
