Hızla gelişen yapay zeka teknolojilerinin getirdiği güvenlik kaygıları, sektörün öncü isimlerini yeni önlemler almaya zorluyor. Dünyanın önde gelen yapay zeka şirketlerinden Anthropic’in kurucu ortaklarından Jack Clark, gelecekte kontrolden çıkma potansiyeli taşıyan sistemleri durdurmak adına bağımsız bir "acil kapatma düğmesinin" yasal zorunluluk haline gelebileceğini işaret etti.
İngiliz yayın kurumu BBC'ye konuşan Clark, yapay zeka yazılımlarının insanlık için bir tehdit oluşturması durumunda bu sistemlerin tamamen fişinin çekilmesini sağlayacak mekanizmaların şart olduğunu vurguladı. Bu tür güvenlik önlemlerinin kontrolünün sadece geliştiren şirketlere bırakılmaması gerektiğini belirten Clark, denetimin bağımsız üçüncü taraflara devredilmesinin küresel politika tartışmalarının odağında yer alması gerektiğine dikkat çekti.
"Büyük Risklerle Kumar Oynuyoruz"
Sektörün mevcut durumunu değerlendiren Clark, yapay zekanın tamamen denetimsiz bir biçimde ilerlemesinin felaketle sonuçlanabileceğini ifade etti. İnsanlığın yok olma ihtimaline dair kesin yüzdeler vermekten kaçınan ünlü girişimci, mevcut tablonun büyük bir kumar olduğunu belirterek şu ifadeleri kullandı:
"Muazzam riskler alarak kumar oynuyoruz. Asıl odaklanmamız gereken nokta, bu sektörün mevcut gidişatını ve yönünü kökten değiştirmektir."
Şirket İçi İstifa ve Tehlike Çanları
Yapay zeka güvenliğine dair endişeler sadece yönetici düzeyinde kalmıyor. Kısa süre önce hem OpenAI hem de Anthropic bünyesinde araştırmacı olarak görev yapan Jacob Coxon, şirketlerin yeterince sorumlu davranmadığı gerekçesiyle görevinden istifa etmişti.
Geliştiricilerin kendi kendini eğitebilen sistemler üzerinde kontrolsüz bir yarışa girdiğini savunan Coxon, bu durumun yakın gelecekte her türlü dijital altyapıyı hackleyebilecek insanüstü yazılımlar üretebileceği uyarısında bulundu. Sektördeki bazı çalışanların, bu kontrolsüz gücün 10 yıl içinde insanlığın sonunu getirebileceğine ciddi şekilde inandığı belirtiliyor.
