Birleşmiş Milletler (BM), teknoloji dünyasının en hızlı ve kontrolsüz büyüyen gücü yapay zekayı dizginlemek için tarihi bir adım attı. İsviçre'nin Cenevre kentinde, BM Genel Kurulu'nun girişimiyle hayata geçirilen "Yapay Zeka Yönetişimi Üzerine İlk Küresel Diyalog" toplantısı başladı. Tüm dünya ülkelerini eşit söz hakkıyla aynı masada buluşturan zirvenin açılışında konuşan BM Genel Sekreteri Antonio Guterres, insanlığın karşı karşıya olduğu dijital risklere karşı çok sert uyarılarda bulundu.
Yapay zekanın sınır tanımayan bir hızla ekonomileri, iş dünyasını, seçimleri ve küresel güvenlik dengelerini dönüştürdüğünü vurgulayan Guterres, bu sürecin toplumlar üzerinde plansız ve rızasız yürütülen küresel bir deneye dönüştüğünü ifade etti.
"Kurumlarımız Karar Veren Makinelere Hazır Değil"
Teknolojik ilerlemenin hızına hiçbir aktörün yetişemediğini belirten Guterres, internetin 1 milyar kullanıcıya ulaşmasının 15 yıl sürdüğünü, yapay zekanın ise bu eşiği sadece iki yılda geçtiğini hatırlattı. Mevcut sistemlerin artık sadece komut bekleyen basit araçlar olmaktan çıktığına dikkat çeken Genel Sekreter, şu kritik tespitte bulundu:
"Mevcut kurumlarımız, yalnızca emirleri yerine getiren makineleri yönetmek üzere tasarlandı. Kendi başına karar alan, kod yazan ve insan gözetimi olmadan seçimler yapan sistemleri yönetmeye hazır değiliz. Bazı kırmızı çizgiler bir kez aşıldığında, geri dönüşü imkansız olacak."
Teknoloji Devlerine Güç Dağılımı Uyarısı: "Eşitsizlik Koda Yazılıyor"
Zirvede sunulan Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli'nin ilk raporuna atıfta bulunan Guterres, yapay zeka altyapısına yönelik devasa yatırımların küresel adaletsizliği derinleştirdiğini söyledi. Geçtiğimiz yıl bu alana yapılan özel yatırımların yarım trilyon dolara yaklaştığını, ancak gelişmekte olan ülkelerin kamu yatırımlarının bu rakamın yanında çok cüde kaldığını belirtti.
Gücün, verinin ve yeteneğin yalnızca bir avuç şirket ile gelişmiş ülkenin elinde toplanmasının tehlikelerine değinen Guterres, "Bu yoğunlaşma ne kadar uzun sürerse, eşitsizlik de teknolojinin koduna o kadar derinden kazınır. Yapay zeka uçurumunun; bir kalkınma, güvenlik ve egemenlik krizine dönüşmesine izin veremeyiz" dedi.
"Hiçbir Çocuk Denetimsiz Yapay Zekanın Kobayı Olamaz"
Konuşmasının en çarpıcı bölümünü çocuk güvenliğine ayıran BM Genel Sekreteri, yapay zekanın çocukların öğrenme süreçlerine, arkadaşlıklarına ve mahremiyetlerine denetimsizce sızdığının altını çizdi. Yapay zeka manipülasyonu nedeniyle kendine zarar veren ya da dijital istismara maruz kalan çocukların bedel ödemeye başladığını ifade eden Guterres, acil eylem çağrısı yaptı:
"Hiçbir çocuk, denetimsiz bir teknolojinin kobayı olmamalıdır. BM olarak bugün 'Yapay Zeka Çocuk Güvenliği Taahhüdü' için küresel bir çağrı başlatıyorum. Şirketler, çocuklara özel güvenlik testleri ve bağımsız denetimler olmadan bu sistemleri kullanıma sunmamalıdır."
Guterres ayrıca, adalet ve sağlık gibi yüksek riskli alanlarda yapay zekanın veri sağlayabileceğini ancak nihai kararın ve sorumluluğun her zaman insanlarda kalması gerektiğini vurguladı.
Geleceği Yönetmek İçin Son Şans
Cenevre'deki bu ilk küresel diyalog, hükümetlerin, akademinin, özel sektörün ve sivil toplum kuruluşlarının katılımıyla yarın da devam edecek. Sürecin gelecek yıl New York'ta yapılacak ikinci toplantıyla kalıcı bir çerçeveye oturtulması hedefleniyor.
İnsanlığın, makinelerle bir arada yaşama kurallarını koyabilecek son nesil olabileceğini hatırlatan Guterres, Cenevre zirvesinin, yönetişimin teknolojik hıza yetişmeye başladığı tarihi bir dönüm noktası olarak kayıtlara geçmesini temenni etti.
