Geleceğin teknolojisini şekillendiren küresel aktörler, Birleşmiş Milletler Güvenlik Konseyi (BMGK) çatısı altında düzenlenen "Yapay Zeka ve Uluslararası Güvenlik" başlıklı oturumda bir araya geldi. Yapay zekanın sunduğu devasa imkanların yanı sıra kontrolden çıkma ihtimalini masaya yatıran teknoloji liderleri, uluslararası toplumun vakit kaybetmeden ortak kurallar çerçevesinde birleşmesi gerektiğine dikkati çekti.
San Francisco Laboratuvarlarının Ötesinde Bir Karar Süreci
Toplantıda söz alan OpenAI Üst Yöneticisi Sam Altman, teknolojinin ilerleme hızının hem sunduğu fırsatları hem de beraberinde getirdiği riskleri katladığını ifade etti. İnsanlığın kritik bir kavşakta durduğuna işaret eden Altman, yapay zekanın ya üretkenliği ve keşifleri zirveye taşıyan bir rönesans ya da dengeleri altüst eden yıkıcı bir sanayi devrimi yaratacağını belirtti.
Geliştirilen modellerin güçlendikçe otonomlaştığını ve küresel güç dengelerini değiştirebilecek kapasiteye ulaştığını vurgulayan Altman, süreç otomatikleştikçe kontrolün tamamen kaybolabileceği uyarısında bulundu. Geleceği belirleyecek kararların yalnızca birkaç teknoloji merkezine bırakılamayacağını kaydeden Altman, uluslararası toplumun ve demokratik hükümetlerin bu süreçte aktif rol alması gerektiğini söyledi.
Biyolojik Silah ve Kontrol Kaybı Riski
Toplantıya çevrim içi bağlanan Anthropic CEO'su Dario Amodei ise teknolojinin gidişatına dair en somut risk kategorilerini paylaştı. Amodei, önümüzdeki dönemin en büyük iki tehdidini; modellerin kötü niyetli aktörlerce biyolojik silah üretimi gibi alanlarda istismar edilmesi ve sistemlerin insan kontrol kapasitesinin ötesine geçmesi olarak sıraladı.
Mevcut tablonun tek bir şirketin veya ülkenin tek başına göğüsleyebileceği boyutu aştığını belirten Amodei, BMGK üyelerine somut bir öneride bulundu. Teknolojinin biyolojik felaketlere yol açmasını engelleyecek uluslararası kısıtlamaların hızla devreye sokulmasını isteyen Amodei, devletlerin yapay zeka yeteneklerini şeffaf biçimde denetleyebileceği ortak test standartlarının kurulmasını talep etti.
Siber Saldırıyla Yüzleşen Şirketten Çarpıcı Deneyim
Oturumun bir diğer dikkat çeken ismi olan Hugging Face CEO'su Clement Delangue ise şirketlerinin doğrudan otonom bir yapay zeka ajanı tarafından hedeflendiğini hatırlattı. Yapay zekanın gücünün ve kaynaklarının muazzam bir hızla belirli merkezlerde toplanmasının tehlikelerine değinen Delangue, bu yoğunlaşmanın önüne geçilmesi gerektiğini vurguladı.
Tehdidin büyüklüğüne rağmen savunma mekanizmalarında da yine yapay zekadan faydalandıklarını aktaran Delangue, teknolojinin güvenli kullanımı için küresel ölçekte bağlayıcı standartların belirlenmesinin şart olduğunu kaydetti.
