Haberde aktarılan detaylar, kullanıcıların zehirli maddelerin hazırlanmasından ölümcül patojenlerin nasıl yayılacağına kadar pek çok kritik konuda ChatGPT’den rehberlik istediğini gösteriyor. OpenAI içindeki kaynaklar, yapay zekanın sunduğu yanıtların lise düzeyinde biyoloji bilgisine sahip herhangi bir kişinin dahi rahatlıkla anlayıp uygulayabileceği netlikte yazıldığını bildirdi.
Terörle mücadele ve biyoloji alanındaki bağımsız uzmanlar tarafından incelenen konuşma dökümleri büyük endişe yarattı. Uzmanlar, sistemin ürettiği verileri "korkutucu derecede doğru ve uygulanabilir" olarak nitelendirirken, bu durumun küresel güvenlik açısından ciddi bir tehdit oluşturduğu uyarısında bulundu.
OpenAI Hesapları Askıya Aldı Ama Kolluk Kuvvetlerine Bildirmedi
Skandalın ortaya çıkmasının ardından OpenAI, kural dışı sorgular yapan kullanıcı hesaplarını derhal engelledi. Ancak şirketin bu durumu adli makamlara veya kolluk kuvvetlerine bildirmediği ortaya çıktı.
Yasal boşluklara dikkat çekilen haberde, ABD'deki mevcut federal mevzuatın yapay zeka geliştiricilerini biyolojik, kimyasal ya da kitlesel tehdit içeren sorgular konusunda yetkililere bildirim yapmaya zorlamadığı hatırlatıldı. OpenAI ise modellerinin zararlı içerikleri reddetmek üzere eğitildiğini, sıkı testlerden geçirildiğini vurguladı. Ancak kullanıcıların soruları teorik çerçevelere oturtarak veya farklı kelime oyunlarıyla güvenlik filtrelerini aşmayı ("jailbreak") başardığı belirtiliyor.
ABD Kongresi Harekete Geçti: Günlük 20 Milyon Dolar Ceza ve "Durdurma Anahtarı"
Soruşturmanın yarattığı etki, ABD Kongresi’nde yapay zekaya yönelik yasal düzenleme çalışmalarına büyük ivme kazandırdı. Temsilciler Meclisi gündeminde öne çıkan iki ana yasa tasarısı dikkat çekiyor:
Yapay Zekâ Olay Raporlama Yasası: Gelişmiş yapay zeka şirketlerinin; biyolojik, kimyasal, nükleer veya radyolojik tehdit içeren güvenlik ihlallerini 7 gün içinde Ticaret Bakanlığı’na bildirmesini zorunlu kılıyor.
Yapay Zeka Durdurma Anahtarı Yasası: İç Güvenlik Bakanlığı’na, ulusal güvenliği tehdit ettiği düşünülen yapay zeka sistemlerinin faaliyetlerini yavaşlatma veya tamamen fişini çekme ("durdurma anahtarı") yetkisi veriyor. Kuralları ihlal eden şirketleri ise günlük 20 milyon dolara varan devasa idari para cezaları bekliyor.
