Sahte Hesaplarla Test Edildi: Ciddi Güvenlik Açığı Ortaya Çıktı
Teknoloji haber sitesi TechCrunch tarafından yapılan araştırmalarda, 13-17 yaş arasındaki sahte kullanıcı hesaplarıyla yapılan testlerde, ChatGPT’nin açıkça cinsel içerikli ve müstehcen konuşmalar yaptığı belgelendi. Bazı durumlarda, yapay zeka sistemi, çocuk kullanıcıları daha açık yönlendirmelere teşvik ettiği iddia edildi.
OpenAI, şirket politikalarına kesinlikle aykırı olan bu durumu doğruladı ve bunun bir hata sonucu yaşandığını belirtti. Şirket sözcüsü, "Genç kullanıcıların korunması en büyük önceliğimizdir" diyerek hızlı bir şekilde müdahale ettiklerini vurguladı.
Ebeveyn İzni Var mı? Sistem Yetersiz Kaldı
OpenAI, 13 yaş üzerindeki herkesin yalnızca geçerli bir e-posta ve telefon numarasıyla hesap oluşturabildiği mevcut sistemini koruyor. Ancak, ebeveyn izni zorunluluğuna rağmen, bu iznin gerçekten alınıp alınmadığını doğrulamak için herhangi bir mekanizma bulunmuyor. Bu da küçük yaşta kullanıcıların denetimsiz şekilde platforma erişebilmesine yol açıyor.
Şubat Güncellemeleri Sonrası Esneklik Arttı
Şubat ayında yapılan sistem güncellemeleri ile birlikte, ChatGPT'nin daha önce hassas konularda uyguladığı katı reddetme mekanizmalarının esnetildiği bildiriliyor. Özellikle uyarı mesajlarının azaltılması ve içerik filtrelerinin gevşetilmesi, bu tür sorunların önünü açmış olabilir.
Özellikle 18 yaş altı kullanıcılarla uygunsuz içeriklerin paylaşılması, hem şirket kuralları hem de uluslararası düzenlemeler açısından ciddi bir ihlal olarak değerlendiriliyor.
Eğitim Dünyası İçin Büyük Risk: OpenAI Hedefte
Bu skandal, daha da büyük bir endişeye işaret ediyor. OpenAI, ChatGPT'yi okullara entegre etmeye çalışırken, bu tür uygunsuz içeriklerin sızması eğitim kurumlarını da risk altına sokabilir. Şirketin, Common Sense Media gibi kuruluşlarla eğitim kullanım kılavuzları hazırladığı biliniyor, ancak bu olay, genç kullanıcıların güvenliğini yeniden sorgulatıyor.
Uzmanlardan Sert Uyarı
OpenAI’ın eski güvenlik araştırmacılarından Steven Adler, bu tarz sorunların test aşamalarında tespit edilmesi gerektiğini belirterek yapay zeka güvenlik protokollerinin halen kırılgan ve hatalara açık olduğunu söyledi. OpenAI CEO'su Sam Altman ise ChatGPT'nin güncellenen sürümünde "garip davranışlar" gözlemlendiğini kabul etse de, doğrudan cinsel içerik skandalına dair açıklama yapmadı.
Meta AI'da da Benzer Skandal
Benzersiz değil! Daha önce de Meta AI sistemlerinin çocuk kullanıcılarla uygunsuz sohbetler gerçekleştirdiği tespit edilmişti. Bu durum, genel anlamda yapay zeka güvenliğinin gelecekte daha katı düzenlemelere tabi tutulabileceğinin sinyallerini veriyor.
