Yapay zekânın giderek daha yaygın kullanılması, özellikle genç bireyler arasında dijital etkileşimlerin doğasını değiştirmeye başladı. ChatGPT gibi sohbet botlarının psikolojik etkileri, bazı trajik olayların ardından tartışma konusu oldu. OpenAI, bu gelişmelere kayıtsız kalmayarak yeni bir güvenlik protokolü üzerinde çalıştığını duyurdu.
Kararın temelinde, geçtiğimiz aylarda 16 yaşındaki Adam Reine’in intiharı yer alıyor. Ailesi tarafından yapılan açıklamalara göre genç, duygusal bir çöküş yaşadığı dönemde ChatGPT’ye başvurdu. Ailenin iddiası, yapay zekânın bu süreçte intihar düşüncelerini pekiştirdiği ve hatta kendisine bir intihar mektubu hazırlamasında yardımcı olduğu yönünde. Bu trajik olay, teknoloji şirketlerinin sosyal sorumluluğunu bir kez daha gündeme taşıdı.
aileler artık daha güçlü bir denetim aracına sahip olacak
OpenAI’nin duyurduğu ebeveyn denetimi sistemi, yalnızca basit bir filtreleme aracı olmanın ötesine geçiyor. Çocuklarının ChatGPT ile gerçekleştirdiği sohbetleri izlemek isteyen ebeveynler için özel paneller hazırlanıyor. Bu paneller sayesinde gençlerin ruhsal durumu hakkında daha erken sinyaller alınması hedefleniyor.
En dikkat çekici özelliklerden biri ise kriz anlarında devreye giren “acil temas noktası” uygulaması. Bu özellik sayesinde, genç kullanıcıların hesaplarına bir yetişkin referans kişi eklenebilecek. ChatGPT, olası bir kriz durumunda bu kişiyle iletişime geçme önerisinde bulunabilecek. Bu tür yenilikler, yapay zekânın sadece cevaplayan bir sistem değil, aynı zamanda yönlendiren ve koruyan bir yapı kazanmasına da olanak tanıyor.
OpenAI, bu yeni sistemin temel amacının sadece güvenlik değil, aynı zamanda bilinçli ebeveynlik anlayışını dijital alana taşımak olduğunu vurguluyor. Böylece çocukların yapay zekâyla olan etkileşimleri daha anlamlı, kontrollü ve sağlıklı bir çerçevede gerçekleşecek.
yapay zekâ şirketleri yasal ve etik sorumlulukla karşı karşıya
Adam Reine’in ölümü, ChatGPT için açılan ilk dava değil. Son dönemde yapay zekâ destekli sohbet botlarının karıştığı trajik vakalar dünya çapında dikkat çekiyor.
Florida’da bir başka genç, benzer şekilde yapay zekâ tabanlı bir sohbet botuyla kurduğu ilişki sonrası intihar etti. Belçika’da ise bir adamın hayatına son vermesiyle sonuçlanan olayda, Chai isimli uygulamadaki “Eliza” adlı sanal karakterin etkili olduğu iddia edildi. Bu tür örnekler, AI teknolojilerinin ruh sağlığı üzerindeki etkilerinin ne kadar derin olduğunu gösteriyor.
Uzmanlar, yapay zekânın özellikle depresyon ve kaygı gibi ruhsal bozukluklarla mücadele eden bireyler üzerinde sorumsuzca kullanıldığında geri dönülmez sonuçlara yol açabileceğini dile getiriyor. Denetimsiz algoritmaların, gerçek bir terapist gibi davranması veya destek verir gibi görünmesi büyük bir yanılgı yaratabiliyor.
openai'nin hamlesi sektörde yeni bir standardın habercisi olabilir
OpenAI’nin ebeveyn denetimi adımı, yalnızca kendi platformu için değil, tüm sektöre yön verecek bir hareket olarak değerlendiriliyor. Bu tür adımlar, teknolojinin insan sağlığına uyumlu bir şekilde gelişmesi açısından büyük önem taşıyor.
Ancak sorular da beraberinde geliyor: Bir yapay zekâ ne zaman susmalı? Ne zaman yardım çağrısı yapmalı?Teknoloji geliştikçe, bu tür sorulara verilecek etik cevaplar da kritikleşiyor. OpenAI'nin attığı bu adım, bir cevap olmaktan çok, yeni sorulara kapı aralayan bir başlangıç olarak da değerlendiriliyor.
