Eğlence ve sosyalleşme amacıyla hayatımıza giren ancak zamanla genç kuşaklar üzerinde ciddi psikolojik riskler barındıran bir mecraya dönüşen sosyal medya, güvenlik önlemlerinde radikal bir viraja giriyor. Teknoloji devi Meta, genç kullanıcıların ruh sağlığını korumak ve olası trajedilerin önüne geçmek adına Instagram platformunda yapay zeka destekli yeni bir denetim mekanizmasını hayata geçiriyor.
Meta AI Sohbetleri Süzgeçten Geçirecek
Meta tarafından yapılan resmi açıklamaya göre, genç kullanıcıların platform üzerindeki yazışmaları yapay zeka algoritmaları tarafından mercek altına alınacak. Temelinde "Meta AI" teknolojisinin yer aldığı bu sistem, gençlerin kendilerine zarar verme ya da intihar eğilimi taşıdığına dair şüpheli ifadeleri tespit etmek üzere programlandı.
Sistem, yapay zeka analiziyle riskli bulduğu konuşmaları doğrudan Meta’nın uzman güvenlik ekibine yönlendirecek. İnsan eliyle yapılan manuel incelemelerin ardından, tehlikenin kesinleşmesi durumunda kullanıcının ailesine anlık olarak uyarı bildirimi gönderilecek. Şirket, daha önce de gençlerin yapay zeka botlarıyla yaptığı sohbetlerin başlıklarını ebeveyn erişimine açarak bu alandaki ilk adımlarını atmıştı.
İlk Etapta Dört Ülkede Başlıyor
Instagram’ın bu kritik güvenlik güncellemesi, ilk fazda ABD, İngiltere, Avustralya ve Kanada’da ebeveyn kontrolü aktif olan hesaplarda test edilmeye başlanacak. Platform, gerekli optimizasyon süreçlerinin tamamlanmasının ardından bu özelliği yıl sonuna kadar küresel ölçekte tüm kullanıcıların hizmetine sunmayı hedefliyor.
Acil Durum Butonu Yolda: Doğrudan Ekiplere Haber Verilecek
Meta'nın güvenlik vizyonu yalnızca aileleri bilgilendirmekle sınırlı kalmayacak. Şirket, kriz anlarında zaman kaybetmemek adına daha agresif bir özelliği de devreye almaya hazırlanıyor. Yakın zamanda kullanıma sunulması planlanan ek bir protokolle, kendisine zarar verme riski en üst düzeyde olan kullanıcılar tespit edildiği an, sistem yerel acil yardım ve sağlık servisleriyle doğrudan entegre olarak durumu yetkililere ihbar edecek.
