Gelişen yapay zeka teknolojileri, içerik üreticilerinin dijital kimliklerini tehdit etmeyi sürdürüyor. Gerçekçi deepfake videoların yarattığı bilgi kirliliği ve ihlallere karşı önlem almaya çalışan popüler sosyal medya platformu TikTok, YouTube’un bir süre önce devreye soktuğu yapay zeka tabanlı koruma mekanizmasına benzer bir özelliği test etmeye başladı. Yeni araç, kişilerin izni olmadan oluşturulan dijital yüz benzerliklerini tespit etmeyi ve silinmesini sağlamayı amaçlıyor.
Şikayet Etmek İçin "Canlı Selfie" Ve Kimlik Doğrulaması Şartı
Test aşamasındaki bu sistem, içerik üreticilerinin TikTok üzerinde kendi yüzleri kullanılarak üretilmiş ya da değiştirilmiş videoları saptamasına imkan tanıyor. İhlal tespit eden kullanıcılar, söz konusu içerik ve hesapları doğrudan incelemeye gönderebilecek.
Ancak kötüye kullanımı engellemek amacıyla platform, raporlama sürecine sıkı bir güvenlik protokolü ekledi. Sistemi kullanmak isteyen yayıncıların, canlı selfie doğrulaması ve resmi kimlik kontrolünden geçmesi gerekecek. TikTok yetkilileri, bu hassas kimlik doğrulama sürecinde belgelerin veritabanında saklanmadığını ve işlemlerin üçüncü taraf güvenli bir altyapı üzerinden yürütüldüğünü ifade ediyor.
YouTube’un İzinden Giden Güvenlik Stratejisi
Yapay zeka krizinde ilk hamleyi yapan platform TikTok değil. Yılın başlarında YouTube benzer bir yüz tarama sistemini kademeli olarak hayata geçirmişti. İlk etapta siyasetçiler ve gazeteciler gibi kamusal figürlere sunulan bu kalkan, zamanla genel kullanıcı kitlesinin kullanımına açılmıştı. TikTok da test sürecinin başarıyla tamamlanması halinde yeni özelliği tüm dünyadaki kullanıcılarına kademeli olarak sunmayı planlıyor.
Tehdit Büyüyor: İkna Edici Yapay Zeka Modelleri Neden Riskli?
Deepfake teknolojilerinin hızla gelişmesi, üretilen sahte içeriklerin ayırt edilmesini neredeyse imkansız hale getiriyor. Son dönemde kişilerin rızası olmadan kıyafetlerinin dijital olarak kaldırılması veya tamamen sahte görüntülerin oluşturulması gibi olaylar ciddi tartışmalara yol açmıştı.
Grok gibi gelişmiş yapay zeka araçlarının da benzer suistimallere zemin hazırladığı gerekçesiyle eleştiri oklarının hedefi olması, TikTok ve YouTube gibi dev platformları radikal ve bağlayıcı güvenlik adımları atmaya zorluyor.
