Yapay zekânın hızla yayılmasıyla birlikte dijital platformlarda ortaya çıkan karanlık kullanım alanları yeniden gündemde. Bu kez tartışmaların merkezinde, dünyanın en büyük iki teknoloji şirketi olan Apple ve Google yer alıyor. Her iki şirket de, rıza dışı cinsel içerik üretimine imkân tanıyan uygulamaların uzun süre boyunca sistemlerinde barınmasına göz yummakla suçlanıyor.
cinsel içerikli uygulamalara olanak tanıdılar
Uygulama mağazalarının güvenliği yeniden tartışma konusu oldu. Apple ve Google, bu kez yapay zekâ destekli ve rıza dışı cinsel içerik üretimine olanak tanıyan uygulamalar nedeniyle yoğun eleştirilerle karşı karşıya.
Dijital haklar alanında faaliyet gösteren Tech Transparency Project tarafından hazırlanan kapsamlı bir rapor, her iki şirketin uygulama mağazalarında “nudify” olarak adlandırılan ve kişilerin fotoğraflarını izinsiz biçimde cinsel içerikli hâle getirebilen çok sayıda uygulamanın yer aldığını ortaya koydu. Bu tür yazılımlar, platformların kendi kullanım ve güvenlik kurallarıyla açıkça çelişiyor.
“Nudify” Uygulamaları Platformlarda Yaygın
Araştırma kapsamında Google Play Store’da 55, Apple App Store’da ise 47 benzer uygulama tespit edildi. Ayrıca yapay zekâ temelli içerik üretimiyle sık sık gündeme gelen Grok’un da her iki platformda erişilebilir olmaya devam ettiği belirtiliyor.
Denetim Sorumluluğu Tartışma Yarattı
Çalışmayı yürüten kuruluşun direktörü Michelle Kuppersmith, Apple ve Google’ın mağazalarındaki içerikleri denetlemekle doğrudan sorumlu olduğuna dikkat çekerek, bu tür uygulamaların ciddi suistimallere kapı araladığını vurguladı. Raporda yer alan veriler ise sorunun boyutunu gözler önüne seriyor. Söz konusu uygulamalar bugüne kadar toplamda 700 milyondan fazla kez indirildi ve yaklaşık 117 milyon dolar gelir elde etti. Bu gelirden her iki teknoloji devinin de mağaza komisyonları yoluyla pay aldığı belirtiliyor.
Tepkiler Sonrası Sınırlı Geri Adımlar
Endişeleri artıran bir diğer unsur ise bu uygulamaların yaş sınıflandırmaları. Rapora göre, bazıları çocuklar ve gençler için “uygun” kategorisinde listelenmiş durumda ve dokuz yaş üzeri kullanıcıların erişimine açık görünüyor. Uzmanlar, bu durumun çocukların dijital ortamda korunmasına yönelik politikalarla bağdaşmadığını ifade ediyor.
Raporun kamuoyuna yansımasının ardından Apple ve Google’dan sınırlı adımlar geldi. Apple, mağazasından 24 uygulamayı kaldırdığını duyurdu ancak bu sayı raporda belirtilen toplam uygulama sayısının yarısına bile ulaşmıyor. Google cephesinde ise bazı uygulamaların askıya alındığı kabul edilirken, kaç tanesinin tamamen kaldırıldığına dair net bir açıklama yapılmadı.
