Discord'un yapay zekâ destekli moderasyon sistemi teknik bir hata nedeniyle binlerce hesabı yanlışlıkla askıya aldı. Şirket, 8 binden fazla kullanıcının bu hatadan etkilendiğini doğrularken hesapların yeniden açılması için çalışmaların tamamlandığını duyurdu. Olay, yapay zekâ destekli içerik denetiminin güvenilirliğini yeniden gündeme taşıdı.
Discord'un yapay zekâ tabanlı moderasyon sisteminde yaşanan teknik aksaklık, binlerce kullanıcının haksız yere platformdan uzaklaştırılmasına neden oldu. Şirket tarafından yapılan açıklamada, son aylarda 8 binden fazla hesabın yanlış değerlendirme sonucu askıya alındığı belirtilirken, sorunun giderildiği ve etkilenen hesapların yeniden erişime açıldığı ifade edildi.
Teknik hata binlerce hesabı etkiledi
Platformun güvenlik sisteminde meydana gelen sorun nedeniyle birçok kullanıcı herhangi bir kural ihlali yapmamasına rağmen kalıcı ya da geçici olarak platformdan uzaklaştırıldı. Discord yetkilileri, problemin özellikle son iki aylık süreçte etkisini gösterdiğini ve kısa süre öncesine kadar yeni mağduriyetlerin yaşanmaya devam ettiğini açıkladı.
Şirket, teknik sorunun tespit edilmesinin ardından gerekli düzeltmelerin yapıldığını ve yanlışlıkla kapatılan hesapların yeniden aktif hale getirildiğini duyurdu.
Zararsız görseller riskli içerik olarak algılandı
Hatalı ban kararlarının ortak noktası ise yapay zekânın bazı sıradan görselleri yanlış yorumlaması oldu. Kullanıcıların paylaştığı satranç tahtası desenleri, kareli grafikler, elektronik tablo görünümleri ve şeffaf arka plan içeren basit görseller, sistem tarafından riskli içerik olarak değerlendirildi.
Bu nedenle herhangi bir ihlal içermeyen paylaşımlar yapan çok sayıda kullanıcı, otomatik moderasyon sistemi tarafından platformdan çıkarıldı.
Izgara desenleri sistemi yanıltmış olabilir
Discord'un moderasyon altyapısı, yüklenen içerikleri daha önce tespit edilen zararlı materyallerle karşılaştırarak analiz ediyor. Son dönemde bazı yasa dışı içeriklerin tespit sistemlerini aşmak amacıyla kare ve ızgara desenleriyle gizlenmeye çalışılması nedeniyle algoritmanın bu tür görsellere karşı daha hassas hale getirildiği belirtiliyor.
Discord, yaşanan hatanın ardından moderasyon süreçlerini gözden geçirdiğini ve benzer mağduriyetlerin tekrar yaşanmaması için sistem üzerinde ek iyileştirmeler yapıldığını açıkladı.
