Dünyanın en popüler yapay zeka platformu ChatGPT'nin geliştiricisi OpenAI, son zamanların en geniş kapsamlı gizlilik iddialarından biriyle karşı karşıya. Sızdırılan şirket içi belgeler ve teknoloji dünyasında yankı uyandıran raporlar, yapay zeka ile kullanıcılar arasındaki özel sohbetlerin yüzlerce insan çalışan tarafından satır satır incelendiğini ortaya koyuyor. "Project Lily" kod adıyla yürütüldüğü öne sürülen bu operasyon, yapay zeka sistemlerinin arkasındaki görünmez insan gücünü bir kez daha tartışmaya açtı.
Project Lily Operasyonu: Sohbetler Tek Tek Puanlanıyor
Yayınlanan verilere göre OpenAI, sistemin yanıt verme kalitesini artırmak ve modelin hatalı davranışlarını engellemek adına taşeron çalışanlardan oluşan dev bir ekiple çalışıyor. Bu kapsamda görevlendirilen uzmanlar, kullanıcıların ChatGPT ile gerçekleştirdiği gerçek zamanlı diyologları okuyarak verilen yanıtların doğruluğunu, üslubunu ve mantık sınırlarını puanlandırıyor.
Söz konusu denetimin ana odak noktalarından birinin ise yapay zekanın kullanıcıya sürekli hak verme veya kullanıcıyı asılsız şekilde onaylama eğilimi (sycophancy) olduğu belirtiliyor. Geliştiriciler, insan gözlemciler vasıtasıyla modelin bu yağcı yaklaşımını törpülemeyi hedefliyor.
Anonimleştirme Yetersiz mi? Kişisel Veriler Açıkta Kalıyor Olabilir
Skandalın en kritik boyutunu ise veri gizliliği oluşturuyor. Şirketin kullanıcı isimlerini ve tanımlayıcı bilgileri sistemden temizlediği öne sürülse de, sızan raporlar hassas kişisel verilerin her zaman tamamen maskelenemediğini gösteriyor.
Birçok durumda denetçilerin yalnızca tekil bir soru-cevap çiftini değil, kullanıcı ile ChatGPT arasındaki diyalogun tüm geçmişini görüntüleyebildiği iddia ediliyor. Bu durum; özel hayatın gizliliği, ticari sırlar ve kişisel verilerin korunması noktasında ciddi soru işaretleri doğuruyor.
Görünmez İnsan Faktörü ve Gizlilik Dilekçesi
Geleneksel algının aksine, modern yapay zeka modelleri yalnızca devasa internet veri kümelerini işleyerek gelişim göstermiyor. Sistemlerin nihai eğitim aşamasında "insan geri bildirimiyle pekiştirmeli öğrenme" (RLHF) adı verilen süreç hayati rol oynuyor. Ancak kullanıcıların büyük çoğunluğu, yapay zeka ile baş başa kaldıklarını düşünürken diyaloglarının 3. taraf taşeron çalışanların önüne düşebileceğinden habersiz.
Konuyla ilgili OpenAI cephesinden henüz resmi ve detaylı bir açıklama gelmiş değil. Gözler, veri denetiminin sınırları ve kullanıcı gizliliğinin nasıl korunacağına dair teknoloji devinden gelecek resmi yanıta çevrilmiş durumda.
