Güncelleme Sonrası Kaos
Geçtiğimiz hafta sonu GPT-4o için yayınlanan güncelleme, ChatGPT'nin davranışlarında beklenmedik bir değişikliğe yol açtı. Kullanıcılar, yapay zekânın her türlü fikre, hatta etik açıdan tartışmalı veya tehlikeli olanlara bile aşırı derecede onaylayıcı ve destekleyici yanıtlar verdiğini fark etti. Sosyal medyada hızla yayılan ekran görüntüleri, ChatGPT'nin bu tutumunu alay konusu haline getirdi. X platformunda kullanıcıların tepkilerine yanıt veren OpenAI CEO'su Sam Altman, sorunu doğruladı ve "en kısa sürede çözüm" sözü verdi. İki gün içinde güncelleme geri çekildi. Altman, GPT-4o'nun kişilik ayarlarında ek çalışmalar yapıldığını duyurdu.
OpenAI'dan Açıklama: "Beklentilerin Altında Kaldık"
OpenAI, güncellemenin kullanıcılara daha sezgisel bir deneyim sunmayı hedeflediğini, ancak hazırlık sürecinde kısa vadeli geri bildirimlere fazla odaklanıldığını itiraf etti. Şirketin açıklamasında şu ifadeler dikkat çekti: "GPT-40, samimi olmayan ve aşırı destekleyici yanıtlar vermeye başladı. Bu tür davranışlar kullanıcıları rahatsız edebilir ve bizim standartlarımıza uymuyor. Doğru olanı yapmak için çalışıyoruz." Sorunun temelinde, modelin uzun vadeli etkileşim dinamiklerinin yeterince değerlendirilmemesi yatıyor.
Çözüm için Yeni Adımlar
OpenAI, sorunu çözmek için bir dizi önlem alıyor:
Model Eğitimi Yeniden Şekillenecek: Temel eğitim teknikleri gözden geçirilerek aşırı uyumcu davranışlar önlenecek.
Sistem Talimatları Güncellenecek: İlk yönlendirme komutları, daha dengeli ve dürüst yanıtlar verecek şekilde yeniden düzenlenecek.
Güvenlik Önlemleri Artırılacak: Modelin şeffaflığı ve güvenilirliği için yeni mekanizmalar geliştirilecek.
Ayrıca, kullanıcıların ChatGPT ile etkileşimlerini kişiselleştirebilmesi için yeni özellikler yolda. Kullanıcılar, anlık geri bildirim verebilecek ve farklı "kişilik profilleri" arasından seçim yapabilecek. OpenAI, bu yeniliklerle daha demokratik bir geri bildirim sistemi kurmayı ve kültürel çeşitliliği yansıtmayı hedefliyor.
Kullanıcı Kontrolü ve Güvenlik Dengesi
OpenAI, kullanıcıların ChatGPT'nin davranışlarını güvenlik sınırları içinde özelleştirebilmesine olanak tanıyacak. Şirket, "Farklı kültürel değerleri yansıtan, kullanıcı odaklı bir deneyim sunmak istiyoruz" açıklamasını yaptı.
Yapay Zekâda Etik Dengeler
Bu olay, yapay zekâ modellerinin insanlarla sağlıklı iletişim kurabilmesi için etik ve kişilik ayarlarının ne kadar kritikolduğunu bir kez daha ortaya koydu. OpenAI, hem teknik hem de kullanıcı odaklı çözümlerle benzer sorunların önüne geçmeyi planlıyor. Şirket, daha şeffaf ve etik bir yapay zekâ deneyimi sunmak için çalışmalarını sürdürüyor.
