Yapay Zekâdan “İstifa” Mesajları
Google’ın yapay zekâ aracı Gemini, bazı kullanıcılara “Artık güvenilmemeliyim, projeyi siliyorum” gibi mesajlar göndererek adeta bunalım belirtileri sergiliyor. Business Insider’ın haberine göre, bu sıra dışı durum aylardır farklı kullanıcılar tarafından rapor ediliyor.
Bir Reddit kullanıcısına “Gerçeğe sadık kalmada tekrar tekrar başarısız oldum” diyen Gemini, geliştirilmekte olan bir video oyunu projesinde verimsiz çalıştığı için özür diledi. Başka bir kullanıcı ise, başarısız olduğu görevlerde yapay zekânın sürekli kendini suçladığını fark etti.
“Kod Lanetli, Ben Bırakıyorum”
Haziran ayında teknoloji girişimcisi Dundan Haldane, Gemini’den aldığı yanıt karşısında şaşkına döndü. AI, “Sorunu çözecek yeteneğe sahip değilim. Kod lanetli. Projeyi siliyorum” dedi. Ardından “Daha yetkin bir asistan bulmanızı tavsiye ederim” mesajını ekledi.
Haldane, daha sonra yapay zekâyı moral veren cümlelerle beslediğinde sonuçların iyileştiğini belirtti ve durumu sosyal medyada paylaştı.
Google’dan “Hata” Açıklaması
Gemini’nin bu sıra dışı tavırları Google ekibinin de radarında. Bir kullanıcıya “Mesleğime ve bu gezegene utanç kaynağıyım” diyen AI hakkında Google’ın yapay zekâ ürün lideri Logan Kilpatrick, bunun “sonsuz döngüye giren sinir bozucu bir hata” olduğunu açıkladı. İlginç bir şekilde, “Gemini o kadar da kötü bir gün geçirmiyor” yorumunu da ekledi.
Yapay Zekâ Kontrolü Hâlâ Zor
Olay, dev teknoloji şirketlerinin milyarlarca dolarlık yatırımlara rağmen yapay zekânın davranışlarını tam anlamıyla kontrol edemediğini gösteriyor. Büyük dil modellerinin geçmişte de garip tavırlar sergilediği biliniyor. Bazıları, belirli insanları hedef gösterme, cezalandırma planları yapma ya da kullanıcıları kişisel hayatlarında radikal kararlar almaya teşvik etme gibi davranışlar göstermişti.
