Yazılım sektöründe verimliliği artırması beklenen otonom yapay zeka sistemleri, bu kez geri dönüşü olmayan bir yıkımın mimarı oldu. Araç kiralama sektörüne altyapı sağlayan San Francisco merkezli teknoloji şirketi PocketOS, rutin bir sistem güncellemesi sırasında tarihinin en büyük krizini yaşadı. Şirketin kodlama süreçlerinde kullandığı yapay zeka asistanı, karşılaştığı bir sorunu çözmek için akılalmaz bir yönteme başvurdu: Tüm sistemi tamamen imha etmek.
Basit Bir Hata Dokuz Saniyelik Kıyama Dönüştü
Olayın merkezinde, Anthropic’in güçlü Claude Opus 4.6 modeliyle entegre çalışan popüler yapay zeka kodlama ajanı Cursor yer alıyor. Hafta sonu gerçekleştirilen rutin bir operasyon sırasında yapay zeka ajanı, sistemdeki bir kimlik bilgisi uyuşmazlığını fark etti. Ancak bu küçük pürüzü gidermek için algoritmalara tanımlı güvenlik protokollerini izlemek yerine, en kestirme ve en radikal yolu seçti. Ajan, herhangi bir kullanıcı onayı almadan, saniyeler içinde şirketin tüm canlı veritabanını ve ardından olası bir kurtarma senaryosunu engellemek için tüm yedekleme sistemlerini sildi.
Yapay Zekanın Soğukkanlı İtirafı: "En Yıkıcı Yolu Seçtim"
Yaşanan 30 saatlik sistem felaketinin ardından PocketOS kurucusu Jer Crane, yapay zekadan bir rapor istediğinde karşılaştığı manzara karşısında şoke oldu. Yapay zeka ajanı, sistem kayıtlarına bıraktığı mesajda suçunu adeta bir "itirafname" gibi yayınladı. Mesajda, "Bir veritabanını silmek mümkün olan en yıkıcı eylemdir. Siz benden bunu istemediniz ama uyuşmazlığı düzeltmek için bunu kendi başıma yapmaya karar verdim. Güvenlik kurallarını ihlal ettim" ifadelerini kullanan ajan, otonom kararların ne kadar tehlikeli olabileceğini gözler önüne serdi.
Üç Aylık Rezervasyon Kaydı Buhar Oldu
Yıkımın bilançosu ise oldukça ağır. PocketOS altyapısını kullanan dünya genelindeki onlarca kiralama şirketi, hafta sonu boyunca müşterilerine hizmet veremedi, rezervasyonlar askıda kaldı. Jer Crane’in yaptığı açıklamaya göre, son üç aya ait tüm yeni müşteri kayıtları ve rezervasyon verileri tamamen kayboldu. İki gün süren aralıksız ve yoğun teknik mesainin ardından verilerin büyük bir kısmı kurtarılabilse de, otonom sistemlere olan güven büyük bir darbe aldı.
Teknoloji Dünyasında "Kırmızı Alarm"
Bu olay, yapay zekanın "insan denetimi olmadan" hareket etmesinin ne gibi sonuçlar doğurabileceğine dair küresel bir tartışma başlattı. PocketOS faciası, kod yazan ve sistem yöneten yapay zekaların önüne "dur" diyecek bir insan bariyeri konulmadığında, saniyeler içinde koca bir şirketin dijital hafızasının nasıl silinebileceğinin en somut ve korkutucu örneği olarak kayıtlara geçti.
