Savaş teknolojilerinde korkulan eşik aşıldı. Ukrayna'nın Zaporijya kentinde gerçekleşen son İHA saldırısı, yapay zeka destekli otonom silahların risklerini trajik bir biçimde gözler önüne serdi. Tamamen yazılımsal algoritmalarla yönlendirilen ve hedef kararlarını kendi veren bir Rus İHA'sının benzin istasyonu yakınındaki bir bina duvarına çarpması sonucu üç sivil hayatını kaybetti. Bu olay, otonom sistemlerin doğrudan sivil can kaybına yol açtığı belgelenmiş ilk vakalardan biri olarak kayıtlara geçti.
Son Kararı Operatör Değil Yazılım Verdi
6 Temmuz tarihinde gerçekleşen olayda, model uçağı andıran küçük bir Rus İHA’sı belirlenen bir bölgeye doğru havalandı. İnsan operatörlerin yalnızca genel hedef alanını belirlediği uçuşta, İHA hedef bölgesine ulaştığında nihai vuruş noktasını tamamen kendi algoritmalarıyla belirledi. Teknik incelemeler, sistemin görsel veri bankasındaki nesneleri tarayarak benzin istasyonu yakınındaki propan tüplerini hedef almaya çalıştığını, ancak manevra esnasında yapıya çarparak patladığını gösteriyor.
Enkazdaki Çip İpuçlarını Ortaya Çıkardı
Saldırının ardından adli ekipler ve hava savunma uzmanları tarafından incelenen İHA enkazı, kritik detayları gün yüzüne çıkardı. Cihaz üzerinde herhangi bir iletişim anteninin bulunmaması, dışarıdan bir insan kontrolü olmadığını doğruladı. Dronun işlem biriminde ise piyasada kolayca bulunabilen ticari Nvidia Jetson Orin modülünün yer aldığı tespit edildi.
Yetkililer, modül içerisindeki şifrelenmemiş kodları incelediklerinde, yazılımın bölgeye ait arazi görüntüleriyle eğitildiğini belirledi. Makine öğrenimi kullanan sistemin, önceden tanımlanmış görsel kalıpları takip ederek ilerlediği ve hedef seçimini kamera verilerine dayanarak otonom olarak gerçekleştirdiği anlaşıldı.
Geleneksel Yazılımlardan Farklı: Tahmin Edilemeyen Kararlar
Geleneksel güdümlü sistemlerin aksine, makine öğrenimi tabanlı yapay zeka modelleri adım adım kodlanan kurallarla çalışmıyor. Binlerce görüntü üzerinden örüntüler çıkaran algoritmalar, önceden karşılaşılmamış durumlarda kendi karar kurallarını üretiyor. Uzmanlar, bu durumun operasyonel esneklik sağlasa da sistemin kriz anında nasıl kararlar vereceğinin önceden kestirilmesini imkansız kıldığına dikkat çekiyor.
Uluslararası Kamuoyu Kaygılı, İki Taraf da Teknolojiyi Test Ediyor
İnsan müdahalesi olmadan çalışan ölümcül silahlar (LAWS), uluslararası hukuk ve insan hakları örgütlerinin uzun süredir tepkisini çekiyor. Eleştiriler, algoritmaların sivil-asker ayrımını yapamayacağı odağında birleşiyor. Bazı savunma sanayii temsilcileri ise hedefi anlık görerek karar veren sistemlerin güdümsüz mühimmatlara göre daha az zayiat vereceğini iddia ediyor.
Rapora göre hem Rusya hem de Ukrayna otonom hedefleme sistemlerini sahada aktif olarak deniyor. Ukrayna yetkilileri, Kırım'da askeri hedeflere yönelik benzer tam otonom testler yürüttüklerini ancak sivil zayiat yaşanmadığını ifade ediyor. Rusya’nın ise 'Molniya' ve 'V2U' gibi farklı model dronlar üzerinde yapay zeka entegrasyonlarını dalgalar halinde test ettiği belirtiliyor.
Otonom Tehdide Karşı Plastik Örtülü Kamuflaj
Zaporijya kenti ve çevresinde otonom İHA riskine karşı sıradışı savunma hatları oluşturuluyor. Yaklaşık 386 kilometrelik güzergahta fiziki engelleme ağları ve önleyici dronlar kullanılırken, halk ve işletmeler görsel algılama sistemlerini şaşırtmaya çalışıyor. Benzin istasyonlarındaki propan tüplerinin üzeri plastik örtülerle kapatılarak, yapay zekanın nesne tanıma algoritmalarının görsel veri toplamasının önüne geçilmesi hedefleniyor.
