Vicdan kimde kalacak?
Teknoloji dünyası bize her gün yeni bir ‘mucize’ vaat ediyor. Bu mucizelerin en parıltılı olanlarından biri de hiç kuşkusuz otonom, yani sürücüsüz araçlar. Direksiyonun kendi kendine döndüğü, otomobilin trafik ışıklarını bizden daha iyi fark ettiği bir gelecekten bahsediyoruz. Ancak bu teknolojik kusursuzluğun gölgesinde, yazılımların ve algoritmaların henüz çözemediği, belki de hiçbir zaman çözemeyeceği bir boşluk var: Vicdan.
Algoritma mı, refleks mi?
Bugün direksiyon başında bir tehlikeyle karşılaştığımızda, saliseler içinde bir ‘karar’ vermiyoruz; aslında ‘refleks’ gösteriyoruz. O anki korkumuz, tecrübemiz ve insani içgüdülerimiz bizi bir yöne savuruyor. Peki, bir yapay zeka için durum böyle mi? Hayır. Bir otonom araç için her şey birer veriden ve olasılık hesabından ibaret.
İşte tam burada, o ürpertici etik soru devreye giriyor: Aracın önüne aniden bir yaya grubu çıktığında ve durmak için yeterli mesafe kalmadığında; yazılım, içindeki yolcuyu korumak için bariyerlere mi çarpmalı, yoksa yayaları mı feda etmeli? Bu kararı veren satırlarca kodun içinde ‘merhamet’ ya da "adalet" kavramlarına yer var mı?
Dijital okuryazarlık sadece haberler için mi?
Daha önceki yazılarımda dijital okuryazarlığın, okuduğumuz haberin doğruluğunu teyit etmek için ne kadar kritik olduğundan bahsetmiştim. Aslında aynı durum otomobil teknolojileri için de geçerli. Bir aracın ‘kendi kendine gidebiliyor’ olması, onun ‘hata yapmaz’ veya ‘etik kararlar verebilir’ olduğu anlamına gelmiyor. Kullanıcılar olarak, önümüze sunulan her teknolojik yeniliği büyülenmiş bir şekilde kabul etmeden önce, o teknolojinin felsefi ve etik sınırlarını da sorgulamak zorundayız.
Otonom bir aracın şoför koltuğuna oturduğumuzda (veya arkaya yaslandığımızda), aslında hayatımızı yazılımcıların kod tercihine emanet ediyoruz. Bu noktada ‘dijital okuryazarlık’, aracın sadece dokunmatik ekranını kullanabilmek değil; o aracın karar mekanizmalarındaki etik açıkları da kavrayabilmektir.
Otonom araçlar yaygınlaştığında, bir kaza anında suçlu kim olacak? Aracı üreten marka mı, yazılımı yazan mühendis mi, yoksa sadece ‘yolcu’ konumunda olan bizler mi? Vicdanın olmadığı bir yerde hukuk nasıl işleyecek?
Şu an dünya devleri, yapay zekaya ‘ahlaki değerler’ yüklemek için milyarlarca dolar harcıyor. Oluşturulan projelerle, insanlara bu zor soruları sorarak bir toplumsal uzlaşı aranıyor.
Direksiyonu tamamen bırakmalı mıyız?
Teknoloji bizi daha güvenli yollara taşıyabilir, yorgunluktan kaynaklanan kazaları sıfıra indirebilir; buna şüphe yok. Ancak bir canın kıymetini tartmak, sadece birler ve sıfırlardan oluşan bir işlemciye bırakılamayacak kadar ağır bir sorumluluktur.
Gelecekte yollar ne kadar akıllı olursa olsun, insanın o "kusurlu ama vicdanlı" muhakemesine her zaman ihtiyaç duyacağız gibi görünüyor. Belki de en büyük dijital okuryazarlık, makinelere ne zaman güveneceğimizi ve ne zaman dizginleri ele almamız gerektiğini bilmektir.
Direksiyon başında (veya yanında) daima sorgulayan ve vicdanı yan koltuktan ayırmayan yolculuklar dilerim...
