OTONOM SİSTEMLER VE AHLAK

Teknoloji dünyasında her gün yeni bir sınırın aşıldığına şahit oluyoruz. Cep telefonları asistanlara, evler akıllı sistemlere ve arabalar kendi kendini süren otonom makinelere dönüştü. Bir Siber Güvenlik Uzmanı olarak kodların, algoritmaların ve o sonsuz "1 ve 0" döngüsünün içindeyim. Bizim dünyamızda her problemin matematiksel bir çözümü vardır. Peki ama işin içine insan hayatı, ahlak ve vicdan girdiğinde ne olacak?
    Felsefe tarihinde meşhur bir "Tramvay İkilemi" (Trolley Problem) vardır. Kontrolden çıkmış bir tramvay düşünün. Yönünü değiştirmezseniz rayların üzerindeki beş kişiyi ezecek. Eğer makası değiştirirseniz sadece bir kişiyi ezecek. Makası değiştirir miydiniz? Çoğu insan "Beş kişinin hayatı için bir kişiyi feda ederim" mantığıyla evet der.
    Peki bu senaryoyu günümüze uyarlayalım: Durağan sokaklarında seyreden, tamamen yapay zeka kontrollü otonom bir aracın içindesiniz. Aniden yola bir çocuk fırladı. Aracın fren mesafesi yok. Yapay zekanın önünde iki seçenek var: Ya direksiyonu kırıp kaldırımdaki yaşlı bir amcaya çarpacak ya da hiç yönünü değiştirmeyip yola fırlayan çocuğa çarpacak. Belki de üçüncü bir ihtimali seçecek; direksiyonu duvara kırıp içindeki yolcuyu, yani sizi feda edecek.
İşte tam bu noktada teknoloji, felsefeyle acımasız bir şekilde çarpışıyor. Bir makine kimin yaşayıp kimin öleceğine nasıl karar verir?
    Biz insanlar böyle bir kaza anında reflekslerimizle, paniğimizle ve içgüdülerimizle hareket ederiz. Yaptığımız seçimin ardında bir "kasıt" aranmaz, çünkü o anlık bir şoktur. Ancak bir yapay zeka panik yapmaz. Saniyede milyonlarca işlem yapan otonom bir sistemin verdiği karar bir "hata" ya da "refleks" değil, önceden yazılmış soğukkanlı bir tercihtir.
    Peki bu tercihi algoritmaya kim kodlayacak? Yazılım mühendisleri mi? Şirketlerin CEO'ları mı? Yoksa devletlerin yasaları mı? Bir canın değerini yaşa, mesleğe veya toplumsal statüye göre puanlayan algoritmalar yazarsak, insanlığı distopik bir kabusa sürüklemiş olmaz mıyız?
    Yapay zeka, elindeki veriyi işleyerek "en az hasarlı" olanı seçebilecek kusursuz bir mantığa sahip olabilir. Ancak ahlak, sadece hasar hesaplamasından ibaret değildir. Ahlak; merhamettir, adalet duygusudur, vicdan azabıdır. Bir makine ne kadar zeki olursa olsun, yaptığı bir seçimden dolayı geceleri uykusu kaçmaz.
    Sonuç olarak; teknolojiyi geliştirirken "Kusursuz mantık, insani vicdanın yerini tutabilir mi?" sorusunu kendimize sormaya devam etmeliyiz. Geleceği inşa ederken makinelerimize sadece nasıl "düşüneceklerini" değil, insanlığın değerlerine nasıl saygı duyacaklarını da öğretmek zorundayız. Aksi takdirde, kusursuz işleyen ama ruhu olmayan bir sistemin içinde hepimiz birer veriden ibaret kalırız. Sağlıcakla kalın.