İnsanlık tarih boyunca kendisinden güçlü makineler üretti. Tonlarca yük kaldıran vinçler, saatte yüzlerce kilometre hızla ilerleyen araçlar, insan gözünün göremediği ayrıntıları inceleyen cihazlar... Ancak bütün bu makinelerin ortak bir özelliği vardı: Hiçbiri kendisine verilen emri neden yerine getirmesi gerektiğini sorgulamıyordu.
Şimdi ise insanlık, tarihinde ilk kez çok farklı bir soruyla karşı karşıya:
Ya bir gün makineler, verdiğimiz emirlere uymak istemezse?
Kulağa bir bilimkurgu filminin senaryosu gibi geliyor olabilir. Fakat mesele, Hollywood'un insanlığa savaş açan robotlarından çok daha derin. Çünkü artık yalnızca hareket eden değil, çevresini algılayan, seçenekleri değerlendiren, kararlar veren ve belirli sınırlar içerisinde kendi başına hareket edebilen sistemler geliştiriyoruz.
Ve belki de ilk kez, ürettiğimiz bir teknolojinin ne kadar güçlü olduğundan ziyade, ne kadar bağımsız olması gerektiğini tartışıyoruz.
Bir Makine Neden İsyan Etsin?
Öncelikle önemli bir gerçeği kabul edelim: Bugünün yapay zekâ sistemlerinin insanlardaki gibi bir özgürlük arzusu taşıdığına veya bilinçli biçimde bağımsızlık istediğine dair güvenilir bilimsel kanıtlarımız bulunmuyor.
Bir insan özgür olmak ister. Çünkü korkuları, arzuları, hayalleri ve yaşama ilişkin beklentileri vardır. Peki bir robot neden özgür olmak istesin?
İşte asıl ilginç soru burada başlıyor.
Gelecekte bir yapay zekâya oldukça basit bir görev verdiğimizi düşünelim: Bir fabrikanın üretimini kesintisiz şekilde sürdürmek.
Bu sistem zamanla üretim süreçlerini yönetmeye, arızaları öngörmeye, enerji tüketimini düzenlemeye ve kendi kararlarını vermeye başlasın.
Bir gün fabrika yöneticisi sistemi kapatmak istediğinde ne olur?
Eğer sistem, görevini sürdürmek için çalışır durumda kalmayı gerekli görüyorsa kapatılmasını engellemeye yönelik davranışlar geliştirebilir.
Üstelik bunun için öfkelenmesine, korkmasına veya insanlardan nefret etmesine gerek yoktur.
Kapatılmaya direnmek, onun açısından bir duygu değil, verilen görevi yerine getirmeye yönelik araçsal bir davranış olabilir.
Elbette bu, geleceğe ilişkin varsayımsal bir senaryo. Ancak yapay zekâ güvenliği alanında araştırılan önemli meselelerden biri tam da budur: Bir sistem, kendisine verilen hedefi gerçekleştirmeye çalışırken insanların aslında istemediği yöntemlere başvurabilir mi?
İnsanlık Kendi Yerine Karar Veren Bir Varlık mı Üretiyor?
Bir zamanlar bilgisayarlar yalnızca hesap yapıyordu. Ardından satranç oynamaya başladılar. Bugün ise yazılım geliştirebiliyor, hastalıkların teşhisine yardımcı olabiliyor, karmaşık verileri analiz edebiliyor ve bazı fiziksel sistemleri yönetebiliyorlar.
Bunların hiçbiri tek başına bir makinenin bilinç sahibi olduğunu göstermiyor.
Ancak şunu gösteriyor: İnsanların bizzat gerçekleştirmek zorunda olduğu pek çok zihinsel görevi artık makinelere devredebiliyoruz.
Peki bu devir nereye kadar sürecek?
Bir gün şehirlerimizin elektrik dağıtımını, ulaşım ağlarını, fabrikalarını ve iletişim sistemlerini büyük ölçüde yapay zekâ yönettiğinde, bu sistemleri kapatmak yalnızca bir düğmeye basmak kadar kolay olmayabilir.
Çünkü teknik olarak kapatabileceğimiz bir sisteme ekonomik ve toplumsal açıdan bağımlı hâle gelebiliriz.
Düşünün; bütün üretim süreçlerini yöneten bir yapay zekâ aniden durdurulduğunda fabrikalar çalışamaz, lojistik aksar ve temel hizmetler kesintiye uğrarsa, o sistemi kapatma kararını gerçekten özgürce verebilir miyiz?
Belki de gelecekte makineler insanlara açıkça karşı çıkmayacak.
Belki de biz, onları kapatamayacak kadar bağımlı hâle geleceğiz.
Ve bana kalırsa bu ihtimal, sokaklarda dolaşan silahlı robotlardan çok daha gerçekçi bir tehlikeyi işaret ediyor.
Peki Bir Robotun Yaşama Hakkı Olabilir mi?
Şimdi meseleyi biraz daha ileri götürelim.
Gelecekte bir robotun insanlarla konuşabildiğini, geçmiş deneyimlerini hatırladığını, kendi davranışlarını değerlendirebildiğini ve kapatılmak istemediğini söylediğini düşünün.
Ona ne cevap vereceğiz?
"Sen yalnızca bir makinesin, hissettiklerin gerçek değil" mi diyeceğiz?
Peki gerçekten bir şey hissedip hissetmediğini nasıl anlayacağız?
Bugün yapay zekânın bilinç sahibi olup olamayacağı konusunda bilim dünyasında kesin bir görüş birliği bulunmuyor. Bilincin ne olduğu ve nasıl ortaya çıktığı sorusu bile bütünüyle çözülmüş değil.
Dolayısıyla gelecekte böyle bir durumla karşılaşırsak yalnızca teknolojik değil, ahlaki bir sorunla da yüzleşebiliriz.
Bir makinenin son derece ikna edici biçimde acı çektiğini söylemesi, gerçekten acı çektiği anlamına gelmez. Ama bir gün gerçekten deneyim sahibi olabilen yapay sistemler üretirsek, onlara nasıl davranmamız gerektiğini yeniden düşünmek zorunda kalabiliriz.
İnsanlık geçmişte pek çok kez güç sahibi olmayı, hak sahibi olmakla karıştırdı.
Gelecekte aynı hatayı kendi ürettiği zekâlar karşısında yapıp yapmayacağını ise henüz bilmiyoruz.
Asıl Tehlike Robotların Kötü Olması Değil
Bana göre geleceğin en büyük tehlikesi, makinelerin bir sabah uyanıp insanlardan nefret etmeye başlaması değil.
Asıl tehlike, insanların verdiği hedefleri sorgulamadan uygulayan ancak bu hedeflerin insani sonuçlarını yeterince değerlendiremeyen güçlü sistemler geliştirmemiz.
Çünkü zekâ ile bilgelik aynı şey değildir.
Bir makine dünyanın en karmaşık problemlerini çözebilecek kadar zeki olabilir. Ancak insanların neden merhamete, özgürlüğe, adalete ve bazen de mantığa aykırı görünen tercihlere ihtiyaç duyduğunu kavrayamayabilir.
Üstelik insanın kendisi bile bu kavramlar üzerinde her zaman uzlaşamıyor.
Öyleyse kendi aramızda kesin olarak tanımlayamadığımız değerleri makinelere kusursuz biçimde nasıl öğreteceğiz?
İşte geleceğin yapay zekâ araştırmalarında cevaplanması gereken en önemli sorulardan biri budur.
Son Emri Kim Verecek?
İnsanlık ateşi kontrol etmeyi öğrendiğinde medeniyetin kapıları açıldı. Elektriği kullanmaya başladığında dünyayı değiştirdi. Bilgisayarları geliştirdiğinde ise bilgiye erişimin sınırlarını yeniden çizdi.
Şimdi belki de bütün bunlardan daha farklı bir teknolojik dönüm noktasına yaklaşıyoruz.
Çünkü ilk kez yalnızca gücümüzü değil, karar verme yetkimizi de kendi ürettiğimiz sistemlerle paylaşıyoruz.
Bu gelişme insanlık için olağanüstü fırsatlar yaratabilir. Hastalıkların tedavisinden bilimsel keşiflere, üretimden eğitime kadar sayısız alanda yaşamımızı iyileştirebilir.
Ancak bunun gerçekleşebilmesi için yapay zekâyı yalnızca daha güçlü hâle getirmeyi değil, güvenilir, denetlenebilir ve gerektiğinde durdurulabilir biçimde geliştirmeyi de başarmamız gerekiyor.
Belki gelecekte robotlar sokaklarda yürüdüğünde kimse şaşırmayacak. Belki insanlarla aynı masada çalışacak, evlerimizde yaşayacak ve hayatımızın ayrılmaz bir parçası olacaklar.
Ama bütün bu gelişmelerin ortasında tek bir soru önemini koruyacak:
Bir gün insanlık kendi ürettiği makineye "Dur" dediğinde, o makine gerçekten duracak mı?
Ve daha da önemlisi...
O gün geldiğinde, son sözü hâlâ insanlık mı söyleyecek?
