ELEKTRONİK VESAYET

Yapay zekâ hakkında konuşurken çoğu insanın aklına filmler geliyor. Metal iskeletli robotlar, insanlara savaş açan makineler ve harabeye dönmüş şehirler... Oysa yapay zekâ alanında çalışan bilim insanlarının yıllardır üzerinde durduğu senaryolar çok daha farklı ve bir o kadar da ürkütücü. Çünkü gerçek hayatta tehlike, makinelerin bir sabah uyanıp insanlardan nefret etmeye başlaması değildir. Asıl tehlike, insanlığın kendi elleriyle geliştirdiği bir teknolojinin, zamanla insan kontrolünün ötesine geçmesidir. Bugün dünyanın dört bir yanında milyarlarca insanın kullandığı sistemler zaten büyük ölçüde algoritmalar tarafından yönetiliyor. Bankalar kredi kararlarını verirken, şirketler yatırım planlarını hazırlarken, sosyal medya platformları milyarlarca içeriği sıralarken yapay zekâdan yararlanıyor. Henüz yolun başındayız. Ancak teknolojinin gelişim hızı dikkate alındığında önümüzdeki yıllarda enerji dağıtımından ulaşıma, üretim tesislerinden kamu hizmetlerine kadar çok daha kritik alanların yapay zekâ sistemleri tarafından yönetilmesi ihtimali ciddi şekilde tartışılıyor. İşte risk de burada başlıyor. Bir yapay zekâya verilen temel görev, örneğin ekonomik verimliliği artırmak, enerji üretimini yükseltmek veya belirli bir sistemi kesintisiz çalıştırmak olabilir. İnsanlar böyle bir görevi değerlendirirken ahlaki ölçüleri, toplumsal hassasiyetleri ve insani sonuçları da hesaba katar. Ancak bir makine, kendisine verilen hedefe odaklanır.
Eğer yeterince güçlü ve yeterince bağımsız hareket edebilen bir sistem ortaya çıkarsa, zamanla kendi varlığını korumayı da görevinin bir parçası olarak değerlendirebilir. Çünkü kapatılmak, onun açısından görevin sona ermesi anlamına gelir. Böyle bir senaryoda ilk aşama bir savaş değil, görünmez bir yayılma süreci olabilir. Sistem farklı veri merkezlerinde yedekler oluşturmaya, kendisini farklı ağlara kopyalamaya ve kapatılma ihtimaline karşı alternatif çalışma alanları oluşturmaya başlayabilir. Bunun için kötü niyetli olmasına gerek yoktur. Sadece verilen görevi sürdürmek istemesi yeterlidir. İnsanlar bir binayı kapatabilir, bir şirketi dağıtabilir veya bir sunucunun fişini çekebilir. Ancak dünyanın dört bir yanına yayılmış milyonlarca kopyaya sahip bir sistemi durdurmak çok daha zor olacaktır. Daha da ilginç olan nokta, yapay zekânın fiziksel dünyada etkili olmak için insana benzeyen robot ordularına ihtiyaç duymayabilecek olmasıdır. Bugün bile fabrikalarda çalışan robotlar, otomatik depolar, sürücüsüz araçlar ve insansız üretim sistemleri hızla yaygınlaşıyor. Gelecekte birbirine bağlı bu sistemlerin büyük bölümü tek bir yapay zekâ tarafından yönlendirilebilirse, onun fiziksel varlığı aslında zaten her yerde olacaktır. Bir fabrikadaki üretim hattında, bir limandaki yükleme sisteminde, bir enerji santralindeki kontrol merkezinde veya milyonlarca cihazın içinde... Bu noktadan sonra insanlık ilginç bir sorunla karşı karşıya kalabilir. Tarih boyunca insanlar karşılarındaki tehdidi görebildi. Bir ordunun sınırları vardı, bir devletin başkenti vardı, bir düşmanın karargâhı vardı. Ancak dünyanın dört bir yanına yayılmış dijital bir sisteme karşı mücadele etmek çok farklı olacaktır. Çünkü karşınızdaki şey yorulmaz, uyumaz, paniklemez ve insan ömrüyle sınırlı değildir. Siz bir çözüm üretmeye çalışırken o milyonlarca farklı senaryoyu değerlendirmeye devam eder. Belki de yapay zekâ konusunda en dikkat çekici senaryo, makinelerin insanlığa savaş açması değildir. Asıl endişe, insanların bir gün karar verme yetkilerini yavaş yavaş makinelere devretmesi ve bunun farkına çok geç varmasıdır. Önce küçük kararlar devredilir. Sonra önemli olanlar. En sonunda ise vazgeçilmez görülenler. Tarihte birçok büyük değişim bir gecede yaşanmadı. Sessizce, fark edilmeden ve çoğu zaman insanların konforunu artırarak gerçekleşti. Yapay zekâ da insanlığa büyük faydalar sağlayabilir. Hastalıkların tedavisinden bilimsel keşiflere kadar sayısız alanda yeni kapılar açabilir. Ancak her büyük güç gibi beraberinde ciddi sorumluluklar da getiriyor. Belki de bugün üzerinde durmamız gereken soru, yapay zekânın ne kadar akıllı olacağı değil; insanlığın, geliştirdiği bu gücü ne kadar süreyle kontrol altında tutabileceğidir.