KARA KUTU

İnsanoğlu tarih boyunca icat ettiği her makinenin mutlak hakimi oldu. Bir araba motorunun nasıl çalıştığını milimetrik detaylarına kadar biliriz; çünkü onu biz tasarladık. Bir saatin içindeki çarkların birbirini nasıl çevirdiğini görebiliriz. Bugüne kadar kullandığımız bilgisayar programları ve yazılımlar da böyleydi. Yazılımcı kodu satır satır yazar, sistemin hangi mantıkla çalışıp hangi sonucu vereceğini adım adım belirlerdi. Geleneksel yazılım bir yemek tarifi gibidir; ne eklerseniz, ne ölçüde karıştırırsanız sonucun ne olacağını bilirsiniz.
    Ancak bugün yapay zeka devrimiyle birlikte teknoloji tarihinde ilk defa ezber bozan, hatta geliştiricilerini bile ürküten bir tabloyla karşı karşıyayız: Kendi ellerimizle inşa ettiğimiz, ama içeride tam olarak nasıl çalıştığını anlayamadığımız bir teknoloji.
Teknoloji dünyasında buna "Kara Kutu Problemi" (Black Box Problem) deniyor.
    Günümüzde dünyayı kasıp kavuran ChatGPT gibi yapay zeka sistemleri, eski usul "şunu yaparsan bu sonucu ver" mantığıyla çalışmıyor. Derin öğrenme (deep learning) dediğimiz bu yeni sistemlerde mühendisler, sadece yapay zekanın beynini (sinir ağlarını) kuruyor ve ona devasa boyutta veriyi verip "Öğren!" diyor. Makine de o milyarlarca kelimelik, fotoğraflık veya kodluk verinin içine dalıyor, kendi kendine trilyonlarca bağlantı kuruyor ve bir sonuca ulaşıyor.
İşte sorun da tam burada başlıyor. Biz sisteme bir soru soruyoruz (Girdi / INPUT) ve saniyeler içinde bize mükemmel bir cevap veriyor (Çıktı / OUTPUT). Ama o harika cevaba ulaşırken arka planda kurduğu o trilyonlarca matematiksel bağlantının mantığını kimse göremiyor. Araştırmacılar, o devasa verinin işlendiği karanlık odaya bakıp "Bu makine bu cevabı tam olarak hangi mantık silsilesiyle verdi?" diye sorduğunda tatmin edici bir cevap bulamıyorlar. Ortada devasa bir mantık çorbası var ama şefin sırrını kimse bilmiyor.
    Daha da ilginci, bu karanlık odadan "Beliren Yetenekler" (Emergent Abilities) adını verdiğimiz bir durum doğuyor. Yapay zekaya özel olarak yabancı bir dil çevirmeyi veya karmaşık bir kod yazmayı öğretmiyorsunuz. Sadece sistemin kapasitesini büyütüyorsunuz ve makine bir anda, kendi kendine hiç öğretilmeyen bir yeteneği sergilemeye başlıyor. Mimarları bile şaşkınlıkla "Biz ona bunu yapmasını söylemedik, kendi kendine nasıl çözdü?" diyerek ekran başında kalakalıyor.
    Peki bu durum neden bu kadar büyük bir sorun? Neden sadece "Ne güzel işte, işimizi yapıyor" deyip geçemiyoruz?
Çünkü günün sonunda mesele dönüp dolaşıp "güven" ve "sorumluluk" kavramlarına dayanıyor. Kara kutunun içini göremediğimiz için, yapay zekanın kararlarında hangi ahlaki veya mantıksal değerleri baz aldığını bilemiyoruz. Yarın bir gün otonom bir araç, kaza anında kimin hayatını kurtaracağına saniyeler içinde karar verecek. Tıbbi bir yapay zeka, bir hastanın tahlillerine bakıp hayati bir tedavi önerecek. Bir bankanın yapay zekası kredi başvurunuzu reddedecek.
    Bu sistemler yanlış bir karar verdiğinde veya bir insana zarar verdiğinde "Neden böyle bir karar aldın?" diye soramayacağız. Çünkü ortada okunabilecek açık bir kod, anlaşılabilir bir mantık zinciri yok. Sadece karanlık, koca bir kutu var.
    Büyük teknoloji şirketleri şu an harıl harıl bu kutunun içini aydınlatmaya, kendi ürettikleri makinelerin çalışma mantığını çözmeye çalışıyorlar. Terminatör filmlerindeki gibi makinelerin dünyayı ele geçireceği senaryolarından korkmamıza şimdilik gerek yok belki ama, direksiyonunda ne düşündüğünü asla bilemediğimiz çok zeki bir şoförün olduğu bir otobüste son sürat yolculuk ettiğimiz de bir gerçek.
Umarız o karanlık kutunun içinde, insanlığın faydasına olan doğru rotalar çiziliyordur.