“Teknolojinin Ergenliği” benzetmesi ilk bakışta çok yerinde: Güç var, enerji var, özgüven tavan, ama aynaya bakıp “Ben kimim, ne yapıyorum?” diye soracak bir iç disiplin henüz yok. Amodei’nin metni tam olarak bu huzursuzluğu yayıyor. Bir tür “Bir şeyler çok hızlandı ve kimse frene basmayı öğrenmedi” hissi. Bu teşhise büyük ölçüde katılıyorum. Ama aynı zamanda şunu da sormadan edemiyorum: Biz gerçekten ergen miyiz, yoksa yetişkin rolü oynayan çocuklar mıyız?
50 milyon dahiden oluşan dijital ülke metaforu etkileyici. Hatta biraz fazla etkileyici. Çünkü zihnimizde hemen bir harita beliriyor: sınırlar, güç dengeleri, tehditler. Oysa asıl tuhaf olan şu: Bu “ülke” bir yerde değil. Ne bayrağı var ne marşı. Ama her kurumun masasının üzerinde sessizce oturuyor. Ve kimse ona oy vermedi. Belki de asıl mesele bu: Modern dünyada gücün demokratik meşruiyetle bağının tamamen kopması.
Amodei’nin dört risk başlığına bakınca ortak bir damar görüyorum: asimetrik güç. Bir kişinin, bir grubun ya da bir rejimin, daha önce mümkün olmayan ölçekte etki yaratabilmesi. Otonomi meselesi bunun en felsefi olanı. “AI bizi kandırabilir mi?” sorusu aslında şu anlama geliyor: Biz, kendimizden daha karmaşık bir niyeti okuyabilecek miyiz? İnsanlık, kendi icat ettiği bir zihnin iç dünyasını anlamakta zorlanıyorsa, belki de sorun AI’ın zekâsı değil, bizim öz-farkındalık seviyemizdir. Kendimizi bile çoğu zaman yanlış okurken…
Biyolojik silahlar kısmı ise ürkütücü ama dürüst olalım: Asıl korkumuz teknoloji değil, insan hayal gücü. AI sadece hayal gücünü düşük maliyetli hale getiriyor. Daha önce “çok zor” dediğimiz şeyler artık “çok yanlış” kategorisine giriyor. Bu bir ilerleme mi? Teknik olarak evet. Ahlaken… sessiz bir boşluk.
İş kaybı meselesinde Amodei’nin haklı olduğu kadar eksik olduğunu düşünüyorum. Beyaz yakalı işler azalacak, evet. Ama asıl yıkım işlerin gitmesi değil, anlamın erozyonu olacak. İnsanlara yıllarca “aklını kullan, oku, kendini geliştir” dedik. Şimdi akıl bir API çağrısı kadar ucuzsa, insan kendini nereye konumlayacak? Belki de asıl soru şu: Çalışmak zorunda kalmadığımızda, kim olmak zorunda kalacağız?
Otoriter rejimler konusundaysa Amodei fazla nazik. AI diktatörlerin eline geçerse ne olur diye soruyor; oysa daha rahatsız edici soru şu olabilir: AI zaten bürokratik zihniyetin ideal biçimi değil mi? Soğuk, verimli, itiraz etmeyen. Belki de diktatörlük, AI’yı kullanmayacak; AI, diktatörlüğün en rafine hali olacak. Kim bilir, belki de en tehlikeli rejimler slogan atmayanlar olacak.
Ama burada Amodei’ye itiraz ettiğim bir nokta var: Sürekli “hazır değiliz” diyoruz. Ne zaman hazırdık ki? Matbaa çıktığında hazır mıydık? Nükleer enerji bulunduğunda? İnternet geldiğinde? İnsanlık hep koşarken ayakkabısını bağlamaya çalıştı. Belki de sorun ergenlik değil; belki bu bizim doğal halimiz. Kaos içinde öğrenmek.
Yine de şu soruyu sormadan edemiyorum: Eğer bu kadar güçlü bir teknolojiyi yönetebilecek küresel bir olgunluğa ulaşamayacaksak, neden onu yaratmakta bu kadar ustayız? Ve daha kötüsü: Eğer frene basamayacaksak, neden hâlâ gaza bu kadar güveniyoruz?
Belki de “Teknolojinin Ergenliği” değil, insanlığın ebeveynliği eksik. Güçlü bir şey doğurduğumuzda ona sadece hayran kalıyoruz. Sorumluluk almadan seviyoruz. Sonra da yaramazlık yaptığında şaşırıyoruz.
Ve evet, biraz ürkütücü. Ama belki de iyi bir korku bu. Uykumuzu kaçıran cinsten. Çünkü tarih bize şunu gösteriyor: İnsanlık genelde en derin uyanışlarını, en rahatsız edici sorular sorulduğunda yaşıyor. Şimdi o sorular masada. Kaçmak kolay. Cevaplamak ise… büyümeyi gerektiriyor.
#ergenlik #yapayzeka #asimetrikgüç