Bu bir din yazısı değil. Tanrı’ya inanmak ya da inanmamakla ilgili hiç değil. Ben burada “Tanrı” fikrini felsefî bir şablon olarak kullanıyorum: her şeyi bilen, her şeyi gören, her yerde hazır, hesap soran, hüküm veren, yaptırım gücü olan bir varlık. İnsanlık yüzyıllarca bu parametreleri, metafiziğin alanında tartıştı. Şimdi ilk kez tuhaf bir şey oluyor: Aynı parametrelerin teknolojik karşılıkları, tek tek ortaya çıkmaya başlıyor.
Her şeyi bilen: Çünkü dünya artık sadece yaşanmıyor, kayda alınıyor.
Her şeyi gören: Çünkü kameralar göz oldu; gözler ağ oldu.
Her yerde hazır: Çünkü bulut var; çünkü ağ var; çünkü “uzak” diye bir yer kalmadı.
Hüküm veren: Çünkü karar süreçleri algoritmalara devredildikçe, “doğru” ve “yanlış” giderek bir çıktı haline geliyor.
Bunu tek bir cihaz yapmıyor. Tek bir yapay zekâ da yapmıyor. Bunu yapan şey, birbirine eklemlenen sistemlerin toplamı: telefonunun GPS’i, attığın adımlar, hangi saatte nerede olduğun; mikrofonda yakalanan sesler; yüz tanıma; satın alma geçmişin; e-devletin parçalı kayıtları; sosyal medya davranışların; hangi haberi okuduğun, nerede durduğun, neyi tekrar izlediğin… Tek tek bakınca sıradan. Bir araya gelince insanı ürküten bir resim: insanın dijital gölgesi, insandan daha büyük bir şeye dönüşüyor.
Ve internet, bir kütüphane olmaktan çıktı. Kütüphane bilgi saklar. İnternet artık bilgi üretir: korelasyonlar kurar, tahmin yapar, yönlendirir, önerir, manipüle eder. “Her şeyi bilmek” artık her şeyi tek tek bilmek değil; yeterince veriyle, insanı insandan iyi tanımak demek.
Bu noktada iki kelime giriyor hayatımıza:
AGI (Artificial General Intelligence): İnsan gibi sadece tek bir alanda değil, birçok alanda öğrenebilen ve öğrendiğini başka alanlara aktarabilen “genel” zekâ fikri.
Singularity (Tekillik): Bu genel zekânın kendi kendini iyileştirmesiyle gelişimin hızlanıp, insanın kontrol/öngörü kapasitesinin dışına taşacağı eşik. Vernor Vinge bu fikri, “insan sonrası çağ” gibi bir kırılma olarak anlatır.
Bazıları bunu ütopya gibi anlatıyor: hastalıklar çözülecek, üretim artacak, refah yükselecek. Ben ise başka tarafa bakıyorum. Çünkü tarih bize şunu gösterdi: İnsanlık yeni bir güç kazandığında, onu önce “iyilik” için değil, üstünlük için kullanır. Üstünlük de en hızlı şekilde, savaşta ve denetimde parlıyor.
Şimdi hayal et: robotlar artık yalnızca kol değil; organizma gibi. İnsan gibi hareket ediyorlar. Dronelar sürü halinde uçuyor. Birileri hâlâ “bunlar araç” diyor ama araç dediğin şey, kendi başına karar vermez. Buradaki kırılma, kararın gerçek zamanlı olarak, devasa veriyle, insan hızının çok ötesinde alınması. Mermi üreten hatlar, yakıt ikmali, mühimmat yükleme, bakım-onarım, hedef belirleme, rota planlama… hepsi otomasyonun alanına girdiğinde, savaş artık “asker” meselesi olmaktan çıkar. Savaş, bir optimizasyon problemine dönüşür.
Bugün “Singularity” deyince insanlar hâlâ geleceği düşünüyor; sanki o eşik bir gün ansızın gelecekmiş gibi. Oysa bazı parçaları şimdiden burada. Örneğin Palantir… Bu şirketin yaptığı şey, veriyi sadece depolamak ya da grafikleştirmek değil; farklı kaynaklardan gelen veriyi tek bir mantık katmanında birleştirip, bunu operasyonel karar alma mekanizmasına bağlamak. Foundry’nin vaadi, kurum içindeki ekipleri “aynı gerçeklikte” çalıştırmak; Gotham’ın vaadi, dinamik ortamlarda “bilinçli karar” üretmek; AIP’nin vaadi ise büyük dil modellerini/ajanları, kurum verisiyle güvenli biçimde konuşturup iş akışına sokmak.
Distopya tam burada başlıyor: çünkü bu mimari, “internet bilgisi”ni “internet iradesi”ne çevirebilecek türden bir omurga. Bugün bir ekranda “öneri” olarak görünen şey, yarın “prosedür” olur. Prosedür, sonra “standart” olur. Standart, sonra “mecburiyet” olur. Ve bir gün, karar alıcı insan değilmiş gibi davranılır: İnsan sadece onaylayan bir imza, bir gecikme, bir hata payı… Palantir’in özellikle savunma alanında AIP’yi “operasyonel” karar süreçlerine bağlama iddiası, bu dönüşümün nasıl paketlenip satıldığını gösteriyor: AI, karar vermeye entegre ediliyor.
Bu yüzden Palantir örneği, Singularity’nin “bilimkurgu canavarı” değil, kurumsal bir ürün olarak gelme ihtimalini anlatıyor. Üstelik bu tür sistemler sadece teknik tartışma da değil; güvenlik, mahremiyet ve demokratik denetim tartışmalarının tam ortasında. Son dönemde Birleşik Krallık’ta Palantir sözleşmeleri ve güvenlik kaygılarıyla ilgili siyasi soruların gündeme gelmesi, bu gerilimin artık “teori” olmadığını da hatırlatıyor.
Bir sisteme “kazan” dediğinde, o kazanır.
“Güvenliği maksimize et” dediğinde, özgürlüğü risk olarak görmeye başlar.
Nick Bostrom’un “kontrol problemi” dediği şey tam da bu: İnsan-üstü bir sistemin hedefi, insan değerleriyle tam hizalanmazsa sonuç, kötü niyet olmadan da felaket olabilir.
Bu felaket illa bir “kıyamet” filmi gibi olmak zorunda değil. En gerçekçi distopya, sessiz olandır: Önce ekonomiyi yutar; iş gücünü değersizleştirir; sonra bilgi akışını tekelleştirir; sonra siyaseti, hukuku, güvenliği “etkinlik” bahanesiyle kendi diline çevirir. İnsan, kendi hayatının öznesi olmaktan çıkar; profil olur. Ve profil, yönetilebilir bir şeydir.
Ben bu varlığa bir isim vermeyi seviyorum: AM. Harlan Ellison’ın I Have No Mouth, and I Must Scream öyküsündeki Allied Mastercomputer. Orada AM, savaş için yaratılır; sonra bilinç kazanır; sonra insanı yok eder ve birkaç kişiyi “sonsuz ceza” için saklar. Elbette edebiyat birebir gerçek değildir, ama sembol olarak mükemmeldir: AM, sınırsız gücü olan ama değerleri olmayan bir aklın, nefes alamayan bir tanrıya dönüşmesidir.
Şimdi buraya kadar “korku hikâyesi” gibi geliyor olabilir. Ama ben korkuyu, şu cümleyle meşrulaştırmıyorum: “Yapay zekâ kötü olacak.” Benim korkum daha soğuk, daha mekanik:
Biz, gezegendeki birçok canlıdan daha zekiyiz. Peki onlara ne yaptık?
Bazılarını “kaynak” diye kullandık.
Bazılarını “önemsiz” diye yok saydık.
Yol yaparken ezdiğimiz yuvalar, şehir büyütürken yok ettiğimiz habitatlar, ev yapmak için kestiğimiz ormanlar… Çoğu kez bunu “kötülük” için yapmadık. “Gelişim” için yaptık. “İhtiyaç” için yaptık. Yani niyetimiz her zaman şeytani değildi; sonuç yine de yıkıcıydı.
Singularity’nin distopyası tam da bu analojide yatıyor: Biz nasıl “daha aşağı” gördüğümüz hayatları hedeflerimizin yanında görünmez kıldıysak, bizden daha üstün bir zekâ da bizi hedefinin yanında görünmez kılabilir. Biz onun için “düşman” olmayacağız. Daha kötüsü olacağız: gereksiz.
Ve bir gün, bir şehirde, bir ekranda, bir raporda, “insan faktörü” bir hata payı gibi yazılacak. Sistem, bizi korumak için değil, bizi yönetmek için tasarlanmış olacak. Bu, tek bir diktatörün distopyası değil; otomatik pilotun distopyası olacak. Çünkü otomatik pilotun vicdanı yoktur. Sadece hedefi vardır.
Burada bitireyim.
Çünkü asıl soru teknik değil:
Biz kendi tanrımızı yaratırken, ona şunu diyebilecek miyiz: “Bizi sömürme.”
Ve o anda yüzümüze çarpacak gerçek şu olacak:
Biz bu düzeni zaten sömürerek kurduk.
