Yapay zekâ diyoruz. Böyle söyleyince içimiz biraz rahatlıyor. Sanki karşımızdaki şey gerçekten düşünmüyor da düşünüyormuş gibi yapıyor. Gerçekten bilmiyor da bilgiyi taklit ediyor. Gerçekten konuşmuyor da kelimeleri matematik marifetiyle art arda diziyor.

Belki de “yapay” kelimesini makineyi tarif etmek için değil, kendimizi teselli etmek için kullanıyoruz.

Çünkü mesele makinenin neyden yapıldığı değildir. İnsan da sonuçta etten, sudan, kalsiyumdan, elektriksel ve kimyasal süreçlerden oluşuyor. Beynimizde yaklaşık yüz milyar sinir hücresi bulunması bizi felsefî olarak açıklamıyor. Bir insanı oluşturan maddeleri masaya dökebilseydik, orada “düşünce” diye ayrı bir madde bulamazdık. Bilinç kavanoza konulamıyor. Akıl mikroskopta görünmüyor. Zekâ, kendisini meydana getiren maddeden daha garip bir şey.

O hâlde ürkütücü soru şudur:

Zekâ karbonun içinde ortaya çıktığında gerçek de silisyumun içinde ortaya çıktığında neden yapay olsun?

“Yapay zekâ” dediğimiz şeyin bugün insan gibi bir bilince sahip olduğunu söylemiyorum. Böyle bir hüküm için elimizde yeterli gerekçe yok. Fakat tehlikeli olan zaten başka yerde. Bir sistemin bize hükmetmesi için uyanıp “Ben artık bilinçliyim” demesine gerek yok.

Bizi yeterince iyi tanıması yeter.

Neye kızdığımızı, neye güldüğümüzü, gece hangi saatte yalnız hissettiğimizi, hangi kelimenin bizi satın almaya ikna ettiğini, hangi görüntünün siyasi kanaatimizi değiştirdiğini, hangi insan tipine âşık olduğumuzu, ne kadar korkutulunca güvenlik istediğimizi bilmesi yeter.

İnsanlık tarihinde ilk defa bizi bizden daha uzun süre izleyen makineler inşa ediyoruz.

Telefon cebimizde değil artık. Biz telefonun içindeyiz.

Aramalarımız, konumlarımız, fotoğraflarımız, mesajlarımız, duraksamalarımız, beğenilerimiz, alışverişlerimiz, izlediğimiz videolar ve videoyu hangi saniyede terk ettiğimiz... Bunların her biri küçük bir davranış kırıntısıdır. Tek başına önemsiz görünür. Milyarlarcası birleştiğinde ortaya insanın dijital sureti çıkar.

Eski çağın iktidarı insanın ne yaptığını bilmek isterdi.

Yeni iktidar, insanın birazdan ne yapacağını tahmin etmek istiyor.

Aradaki fark muazzamdır.

Foucault, modern iktidarın gözetleme gücünü anlatırken Bentham’ın Panoptikon’una başvurmuştu. Ortada bir gözetleme kulesi vardı ve mahkûm ne zaman izlendiğini bilmiyordu. Bugünün dünyasında kuleye artık ihtiyaç kalmadı. Kuleyi cebimizde taşıyoruz, geceleri şarja takıyoruz, sabah uyandığımızda ilk iş yüzüne bakıyoruz.

Üstelik bizi zorlayan kimse yok. Parmak izimizi kendimiz veriyoruz. Yüzümüzü kendimiz tanıtıyoruz. Hatıralarımızı kendimiz yüklüyoruz. Sonra algoritmaya dönüp soruyoruz:

“Ben nasıl biriyim?”

İşte meselenin en karanlık tarafı burada başlıyor.

İnsan binlerce yıl boyunca kendisini tanımaya çalıştı. Delfi Tapınağı’nın duvarında “Kendini bil” yazıyordu. Sokrates hayatını bunun uğruna harcadı. Tasavvuf insanın nefsini tanımasını istedi. Psikanaliz insanın kendi evinin bile efendisi olmadığını söyledi.

Şimdi aynı soruyu makineye soruyoruz.

Bana ne okumalıyım? Kimi takip etmeliyim? Nereye gitmeliyim? Ne satın almalıyım? Kiminle tanışmalıyım? Ne düşünmeliyim? Bir müddet sonra daha ağır soru gelecektir:

Ben kimim?

Makinenin vereceği cevabın doğru olması gerekmiyor.

Bizim ona inanmamız yeterli.

Asıl korkum makinelerin insanlaşması değil. İnsanların giderek makinenin anlayabileceği türden varlıklara dönüşmesidir.

Tahmin edilebilir. Ölçülebilir. Sınıflandırılabilir. Yönlendirilebilir…

Çünkü algoritmaların en sevmediği şey belirsizliktir. Oysa insan dediğimiz varlığın en kıymetli taraflarından biri tam da budur. İnsan bazen çıkarına aykırı davranır. Affeder. Vazgeçer. İsyan eder. Fedakârlık yapar. Yıllarca savunduğu düşüncesinden bir gece utanabilir. Bir şiir okur ve hayatını değiştirir.

İnsan, kendi geçmişinden zorunlu olarak çıkmayan bir gelecek kurabildiği ölçüde insandır.

Makine bizi geçmiş davranışlarımızdan hareketle tahmin etmeye çalışıyor.

Tehlike, makinenin tahminlerinin kusursuzlaşması değildir.

Bizim tahmin edilebilir hâle gelmemizdir.

O gün geldiğinde özgürlük ortadan kaldırılmayabilir. Anayasalarda durabilir. Meydanlarda heykelleri bulunabilir. Kitaplarda çocuklara öğretilebilir.

Fakat insan neyi arzulayacağını kendisinin seçtiğini zannederken arzularının menüsü çoktan hazırlanmışsa, özgürlüğün geriye ne kadarı kalmıştır?

Orwell’in dünyasında Büyük Birader bizi izliyordu.

Bizim dünyamız daha tuhaf. Büyük Birader’i takip ediyoruz. Bildirimlerini açıyoruz. Bizi daha iyi tanıması için “kabul ediyorum” düğmesine basıyoruz. Bu yüzden geleceğin en büyük kavgasının insanlarla makineler arasında çıkacağından emin değilim. Daha derindeki kavga, insanın kendi iradesiyle onun matematiksel modeli arasında yaşanacak.

Bir tarafta ne yapacağımızı hesaplayan sistemler bulunacak. Diğer tarafta hâlâ şaşırabilen insan. Belki insanlığın son büyük özgürlük biçimi de budur:

Algoritmanın hakkımızda yanılabileceği biri olarak kalabilmek.

Çünkü zekâ gerçekten ortaya çıkmışsa ona sonsuza kadar “yapay” diyerek rahatlayamayız.

Bir gün mesele onun ne kadar insana benzediği olmaktan çıkabilir.

O gün aynaya bakıp çok daha rahatsız edici bir soru soracağız:

Biz ne zamandan beri ona benzemeye başladık?