İçinde bulunduğumuz teknoloji çağının temeli iki sayıya indirgenmiştir. “0 ve 1”. Ya hiçsin ya da hep varsın... Ya siyahsın ya da beyaz... Ya hayır veya evet... Ortası olmayan, ihtimallerden beri, griden yoksun bir süreç. Yoruma mahal vermiyor. Bilgi gibi keskin ve katî sınırları ve çizgileri olan bir yaşam. Algoritmaların sistemi kurguladığı bir düzen. Kimileri buna “matrix” diyor.

Kurucusu olduğumuz sonra da bizi yönlendiren bir sistem. Dışında mıyız, içinde mi, anlamlandıramadığımız bir kurgu.

Bize seçenekler sunuyormuş gibi görünürken esasında kararı kendisinin verdiği ve bize sadece yapmanın düştüğü bir düzlem. İradenin yok sayıldığı bir düzen. “İrade!” Bizi diğer canlılardan ayıran meleke… İrade yoksa karar verme yetisi de yok demektir.

Sistem size “bunu yap” demez. Sadece önünüze seçenekler koyar, İnsan ise önündeki seçenekler arasından birini özgürce seçtiğini düşünür. Günümüz özgürlük anlayışının en büyük sorunsalı…

Seçme özgürlüğümüz var mı, yoksa bize sunulanlar arasından mı seçim yapıyoruz? Biz mi seçiyoruz, yoksa dayatılanı mı seçince seçmiş mi oluyoruz? Daha da ötesi seçen miyiz, seçilen mi? Demokratik bir yanılgı içerisinde dönüp duruyoruz.

Tam otonom araçlarda olası bir kaza durumunda suçlu kim? Araç mı, yazılımı geliştiren mühendis mi, üretici şirket mi, yapay zekâ mı, aracı kullanan insan mı, yoksa karar mekanizmasını tasarlayan kodu oluşturan sistem mi? Kim suçlu olursa olsun, zararı yine insan görüyor, bedeli kendisi ödüyor. Faturası ödenen ürünün ne kadar sahibiyiz?

Hesap verilebilirlik insandan koparıldığı zaman yazılımın denetlenmesinin tek başına bir anlamı kalmıyor. Kod hatası, algoritma yanılması, makinenin yanlış kararı, yazılım ve üretim hatası, defolu ürün, kullanıcı hatası... dahası, dahası... Soruna konulan teşhis hangisi olursa olsun bedeli insana fatura ediliyor.

Bu kadar sorunun karşısında insan ne kadar bilge kalacak ve hikmete ne kadar vakıf olmak istiyoruz soruları cevaba muhtaçtır. Önümüzdeki mesele "big data"nın ne kadar akıllı olacağı değil, insanın aklını nasıl kullanacağı ve ne kadar ahlaklı olacağı meselesidir.

Bir makine saniyeler içinde milyarlarca veriyi işleyebilir. Ama doğru ile yanlış arasındaki farkı tek başına ölçemez. Bir yapay zekâ milyonlarca ihtimali hesaplayabilir. Ama hangi ihtimalin insan onuruna uygun olduğunu kendiliğinden bilmesi mümkün değildir.

Bilim “Nasıl yapılır?” sorusuna cevap verir. Teknoloji “Nasıl daha hızlı, daha güçlü, daha verimli yapılır?” diye sorar. Ama “Bunu yapılmalı mı?” sorusu vicdanın meselesidir.

Mesele, teknolojinin arkasındaki niyettir. Elimizde tarihin gördüğü en güçlü araçlar olabilir. Ama güçlü araçların doğru ahlakla buluşmadığı bir dünya, güveni değil kaosu besler. Ki dünyanın her yerinin yangın yerine çevrilmiş olması bunun acı örneğidir.

Bir komplo teorisi atalım ortaya. Geleceğin savaşları insanlar arasında değil insanın kendisi ile ahlaki değerleri arasında olacak. Ve bu savaş insanın sahip olduğu güç ile o gücü kullanma biçimi arasında yapılacak. Vicdan ile menfaat arasında, sorumluluk ile kolaycılık arasında... İnsanın elde ettiği her yeni güç, onun karakterinin imtihanıdır ve insan imtihan olmadığı şeyin kahramanıdır.

Ateşin kontrol altına alınmasıyla başladı insanlığın yeni bir imtihanı. Ateşi bulmasaydık belki de bu kadar can yapmayacaktı. Ama bu durum da kaçınılmazdı. O gün ateşin bulunması ne ise bugün teknolojinin geldiği nokta da budur. Teknolojinin varlığının öcü olarak kabul edilmesi değildir niyetimiz. Onu nerede, nasıl ve ne için kullanacağımızı bilmemiz ve belirlememiz elzemdir.

Bunların ötesinde bir şeyi unutmamamız gerekiyor: İnsanın her şeyi yapabilecek hâle gelmesi, her şeyi yapması gerektiği anlamına gelmez. Gerçek erdem yapabildiğimiz şeylerin arasından yapmamamız gerekenleri seçebilme cesareti göstermektir.

Sınırsız güç, kontrol edilemezdir. Bugünün en büyük sorunlarından birisi kontrol mekanizmasıdır. Kontrolünün sizde olmadığı bir sistemin efendisi değil, ancak kölesi olursunuz. Bu sistemin kodları arasına bıraktığımız dijital izler de, kontrolün bizden gittiğinin resmidir ve bireyi her türlü saldırıya açık hale getirir.

Saldırıya açık hale gelmekten daha da acısı insanın sanal âlemin aynasında kendisini dev olarak görmesidir ve bu yansımasını kendi gerçekliği olarak kabul etmesidir. Güneşe sırtınızı dönmüşseniz ve gölgeniz boyunuzdan uzunsa güneş sizden uzaklaşıyor ve gün batmak üzere demektir. Vaktin dolmasına ramak kalmıştır.

Hiçbir şey için henüz vakit geçmemiş iken teknolojinin ağlarında kontrolsüz halde dolaşmak yerine bıraktığınız izlere dikkat ederek kontrolü elden bırakmayın.