Son sekiz yılım dijital kültür, gençlik, sosyal medya ve son yıllarda yapay zekâ üzerine çalışmakla geçti. Böyle bir uğraş insana geleceği görme yeteneği vermiyor. Zaten gelecek hakkında fazla kesin konuşanlardan oldum olası kuşkulanırım. Fakat aynı şeylere uzun süre bakmanın küçük bir sonucu var: Bir zamanlar sıradan görünen bazı şeyler, anlamları değiştiği için, bir gün gözünüze tuhaf görünmeye başlıyor. Benim için son zamanlarda çocuk fotoğrafları böyle.

Eskiden bir çocuğun fotoğrafına baktığımda fotoğraf görürdüm. Aile albümünde duran, büyükanneye gönderilen, yıllar sonra bir çekmeceden çıkarılıp “Ne kadar küçücükmüşsün” denilen bir hatıra. Fotoğraf olmuş bir şeyi saklardı. Şimdi aynı görüntüye bakarken başka sorular geliyor aklıma: Nerede tutuluyor, kim indirebilir, kaç kere çoğaltılabilir ve daha önemlisi, o yüzle neler yapılabilir?

Fotoğraf değişmedi. Onunla kurduğumuz ilişki değişti. Bir zamanlar geçmişte kalmış bir ânın izi olan görüntü, bugün henüz gerçekleşmemiş görüntülerin hammaddesine dönüşebiliyor.

Bir çocuğun yüzünü hiç bulunmadığı bir yere taşıyabiliyor, söylemediği sözleri onun sesiyle söyletebiliyor, yaşamadığı bir hadiseyi yaşanmışlığın bütün işaretleriyle kurabiliyoruz. İftira, şantaj ve başkasının adına konuşmak yeni kötülükler sayılmaz. İnsan bunların hiçbirini bilgisayar çağında öğrenmedi. Yenilik başka yerde: İftira artık kendi delilini de üretebiliyor. Eskiden biri sizin hakkınızda yalan söylerdi. Şimdi yalan, yüzünüzü ve sesinizi alıp kendi başına dolaşıma çıkabiliyor.

On dört yaşındaki bir öğrencinin üretilmiş görüntüsünün okulda dolaştığını düşünelim. Birkaç gün sonra görüntünün sahte olduğu anlaşılsın. “Neyse ki gerçek değilmiş” denilecektir. Cümle teknik bakımdan doğrudur, insani bakımdan pek bir şey çözmez. Olay yaşanmamıştır fakat ertesi sabah okulun kapısından girecek çocuk gerçektir. Koridorda kimlerin görüntüyü gördüğünü düşünmesi, sınıfa girdiğinde arkadaşlarının yüzlerini yoklaması, telefonuna gelen bildirimin ne olduğunu merak ederken duyduğu sıkıntı gerçektir. Yaşanmamış bir olayın gerçek bir mağduru olmak artık mümkün.

Burada eskiden pek düşünmediğimiz başka bir mesele ortaya çıkıyor. Bir insanın itibarı artık yaptıkları kadar, hiç yapmadığı hâlde ona yaptırılabilen şeylerden de zarar görebilir. Kişi kendi geçmişinden sorumlu tutulmaya alışkındır; sentetik görüntü ise ona hiç yaşamamış olduğu bir geçmiş armağan edebilir. Üstelik görüntünün daha sonra yalanlanması ilk karşılaşmanın etkisini bütünüyle geri almıyor. İnsan zihni mahkeme tutanağı gibi çalışmıyor. Bir kere gördüğümüz şeyi, sahte olduğunu öğrendikten sonra zihnimizden dosya siler gibi çıkaramıyoruz.

Daha eski bir güvenimiz de aşınıyor. “Kendi gözümle gördüm” sözü yüzyıllar boyunca güçlüydü, çünkü görmekle bilmek arasında neredeyse kendiliğinden bir bağ kurduk. Fotoğraf ve ses kaydı bu bağı kuvvetlendirmişti. Şimdi görüntünün kendisi tanıklık etmekten çıkıp sorgulanması gereken şeye dönüşüyor. Yakında güç soru “Bu sahte mi?” olmayabilir. Gerçek olanın gerçekliğini nasıl göstereceğimizle de uğraşabiliriz.

Burada ortaya çıkan şeyi bir tür kanıt krizi olarak görmek mümkün. Her sahte görüntünün karşısına gerçek görüntüyü, her sahte sesin karşısına gerçek sesi koyduğumuzda mesele çözülmüyor; çünkü bir süre sonra hangi kaydın diğerini doğrulayacağı sorusu başlıyor. Yalanın çoğalması eski bir toplumsal sorundur. Gerçeğin sürekli kimlik göstermeye mecbur kalması ise daha yeni bir durum.

Yine de bütün suçu makineye yükleyip rahatlamak fazla kolay olur. Makine bizi görünür olmaya zorlamadan önce görünürlüğü sevmiştik. Çocuklara özel bilgilerini paylaşmamalarını öğütlerken doğdukları günden itibaren hayatlarını kendimiz yayımladık. İlk diş, ilk karne, okulun ilk günü, forma, doğum günü, tatil... Kurumlar da aynı alışkanlığı edindi. Çocuk yüzleri zamanla ailelerin ve kurumların dijital anlatısının olağan malzemesine dönüştü.

Kendimi burada dışarıda tutmuyorum. Hepimiz fotoğraf paylaşmanın fotoğraf göstermek anlamına geldiği bir dünyanın alışkanlıklarıyla yetiştik. Bir görüntüyü yayımlamakla onu başka görüntülerin hammaddesine çevirmek arasındaki mesafenin birkaç saniyeye ineceğini hesaba katmadık.

İnternetin ilk dönemlerinde temel mesele kopyalamaydı. Bir fotoğrafınızı koyduğunuzda başkası onu indirebilir, saklayabilir, başka yerde yayımlayabilirdi. Şimdi başka bir aşamadayız. Görüntünüzün aynen kopyalanmasına bile gerek kalmadan ondan yeni görüntüler üretilebiliyor. Sesiniz kaydedilmekle kalmıyor, konuşmadığınız cümlelerin sesi olabiliyor. Dijital iz artık arşivde duran bir iz değil; işlenebilir bir malzemeye dönüşüyor.

Rıza meselesini bu nedenle yeniden düşünmek gerekiyor. Fotoğrafımı paylaşmam, yüzümden başka görüntüler yapılmasına izin verdiğim anlamına gelmez. Sesimin internette bulunması, benim sesimle yeni cümleler kurulmasını kabul ettiğimi göstermez. Hele söz konusu çocuksa “Zaten internette vardı” cümlesi izin yerine geçemez. İnternet bir şeyi erişilebilir kılabilir; sahipsiz kılamaz.

Yıllarca kişisel veriler konusunda “Benim hakkımda ne biliyorsun?” diye sorduk. Yerinde bir soruydu, çünkü dijital dünyanın ilk büyük meselesi verinin toplanmasıydı. Şimdi veri toplamanın yanına veri üretimi eklendi. Dolayısıyla sorunun ikinci yarısı ortaya çıktı:

Benim hakkımda bildiklerinle benden ne üretebilirsin?

⊘ME fikri buradan çıktı. Benim için anlamı Beni Üretme. Fotoğrafımı görmüş, sesimi duymuş, internette bıraktığım izlere ulaşmış olman, bunlardan hiç yaşamamış, hiç konuşmamış, hiç yapmamış başka bir “ben” kurma yetkisini sana vermiyor.

Özellikle çocuklarda sentetik kullanıma rıza varmış gibi hareket edilemez. Hatta çocuk söz konusu olduğunda düşünme biçiminin tersine çevrilmesi gerektiği kanaatindeyim. Çocuğun görüntüsünün internette bulunması kullanıma açık olduğu anlamına gelmemeli; açık bir izin bulunmadığı sürece sentetik kullanıma kapalı kabul edilmelidir.

⊘ME ileride bunu makinelere de bildiren teknik bir işarete dönüşebilir. Bir görüntünün veya ses dosyasının üzerinde insan gözünün gördüğü bir sembol olmasının yanında, yazılımların okuyabildiği bir işaret de düşünülebilir: Bu yüzü, bu sesi, bu kişiye ait veriyi sentetik üretimde kullanma. Belki bundan daha iyi yöntemler bulunacaktır. Benim açımdan sembolün kaderinden daha önemli olan arkasındaki ilkedir. Çünkü dijital çağın en tehlikeli karışıklıklarından biri, erişim ile izin arasındaki farkın kaybolmasıdır. Bir şeye ulaşabiliyor olmamız, onun üzerinde tasarruf hakkımız bulunduğunu göstermez.

Hukukun buna göre düzenlenmesi, emniyetin yeni suç biçimlerini tanıması, okulların ne yapacağını bilmesi, platformların teknik korumalar geliştirmesi gerekiyor. Fakat burada görmezden gelemeyeceğimiz bir zaman sorunu var. Bir görüntü saniyeler içinde üretilebiliyor, dakikalar içinde okul grubuna düşebiliyor, birkaç saat içinde yüzlerce telefonda dolaşabiliyor. Hukukun kavram oluşturması, suç tipini tarif etmesi, kurumların görev paylaşımı yapması ve uygulamanın yerleşmesi ise başka bir zaman içinde gerçekleşiyor.

Çocuklar hukukun, emniyetin ve kurumların teknolojiye yetişmesini bekleyemez.

Mesele kurumları suçlamak da değil. Teknoloji ile hukuk aynı hızda hareket etmiyor. Fakat bu farkın bedelini çocuk ödeyemez. On dört yaşındaki bir öğrencinin hayatında birkaç ay bile uzun bir zamandır. Görüntü bugün dolaşıma girdiyse, “mevzuat hazırlanıyor” cümlesinin çocuk açısından fazla tesellisi yoktur. Devletin yetişmesi gerekir; çocuk, yetişkinlerin yetişmesini beklerken korunmasız bırakılamaz.

Eğitim meselesinin önemi burada ortaya çıkıyor. Beş yıl sonra hangi uygulamanın kullanılacağını, hangi görüntülerin üretilebileceğini, hangi yeni istismar biçimlerinin çıkacağını bilmiyoruz. Her tehlikenin adını bugünden öğretmek mümkün olmadığına göre, henüz adını bilmediğimiz bir durum karşısında hüküm verebilecek bir zihin yetiştirmek zorundayız.

Bir çocuk arkadaşının yüzünü başka bir bedene yerleştirebildiğinde, sesini taklit edebildiğinde veya onun adına hiç yaşanmamış bir sahne kurabildiğinde teknik imkân ile hak arasındaki farkı bilmelidir. Yapay zekâ eğitiminin temel sorularından biri bu yüzden bilgisayarlarla pek ilgili görünmeyen eski bir soru olabilir: Bir şeyi yapabiliyor olmam, onu yapmaya hakkım olduğu anlamına gelir mi?

Çünkü bir gün çocuğun karşısına bizim adını bile bilmediğimiz bir teknoloji çıkacak. O sırada yanında annesi, babası, öğretmeni, polis veya hâkim bulunmayacak. Önünde bir ekran ve vermesi gereken küçük bir karar olacak. Arkadaşının yüzünü kullanacak mı, bir başkasının sesini taklit edecek mi, kendisine gönderilen görüntüyü başkasına iletecek mi?

Hukuk o birkaç saniyeye yetişemez. Emniyet de yetişemez. Oraya, daha önce verilmiş bir eğitim ve çocuğun kendi muhakemesi yetişebilir.

⊘ME ilk bakışta makineye söylenmiş bir söz gibi görünüyor: Beni Üretme. Oysa biraz düşününce muhatabın makine olmadığı anlaşılıyor. Makine bir yüzü veri olarak okuyabilir; asıl mesele, bizim de o yüzü veri olarak görmeye başlayıp başlamadığımızdır.

Çünkü insan yüzü garip bir şeydir. Binlerce yıldır kimliğin, tanınmanın, utanmanın, sevincin, yasın ve karşılaşmanın taşıyıcısı oldu. Şimdi onu giderek teknik bir nesne olarak da tarif ediyoruz: ölçülebilir, eşleştirilebilir, kopyalanabilir, dönüştürülebilir, üretilebilir. Teknik bakımdan bunların hepsi mümkün olabilir. Fakat insanın yüzü hakkında söylenebileceklerin toplamı, bir yüz tanıma sisteminin okuyabildiklerinden ibaret değildir.

Beni kaygılandıran yapay zekânın günün birinde insana fazlasıyla benzemesi ihtimalinden çok, insanın başka bir insanı giderek makinenin gördüğü gibi görmeye alışmasıdır: yüzü kullanılabilir bir görüntü, sesi çoğaltılabilir bir kayıt, geçmişi taranabilir bir veri, bedeni yeniden kurulabilir bir malzeme olarak.

Belki ⊘ME’nin çizgisi en çok buraya çekilmelidir.

Bir insanın suretine ulaşmış olmanız, o insan üzerinde hak sahibi olduğunuz anlamına gelmez.