Önceki hafta bu sütunlarda “Dijital Leviathan” kavramından bahsetmiş, devletlerin dijital evrendeki mutlak egemenlik arayışını tartışmıştık. Teorik düzlemde yürüttüğümüz bu tartışma, bugünlerde Washington’un koridorlarında ve Silikon Vadisi’nin laboratuvarlarında çok somut, hatta biraz da gürültülü bir çatışmaya dönüştü. Karşımızdaki vaka, bir şirket-devlet sürtüşmesinden çıkarak; yapay zekânın etik sınırları ile devletin askeri hırsları arasındaki o meşhur kırılma noktasına, Anthropic ve Trump yönetimi kavgasına dönüştü.
Olayın özü şu: Pentagon, Amerika’nın en güçlü yapay zekâ laboratuvarlarından biri olan Anthropic’ten, modellerini “her türlü yasal amaç için” kullanma izni istedi. Ancak Anthropic CEO’su Dario Amodei, teknoloji dünyasında pek alışık olmadığımız bir duruş sergileyerek bu talebe direndi. Bir anlamda, dijital dünyanın vicdani reddine de imza atmış oldu.
Kodların vicdanı olabilir mi?
Amodei’nin endişesi iki temel noktada düğümleniyor. İlki, yapay zekânın sıradan vatandaşların dijital ayak izlerini analiz eden devasa bir gözetleme mekanizmasına dönüşmesi. Bugün yasaların bile yetişemediği bu "takip hızı", yarın kimin "tehdit" olduğuna algoritmaların karar verdiği bir distopyaya kapı aralayabilir. Diğeri ise otonom silahlar konusu. Amodei, yapay zekânın henüz bir insan denetimi olmadan savaş meydanına sürülecek kadar olgunlaşmadığını, kontrolden çıkma riskinin hafife alınamayacağını savunuyor.
Peki, Leviathan bu itiraza nasıl yanıt verdi? Beklendiği üzere, oldukça sert. Trump, Anthropic’i “solcu kaçıklar” olarak nitelendirirken, yönetim firmayı bir tedarik zinciri riski ilan etmekle tehdit ediyor. Burada karşımıza çıkan yeni kavram ise Tekno-Milliyetçilik. Artık algoritmaların sadece akıllı olması da yetmiyor; devletin ideolojik ve askeri ajandasına tam uyumlu, yani “uysal” olması bekleniyor.
“Dibe doğru bir yarış”
Asıl tehlike ise Anthropic’in bu etik barikatı kurarken yalnız kalması. Anthropic’in en büyük rakibi OpenAI’ın, Pentagon’un taleplerine çok daha yakın bir pozisyon alarak aradaki boşluğu doldurması, teknoloji dünyasında bir ‘dibe doğru yarış’ başlatabilir. Eğer güvenlik ve etik, ‘vatanseverlikten uzak’ veya ‘ilerlemeyi engelleyen’ kavramlar olarak yaftalanırsa şirketler pazar paylarını korumak için güvenlik protokollerini birer birer gevşetecektir.
Amerika ve Çin arasındaki yapay zekâ yarışı, devletleri bir tür hız körlüğüne sürüklerken, “Biz yavaşlarsak onlar kazanır” korkusu, güvenliği bir engel olarak görmeye neden oluyor. Ancak unutmamalıyız ki; yapay zekâ bir nükleer güç gibi yönetilmelidir. Nükleer reaktörlerde güvenlik protokolleri hızı yavaşlattığı için iptal edilmez.
Anthropic vakası bize şunu gösteriyor: Dijital Leviathan, sadece verilerimizi değil, algoritmalarımızın vicdanını da kamulaştırmak istiyor. Eğer bu yarışta etik bariyerler yıkılırsa, uzmanların uyardığı o büyük felaket anı çok da uzak olmayabilir. Gelecek hafta, bu gözetleme ve "dijital ayak izi" meselesinin bireysel mahremiyetimizi nasıl bir "dijital prangaya" dönüştürebileceğini ele alacağız.
Şimdilik, algoritmalarınızın vicdanlı kalması dileğiyle.
