Malezya ve Endonezya, Elon Musk’ın şirketi xAI tarafından geliştirilen yapay zekâ sohbet botu Grok’u, rızaya dayanmayan ve cinsel içerikli görseller üretmekte kötüye kullanıldığı gerekçesiyle engelledi. İki ülke, bu adımı atan ilk devletler oldu.
Karar üretken yapay zekânın gerçekçi görüntü, ses ve metin üretebilmesine rağmen mevcut güvenlik önlemlerinin kötüye kullanımı engellemekte yetersiz kaldığı yönündeki küresel kaygıları da yansıtıyor.
Elon Musk’ın sahibi olduğu X platformu üzerinden erişilebilen Grok, daha önce kadınları bikiniyle ya da cinsel pozlarda gösteren manipüle edilmiş görseller ve çocukları içeren içerikler üretmesi nedeniyle eleştirilmişti. Güneydoğu Asya’daki düzenleyiciler, özellikle kadınlar ve çocukları hedef alan sahte pornografik içeriklerin üretilmesini ve yayılmasını mevcut denetim mekanizmalarının durduramadığını belirtti. Endonezya hükümeti Grok’a erişimi cumartesi günü geçici olarak engellerken, Malezya da pazar günü benzer bir karar aldı.
Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, rızaya dayanmayan cinsel deepfake’lerin insan haklarına, insan onuruna ve vatandaşların dijital alandaki güvenliğine ciddi bir saldırı olduğunu söyledi. Bakanlık, alınan kararın kadınları, çocukları ve toplumu yapay zekâ ile üretilen sahte pornografik içeriklerden korumayı amaçladığını vurguladı.
Dijital alan denetiminden sorumlu yetkililer, ilk incelemelerin Grok’un Endonezyalı kişilere ait gerçek fotoğraflar üzerinden pornografik içerik üretilmesini ve yayılmasını önleyecek etkili güvenlik önlemlerinden yoksun olduğunu gösterdiğini açıkladı. Yetkililer, bu tür uygulamaların rıza olmaksızın yapılan manipülasyonlar nedeniyle mahremiyet ve görüntü haklarını ihlal ettiğini, psikolojik, toplumsal ve itibara yönelik zararlar doğurduğunu belirtti.
Güneydoğu Asya’daki bu yasaklar, Grok’a yönelik Avrupa Birliği, Britanya, Hindistan ve Fransa dâhil olmak üzere birçok ülkede artan incelemelerin ortasında geldi. Grok, geçen hafta cinselleştirilmiş deepfake’lere yönelik küresel tepkinin ardından görsel üretme ve düzenleme özelliklerini yalnızca ücretli kullanıcılara sınırladı. Ancak eleştirmenler, bu adımın sorunu bütünüyle çözmediğini savunuyor.
