Dr. Sania Faisal El-Husseini’nin MEMO’da yayınlanan yazısı, Haksöz Haber tarafından tercüme edilmiştir.
Tanınmış Demokrat milletvekili ABD Senatörü Bernie Sanders, yapay zekânın (AI) ABD için oluşturduğu potansiyel tehlikeler konusunda son günlerde alarm verdi. Bunu, geçtiğimiz günlerde yayınlanan bir konuşmasında ve bu ayın başlarında, geniş bir okuyucu kitlesine sahip İngiliz gazetesi The Guardian'da "Yapay Zekâ Eşi Görülmemiş Tehditler Oluşturuyor. Kongre Hemen Harekete Geçmeli" başlıklı bir makalede de bu konuyu gündeme getirdi. Sanders'ın müdahalesi, ChatGPT gibi platformların temsil ettiği popüler, sivil biçiminde ya da Palantir gibi sistemlerin temsil ettiği güvenlik odaklı, egemen biçiminde olsun, yapay zekânın küresel yayılımıyla ilişkili riskler hakkında daha geniş bir tartışma için önemli bir başlangıç noktası sağlıyor. Amerika Birleşik Devletleri dışındaki toplumlar için, bu yayılmanın sonuçları daha da derin ve potansiyel olarak daha tehlikeli olabilir.
Sanders makalesinde, yapay zekâ ve robotik teknolojisinin dünyayı temelden yeniden şekillendirecek ve hayal edilmesi zor değişiklikleri beraberinde getirecek olduğunu belirtti. Çok da uzak olmayan bir gelecekte yapay zekânın, gezegenin yönetiminde insan iradesinin yerini alabileceğinden derin endişe duyduğunu ifade eden Sanders, bu konunun tehditlerinin hızla gelişmesine rağmen tehlikeli bir şekilde göz ardı edilmeye devam edildiğini belirtti. Sanders, yapay zekânın insan yaşamı üzerindeki derin etkisini ayrıntılı olarak anlatarak, yaptığımız her telefon görüşmesinin, gönderdiğimiz her e-postanın ve yaptığımız her aramanın yapay zekâ sistemlerinin sahipleri tarafından potansiyel olarak erişilebilir olduğunu söyledi. Ayrıca, yapay zekânın savaş ve insan ilişkilerinin yapısı üzerindeki artan etkisine karşı uyarıda bulundu.
Özel raporlar, Google, Meta, Amazon, Microsoft ve OpenAI gibi sadece beş büyük şirketin, yapay zekânın temelini oluşturan araştırma kaynaklarının ve temel altyapının tahmini olarak yüzde 80 ila 90'ını kontrol ettiğini gösteriyor. Bu güç yoğunlaşması, Elon Musk, Jeff Bezos, Bill Gates, Mark Zuckerberg, Peter Thiel ve diğerleri dâhil olmak üzere dünyanın en zengin kişilerinden oluşan küçük bir grubun eline belirleyici bir etki sağlıyor. Bu kişiler, yapay zekâ ve robotik teknolojisinin geliştirilmesine yüz milyarlarca dolarlık yatırımlar yönlendirerek, anlamlı bir denetim veya hesap verebilirlik olmaksızın insanlığın geleceğini etkili bir şekilde şekillendiriyorlar. Elon Musk, yakın zamanda yapay zekâ ve robotik teknolojisinin sonunda tüm işlerin yerini alacağını savundu. Benzer şekilde, Anthropic'in CEO'su Dario Amodei, yapay zekânın giriş seviyesi beyaz yakalı işlerin yarısının kaybedilmesine yol açabileceği konusunda uyarıda bulundu. Diğerleri ise daha da ileri gitti. Dünyanın en zengin ikinci kişisi olan Larry Ellison, yapay zekâ destekli bir gözetim sisteminin ortaya çıkacağı konusunda açıkça spekülasyonlarda bulundu.
Donald Trump, büyük teknoloji şirketlerinin elitlerinin sadık bir savunucusu olarak ortaya çıktı. Yapay zeka geliştirilmesine yönelik koruyucu önlemler getirmeyi amaçlayan eski başkan Joe Biden'ın imzaladığı başkanlık kararnamesini iptal etmek ve bunun yerine “inovasyonun önündeki engeller” olarak nitelendirdiği unsurları ortadan kaldırmayı amaçlayan önlemler almak da dâhil olmak üzere, yapay zeka üzerindeki düzenleyici kısıtlamaları geri çekme sözü verdi. Trump, büyük teknoloji şirketlerinin küresel rekabet gücünü artırmak için kısıtlamaların gevşetilmesini defalarca savunmuş ve ABD eyaletlerinin yapay zekâyı düzenleme yetkisinin sınırlandırılmasını savunmuştur. Milyarder yatırımcı ve Palantir'in kurucu ortağı Peter Thiel de yapay zekâyı düzenleme çabalarını açıkça eleştirmiş ve düzenlemeleri sık sık teknolojik ilerleme ve ulusal güç için bir tehdit olarak nitelendirmiştir. Buna karşılık, Sanders, ABD'nin yapay zekâ şirketleri üzerinde sıkı bir düzenleyici otorite kurmasını talep ederek, milletvekillerini bu şirketlerin davranışlarını disiplin altına almaya, yasalarla gelişimlerini yönlendirmeye, bağlayıcı yasalar çıkarmaya ve sağlam denetim mekanizmaları kurmaya çağırdı.
Günümüzde yapay zekâ, küçük bir grup insanın bilgiyi tekelleştirerek kontrol uygulayabilen merkezi bir küresel otoriteye yönelik artan korkularla iç içe geçmiştir. Sanders'ın son müdahalelerinde de dile getirdiği gibi, birçok gözlemci tarafından dile getirilen bu endişe, yapay zekâ çağında gücün nasıl yeniden yapılandırılacağına dair daha geniş bir kaygıyı vurgulamaktadır. Yapay zekânın küresel yayılması ve hâkimiyeti ile ilişkili riskler, diğer ülkeler ve toplumlar için daha da ciddi görünmektedir. Bu durum, ChatGPT ile temsil edilen popüler, sivil formu ve Palantir ile temsil edilen güvenlik odaklı, egemen formu ile yapay zekânın kökeninin ezici bir çoğunlukla Amerika'ya ait olması nedeniyle özellikle geçerlidir. Bu teknolojik hâkimiyet ideolojik bir yönelimi mi yoksa stratejik bir tasarımı mı yansıtıyor olursa olsun, özellikle düzenleyici etki gücü veya teknolojik özerkliği olmayan ülkeler için jeopolitik etkileri göz ardı edilmesi zor.
Yapay zekâ şirketleri, bilgiyi ve dolayısıyla gücü bu sistemlerin sahibi ve kontrolörü olanların elinde topladıkları için giderek daha fazla eleştiriye maruz kalmaktadır. Bu yoğunlaşma, sürekli bir şeffaflık eksikliği ile daha da kötüleşmektedir: iç işleyiş mekanizmaları, sistem davranışını yönlendiren temel mantık, normatif yönelimleri ve kararların alındığı süreçler büyük ölçüde belirsizliğini korumaktadır. Bu belirsizlik, bu şirketler ile devletler arasında imzalanan sözleşmeler ve anlaşmaların kapsamı, sınırları ve uygulama alanları dâhil olmak üzere, nadiren kamuoyuna açıklanan ayrıntıları çevreleyen gizlilik perdesi ile daha da pekiştirilmektedir. En endişe verici boyut, bu tür şirketlerin çıktılarının giderek daha fazla sayıda az sayıda hükümetin veya belirlenmiş kuruluşun elinde merkezileşmesi ve bu şirketlerin savaşta veya güvenlik ve gözetim amaçlı olarak kullanılabilmesidir. Zamanla, bu gidişat, karar verme yetkisinin egemen devletlerden yapay zekâ ile desteklenen merkezi ve kapsamlı bir güç yapısına kademeli olarak aktarılmasını kolaylaştırma riski taşımaktadır.
ChatGPT, 2022 yılında yaygın olarak kullanıma giren bir yapay zekâ programıdır. 2015 yılında San Francisco'da kurulan yapay zekâ araştırma ve geliştirme şirketi OpenAI tarafından geliştirilmiştir. Kuruluş, başlangıçta kar amacı gütmeyen bir kuruluş olarak faaliyet göstermiş, daha sonra büyük ölçekli yatırımları çekmek için kar amacı güden bir kol oluşturmuştur. Microsoft daha sonra OpenAI'nin en büyük yatırımcılarından biri olarak ortaya çıktı ve ChatGPT'nin büyük dil modellerini çalıştırmak ve ölçeklendirmek için gerekli olan internet üzerinden veri depolamak ve işlemek için kullanılan bulut altyapısının yanı sıra önemli miktarda finansal destek sağladı.
Sam Altman, ChatGPT ve OpenAI'nin başlıca kurucularından biri olarak kabul edilmektedir ve şu anda şirketin CEO'su olarak görev yapmaktadır. Yahudi kökenli bir Amerikalı olan Altman, antisemitizm hakkında kamuoyuna açıklamalarda bulunmuş ve bunu Amerika Birleşik Devletleri'nde ciddi ve kalıcı bir sorun olarak tanımlamıştır. Altman ayrıca Tel Aviv'de düzenlenen etkinliklere katılmış ve bu etkinliklerde yapay zekânın geleceğinde İsrail'in olası rolü hakkında konuşmuştur. Önde gelen yapay zekâ araştırmacısı Ilya Sutskever de OpenAI'nin kurucularından biridir. İsrail ve Kanada vatandaşı olan Sutskever, ilk yıllarını İsrail'de geçirdikten sonra Kanada'ya taşınmıştır. Elon Musk, OpenAI'nin ilk kurucuları arasında yer alsa da, daha sonra organizasyondan ayrılmış ve organizasyonun kar amacı gütmeyen bir yapıdan sınırlı kar modeline geçişinin ardından yasal işlem başlatmıştır.
2003 yılında kurulan Palantir, 11 Eylül saldırılarının ardından ortaya çıkan güvenlik sorunlarını ele almayı amaçlayan bir veri analizi şirketi olarak tasarlanmıştır. Temel amacı, savunma ve istihbarat kurumları, kolluk kuvvetleri, sağlık sistemleri ve büyük şirketler tarafından kullanılan türden geniş ve son derece hassas veri kümelerini yönetmek ve analiz etmektir. Şirket, birden fazla kaynaktan veri toplar, ardından bunları rafine eder, filtreler ve birbirine bağlayarak gelişmiş analitik içgörüler elde eder. Çoğu hassas alanlarda faaliyet gösteren çok sayıda devlet kurumu, Palantir ile anlaşmalar ve sözleşmeler imzalamıştır. Ancak bu ilişkilerin ölçeği ve önemine rağmen, tüm devlet müşterilerinin kapsamlı bir listesini veya bu tür anlaşmaların tam kapsamını sağlayan kamuya açık bir kaynak bulunmamaktadır.
Palantir, devam eden çatışma sırasında İsrail ordusu ve güvenlik kurumları tarafından kullanılan veri analizi teknolojileri ve akıllı sistemler sağlamak için İsrail ile stratejik ortaklıklar kurmuştur. 2024 yılında şirket, Tel Aviv'de yönetim kurulu toplantısı düzenlemiş ve bu hareket, geniş çapta bir dayanışma göstergesi olarak yorumlanmıştır. Raporlar, Palantir'in Gazze savaşı sırasında İsrail'e teknolojik araçlar sağladığını da öne sürmektedir. Aynı zamanda, bu bağlar tartışmalara da yol açmıştır. Bir dizi küresel yatırımcının, şirketin İsrail ile olan ilişkisi ve teknolojilerinin Gazze savaşı sırasında ve daha geniş anlamda İsrail-Filistin çatışması bağlamında potansiyel olarak kullanılmasına ilişkin endişelerini gerekçe göstererek protesto amacıyla Palantir'deki hisselerini sattığı bildirildi.
Alex Karp, 2003 yılında şirketin kurulmasından bu yana Palantir'in CEO'su olarak görev yapmaktadır ve şirketin başlıca kurucularından biri olarak kabul edilmektedir. Karp Yahudi'dir ve kendisini seküler olarak tanımlarken, Yahudi geleneğinden aldığı güçlü etik ve entelektüel etkilerin farkındadır. Yahudiliği, zulüm ve varoluşsal tehditlerin şekillendirdiği tarihsel bir deneyim ve ahlaki bir çerçeve olarak tanımlamaktadır ve sık sık, güç ve korumanın önemini vurgulamak için “Yahudi halkının tarihsel hafızası” olarak adlandırdığı şeyi hatırlatmaktadır. Karp, İsrail'in var olma ve kendini savunma hakkını tutarlı bir şekilde desteklemiş ve İsrail'i, tehdit altında olduğunu düşündüğü birkaç liberal demokrasiden biri olarak tanımlamıştır. İsrail ve onun güvenlik ve askeri kurumlarıyla işbirliğini kamuoyuna açıkça onaylamış ve şirketin kazançlarının bir kısmını ilgili faaliyetlere yönlendireceğine dair açıklamalar da dâhil olmak üzere, ülkeyi desteklediğini açıkça dile getirmiştir. Daha geniş bir açıdan bakıldığında, Karp, yapay zekânın tarafsız olmadığını ve hükümetleri korumak için kullanılması gerektiğini savunarak, teknolojinin doğası gereği politik bir araç olduğuna olan inancını dile getirmiştir.
Palantir'in kurucu ortağı Peter Thiel, yönetim kurulu başkanı olarak görev yapmaktadır ve şirketin başlıca finansal destekçisi olarak kabul edilmektedir. Ayrıca Facebook dâhil olmak üzere büyük teknoloji şirketlerine erken dönemde yatırım yapan ve etkili bir yatırımcıdır. Thiel Almanya'da doğdu ve Amerika Birleşik Devletleri'nde büyüdü ve kendini açıkça Hristiyan olarak tanımlamaktadır. Felsefe ve hukuk eğitimi aldı ve ortağı Alex Karp ile ilk kez Stanford Üniversitesi'nde hukuk okurken tanıştı. İkili, felsefe, hukuk ve Almanya'nın tarihi ve kültürel mirası gibi entelektüel ilgi alanlarını paylaşıyordu. Thiel, geniş kapsamlı Hristiyan okumaları içinde Tevrat'a, yani Eski Ahit'e entelektüel bir ilgi duymaktadır. Bölgesel çatışmalarda tutarlı bir şekilde İsrail'in yanında yer almış ve İsrail'in kendini savunma hakkı olarak tanımladığı şeyi vurgulamıştır. Genel olarak İsrail'in askeri politikalarını doğrudan eleştirmekten kaçınsa da, ülkeye yönelik saldırıları şiddetle kınamıştır.
Thiel, kamuoyuna yönelik söylemlerinde, René Girard'ın düşünceleri ve Hıristiyan teolojisinin bazı unsurlarıyla şekillenen çağdaş bir dünya görüşüne yerleştirerek, yüklü dini bir dil kullanmıştır. Teknolojik kontrol yoluyla özgürlüğü ortadan kaldırarak ve otoriteyi merkezileştirerek barış ve çatışmaların sona ermesini vaat eden küresel bir güç veya sistemin olasılığını tartışırken, yapay zekânın yükselişiyle ilişkilendirdiği bir sonuç olarak Deccal figürünü gündeme getirmiştir. Ancak Thiel, yapay zekâ destekli, merkezi ve kapsamlı bir otoritenin neyi temsil edebileceğine dair eleştirel bir anlayış ortaya koyarken, paradoks, onun uyardığı risklerin, kendi şirketi Palantir'in işlevsel rolüyle büyük ölçüde örtüşmesi gerçeğinde yatmaktadır. Şirketin teknolojileri, bilgileri birleştirmek, analiz etmek ve kontrol etmek için tasarlanmış olup, bu bilgileri sınırlı sayıda aktörün elinde yoğunlaştırmaktadır. Palantir, diğer büyük yapay zekâ şirketlerine yöneltilen suçlamalara benzer suçlamalarla karşı karşıya kalmıştır. Sanders'ın son konuşması ve The Guardian'da yayınlanan makalesi, bu daha geniş çerçeve içinde kalmaktadır: yapay zekânın insanlık üzerindeki genişleyen etkisine dair bir uyarı, dar teknik endişelerden ziyade bir dizi ideolojik ve etik inançtan hareketle dile getirilmiştir.
René Girard'ın fikirlerinden yola çıkarak — Thiel'in açıkça yakınlık duyduğunu ifade ettiği fikirler — toplumlar içindeki şiddet korkusu, kapsamlı bir çözüm veya belirlenmiş bir düşman arayışını tetikleyen bir faktör olarak görülmektedir. Bu çerçevede, toplumlar, haksız bir şekilde hedef alınmış olsa bile o düşmanın feda edilmesini kabul etmeye veya barış adına yeni, birleşik bir düzenin kurulmasını onaylamaya başlarlar, bu düzen küresel ölçekte özgürlüğün feda edilmesini gerektirse bile. Adaleti feda ederek bile bir düşman seçme şeklindeki bu fedakârlık mantığı, Orta Doğu'da yeni bir düşman yaratan 11 Eylül saldırılarının ardından açıkça ortaya çıktı. Bu paradigma altında Irak ve Afganistan'da savaşlar yapıldı. Amerika Birleşik Devletleri daha sonra, o dönemde kitle imha silahları iddialarıyla gerekçelendirilen Irak işgalinin geçerli bir temeli olmadığını ve hatalı istihbarata dayandığını kabul etti. Bu gelişmeler, Sovyetler Birliği'nin belirleyici bir tehdit olmaktan çıkmasının ardından, ulusu harekete geçirebilecek ve savunma, savaş ve güvenlik aygıtlarının genişletilmesini ve finansmanını meşrulaştırabilecek birleştirici bir düşman arayan Amerikan dış politikası bağlamında gerçekleşti.
Her iki durumda da, kaynak kuruluş Amerika Birleşik Devletleri'dir, ancak Amerikan devletiyle farklı ilişki biçimleri vardır. ChatGPT, 2015 yılında kurulan ve başlangıçta kar amacı gütmeyen bir kuruluş olarak kurulan OpenAI tarafından Amerika Birleşik Devletleri'nde geliştirilmiştir. 2019 yılında OpenAI, orijinal misyonunun unsurlarını korurken yatırım çekmek için sınırlı kârlı bir yan kuruluş oluşturmuştur. Bugün OpenAI, “kamu yararı” mantığına dayalı bir yapıya sahip özel bir Amerikan şirketi olarak faaliyet göstermekte ve birçok sektörde ABD hükümeti ile yakın işbirliği içinde olan büyük bir ABD teknoloji şirketi olan Microsoft ile stratejik bir ortaklık sürdürmektedir. Palantir de 2003 yılında Amerika Birleşik Devletleri'nde kurulmuş ve kurulduğu günden itibaren ABD istihbarat topluluğunun risk sermayesi kolu ile yakın ilişkiler sürdürmüştür. Şirket, başlangıçta belirli bir istihbarat ihtiyacını karşılamak için kurulmuştur. Bununla birlikte, Palantir özel bir şirket olarak kurulmuş ve daha sonra 2020 yılında halka açık bir şirkete dönüşmüştür. Şirket, devletin değil hissedarların mülkiyetindedir ve herhangi bir ABD hükümet departmanı veya kurumunun idari yetkisi altında faaliyet göstermemektedir. ABD'de ve diğer Batı ülkelerinde, hükümetlerin zaman zaman egemenlik işlevlerini özel şirketlere dış kaynak olarak verdiği iyi bilinmektedir. Bu uygulama, resmi kurumların doğrudan hesap verebilirliğini azaltırken, aynı zamanda bu kurumlara anayasal kısıtlamalar ve resmi denetimlerin ötesinde daha fazla operasyonel özgürlük tanır. Ayrıca, devletlerin uluslararası düzeyde tam resmi sorumluluk veya yasal risk üstlenmeden, özellikle hassas teknolojileri müttefiklerine ihraç etmelerini sağlar.
Yukarıdakilerden ortaya çıkan sonuç, yapay zekânın Batı dışı dünyaya yönelik özel bir tehlike oluşturduğudur. Bu dünyada hedefler, özlemler ve ideolojik çerçeveler, uzun süredir var olan Amerikan stratejik ve ideolojik vizyonlarından genellikle keskin bir şekilde ayrılmaktadır. İşgal altındaki Filistin halkının deneyimi, merkezi küresel kontrolün, bilgi hâkimiyeti ve yapay zekânın sivil ve askeri sistemlerdeki kullanımı yoluyla nasıl işleyebileceğinin yoğun ve yaşanmış bir örneği olabilir. Bu sistemlerde biriken veriler ve analitik güç, yalnızca seçkin aktörlerin yararına kullanılmaktadır. İşgalci yetkililer, Filistinlilerin yaşamının neredeyse her yönünü kontrol etmektedir: bireyleri hedef alma, konumlarını belirleme, banka hesaplarını dondurma, resmi işlemleri düzenleme ve seyahat veya tıbbi bakıma erişimi kısıtlama kararları, bu kapsamlı bilgi hâkimiyeti sayesinde mümkün olmaktadır. Bu anlamda, Filistin'deki yaşam giderek dijital duvarları, görünmez mermileri ve yine de ölümcül etkileri olan devasa bir hapishaneye benziyor. Bu gerçeklik, toplu eylemin aciliyetini vurgulamaktadır. Devletler, bu yıkıcı gücün kontrolsüz yayılmasını durdurmak için, yayılmasını engellemek, suistimallerini sınırlamak ve daha fazla yıkıcı gidişatı önlemek amacıyla ulusal, bölgesel ve uluslararası düzeylerde sağlam yasal ve düzenleyici kısıtlamalar getirerek kararlı bir şekilde harekete geçmelidir.
*Dr. Sania Faisal El-Husseini, Filistin'deki Arap-Amerikan Üniversitesi'nde Uluslararası İlişkiler Profesörü, yazar ve araştırmacıdır ve çok sayıda siyasi makale ve araştırma makalesi yayınlamıştır. El-Husseini, Filistin Ulusal Yönetimi'nde yirmi yıldan fazla bir süre bilgi ve diplomasi alanlarında görev yapmıştır. 2008'den bu yana Birzeit Üniversitesi ve Al-Quds Üniversitesi gibi Filistin'deki çeşitli üniversitelerde öğretim görevlisi olarak çalışmaktadır. 2013-2014 yıllarında Oxford İslam Araştırmaları Merkezi'ne, 2017-2018 yıllarında ise Georgetown Üniversitesi'ne akademik ziyaretçi olarak davet edilmiştir. El-Husseini, kısa süre önce Arap-Amerikan Üniversitesi'nde Çatışma Çözümü Bölümü ve Diplomasi ve Uluslararası Hukuk Bölümü'nün öğretim üyesi olmuştur.