Binoy Kampmark / Counter Punch
Bir başka kasvetli uyarı, insanlığın yıkıcı benlik duygusuna dair bir başka Cassandra kehaneti. Bu ay, BM Genel Sekreteri AntónioGuterres ve Uluslararası Kızılhaç ve Kızılay Komitesi (ICRC) Başkanı MirjanaSpoljaricEgger, “Şu anda ahlaki bir kırmızı çizgiyi aşmaya tehlikeli derecede yakınız: makineler tarafından insanlara yönelik otonom hedefleme” ifadesini içeren ortak bir çağrı yayınladılar. Her ikisi de, iki tür otonom silahın – öngörülemez otonom silahlar ve anti-personel silahlar – yasaklanması gerektiği konusunda ısrar ediyor.
Cenevre’de, BM Cenevre Ofisi’nin silahsızlanma işlerinden sorumlu başkanı Mélanie Régimbal, kontrol ve muhakeme olmaksızın hedefleri seçen veya saldırıya geçen ve insan hayatını alan sistemlerin “siyasi açıdan kabul edilemez, ahlaki açıdan iğrenç olduğu ve uluslararası hukuk kapsamında yasaklanması gerektiği” şeklindeki BM’nin tutumunu yineleyerek tavrını korudu.
Uluslararası Kızılhaç Komitesi’nin (ICRC) Silahlar ve Çatışma Yöntemleri Bölümü Başkanı Laurent Gisel de Cenevre’den yaptığı açıklamada, çatışmayı “hassasiyet, ayrımcılık ve kısıtlamaların öyküsü” olarak değil, “giderek artan bir hız ve ölçekte öldürülen sivillerin, yerinden edilen ailelerin, yıkılan hastanelerin, okulların ve evlerin öyküsü” olarak tanımladı. Çatışmanın yoğun sisinde pek çok değişken devreye girebilir. “Bir savaşçı teslim olabilir veya yaralanabilir ve bu nedenle saldırılardan korunabilir; siviller otonom silah sistemlerinin operasyon alanına girebilir; silahlar, önceden öngörülemeyecek bir durumla karşılaşabilir.” Bu tür otonom sistemlerdeki öngörülemezliğin tehlikeleri son derece sorunluydu. “Eğer bunu öngörmek mümkün değilse, o zaman bunu nasıl sınırlayabiliriz?”
Bunlar olağanüstü uyarılar değildir. BM ve Uluslararası Kızılhaç Komitesi (ICRC), 2023 yılında bu konuda ortak bir çağrı yayınlayarak devletleri 2026 yılına kadar yasal olarak bağlayıcı bir belge üzerinde müzakere etmeye davet etmişti. Sivil toplum düzeyinde ise “Stop Killer Robots” koalisyonu Ekim 2012’de kurulmuş ve 2013 yılında kamuoyuna duyurulmuştu. Gruba göre kampanya, “birbirimizin doğuştan gelen haysiyetine saygı duyduğumuz”; teknolojiyle ilgili seçimlerin ve teknolojinin insanlar arasındaki ilişkileri nasıl değiştirdiğinin sorumluluğunu üstlendiğimiz; barış, adalet, insan hakları, eşitlik ve hukuka saygıyı teşvik edecek teknolojiler geliştirdiğimiz ve insanların “bir toplum inşa etmek ve eşitsizlikleri ile baskı sistemlerini aşmak” için aktivist olarak çalıştığı bir dünya yaratmaya odaklanmaktadır. Bunlar oldukça genel ifadeler olsa da, kampanyanın merkezinde “savaş, polislik, sınır kontrolü ve diğer durumlarda makineler tarafından [sic] gerçekleştirilen otonom öldürmeyi reddeden sosyal normların” geliştirilmesi ve güçlendirilmesi hedefi yer almaktadır. Kontrol, sorumluluk ve hesap verebilirlik, bu hedeflerin temel özellikleridir.
Bu kampanya son zamanlarda pek anlamlı bir ilerleme kaydetmemiştir. Askeri kurumun ölümcül makinelere duyduğu güven sarsılmaz olmaya devam ederken, karar verme sürecinde insanın kontrolü fikri, verileri sorgusuz sualsiz tüketen insan lehine giderek zayıflamaktadır. Bu güven, hedeflerin tespit edilmesi ve vurulması söz konusu olduğunda, titiz ve şüpheci karar vericinin yerini fiilen almıştır. 7 Ekim 2023’te başlayan Gazze Savaşı’nın ilk birkaç haftasında, İsrail Savunma Kuvvetleri (IDF), silahlı gruplarla olan bağlantılara göre kabaca belirlenmiş bir önem derecelendirme ölçeğine göre 37.000 ayrı hedef oluşturmak için “Lavender” adlı bir yapay zekâ karar destek sistemini (DSS) bolca kullanıyordu. Savaşta kullanılan diğer sistemler arasında hedef listeleri oluşturan The Gospel (Habsora) ve saldırı öncesinde bireylerin konumlarını takip eden Where’s Daddy? platformu yer alıyordu. Sonuçta ortaya çıkan kitlesel katliam, beklentileri karşıladı. IDF’nin bu davranışı, insan ve makinenin kusursuz bir entegrasyonunu göstermek bir yana, bir öldürme sisteminin yararlarına güvenerek sergilenen yersiz bir iyimserliği ve tembelliği ortaya koyuyor.
Yapay zekâ şirketi Anthropic ile ABD Savunma Bakanlığı arasında, savaşta otonom sistemlerin tehlikeli sınırları konusunda yaşanan anlaşmazlık da buna bir başka örnektir. Ölüm ekonomisinin bu iki aktörü arasındaki gerginlik, Pentagon’un şirketi “tedarik zinciri riski” olarak kara listeye almaya yönelik koordineli bir girişimde bulunmasına yol açacak kadar ciddiydi. (Bu durum, 27 Ağustos’ta Kaliforniya Kuzey Bölgesi ABD Bölge Mahkemesi tarafından, Birinci Anayasa Değişikliği’ni ihlal eden “hukuka aykırı bir misilleme” ve Beşinci Anayasa Değişikliği’nin koruduğu adil yargılanma hakkının reddi olarak değerlendirildi.) Ancak bu anlaşmazlık, katil robotlara veya tamamen otonom askeri platformlara sınırlamalar getirilmesini savunanlar için mutlaka bir nimet değildir.
Şirketin kurucu ortağı Dario Amodei, Şubat 2026’da yaptığı açıklamada, askeri kararları “özel şirketlerin değil”, Pentagon’un aldığını kabul etti. “Hiçbir zaman belirli askeri operasyonlara itiraz etmedik ya da teknolojimizi duruma göre sınırlamaya çalışmadık.” Ancak Amodei, kendisini politik bilince sahip bir varlık olarak görüyor; bu da, özellikle inisiyatif, endüstri ve yaratıcılığı ortadan kaldıran Büyük Dil Modelleri’ni (LLM’ler) teşvik ederek, karar verme sürecinde insanlığın rolünü ortadan kaldırmanın öncülüğünü neden üstlendiği sorusunu akla getiriyor. AI’nın demokrasiyi “zayıflatabileceğini” iddia ediyor; oysa bu, kendisinin de peşinde olduğu bir hedef gibi görünüyor. Kişisel endişesi, şirketin teknolojisinin kitlesel iç gözetim için kullanılmasıydı; bu durum “temel özgürlüklerimize ciddi ve yeni riskler” oluşturuyordu; ayrıca “insanları sürecin tamamen dışında bırakarak hedef seçimi ve saldırıyı otomatikleştiren” tam otonom silahların kullanımı da endişe kaynağıydı. Ancak tam otonom sistemlerin “ulusal savunmamız için kritik öneme sahip olabileceğini” kabul ettiği göz önüne alındığında, bu konudaki itirazları da zayıf kalıyor. Görünüşe göre asıl endişe, mevcut sistemlerin güvenilirliği ve bu sistemlerin Amerikan personeline zarar verip vermeyeceği konusundaydı. “Amerika’nın savaşçılarını ve sivillerini bilerek tehlikeye atacak bir ürün sunmayacağız.”
Amodei’nin açıklamasından iki gün sonra, ABD ve İsrail’in İran’a yönelik önleyici ve ortak yasadışı saldırısı başladı; bu saldırıda yapay zekâ destekli karar verme sistemlerinin (AI DSS) bir kez daha aşırı kullanımı gözlemlendi. Hedefler, ABD ordusunun Palantir’in Maven Akıllı Sistemi’nden yararlanmasıyla hızla belirlendi; bu sistem, gözetim verilerini değerlendirmek, hedef listeleri oluşturmak ve bunları öncelik sırasına koymak için Anthropic’in Claude yapay zekasını entegre ediyor. Uluslararası Stratejik Araştırmalar Enstitüsü’nden (IISS) Noor Hammad, “İran’da vurulan hedeflerin çoğu, bir okul, sağlık tesisleri ve konutlar da dâhil olmak üzere sivillere aitti; bu durum, hızlı hedef belirlemenin risklerini ortaya koyuyor” diye yazıyor. Düşünce kuruluşlarının her zaman aynı ölçüde hem durumu hafife alıcı ifadeler hem de örtmece ifadeler sunacağına güvenilebilir.
Gisel, gazetecilere, mevcut durumda “savaş alanında otonom silahların insanları doğrudan hedef almak için kullanıldığına dair doğrulanmış bir kanıt bulunmadığını” söyledi. IDF, Pentagon ve diğer ordulardaki teknoloji hayranlarının sergilediği saygılı tutumlar göz önüne alındığında, bu ayrım pek bir fark yaratmıyor. Sistem öyle diyorsa, doğru olmalı. Ayrıca, bu itidal çağrılarının ve yasal bir denetim sisteminin, hiçbir etki yaratmadan endişe yığınını daha da şişirme riski de bulunmaktadır. Kasım ayında gerçekleşecek Belirli Konvansiyonel Silahlar Sözleşmesi’nin (CCW) yedinci Gözden Geçirme Konferansı öncesinde, insanlık, kaçan cini geri dönülmez bir şekilde şişeye hapsetmeye çalışmadan önce kendisini tehlikeye atmayacak bir yol izlemeyecektir. Atom silahlarının icadından iklim değişikliği tehditlerine kadar, her zaman en kötü senaryo, övülen her türlü çare ortaya çıkmadan önce gerçekleşir. Ve o çare, ortaya çıktığında, muhtemelen sadece geçici bir rahatlama sağlayacaktır.
*Binoy Kampmark, Cambridge’deki Selwyn Koleji’nde Commonwealth bursiyeriydi. Şu anda Melbourne’daki RMIT Üniversitesi’nde ders vermektedir.
