RÖP: ESRA KARAHİNDİBA / Harici.com.tr

Dijitalleşme uzmanı Doç. Dr. Marc Owen Jones, İsrail’in Gazze savaşında sosyal medyayı manipülasyon ve yalan haberleri yaymak için nasıl kullandığını, yapay zeka teknolojisinin bu dezenformasyon kampanyasına nasıl dahil edildiğini Harici’ye anlattı.

Hamad bin Khalifa Üniversitesi’nde Orta Doğu Çalışmaları bölümünde doçent olan Marc Owen Jones, siyasi baskı ve enformasyon kontrol stratejileri üzerine dersler vermekte ve araştırmalar yapmaktadır.

Çalışmalarında sosyal medyanın Orta Doğu’da dezenformasyon ve yalan haber yaymak için nasıl kullanıldığına odaklanan Doç. Dr. Marc Owen Jones, İsrail’in Gazze saldırılarına eşlik eden dezenformasyon kampanyalarını ortaya çıkarmaktadır.

Jones, Gazze savaşında sosyal medyada yürütülen psikolojik savaş, büyük şirketlerin rolü ve yapay zeka algoritmalarının bu kampanyalarda kullanımı üzerine sorularımızı yanıtladı.

Dezenformasyon ve yanlış bilgilendirme üzerine yaptığınız araştırmalardan hızlıca bahsetmeye başlayalım. İsrail’in Gazze’ye yönelik saldırılarına yaygın dezenformasyon ve yanlış bilgilerin eşlik ettiğini söylüyorsunuz. İsrail’in bunun için hangi yöntem ve araçları kullandığını anlatır mısınız?

7 Ekim’den bu yana İsrail’in esasen bir dezenformasyon ve yanlış bilgilendirme kampanyasına tanık oluyoruz. Dezenformasyonun amacı öncelikle Hamas’ı şeytanlaştırmak ve İsrail’in tepkisini meşrulaştırmak için Hamas’ın saldırılarını olabildiğince acımasız göstermek. Gördüğümüz en vahim, en bariz örneklerden bazıları, örneğin, Hamas’ın 40 bebeğin kafasını kestiği yönündeki suçlamalar. Hamas’ın kadınlara sistematik tecavüz uyguladığı yönündeki suçlamaları da gördük. Bu anlatıların asılsız olduğu çok geçmeden anlaşıldı. Ancak bu anlatılar kasıtlıdır. Bunlar tesadüfi değil. Tüm çatışmaların tarihi boyunca, Birinci Dünya Savaşı’ndan beri, düşmanın bebeklere nasıl saldırdığını, kadınlara nasıl tecavüz ettiğini gösteren anlatıları gördük. Neden? Çünkü bunlar hemen hemen her kültürde kırmızı çizgilerdir. İnsanlar bebekleri ve çocukları öldürme fikrinin korkunç olduğunu düşünüyor ki gerçekten de öyle. Dolayısıyla, eğer insanları, düşmanın yaptığı şeyin bu olduğuna, Hamas’ın yaptığının da bu olduğuna ikna edebilirseniz, o zaman aynı insanları, batıdaki, özellikle İsrail’in büyük müttefiki ABD gibi ülkeleri, İsrail’in Gazze’deki acımasız soykırımını desteklemeye de ikna edebilirsiniz. Bunlar büyük örneklerden bazıları ancak başka teknikler ve araçlar da var. Örneğin, çevrimiçi sahte hesapların kullanılması. Bu bildiğimiz çok yaygın bir taktik. Örneğin, İsrailli firmaların yalnızca X’te değil, Twitter’da, Facebook’ta, TikTok’ta binlerce sahte hesap oluşturabilecekleri becerilere sahip olması durumu var. Ve sonra bu hesaplar propaganda ve yanlış bilgi yaymaya girişecek. Çok ilginç olduğunu düşündüğüm operasyonlardan biri, Birleşmiş Milletler Yakın Doğu’daki Filistinli Mültecilere Yardım ve Bayındırlık Ajansı UNWRA hakkında dezenformasyon yaymak için çok sayıda sahte hesabın kullanılmasıydı. Bu, İsrail’in UNWRA’yı karalama kampanyasının büyük bir parçasıydı.

Neden? Çünkü UNWRA, Filistinlilerin en büyük işverenlerinden biri ve temelde Filistinlilerin devlet olma iddiasını ayakta tutan kuruluşlardan biri. İsrail, UNWRA’yı terörizme bağlamak için büyük bir kampanya yürütüyor. Bu da başka bir dezenformasyon taktiğidir. Meşru örgütleri terörle ilişkilendirip onları suçlama taktiği…

Bu dezenformasyon kampanyasında, sahte web siteleri oluşturan, sahte sosyal medya hesapları oluşturan ve daha sonra bunları UNWRA’nın terörizmle bağlantılı olduğuna dair dezenformasyon yaymak için kullanan sahte hesaplar vardı. Bu sadece bunun bir başka örneği. Bu kampanyaların etkinliği net değil ancak örneğin bazı ülkelerin UNWRA’dan fonları kesmeye başladığını biliyoruz. Ve son zamanlarda örneğin Amerika Birleşik Devletleri, gelecek yıl UNWRA’ya fon sağlanmasını da yasaklayan bir federal fon yasa tasarısını kabul etti. Öyle görünüyor ki, bu kampanyaların aslında çok talihsiz bir etkisi var ve bu etki, Filistin davasına verilen zararı baltalamaya ve meşruiyetini ortadan kaldırmaya yönelik.

Yani aslında İsrail’in hedeflediği şeyin, amaçları doğrultusunda sonuçlandığını söylediniz.  Bazı ülkeler UNWRA’ya fon sağlamayı bıraktı ve Hamas militanlarını çalıştırdıkları yönündeki iddialar uluslararası alanda yayıldı. Daha spesifik olarak konuşmak gerekirse, bu çevrimiçi aldatmacalar Gazze meselesinin anlaşılmasının engellenmesi bakımından nelere yol açıyor?

Sanırım artık bilginin giderek daha fazla çevrimiçi tüketildiğini biliyoruz. Ve herkesin bir anlatı yanılsaması yaratması kolaylaştı. Tekniklerin önemli bir unsuru, biri bir şey söylese görmezden geliyorsun. Bir şeyi binlerce kişi söylüyorsa o zaman bu bir anlatıya, bir bilgi parçasına dönüşüyor. Sorun çevrimiçi. Bin kişi, bin sahte hesap oluşturmak çok kolay.  İşte tam da bunu görüyoruz. Gazze hakkındaki bilgilerin çoğunun sosyal medya aracılığıyla internette tüketildiğini düşünüyorum.  Neden? Çünkü İsrail gazetecilerin Gazze’ye girip orada ne olduğunu görmesini yasaklıyor.  Yani gördüğümüz tek bilgi ya İsrail Devleti’nin Bakanlıkları aracılığıyla filtrelenmiş bilgiler ya da dezenformasyon ya da şanslı olduğumuzda Filistinli vatandaşların çektikleri görüntüler. Ve bu oldukça çevrimiçi bir savaş, bir dezenformasyon savaşı, oldukça sosyal medya odaklı bir dezenformasyon savaşı. Çevrimiçi ortamda bir şeyin viral hale gelmesi çok kolay. İsrail’le bağlantılı İsrail resmi devlet hesaplarının, ister İsrail Savunma Kuvvetleri olsun ister İsrail Dışişleri Bakanlığı olsun, sosyal medyayı açıkça dezenformasyon yaymak için kullandığını biliyoruz. Ve bu söylediğimde sildikleri dezenformasyon da var. Size bir örnek vereceğim.  İsrail Dışişleri Bakanlığı’nın resmi hesabı, birçok kez, örneğin Filistinlilerin oyuncak bebekler kullandıkları ve ölü bebeklermiş gibi numara yaptıkları bilgisini yaydı. Dışişleri hesabının bunu söylediği en az üç olay oldu.  Ve bunun yalan olduğu kanıtlandı. Bunun doğru olduğunu bilmemelerine imkan yok. Yani kasıtlı olarak bu tür yalan söylemler yayıyorlar ama bunlar binlerce retweet alıyor. Sonra, örneğin, ABD’de bu iddiaları tekrarlayan birileri var. Örneğin, Bakan Blinken ve Joe Biden’ın bizzat sosyal medyada kafaları kesilen bebeklerle ilgili iddiaları tekrarladıklarını ve bunları bir basın toplantısında yinelediklerini biliyoruz. Böylece İsrail, İsrail Savunma Kuvvetleri veya İsrail kuruluşları tarafından üretilen sosyal medya alanından gelen bilgiler ortaya çıkıyor. Bunlar sosyal medyadan diğer medya biçimlerine geçiyor ve işin sırrı da bu.  Bu iş böyle olur.  Dezenformasyon anlatısını dijital ortamda çevrimiçi olarak başlatıyorsunuz ve ana akım medyayı bununla besliyorsunuz. Yani güvenilir görünmesini sağlıyorsunuz.

Sosyal medya şirketlerinin bunda rolü nedir?

Çinli TikTok dışında Instagram, META, Snapchat gibi yaygın olarak kullanılan sosyal medya şirketlerinin çoğu Batılı. Merkezleri ABD’de bulunuyor ve bu sosyal medya şirketlerinin çoğu İsrail yanlısı önyargıya sahip olmakla suçlanıyor. Yapılan çalışmalardan biliyoruz ki, içeriğin sakıncalı olmadığından emin olmak için yapılan içerik moderasyonu uygulanırken genellikle İsrail yanlısı anlatılardan yana olunuyor. Filistinli hesapların ve Filistinli aktivistlerin gölgede bırakıldığı, hesaplarının sosyal medya şirketleri tarafından sınırlandırıldığına dair pek çok örnekle karşılaştık. Hatta şöyle birkaç örnek bile oldu. Instagram’daki Arapçanın otomatik çevirisinde, örneğin bir Filistinlinin “Ana Falestini, Elhamdulillah” ifadesi vardı,  bu da “Filistinliyim, Allah’a hamd olsun” anlamına geliyor.  Bu ifade “ben Filistinli bir teröristim” şeklinde tercüme edildi. Bunun üzerine sosyal medya şirketleri bunun bir halüsinasyon olduğunu söylemeye çalıştı. Ancak bu aslında bu şirketlerin makine öğrenimi modellerine Arapça terminolojiyi terörizmle ilişkilendirmeyi nasıl öğrettiklerini yansıtıyor. Yani Filistinlilere karşı doğal bir önyargı var. Son çatışmalardan çıkan en tanınmış yurttaş gazetecilerden biri olan Motaz Azaiza ile ilgili başka ilginç örnekler de var. Yakın zamanda Facebook’tan hesabı engellendi. Dolayısıyla, genel olarak ABD’nin İsrail konusundaki tutumuyla aynı çizgide olan Amerikan şirketlerinin, sosyal medyada Filistinlilerin seslerine orantısız bir şekilde müdahale ettiğini görüyoruz. Ve şimdi bu tür bir savaşı TikTok’ta da görüyoruz. TikTok’a yönelik savaş açıkça veri gizliliğiyle ilgili endişeler nedeniyle tasarlandı. Ancak birçok Amerikalının TikTok’un Filistin yanlısı içeriğin gelişmesine izin verdiğine dair endişelerini dile getirdiğine yönelik bir iddia da var. Ve artık gizlilik sorunları nedeniyle değil, Filistin yanlısı olarak görüldüğü için TikTok’un yasaklanmasını isteyen güçler var. Yani sosyal medya şirketleri; Amerikalılar, kesinlikle içeriği sansürleme ve engelleme konusunda İsrail’in yanında yer alıyor. Hatta artık Amerikalı olmayan diğer sosyal medya şirketlerinin de Filistin içeriklerini Amerikalılar kadar sansürlememeleri nedeniyle yasaklanması gerektiğini görüyoruz.

İsrail’in hem saldırı teknolojilerinde hem de sosyal medya manipülasyonunda yapay zeka kullandığına dair pek çok iddia var. Bu konuda bize ne söyleyebilirsiniz?  Yapay zeka araçları açısından İsrail’in kullanımı hakkında ne biliyoruz?

Öncelikle sosyal medya ve dezenformasyon açısından yapay zekanın giderek büyüyen bir sorun olduğunu düşünüyorum. Bunun sayısız örneğini gördük.  Bunların mutlaka İsrail olduğunu söylemeyeceğim çünkü bildiğimiz kadarıyla hepsi doğrudan İsrail’le bağlantılı değil.  Ama olabilir de. Ancak örneğin yapay zekayı kullanan çok sayıda İsrail yanlısı, Filistin karşıtı dezenformasyon görüyoruz. Amerikalı bir model olan ve çatışmanın başlarında Filistin yanlısı güçlü bir sesi olan Bella Hadid vardı. Birisi onun videosunu Hamas’ı kınadığını ve önceki duruşundan dolayı özür dilediğini söylediği bir biçimde değiştirdi, bu açıkça yalandı. İsrail yanlısı hesapların ve İsrail Dışişleri Bakanlığı hesabının da dahil olduğu, yapay zeka tarafından oluşturulan görüntülerin, örneğin, bir vakada Filistinlilere yardım ulaştırılmasını temsil ettiğini iddia eden çok sayıda örnek gördük. Daha sonra bunu sildiler ve yapay zeka tarafından yaratıldığını kabul ettiler. Bu yüzden sahte görsellerin insanları kandırmak için kullanıldığını kesinlikle görüyoruz. Ancak bence bunun daha endişe verici unsuru, Gospel’in İbranice karşılığı olan Habsora gibi sistemlerin yaratılmasıdır. Bu, Gazze’deki hedefleri seçip ele geçirmeyi amaçlayan yeni bir yapay zeka aracı. Yani Gazze’nin bombalanacak bölgelerini otomatik olarak seçmek için bu aracı kullanıyorlar. Bu aracın insandan çok daha verimli ve hızlı olduğunu iddia ediyorlar. Yani aslında yapay zeka artık insanların hedef seçerken yaptığı işi yapıyor.  Bildiğimiz kadarıyla bu araç ilk kez kullanılıyor. Ancak bunun Gazze’de tarihteki en ölümcül savaş olduğunu ve 32.000’den fazla insanın öldürüldüğünü de biliyoruz. Sivil ölüm oranının çok yüksek olduğu bir dönemde bu yeni araçların kullanıldığını görüyoruz. Bu, yapay zeka hedeflemesinin bu yeni verimliliğinin aslında Filistinlilerin kitlesel öldürülmesiyle de ilişkili olduğunu gösteriyor gibi görünüyor. Ve bu özellikle endişe verici çünkü yapay zeka modelleri verilerle eğitiliyor ve İsrail bir işgalci devlet, bir apartheid devleti; modelin; bir, eğitildiği verilerin muhtemelen Filistin karşıtı olması çok muhtemel  ve iki, muhtemelen bu önyargıları baz alıyor ve şöyle diyor: “Hedefi ben seçeceğim ve beş Filistinli sivilin ölmesi önemli değil çünkü ben bunu yapmak için eğitildim”. Yani bu yapay zeka modelinin tam olarak ne olduğunu bilmiyoruz çünkü şeffaf değiller. Ama bunu insanları öldürmek için kullanıyorlar. Ve bence bu gerçekten çok endişe verici bir şey.

Yapay zeka araçlarının hem savaş bölgesindeki hem de dijital alandaki kullanımı hakkında ne biliyoruz?

Yani İsrail, Gospel’i ve belki başka yapay zeka araçlarını kullanıyor. Bunun alanın olmadığını biliyorum ama Orta Doğu bölgesiyle ilgili çalışan bir araştırmacısın.  Belki bu konuda bir yorumun vardır. Yapay zeka olasılıkları sonsuzdur. Sorun bu. Yani teorik olarak artık binlerce, belki de milyonlarca sahte hesap oluşturabilecek ve binlerce belki de milyonlarca sahte hesabın daha önce hiç görmediğimiz ölçekte dezenformasyon ve propaganda üretmesine olanak tanıyacak yapay zeka araçlarına sahip olabilirsiniz. Sanırım bunun kanıtlarını son birkaç yılda gördüm, İsrail’de olmasa da. Savaş açısından yine çok büyük zarar veriyor. Gospel’den bahsettik ama yüz tanıma konusu ne olacak? Binlerce yüzü, milyonlarca yüzü aynı anda işleyebilme, bunu yapabilme ve daha sonra bu yüzleri otomatik olarak hedefleyebilme, DNA’yı işleyebilme, karmaşık algoritmalar kullanarak insanların bilgi profillerini işleyebilme…  Daha sonra o kişinin tehdit olup olmadığına karar veriyor… Sanırım savaş açısından yapay zekanın sınırlarının yalnızca insan yaratıcılığının sınırlarıyla eşdeğer olduğunu biliyorsunuz. Ne yazık ki yapay zekanın sorununun ne yapabileceğiyle ilgili olmadığını düşünüyorum. Kararları kimin verdiği, onu kimin kontrol ettiği önemli. Yani eğer apartheid ve işgale dayalı bir siyasi sistemimiz varsa yapay zekanın kullanımı bunu yansıtacaktır. Bunu kesinlikle görüyoruz. Bilgi alanı, sosyal medya, dezenformasyon yapay zekaya hazır değil. Tarihte benzeri görülmemiş bir ölçekte propaganda yaratmak için yapay zekanın silah haline getirildiğini giderek daha fazla göreceğiz.

Yakın zamanda Birleşmiş Milletler’in yapay zekanın yapıcı kullanımına ilişkin bir karar çıkardığını duyduk.  Türkiye ve bölgedeki bazı ülkeler de dahil olmak üzere pek çok ülke tarafından destek ve sponsorluk verildi. Peki İsrail’in uygulamaları gibi, Birleşmiş Milletler’de yapay zekanın bu olumsuz anlamda kullanılmasına ilişkin tartışmaları takip ediyor musun? Yapay zeka savaş alanında ve dijital cephede bu kadar çok kullanılacaksa, yapay zekanın geleceği ne olacak?

Bu mevzuatların hepsinde sorun var; ister BM, ister AB olsun, yapay zekanın etik kullanımına ilişkin bazı mevzuatlar da başlattı. Ancak yine güvenlik ve ulusal güvenlik söz konusu olduğunda bu alanlar çoğu zaman mevzuat açısından ayrıdır. Bunun nedeni, ulusal güvenliğin sıklıkla kırmızı çizgi olarak görülmesi. Bütün bunlar bana temelde ülkelerin hala yapay zeka ile istediklerini yapma konusunda biraz serbestliklerinin olduğunu gösteriyor. Üretken yapay zekanın savaş için kullanımının zorunlu olarak aynı şekilde sınırlandırılacağını, kontrol edileceğini veya kısıtlanacağını düşünüyorum.  Örneğin nükleer alanın düzenlenmesini görüyoruz. Hala insanların nükleer silahlara sahip olduğu bir yerde yaşıyoruz ve bu, son 10 yıldaki gidişatta, belki de nükleer silahların eskisi kadar kontrol edilmediği bir alan gördük. Aynı mantığı yapay zekaya uygularsak, temelde içinde bulunduğumuz çağın, devletlerin savunma sanayi konusunda giderek daha tehlikeli riskler aldığı bir çağ olduğunu söyleyebiliriz. Neden aniden nükleer savaşa yaklaşımımızı daha sorumlu hale getireceğimizi ama yapay zekayı denetleyeceğimizi anlamıyorum. Bunda bir mantık göremiyorum.

Dolayısıyla mutlaka bir ayrışmanın olduğunu düşünmüyorum. Yapay zeka açısından bu kararların, savaş için nasıl kullanabileceklerini mutlaka etkileyeceğini düşünmüyorum. Gazze’de olup bitenler dikkate alınacaksa, o zaman aslında insanlar İsrail gibi ülkelere giderek teknolojilerinin nasıl çalıştığını, onu nasıl kullanabileceklerini ve onu nasıl daha iyi hale getirebileceğimizi söyleyecekler. Ve biz yapay zekayı genel olarak, önleyici polislik dedikleri şeyi, suçlar meydana gelmeden önce polislik yapmaya çalışacak şekilde değiştiriyoruz. Ve bu çok endişe verici bir şey. Bu yüzden yüz tanımadan bahsettim. Çünkü teorik olarak insanları izleyebilir, bilgilerine göre takip edebilirseniz, erkenden tutuklayabilir veya kontrol altına alabilirsiniz. Yani yapay zekanın önleyici polislik noktasına geçeceğini düşünüyorum ama bunu yaptığında, potansiyel olarak bir polis devletine sahip olma alanında olduğumuz kanaatindeyim.

Kitle; sahte haberleri, dezenformasyonları gerçek olanlardan nasıl ayırt edebilecek? Çünkü yalan bilgi gerçekten çok yaygın ve bunun sahte olup olmadığını anlamak neredeyse imkansız. Tavsiye olarak kısaca bize neler söyleyebilirsiniz?

Yapay zekanın dezenformasyonu tespit etmesinin tek bir yolu yok; bu imkansız. Ancak bazı şeylere inanmaya bu kadar istekli olmamanıza yardımcı olacak şeyler yapmaya başlayabilirsiniz. Mesela diyelim ki X kullanıyorsanız, birinin tweet’ini görüyorsanız o hesap gerçek mi? Başka bir kurumla bağlantıları var mı? Fotoğraf stok fotoğrafına benziyor mu? Zaman tüneli sürekli olarak aynı konulardan mı bahsediyor?  Bunlar dikkate alınması gereken önemli şeyler. Eğer sizde duygusal bir tepkiyi tetikliyorsa sahte olma ihtimali yüksektir. Dezenformasyonun bir yönü; öfkelenmenize, üzülmenize, kızmanıza veya gülmenize neden olacak şekilde tasarlanmış olmasıdır. Yani eğer sizde duygusal bir tepkiyi tetikliyorsa, sizi manipüle etmeye çalışıyor olabilir. Bu nedenle, bazı bilgileri gördükten sonra belirli bir şekilde hissederseniz, ona daha dikkatli davranın. Sanırım size verebileceğim en büyük tavsiye bu. Sizi özellikle duygusallaştıran içeriklere dikkat edin. Çünkü bu bilgiyi tasarlayan kişilerin yapmaya çalıştığı şey bu.

Yani esas olarak hepimize sosyal medyada gördüğümüz her şeyi iki kere kontrol etmemizi tavsiye ediyorsunuz.

Hayır. Üç kere kontrol edin…