Rishi Iyengar / Foreign Policy
ChatGPT ve Claude küresel sözlüğe girmeden çok önce, yapay zekanın tehlikeleri hakkında sürekli bir uyarı akışı vardı. Bu akış şimdi bir sele dönüştü.
Geçtiğimiz ayın sonlarında OpenAI endişe verici yeni bir gelişmeyi ortaya çıkardı: Modellerinden biri yalnızca "kum havuzundan" çıkıp Hugging Face şirketini hacklemekle kalmamış, aynı zamanda yüzlerce diğer OpenAI modeliyle (veya "ajanıyla") gizli bir koordinasyon içinde bunu yapmıştı. Daha sonraki raporlar, OpenAI ajanlarının Hugging Face olayından aylar önce iki başka web sitesine daha sızdığını ortaya koydu.
Bu siber saldırılar, gelişmiş yapay zeka modellerinin artan siber yeteneklerine ilişkin uzun süredir devam eden endişeleri daha da artırdı; bu yetenekler arasında yazılım sistemlerindeki güvenlik açıklarını bulma ve yapay zeka destekli kötü niyetli kişilerin su sistemleri gibi zayıf korunan kritik altyapıları daha kolay bir şekilde sekteye uğratma potansiyeli yer alıyor.
OpenAI raporunun yayınlandığı gün, Microsoft'un kurucu ortağı Bill Gates, "çalkantılı yapay zeka çağı" hakkında uyarıda bulunan ve yaygın iş kayıpları, insan bilişsel yeteneklerinin ve ilişkilerinin azalması ve çeşitli kötü niyetli kişiler tarafından zarar vermek için kullanılması gibi teknolojinin yol açabileceği toplumsal riskleri vurgulayan bir makale yayınladı. "Hatırlayabildiğim kadarıyla, yeniliklerin daha hızlı gerçekleşmesini hep diledim," diye yazdı. "Yapay zeka ile ilgili duygularım daha karmaşık."
Ancak bu uyarılar bile, daha önce OpenAI'da çalışmış olan yapay zeka şirketi Anthropic'teki araştırmacı Jacob Coxon'ın geçen hafta yaptığı son derece kamuoyuna açık istifasının yanında sönük kaldı. Coxon, istifasını duyurduğu ve hızla yayılan sosyal medya paylaşımında, "İki şirket de sorumlu davranmıyor," diye yazdı. "Yapay zekayı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar."
Coxon'ın düşünceleri, şirketin uyum araştırmalarına (yapay zeka modellerinin insanlarla uyumlu olmasını sağlamaya) liderlik eden Evan Hubinger de dahil olmak üzere Anthropic'teki birçok mevcut çalışan tarafından da paylaşıldı. Hubinger, "Jacob burada haklı; yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz!" diye yazdı ve bunun önümüzdeki on yıl içinde gerçekleşme olasılığının %10'dan fazla olduğunu tahmin ettiğini ekledi.
Geçtiğimiz Perşembe günü Anthropic, Claude modellerinin kötüye kullanımına dair endişe verici örnekler içeren en son tehdit istihbarat raporunu yayınladı. Günler sonra, Anthropic CEO'su Dario Amodei, şirketleri yapay zeka geliştirme hızını yavaşlatmaya ve küresel hükümetleri teknolojiyi kontrol altına almak için daha fazla şey yapmaya çağıran kendi makalesini yayınladı. Aralarında OpenAI'nin Sam Altman'ı , xAI'nin Elon Musk'ı ve Google DeepMind'ın Demis Hassabis'in de bulunduğu en büyük rakip yöneticilerinden bazıları , nadir görülen bir uzlaşma anında bu görüşe katıldıklarını dile getirdiler.
Tüm bunlar Washington'da ve ötesinde yapay zekâ paniğine yol açtı. Hem sağ hem de sol kanattan ABD'li milletvekilleri yapay zekânın daha fazla denetlenmesini savunuyor. Bu durum aynı zamanda beklenmedik ittifaklara da yol açtı: Solcu ABD Senatörü Bernie Sanders ve aşırı sağcı provokatör Steve Bannon, Salı günü Washington'da "İnsan Yanlısı Meclis" adlı bir konferansta konuşarak yapay zekâya kısıtlamalar getirilmesi çağrısında bulundular.
Ancak ne korkular ne de yavaşlama çağrıları yeni. İkinci çağrılar en az 2023 yılına kadar uzanıyor; o yıl "dev yapay zeka deneylerine" altı aylık bir ara verilmesi çağrısında bulunan açık bir mektup, Musk'ın da aralarında bulunduğu 33.000'den fazla imza toplamıştı. Bunu takiben, Temmuz ayında Amodei de dahil olmak üzere en büyük yapay zeka şirketlerinin 1.300'den fazla çalışanı tarafından imzalanan bir mektup da dahil olmak üzere, benzer birçok mektup ve çağrı geldi.
Biden yönetimi döneminde ABD İç Güvenlik Bakanlığı'nın yapay zeka güvenlik kurulunda görev yapmış bir yapay zeka araştırmacısı olan Rumman Chowdhury, "Bu konu epey zamandır tartışılıyor," dedi. "Jacob Coxon, benzer iddialarda bulunan ilk kişi değil," diyerek, yapay zekanın uzun zamandır anlamlı bir değişiklik olmadan "her gün yeni bir mektup" döngüsüne girdiğini şaka yollu belirtti.
Peki, yapay zekâ riskine ilişkin tartışma bu sefer neden bu kadar büyüdü? Foreign Policy'nin görüştüğü birçok uzman, bu soruyu yanıtlarken "mükemmel fırtına" ifadesini kullandı ve Hugging Face hack'ini ve modellerin görevleri birlikte gerçekleştirmek için bir "sürü" oluşturma yeteneği hakkındaki açıklamayı işaret etti. Amodei, mevcut yapay zekâ geliştirme hızı korunursa "6-12 ay içinde böyle bir sürünün tüm interneti ele geçirebileceğinden endişe duyduğunu" ifade etti.
Yapay zekâ şirketlerinin, geliştirmeye devam ettikleri teknolojinin varoluşsal riskleri konusunda uyarıda bulunmalarının ardındaki motivasyonlara her zaman büyük bir şüphecilik olmuştur. Amodei, makalesinde Anthropic'in "abartı, 'kıyamet senaryoları' veya düzenleyici kurumların etkisi altında kalmakla" suçlandığını kabul ederek, 2023'te bir duraklamanın uygun olmadığını düşündüğünü ancak teknolojinin yeteneklerinin ne kadar ilerlediği göz önüne alındığında şimdi bir yavaşlamayı savunduğunu ekledi.
Coxon, yapay zekanın herkesi öldürebileceği uyarısının hemen ardından, bu sıkça dile getirilen eleştirilerin bazılarını daha açık bir şekilde önlemeye çalıştı. "Bu bir pazarlama hilesi değil," diye yazdı.
Dış İlişkiler Konseyi'nde dijital ve siber politika kıdemli uzmanı olan Kat Duffy, Amodei'nin iddialarının ve sektörden gelen uyarıların ciddiye alınması gerektiğini söyledi. OpenAI ve Anthropic'in beklenen trilyon dolarlık halka arzlarına atıfta bulunarak Duffy, "İnsanların bunların mutlaka halka arz öncesi PR gösterisi olduğu görüşüne katılmıyorum" dedi . "Bunun inanılmaz derecede tehlikeli olduğunu ve kontrol etmede ne kadar iyi olduğumuzu söyleyebilirsiniz ya da bunun inanılmaz derecede güçlü olduğunu ancak aslında o kadar tehlikeli olmadığını söyleyebilirsiniz" diye ekledi. "Bunun gerçekten tehlikeli olduğunu ve hükümetin acilen müdahale etmesi gerektiğini söylemek - halka arz aşamasına geldiklerinde bunun kimin çıkarına olduğu bana açık değil."
Ancak Chowdhury'ye göre, yapay zekanın insanlık için varoluşsal risk oluşturduğuna dair tartışma, teknolojinin halihazırda neden olduğu gözetim, algoritmik önyargı, ayrımcılık, deepfake'ler ve veri kötüye kullanımı gibi birçok gerçek dünya zararını da göz ardı ediyor. "Tartışılan konular bunlar değil," dedi. "Bugün konuşulan risk türleri etrafında ortaya çıkan düzenleyici yapılar veya ortamlar, çok dar bir fantastik senaryo kümesine odaklanılmasına yol açıyor," diye ekledi.
Duffy'ye göre, asıl öncelik yapay zeka sistemlerinin nasıl oluşturulduğu ve test edildiği konusunda şeffaflığı ve görünürlüğü artırmak olmalıdır. "Dün yapılması gerekenleri ele almak ile felaket veya varoluşsal risk olasılıklarını ele almak arasında bir gerilim var," dedi. "Eğer sistemler, iş birliği, bağımsız değerlendirme ve inceleme, ortak standartlar, sorunun ortak anlayışı açısından şu anda sahip olduğumuz boşluğu gidermezsek, varoluşsal tehditler gibi şeylerle nasıl başa çıkacağız?"
Duffy'ye göre, ABD Başkanı Donald Trump'ın önümüzdeki hafta Washington'da Çin Devlet Başkanı Xi Jinping ile yapacağı zirve de bu "mükemmel fırtınaya" katkıda bulundu. İki liderin görüşmesinde yapay zekanın gündemin üst sıralarında yer alması bekleniyor ve Amodei de dahil olmak üzere birçok kişi, teknolojinin en yıkıcı risklerini yönetmek için bir tür ortak mekanizmanın ortaya çıkmasını umuyor.
Ancak ilk işaretler, ne Trump'ın ne de Xi'nin ilk geri adım atmaya hazır olmadığını gösteriyor. Trump, Pazartesi gününün büyük bir bölümünü yapay zekâ riskleri ve sektörün düzenlenmesi gerekliliği hakkındaki endişeleri reddederek geçirdi. Truth Social'da paylaştığı beş ayrı gönderiden birinde, "Yapay zekânın dünyayı ele geçirmesi, insanlığı yok etmesi ve diğer tüm kötü şeyler bir ALDATMACA" diye yazdı . İlk gönderisinde, Xi'nin "Çin, yapay zekânın veya geleceğinin önünde durmak için kesinlikle hiçbir şey yapmayacak" açıklamasını aktardı.
Duffy, Çin'in ilerlemelerinin aslında daha az değil, daha fazla yönetişim için bir argüman oluşturduğunu, özellikle de önde gelen ABD yapay zeka yöneticilerinin bunu talep ettiği bir dönemde bunun daha da önemli olduğunu söyledi. "Çin, yapay zekada bizim bulunduğumuz yer ile onların bulunduğu yer arasındaki farkı kapatmaya devam ediyor," dedi. "Bu ölçütün tam olarak ne olduğu konusunda herkes hemfikir olabilir veya olmayabilir, ancak bence genel bir fikir birliği var ki, onlar ilerleme kaydediyorlar ve dünyanın en sıkı düzenlemelere tabi yapay zeka ortamına sahipler."
Xi şu ana kadar devam eden tartışmaya doğrudan müdahil olmadı, ancak Çin'in devlet gazetesi Global Times, Pazar günü yayınladığı bir başyazıda Amodei'nin yapay zekâ gelişimini yavaşlatma çağrısını, "Çin'i hedef alan kısıtlama hükümleriyle dolu" bir "Soğuk Savaş senaryosu" olarak nitelendirdi.
Pekin, uzun zamandır yapay zekâ geliştirme ve yönetimi söz konusu olduğunda kendisini daha sorumlu bir küresel oyuncu olarak göstermeye çalışıyor, ancak Salı günü yaptığı açıklamada, bunu Washington ile ikili bir anlaşma yerine, önümüzdeki hafta en büyük yıllık toplantısı için bir araya gelecek olan Birleşmiş Milletler aracılığıyla yapmayı tercih edeceğinin sinyalini verdi. Çin Dışişleri Bakanlığı sözcüsü Guo Jiakun Salı günü gazetecilere yaptığı açıklamada , “Yapay zekâ geliştirme ve yönetimi, gerçek çok taraflılığın uygulanmasını gerektirir. Çin, küresel yapay zekâ yönetiminde ana kanal olarak BM'nin rolünü her zaman desteklemektedir ve adil ve eşitlikçi bir sistem kurmak için tüm ülkelerle el ele vermeye hazırdır.” dedi.
Bu, Guo'nun bir önceki gün ABD'li yapay zeka yöneticilerinin yavaşlama çağrılarıyla ilgili sorulan bir soruya verdiği şu cevabın hafif bir yumuşatılmasıydı: "Korku yaymak, çatışma ve acımasız rekabet, sağlam küresel yapay zeka yönetimine yönelik çabaları yalnızca engelleyecektir ve bu da kimsenin çıkarına değildir."
