1. HABERLER

  2. HABER

  3. TEKNOLOJİ

  4. Yapay zeka: Üç aşamasında neler var, insanlığın yok olmasına yol açabilir mi?
Yapay zeka: Üç aşamasında neler var, insanlığın yok olmasına yol açabilir mi?

Yapay zeka: Üç aşamasında neler var, insanlığın yok olmasına yol açabilir mi?

Aralarında OpenAI ve Google Deepmind'ın en üst düzey yöneticilerinin de bulunduğu bazı uzmanlar, yapay zekanın (AI) insanlığın yok olmasına yol açabileceği uyarısında bulundu. Peki, makineler nasıl insanlardan üstünlüğü ele alabilir?

01 Haziran 2023 Perşembe 09:41A+A-

Sorulara yanıt vermek, istendiğinde metin, hatta kod oluşturmak AI kullanan sohbet robotu ChatGPT, Kasım 2022'de ortaya çıkmasından bu yana, tarihteki en hızlı büyüyen internet uygulaması oldu. Sadece iki ay içinde 100 milyon aktif kullanıcıya ulaştı.

Teknoloji gözlem şirketi Sensor Town'a göre, Instagram'ın bu kullanıcı sayısına ulaşması 2,5 yıl sürmüştü.

ChatGPT'nin ortaya çıkmasıyla birlikte, AI güvenliğiyle ilgili ateşli bir tartışma başladı.

Microsoft'un mali desteğiyle Open AI şirketi tarafından geliştirilen ChatGPT, yapay zekanın insanlığın geleceğine etkileri konusunda yoğun bir spekülasyon başlattı.

AI Güvenliği Merkezi'nin internet sitesinde yayımlanan ve "AI'den kaynaklanan yok olma riskini azaltmak, pandemiler ve nükleer savaş gibi büyük risklerle birlikte, küresel bir öncelik olmalı" açıklamasına onlarca uzman destek verdi.

Ama bazı uzmanlar da, korkuların abartıldığını söylüyor.

İnsanları taklit etmek

ChatGPT, DALL-E, Bard ve AlphaCode gibi yapay zeka uygulamalarının ürettiği, denemeler, şiirler, espriler, bilgisayar kodları, metinler, diyagramlar, fotoğraflar, sanat eserleri insan eliyle yapılanlardan farksız olabiliyor.

Bu uygulamaları öğrenciler ödevlerini yapmak, siyasetçiler konuşma metinlerini yazmak için kullanıyor. Bu siyasetçilerden sonuncusu, Demokrat Parti'den ABD Temsilciler Meclisi Üyesi Jake Auchincloss oldu.

Teknoloji devi IBM, AI tarafından yapılabilecek işlerde görevli 7 bin 800 kişinin yerine eleman alınmayacağını duyurdu.

AI ilerledikçe, insanların yaptığı işleri devralma kabiliyeti de artıyor.

Tüm bu değişiklikler size fazla geldiyse, kendinizi şunlara hazırlayın:

AI'nin sadece ilk aşamasındayız ve bazı bilim insanlarının insanoğlunun varlığını tehdit edebileceğinden korktuğu iki aşama daha yolda.

İşte AI'nin üç aşaması.

1. Dar Yapay Zeka (ANI)

Dar IA olarak da bilinen Dar Yapay Zeka (ANI), tek bir göreve odaklanıyor ve belirli görevleri yerine getiriyor.

Genelde internetten çok fazla veri öğreniyor, ancak sadece programlandığı belirli bir alanda.

Buna bir örnek satranç programları. Dünya şampiyonunu yenebiliyorlar ama başka bir görev yerine getiremiyorlar.

Dar Yapay Zeka, insanları yenebiliyor ama sadece belirli bir alanda.

Akıllı telefonlar bu teknolojiyi kullanan uygulamalarla dolu. GPS haritalarından, sizin tarzınızı bilen ve tavsiyelerde bulunan müzik ve video programlarına kadar.

Sürücüsüz araçlar ve ChatGPT gibi daha karmaşık sistemler de Dar Yapay Zeka'nın farklı formları. Belirlenmiş bir dizi rolün dışında faaliyet gösteremiyorlar, yani kendi kendilerine karar alamıyorlar.

Ancak bazı uzmanlar, ChatGPT ve AutoGPT gibi otomatikman öğrenmeye programlı sistemlerin bir sonraki gelişme aşamasına geçebileceğine inanıyor.

2. Yapay Genel Zeka (AGI)

Yapay Genel Zeka'ya, bir makinenin bir insanın yapabileceği her entellektüel görevi yerine getirmesiyle ulaşılacak.

Yapay Genel Zeka, bir makinenin bir insanla aynı entellektüel kapasiteye sahip olduğu nokta.

"Güçlü AI" diye de biliniyor.

'6 ay ara verilsin' çağrısı

Mart 2023'te, 1000'den fazla teknoloji uzmanı, "tüm AI laboratuvarlarına, ChatGPT'nin en son versiyonu GPT- 4'ten güçlü tüm sistemlerde AI'nin eğitimine derhal 6 ay ara verilmesi" çağrısı yaptı.

Apple'ın kurucularından Steve Wozniak, Tesla ve Space X'in sahibi Elon Musk'ın a aralarında bulunduğu diğer teknoloji uzmanları, "İnsanlarla rekabet edebilecek AI sistemleri, topluma ve insanlığa karşı çok büyük riskler oluşturuyor" diye yazdı.

Elon Musk, firmanın lider kadrosuyla sorun yaşayıp, istifa etmesinden önce Open AI'ın kurucularından biriydi.

Tesla ve SpaceX kurucusu ve Twitter'ın sahibi Elon Musk resigned ChatGPT'nin ana şirketi OpenAI'ın yönetim kurulundan istifa etti.

Kâr amacı gütmeyen kuruluş Yaşamın Geleceği Enstitüsü tarafından yayımlanan mektupta uzmanlar, "şirketler projelerini çabucak durdurmazsa, hükümetlerin devreye girmesini ve bir moratoryum ilan etmesi gerektiğini", böylece güvenlik önlemlerinin tasarlanıp, uygulanabileceğini söyledi.

'Zeki olduğu kadar aptal da'

Oxford Üniversitesi'ndeki AI'de Etik Enstitüsü'nen Carissa Veliz de bu mektupa imza attı. Ancak daha sonra AI Güvenliği Merkezi'nin insanlığın yok olmasından söz eden açıklamasının çok ileri gittiğini ve bu yüzden imzalamamaya karar verdiğini belirtti.

Carissa Veliz BBC'ye yaptığı açıklamada "Şu anda inşa ettiğimiz AI türü zeki olduğu kadar aptal da. ChatGPT ya da diğerlerini deneyenler, çok çok önemli eksikleri olduğunu görecektir" dedi.

Veliz ayrıca AI'nin dev oranlarda dezenformasyon üretebileceğinden kaygı duyduğunu belirtti ve "2024'teki Amerikan başkanlık seçimleri yaklaşırken ve Twitter ve diğerleri AI etiği ve güvenlik ekiplerini işten atarken, ben bundan daha çok kaygılıyım" diye konuştu.

Elon Musk'ın satın almasından bu yana, Twitter dezenformasyonla mücadele eden ekipler de dahil, çok sayıda kişiyi işten attı.

ABD yönetimi potansiyel tehditleri kabul ediyor.

Beyaz Saray'dan 4 Mayıs'ta yapılan yazılı açıklamada "AI günümüzün en güçlü teknolojisi, ancak sunduğu fırsatları kullanmak için, öncelikle risklerini azaltmalıyız" denildi.

Open AI'ın CEO'su Sam Altman, Kongre'de ifade verip, ChatGPT hakkındaki soruları yanıtladı.

Open AI'ın CEO'su ve ChatGPT'nin yaratıcısı Sam Altman, Kongre'deki ifadesinde AI'ı hükümetin denetlemesi ve kural koymasına destek verdi.

Altman Senato'daki ifadesinde "AI giderek güçlendiği için, endüstrinin hükümet tarafından kurallara bağlanmasının önemli olduğunu" söyledi.

Yaşamın Geleceği Enstitüsü'nde kamu politikası araştırmacısı Carlos Ignacio Gutierrez, BBC'y yaptığı açıklamada, AI'nin ortaya çıkarttığı en büyük zorluğun, nasıl kurallar konulacağına karar verecek, örneğin Hükümetlerarası İklim Değişikliği Paneli (IPCC) gibi bir uzmanlar kurumu bulunmaması olduğunu" söyledi.

Bu da bizi, AI'nin üçüncü ve son aşamasına getiriyor.

3. Süper Yapay Zeka (ASI)

Teoriye göre ikinci aşamaya (AGI) ulaştığımızda, son aşamaya "Süper Yapay Zeka'ya" (ASI) atlayacağız. Bu da yapay zekanın insan zekasından daha büyük olmasıyla gelecek.

Oxford Üniversitesi'nden filozof ve AI uzmanı Nick Bostrom, süper zekayı "aralarında bilimsel yaratıcılık, genel bilgelik ve sosyal kabiliyetler de dahil neredeyse her alanda insan beynini büyük ölçüde geride bırakan" bir zeka olarak tanımlıyor.

Gutierrez de "İnsanlar mühendis, hemşire ya da avukat olmak için uzun süre eğitim almak zorunda. AGI'nın sorunu, bizim yapamadığımız dönemlerde bile sürekli kendini geliştirmesi" diye açıklıyor bu durumu.

Bilim-Kurgu

Arnold Schwarzenegger, insanların yapay zekayla mücadele ettiği Terminatör gibi filmlerde oyamıştı.

Princeton Üniversitesi'nden Bilgisayar Mühendisi Arvind Narayanan, daha önce BBC'ye yaptığı açıklamada, bilim kurguya benzer felaket senaryolarının gerekçi olmadığını söylemişti:

"Şu andaki AI, bu risklerin gerçeğe dönüşmesini sağlayacak kabiliyetlerin çok uzağında. Sonuç olarak bu durum, AI'nin yakın vadeli zararlarından dikkatleri uzaklaştırdı."

2004 yapımı 'Ben, Robot' filminde Will Smith teknofobik bir cinayet dedektifini canlandırmıştı.

Makinelerin, özellikle konu duygusal zekaya geldiğinde gerçekten bir insanınki kadar geniş zekaya sahip olup olamayacağı konusunda birçok tartışma yapıldı. AGI'yi başarmaya yakın olduğumuza inananları en çok kaygılandıran şeylerden biri de bu.

Hollywood ve AI: 1968 yapımı '2001: Bir Uzay Macerası" filminde, uzay gemisi bilgisayarı HAL, uzay gemisinin sistemlerini kontrol ediyor ve mürettebata işkince yapıyordu.

Geçtiğimiz günlerde, makinelere deneyimlerinden öğrenmeyi öğretme konusundaki öncülerden "yapay zekanın babası" lakaplı Geoffrey Hinton, bir dönüm noktasına ulaşmak üzere olduğumuz uyarısı yaptı.

'AI'nin babası' Geoffrey Hinton, Google'den istifa ederken tehlike uyarısı yaptı.

Google'den yeni emekli olan 75 yaşındaki Hinton "Şu anda, makineler gördüğüm kadarıyla bizden daha zeki değil ama yakında olabilirler" dedi.

Google'den ayrıldığını duyuran mektubunu New York Times gazetesine gönderen Hinton, yaptığı işten pişman olduğunu, çünkü "kötü aktörleri AI'yi kötü şeyler için kullanmasından korktuğunu" söyledi.

Hinton BBC'ye şu "kabus senaryosu" örneğini verdi:

"Düşünün, örneğin Rusya lideri Vladimir Putin gibi kötü bir aktör, robotlara kendi Al amaçlarını yaratabilme kabiliyeti verdi. Makineler nihayetinde 'Daha fazla enerji lazım' gibi bir alt amaç yaratabilirler ve bu 'varoluşsal bir tehdide' dönüşür."

Ancak Hinton, "daha kısa vadede" AI'nin zarardan çok yarar sağlayacağını belirtti ve "Dolayısıyla bunları geliştirmeyi durdurmamız gerektiğini düşünmüyorum" diye de ekledi.

Yok oluş ya da ölümsüzlük

İngiliz fizikçi Stephen Hawking açık bir uyarı yapmıştı.

İngiliz fizikçi Stephen Hawking "süper akıllı AI'nin insan türünün sonunu beraberinde getirebileceğini" söylemişti.

Ölümünden dört yıl önce, 2014'te BBC'ye konuşan Hawking "Tam yapay zeka gelişimi, insan ırkının sonu anlamına gelebilir" demişti.

Hawking, bu derecede zekaya sahip bir makinenin giderek arttan bir oranda kendi başına çalışacağını ve kendisini yeniden tasarlayacağını belirtti.

Nanobotlar ve ölümsüzlük

AI'nin en büyük tutkunlarından biri Google'dan AI araştırmacısı ve Silikon Vadisi'ndeki Singularity Üniversitesi'nin kurucularından mucit ve yazar Ray Kurzweil.

Kurzweil, insanların süper akıllı AI'yi biyolojik engelleri geçmek için kullanacağına inanıyor.

Kurzweil, 2015'te insanların vücutlarımızın içinde çalışan ve bütün haslıkları ya da hasarları tedavi eden nanobotlar (çok küçük robotlar) sayesinde, 2030 itibariyle ölümsüzlüğü yakalayacağımızı tahmin etmişti.

Nanabotlar, insanları daha uzun yaşatabilir ya da ölümsüz kılabilir mi?

AI yönetimi

Guitérrez de en önemlisinin bir AI yönetim sistemi kurmak olduğunda hemfikir.

"Gezegendeki herkesle ilgili bu kadar çok bilgiye sahip ve alışkanlıklarını bilen (internet aramaları sayesinde) bir varlığın, fark etmediğimiz şekillerde bizi kontrol edebildiği bir gelecek düşünün" diyor:

"En kötü senaryo insan robot savaşı olmaz. En kötüsü manipüle edildiğimizin farkına varmamak olur, çünkü gezegeni bizden daha akıllı bir varlıkla paylaşıyoruz."

Kaynak: BBC

HABERE YORUM KAT

1 Yorum