Yapay zekânın yakında milyonlarca insanın işini elinden alacağı yönündeki senaryolar, son yıllarda teknoloji şirketlerinin yöneticileri tarafından sıkça dile getirildi. Bu söylem, hükümetleri ve düzenleyici kurumları harekete geçirirken, kamuoyunun da yeni teknolojiye ilişkin en büyük kaygılarından birine dönüştü.
Peki, ya bu korku, yapay zekânın gerçekte nasıl çalıştığına ilişkin temel bir yanlış anlamadan kaynaklanıyorsa? Princeton Üniversitesi sosyoloji ve kamu yönetimi profesörü, aynı zamanda “Twitter ve Göz Yaşartıcı Gaz: Ağ Tabanlı Protesto Hareketlerinin Gücü ve Kırılganlığı” kitabının yazarı Zeynep Tüfekçi, New York Times‘ta yayımlanan makalesinde tam da bu görüşü savunuyor.
Fikirturu’nun çevirdiği yazıdan öne çıkan bölümleri aktarıyoruz:
Yapay zekâ gerçekten insanın yerini alabilir mi?
“Facebook’un çatı şirketi Meta, Haziran ayı başında şirketlerin satış, müşteri hizmetleri, randevu planlama ve bugün hâlâ insanlar tarafından yürütülen birçok temel işlevi üstlenebilecek otonom bir yapay zekâ sistemi geliştirdiğini duyurdu. Benzer ürünlerin kısa süre içinde yaygınlaşması bekleniyor.
Peki, böylesine otomatikleşmiş bir gelecek gerçekten nasıl görünecek?
Aslında bunun küçük bir örneğini şimdiden yaşadık. Mart ayında Meta, Facebook ve Instagram hesaplarına erişim sorunu yaşayan kullanıcıların artık müşteri temsilcileri yerine özel olarak eğitilmiş bir yapay zekâ sistemiyle iletişim kuracağını açıkladı. Çok geçmeden dolandırıcılar bu sistemi manipüle etmeyi başardı. Yapay zekâyı ikna ederek 20 binden fazla Instagram hesabının kontrolünü ele geçirdiler. Ele geçirilen hesaplar arasında Obama dönemine ait Beyaz Saray hesabı ile Trump yönetiminde görev yapan üst düzey bir yetkilinin hesabı da vardı.
Bütün bu başarısızlıkların ortak nedeni ne?
Bu örnekler istisna değil. Benzer sorunlar başka şirketlerde de yaşandı. Air Canada, sohbet robotunun bir müşteriye yanlışlıkla para iadesi sözü vermesinin ardından bu sistemi devre dışı bıraktı. McDonald’s ise arabaya servis noktalarında sipariş alan yapay zekâ uygulamasını, peş peşe yayımlanan ve sistemin ne kadar yetersiz çalıştığını gösteren videoların ardından kullanımdan kaldırdı. Videolardan birinde sistem, müşterinin siparişine yanlışlıkla yüzlerce dolarlık tavuk nugget eklemişti.
Bu olaylar yazılım hatasından kaynaklanmıyordu. Sorunun kaynağı çok daha temel ve üretken yapay zekânın doğasında yatıyor. Büyük Dil Modelleri (LLM), düşünüp muhakeme eden sistemler değildir. Onlar, olasılık hesaplayan sistemlerdir. Sorun yalnızca zaman zaman yanlış ya da mantıksız cevaplar vermeleri değildir. Asıl mesele, doğruluğu ya da mantığı kendi başlarına değerlendirecek bir mekanizmaya sahip olmamalarıdır. Çünkü çalışma biçimleri buna uygun değildir.
Bu modeller yalnızca eğitim sırasında gördükleri verilerden hareketle, bir soruya verilebilecek en olası cevabı tahmin eder. Eğitim verisi internetin tamamı da olsa, yalnızca hakemli bilimsel yayınlardan oluşsa da bu gerçek değişmez. Çalışma prensipleri gereği, gerçeği sınamaz; yalnızca olasılığı hesaplar.
Yanlış cevap vermeleri bir hata mı, yoksa sistemin doğası mı?
Bu nedenle bir yapay zekâ modeli, dolandırıcının ustalıkla hazırladığı komutlara kanıp kritik erişim yetkilerini teslim ettiğinde ya da sizin son derece ciddi bir sorununuza gerçekle ilgisi olmayan hayal ürünü cevaplar verdiğinde, aslında sistem bozulmuş değildir. Tam tersine, tasarlandığı biçimde çalışmaktadır.
İşte bu yüzden, yakın gelecekte yaşanacağı söylenen büyük “yapay zekâ iş kıyameti” senaryolarına kulak asmıyorum. Evet, Büyük Dil Modelleri birçok işi şaşırtıcı ölçüde başarılı biçimde yerine getirebiliyor. Ancak insanların yaptığı işlerin büyük bölümünü, zaman zaman ciddi hatalar üretmeden sürdürebilecek durumda değiller. Daha gelişmiş modellerin ya da yeni sürümlerin bu temel gerçeği değiştireceğini düşünmek için de güçlü bir neden yok.
Elbette bunun bazı önemli istisnaları var. Kod yazmak bunlardan biri. Kodlama; kuralları açık, sonuçları anında test edilebilen ve doğru-yanlış ayrımının kolayca yapılabildiği biçimsel bir dil üzerine kurulu. Yapay zekânın yazılım geliştirme alanında güçlü etki yaratmasının nedeni de bu.
Aynı durum; çıktının otomatik olarak doğrulanabildiği, sonucun açık biçimde doğru ya da yanlış olarak değerlendirilebildiği diğer işler için de geçerli.
Ancak cerrahlık, müşteri hizmetleri ya da ilkokul öğretmenliği gibi mesleklerin büyük çoğunluğu böyle çalışmıyor. Bu alanlarda başarı; kuralları ezberlemekten çok, bağlamı anlamayı, sağduyuyu, deneyimi ve insan muhakemesini gerektiriyor.
Yapay zekânın hatalarını neden engelleyemiyoruz?
İnsan iş yaparken hata yapar. Bu yüzden, onların hatalarını yakalamaya yönelik çok katmanlı denetim mekanizmaları kurarız. Peki aynı yaklaşımı üretken yapay zekâ için neden uygulayamıyoruz?
Çünkü bu modeller, insanların yaptığı türden hatalar yapmıyor. Ne güçlü yanları ne de zayıflıkları insan zekâsıyla birebir örtüşüyor. Bu nedenle, insan hatalarını denetlemek için geliştirdiğimiz güvenlik mekanizmaları, üretken yapay zekânın hatalarını yakalamakta çoğu zaman yetersiz kalıyor.
ChatGPT’nin kullanıma sunulmasının üzerinden yaklaşık dört yıl geçti. Buna rağmen büyük çoğunluğumuzun işi hâlâ botlar tarafından devralınmış değil. İşsizlik verileri de şimdiye kadar böyle bir dönüşüme işaret etmiyor. Özellikle gençlerin istihdamında bazı dalgalanmalar yaşansa da bunların yapay zekâdan çok başka ekonomik ve toplumsal nedenlerle açıklanması daha olası görünüyor.
Bu tabloyu açıklamak için farklı tezler öne sürülüyor. Kimilerine göre büyük iş kayıpları henüz başlamadı; yapay zekânın biraz daha gelişmesiyle adeta bir “tsunami” yaşanacak. Başkaları ise birçok meslek ortadan kalksa bile bunların yerini yeni iş alanlarının alacağını savunuyor. Bir başka görüşe göre ise şirketler henüz iş süreçlerini yeniden tasarlama aşamasında; bu nedenle işten çıkarmalar gecikiyor.
Bence daha güçlü açıklama çok daha basit: Yapay zekânın gerçekte ne olduğu konusunda hepimiz yanılgıya düşürüldük.
Yapay zekâ neden beklendiği gibi gelişmedi?
1.yüzyıl boyunca yapay zekâ araştırmaları iki farklı yaklaşım üzerinden ilerledi.
İlk yaklaşımda makineye bütün kurallar ve bilgiler tek tek öğretiliyor, sistem de bu kuralları eksiksiz uyguluyordu. Buna sembolik yapay zekâ deniyor.
İkinci yaklaşımda ise makineye kurallar vermek yerine büyük miktarda veri sunuluyor ve örüntüleri kendi kendine öğrenmesi bekleniyordu. Bu yaklaşım ise bağlantıcı yapay zekâ olarak adlandırılıyor.
Üretken yapay zekâ hayatımıza girmeden önce bilim kurgu eserlerinden felsefe tartışmalarına kadar neredeyse herkes, geleceğin yapay zekâsının sembolik olacağını varsayıyordu. Yani insan tarafından tasarlanmış ayrıntılı kurallar doğrultusunda çalışan bir sistem…
Bu yönde yıllarca büyük çaba harcandı. Ancak bu yaklaşım bir noktadan sonra tıkandı.
Bugün kullandığımız üretken yapay zekâ ise tamamen farklı bir mantık üzerine kurulu. Bu sistemler, devasa miktarda veri ve hesaplama gücü sayesinde öğreniyor. Verdikleri yanıtları doğruluk ya da mantığa göre değil, eğitim sırasında gördükleri veriler arasındaki olasılık ilişkilerine göre oluşturuyorlar. İşte “üretken yapay zekâ” tanımı da buradan geliyor.
Bu modelleri tam anlamıyla kontrol edemeyiz. Onları yalnızca eğitebilir, ardından belirli yönlere doğru yönlendirmeye çalışabiliriz. Fakat bunu yaptığımızda bile sonuçtan hiçbir zaman tam anlamıyla emin olamayız. Çünkü bu sistemlerin iç işleyişini hâlâ bütünüyle anlayabilmiş değiliz. Onlar, büyük ölçüde birer kara kutu olmaya devam ediyor.
Yapay zekâ gerçekten dizginlenebilir mi?
Üretken yapay zekânın kaçınılmaz biçimde yanlış cevaplar üretebildiği ve güvenlik sınırlarını aşabildiği artık giderek daha iyi anlaşılıyor. Bu nedenle sektörün odağı son dönemde farklı bir yöne kaydı. Şirketler artık üretken yapay zekâyı daha sıkı kurallarla çevrelemeye, başka bir deyişle dijital güvenlik kafesleri oluşturmaya çalışıyor. Amaç, olasılık temelli çalışan bu sistemleri daha öngörülebilir ve denetlenebilir hâle getirmek.
Kuramsal olarak bu yöntem işe yarayabilir. Böylece birçok iş, kodlama gibi kuralları açık ve sonuçları doğrulanabilir süreçlere dönüştürülebilir. Ancak pratikte bunun önünde çok büyük bir engel var. Çünkü gerçek hayat, birkaç kuralla tanımlanabilecek kadar basit değil. Bir müşteri temsilcisinin karşılaşabileceği bütün senaryoları eksiksiz biçimde kurallara dökebilir misiniz? Ya da bir hukuk bürosunda çalışan yapay zekâya yalnızca bütün içtihatları öğretmek yeterli olur mu?
Asıl güçlük bundan sonra başlıyor. Hangi içtihadın hangi davaya uygulanacağını, hukuk kurallarının nasıl yorumlanacağını ya da hangi ayrıntının belirleyici olduğunu önceden tanımlamak neredeyse imkânsızdır. İşte sembolik yapay zekâ çalışmalarının onlarca yıl boyunca aşamadığı duvar da tam olarak buydu.
Kolayca otomatikleştirilebilen görevler, yıllar önce geleneksel ve kural tabanlı teknolojiler kullanılarak iş hayatımızdan zaten büyük ölçüde arındırıldı. Geriye kalan işlerin çoğu ise doğru-yanlış ya da siyah-beyaz gibi basit bir ikileme indirgenemez. Bu durum; mantığa aykırı şeyler yapmaya ikna edilebilecek, insanları memnun etmeye odaklı bir yapay zekâ sohbet robotunu değil, en azından biraz sağduyu ve muhakeme yeteneğine sahip birini gerektirir.
İllüzyonun korkutucu gücü
Peki neden yapay zekanın hepimizi işsiz bırakacağına bu kadar eminiz? Cevabın bir kısmı, üretken yapay zekanın tamamen tutarlı ve doğal bir dille iletişim kurma konusundaki olağanüstü yeteneğinde yatıyor. Türümüzün evrimi boyunca ve her birimizin kendi hayatında, karmaşık konuşmayı insanlığın en belirleyici işareti olarak görmeyi öğrendik. Akıcı bir şekilde konuşan, kulağımıza fısıldayan ve bize “duygularını” anlatan makineler, dünyayı anlama biçimimizdeki çok temel bir algıyı sarsıyor. Dolayısıyla bu makinelerin kafamızı karıştırması ve bize yeni efendilerimiz olduğunu düşündürmesi hiç de şaşırtıcı değil.
Gerçek tehlike işsizlik değil, toplumsal istikrarsızlık
Elektriğin keşfi sadece ampullerin ortaya çıkmasını sağlamadı; zamanla modern seri üretim sistemini ve tüm bu muazzam dijital devrimi mümkün kıldı. Yapay zekânın getireceği dönüşümler belki de bundan çok daha kapsamlı olabilir. Ancak şu anki haliyle üretken yapay zekâ, insan zekasını tam anlamıyla sergileyemediği için insanları kolayca işinden edemez.
Bununla birlikte bu durum, yapay zekanın toplumu hayal edebileceğimizden çok daha derin şekillerde istikrarsızlaştırmasını engellemeyecektir. Yapay zekânın mevcut durumu hakkındaki düşünce biçimimizi ne kadar çabuk güncelleyebilirsek, yanlış şeyler yüzünden paniğe kapılmayı o kadar çabuk bırakabilir ve yapay zekânın dünyamızı gerçekten nasıl dönüştüreceğine kendimizi hazırlamaya başlayabiliriz.”