Anthropic, Claude’un şirket bünyesindeki yapay zeka araştırma ve geliştirme çalışmalarının yüzde 26’sını yönlendirdiğini, ağustos ayında yaklaşık 30 bin yapay zeka ajanının araştırma ve mühendislik görevlerinde kullanıldığını açıkladı.
ABD merkezli yapay zeka şirketi Anthropic, Claude’un şirket içindeki yapay zeka araştırma ve geliştirme çalışmalarının yüzde 26’sına öncülük ettiğini açıkladı.
San Francisco merkezli şirket, perşembe günü yayımladığı blog yazısında, ağustos ayı itibarıyla şirkette yürütülen araştırmaların yüzde 90’ından fazlasında yapay zekanın insanlarla birlikte çalıştığını bildirdi.
Anthropic, ölçülen alanların hiçbirinde Claude’un tamamen bağımsız çalışmadığını belirtti. Ancak şirketin yapay zeka araştırmalarına yaptığı katkının hızla arttığı, Epoch AI tarafından geliştirilen ölçüm sistemine göre bu oranın mart ayında yüzde 1 olduğu kaydedildi.
Veriler yapay zekanın araştırmadaki rolünü ortaya koyuyor
Açıklanan veriler, önde gelen yapay zeka şirketlerinin kendi geliştirdikleri teknolojilerin ilerletilmesinde yapay zekadan nasıl yararlandığına ilişkin kamuoyuna sunulan en ayrıntılı örneklerden biri oldu.
Yapay zekanın gelecekte insan müdahalesi sınırlı şekilde kendi gelişimine katkıda bulunabileceğine ilişkin tartışmalar sürerken, araştırmacılar giderek daha bağımsız hale gelen yapay zeka ajanlarının geliştiricilerinin amaçlarından uzak davranışlar geliştirebileceği ve bu sistemlerin izlenmesi veya kontrol edilmesinin zorlaşabileceği konusunda uyarıyor.
Anthropic’in rakibi de çarşamba günü, beklenmedik veya yetkisiz yapay zeka davranışlarına ilişkin düzenli raporlar yayımlamaya başlayacağını açıkladı. Şirket ayrıca modellerinin beklenmedik veya endişe verici olarak nitelendirdiği altı davranış vakasını kamuoyuyla paylaştı.
On binlerce yapay zeka ajanı araştırma yürütüyor
Anthropic, ağustos ayında şirketin ana dahili platformunda herhangi bir anda yaklaşık 30 bin yapay zeka ajanının araştırma ve mühendislik görevleri yürüttüğünü bildirdi.
Şirket, ajanların gerçekleştirdiği her işlemin uygulanmadan önce insan kontrolünden geçirildiğini açıkladı. Ağustos ayında verilen 1 milyardan fazla kararın yaklaşık 47 binde biri engellendi.
Yapay zeka güvenliğine ayrılan işlem gücü arttı
Anthropic ayrıca temmuz ayında örnek olarak incelenen bir hafta boyunca yapay zeka araştırmalarında kullandığı işlem gücünün yaklaşık yüzde 6’sını güvenlik çalışmalarına ayırdığını açıkladı.
Yapay zekanın kendi yürüttüğü araştırmalarda ise güvenlik çalışmalarının payı yüzde 12’ye yükseldi.
Şirket, bu oranların temkinli bir hesaplamaya dayandığını belirtti. Hem yapay zeka güvenliğini hem de kapasitesini aynı ölçüde geliştiren çalışmalar için kullanılan işlem gücünün kapasite geliştirme kategorisinde değerlendirildiği ifade edildi.
Claude’un Anthropic bünyesindeki araştırmalarda giderek daha büyük bir rol üstlenmesi, yapay zekanın araştırmacılara yardımcı olmaktan araştırma faaliyetlerinin daha büyük bölümünü doğrudan yürütmeye doğru ilerlediğini gösteriyor. Anthropic sistemlerin insan denetiminden geçtiğini ve tamamen bağımsız olmadığını belirtirken, yapay zeka öncülüğündeki araştırmalardaki hızlı artış, sistemlerin kapasitesi yükseldikçe insan denetiminin gelecekteki rolüne ilişkin tartışmaları da güçlendiriyor.
