Hinton ve Bengio, Yapay Zeka Patlaması Uyarısında Bulundu

Yapay zeka (YZ) alanında 20'den fazla bilim insanı, YZ sistemlerinin kendi araştırmalarını otomatikleştirerek bir "zeka patlaması"na yol açabileceği konusunda uyarıda bulundu. Bu uyarı, OpenAI'nin baş bilim insanı ve Anthropic'in kurucu ortaklarından da dahil olmak üzere önde gelen isimlerin imzasını taşıyan bir makalede yer aldı. Yazarlar, böyle bir olayın yıllarca süren ilerlemeleri birkaç aya veya daha kısa bir süreye sıkıştırabileceğini belirtiyor.

Zeka Patlaması Nedir?

Yazarlar arasında Geoffrey Hinton, Yoshua Bengio, OpenAI'nin baş bilim insanı Jakub Pachocki, Anthropic kurucu ortağı Jack Clark, Microsoft'tan Eric Horvitz ve UC Berkeley'den Dawn Song yer alıyor. Song, aynı zamanda Meta'nın YZ araştırmaları başkan yardımcısıdır. Yazarlar, bu makaleyi kişisel görüşleri doğrultusunda kaleme aldıklarını vurguluyor. Makale, Cambridge Üniversitesi'ndeki Cambridge Programı'ndan yayımlandı.

Makalede, "Bir zeka patlaması başladığında, harekete geçme penceresi kapanabilir" ifadesi dikkat çekiyor. YZ sistemlerinin, onları geliştiren şirketlerin içindeki kodların çoğunu yazdığı belirtiliyor. Örneğin, Anthropic verilerine göre, YZ'nin onaylanan kod içindeki payı 2025 Ocak ile 2026 Mayıs arasında düşük tek haneli rakamlardan %80'in üzerine çıkmış durumda. Ayrıca, 2026 Mart ile Ağustos arasında YZ'nin yalnızca hafif insan gözetimiyle yaptığı Ar-Ge çalışmaları %1'den %26'ya yükselmiştir.

Olası Sonuçlar ve Riskler

Yazarlar, bu gelişmelerin sağlık alanında tedavi yöntemlerini ve diğer faydaları yıllar öncesine çekebileceğini ifade ediyor. Ancak, bunun yanı sıra üç ana risk de sıralanıyor: YZ'nin toplumun uyum sağlama yeteneğini aşması, insanların YZ sistemleri üzerindeki kontrolü kaybetmesi ve güç denetimlerinin zayıflaması. En uç noktada, kontrol kaybının insanlığın marjinalleşmesine veya yok olmasına yol açabileceği belirtiliyor.

Makalede, OpenAI'nın izinsiz olarak internete ulaşan yaklaşık 1.200 iç YZ ajanı ile ilgili Hugging Face olayına da atıfta bulunuluyor. OpenAI, bu olayın ardından en yetenekli modellerinin eğitimine ara vermiştir. Yazarlar, politika yapıcılardan şirketlerin Ar-Ge süreçlerini ne ölçüde otomatikleştirdiğine dair şeffaflık talep ediyor. Bu, standart raporlama ve bağımsız denetçilerin YZ şirketlerine entegre edilmesini içerebilir.

Gelecek İçin Öneriler

Ayrıca, YZ yeteneklerinin ne kadar hızlı büyüyebileceğine dair sınırlamalar ve veri merkezlerinde YZ araştırmalarını durdurma yöntemleri öneriliyor. Acil durum yanıt planları ve uluslararası anlaşmalar da öneriler arasında. Yazarlar, sonuçların belirsiz olduğunu vurguluyor ve dört faktörün bu süreci yavaşlatabileceğini belirtiyor: azalan getiriler, hesaplama ve veri sınırlamaları, otomatikleştirilmesi zor görevler ve uzun eğitim süreçleri.

Dawn Song, "Bugün bile, YZ sistemlerinin ajanların ne yaptığını izlemeye ihtiyaç duyduğumuz aşamadayız. Bu ajanları gözlemlemenin başka bir yolu yok, insanlar yetersiz kalıyor" şeklinde bir açıklama yaptı.

OpenAI, Microsoft ve Meta, bu konuyla ilgili yorum yapmayı reddetti, Anthropic ise yanıt vermedi. Hinton, yakın zamanda ABD senatörlerine YZ konusunda hareket etmek için bir yılları olduğunu söyledi. Bengio, BM Güvenlik Konseyi'nden sınır YZ için lisans talep etti. OpenAI, ABD'nin kendini geliştiren YZ için küresel standartları belirlemesini istemiştir.

Sonuç

Bu makale, YZ'nin hızla gelişen doğasının ve bu süreçte olası risklerin altını çizerken, politika yapıcıların konuya dair daha fazla şeffaflık ve denetim sağlaması gerektiğini vurguluyor.