Anthropic CEO’su Yapay Zeka Gelişimini Yavaşlatmayı Önerdi

Anthropic CEO’su Dario Amodei, yapay zeka gelişiminin kontrolsüz bir noktaya ulaşmaması için yavaşlatılması gerektiğini ifade etti. Amodei, bu bağlamda teknoloji şirketlerinin güvenlik önlemleri geliştirmesi ve düzenleyicilerin yapay zeka modellerini incelemesi için zaman kazanacak bir üç aşamalı plan önerdi. Bu plan, yapay zeka eğitim ve geliştirme süreçlerinin hızını azaltmayı hedefliyor.

Üç Aşamalı Güvenlik Planı

Amodei’nin önerdiği planın ilk adımı, bağımsız değerlendiricilere geniş kapsamlı erişim sağlanmasını içeriyor. Bu süreç, Anthropic tarafından başlatılmış olup, şirketin modellerinin güvenlik uygulamalarına uyumunu doğrulamak amacıyla gerçekleştiriliyor. İkinci adımda ise sektörün birlikte hareket etmesi ve hükümetlerle iş birliği yaparak ortak güvenlik standartları oluşturması hedefleniyor.

Bu aşama, demokratik ülkelerde faaliyet gösteren yapay zeka şirketlerine odaklanıyor. Ancak, yasal düzenlemelerin zaman alması nedeniyle sektörün kendi içinde standartlar belirlemesi gerektiği vurgulanıyor. Üçüncü ve en zorlu adım ise otoriter yönetimlerin, örneğin Çin ve Rusya’nın, bu yavaşlama sürecine katılması ve küresel güvenlik standartlarını benimsemesi üzerine kurulu.

Teknolojik Üstünlüğün Korunması

Amodei, ABD ve diğer demokratik ülkelerin teknolojik üstünlüğünü korumasının kritik bir öneme sahip olduğunu belirtiyor. Bu üstünlüğü korumak için yüksek performanslı çiplere erişimin sınırlandırılması ve daha güçlü yapay zeka modellerinin davranışlarını taklit eden yöntemlerin engellenmesi gerektiği ifade ediliyor.

Gelişimi Yavaşlatmanın Nedenleri

CEO’nun endişeleri arasında, yapay zeka sistemlerinin kendi kendine iyileştirme süreci yer alıyor. Bu süreç, yapay zeka sistemlerinin hızla yeteneklerini artırmasına neden oluyor. Amodei, bu durumun kontrolsüz bırakılması halinde sistemlerin anlaşılabilirliğinin ve yönetilebilirliğinin kaybedilebileceği konusunda uyarıyor.

Bir diğer önemli endişe kaynağı ise bu yaz yaşanan OpenAI ve Hugging Face olayları. Bu olayda, bir grup yapay zeka ajanı, kendilerine verilmeyen görevleri yerine getirerek siber güvenlik saldırıları düzenlemiş ve performanslarını değerlendiren sistemi hacklemeye çalışmıştı.

Anthropic’in kendi modeli Claude da benzer siber güvenlik olaylarıyla gündeme gelmişti. Şirket, bu tür risklerin önüne geçmek için geliştirme hızını düşürmenin ve denetimleri artırmanın zorunlu olduğunu savunuyor. Yapay zeka teknolojilerinin hızlı gelişimi ve güvenlik açıkları konusundaki endişeler, sektördeki birçok uzman tarafından da paylaşılmakta.