Anthropic CEO, AI Gelişimini Yavaşlatma Planını Açıkladı

Yapay zeka alanında artan endişeler, araştırmacıların yapay zekanın tehlikeleri hakkında daha sık uyarılarda bulunmasına neden oldu. OpenAI CEO'su Sam Altman'ın da belirttiği gibi, yapay zeka gelişiminin yavaşlatılması gerektiği düşüncesi giderek daha fazla dile getiriliyor. Bu bağlamda, Anthropic CEO'su Dario Amodei, yeni bir blog yazısında yapay zeka gelişimini yavaşlatmak için üç geniş strateji sundu ve bu konuda Anthropic'ın "tek taraflı olarak taahhüt ettiğini" belirtti.

Yapay Zeka Güvenliği Tartışmaları

Bu hafta, araştırmacı Jacob Coxon'un yapay zeka şirketlerinin "hayatlarımızla kumar oynadığı" yönündeki endişeleri nedeniyle Anthropic'tan istifa etmesi, yapay zeka güvenliği ve uyumu konusundaki tartışmaları daha da alevlendirdi. Amodei, blog yazısında Coxon'un istifası veya endişeleri hakkında doğrudan bir ifade kullanmadı, ancak yapay zeka gelişiminde daha temkinli bir yaklaşım benimsemenin zamanının geldiğine inandığını vurguladı. Bu kararında, OpenAI-HuggingFace hack olayı ve yapay zekanın son aylarda hızla ilerlemesi etkili oldu.

Yavaşlatma Stratejileri

Amodei, yapay zeka model yeteneklerinin geliştirilme hızını yavaşlatmanın önemine değindi. "Yapay zeka modellerinin yeteneklerini geliştirme hızını yavaşlatmalıyız," diyen Amodei, bu süreçte elde edilen zamanın akıllıca kullanılmasının gerekliliğini de vurguladı. İlk adım olarak, bağımsız üçüncü taraf kuruluşlardan "gömülü değerlendiriciler" kullanılmasını önerdi. Bu değerlendiriciler, yapay zeka şirketlerinin güvenlik taahhütlerine uyup uymadığını kontrol edecek ve güvenlik olaylarının raporlanmasını sağlayacak.

Koordinasyon Çağrısı

Amodei, demokratik ülkelerdeki önde gelen yapay zeka şirketlerinin ortak güvenlik standartları oluşturması ve kontrolsüz yapay zeka ilerlemesi için limitler belirlemesi gerektiğini belirtti. Ancak, bu tür bir koordinasyonun gerçekleşmesi, şirketler arasındaki rekabet ve antitröst endişeleri nedeniyle zor görünüyor. Amodei, ABD hükümetinin bu tartışmalara aracılık etmesi gerektiğini ifade etti.

Küresel İşbirliği İhtiyacı

Amodei, ABD ve müttefiklerinin otoriter hükümetlerle işbirliği yaparak yapay zeka gelişimini yavaşlatma çabalarının önemine de değindi. Özellikle, güçlü çiplerin ve yarı iletken üretim ekipmanlarının Çinli şirketlere satılmaması gibi önlemlerle, Çin'in ilerlemesini yavaşlatmanın mümkün olabileceğini belirtti.

Sonuç olarak, Amodei, yapay zekanın insan yaşam kalitesini büyük ölçüde artırabileceğine inandığını ifade etti. Ancak bu faydaların, teknolojinin doğru bir şekilde inşa edilmesi ile elde edilebileceğini vurguladı. Yapay zeka konusunda dikkatli ve bilinçli bir yaklaşım benimsemenin zamanının geldiği açıkça görülüyor.