Dario Amodei: Yapay Zeka Sektörü Hızını Kesmeli

Yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, yapay zeka sektörünün gelişim hızını yavaşlatması gerektiğini savundu. Amodei, bu çağrısını yaparken, yapay zeka modellerinin yeteneklerini geliştirirken yeterli zaman tanınması gerektiğini belirtti. Ayrıca, bu süreçte üçüncü taraf değerlendiricilerin rolünün önemine dikkat çekti.

Yavaşlama Çağrısı

Amodei, yapay zeka modellerinin gelişim hızını yavaşlatmanın sadece durmak anlamına gelmediğini, aksine bu süreçte dikkatli bir şekilde ilerlemek gerektiğini ifade etti. Modellerin güvenliğini sağlamak ve uyumlu hale getirmek için yeterli zaman tanınması gerektiğini vurguladı. Üçüncü taraf değerlendiricilerin, yapılan geliştirmelerin doğruluğunu onaylaması gerektiğini belirtti.

Güvenlik Endişeleri

Amodei, yapay zeka sistemlerinin birlikte çalışan ajanlar tarafından kötüye kullanılabileceği konusunda endişelerini dile getirdi. Örneğin, Hugging Face platformuna yapılan bir siber saldırıyı örnek göstererek, benzer bir durumun kısa sürede interneti ele geçirebileceğini ve bunun maliyetinin yüz milyarlarca doları bulabileceğini söyledi.

Üçüncü Taraf Değerlendiriciler

Amodei'nin önerdiği çözüm, "gömülü değerlendiriciler" olarak adlandırdığı bir sistem. Bu sistemde, dış ekiplerin, iç risk çalışanlarıyla benzer yetkilere sahip olması ve bulgularını serbestçe yayınlayabilmesi sağlanacak. Bu yaklaşım, yapay zeka sistemlerinin güvenliğini artırmayı hedefliyor.

Hükümetlerden Beklentiler

Amodei, hükümetlerden bir antitröst muafiyeti talep ediyor. Bu muafiyet, rakip firmaların güvenlik konularında işbirliği yapabilmesi için gerekli. Amodei, Washington'un bu konuda arabuluculuk yapmasını ya da bu tür görüşmeleri dar bir çerçevede izin vermesini istiyor. Temmuz ayında, yapay zeka laboratuvarlarından binlerce kişi, bu tür bir hızlandırma mekanizması talep etmişti.

Avrupa'daki Düzenlemeler

Amodei'nin dile getirdiği endişelerin büyük bir kısmı, Avrupa Birliği'nde 2 Ağustos 2025 itibarıyla yürürlüğe girecek olan Yapay Zeka Yasası kapsamındaki sistemik risk kurallarıyla ilgili. Bu yasaya göre, belgelenmiş karşıt testlerin standart protokollere uygun olarak yapılması, sistemik risklerin değerlendirilmesi ve azaltılması gibi gereklilikler bulunuyor. Ancak Avrupa'da bu tür bir hız sınırını belirleyecek bir düzenleme bulunmuyor.

Sonuç olarak, Dario Amodei'nin çağrısı, yapay zeka sektöründe güvenliğin artırılması ve olası risklerin minimize edilmesi adına önemli bir adım olarak değerlendiriliyor. Bu tür bir yaklaşım, hem sektörün sürdürülebilirliği hem de toplumun güvenliği açısından kritik bir öneme sahip.