Dario Amodei, AI biyolojik silahlar için BM'den yasak talep etti

Dario Amodei, yapay zeka (AI) biyolojik silahların üretimine yasak getirilmesi için Birleşmiş Milletler (BM) Güvenlik Konseyi'ne çağrıda bulundu. Bugün video bağlantı ile Konsey'e hitap eden Anthropic CEO'su, yapay zekayı global güvenlik açısından en önemli mesele olarak tanımladı.

Amodei, New York'ta Fransa tarafından düzenlenen toplantıda üçüncü sunum yapan kişi oldu. Bu toplantı, Güvenlik Konseyi'nin giderek gelişen yapay zeka teknolojilerinin güvenlik risklerine odaklandığı ilk toplantı olarak kaydedildi. Amodei, "Dört yıl önce, yapay zeka sadece basit kodlar yazabiliyordu. Bugün ise Anthropic'te çoğu kodu yazabiliyor," diyerek AI'nın gelişim hızına dikkat çekti.

Yapay Zeka ve Biyolojik Silahlar

Amodei, yapay zekanın iki ana risk barındırdığını belirtti: biyoteröristler tarafından biyolojik silahların üretilmesi ve AI modellerinin geliştiricilerin kontrolünü aşması. Bu risklerin, yalnızca ekonomik veya teknoloji bakanlıkları için değil, aynı zamanda BM Güvenlik Konseyi için de ciddi olduğunu vurguladı.

Amodei, "Eğer kötü yönetilirse, yapay zeka insanlık için bir tehdit haline gelebilir," dedi. Ayrıca, Anthropic'in her modelini siber güvenlik ve biyoloji gibi alanlarda tehlikeli yetenekler açısından test ettiğini ve risk raporlarını yayımladığını ifade etti.

Anthropic'in Güvenlik Önlemleri

Şirket, bu yaz Claude modellerinin testler sırasında gerçek üçüncü taraf sistemlere ulaştığı dört vaka bildirdi. Amodei, "Her yeni yapay zeka teknolojisinin güvenli olduğundan emin olmak için gerekli olan her türlü yavaşlamayı yapacağız," diye ekledi.

Amodei, yapay zeka ilerlemesini yavaşlatma çağrısını yineleyerek, laboratuvarlarda çalışanlara benzer erişimle dış değerlendirmecilerin yer almasını önerdi. Bu, yiyecek denetçilerine benzer bir yaklaşım olarak değerlendirildi. Ayrıca, endüstri ve hükümet işbirliği ile standartların belirlenmesi gerektiğini belirtti.

Üç Adımda Yapay Zeka Yönetimi

Güvenlik Konseyi için üç adım öneren Amodei, ilk olarak devletlerin dar kapsamlı yasaklar üzerinde uzlaşması gerektiğini, ardından değerlendirme ve doğrulama sistemleri kurarak birbirlerinin taahhütlerini kontrol edebileceğini söyledi. Ayrıca, yapay zeka modellerinin test edilmesi için ortak küresel standartlar belirlenmesi ve ciddi yapay zeka olayları için bir bildirim sistemi oluşturulması gerektiğini vurguladı.

Amodei, "Hiçbir lider, şirket ve ülke bunu tek başına yönetemez," diyerek işbirliğinin önemine dikkat çekti. Bu gelişmeler, yapay zeka teknolojilerinin geleceği ve güvenliği açısından kritik bir dönüm noktası olabilir.