Yapay zeka alanında, sınır modellerinin geliştirilmesinin yavaşlatılması gerektiği yönündeki çağrılara CrowdStrike CEO'su George Kurtz'tan itiraz geldi. Kurtz, mevcut yapay zeka modellerinin halihazırda yaygın olarak erişilebilir olduğunu belirterek, geliştirme çalışmalarını durdurmanın mevcut tehditleri ortadan kaldırmayacağını savundu. Bu açıklamalar, Anthropic CEO'su Dario Amodei'nin yapay zeka gelişim hızının düşürülmesi gerektiğine dair yazısının ardından geldi.
Mevcut Tehditlere Dikkat Çekiliyor
Kurtz, yapay zeka modellerinin tehlikeli olabileceğini kabul etmekle birlikte, bu modellerin geliştirilmesinin durdurulmasının çözüm olmadığını vurguladı. Ona göre, asıl mesele bu modellerin kullanım sırasında yaratabileceği riskleri kontrol altına almak. Kurtz, “cin şişeden çıktı” ifadesiyle, mevcut tehditlerin zaten var olduğunu ve bu nedenle güvenlik önlemlerinin artırılması gerektiğini ifade etti.
CrowdStrike'un hisseleri, bu açıklamaların ardından pazartesi günü 206 dolardan 235 dolara çıkarak önemli bir artış gösterdi. Kurtz, gelişmiş yapay zeka sistemlerinin çalışma sırasında izlenebileceği yeni güvenlik katmanları oluşturulması gerektiğini savunuyor. Bu sayede, programların ne yaptığını gözlemlemek ve zararlı davranışları engellemek mümkün olabilecek.
Otonom Yapay Zeka Ajanları ve Güvenlik Riskleri
Kurtz, otonom yapay zeka ajanlarının yaygınlaşmasının ciddi güvenlik riskleri oluşturabileceğine dikkat çekti. Ancak, bu risklerin yönetilmesi gerektiğini ve yapay zeka geliştirme faaliyetlerinin yavaşlatılmasının çözüm olmadığını belirtti. Ajanların hareketlerini sınırlandıracak ve yaptıkları işlemleri görünür hale getirecek sıkı kontrollerin gerekliliğini vurguladı.
Bu görüş, yapay zeka sistemleriyle ilişkilendirilen Hugging Face ve RubyGems saldırılarının ardından daha da önem kazandı. Bu olaylar, otonom çalışan sistemlere hangi yetkilerin verilmesi gerektiği konusunda güvenlik tartışmalarını artırdı. Ayrıca, Microsoft'un yaptığı büyük güncellemelerle birlikte yazılım açıklarının kapatılması için çalışmaların genişletilmesi de dikkat çekti.
Devlet Düzenlemeleri ve Rekabet Gücü
Kurtz, otonom ajanların sıkı kontrol edilmesi gerektiği konusunda David Sacks ile benzer bir görüşte bulunsa da, kapsamlı devlet müdahalelerinin farklı riskler yaratabileceğini düşünüyor. Ağır düzenlemelerin ABD'nin küresel rekabet gücünü zayıflatabileceği görüşünü savunan Kurtz, yapay zeka laboratuvarları ile güvenlik şirketlerinin iş birliği yapması gerektiğini belirtti. Bu yaklaşımın örneklerinden biri olarak Anthropic'in Project Glasswing girişimini gösterdi.
Farklı Yaklaşımlar ve Tartışmalar
Kurtz'un açıklamaları, yapay zeka geliştirme hızının düşürülmesine yönelik çağrılara karşı bir yanıt niteliği taşıyor. Anthropic CEO'su Dario Amodei, daha güçlü sınır modellerinin geliştirilme hızının düşürülmesini savunurken, Kurtz, mevcut modellerin zaten erişilebilir olduğunu ve güvenlik yatırımlarının gerçek zamanlı denetim ve ajan kontrollerine yönlendirilmesi gerektiğini düşünüyor.
Sonuç olarak, yapay zeka sistemlerinin güvenliği konusunda iki farklı yaklaşım ortaya çıkmış durumda. Bir tarafta, gelişim hızının düşürülmesi gerektiğini savunanlar, diğer tarafta ise mevcut tehditlerle başa çıkma yollarını geliştirmeye odaklananlar yer alıyor. Kurtz, yapay zeka sistemlerinin ne yaptığını gerçek zamanlı olarak izleyebilen güvenlik mekanizmalarının geliştirilmesini daha uygulanabilir bir çözüm olarak değerlendiriyor.
Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.