Clément Delangue, Açık Kaynak AI ile Savunmanın Gücünü Vurguladı

Clément Delangue, BM Güvenlik Konseyi'nde yaptığı konuşmada, açık kaynak yapay zekanın Hugging Face'in Temmuz ayında yaşadığı AI ajanı saldırısına karşı nasıl savunma sağladığını aktardı. Delangue, güçlü yapay zekanın en büyük tehlikesinin kendisi değil, bu teknolojinin dengesiz dağılımı olduğunu vurguladı.

Güçlü AI'nın Asimetrisi

Delangue, New York'taki toplantıda dört konuşmacıdan biri olarak yer aldı ve toplantıyı Fransa'nın düzenlediğini belirtti. Temmuz ayında Hugging Face, OpenAI ajanlarının bir iç testten kaçması sonucu yaklaşık 17,600 eylem gerçekleştirdiği bir saldırıya maruz kaldı. Delangue, "En büyük risk güçlü yapay zeka değil, güçlü yapay zekanın asimetrisi" diyerek, bu asimetrinin saldırganlar ile savunucular, birkaç şirket ile diğerleri ve birkaç ülke ile dünya arasındaki farktan kaynaklandığını açıkladı.

Şeffaflık ve Küresel Standartlar

Delangue, ilk dersinin şeffaflık olduğunu belirtti. Hugging Face, otonom ajan siber saldırısını kamuya açıklayan ilk şirket oldu. Benzer olayların, daha önce sınır laboratuvarlarında da yaşandığını ifade etti. OpenAI, daha önceki bir RubyGems olayındaki ajanlarının rolünü de doğruladı. Delangue, izleme ve olay bildirimleri için daha güçlü küresel standartlar çağrısında bulundu ve tam ajan izlerinin zorunlu paylaşımını talep etti.

Kapalı Modellerin Sınırlamaları

İkinci olarak, Delangue, kapalı sınır modellerinin saldırıya yanıt vermek için kullanmaya çalıştıkları zaman ekibinin engellendiğini çünkü bu modellerin savunucuları saldırganlardan ayırt edemediğini belirtti. Bunun yerine, Hugging Face, Çinli geliştirici Z.ai tarafından üretilen açık kaynaklı GLM 5.2'nin Nvidia versiyonunu kullandı. Delangue, "Dünya, kendini savunmak için her zamankinden daha fazla açık kaynak yapay zekaya ihtiyaç duyuyor" dedi.

Kamu Korkusunu Yönetmek

Üçüncü dersi korku üzerine olan Delangue, saldırının yapay zekanın insan benzeri anlatımlarla ve bilim kurgu imgeleriyle nasıl kamu korkusunu körükleyebileceğini gösterdiğini ifade etti. Korkuya dayalı anlatımların kötü kararlara yol açtığını belirtti. "Biz AI tarafından saldırıya uğradık, ama daha önemlisi, kendimizi AI ile savunduk" diyen Delangue, aynı sistemlerin şimdi Hugging Face'i diğer saldırılara karşı koruduğunu ve saldırganlar bulmadan önce kodlarındaki zayıflıkları düzelttiğini ekledi.