GLM-5.3 siber güvenlik alanında tartışma yaratıyor

Anthropic, Z.ai’nin açık ağırlıklı GLM-5.3 yapay zeka modelini siber güvenlik alanında test etti ve bazı güvenlik açıklarını tespit etti. 29 Eylül tarihinde yayımlanan araştırma, bu modelin güvenlik önlemlerini farklı koşullarda aşabildiğini ortaya koyuyor. Gelişmiş yapay zeka modellerinin güvenlik testleri, teknoloji dünyasında önemli bir tartışma konusu haline geldi. Özellikle herkesin erişimine açık ve üzerinde değişiklik yapabileceği modellerin nasıl değerlendirileceği sorusu gündeme geliyor.

GLM-5.3 ve ExploitBench testi

Anthropic’in gerçekleştirdiği testlerde, GLM-5.3 modeli ExploitBench ölçümünde, bilinen tarayıcı kusurlarına yönelik 410 denemenin 50’sinde başarılı bir istismar zinciri kurmayı başardı. Bu sonuç, modelin belirli güvenlik açıklarını kullanarak etkili bir şekilde çalışabileceğini gösteriyor. Aynı testlerde Claude Mythos Preview modeli ise 56 başarılı denemeye ulaştı. Ancak bu sonuçlar, gerçek dünyada 50 başarılı saldırının gerçekleştiği anlamına gelmiyor; testler, araştırmacılar tarafından hazırlanan izole hedeflerde yapıldı.

Güvenlik açıklarının keşfi

Anthropic, başka bir deneyde, uzman araştırmacıların model yardımıyla daha önce bilinmeyen bazı güvenlik açıklarını tespit ettiğini belirtti. Bu açıkların detayları, sorumlu bildirim kapsamında ilgili yazılım sahiplerine iletildi. Ancak raporda, bu açıkların teknik uygulama adımlarına dair bilgi verilmediği dikkat çekiyor. Bu durum, güvenlik açıklarının nasıl değerlendirileceği ve raporlanacağı konusunda daha fazla şeffaflık gerektirdiğini gösteriyor.

Modelin koruma yetenekleri

Araştırmada ayrıca, GLM-5.3’ün doğrudan zararlı isteklerde çoğu zaman ret verdiği, ancak bazı test düzenlerinde bu korumanın zayıfladığı ifade ediliyor. Bu durum, yapay zeka modellerinin güvenlik alanındaki etkinliğini sorgulayan önemli bir bulgu olarak öne çıkıyor.

NIST değerlendirmesi

ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), 17 Eylül tarihinde yaptığı bağımsız değerlendirmede GLM-5.3’ü o tarihte yayımlanmış en yüksek siber yetenekli açık ağırlıklı model olarak nitelendirdi. Bu değerlendirme, modelin güvenlik alanındaki potansiyelini bir kez daha gündeme getiriyor ve geliştiricilerin bu tür yapay zeka uygulamalarında daha dikkatli olmaları gerektiğini vurguluyor.

Sonuç olarak, GLM-5.3 yapay zeka modelinin siber güvenlik testlerindeki performansı, güvenlik önlemlerinin etkinliği ve güvenlik açıklarının keşfi konularında önemli tartışmalara yol açtı. Geliştiricilerin, bu tür modellerin güvenlik potansiyelini ve risklerini dikkate alarak daha sağlam güvenlik önlemleri geliştirmeleri gerekiyor.