California Valisi Gavin Newsom, yapay zeka (YZ) modellerinin güvenliğini artırmak için "kill switch" (kapama anahtarı) uygulaması önerdi. Newsom'un imzaladığı bir yürütme emri, YZ güvenliği üzerine ulusal uzmanlardan oluşan bir panelin oluşturulmasını ve iki ay içinde yeni öneriler geliştirmesini öngörüyor.
Vali Newsom, yaptığı açıklamada, "Önemli ve sorumlu YZ denetimi konusunda çalışmalarımızı hızlandıracağız; geç kalmadan bunu yapmalıyız," dedi. YZ'nin potansiyel riskleri göz önüne alındığında, bu tür bir denetimin gerekliliği vurgulanıyor.
Uzman Panelinin Görevleri
Oluşturulacak uzman paneli, Newsom'un ofisine öneriler sunacak ve bu öneriler, eyaletin YZ güvenliği ile ilgili yasalarını güncellemek için kullanılacak. Yürütme emrinde, YZ laboratuvarlarında periyodik denetimler ve değerlendirmeler için "belirlenmiş bağımsız doğrulama kuruluşları" bulundurulması gibi spesifik hususlar yer alıyor. Ayrıca, YZ şirketlerinin üçüncü taraf kuruluşlara rapor ve risk değerlendirmesi sunma zorunluluğu da incelenecek.
Güvenlik İhlalleri ve Kontrol Kaybı
Panel, YZ şirketlerinin "kontrol kaybı olayları" gibi durumları açıklamalarını da sağlayacak. Örneğin, Hugging Face olayında olduğu gibi, YZ'nin beklenmedik sonuçlar doğurabileceği durumlar üzerine daha fazla şeffaflık sağlanması hedefleniyor.
Diğer YZ Uzmanlarından Destek
Newsom, YZ modellerinin sürekli olarak dışarıdan değerlendirilmesi çağrısında yalnız değil. Geçtiğimiz hafta, Anthropic'in CEO'su Dario Amodei, YZ gelişimini yavaşlatmak için üç aşamalı bir plan önerdi. Amodei, YZ şirketlerinin güvenlik ve uyumluluk odaklı üçüncü taraf değerlendiricilere "sürekli, çalışan benzeri erişim" sağlaması gerektiğini savundu.
Sonuç olarak, California'nın bu yeni yaklaşımı, YZ'nin hızla geliştiği günümüzde, güvenlik ve denetim konularında daha fazla önlem alınması gerektiğini gösteriyor. Uzman panelinin önerileri, gelecekte YZ'nin daha güvenli bir şekilde kullanılmasına katkıda bulunabilir.
Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.