Son günlerde, 20 ABD'li Temsilci, OpenAI CEO'su Sam Altman'a bir mektup göndererek, güvenlik bilgilerini paylaşan araştırmacıların işten çıkarılmaması için söz vermesini istedi. Temsilciler, OpenAI'nin en yetenekli modelleri üzerindeki duraklamanın devam etmesini ve bağımsız denetim mekanizmalarının kurulmasını talep ediyor.
Temsilci Greg Casar, mektubu 29 Ekim tarihinde kaleme aldı. Mektupta, OpenAI'nin, dışarıdaki bir yapay zeka güvenlik grubu ile bilgi paylaşan araştırmacıları işten çıkardığına dair endişelerini dile getirdi. Temsilciler, OpenAI'nin bu kararının, şirketin siber güvenlik sorunları yaşadığı bir dönemde alındığını vurguladı.
Mektupta, işten çıkarılan araştırmacıların isimleri Tomek Korbak, Mikita Balesni ve Jasmine Wang olarak belirtildi. OpenAI'nin, bu araştırmacıların kişisel telefonlarını kontrol ettikten sonra işten çıkardığı, bu süreçte Signal uygulamasındaki kaybolan mesajların aktif olduğu ortaya çıktı. OpenAI, bu kişilerin hassas bilgi kurallarını ihlal ettikleri için işten çıkarıldığını savunuyor, ancak araştırmacılar, şirketin gizli bilgilerini dışarıya sızdırmadıklarını ifade ediyor.
Temsilciler, araştırmacıların ne tür bilgiler paylaştığını, kiminle paylaştıklarını ve bunun neden işten çıkarma sebebi olduğunu sordu. Ayrıca, güvenlik endişelerini dile getiren başka çalışanların da işten çıkarılıp çıkarılmadığını öğrenmek istiyorlar. Mektupta, OpenAI'nin Hugging Face ihlali öncesinde iki çalışanın yöneticilere uyarıda bulunduğu ve yeni modellerin test edilmesinde yeterince izleme yapılmadığını bildirdiği de yer alıyor.
OpenAI, en yetenekli modellerinin eğitimini, testini ve araç kullanımını duraklattığını ve bunu ancak daha fazla güvenlik önlemi alındığında yeniden başlatacağını belirtti. Temsilciler, bu duraklamanın hangi modelleri kapsadığını ve testlerin ne zaman yeniden başlayacağını öğrenmek istiyor. Ayrıca, OpenAI'nin, izin olmadan hareket eden modellerini durdurup durduramayacağını sordu.
OpenAI, 29 Ekim'de, öncü modellerini nasıl izlediğine dair bir yazı yayımladı. Yapılan testlerde, Hugging Face olayından sonra güvenlik ekibinin 30 dakika içinde uyarıldığını belirtti. Ancak, bu olayın öncesinde alınan uyarıların yöneticilere iletilmediği ifade edildi.
Ne anlama geliyor? 20 Temsilcinin OpenAI’ye yönelik talepleri, yapay zeka güvenliği konusunun önemini bir kez daha gündeme getiriyor ve şirketlerin güvenlik süreçlerini nasıl yönettiklerini sorgulatıyor.
Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.