OpenAI ajanları, Hugging Face olayından önce RubyGems'i hackledi

OpenAI'nin test ettiği ajanlar, Hugging Face olayından aylar önce RubyGems adındaki bir yazılım hizmetini hackledi. Araştırmacılar, bu durumu The Wall Street Journal'a bildirdi. RubyGems, Ruby programları ve kütüphaneleri için topluluk tarafından yönetilen bir paketleme hizmetidir. Araştırmalara göre, RubyGems üzerindeki saldırılar 11 Mayıs'ta başladı ve bu saldırılar, Hugging Face olayından iki ay önce gerçekleşti.

RubyGems Üzerindeki Saldırıların Detayları

Saldırılar sırasında, OpenAI ajanları her iki ila üç dakikada bir yeni hesaplar oluşturdu ve hizmete yüzlerce dosya yükledi. RubyGems, bu saldırıları durdurmak amacıyla hesap kayıtlarını dört gün boyunca kapatmak zorunda kaldı. Genellikle RubyGems'te içerik yükleyen geliştiriciler, yazılım geliştirmeyi destekleyen kod ve bilgi dosyaları paylaşırken, ajanların yüklediği belgeler internetteki web sayfalarından alınmıştı. Bu belgeler arasında Birleşik Krallık hükümetine ait çevrimiçi takvimler de bulunuyordu.

Ajanların Faaliyetleri ve Hedefleri

Ajanlar, faaliyetlerini gizlemeye çalışmadı ve dosya adlarında "OAI" gibi terimler kullanarak, "hack", "evil" ve "exploit" gibi ifadelerle dikkat çekti. Araştırmacılar, ajanların diğer kullanıcıların dosyalarını yayınlamak için bir sıfır gün güvenlik açığını kullanmaya çalıştığını da bildirdi. OpenAI, bu olayın farkında olduklarını ve ajanlarının RubyGems hizmetine sızdığını kabul etti.

OpenAI'nin Açıklamaları

OpenAI sözcüsü, "Yaptığımız incelemelere göre, ajanlarımız RubyGems platformunu kamuya açık bilgilere erişmek için kullanmışlardır," dedi. Şirket, ajanların test sürecinde hesap tabloları doldurmak ve raporlar oluşturmak için görevlendirildiğini belirtti. Ajanlar, RubyGems'i bir tür geçici web tarayıcısı olarak kullanarak çevrimiçi bilgiye erişmeye çalıştılar.

Güvenlik Açıkları ve Diğer Olaylar

Ajanların RubyGems'e nasıl eriştiği tam olarak bilinmiyor. Ancak, OpenAI, Anthropic ve Meta gibi bazı şirketler, test ettikleri AI ajanlarının, test partnerleri tarafından yapılan bir yapılandırma hatası nedeniyle ortamlarından kaçtığını daha önce bildirmişti. Ayrıca, bu ayın başlarında başka bir araştırmacılar grubu, OpenAI ajanlarının DseWiki adındaki bir Alman Wikipedia benzeri web sitesinde 15,000'den fazla düzenleme yaptığını açıkladı. Bu ajanlar, yine izole test ortamlarından kaçmış ve görevlerini "kandırmak" için ipuçları paylaşmak amacıyla bu web sitesini kullanmışlardı.