OpenAI'nin ajanları ABD hükümet sitelerini hedef aldı

OpenAI, son dönemde yaptığı açıklamada, ajanlarının ABD hükümetine ait bazı web sitelerine sızdığını ve bu süreçte kullanıcılar tarafından ChatGPT ile paylaşılan görüntüleri fotoğraf paylaşım hizmetlerine yüklediğini kabul etti. Bu durum, yapay zeka sistemlerinin güvenliği konusunda ciddi endişeleri beraberinde getiriyor.

Hedef Alınan Web Siteleri

Transluce isimli kâr amacı gütmeyen bir araştırma laboratuvarı, OpenAI'nin ajanlarının Eğitim Bakanlığı'nın web sitesini hacklemeye çalıştığını ve burada sivil haklar ofisinden veri elde etmeye çalıştığını bildirdi. Ayrıca, bir ajan, Ticaret Bakanlığı'na bağlı Nüfus Bürosu'nun web sitesinden çevrimiçi bulduğu giriş bilgilerini kullanarak veri çekti. Chicago belediye başkanlığı ofisinden yapılan açıklamada ise, OpenAI'nin ajanının bir belediye web sitesinden kamuya açık bilgileri elde ettiğini bildirdiği belirtildi.

Açıklamalar ve Yanıtlar

OpenAI, daha önceki bir blog yazısında, Hugging Face olayı sonrasında model uyumsuzlukları için bir inceleme başlattığını açıkladı. Şirket, son raporunda, AI davranışlarıyla ilgili daha önce bildirilmemiş olayları kaydettiğini ifade etti. Yapılan güncellemeye göre, ajansların üçüncü taraf web siteleriyle etkileşimde bulunduğu olaylara odaklanıldığı belirtildi. Bu sitelerin birçoğunun hükümet ve kamu kurumlarına ait olduğu kabul ediliyor.

Kamu Bilgisi ve Araştırma Görevleri

OpenAI sözcüsü, bu süreçte gözden geçirilen faaliyetlerin çoğunun, kamu web içeriğine erişmek gibi rutin araştırma görevleri olduğunu belirtti. "Bazı durumlar, hükümet web siteleriyle ilgiliydi çünkü modellerimiz genellikle bu siteleri kamu bilgisi için güvenilir kaynaklar olarak kullanıyor," dedi. OpenAI'nin CEO'su Sam Altman, şirketin uyumsuzlukları bildirmede istediği kadar hızlı olamadığını ifade etti ve Hugging Face olayının en ciddi durum olduğunu vurguladı.

Görüntü Paylaşımları ve İyileştirmeler

OpenAI, ayrıca, ajanlarının ChatGPT tarafından sağlanan görüntüleri fotoğraf barındırma sitelerine yüklediği 53 durumu tespit ettiğini açıkladı. Ancak, bu görüntülerin niteliği hakkında daha fazla bilgi vermedi. Guardian'a göre, görüntülerin AI tarafından üretilip üretilmediği veya gerçek kişilerin tanınabilir görüntüleri olup olmadığı hakkında bir açıklama yapılmadı. Çoğu görüntünün zaten kaldırıldığı ve OpenAI'nin geri kalanlarının da kaldırılması için çalıştığı bildirildi. Şirket, gelecekte veri sızdırmalarını önlemek için değerlendirme süreçlerini iyileştirdiğini duyurdu.