OpenAI, AB'de Üretilen Metinlere Dijital Su Damgası Ekleyecek

OpenAI, Avrupa Birliği'nin yeni yapay zeka şeffaflık kurallarına uyum sağlamak amacıyla, Avrupa'da üretilen metin ve kodlara görünmez bir dijital su damgası eklemeye başlayacağını duyurdu. Bu adım, bu yılın başlarında Anthropic tarafından atılan benzer bir adımdan sonra geldi.

textGrain Teknolojisi ile Su Damgası Ekleme

OpenAI, bu süreçte kendi geliştirdiği textGrain adlı bir sistemi kullanacak. Bu sistem, modelin kelime seçimlerine görünmez bir istatistiksel sinyal ekleyerek çalışıyor. Eklenen bu sinyaller, bir dedektör tarafından tespit edilebiliyor ve metnin su damgası içerip içermediği anlaşılabiliyor.

Şirket, bu sistemin performansının diğer yöntemlerle karşılaştırıldığında "eşleştiğini veya aştığını" ifade ediyor. Ancak, ideal koşullar altında güçlü bir performansın günlük kullanımda güvenilir tespit garantisi vermediği konusunda uyarıyor. Özellikle daha kısa metinlerin tespit edilmesinin zor olduğunu ve bu konuda başarı oranının yaklaşık %80 civarında olduğunu belirtiyorlar.

Kısıtlı Erişim ve Kullanıcı Gizliliği

Dijital su damgası, yalnızca Avrupa Birliği'ndeki "uygun ChatGPT ve Codex metin çıktıları" için varsayılan olarak etkinleştirilecek. Müşteriler, "seçili modeller" için bu özelliği tercih edebilecek, ancak hangi modellerin genel kullanıcılar için mevcut olacağı henüz belirtilmedi.

OpenAI, tespit yazılımının erişimini daha temkinli bir şekilde yönetiyor. İlk aşamada erişim, yalnızca "onaylı araştırmacılar ve uzman kuruluşlar" ile sınırlı olacak. Ayrıca, dedektör kullanıcıyı tanımlamayacak ve istemleri veya konuşmaları açığa çıkarmayacak.

AB'nin Yapay Zeka Yasası ve Uyumluluk Süreci

Avrupa Birliği'nin yapay zeka yasası olan AI Act'in 50. maddesi, üretken yapay zeka sistemlerinin metin çıktılarının makine tarafından okunabilir bir şekilde tanımlanmasını zorunlu kılıyor. Bu kural, pazara yeni giriş yapan şirketleri kapsadığı gibi, mevcut şirketlere de 2 Aralık'a kadar uyum sağlama süresi tanıyor. OpenAI ve Anthropic gibi şirketlerin yanı sıra Microsoft, Google ve Meta gibi firmalar da bu kapsamda yer alıyor.

Sonuç olarak, OpenAI'nin bu adımı, yapay zeka uygulamalarının şeffaflığını artırma çabalarının bir parçası olarak değerlendirilebilir. Avrupa Birliği'nin düzenlemeleri doğrultusunda, bu tür uygulamaların daha güvenilir hale gelmesi bekleniyor.