OpenAI, ChatGPT ve Codex tarafından oluşturulan metinlere Avrupa Birliği'nde görünmez bir su işareti eklemeye başlayacağını duyurdu. Bu adım, 2 Ağustos'ta yürürlüğe giren AB AI Yasası'nın şeffaflık kurallarına uyum sağlamak amacıyla atılıyor.
Su İşareti Nedir?
Su işareti, metni oluşturan kelimelerin seçimlerini ince ince şekillendirerek çalışan bir sistemdir. Bu sayede okuyucuların göremediği, ancak dedektörlerin tespit edebileceği bir desen bırakıyor. Önemli bir özellik olarak, su işareti metin kopyalandığında da metinle birlikte taşınıyor. OpenAI, bu su işaretinin kullanıcıyı tanımlamadığını ve etkinleştirildiğinde model performansında anlamlı bir değişiklik gözlemlenmediğini belirtti.
Uygulama ve Erişim
OpenAI, su işaretinin önümüzdeki haftalarda tüm planlardaki uygun ChatGPT ve Codex kullanıcılarına sunulacağını açıkladı. Ancak bu özellik yalnızca Avrupa Birliği'ndeki kullanıcılar için geçerli olacak. Dünya genelindeki geliştiriciler, OpenAI'nin API'sini kullanarak belirli modeller için su işaretini etkinleştirebilir; bu özellik varsayılan olarak kapalıdır. OpenAI, su işaretinin küresel bir varsayılan olarak başlatılmayacağını da vurguladı.
Su İşareti ve Düzenleme
OpenAI’nin testleri, su işaretinin düzenleme ile kaldırılabileceğini gösteriyor. Örneğin, kelimelerin %10'unu eş anlamlılarıyla değiştirmek, tespit oranını %92'den %66'ya düşürüyor. Kısa metinler, matematik cevapları ve çevrilmiş metinlerin tespit edilmesinin daha zor olduğu belirtiliyor.
Güvenlik ve Kullanım Sınırlamaları
OpenAI, su işaretinin eksik olmasının insan yazarlığını kanıtlamadığını da vurguladı. Kısa metinler, aşırı düzenlenmiş içerikler veya başka bir şirketin yapay zekasından gelen metinler, su işareti taşımayabilir. Şirket, su işaretlerinin yalnızca OpenAI sisteminin bir kısmını oluşturduğunu, ancak insan yargısı, düzenleme veya yaratıcılığın ne kadar dahil olduğunu göstermediğini belirtti.
Diğer Şirketlerin Yaklaşımları
Bu duyuru, Anthropic'in Claude tarafından üretilen metinlere su işareti ekleyeceğini açıklamasından sadece iki ay sonra geldi. Bu karar, bazı kullanıcılar tarafından eleştirilmişti. OpenAI, daha önce bir su işareti geliştirmişti ancak kullanıcıların rakip sistemlere geçiş yapmasından endişe ederek bunu ertelemişti. Google, Meta ve Microsoft gibi diğer büyük teknoloji şirketleri de AB'nin yapay zeka ile ilgili içerik kurallarına uyma taahhüdünde bulundu.
Sonuç olarak, OpenAI'nin su işareti uygulaması, yapay zeka ile üretilen içeriklerin şeffaflığını artırmayı amaçlıyor. Ancak, bu uygulamanın etkinliği ve güvenilirliği, yalnızca onaylı araştırmacılar ve uzman kuruluşlar tarafından değerlendirilecek.
Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.