Anthropic, dış denetçilere çalışan benzeri erişim sağladı

Anthropic, yapay zeka (AI) modellerinin risklerini değerlendirmek amacıyla dış denetçilere "çalışan benzeri" erişim sağlamaya başladı. Bu adım, teknolojinin kontrol dışı çıkma olasılığına dair artan endişeler doğrultusunda atılan önemli bir adım olarak öne çıkıyor.

METR isimli kar amacı gütmeyen kuruluş, OpenAI, Anthropic, Google ve Meta gibi önde gelen laboratuvarlarla çalışmış bir ekip. Şimdi, Claude isimli yapay zeka modelinin üreticisi olan Anthropic'in ofisinde yer alan bu ekip, şirketin donanımına ve iç sistemlerine erişim sağlıyor.

Üçüncü taraf denetçilerin daha büyük bir rol oynaması, laboratuvarların daha yetenekli AI sistemlerinin ekonomi, siber güvenlik ve insanlık için oluşturabileceği tehlikeler karşısında önerdiği somut adımlardan biri. Anthropic CEO'su Dario Amodei, Eylül ayında OpenAI ve SpaceX yöneticileri Sam Altman ve Elon Musk ile bir araya gelerek dış denetçilerin lider laboratuvarlarda yer alması önerisini desteklemişti.

Bu duyuru, bu taahhütlerin hayata geçirilmesi için atılan ilk adım olarak değerlendiriliyor. OpenAI, Amodei'nin önerisinin iyi bir fikir olduğunu belirtmesine rağmen, henüz denetçileri dahil etme planlarını açıklamamış durumda.

Anthropic, "Modeller güçlendikçe, daha güçlü güvenlik önlemleri ve daha zorlu risk değerlendirmeleri gerektiriyor," diyerek, kararlarının kamuya hesap verebilir olmasını istediklerini belirtti. Ancak, güvenlik çalışmalarıyla ilgili tüm bilgileri kamuya paylaşmanın mümkün olmadığını vurguladı.

Eleştirmenler, dış denetçilerin kullanılmasına dair önerilerin çıkar çatışmalarına yol açabileceğini savunarak, muhasebe sektöründeki sorunlara dikkat çekiyor. Ayrıca, daha fazla devlet düzenlemesi gerektiği yönünde görüş bildiriyorlar. Anthropic ise, bilgilerin kamuya açık bir şekilde paylaşılmasının kötü niyetli aktörlere veya rakiplere fayda sağlayabileceğini belirterek, denetçilerin bankacılık denetimi gibi çalışacağını ifade etti. Bu bağlamda, düzenleyicilerin en büyük bankalarda yerleşik denetçiler atadığını örnek gösterdi.

Sonuç olarak, Anthropic'in bu adımı, yapay zeka güvenliğine dair daha fazla şeffaflık sağlama çabası olarak görülüyor. Ancak, dış denetçilerin rolü ve bağımsızlıkları hakkında tartışmalar devam ediyor.