Base Labs, Hugging Face ve Goodfire ile AI güvenliği için ortaklık kurdu

Base Labs, AI güvenliği alanında önemli bir adım atarak Hugging Face ve Goodfire ile iş birliği yaptığını duyurdu. Bu ortaklık, açık ağırlıklı modellerin güvenlik değerlendirmesi ve izlenmesi için yeni bir altyapı standardı oluşturmayı hedefliyor. Özellikle, son zamanlarda açık ağırlıklı modellerin güvenlik sorunları üzerine artan tartışmaların ortasında bu duyuru geldi.

Açık Ağırlıklı Modellerin Güvenliği

Açık ağırlıklı modeller, kullanıcılar tarafından kolayca erişilebilen ve değiştirilebilen yapay zeka modelleridir. Ancak, bu modellerin güvenliğini tehlikeye atan bir teknik olan abliteration, kullanıcıların bu modellerin koruma mekanizmalarını kaldırmasına olanak tanıyor. Hugging Face, şu anda 6,000'den fazla abliterate edilmiş modeli barındırıyor ve bu durum, açık ağırlıklı modellerin güvenliği konusundaki endişeleri artırıyor.

Base Labs'ın Rolü

Base Labs, Baseten'in bu yıl kurduğu araştırma grubudur. Bu grup, açık modellerin eğitimi ve izlenmesi için yöntemler geliştirecek ve yayımlayacak. Şirket, gelecekteki çalışmalarını, açık modeller için şeffaf bir “standart” olarak çerçeveliyor. Bu standart, modellerin nasıl eğitildiği ve dağıtıldığı süreçlere entegre edilecek, sonradan eklenmeyecek.

Şeffaflık ve İş Birliği

Baseten, "Açıklık, AI güvenliği için bir avantajdır" diyerek, açıklığın model davranışlarının daha görünür olmasını sağladığını belirtti. Ayrıca, güvenlik araştırmalarının eyleme dönüştürülebilir ve şeffaf kontroller haline gelmesinin kapılarını açtığını vurguladı. Ancak, ortaklığın teknik detayları henüz açıklanmadı. Goodfire, açık modellerin güvenliğinin, bu modelleri sunanlar tarafından inşa edilmesi gerektiğini ifade etti.

Geleceğe Dönük Hedefler

Baseten, AI alanında önemli bir yatırım alarak değerini 13 milyar dolara çıkardı. Goodfire AI ise 150 milyon dolarlık bir yatırım alarak model yorumlama platformunu geliştirmeye devam ediyor. İki şirket, açık modellerin güvenli ve herkesin erişebileceği bir ekosistem oluşturma hedefinde birleşiyor. Baseten, daha geniş bir geliştirici ekosistemine bu çabalarına katkıda bulunmaları için açık bir çağrıda bulundu.

Sonuç olarak, bu ortaklık, yapay zeka güvenliği konusundaki endişeleri ele almayı ve açık ağırlıklı modellerin daha güvenli bir şekilde kullanılmasını sağlamayı amaçlıyor. Yapay zeka alanındaki bu tür iş birlikleri, gelecekte daha güvenilir ve şeffaf sistemlerin geliştirilmesine katkı sağlayabilir.