Y Combinator CEO'su Garry Tan, ABD'deki yapay zeka (AI) laboratuvarlarının, Çinli laboratuvarların kullandığı distilasyon tekniklerini benimsemesi gerektiğini düşünüyor. Tan, bu konuda düzenleyicilerin müdahale etmemesi gerektiğini belirtiyor. CNBC ile yaptığı bir röportajda, "Hiçbir şey yapmam" diyerek, ABD'nin kendi distilasyon rejimini oluşturması gerektiğini ifade etti.
Distilasyon Nedir?
Distilasyon, bir modelin başka bir modelden bilgi alarak nasıl çalıştığını öğrenme sürecidir. AI laboratuvarları, yeni modelleri eğitmek için bu tekniği yaygın ve meşru bir şekilde kullanıyor. Tan, daha küçük Amerikan açık ağı AI laboratuvarlarının, ABD'deki öncü AI laboratuvarları üzerinde aynı tür eğitim tekniklerini kullanarak daha sağlam bir açık ağı seçenekleri oluşturmasını istiyor. Bu, ABD'nin Çinli laboratuvarlardan bağımsız bir yapay zeka ekosistemi geliştirmesine yardımcı olabilir.
Çinli Laboratuvarların İddiaları
Bu hafta Anthropic, Çinli laboratuvarların "yasadışı distilasyon saldırıları" gerçekleştirdiğini ve kimliklerini gizleyerek izinsiz distilasyon yaptıklarını öne süren ikinci raporunu yayımladı. Anthropic CEO'su Dario Amodei, ABD düzenleyicilerine distilasyon konusunda sıkı önlemler almaları çağrısında bulundu. Ancak Tan, Amerikan AI laboratuvarlarının çalıntı kimlik bilgileri kullanmasını desteklemiyor; onların kapıdan girmelerinin özgür olması gerektiğini vurguluyor.
Bilgi Kontrolü Üzerine Düşünceler
Tan, AI laboratuvarlarının, kendi modellerinin paylaştığı bilgilerle müşterilerin ne yapabileceğini belirlemesinin aşırı bir kontrol olduğunu düşünüyor. Ayrıca, bu laboratuvarların, modellerini eğitmek için insan bilgisini toplarken izin almadıklarını hatırlatıyor.
"Kapalı ağırlık modellerine API çağrılarıyla ne yapabileceklerini kontrol etmek kısıtlayıcıdır ve burada hükümetin rolü, geniş kamu erişim verileriyle eğitilmiş zekaya erişimin, kısıtlayıcı hizmet şartlarının arkasında kilitli bir şeyden ziyade daha çok kamu malı olması gerektiğini normalleştirmektir," diyor Tan.
Açık Ağı Desteklemenin Önemi
Tan, açık ağı AI laboratuvarları ile öncü laboratuvarlar arasında bir denge görmek istiyor. "Onlar sınırdalar ve ilerlemeyi sağlıyorlar. Bunun finanse edilebilir olması ve sürekli olarak harika bir iş modeli sunması gerekiyor," diyor. Tan, öncü AI'nın gücünün tek bir güçlü, özel sağlayıcının elinde toplanmasının en kötü senaryo olduğunu belirtiyor. "Tek bir şirketin olması, en iyi sermaye erişimine ve AI araştırmacılarına sahip olması kötü bir durumdur," diyor.
Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.