Amazon, Nvidia'ya Karşı Yeni TorchNeuron Geliştirme Aracını Tanıttı

Amazon Web Services (AWS), AI uygulamalarını Trainium çipine kolayca taşıyan yeni bir araç olan TorchNeuron'u tanıttı. Bu hamle, Amazon'un Nvidia'nın AI uygulamaları için sağladığı yazılım avantajına doğrudan bir karşılık olarak değerlendiriliyor. Nvidia, yıllardır PyTorch ile uyumlu olan CUDA yazılım altyapısını geliştirmekteydi ve bu durum, Nvidia'nın donanımının AI uygulamalarında standart hale gelmesine yol açtı.

TorchNeuron Nedir?

TorchNeuron, geliştiricilerin PyTorch kullanarak yazdıkları AI uygulamalarını yalnızca bir yapılandırma satırını değiştirerek Trainium üzerinde çalıştırmalarını sağlıyor. Amazon'un iddialarına göre, AI uygulamalarının yaklaşık %85'i PyTorch ile yazılıyor. PyTorch, başlangıçta Facebook tarafından geliştirilmiş olup, 2022'den beri Linux Vakfı bünyesinde açık kaynak projeleri arasında yer alıyor.

Amazon'un Stratejisi

Amazon, TorchNeuron ile AI girişimlerine sadece kolay bir geçiş sunmakla kalmıyor, aynı zamanda AWS bulut hizmetlerine erişim imkanı da sağlıyor. AWS, bu geçişin, Nvidia ve donanımları ile ilişkili olan diğer bulut hizmetlerine göre daha avantajlı olduğunu savunuyor. AWS Annapurna Labs Teknoloji Yazılımı Başkan Yardımcısı Colin Brace, “AWS üzerinde çalışıyorsunuz. Tek bir amaç için tasarlanmış bir hesaplama sağlayıcısına bağımlı kalmıyorsunuz.” şeklinde açıklama yaptı.

Maliyet Avantajları

AWS, Trainium çipinin hem eğitim hem de çıkarım işlemlerini aynı anda gerçekleştirebildiğini ve bulut altyapısıyla sıkı bir entegrasyona sahip olduğunu belirtiyor. Bu durum, girişimlerin maliyetlerini düşürmesine yardımcı olabilir. Brace, “Trainium’un değeri, fiyat-performans oranı ve hem eğitim hem de çıkarım için tek bir platform sunmasıdır.” dedi. Örneğin, Deepgram adlı bir AI ses uygulaması sağlayıcısı, Trainium’a geçiş yaparak üretim kalitesinde %70 daha fazla ses işleyebildiğini bildirdi.

PyTorch'un Geleceği

Amazon, PyTorch’un Nvidia merkezli olmaktan daha az bağımlı hale gelmesi için de çalışmalara başladı. Şirket, bu yönde değişiklikleri PyTorch projesine katkı yaparak gerçekleştireceğini açıkladı. Amazon, PyTorch topluluğuyla işbirliği yaparak, çerçevenin belirli çiplere bağlı olan kodlarını kaldırmayı hedefliyor.

Sonuç

Amazon’un bu hamlesi, PyTorch'un Nvidia ile olan bağlantısını zayıflatma potansiyeline sahip. Eğer başarılı olursa, bu durum Nvidia için yalnızca rakip çiplerle başa çıkmaktan daha fazlasını ifade edebilir. Brace, “Gerçek hikaye, geliştiricilerin gerçek bir seçim yapmalarını engelleyen kilidi kaldırmak.” diyerek bu durumun önemini vurguladı.