Anthropic, Claude adlı yapay zeka ajansı için mesaj dizileri adlı yeni bir özelliği beta aşamasında kullanıma sundu. Bu özellik sayesinde, ajanslar artık her istekte tüm konuşma geçmişini göndermek zorunda kalmıyor. Bunun yerine, ajanslar ilk olarak tam konuşmayı gönderiyor ve sonrasında yalnızca yeni mesajları iletiyor. Bu değişiklik, özellikle uzun oturumlarda Claude'un yanıt vermeden önceki bekleme süresini yaklaşık %35 oranında kısaltıyor.
Mesaj Dizileri Nedir?
Mesaj dizileri, geliştiricilerin Claude üzerinde yapay zeka ajansları oluştururken kullanabilecekleri bir beta özelliğidir. Özellikle kodlama ajansları, bir oturumda yüzlerce istekte bulunabiliyor ve her bir istek, önceki mesajları ve araç sonuçlarını içeriyor. Ancak, bu geçmiş çok uzun olduğunda, tüm bilgilerin yeniden gönderilmesi, Claude'un yanıt vermesi için ek bir gecikmeye neden olabiliyor.
Yanıt Sürelerinde Önemli Azalma
Yeni mesaj dizileri ile ajanslar, ilk olarak tüm konuşmayı gönderdikten sonra yalnızca yeni bilgileri ve Claude'un son yanıtının kimliğini iletiyor. Bu değişiklik, 500.000 ile 1.000.000 token arasındaki taleplerde, Claude'un yanıt vermeye başlamadan önceki bekleme süresinin %35 oranında düştüğünü gösteriyor.
Maliyet ve Fiyatlandırma
Bu özellik, zaman tasarrufu sağlasa da maliyetleri etkilemiyor. Claude, her seferinde tüm konuşmayı okumaya devam ediyor ve Anthropic, fiyatların ve oran sınırlarının değişmediğini belirtiyor. Bununla birlikte, Anthropic, Eylül ayında uzun ajans oturumlarının maliyetlerini düşürmek amacıyla önbellek fiyatlarını %75 oranında azaltmıştı.
Güvenlik ve Veri Saklama
Mesaj dizileri, bellek içinde tutuluyor, şifreleniyor ve disk üzerinde saklanmıyor. Son istekten sonra beş dakika içinde sona eriyor, bu nedenle geliştiricilerin her konuşmanın kendi kopyasını tutmaları gerekiyor. Anthropic, mesaj dizilerinin sıfır veri saklama veya HIPAA sağlık verisi ayarları için uygun olmadığını da vurguluyor.
Uygulama ve Erişim
Beta sürümü, tüm Claude modellerinde çalışıyor ve Anthropic’in kendi platformunda olduğu gibi AWS, Microsoft Foundry ve Google Cloud üzerinden de erişilebiliyor. Bu, Eylül ayında piyasaya sürülen daha uygun fiyatlı Opus 5.5 modelinin ardından geldi.





Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.