// Yapay Zeka

Anthropic ajanlar için mesaj dizisi başlattı

Anthropic, uzun süren ajan oturumlarında gecikmeyi azaltan mesaj dizisi özelliğini beta olarak açtı. Claude Code'da 500 bin ila 1 milyon tokenlık isteklerde ilk token süresi yaklaşık yüzde 35 azaldı.

Anthropic, 2 Kasım 2026’da mesaj dizileri (message threads) özelliğini herkese açık beta olarak duyurdu. Özellik, Claude Platform üzerindeki Mesajlar API’si kullanan uygulamaların ilk istekten sonra tüm konuşmayı değil, yalnızca yeni mesajları göndermesine izin veriyor.

Hedef kitle, gecikmenin kritik olduğu aktif oturumlar. Uzun süren kodlama ajanları, ekran görüntülerini dizi içinde tutan bilgisayar kullanımı ajanları ve belge ile görsel yoğun iş akışları bunların başında geliyor. Anthropic, Claude Code kullanıcılarının çoğunda dizilerin varsayılan açık olduğunu ve 500 bin ile 1 milyon token arasındaki isteklerde ilk token süresinin medyan olarak yaklaşık yüzde 35 azaldığını bildiriyor.

Her turda tüm konuşma yeniden yüklenmiyor

Dizi kullanılmadığında her tur, konuşmanın tamamını yeniden yüklüyor; API bu metnin tamamını tekrar doğrulayıp tokenize ediyor. Dizi açıkken bu işin büyük kısmı yalnızca yeni tur için yapılıyor, ardından API konuşmayı model için yeniden kuruyor. Ancak Claude her turda konuşmanın tamamını okumaya devam ediyor; yani token tüketimi değişmiyor ve standart token ücretleri ile mevcut hız limitleri geçerli.

Belgelerde süreç iki istek türüne ayrılıyor. Oluşturma isteği konuşmanın tamamını, sistem komutunu ve araçları thread parametresiyle gönderiyor; API konuşmayı ve Claude’un yanıtını yanıt kimliği altında saklıyor. Devam isteği ise yalnızca önceki yanıttan bu yana geçen mesajları ve o yanıtın kimliğini gönderiyor, sistem komutu ile araçları tekrar yollamıyor.

Beş dakikada sona eren geçici diziler

Diziler en iyi çaba esasıyla çalışıyor ve son istekten beş dakika sonra sona eriyor; API’nin sakladığı her yanıt bu süreyi sıfırlıyor. Uygulama her mesajın kendi kopyasını tutmak zorunda, çünkü asıl kaynak uygulamanın kendisi. Dizi devam ettirilemezse istemci tüm konuşmayı yeni bir oluşturma isteğiyle baştan gönderiyor. Yazılım geliştirme kitindeki yardımcı, gerekli beta başlığını ekliyor, konuşmayı bellekte tutuyor ve belirli devam hatalarında tam konuşmayı bir kez otomatik olarak yeniden gönderiyor.

Dizi içerikleri diskte kalıcı olarak tutulmuyor; sunucu tarafında yönetilen şifreleme ile bellekte bekletiliyor ve son kullanımdan en fazla bir saat sonra siliniyor. Dosyalar referansla tutulduğu için uygulamanın konuşmadaki her dosyayı dizi açıkken erişilebilir tutması gerekiyor. Mesaj dizileri sıfır veri saklama ve HIPAA kullanımına uygun değil.

Prompt önbelleği kendiliğinden çalışmıyor

Diziler istemleri otomatik olarak önbelleğe almıyor; geliştiricinin önbellek kesme noktalarını ya da üst düzey cache_control alanını kendisi vermesi gerekiyor. Dizi içeren bir istekte en fazla dört önbellek kesme noktası bulunabiliyor. Diziler yalnızca sonuna ekleme kabul ediyor ve her yanıt kimliği bir kez devam ettirilebiliyor. Sistem komutu veya araçlar gibi yalnızca oluşturma aşamasında verilen bir alan değişirse konuşmanın tamamını içeren yeni bir dizi açmak gerekiyor.

Akışlı yanıtlarda istemcinin, yanıt kimliğiyle devam etmeden önce message_stop olayını beklemesi şart; erken gönderilen devam isteği 404 hatası dönebiliyor. API, yedek modellerin ürettiği turları saklamıyor; bu durumda diziyi sürdürmek için konuşmanın tamamı yeni bir oluşturma isteğiyle gönderilmeli.

Beta, yerel Claude Platform, AWS üzerindeki Claude Platform, Microsoft Foundry’deki Claude ve Google Cloud’daki Claude modellerinde kullanılabiliyor. Tüm modellerde destek var. Dizileri listeleme, okuma veya silme için bir API bulunmuyor; Message Batches, token sayımı, istek üzerine sıkıştırma ve bağlam düzenlemenin büyük kısmı desteklenmiyor. Inference hooks açık olan kuruluşlar da özelliği kullanamıyor.

Kaynak: Unite.AI

// SOHBETE KATIL

Deneyimini paylaş

Bir sorunun, farklı bir çözümün veya eklemek istediğin bir notun var mı? Giriş yapmadan da yazabilirsin.

// OKUMAYA DEVAM

Bir not daha.

Tüm yazılar ↗︎