93:1 tekrar okuma oranı: AI ajanlarının iş maliyeti 3,6 kat tahmin edildi

En üst sıradaki 10 AI ajanı, ürettikleri her bir çıktı tokenı başına daha önce işlenmiş yaklaşık 93 tokenlık bağlamı yeniden okudu.

Arena.ai, 30 Ekim'de yayımladığı analizde Agent Arena'daki 26.225 oturumu inceledi. Analiz, 12 Eylül-23 Ekim 2026 dönemini ve 13 araştırma laboratuvarından 30 ajanın çalışmalarını kapsadı.

İlk 10 ajan, 8 Ekim tarihli sıralama tablosuna göre belirlendi. Analiz kapsamındaki tüm oturumlarda daha önce görülen bağlamı yeniden okuyan tokenlar toplam kullanımın yüzde 86-96'sını, ajanların ürettiği çıktı ise yüzde 1-2'sini oluşturdu.

AI ajanları görevleri birden fazla aşamada tamamlıyor. Önceki konuşma ve iş içeriği sonraki aşamalarda yeniden girdiye eklendiğinde, nihai yanıtı üretmenin yanı sıra bağlamı okumak için de token kullanılıyor.

Buradaki token, AI modelinin girdi ve çıktıyı işlemede kullandığı birimdir; kripto para veya blokzincir tokenı kullanımını ifade etmez.

İlk 10 ajanın önbellek okumalarına standart girdi ücretleri uygulandığında, olağan iş maliyetinin 3,6 katına çıkacağı tahmin edildi. Hesaplamada oturum başına token kullanımı sabit tutuldu ve yalnızca önbellek okuma ücreti standart girdi ücretiyle değiştirildi. Karşılaştırma, araştırma laboratuvarlarının yayımladığı fiyat listelerine dayanıyor.

Bu 3,6 katlık değer, önbellek kullanılmadan işler yeniden çalıştırılarak ölçülmüş gerçek bir fatura tutarı değil. Analize alınan oturumlar ve uygulanan fiyat listeleri üzerinden yapılan bir tahmin.

İstem önbellekleme, önceki bir istekte işlenmiş ortak girdi bölümlerinin sonraki isteklerde yeniden kullanılmasını sağlıyor. OpenAI, istem önbellekleme belgelerinde, desteklenen modellerde önbelleğe alınan girdilerin ücretinin standart girdi ücretinden yüzde 95'e kadar düşük olabileceğini belirtiyor.

Önbelleğin yeniden kullanılabilmesi için ortak girdi bölümünün eşleşmesi gerekiyor. Konuşmanın sürmesi tek başına önbellek isabetini garanti etmiyor.

OpenAI, API değişiklik kayıtlarında, 12 saatlik saklama seçeneğinde önbellek yazma ücretinin standart girdi ücretinin 2,5 katı olduğunu bildirdi. Bu nedenle yalnızca önbellek okuma indirimine bakarak toplam maliyet tasarrufunu hesaplamak zor.

İş maliyetini karşılaştırırken yeni girdi, önbellek okuma, önbellek yazma ve çıktı ücretlerini görev bazında incelemek gerekiyor. Tek başına çıktı miktarı veya önbellek isabet oranı toplam maliyeti göstermiyor.

TokenPost.ai daha önce Agent Arena sıralamasını görev başına maliyet ve çıktı miktarıyla birlikte ele almıştı. Bu analiz ise iş maliyetinde girdilerin yeniden okunmasını ve önbellek ücretlerini ayrıca inceledi.