Bir haftada 194 trilyon token işleyen OpenRouter'ın yıllıklandırılmış hızı 10 katrilyonu aştı

OpenRouter, 26 Ekim'de başlayan hafta boyunca yaklaşık 194 trilyon token işledi. Bu hızın bir yıla ölçeklenmesiyle hesaplanan yıllık işlem miktarı 10 katrilyon tokeni aşıyor.

BlockBeats, son dokuz haftadaki işlem hacminin OpenRouter'ın önceki yaklaşık üç yıl üç ayda ulaştığı toplamı geçtiğini bildirdi. Bu, platformdan geçen token miktarının kısa sürede arttığını gösteriyor.

Mart ayında haftalık işlem hacmi 20 trilyon 470 milyar token olmuştu. 26 Ekim'de başlayan haftanın hacmi bunun yaklaşık 9,5 katına ulaştı.

Yıllıklandırılmış 10 katrilyon token hesabı, bir haftalık işlem hızının bir yıl boyunca sürdüğü varsayımına dayanıyor. Bu sayı, OpenRouter'ın şimdiden 10 katrilyon token işlediği anlamına gelmiyor.

Token, yapay zekâ modellerinin metin veya kod alıp yanıt üretirken işlediği birimdir. Buradaki sayı, OpenRouter üzerinden geçen kullanımı gösteriyor; tüm yapay zekâ hizmetlerinin toplam kullanımını veya geliri yansıtmıyor. TokenPost'un önceki haberinde de OpenRouter'ın API işlem hacmine göre modelleri sıraladığı ele alınmıştı.

OpenRouter, resmi kullanım verilerinde ajanların token tüketiminin bu yıl 6 Şubat'ta insanlarla etkileşimlerdeki token tüketimini ilk kez aştığını açıkladı. Aynı verilerde, eylülün son haftasında ajanların token tüketimi insanlarla etkileşimlerdekinin yaklaşık yedi katı olarak kaydedildi.

Yapay zekâ ajanları, bir hedefi yerine getirmek için birden fazla adımda çalışıyor ve gerektiğinde araç çağırıyor. OpenRouter, ajanların her adımda talimatları, araç açıklamalarını ve önceki çalışma kayıtlarını yeniden modele gönderdiğini belirtiyor. Görev uzadıkça tekrar işlenen bağlam da büyüyor.

Bu nedenle token işlem hacmi, insanların kaç soru sorduğunu veya ne kadar harcama yaptığını göstermez. Veriler işlenen token sayısını ölçüyor; hizmet gelirini ya da kullanıcıların maliyetini değil.

Stripe, 19 Ağustos'ta OpenRouter'ı satın almak üzere anlaşmaya vardığını duyurdu. Şirket, satın alma duyurusunda farklı yapay zekâ modelleri arasındaki istek yönlendirmesini token ücretlendirmesi ve maliyet optimizasyonuyla birleştirme planını gerekçe olarak gösterdi.