AI ajanlarının model maliyetlerini ekip ve ajan bazında izleyen, bütçe sınırına ulaşıldığında sonraki model çağrısını reddeden bir işletim platformu tanıtıldı.
Nasiko, resmi blogunda ayın 16'sında OpenRuntime'ı tanıttı ve maliyet yönetimi özelliği TokenOps'un nasıl çalıştığını açıkladı. Ekip veya tekil ajan için bütçe üst sınırı belirlendiğinde harcama bu sınırın %80'ine ulaşınca uyarı veriliyor. Nasiko, sınıra ulaşıldıktan sonra Agent Gateway'in bir sonraki model çağrısını reddettiğini bildirdi.
Engelleme, sonraki model çağrısını kapsıyor. Resmi açıklama, ajanın tüm görevlerinin otomatik olarak durduğu anlamına gelmiyor.
TokenOps maliyetleri ekip, model, ajan ve harness bazında gösteriyor. Harness, ajanı çalıştıran ve araçlarla modelleri birbirine bağlayan ortamı ifade ediyor.
Kullanıcılar her bir çalıştırmanın kayıtlarından model çağrılarını ve araç kullanım akışını inceleyebiliyor. Birden fazla model sağlayıcısı kullanan kuruluşlar, harcamaların hangi ekipte veya görevde oluştuğunu ayırt etmek için bu özellikten yararlanabiliyor.
Maliyetleri kaydetme ile çalışırken bütçe sınırı uygulama farklı koşullarda işliyor. Nasiko'nun açık deposunda, oturum kullanımını raporlama ve model yönlendirme özelliklerinin ayrı ayrı etkinleştirilebildiği belirtiliyor.
Bütçe sınırı, model çağrısı Nasiko'nun ağ geçidinden geçtiğinde uygulanıyor. Ağ geçidi dışından yapılan çağrıların da aynı sınıra tabi olacağı açıklanmadı.
Nasiko, platformun mevcut ajan kodu veya SDK değiştirilmeden bağlanabileceğini belirtti. Ancak bütçe denetiminin gerçek kapsamı, model isteklerinin ağ geçidinden geçecek şekilde yapılandırılmasına bağlı.
OpenRuntime, maliyet yönetiminin yanı sıra araç kullanım izinlerini de yönetiyor. Nasiko, araçların kullanımına izin verilebildiğini veya kullanımın engellenebildiğini; ayrıca araçların yalnızca insan onayından sonra kullanılacak şekilde ayarlanabildiğini açıkladı.
Nasiko, mayıs ayında ajan kaydı, yönlendirme, güvenlik, dağıtım ve gözlemleme özelliklerini içeren bir kontrol katmanını tanıtmıştı. O açıklamada OpenRuntime'ın çeşitli işletim özelliklerine yer verilmişti.
Eylül ayında ise yönetilen çalışma ortamını DigitalOcean Marketplace'te sunacağını duyuran Nasiko, TokenOps'u harcama izleme ve kontrol özelliği olarak tanıtmıştı. Bu nedenle ayın 16'sındaki duyuru, TokenOps'un ilk kez tanıtılmasından ziyade bu özelliği de içeren OpenRuntime platformunun geneline odaklanıyor.
Açık depoda maliyet ölçümüne ilişkin kullanıcı bildirimleri de bulunuyor. Bir katkıcı, kendi örneğinde Codex'in önbelleğe alınmış girdi tokenlarının iki kez sayıldığını ve maliyetin yaklaşık 6,9 kat olarak kaydedildiğini öne sürdü. Başka bir kullanıcı ise yeni bir Codex oturumundaki ilk kullanım miktarının sıfır olarak kaydedildiğini bildirdi.
Ayrı bir bildirimde, Claude Code'da araç çağrıları kesildiğinde ücretlendirilmiş kullanımın kayıtlara yansımayabileceği aktarıldı. Bildirimi yazan kişi, incelediği 15 transkriptteki örnekleri saydığını belirtti. Bunlar bireysel kullanıcı bildirimleri; ürün genelindeki hata oranını göstermiyor.
Nasiko, ayın 16'sındaki duyurusunda açık deponun 11.900 yıldızı bulunduğunu açıkladı. Bu, projenin toplam birikimli sayısı; yalnızca son duyuruya verilen tepkiyi göstermiyor.
Comment 0