Yıllık 50 bin-100 bin dolar: Garry Tan'dan yapay zekâ ajanı maliyeti tahmini

Yapay zekâ ajanlarını en yüksek performansta çalıştırmanın yılda 50 bin-100 bin dolara (yaklaşık 66,65 milyon-133,3 milyon Kore wonu) mal olabileceği tahmin edildi. Bu hesaplama, yüksek miktarda token ve işlem kaynağı kullanımını varsayıyor.

Y Combinator CEO'su Garry Tan, Andreessen Horowitz'in 12 Ağustos'ta yayımladığı podcast'te “Ajanları en yüksek performansta kullanmanın yıllık maliyeti 50 bin-100 bin dolar olabilir” dedi. Bu açıklama, gerçek harcamaların paylaşılması değil, en yüksek performansta kullanım maliyetine ilişkin bir tahmin.

Tan'ın yıllık 200 bin doları kişisel olarak harcadığı iddiası da podcast'teki açıklamada doğrulanmıyor; Tan kendi yıllık fatura veya harcama dökümünü paylaşmadı.

Bu bağlamda token, kripto varlık değil, dil modelinin girdileri ve çıktıları işlerken kullandığı birim. Bir ajan görevini yürütürken modeli birçok kez çağırabilir veya yanıtı yeniden oluşturabilir; bu da token kullanımını değiştirebilir.

Bu nedenle ajan maliyeti yalnızca tek bir model çağrısının fiyatına bağlı değil. Görev için gereken çağrı sayısı ve yeniden denemeler, toplam maliyeti değiştirebilir.

Tan'ın paylaştığı açık kaynaklı araç gstack, yapay zekâ kodlama araçlarına planlama, tasarım incelemesi, kod incelemesi ve kalite kontrolü gibi roller veriyor. Açık depoda, geliştirme sürecindeki işlerin farklı rollere bölünerek yürütülmesi anlatılıyor.

Ancak deponun açıklaması, gstack'in verimliliği ne kadar artırdığını veya maliyeti ne kadar düşürdüğünü bağımsız olarak kanıtlamıyor. Aracın üstlendiği rollerle gerçek iş sonuçlarını ayrı değerlendirmek gerekiyor.

Reddit'in r/ClaudeAI topluluğunda 30 Mart'ta yayımlanan gstack paylaşımına gelen yorumlarda, role özgü talimatların ve tarayıcı tabanlı testlerin yararlı olduğu belirtildi. Kod satırı sayısının tek başına verimliliği ölçmeye yetmeyeceği görüşü de paylaşıldı. Bunlar bireysel kullanıcı değerlendirmeleri.

Daha fazla harcama gerektiren yaklaşımlara ilişkin uyarılar da var. Microsoft (MSFT) mühendisleri Tisha Chawla ve Susheem Koul, şirketin teknoloji blogunda 13 Ağustos'ta yayımlanan yazıda, sonuçları iyileştirmek için tekrar tekrar deneme yapan ajanların bir görevdeki maliyeti görevin değerinin üzerine çıkarabileceğini açıkladı.

İki mühendis, aylık toplam harcamanın yanı sıra her çalıştırmanın maliyetinin de izlenip kontrol edilmesini önerdi. Görev bazında maliyet takibi, tekrarlanan çağrıların biriktirdiği harcamayı görmeye yardımcı olabilir.

TokenPost daha önce TrueForge'un yapay zekâ ajanlarının çalıştırma maliyetlerini karşılaştırdığı bir örneği ele almıştı. Bu karşılaştırma belirli araçlar, sistem istemleri ve oturum koşullarıyla yapılmıştı; Tan'ın yıllık maliyet tahminiyle aynı ölçütlere dayanmıyor.