1 milyon giriş tokenı 0,10 dolar: Google Gemini Decisions API’yi tanıttı

Google’ın Gemini Decisions API’sinde standart ücret, 1 milyon giriş tokenı başına 0,10 dolar (yaklaşık 133 won). API yanıt metni üretmediği için çıktı tokenları için ücret alınmıyor.

Alphabet ($GOOGL) bünyesindeki Google, 11’inde yaptığı resmi açıklamada Gemini Decision 1 modelini ve Gemini Decisions API’yi tanıttı. Geliştiriciler modele girdi ve soru gönderiyor; model de belirlenmiş biçimde bir karar değeri döndürüyor.

Girdi olarak metnin yanı sıra görsel, ses, video ve PDF de kullanılabiliyor. Sonuçlar evet veya hayır, önceden belirlenmiş seçeneklerden biri ya da bir ölçüt tablosuna göre verilen puan şeklinde sunuluyor. Google, API belgelerinde her sonuca olasılık ve güven düzeyinin de eklendiğini belirtiyor.

Google’ın açıkladığı uçtan uca işlem süresi 0,15-0,25 saniye. Bu ölçüm, girdi bağlamının 16.000 tokenı aşmadığı ve soru sayısının 1-100 arasında olduğu durumlar için geçerli.

Tek bir isteğe en fazla 1.000 soru eklenebiliyor. Paylaşılan girdiyle tüm soruların toplam bağlam sınırı 262.144 token. En yüksek soru sayısı ile 0,15-0,25 saniyelik işlem süresi farklı koşullara dayanıyor.

Sorular aynı girdi içeriğine başvuruyor ancak birbirlerinin yanıtlarını göremeyecek şekilde bağımsız değerlendiriliyor. Hizmetin kodu, dönen sonuçları birleştirerek sonraki adımları veya yönlendirmeyi belirliyor. API’nin kendisi ödeme yapmıyor veya araç çağırmıyor.

Açıklama yazma, araç çağrıları için gerekli parametreleri oluşturma ve çok aşamalı akıl yürütme bu API’nin kapsamına girmiyor. Google, bu işler için ayrı Interactions API’yi öneriyor.

Paylaşılan girdi içeriği istek başına bir kez ücretlendiriliyor. Ancak her soruya eklenen talimatlar ve karar ölçütleri de giriş tokenı hesabına dahil ediliyor. Bu nedenle soru sayısı arttıkça sorulara özel talimatların tokenları da ücret hesabına giriyor.

Google’ın fiyatlandırma sayfası ücretsiz ve ücretli aşamalardaki veri işleme koşullarını ayrı ayrı açıklıyor. Ücretsiz aşamada giriş içeriği Google ürünlerini iyileştirmek için kullanılabiliyor. Ücretli aşamadaki içeriklerin ise ürün iyileştirmede kullanılmayacağı belirtiliyor.

Google, kendi ürünlerindeki kullanım örnekleri olarak Gemini Notebook’ta model seçimini ve Google Arama’da düşmanca girdilerin tespitini gösterdi. Her iki örnekte de karar sonuçları, hizmetin sınıflandırma veya yön seçimi için kullanılıyor.

Google, Gemini Notebook’ta günlük sorguların gecikme süresini yüzde 40’a kadar düşürdüğünü açıkladı. Bu, Google’ın kendi ürünü için paylaştığı bir sonuç; harici hizmetlerin işlem hızını göstermiyor.

Seçenekli sorularda girdi, sunulan seçeneklerin hiçbirine uymasa bile model adaylardan birini seçebilir. Google, bu riski azaltmak için “diğer” seçeneğinin eklenmesini veya girdi kapsamını kontrol eden ayrı bir soru kullanılmasını öneriyor.

Yüksek güven düzeyi göstergesi, kararın doğru olacağını tek başına garanti etmiyor. Google, gerçek hizmette yanıtı bilinen örneklerle güven eşiklerinin sınanmasını ve yanlış pozitiflerle yanlış negatiflerin maliyetinin değerlendirilmesini tavsiye ediyor. Ödeme gibi etkisi yüksek işlemlerde insan incelemesinin veya ikinci bir kontrolün sürdürülmesini öneriyor.