OpenAI Decisions API’yi beta olarak açtı: Girdi ücreti Zev’den yüksek

OpenAI, metin ve görselleri sınıflandırarak önceden belirlenmiş seçenekler, olasılıklar ve puanlar döndüren Decisions API’yi açık beta olarak kullanıma sundu. Girdi ücreti milyon token başına 0,10 dolar; bu tutar TypeSafeAI’nin Zev modelinden yüksek.

OpenAI, GPT-6 Luna kullanan Decisions API’nin açık beta sürümünü 6 Ekim’de duyurdu. Geliştirici belgelerine göre API, metin veya görsel girdileri için bir koşulun doğru olma olasılığını, önceden belirlenmiş seçenekleri ve puanları döndürüyor. Yanıt API’sinden 10 kata kadar hızlı olduğu da belirtiliyor.

Zev, TypeSafeAI’nin 15 Eylül’de tanıttığı bir sınıflandırma modeli. Kurucu Diogo Almeida, lansman yazısında “Zev, uzun yanıtlar yerine yazılımların doğrudan kullanabileceği yapılandırılmış kararlar vermek üzere tasarlandı” dedi. Model; müşteri taleplerini ödeme ve teknik sorunlar olarak ayırma ya da güven düzeyi düşük vakaları bir çalışana yönlendirme gibi işler için geliştirildi.

İki hizmet girdi ücretlerinde de ayrışıyor. OpenAI belgelerinde Decisions API için milyon token girdisi 0,10 dolar olarak listeleniyor ve çıktı ücreti alınmıyor. TypeSafeAI ise Zev’in girdi ücretini milyar token başına 42 dolar olarak belirlediğini, çıktının ücretsiz olduğunu açıkladı. Girdi miktarı eşitlendiğinde Zev’in ücreti milyon token başına 0,042 dolara karşılık geliyor.

Gerçek maliyet, işlenen girdi miktarına ve görev ayarlarına göre değişiyor. Yalnızca fiyat tablosuna bakarak hangi hizmetin daha ekonomik olduğuna karar vermek güç; sınıflandırma hatalarını ele almanın maliyeti de hesaba katılmalı.

Geliştiricilerin ilk değerlendirmeleri farklılık gösterdi. Fortune, yazım ve dil bilgisi hatalarını gerçek zamanlı tespit eden bir prototipte Zev’in yanıt hızını olumlu bulan bir örneğe ve e-posta sınıflandırma denemesinde önemli bir mesajı kaçırdığı bir vakaya yer verdi. E-posta sınıflandırma denemesini yapan geliştirici, ölçütleri daha açık tanımladıktan sonra atlanan mesajların azaldığını söyledi.

Bu örnekler, gerçek iş performansının yalnızca modelin yanıt hızıyla değerlendirilemeyeceğini gösteriyor. Sınıflandırma kategorilerinin ve ölçütlerinin nasıl belirlendiği, güven düzeyi düşük sonuçların bir kişi tarafından yeniden incelenmesinin sağlanıp sağlanmadığı da sonucu etkileyebilir.

Vercel, Zev’i 18 Eylül’de kendi AI Gateway’ine ekledikten sonraki 24 saat içinde ücretli ekiplerin yaklaşık yüzde 13’ünün modeli kullandığını açıkladı. Şirket, önceki model lansmanlarına kıyasla iki kattan fazla ücretli ekibe ulaştığını bildirdi. Bu veriler yalnızca Vercel platformundaki ilk kullanım göstergelerini yansıtıyor.

Zev’in geliştirilmesi iki yıl sürdü. Almeida, OpenAI’de ChatGPT’nin geliştirilmesine katıldıktan sonra TypeSafeAI’yi ortaklaşa kurdu. Fortune’un haberine göre TypeSafeAI, DCVC liderliğinde 40 milyon dolarlık tohum yatırımı aldı.

OpenAI’nin Decisions API’yi beta olarak kullanıma sunması, önceden belirlenmiş seçenekler arasından yanıt seçen bir API’yi tanıtan önceki haberimizin devamı niteliğinde. Bu gelişmeyle iki hizmet arasındaki fiyat farkı, Vercel platformundaki ilk kullanım verileri ve geliştirici deneylerinde sınıflandırma ölçütlerinin etkisi de ortaya çıktı.

Zev ve Decisions API, uzun yanıtlar yerine yazılımların işleyebileceği karar sonuçları sunuyor. Belirli bir işte hangisinin daha doğru veya ekonomik olduğunu anlamak için gerçek iş verileri ve hata maliyetleri üzerinden karşılaştırma yapmak gerekiyor.