Altman: AI token sayısı şirket performansını ölçmekte yetersiz, müşteriler token bazlı ücretlendirmeyi tercih ediyor

OpenAI CEO’su Sam Altman, AI token sayısının şirketlerin yapay zekâdan elde ettiği değeri ölçmek için uygun bir gösterge olmadığını söyledi.

Cheeky Pint röportajında Stripe’ın kurucu ortağı John Collison, tokenların “iş değeri açısından sahte” olduğunu söyledi. Altman ise tokenların “bir anlamda gerçek olduğunu ancak iyi bir ölçü birimi olmadığını” belirtti.

AI’da token, modelin girdiyi okurken ve yanıt üretirken işlediği küçük veri birimidir. Kripto varlık tokenlarından farklı olan bu birimler, hizmet kullanımını ve maliyetleri ölçmek için kullanılıyor.

Altman’a göre kullanım miktarı tek başına şirketlerin ne tür sonuçlar elde ettiğini göstermiyor. Aynı sayıda token kullanılsa bile yapılan iş ve ortaya çıkan sonuç farklı olabilir.

Sonuca göre ücretlendirme de iyi bir alternatif olmayabilir. Her işin amacı ve sonucu farklı olduğu için bu yöntemi ortak bir ücretlendirme birimi olarak kullanmak zor.

Altman, OpenAI’nin gelecek modelinden başlayarak token başına ücretlendirmeyi kaldırmayı ve kullanıcı istek gönderdiğinde fiyat sunmayı neredeyse uygulamaya koyacağını söyledi. Ancak müşterilerden çok olumsuz tepki gelince bu planı hayata geçirmediklerini belirtti.

Müşteriler, faturanın hangi ölçüte göre hesaplandığını bilmek istiyor. Altman, bazı müşterilere aynı sonucu almaları hâlinde sabit bir token sayısı üzerinden ücretlendirilmek için daha fazla ödemeye razı olup olmadıklarını sorduğunu anlattı. Aldığı yanıtların, token sayısı şişirilse bile maliyet ölçütünü bilmeyi tercih ettikleri yönünde olduğunu söyledi.

Altman, kullanıcıların yalnızca sonucu alıp sonradan ücretlendirilmek yerine CPU kullanım süresi gibi hangi birim için ödeme yaptıklarını bilmeyi tercih edebileceğini de ekledi. Kullanıcılar daha fazla harcama yapsalar bile bunun dayanağını görmek istiyor.

Altman, mevcut ücretlendirme yapısını anlamanın da zor olduğunu söyledi. Kullanıcıların küçük ve büyük modellerin token başına ücretlerini, ayrıca çıkarım sürecinin uzunluğunu hesaba katması gerekiyor; bu da gereksiz bir hesaplama yükü yaratıyor.

Collison, çip üretim süreçlerinde kullanılan nanometre ölçülerini örnek göstererek “zekâya göre ayarlanmış token” gibi yeni bir birim oluşturup oluşturmayacaklarını sordu. Altman, nanometre ölçülerinin gerçek süreç boyutuyla pek ilişkili olmadığını belirterek böyle bir birim oluşturmak istemediğini söyledi.

Altman, OpenAI içinde bilgi işlem kaynaklarının dağıtımında da kullanım miktarının performans ölçütü sayılmadığını belirtti. Çalışanlara kaynakları kullanma konusunda geniş takdir yetkisi tanıdıklarını, ancak yalnızca fazla kaynak kullandıkları için ödüllendirilmediklerini söyledi.

Altman, token kullanımı sıralama tablosu tutmadıklarını ve yüksek kullanım sıralamasının terfi değerlendirmesinde hafif bir dezavantaj oluşturduğunu söyledi. Bununla birlikte, önemli bir iş yaptığını gösteren çalışanların yüksek kaynak kullanımının takdir edildiğini ekledi.

TokenPost, aynı röportajda Altman’ın Navier–Stokes denkleminin ispat maliyetine ilişkin tahminini daha önce aktarmıştı. Bu kez Altman’ın tokenların kullanım miktarını saymakta işe yarasa da iş performansını ölçmekte yetersiz kaldığı yönündeki açıklamaları ele alınıyor.