Saniyede 420 token: DeepSeek V4.1 Flash'ta ölçüldü

DeepSeek'in yeni deneme modeli V4.1 Flash, şirket içi testlerde 'saniyede 420 token' çıktı hızına ulaştı. Model, art arda 71 bini aşkın tokenı 3 dakikadan kısa sürede üretti.

BlockBeats, 8'inde (yerel saatle) ilk ölçüm sonuçlarını duyurdu. Karşılaştırma için gösterilen DeepSeek V4 Flash 0731 modelinin DeepSeek API üzerindeki çıktı hızı, Artificial Analysis ölçümüne göre saniyede yaklaşık 128 tokendı.

İki rakamın aynı koşullarda ölçülüp ölçülmediği açıklanmadığından basit bir kıyaslama yapmak sınırlı kalıyor. 420 token/saniye rakamı da iç testte elde edilen tekil bir sonuç; girdi uzunluğu, istek biçimi ve sunucu koşullarına göre gerçek hız değişebilir.

Token, yapay zeka modellerinin cümleleri işlerken kullandığı temel birim. Çıktı hızı ise modelin yanıt üretme hızını gösteriyor; bu rakam yükseldikçe uzun kod veya belge üretiminde yanıt süresi kısalabiliyor.

V4.1 Flash, yeni model mimarisi ve çoklu-mod (multimodal) özellikleriyle öne çıkan bir deneme sürümü. Çoklu-mod, metin ve görselin birlikte işlenmesi anlamına geliyor.

Deneme sürümüne, mevcut API adresi korunarak model adı deepseek-v4.1-flash-expires-on-0910 olarak değiştirilip erişilebiliyor. Hesap başına eşzamanlı istek sayısı 20 ile sınırlı tutuluyor. DeepSeek'in daha önce paylaştığı iç test koşullarında da aynı API adresi ve 20 eşzamanlı istek sınırı geçerliydi.

Model adındaki '0910' ifadesinin test bitiş tarihini mi yoksa resmi modele geçiş zamanını mı işaret ettiği doğrulanmadı. Resmi sürümün çıkıp çıkmayacağı, sunum süresi ve nihai fiyat da açıklanmadı.

Deneme sürümünün ücretlendirmesi mevcut DeepSeek V4 Flash ile aynı. DeepSeek'in resmi belgelerine göre V4 Flash'ın fiyatı, girdi ve çıktı token sayısına göre belirleniyor. Dolayısıyla bu hız rakamı tek başına API kullanım maliyetinin düştüğü anlamına gelmiyor.

DeepSeek V4 Flash, 31 Temmuz'da herkese açık beta sürümüne geçmişti. Şirketin resmi belgelerinde, o dönemki V4 Flash 0731'in önceki önizleme modeliyle aynı yapı ve boyutu korurken yeniden eğitildiği belirtilmişti.

V4.1 Flash yeni bir mimari öne sürdüğü için önceki sürümle performans farkının netleşmesi, aynı koşullarda yapılacak resmi karşılaştırmalı testlerin (benchmark) yayımlanmasına bağlı. Yalnızca çıktı hızına bakarak modelin akıl yürütme kapasitesi veya sonuç kalitesi hakkında yorum yapmak güç.

Modelin gerçek hizmete uygunluğunu değerlendirmek için eşzamanlı istek sayısı, yanıt gecikmesi, uzun bağlam işleme kapasitesi, çıktı kalitesi ve maliyetin birlikte incelenmesi gerekiyor. Şu an açıklanan temel veriler, iç testte ölçülen çıktı hızı ve sınırlı çağrı koşullarından ibaret.

Resmi sürüm yayımlandığında, aynı girdi, sunucu ve istek koşullarında V4 Flash 0731 ile bir kıyaslama yapılıp yapılmayacağı öne çıkan bir konu. Değerlendirme, DeepSeek'in resmi lansman duyurusuna ve koşullara göre benchmark paylaşım zamanlamasına göre değişebilir.