Hindistan merkezli yapay zeka şirketi Sarvam AI, 16 Kasım’da Hindistan’daki GPU kümelerinde kendi ve açık ağırlıklı modellerini sunan Token Factory adlı çıkarım hizmetini tanıttı. Geliştiriciler ve şirketler, OpenAI uyumlu tek bir API üzerinden Çin menşeli modeller de dahil olmak üzere birden fazla modeli çağırabiliyor.
Sarvam, resmi blogunda Token Factory’nin geliştiriciler ve şirketlere yönelik olduğunu açıkladı. Lansman duyurusunda Sarvam 105B, GLM 5.3, GLM 5.3 Flash, DeepSeek V4.1 Flash 1017, DeepSeek V4 Pro, Kimi K3.1 Pro ve Gemma 4 31B olmak üzere yedi model listelendi.
API belgelerinde şu anda Sarvam Prism, Qwen 3.8 27B ve EmbeddingGemma 2’nin de aralarında bulunduğu 12 model yer alıyor. Sarvam 105B ve GLM 5.3 genel API anahtarıyla kullanılabilirken DeepSeek V4 Pro, Kimi K3.1 Pro ve Qwen 3.8 27B için kurum bazında Provisioned Throughput onayı gerekiyor.
Fiyatlandırma 1 milyon token başına yapılıyor. DeepSeek V4.1 Flash 1017 için lansman promosyonu girdi başına 14 rupi, çıktı başına 55 rupi; interaktif kullanımda ise sırasıyla 25 ve 105 rupi olarak belirlendi. Sarvam 105B’nin lansman promosyonu girdi başına 10 rupi, çıktı başına 25 rupi olurken katma değer vergisi ayrıca uygulanıyor.
Sarvam, Hindistan’ın en büyük Nvidia ($NVDA) B200 kümesini işlettiğini açıkladı. İstemler, yurt dışındaki model geliştiricilerinin API’lerine gönderilmeden Hindistan’daki GPU’larda işleniyor. Şirket, talep halinde verilerin saklanmamasını sağlayan bir seçenek ile kurumsal müşteriler için %99,95 çalışma süresi SLA’sı sunduğunu belirtti.
Token Factory yeni model eğiten bir hizmet değil, farklı modelleri kullanıcı adına çalıştıran çıkarım altyapısı olarak konumlanıyor. Kullanıcılar GPU altyapısını doğrudan kurmadan tek API üzerinden model değiştirebiliyor.
Performans verileri Sarvam’ın kendi testlerine dayanıyor. Şirket, Sarvam 105B için ilk token yanıt süresini 0,2 saniye, tek kullanıcı işlem hacmini saniyede 330 token olarak ölçtü. Gemma 4 31B, 10.000 tokenlık girdide 0,40 saniye ilk token yanıtı ve saniyede 308 token kaydetti. MarkTechPost’un aktardığı Sarvam ölçümlerinde, aynı giriş koşullarında DeepSeek V4.1 Flash 1017’nin ilk token yanıtı Together AI’da 0,71 saniye, Sarvam Standard’da 0,90 saniye oldu.
Hizmette DeepSeek, Moonshot AI’ın Kimi’si, Z.ai’ın GLM’i, Alibaba ($BABA) Qwen ve Google Gemma birlikte sunuluyor. The Indian Express, temel model ağırlıkları ve fikri mülkiyetin Hindistan’da tutulmasıyla hesaplama ve veri işleme ortamının Hindistan’da kontrol edilmesinin farklı egemenlik kavramları olduğunu yazdı.
Pratyush Kumar (Pratyush Kumar), Sarvam AI kurucu ortağı, “Token Factory, Sarvam’ın özel olarak tedarik ettiği GPU’larda çalışıyor” dedi. Bu açıklama, hükümetin indirimli sağladığı GPU’larla mevcut hizmette kullanılan ekipmanın şirket tarafından ayrı tutulduğunu gösteriyor.
Sarvam, Hindistan hükümetinin IndiaAI Mission programı kapsamında sağlanan %40 indirimli GPU’ların kendi modellerinin eğitimi için kullanıldığını ve desteğin Mart 2026’da sona erdiğini açıkladı. Hindistan hükümeti, Sarvam’ı temel model geliştiren şirket olarak seçti ve mali ve hesaplama desteği ölçeğini 246,72 crore rupi olarak belirledi.
Vivek Raghavan (Vivek Raghavan), Sarvam AI kurucu ortağı, “Hesaplama, veri ve değerlendirme, model, harness ve uygulama dahil AI yığınının beş katmanını da güvence altına almalıyız” dedi. Dış altyapı kiralamaya bağımlı kalmanın uzun vadede maliyet ve fiyat baskısına açık bırakabileceğini savundu.
Atharva Ingle (Atharva Ingle), Jarvislabs AI mühendisi, X’te “Hizmetimiz Sarvam’la aynı ya da daha hızlı ve fiyatı daha düşük” ifadelerini kullandı. Bu paylaşım, Sarvam’ın kendi kıyaslamalarına yönelik doğrudan bir karşı çıkış oldu.
Ruturaj Biswas (Ruturaj Biswas), Hypergro kurucusu, “Çıkarım hizmetlerinden elde edilen nakit akışı, kendi modellerinin geliştirilmesini ve ek finansman sağlanmasını destekleyebilir” değerlendirmesinde bulundu. Biswas, çıkarım gelirlerinin model geliştirme için kaynak oluşturabileceğini belirtti.
TokenPost daha önce Sarvam’ın DeepSeek API’sini açtığını ve günlük 450 milyar token işlem kapasitesi açıkladığını bildirmişti. Bu lansmanda API belgelerinde 12 modelin listelendiği ve bazı modeller için kurum bazında onay süreci bulunduğu ek olarak doğrulandı.
Token Factory bir kripto para veya blok zinciri projesi değil, AI çıkarım altyapısıdır. Yarı iletken tarafında Nvidia B200 GPU’ları ve veri merkezi işletimi temel kaynaklar olarak öne çıkıyor. Hız ve fiyat verileri Sarvam’ın kendi ölçümlerine dayanırken gerçek kullanımda erişilebilen modeller, kurum bazında Provisioned Throughput onayına göre değişiyor.
Comment 0