2027'nin ilk çeyreği hedefi: General Compute, GPU ve Cerebras çiplerini birlikte kullanacak

General Compute, NVIDIA($NVDA) GPU'ları ile Cerebras'ın özel amaçlı çiplerini birlikte kullanan bir yapay zeka çıkarım altyapısı geliştiriyor. Yapı, giriş işlemleri ile yanıt üretimini farklı çiplere dağıtarak ajan tabanlı yapay zeka görevlerini desteklemeyi amaçlıyor.

Kripto Brifing'in haberine göre General Compute, Cerebras'ın wafer ölçekli çiplerini mevcut GPU'larla birlikte çalıştırmayı planlıyor. Müşterilere sunulacak bilişim kapasitesinin 2027'nin ilk çeyreğinde devreye alınması hedeflenirken, ilk kullanım alanı olarak ajan tabanlı kodlama görevleri öne çıkıyor.

General Compute, resmi internet sitesinde istemlerin toplu olarak işlendiği 'prefill' aşamasını GPU'ların, tokenların sıralı biçimde üretildiği 'decode' aşamasını ise Cerebras ve SambaNova gibi özel amaçlı çiplerin üstlendiği bir yapı sunuyor. Şirket, Cerebras CS-3'ü 'Shipping now' ürünü olarak listeliyor.

Prefill, uzun giriş bağlamının paralel işlendiği aşama olduğu için işlem gücünden büyük ölçüde etkileniyor. Decode aşamasında ise yanıt token token üretildiğinden bellek bant genişliği ve veri aktarım hızı önem kazanıyor.

General Compute, ağustos ayında yayımladığı teknik raporda decode aşamasının yalnızca GPU işlem gücüyle çözülmesi zor bir darboğaz olduğunu belirtti. Cerebras'ın wafer ölçekli motoru, model ağırlıklarını çip içindeki SRAM'e yerleştirerek harici belleğe erişimi azaltan bir yapı olarak tanıtıldı.

General Compute, bu yöntemin kullanıcı başına token üretim hızının önemli olduğu ajan tabanlı görevler için uygun olduğunu savunuyor. Ajan tabanlı yapay zeka, kullanıcı talebine yanıt verirken birden fazla çıkarım adımını art arda gerçekleştirebildiği için yanıt üretimindeki gecikme önemli bir performans göstergesi olarak değerlendiriliyor.

Cerebras da özel amaçlı çiplerle ayrıştırılmış bir çıkarım stratejisini daha önce açıkladı. Şirket, haziran ayında yayımladığı sunumda AWS Trainium çiplerinin prefill işlemini, Cerebras CS-3'ün ise decode işlemini üstlendiği bir modeli gündeme getirdi.

Cerebras aynı sunumda OpenAI ile 750 MW ölçeğinde bir çıkarım bilişimi dağıtım anlaşması imzaladığını açıkladı. Bu yaklaşım, eğitim ve çıkarım işlemlerini tek bir çip sistemiyle yürütmek yerine bilişim kaynaklarını görev özelliklerine göre ayırma eğilimiyle örtüşüyor.

General Compute, farklı türlerdeki özel amaçlı çipleri mevcut veri merkezleri ve ortak yerleşim tesislerine yerleştirerek müşterilerin tek bir sözleşmeyle bilişim kapasitesine erişmesini sağlayan bir iş modeli geliştiriyor. Şirketin internet sitesinde Cerebras, SambaNova, Positron, d-Matrix ve NVIDIA B300 ürün grubu içinde gösteriliyor.

Şirket finansman da sağladı. General Compute, temmuz ayında Upper90'dan azami 400 milyon dolar (yaklaşık 543,6 milyar Kore wonu) tutarında borç finansmanı aldı. TechCrunch, söz konusu kaynağın SambaNova SN50 tabanlı çıkarım bulutunun genişletilmesinde kullanılacağını bildirdi.

TechCrunch ayrıca bunun, çıkarım odaklı çiplerin finansal teminat olarak kullanıldığı bir örnek olduğunu belirtti. Ancak söz konusu finansmanın Cerebras çiplerinin satın alınmasında doğrudan kullanılıp kullanılmayacağı açıklanmadı.

Projenin kripto para sektörüyle de bir bağlantısı bulunuyor. General Compute CEO'su Finn Puklowski(Finn Puklowski), mayıs ayında TechCrunch'a verdiği röportajda Bitcoin(BTC) madenciliği şirketlerinin mevcut tesislerini yapay zeka veri merkezlerine dönüştürmeyi değerlendirdiğini söyledi.

Ancak Cerebras'ın bu projeye dahil edilmesinin belirli bir madencilik şirketiyle veya Türkiye'deki bir işletmeyle bağlantılı olduğuna ilişkin doğrulanmış bir bilgi bulunmuyor. General Compute'un açıkladığı iş modeli, veri merkezleri ve ortak yerleşim tesislerinde birden fazla çipin kullanılmasına dayanıyor. Müşteri bazında yerleştirme takvimi ise açıklanmadı.

Özel amaçlı çiplerle yapay zeka çıkarım altyapısına ilişkin örneklerden biri olan Cerebras'ın wafer ölçekli çıkarım yapısını kullanan model daha önce de tanıtılmıştı. O dönemde de görev türüne göre Cerebras çipleri ile GPU'ların ayrıştırıldığı bir yapı sunulmuştu.

Cerebras, CS-4'ü çıkarım odaklı bir sistem olarak tanıttığı örnekte de çip içi bellek ve düşük gecikme süresini öne çıkardı. Bununla birlikte ürün performansı ve iş modelinin ölçeklenebilirliği; tedarik istikrarı, model uyumluluğu ve işletme maliyetleriyle birlikte değerlendirilmesi gerekiyor.

General Compute'un açıkladığı müşteri bilişim kapasitesinin 2027'nin ilk çeyreğinde devreye alınması hedefleniyor. Cerebras çiplerinin gerçek satın alma miktarı, sözleşme bedeli ve müşteri bazındaki yerleştirme takvimi açıklanmadı.