SpaceXAI, Grok altyapısını Nvidia'nın Vera CPU'suyla genişletiyor

SpaceXAI, sonraki nesil AI ajanlarını çalıştırmak için Nvidia(NVDA)'nın yeni 'Vera' CPU'sunu devreye alıyor. Büyük model hesaplamalarını GPU üstleniyor, araç çağırma, kod çalıştırma, veri işleme ve simülasyon görevlerini ise CPU paylaşıyor.

24'ünde (yerel saatle) yayımlanan basın açıklamasında Nvidia, SpaceXAI'nin Grok'u destekleyen AI altyapısını Vera Rubin platformuna genişlettiğini duyurdu. Şirket, ilk nesil Starmind AI uydularında optimize edilmiş Vera Rubin NVL72 sistemlerinin kullanılacağını belirtti.

Bu açıklama, AI altyapı yarışının artık yalnızca GPU sayısıyla açıklanamayacak bir aşamaya girdiğini gösteriyor. AI ajanları yalnızca yanıt üretmekle kalmıyor; dış araçları çağırıyor, kod çalıştırıyor ve veri işliyor.

Bu süreçte model çağrıları arasındaki işler CPU yüküne dönüşüyor. CPU tarafında gecikme yaşanırsa GPU da bir sonraki işlemi beklemek zorunda kalıyor, bu da genel işlem hızını etkileyebiliyor.

Vera, Nvidia'nın AI ajan görevlerine özel tasarladığı bir CPU. Şirkete göre Vera, kendi tasarımı olan 88 çekirdekli 'Olympus' mimarisini, Nvidia'nın 'spatial multithreading' teknolojisini ve LPDDR5X belleği barındırıyor; bellek bant genişliği ise saniyede 1,2 terabayta kadar çıkabiliyor.

Nvidia, Vera'nın ajan tipi AI, pekiştirmeli öğrenme ve veri işleme görevlerinde x86 CPU'lara kıyasla işleri en fazla '1,8 kat' daha hızlı tamamladığını açıkladı. Şirketin öne sürdüğü bu performans karşılaştırması, büyük model hesaplamasından çok ajan çalıştırma sürecindeki tıkanıklığı hedef alıyor.

Nvidia Hiper Ölçek ve Yüksek Performanslı Bilgi İşlem birimi Başkan Yardımcısı Ian Buck(Ian Buck), "Ajan tipi AI için yanıt üretmenin ötesine geçip harekete geçebilecek yeni bir bilgi işlem sistemi gerekiyor" dedi. Buck, Vera'nın kod çalıştırma, veri işleme ve karmaşık görev koordinasyonu için gereken CPU gücünü sağladığını belirtti.

SpaceXAI Başkanı Mike Nicolls(Mike Nicolls) ise "Vera, GPU'ların en iyi yaptığı işi sürdürmesini desteklerken, büyük ölçekli koordinasyon, kod ve veri işleme için gereken CPU gücünü ve bellek bant genişliğini sağlıyor" diye konuştu. Bu açıklama, SpaceXAI'nin GPU ağırlıklı altyapısında CPU kaynaklı tıkanıklıkları da gidermeye çalıştığı şeklinde yorumlanabilir.

Vera Rubin, CPU, GPU ve ağ donanımını rack düzeyinde birleştiren yeni nesil AI altyapı platformu. TokenPost daha önce Nvidia'nın yeni nesil Vera Rubin üretim sisteminin gerçek veri merkezi kurulumlarına taşınmaya başladığını aktarmıştı.

AI veri merkezlerinde performans genellikle tek başına çip gücünden değil; elektrik, soğutma, bellek ve ağ yapılandırmasının bir arada uyumlu çalışmasından doğuyor. GPU model hesaplamalarını yürütse bile veri taşıma ve görev koordinasyonu yavaşladığında sistemin genel verimliliği düşebiliyor.

Nvidia'nın uzay bilgi işlem planları da aynı çizgide ilerliyor. Şirket, ayrı bir uzay bilgi işlem materyalinde Starmind AI1 uydusunun hesaplama yükünün Vera Rubin NVL72 tabanlı olduğunu açıkladı.

SpaceXAI'nin Starmind tanıtım sayfasına göre bu uydu, en fazla 150 kW ve ortalama 120 kW hesaplama yükü taşıyor; verileri Starlink uydu ağı üzerinden aktarıyor. TokenPost, SpaceX ve Nvidia'nın uydulara yönelik AI bilgi işlem yükü geliştirme planını daha önce duyurmuştu.

Bu haber, kripto para piyasası açısından doğrudan bir altyapı duyurusu değil. Ancak AI veri merkezleri, yarı iletkenler, elektrik ve uydu ağlarının bir araya geldiği bu eğilim, dijital varlık piyasası takipçilerinin de yakından izlediği bir teknoloji altyapısı dönüşümü.

Grok altyapısındaki bu genişlemenin ve yörüngedeki bilgi işlem planlarının gerçek hizmet performansına ve maliyet yapısına nasıl yansıyacağı, sistemlerin fiilen devreye alınma sürecinde netleşecek.