Helion’da 36.864 çekirdek: AMD üç rack yapılandırmasını açıkladı

AMD (AMD), yapay zekâ ajanlarına yönelik Helion sunucu rack’ini sıvı soğutmalı CPU, hava soğutmalı CPU ve hava soğutmalı CPU-GPU birleşik olmak üzere üç yapılandırmada tanıttı. Sıvı soğutmalı model, yapılandırmaya bağlı olarak 36.864 çekirdeğe kadar destekliyor. İş ortaklarıyla geliştirilen rack’lerin tedariki için hedeflenen tarih kasım ayı.

AMD, 10’unda (yerel saatle) 6. nesil EPYC sunucu işlemcilerini tanıtırken Helion’un üç yapılandırmasını da açıkladı. Şirketin resmi duyurusunda, yeni işlemcileri kullanan sunucu sistemlerinin sevkiyata çıktığı belirtildi. Bu, Helion rack’lerinin sevkiyatının başladığı anlamına gelmiyor.

Sıvı soğutmalı Helion Liquid, rack yüksekliğine göre iki çekirdek seçeneği sunuyor. AMD’nin ürün sayfasında 48 OU yapılandırmasının 36.864’e, 44 OU yapılandırmasının ise 32.768’e kadar çekirdeği desteklediği belirtiliyor.

OU, sunucu rack’ine yerleştirilen ekipmanın yüksekliğini ifade eden bir birim. İki seçenek, rack yüksekliğinin takılabilecek CPU sayısını değiştirdiğini gösteriyor.

Hava soğutmalı Helion Air, sıvı soğutma altyapısı olmadan CPU rack’i işletmek için tasarlandı. AMD’nin verdiği azami çekirdek sayısı, işlemci güç ayarına bağlı olarak 16.384 veya 8.192.

Helion Air Inference ise CPU ile GPU’ları aynı rack’te bir araya getiriyor. Yapılandırmada 12.288 CPU çekirdeği ve en fazla 16 Instinct MI350P GPU bulunuyor.

Üç yapılandırma, müşterilerin soğutma altyapısına ve yapay zekâ iş yüklerine göre donanım seçebilmesi için tasarlandı. CPU’ya özel rack’lerin yanı sıra CPU-GPU birleşik seçenek de sunulması, veri merkezi koşullarına göre farklı kurulumlara imkân veriyor.

Yapay zekâ ajanları yalnızca soruları yanıtlamıyor; veri arıyor, kod çalıştırıyor ve diğer uygulamalarla görev alışverişinde bulunuyor. AMD, Helion’u bu işlerde gereken CPU kaynaklarını model çıkarımında kullanılan GPU kaynaklarıyla müşteri ortamına göre birleştiren bir rack ailesi olarak tanımlıyor.

Büyük modellerin eğitimi ve geniş ölçekli çıkarım için tasarlanan Helios GPU rack’inden farklı olarak Helion, yapay zekâ ajanlarının görev yürütmesine yönelik CPU yapılandırmalarına odaklanıyor. Bazı Helion seçeneklerinde çıkarım için GPU’lar da yer alıyor.

AMD’nin ürün sayfasında iş ortakları arasında Foxconn, QCT, Wiwynn, Inventec, GIGABYTE, Dell, HPE, Lenovo ve Supermicro sıralanıyor.

TokenPost daha önce Helion’un temel rack tasarımını ve kasım ayı için belirlenen lansman hedefini aktarmıştı. O sırada açıklanan CPU’ya özel yapılandırmanın üst sınırı 32.768 çekirdekti. Yeni açıklamayla sıvı soğutmalı 48 OU yapılandırmasının üst sınırı ile hava soğutmalı ve CPU-GPU birleşik modellerin ayrıntıları da paylaşıldı.