17-18Gbps hedefiyle Samsung'dan 8 katmanlı HBM4E hamlesi

Samsung Electronics(005930), NVIDIA(NVDA)'nın özel yüksek bant genişlikli bellek taleplerine yönelik 8 katmanlı HBM4E geliştirmeye çalışıyor. Hedef hız saniyede 17-18 gigabit (Gbps) olarak belirlendi; bu, Samsung'un daha önce açıkladığı HBM4E ilk örnek hızından yaklaşık yüzde 20 daha yüksek bir seviyeye işaret ediyor.

Citrini Research analisti Jukan, konuyla ilgili analizinde Samsung'un NVIDIA'nın istediği özelliklere uygun 7. nesil yüksek bant genişlikli bellek HBM4E'nin 8 katmanlı versiyonunu geliştirdiğini belirtti. Şimdiye kadar 12 ve 16 katmanlı ürünlerin öne çıktığı ürün gamında 8 katmanlı bir seçeneğin gündeme gelmesi, yeni nesil yapay zeka belleklerindeki rekabetin odağının katman sayısını artırmaktan sisteme özel tasarıma doğru genişlediğine işaret ediyor.

NVIDIA, 26'sında (yerel saatle) resmi blogunda NVLink Fusion'a NVHBM'yi eklediğini duyurdu. NVHBM, bellek denetleyicisini XPU çekirdeğine değil HBM taban katmanına entegre eden bir yapı.

NVIDIA, bu yapının standart HBM4E'ye kıyasla bellek bant genişliğini yüzde 30'a kadar artırabileceğini ve HBM güç tüketimini yüzde 15 düşürebileceğini açıkladı. Şirket ayrıca XPU işlem çekirdeği alanında da yüzde 25'e varan kazanım sağlanabileceğini belirtti.

HBM, birden fazla DRAM'ı dikey olarak istifleyerek veri işleme bant genişliğini artıran yüksek performanslı bir bellek türü. Katman sayısı arttıkça kapasite büyüyor, ancak ısı yönetimi ve arka uç üretim süreçlerindeki zorluk da artıyor.

8 katmanlı ürünler, 12 ve 16 katmanlı ürünlere kıyasla istifleme yükünü azaltabiliyor. Yüksek performanslı yapay zeka hızlandırıcılarında yalnızca bellek kapasitesinin değil güç, ısı, verim ve tedarik istikrarının da birlikte gözetilmesi gerektiğinden, daha düşük katmanlı bir yapılandırmanın da stratejik bir seçenek olabileceği değerlendiriliyor.

Samsung Electronics, 29 Mayıs'ta (yerel saatle) Newsroom üzerinden HBM4E 12 katmanlı örnekleri küresel müşterilere tedarik etmeye başladığını duyurmuştu. Bu ürün 48GB kapasiteyle sunuluyor; kararlı hızı 14Gbps, genişletilmiş hızı ise en fazla 16Gbps olarak açıklanmıştı.

Samsung, müşteri talebine göre HBM4E ürün gamını 32GB 8 katmanlı ve 64GB 16 katmanlı versiyonlarla genişletme planını da paylaşmıştı. TokenPost daha önce Samsung'un HBM4E ürün gamını 8 katmanlı 32GB ve 16 katmanlı 64GB seçenekleriyle genişletmeyi planladığını aktarmıştı.

Samsung'un öne çıkardığı güç, DRAM ile lojik taban katmanını birlikte üretebilen yapısı. Şirket, HBM4E'de 1c DRAM sürecini ve 4 nanometre döküm (foundry) tabanlı lojik taban katmanını kullandığını açıkladı.

NVHBM gibi taban katman tasarımının ağırlığının arttığı yapılarda bellek ve lojik süreçlerini bir arada yürütme yeteneği önem kazanabilir. HBM rekabeti şimdiye kadar katman sayısı ve kapasite odaklı ilerlerken, özel tasarım HBM'de müşteri sistem mimarisine uygun taban katman tasarımı ve doğrulaması daha büyük bir ağırlık kazanabilir.

Analist Jukan, Samsung'un NVIDIA'nın talebine uygun 8 katmanlı HBM4E ürünü geliştirdiğini ve NVIDIA'nın pin başına 17-18Gbps hız istediğini belirtti. Ancak HBM4E'nin esas olarak 8 katmanlı yapılarla mı tedarik edileceği konusunda sektörde belirsizlik sürüyor.

NVIDIA'nın yeni nesil ürünlerinde hangi HBM yapılandırmasının nihai olarak kullanılacağı henüz netleşmiş değil. TokenPost daha önce Rubin Ultra'nın nihai ürün özelliklerinin ve uygulama zamanlamasının NVIDIA'nın resmi açıklamasıyla teyit edilmesi gerektiğini aktarmıştı.

NVIDIA, NVHBM'yi birden fazla bellek tedarikçisinin doğrulayıp sunabileceği standart bir uygulama haline getirmeyi hedeflediğini açıkladı. İlk iş birliği ortağı olarak Amazon çatısı altındaki Annapurna Labs gösterildi.

Samsung'un 8 katmanlı HBM4E geliştirme çalışması, NVIDIA'nın sürdürdüğü özel bellek tasarımı eğiliminin bir parçası olarak değerlendiriliyor. Gerçek tedarik hacmi ve uygulama zamanlaması, NVIDIA ile müşterilerin nihai özellikleri netleştirmesinin ardından şekillenecek.