SK hynix'ten AI'nın 'bant genişliği duvarı'na karşı CPO yol haritası

SK hynix(000660) ile Virginia Üniversitesi'nden araştırmacılar, yapay zeka(AI) çiplerinde veri bağlantısını sınırlayan darboğazı azaltmaya yönelik yeni nesil ortak paketli optik (CPO) teknolojisi için bir yol haritası açıkladı.

Çin merkezli haber kaynağı Kezhaobao(科创板日报), araştırma ekibinin 20'sinde (yerel saatle) bilimsel dergi Nature Electronics'te ortak bir makale yayımlayarak yüksek performanslı bilgi işlem ve AI alanında CPO teknolojisinin gelişim yönünü ortaya koyduğunu bildirdi. Habere göre SK hynix, bu düzeyde bir bilimsel dergide AI ara bağlantı mimarisine dair bir teknoloji planını ilk kez kamuoyuyla paylaştı.

CPO, optik bileşenleri işlem çipine veya anahtarlama donanımına yakın konumlandırarak elektrik sinyalinin kat ettiği mesafeyi kısaltan bir teknoloji. Elektrik sinyali ne kadar uzun mesafe kat ederse kayıp ve enerji tüketimi de o kadar artıyor; bu yüzden büyük ölçekli AI veri merkezlerinde çip ile optik iletişim bileşenlerini birbirine yaklaştırma ihtiyacı giderek büyüyor.

AI sunucularında ve veri merkezlerinde işlem gücü arttıkça çipler, sunucular ve bellek birimleri arasında taşınan veri miktarı da yükseliyor. Bağlantı bant genişliği ve enerji verimliliği bu artışa ayak uyduramazsa, mevcut donanımın fiili kullanım oranı düşebiliyor.

Makale, AI altyapısının büyümesindeki temel darboğazı 'bant genişliği duvarı' olarak tanımlıyor. Araştırmacıların aktardığına göre işlem gücü her 2 yılda yaklaşık 3 kat artarken, ara bağlantı bant genişliğindeki artış aynı sürede sadece 1,4 kat düzeyinde kalıyor.

Araştırma ekibi bu açığı kapatabilecek teknoloji adayı olarak CPO'yu öne çıkardı. Şimdiye kadar CPO teknolojisi genellikle ağ anahtarlarıyla optik bileşenlerin birbirine yakın yerleştirilmesi yöntemiyle gündeme geliyordu.

Bu yol haritasının öne çıkan yanı, CPO'nun kullanım alanını yalnızca ağ bağlantısıyla sınırlı tutmaması. Araştırmacılar, daha ileri bir aşama olarak CPO'nun bellek arayüzüne kadar genişletilmesini öneriyor.

Optik bağlantının bellek arayüzüne kadar yayılması, birden fazla AI hızlandırıcının aynı bellek havuzunu paylaşabildiği bir yapı kurulmasına imkan tanıyabilir. Araştırma ekibi bu sayede bellek kullanım verimliliğinin artırılabileceğini değerlendiriyor.

Bu yaklaşım, AI altyapısındaki darboğazın yalnızca işlem çipinin performansından kaynaklanmadığı yönündeki eğilimle örtüşüyor. TokenPost daha önce AI altyapısında bellek ve depolama darboğazını çözme stratejilerinin CXL ve genişletilebilir bellek yapılarına doğru yayıldığını aktarmıştı.

CPO'ya yönelik ilgi, optik bağlantı bileşenleri tarafına da sıçrıyor. TokenPost daha önce CPO'nun veri aktarım ve enerji verimliliğini artıran bir teknoloji olarak gündeme geldiğini ve AI veri merkezi tedarik zincirinde değerlendirmeye alındığını bildirmişti.

SK hynix de kendi haber odası aracılığıyla, büyük ölçekli AI bilgi işlem ağlarında mevcut elektriksel ara bağlantının bant genişliği ve enerji verimliliği açısından yapısal bir sınıra dayandığını daha önce açıklamıştı. Bu makale, söz konusu sorunu bellek merkezli mimariyle ilişkilendiren bir teknoloji yol haritası niteliği taşıyor.

Ancak bu açıklama bir ürün lansmanı veya seri üretim takvimi duyurusu değil. Bilimsel makale ve teknoloji yol haritası üzerinden CPO'nun genişleme yönü ortaya konuldu.

CPO'nun fiilen bellek arayüzü aşamasına ne zaman uzanacağı ve ticari ürünlerde ne ölçüde kullanılacağı henüz açıklanmadı. Bu duyuruyla doğrulanan husus, SK hynix ve ortak araştırma ekibinin AI ara bağlantı darboğazını azaltmaya yönelik teknoloji yönünü bir makale biçiminde ortaya koyduğu. Konuya ilişkin ayrıntılar PANews ve SK hynix Haber Odası'nda da yer aldı.