SK Hynix'ten yapay zeka darboğazına çözüm: CPO teknolojisi belleğe taşınıyor

SK Hynix(000660), yapay zeka altyapısındaki veri aktarım darboğazını azaltmak için yeni nesil 'ortak paketli optik' (Co-Packaged Optics, CPO) teknolojisine yönelik bir yol haritası ortaya koydu.

SK Hynix ve Virginia Üniversitesi (University of Virginia) araştırmacıları, 20'sinde (yerel saatle) bilimsel dergi Nature Electronics'te ortak bir makale yayımladı. Makalede yüksek performanslı bilgi işlem ve yapay zeka alanında CPO teknolojisinin izleyebileceği yol ele alındı.

Asıl sorun, işlem gücündeki artış hızı ile veri taşıma kapasitesi arasındaki fark. Makaleye göre işlem performansı her iki yılda bir yaklaşık 3 kat artarken, ara bağlantı (interconnect) bant genişliği yalnızca 1,4 kat büyüyor.

Yapay zeka modelleri ve veri merkezleri büyüdükçe, sadece işlem birimlerinin performansını artırmak toplam işlem hızını yükseltmeye yetmiyor. Araştırmacılar bu darboğazı 'bant genişliği duvarı' olarak tanımladı.

Ortak paketli optik, optik bileşenleri çip veya paketin hemen yanına yerleştirerek veri taşıma mesafesini kısaltan bir teknoloji. Geleneksel elektrik sinyaline dayalı bağlantılar hız ve güç verimliliği açısından sınırlara dayanabiliyor; bu yüzden yapay zeka altyapısında optik bağlantıyı paketin içine ve dışına taşımak alternatif olarak öne çıkıyor.

Nvidia(NVDA)'nın CPO anahtarlarında seri üretime geçmesi ve tedarik zincirini genişletmesi daha önce ağ ekipmanı düzeyinde gündeme gelmişti; bu yeni makale ise tartışmayı bellek bağlantı yapısına kadar genişletiyor.

Araştırmacılar daha uzun vadede birden çok yapay zeka hızlandırıcının tek bir bellek havuzunu paylaşabileceği bir yapı öne sürdü. Her hızlandırıcının yalnızca kendine ayrılmış belleği kullanmasından farklı olarak, bu yöntemin bellek kullanım verimliliğini artırabileceği belirtildi.

Ancak bu öneri, makale üzerinden sunulan bir teknoloji yol haritası niteliğinde. Somut bir ürünleştirme takvimi ya da seri üretim planı olarak paylaşılmadı.

STAR Market Daily'nin (科创板日报) haberine göre, SK Hynix'in bu düzeydeki bir bilimsel dergide yapay zeka ara bağlantı mimarisine ilişkin bir teknoloji taslağını kamuoyuyla paylaşması ilk kez gerçekleşti. Makale, bir bellek şirketinin yapay zeka sistemlerindeki veri taşıma sorununu teknik bir gündem maddesi olarak ortaya koyması açısından dikkat çekiyor.

Yarı iletken sektöründe yapay zeka altyapısındaki darboğaz; işlem kaynakları, bellek kapasitesi, güç verimliliği ve cihazlar arası bağlantı hızının iç içe geçtiği bir sorun olarak değerlendiriliyor. CPO ise bu unsurlardan verinin taşındığı aşamadaki kayıp ve gecikmeyi azaltan bir teknoloji olarak sınıflandırılıyor.

Bu yol haritası, SK Hynix'in yalnızca bellek tedarikçiliğinin ötesinde, yapay zeka sistem mimarisi içindeki veri taşıma sorununu da ele alma eğilimiyle örtüşüyor. CPO teknolojisinin gerçek yapay zeka altyapısı maliyetine, güç tüketimine ve bellek kullanım oranına etkisi, makale sonrası doğrulama ve uygulama aşamalarında netleşecek bir konu.