Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

%74 tahmini: AI ajanı çıkarım kapasitesi artışında Blackwell’in payı

Yüksek hızlı ara bağlantıyla bağlanan GPU hızlandırıcı modülleri / TokenPost.ai

Nvidia(NVDA) Blackwell ve Blackwell Ultra serilerinin, 2025’in ikinci çeyreğinden 2026’nın ikinci çeyreğine kadar AI ajanı çıkarım kapasitesine eklenen artışın tahminen %74’ünü sağladığı hesaplandı. Bu oran, çip satış tahminleriyle belirli iş koşullarında aynı anda işlenebilen istek sayısının bir araya getirilmesiyle elde edildi.

Epoch AI, 18’inde yayımladığı analizde, aynı dönemde satılan AI çiplerinin toplam çıkarım kapasitesinin 4,6 katına çıktığını bildirdi. Aynı çiplerin azami 8 bit hesaplama kapasitesi ise 2,6 kat arttı. Her iki oran da 2025’in ikinci çeyreği baz alınarak hesaplandı.

%74, Blackwell serisinin toplam çıkarım kapasitesindeki payını değil, bir yılda eklenen kapasiteye katkısını gösteriyor. 2026’nın ikinci çeyreğinde birikimli çıkarım kapasitesinin yaklaşık %73’ü Blackwell ve Blackwell Ultra’dan gelirken, bu serilerin azami 8 bit hesaplama kapasitesindeki payı %50 oldu.

Epoch AI, 9’unda yayımladığı Inference Performance Index raporunda, GB300’ün çip başına AI ajanı istek işleme kapasitesini H100’ün yaklaşık 25 katı, H200’ün ise yaklaşık 8 katı olarak tahmin etti. Buna karşılık GB300’ün saniyedeki azami 8 bit işlem miktarı H100’ün yaklaşık 2,5 katı.

Bu karşılaştırma, GB300’ün tüm AI işlerinde H100’den 25 kat hızlı olduğu anlamına gelmiyor. Raporda, sabit iş koşullarında dört temsili model için her çipin aynı anda işleyebileceği istek sayısı hesaplandı.

AI ajanları önceki konuşma ve görev kayıtlarını yeniden kullanabildiğinden, kapasite karşılaştırmalarında uzun bağlamlı koşullar önem taşıyor. Rapor, bu bağlamın tekrar kullanıldığı iş yüklerini temel aldı.

Her istekte gereken çıktı hızı da saniyede 50 ila 400 token arasında değiştirildi. Token, AI modellerinin metni işlerken veya üretirken kullandığı birimdir.

Bu iş yüklerinde eşzamanlı işleme kapasitesini yalnızca hesaplama hızı belirlemiyor. Bellekte ne kadar kayıt tutulabildiği, verilerin ne hızla okunabildiği ve çipler arasında ne kadar hızlı aktarım yapıldığı da etkili. Bu nedenle çıkarım kapasitesini yalnızca azami hesaplama gücüne bakarak karşılaştırmak zor.

Raporda GB300, yüksek hızlı bağlantıyla birbirine bağlanmış 72 GPU’lu bir sistemde değerlendirildi. Sonuçlar yalnızca tek bir çipin özelliklerine değil, bağlantı düzeni dahil çalışma ortamına da bağlı.

Bağlantı yapısı farklı bir B300 sistemiyle karşılaştırıldığında, aynı Blackwell Ultra ailesi için çip başına çıkarım kapasitesi tahminleri arasında yaklaşık 1,9 kat fark görüldü. Bu da GPU yapılandırmasının aynı ailedeki çiplerin çıkarım performansı değerlendirmesini değiştirebileceğini gösteriyor.

Blackwell tabanlı hesaplama kapasitesi şirketler arasındaki tedarik anlaşmalarında da yer aldı. TokenPost daha önce Corvex’in AI çıkarım platformuna Blackwell tabanlı hesaplama kapasitesi sağlamak üzere bir anlaşma duyurduğunu bildirmişti.

Toplam çıkarım kapasitesi, her çip türüne ilişkin satış tahminlerinin çip başına Inference Performance Index puanlarıyla çarpılıp toplanmasıyla hesaplandı. Kapasiteyi karşılaştırmak için tüm çeyreklerde aynı iş yükü kümesi kullanıldı.

Toplam kapasitedeki 4,6 katlık artış, yalnızca bir yıl içinde yeni satılan çiplerin katkısını ifade etmiyor. Karşılaştırma amacıyla, 2026’nın ikinci çeyreğinde satılan çiplerin eklediği çıkarım kapasitesi, 2025’in ikinci çeyreğinde satılanların 3,3 katı olarak hesaplandı.

Hesaplamada sistem yapılandırmasına ilişkin varsayımlar da kullanıldı. Epoch AI, bazı çipler için yapılandırmayı GB/NVL72 raf sistemleri %60, B/HGX sunucuları %40 olacak şekilde dağıttı; yazılım verimliliğindeki farklılıkları hesaba katmadı.

Satış hacmi ve donanım yapılandırmasındaki belirsizlikler dikkate alındığında, bir yıllık çıkarım kapasitesi artışı 4,2 ila 5,1 kat aralığında hesaplandı. Epoch AI, bu aralığın satış hacmi ve yapılandırma varsayımlarındaki belirsizliği kapsadığını, modellenen çip performansının kendi belirsizliğini ise içermediğini belirtti.

Dolayısıyla %74 ve 4,6 kat değerleri, tüm veri merkezlerinde gerçekleşen gerçek işleme sonuçları değil; satış tahminleriyle belirlenmiş AI ajanı iş koşullarına dayalı kapasite karşılaştırmalarıdır.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1