3,4 kat hızlı yanıt: OpenAI'ın Jalapeño çipi Nvidia(NVDA)'yı devre dışı bırakmıyor

OpenAI, Broadcom(AVGO) ile birlikte geliştirdiği özel yapay zeka çıkarım çipi 'Jalapeño'nun performans testi sonuçlarını açıkladı. Şirket, güç verimliliği ve yanıt hızındaki iyileşmeyi öne çıkarırken, eğitim ve çıkarım süreçlerinde Nvidia(NVDA) hızlandırıcılarını da kullanmaya devam edeceğini belirtti.

OpenAI, 25'inde yayımladığı teknik raporda, Jalapeño'nun birim güç başına daha fazla yapay zeka işlemi gerçekleştirirken yanıt hızını da artırdığını açıkladı. Testler, SemiAnalysis'in kamuya açık kıyaslama aracı InferenceX üzerinde yapıldı.

Testlerde GPT-OSS 120B, DeepSeek R1 670B ve Kimi K2.5 1T modelleri kullanıldı. OpenAI, Jalapeño'nun nominal gücünün 700 watt olduğunu, test sırasında sürdürülen gücün ise 550 watt'ın altında kaldığını belirtti.

Kimi testinde karşılaştırma sistemine göre tepe güç verimliliğinin yaklaşık 1,5 kat daha yüksek, uçtan uca gecikme süresinin ise 3,4 kat daha düşük olduğu açıklandı. OpenAI'ın kendi çıkarım çipindeki performans ve HBM tedarik değişkenleri daha önce de gündeme gelmişti.

Jalapeño, eğitim için değil çıkarım için tasarlanmış bir çip. Çıkarım, önceden eğitilmiş bir yapay zeka modelinin kullanıcı isteklerine yanıt ürettiği süreci ifade ediyor. ChatGPT gibi servislerde yanıt gecikmesini ve güç tüketimini azaltmak, doğrudan işletme maliyetine ve hizmet kalitesine yansıyor.

OpenAI, çipi bellek, ağ, yazılım ve raf düzeyindeki sistemlerle birlikte tasarladığını açıkladı. Büyük yapay zeka şirketlerinin yalnızca modelleri değil, donanım ve veri merkezi operasyonlarını da bir bütün olarak optimize etme eğiliminin bu adıma yansıdığı 'yorumu' yapılabilir.

Broadcom, geçtiğimiz Haziran ayında OpenAI ile birlikte Jalapeño'yu duyurmuş ve bu çipin OpenAI'ın ilk özel çıkarım hızlandırıcısı olduğunu belirtmişti. İki şirket o dönemde Jalapeño'nun, OpenAI'ın modelleri ve ürünlerinin arkasındaki 'tam yığın' stratejisinde önemli bir adım olduğunu açıklamıştı.

CNBC, bu açıklamanın Broadcom'un 2027 mali yılı için öngördüğü 100 milyar doların üzerindeki yapay zeka gelir tahminine güven katabileceğini aktardı. Ancak veri merkezi inşasını çevreleyen siyasi baskı ile Broadcom'un gelir artış hızının ayrı birer değişken olarak kaldığı değerlendirmesi de aynı haberde yer aldı.

Nvidia açısından ise durumun farklı bir anlamı var. Özel tasarım çiplerin büyük yapay zeka şirketleri için bir seçenek haline gelmesi, GPU merkezli yapay zeka altyapısına dair soruları büyütüyor. Ancak OpenAI aynı raporda, "Nvidia ve diğer ortakların hızlandırıcılarını eğitim ve çıkarım işlerinde geniş ölçekte kullanmaya devam edeceğiz" ifadesini kullandı.

Bu nedenle Jalapeño, Nvidia'nın yerini almaktan çok ek bir tedarik kanalı olarak öne çıkıyor. Yapay zeka şirketleri açısından genel amaçlı GPU'lar, özel tasarım ASIC'ler ve uzun vadeli veri merkezi anlaşmalarını bir arada sürdürerek maliyet ve performansı dengelemek, daha gerçekçi bir seçenek olarak görülüyor.

Nvidia ile OpenAI arasındaki altyapı iş birliği de sürüyor. Nvidia, OpenAI'ın ABD Ohio'daki büyük veri merkezi projesine en fazla 105 milyar dolarlık kredi desteği sağlayacağını, bu projede Nvidia bilgi işlem altyapısının münhasıran kullanılacağını açıkladı.

Proje, SB Energy'nin ABD Ohio'daki PORTS-Pike teknoloji kampüsüyle bağlantılı. OpenAI bu projenin 8 IT-GW'lik müşterisi konumunda; SB Energy ise veri merkezini 20 yıllık kiralama yapısıyla inşa edip işletiyor.

OpenAI, Jalapeño'yu yıl sonuna kadar kendi bilgi işlem altyapısına yerleştirmeye başlamayı planladığını belirtti. Şirket, üretim doğrulaması, yazılım olgunluğu, büyük ölçekli operasyon hazırlığı ve daha fazla model doğrulaması üzerinde çalışmaya devam ettiğini açıkladı.

Jalapeño'nun Nvidia'ya etkisi, çipin gerçek dağıtım ölçeği ve yeni nesil çip geliştirme hızı netleştikten sonra değerlendirilebilir. Nvidia CEO'sunun 26'sında ABD borsalarının kapanışının ardından açıklanacak bilanço sunumunda özel tasarım çip rekabetiyle ilgili sorularla karşılaşması bekleniyor.