Maia 200 ile dolar başına performans yüzde 30 arttı

Microsoft($MSFT), kendi yapay zeka (AI) çıkarım hızlandırıcısı Maia 200'ün, şirketin mevcut sistemlerine kıyasla dolar başına performansı yüzde 30 artırdığını 26 Ocak'ta duyurdu. Adım, Nvidia($NVDA) çipini tamamen devre dışı bırakmak yerine belirli çıkarım işlerinin maliyet verimliliğini yükseltme stratejisi olarak yorumlanıyor.

Microsoft, 26 Ocak'ta tanıttığı Maia 200'ü büyük ölçekli yapay zeka çıkarım işlemlerinin ekonomisini iyileştirmek için tasarlanmış özel bir hızlandırıcı olarak tanımladı. Şirketin resmi verilerinde karşılaştırma Nvidia ürünleriyle değil, Microsoft'un kendi mevcut sistemleriyle yapıldı.

Maia 200, yeni modeller eğitmekten çok, zaten eğitilmiş modellerin kullanıcı isteklerine yanıt verdiği çıkarım aşamasına göre tasarlandı. Üretken yapay zeka servisleri her istekte çıkarım işlemini tekrarladığından işlem hacmi ve enerji verimliliği işletme maliyetini doğrudan etkiliyor.

Şirket, Maia 200'ün mevcut sistemlere kıyasla dolar başına performansı yüzde 30 yükselttiğini belirtti. Ancak Nvidia çiplerine göre işletme maliyetini yüzde 30-40 azalttığı yönündeki rakam Microsoft'un resmi açıklamalarında doğrudan yer almadı.

Microsoft, 28 Ocak'ta gerçekleştirdiği ikinci çeyrek kazanç çağrısında Maia 200'ün toplam sahip olma maliyetinin (TCO) en yeni kendi donanımına kıyasla yüzde 30'un üzerinde iyileştiğini açıkladı. TCO, ekipman alım bedeli, elektrik gideri ve bakım-işletme maliyetlerini kapsayan toplam maliyeti ifade ediyor.

29 Nisan'daki üçüncü çeyrek kazanç çağrısında ise Maia 200'ün Iowa ve Arizona'daki veri merkezlerinde faaliyette olduğu belirtildi. En yeni kendi silikonuyla karşılaştırıldığında dolar başına token işleme performansının da yüzde 30'un üzerinde arttığı açıklandı.

Microsoft, Nvidia, AMD(AMD) ve kendi Maia çiplerini birlikte kullanarak performans, maliyet ve tedarik dengesini kurmayı planlıyor. Genel amaçlı grafik işlem birimlerinin (GPU) tamamının yerini almak yerine, iş yüküne göre uygun çipi devreye sokan karma bir strateji izleniyor.

Çıkarıma özel çipler, tekrarlanan işlem türlerine göre donanımı optimize edebilme avantajı sunuyor. Buna karşılık genel amaçlı GPU'lara kıyasla kullanım alanı daha dar ve mevcut yazılımı taşımak ek maliyet gerektirebiliyor.

Maia 200, TSMC'nin 3 nanometre üretim sürecinde imal ediliyor ve Ethernet tabanlı ölçeklenebilir bir mimari kullanıyor. Microsoft, en fazla 6144 hızlandırıcıdan oluşan kümelere kadar ölçeklenebildiğini belirtti.

Şirket, Maia 200 ile birlikte Triton gibi yazılım araçlarını da tanıttı. Reuters, bu araçların Nvidia'nın en güçlü rekabet avantajı olan CUDA geliştirici ekosistemini hedef aldığını yazdı.

Yapay zeka hızlandırıcılarının rekabet gücü yalnızca yarı iletken performansıyla belirlenmiyor. Geliştirme araçları, kütüphaneler ve mevcut modellerle uyumluluk sağlanmadan müşterilerin işlerini yeni çipe taşıması zor.

Sektördeki değerlendirmeler birbirinden farklı. TechTarget'in aktardığı analistler, Maia 200'ün Copilot benzeri büyük ölçekli sohbet botu tipi çıkarım işlerine uygun olabileceğini, ancak yazılım uyumluluğu ve geçiş maliyeti nedeniyle Nvidia'nın kısa vadede yerini almasının zor olduğunu değerlendirdi.

Bazı analistler Nvidia'nın uzun vadede hakimiyetinin zayıflayabileceği görüşünü paylaştı. Başka analistler ise önümüzdeki 3-4 yıl içinde Maia'nın Nvidia'nın konumunu ciddi şekilde sarsma ihtimaline şüpheyle yaklaştı.

Microsoft'un kendi çip üretimini genişletmesi, dış yarı iletken tedarikçilerinin ürünleriyle kendi tasarladığı çipleri bir arada kullanarak maliyet ve tedarik zincirini dengeleme çabası olarak öne çıkıyor. Açıklanan sonuçlar şirketin kendi altyapısı temel alınarak sunulduğundan, bunları dış müşterilerin gerçek kullanım maliyetiyle doğrudan ilişkilendirmek için henüz erken.

Son dönemde ilgi bir sonraki nesil çip Maia 300'e kayıyor. Barron's, Microsoft'un kendi yapay zeka çip üretimini artırmaya çalıştığını ve Maia 300'ü en erken eylülde tanıtabileceğini yazdı. TokenPost daha önce Microsoft'un kendi yapay zeka çip üretimini artırma planını ve Maia 300'ün tanıtılma ihtimalini aktarmıştı.