Yüzde 50-80 maliyet hedefiyle Qualcomm(QCOM) veri merkezi AI modelini küçültüyor

Qualcomm(QCOM), İspanyol yapay zeka şirketi Multiverse Computing ile veri merkezlerinde kullanılan büyük dil modellerini küçültmek için iş birliğine gitti. Ortaklık, modellerin boyutunu ve çalışma yükünü azaltarak çıkarım verimliliğini artırmayı hedefliyor.

Multiverse Computing, 5'inde (yerel saatle) kendi web sitesinden yaptığı açıklamada, hafif yapay zeka modellerini Qualcomm'un Dragonfly AI200 ve AI250 hızlandırıcılarına özel olarak optimize edeceğini duyurdu. Şirket bu iş birliğini “verimli yapay zeka modellerini veri merkezlerine taşımaya yönelik bir ortaklık” olarak tanımladı.

İş birliğinin merkezinde Multiverse Computing'in model sıkıştırma teknolojisi CompactifAI yer alıyor. Teknoloji, kuantum bilgisayarlarda kullanılan matematiksel yaklaşımlardan esinlenen tensör ağlarını kullanarak büyük dil modellerinin boyutunu ve bellek kullanımını düşürüyor.

Multiverse Computing, CompactifAI ile sıkıştırılan modellerde çıkarım maliyetini yüzde 50 ile 80 arasında düşürmeyi, çıkarım hızını ise en fazla 2 kat artırmayı hedeflediğini açıkladı. Şirkete göre doğruluk oranı orijinal modele yakın, neredeyse yüzde 100 seviyesinde korunuyor.

Bu rakamlar Multiverse Computing'in kendi hizmeti için koyduğu hedefler. “Gerçek üretim ortamlarında aynı sonucun elde edilip edilmeyeceği” ise ancak müşteri kullanım örnekleri ve bağımsız karşılaştırma testleriyle doğrulanabilecek.

Ortaklık, Qualcomm'un yapay zeka çıkarımına yönelik veri merkezi pazarına giriş stratejisiyle örtüşüyor. Şirket, Haziran'da (yerel saatle) Dragonfly portföyünü tanıtırken AI200, AI250 ve AI300 ile devam eden bir çıkarım hızlandırıcı yol haritası paylaşmıştı.

AI250, HBC Gen 1 mimarisine dayanıyor ve kart başına 133TB/s efektif bellek bant genişliği sunacak şekilde tasarlandı. Qualcomm, bu rakamın AI200'e kıyasla 18 kat daha yüksek olduğunu belirtti.

Yapay zeka altyapısındaki rekabet, model eğitim performansından çıkarım verimliliğine doğru genişliyor. Sohbet botları, yapay zeka ajanları, arama asistanları ve kodlama araçları gibi sık çağrılan servislerde her yanıt üretiminde çıkarım maliyeti birikiyor.

Model sıkıştırma, bu süreçte gereken bellek, enerji ve yanıt gecikmesini azaltan bir yöntem. Qualcomm donanım ve bellek bant genişliğini geliştirirken, Multiverse Computing model boyutunu ve çalışma yükünü küçülterek aynı darboğazı hedefliyor.

TokenPost daha önce yapay zeka altyapısındaki yükün işlem gücünden bellek kapasitesi, bant genişliği ve veri taşıma yapısına doğru yayıldığını aktarmıştı.

Multiverse Computing, Haziran 2025'te CompactifAI'nin büyük dil modellerinin boyutunu performanstan ödün vermeden yüzde 95'e kadar azaltabildiğini öne sürmüştü. Şirket o dönem 189 milyon euro tutarında yatırım aldığını da duyurmuştu.

Şirket, sıkıştırılmış modellerin bulut ve özel veri merkezlerinin yanı sıra bazı ultra hafif ortamlarda bilgisayar, telefon, araç ve dronlarda da çalıştırılabildiğini belirtiyor. Bu iş birliği, teknolojinin kullanım alanını Qualcomm'un veri merkezi hızlandırıcılarına doğru genişleten bir adım.

Açıklamada token ihracı, blok zinciri altyapısı, madencilik ekipmanı veya on-chain veri işleme ile doğrudan bir bağlantı yer almadı. Yapay zeka veri merkezlerindeki enerji verimliliği ve çıkarım maliyetindeki düşüşün merkeziyetsiz yapay zeka, doğrulanabilir yapay zeka işlemleri veya cihaz üstü yapay zeka cüzdanlarına etkisi de henüz netleşmiş değil.

Qualcomm ve Multiverse Computing, CompactifAI tabanlı modelleri Dragonfly AI200 ve AI250'ye optimize etmeyi planlıyor. Maliyet düşüşünün ve performans korumasının gerçek boyutu, müşteri kullanımları ve bağımsız karşılaştırma testleri açıklandıktan sonra netlik kazanabilir.