GPU bulut sağlayıcıları 8 ayda 209’dan 323’e çıktı

Şirketlerin NVIDIA GPU tedarik seçenekleri büyük bulut sağlayıcılarının ötesine geçerek uzmanlaşmış GPU bulutlarını, doğrudan sözleşmeleri ve şirketlerin kendi veri merkezlerini kapsıyor. GPU bulut sağlayıcılarının sayısı 8 ayda 209’dan 323’e yükseldi; ancak sağlayıcı sayısı, kiralanabilir GPU kapasitesini göstermiyor.

SemiAnalysis, 23 Eylül’de yayımladığı “ClusterMAX 3.0” özetinde GPU bulut sağlayıcısı sayısının 323’e ulaştığını açıkladı. Bu, önceki 209 sağlayıcılık sayımdan daha yüksek. Ücretli abonelikle sunulan raporun kamuya açık özetinde sağlayıcıların listesi ve toplam sayımın yöntemi yer almadı.

Şirketler öncelikle Amazon Web Services (AWS), Microsoft Azure ve Google Cloud gibi büyük sağlayıcıları değerlendirebilir. Bu hizmetler, mevcut kurumsal hizmetlerle birlikte güvenlik ve operasyon altyapısı da sunuyor. CNBC, büyük bulut sağlayıcılarında ihtiyaç duyulan zamanda yeterli GPU bulmanın zorlaşabildiği örnekleri ve alternatif olarak öne çıkan uzmanlaşmış GPU bulutlarını aktardı.

CoreWeave ve Nebius gibi yeni nesil bulut sağlayıcıları GPU işlem kaynaklarını kiralamaya odaklanıyor. CNBC’nin haberine göre yapay zekâ ajanları geliştiren Modal, birden fazla bu tür sağlayıcıdan yararlanıyor. Modal CEO’su Eric Bernhardsson, şirketin ölçeği için gereken GPU’ları yalnızca geleneksel büyük bulut sağlayıcılarından temin etmenin zor olduğunu söyledi.

Yeni nesil bulut sağlayıcıları da GPU’ların hemen kullanıma hazır olacağını her zaman garanti edemiyor. CNBC, bazı büyük sağlayıcılardaki GPU’ların sözleşme ve veri merkezi kurulumunun ardından ancak aylar sonra çalışır duruma gelebileceğini aktardı. CoreWeave CEO’su Mike Intrator da ağustos ayındaki bilanço açıklamasında kısa vadeli kapasitenin fiilen tamamen dolduğunu söyledi.

Şirketlerin değerlendirebileceği diğer seçenekler arasında daha küçük uzman sağlayıcılar, müşterinin GPU’ları doğrudan satın alıp bulut sağlayıcısına tahsis ettiği sözleşmeler ve kendi veri merkezini kurmak bulunuyor. GPU’ları doğrudan satın almak, bulut sağlayıcısının sermaye harcaması yükünü azaltabilir; ancak şirketin elektrik, veri merkezi alanı ve işletme personelini kendisinin sağlaması gerekir. Kendi tesisini kurmak daha fazla kontrol sunarken tesisin işletme sorumluluğunu da beraberinde getirir.

Her seçeneğin maliyeti ve kapasitenin sağlanma zamanı sözleşmeye ve bölgeye göre değişiyor. Yalnızca sağlayıcı sayısına bakarak şirketlerin ihtiyaç duydukları zamanda GPU bulup bulamayacağını veya gerçek sözleşme koşullarını karşılaştırmak zor.

Kiralama fiyat endeksleri de arz koşullarını değerlendirmek için kullanılabilecek veriler arasında. Ornn, 9 Ekim’de NVIDIA B200 kiralama fiyat endeksinin GPU-saat başına 7,46 dolar olduğunu açıkladı. Bu tutar, şirketlerin açıkladığı liste fiyatı değil, işlem fiyatlarının ağırlıklı ortalaması.

Ornn endeksinde B200 kiralama fiyatı 30 günlük dönemde yüzde 9,4 yükselirken 7 günlük dönemde yüzde 5,6 geriledi. Endeksin yönü seçilen döneme göre değiştiğinden, tek bir anlık değer fiyat eğilimi hakkında kesin bir sonuca varmak için yeterli değil. Ornn, B200 işlemlerine dayalı kiralama fiyat endeksini yayımlıyor.

GPU tedarik yollarının çoğaldığı görülüyor; ancak sağlayıcı sayısındaki artış tek başına arzın veya fiyat rekabetinin iyileştiğini göstermiyor. SemiAnalysis’in kamuya açık sayımı sağlayıcı sayısını içeriyor, şirket bazındaki kullanılabilir kapasiteyi ve sözleşme koşullarını ise açıklamıyor.