Andreessen Horowitz, 20 bin GPU’luk işlem kapasitesini genişletmeyi görüşüyor

Yapay zekâ (AI) girişimlerine GPU’ları zamanında ulaştırmak zorlaşırken, risk sermayesi şirketleri işlem kapasitesi sağlamaya yöneliyor. Andreessen Horowitz, mevcut GPU havuzunu büyütmek için veri merkezi şirketleriyle görüşüyor.

The Information, Andreessen Horowitz’in veri merkezi geliştirme ve işletme şirketi Switch ile AI altyapı şirketi Volta’yla GPU altyapısını genişletmeyi görüştüğünü bildirdi. Andreessen Horowitz, 2024’te yaklaşık 20 bin GPU’dan oluşan işlem kapasitesi oluşturmuş ve bunu yatırım yaptığı AI girişimlerine sunmuştu.

AI modellerini eğitmek kısa sürede büyük miktarda işlem gücü gerektiriyor. Ancak bir hizmet kullanıma açıldıktan sonra ortaya çıkacak çıkarım talebini önceden tahmin etmek zor. Uzun vadeli sözleşmeler talep düştüğünde maliyet yükü yaratabilir; kısa vadeli kapasite anlaşmaları ise ihtiyaç duyulan zamanda GPU bulunamaması riskini taşıyor.

ChainCatcher, Andreessen Horowitz’in “Oxygen” programı kapsamında GPU işlem kapasitesini ortaklaşa satın aldığını veya kiraladığını ve yatırım yaptığı şirketlere tahsis ettiğini bildirdi. Şirket, 2024’te yayımladığı açıklamada büyük bulut sağlayıcılarının uzun vadeli sözleşmelere öncelik verdiği bir ortamda girişimlerin kısa süreli ve esnek koşullarla işlem kapasitesi bulmasının zor olduğunu belirtmişti. Şirket, o dönemde altı aylık sözleşmeyle alınabilecek fiyat için üç yıllık sözleşme istenebileceğini açıklamıştı.

The Information, General Catalyst’in de yatırım yaptığı şirketler için veri merkezi kurmaya hazırlandığını bildirdi. Şirket, bu yıl mayıs ayında NVIDIA DGX Cloud işini yöneten bir ismi işe alarak AI altyapısı faaliyetlerinin başına getirdi.

ChainCatcher, küçük ölçekli VC şirketi Crucible Capital’in NVIDIA B300 GPU’lardan oluşan 576 birimlik kümeyi yatırım yaptığı şirketlerin testlerinde kullandığını ve işlem kapasitesinin bir bölümünü bir AI araştırma laboratuvarına sattığını bildirdi. Böylece GPU tedariki ve işletmesini ağırlıklı olarak üstlenen bulut sağlayıcıları ile veri merkezi işletmecilerinin yanı sıra VC şirketleri de bu altyapıya doğrudan katılıyor.

GPU’ları önceden güvenceye almak tedarik istikrarını artırabilir. Ancak talebin yanlış tahmin edilmesi maliyetleri yükseltebilir. Andreessen Horowitz de uzun vadeli sözleşmelerin girişimlerin ihtiyaç duyduklarından fazla harcama yapmasına yol açabileceğini belirtmişti. Görüşülen genişlemenin kapsamı ve tamamlanma takvimi açıklanmadı.