Runware, 20 fit konteyner tipi yapay zeka çıkarım cihazı Sonic Inference Pod'u tanıttı ve modüler veri merkezlerini 3 hafta içinde kurma hedefini açıkladı.
Şirket, resmi ürün sayfasında tek bir podun 1MW seviyesinde yapay zeka çıkarım hesaplama gücü sağlayacak şekilde tasarlandığını belirtti. Hedef, mevcut veri merkezlerine kıyasla kurulum hızını 50 kat artırmak, sermaye harcamalarını (CAPEX) ve işletme giderlerini (OPEX) yüzde 80 düşürmek. Bu altyapı büyük ölçekli model eğitiminden çok, kullanıcı taleplerine anında yanıt veren yapay zeka çıkarım işlemlerine odaklanıyor.
Podun içinde sunucu, depolama, ağ ve soğutma sistemleri tek çatı altında birleştiriliyor. Runware, istekleri uygun pod ve düğümlere yönlendiren yazılımı da kendisi işletiyor. 400 binden fazla modeli destekleyen 'Model Lake' adlı sistem ve 1 saniyenin altında kalan soğuk başlatma (cold start) süresi öne çıkan özellikler arasında sayılıyor. Uzun bağlamlı çıkarım için depolama katmanı ve enerji verimliliği artışının yapay zeka altyapısında öne çıkan sorunlar haline geldiği bir dönemde, hesaplama cihazlarını talebin yoğun olduğu bölgelere yakın konumlandırma girişimi olarak dikkat çekiyor.
Runware, 29 Ocak'ta resmi blogunda 50 milyon dolarlık A serisi yatırım turunu duyurdu. Yatırım turuna Dawn Capital liderlik etti; Comcast Ventures, Speedinvest, Insight Partners ve Andreessen Horowitz Speedrun katıldı. Şirket, 2023'te kurulduğundan bu yana 200 binden fazla geliştirici ve 300 milyondan fazla son kullanıcıya ulaştığını, 10 milyardan fazla üretim işlemi gerçekleştirdiğini belirtti.
Yapay zeka veri merkezleri ve enerji talebi, Bitcoin(BTC) madenciliği altyapısındaki dönüşümle de kesişiyor. Ancak Sonic Inference Pod'un kripto para madenciliğinde veya blok zinciri ağlarında doğrudan kullanılacağına dair bir bilgi paylaşılmadı.
3 haftalık kurulum hedefi, 1MW seviyesindeki performans ve maliyet düşürme oranları Runware'in kendi belirlediği ürün hedefleri. Gerçek kurulum bölgeleri, enerji tedarik koşulları, GPU yapılandırması ve müşteriye özel gecikme sürelerini gösteren bağımsız karşılaştırmalı testler için ek doğrulama gerekiyor.
Yorum 0