AMD(AMD), Taalas'ı Bünyesine Kattı: Çıkarım Çipinde Yeni Hamle

Yapay zeka çip devi AMD(AMD), çıkarım (inference) alanında rakibi Nvidia(NVDA) karşısında konumunu güçlendirmek için Kanadalı yapay zeka çıkarım çipi girişimi Taalas'ı satın aldı. Adım, eğitilmiş modellerin gerçek hizmetlerde yanıt üretirken harcadığı işlem süresini ve maliyeti düşürmeyi hedefliyor.

AMD, Taalas satın alımına ilişkin nihai anlaşmayı 6 Ağustos'ta imzaladığını duyurdu. Şirket satın alma bedelini açıklamadı; işlemin tamamlanması ise olağan kapanış koşulları ve düzenleyici onaylara bağlı.

Taalas, 2023 yılında kurulan Toronto merkezli bir şirket. AMD, Taalas teknolojisinin yapay zeka çıkarım veri akışını optimize ederek genel amaçlı mimarilerde görülen işlem gücü ve bellek darboğazlarını azalttığını belirtiyor.

Çıkarım, önceden eğitilmiş bir yapay zeka modelinin kullanıcı taleplerine yanıt verdiği veya tahmin ürettiği aşamayı ifade ediyor. Üretken yapay zeka hizmetleri laboratuvar ortamındaki model yarışından gerçek hizmet operasyonuna kaydıkça gecikme süresi, enerji verimliliği ve kullanıcı başına işlem maliyeti giderek daha kritik hale geliyor.

AMD, Taalas teknolojisini Helios rack ölçekli çözümü, Instinct GPU'ları, EPYC işlemcileri ve ROCm yazılımıyla birleştirerek hızlandırıcı yol haritasını ve sistem düzeyindeki çözümlerini güçlendireceğini açıkladı. Daha önce ZT Systems ve MK1 satın alımlarını duyuran şirket için bu hamle, yapay zeka altyapısındaki genişleme stratejisinin bir devamı niteliğinde.

Taalas'ın ürün sayfasında, HC1 teknoloji tanıtım çipinin Llama 3.1 8B modelinde kullanıcı başına saniyede 17 bin token işlediği belirtiliyor. Bu rakam şirketin kendi ölçümüne dayanıyor; aynı kaynakta Nvidia H200 referans değeri ile Taalas'ın kendi ölçüm sonuçları birlikte sunuluyor.

Teknolojinin öne çıkan yanı, belirli bir modele özel tasarlanmış olması. Taalas, resmi blog yazısında HC1'in Llama 3.1 8B'yi donanıma sabitleyen bir yapı olduğunu açıklıyor. Ancak şirket aynı zamanda bağlam penceresi ayarını ve LoRA ince ayarını da desteklediğini belirtiyor; bu nedenle çipi tamamen tek bir modele özgü olarak tanımlamak, şirketin kendi açıklamalarından daha iddialı bir yorum olur.

LoRA, mevcut bir yapay zeka modelinin tamamını yeniden eğitmek yerine yalnızca belirli ayar değerlerini değiştirerek modeli belirli bir göreve uyarlayan bir ince ayar yöntemi. Modele özel çipin bu işlevi kısmen desteklemesi kullanım alanını genişletici bir unsur olsa da, genel amaçlı GPU'ların çok sayıda modeli ve iş yükünü geniş kapsamda işleyebilmesiyle aynı düzeyde değil.

Şirketin fon toplama geçmişi de dikkat çekiyor. Reuters, Taalas'ın Şubat ayında 169 milyon dolar fon topladığını, toplam fon toplama tutarının ise 219 milyon dolara ulaştığını aktardı. Reuters ayrıca satın alma duyurusunun ardından AMD hisselerinin yüzde 1,5 yükseldiğini bildirdi.

Piyasa yapısı göz önüne alındığında çıkarım çipi rekabeti yalnızca performans yarışından ibaret değil. Bulut sağlayıcıları ve yapay zeka hizmet şirketleri çip fiyatının yanı sıra rack düzeyinde yerleşim, enerji, soğutma, yazılım uyumluluğu ve uzun vadeli bakım maliyetini birlikte değerlendiriyor.

Tartışmalı nokta ise finansal değerleme. Yapay zeka altyapısı çip, sunucu, veri merkezi ve enerji bağlantısını bir arada gerektirdiği için büyük ölçekli sermaye ihtiyacı doğuruyor. Chicago Booth Review'a göre yapay zeka altyapısı proje finansmanı, ekipman teminatlı krediler, kiralama ve varlığa dayalı menkul kıymetleştirme yöntemleriyle fonlanıyor; GPU teminatlı krediler de mevcut.

KBRA, 27 Temmuz'da yayımladığı araştırmada yapay zeka bilgi işlem altyapısının kredi notu değerlendirmesinde nakit akışı sürekliliği, yeniden kiralanabilirlik, kalıntı değer ve yeniden finansman riskini temel değişkenler olarak sıraladı. Bu kriterler Taalas tarzı modele özel çiplere uygulandığında avantaj ve dezavantajlar bir arada ortaya çıkıyor.

Belirli iş yüklerinde maliyet ve hız avantajı sağlanabilirken, genel amaçlı GPU'lara kıyasla yeniden satış ve yeniden konumlandırma daha zor olabiliyor. Bu durum, teminat değerlemesi ve kiralama yapıları açısından ek bir yük anlamına gelebiliyor.

Nvidia, 11 Ağustos'ta Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs ve KKR ile birlikte yapay zeka altyapısı için 500 milyar doların üzerinde sermaye seferber edecek bir platform kurma planını duyurdu. Nvidia bu açıklamada yeniden konumlandırılabilirlik ve kalıntı değeri, yapay zeka bilgi işlem varlıklarının temel özellikleri arasında saydı.

AMD'nin Taalas satın alımı, düşük maliyetli çıkarım çipini öne çıkaran bir teknoloji rekabetini yansıtıyor. Aynı zamanda yapay zeka donanımının finans piyasalarında nasıl bir varlık olarak değerlendirileceği sorusunu da gündeme getiriyor. AMD, işlem bedelini ve somut ürün uygulama takvimini şimdilik açıklamamış durumda.