CUDA 13.5, Vera Rubin desteğini GA aşamasına taşıdı

Nvidia (NVDA), CUDA Toolkit 13.5 ile Vera Rubin GPU mimarisi desteğini önizleme aşamasından genel kullanıma (GA) taşıdı. Güncelleme, birden fazla iş yükü GPU’yu paylaşırken hesaplama kaynaklarının bölünmesi ve yürütme sırasının ayarlanması için de yeni seçenekler sunuyor.

Nvidia, CUDA 13.5’teki değişiklikleri 4’ünde teknik blogunda açıkladı. GA aşamasına geçiş, CUDA’nın Vera Rubin mimarisini artık resmen desteklediği anlamına geliyor; Vera Rubin ürün ailesinin tamamının piyasaya çıktığı anlamına gelmiyor.

Nvidia, eylülde yayımladığı CUDA 13.4 sürümünde Vera Rubin desteğini önizleme olarak sunmuş, MPS v3 ve Locality Domain erişim özelliklerini tanıtmıştı. 13.5 sürümü, bu altyapıya kaynak dağıtımı ve zamanlama seçenekleri ekliyor.

Locality Domain, GPU içindeki hesaplama kaynakları olan SM’lerin (Streaming Multiprocessor) ve belleğin konumunu dikkate alarak işleri yerleştiren bir özellik. İş yükleri bölünürken her parçanın oluşturulmasında kaynakların konumu hesaba katılabiliyor.

Varsayılan ayar, her alana eşit sayıda SM atıyor ve artan SM’leri bölümlemenin dışında bırakıyor. Ek SM’leri de kullanma seçeneği cihaz kaynaklarından daha fazla yararlanmayı sağlıyor; ancak alanlara ayrılan SM sayıları farklılaşabiliyor. Geliştiriciler, cudaDevSmResourceSplit() işlevinin keşif modunu kullanarak her bölümdeki SM sayısını görebiliyor.

Birden fazla sürecin GPU’yu paylaştığı MPS (Multi-Process Service), sunucu başına temel zaman dilimi ve ölçek katsayısı belirleyerek GPU hesaplama süresinin ayarlanmasına imkân veriyor. Böylece iş yükleri arasında yürütme süresinin nasıl bölüneceği yapılandırılabiliyor.

Bağlı istemcisi olmayan bir bölümdeki SM’ler başka işlere ödünç verilebiliyor. MPS, kaynakları yeniden dağıtmadan önce ödünç verilen SM’leri geri alıyor.

Güncelleme, cgroup v2 ile gruplandırılan işlerin MPS ad alanlarına bağlanarak kaynak politikalarının uygulanmasını da sağlıyor. Ad alanı başına SM bölümü tanımlandığında aynı ayar o gruptaki tüm işlere uygulanabiliyor.

Bu sayede her iş için bölümleme ortam değişkenlerini ayrı ayrı tanımlamak gerekmiyor. Bellek kullanımı bildirimleri yoksa veya kararsız çalışıyorsa MPS, kaynakları geri alıp almayacağına karar vermek için kullanımı ve sınırları doğrudan sorgulayabiliyor.

CUDA Graphs içinde birden fazla tek boyutlu bellek kopyalama işi birlikte yakalanıp yeniden çalıştırılabiliyor. İş grubunun yapısı korunduğu sürece kopyalama adresleri ve boyutları da değiştirilebiliyor.

Windows on Arm için CUDA desteği 13.4 sürümünde resmen sunulmuştu. 13.5 ile destek kapsamı DGX Station for Windows’a genişletildi.

Vera Rubin, Windows sürücü modeli olarak WDDM ve MCDM’yi destekliyor; TCC desteği sunmuyor. Mevcut TCC yapılandırmalarına bağlı dağıtım araçlarının desteklenen sürücü modellerini kullanması gerekiyor.

CUDA 13.5 sürüm notlarında bu sürüm için R620 sürücü serisi belirtiliyor. Mevcut CUDA 13.x uygulamaları, küçük sürüm uyumluluğu kapsamında 580 veya üzeri sürücülerde çalışabiliyor. Ancak 13.5’in yeni özellikleri ve yeni platformları için bunları destekleyen R620 veya üzeri sürücüler gerekiyor.

Bu duyuru, Vera Rubin altyapısının bulut üzerinden kullanılabilirliğine ilişkin TokenPost haberinden ayrı olarak CUDA’nın mimari destek aşamasındaki ve GPU kaynak yönetimindeki güncellemeleri ele alıyor.