NVIDIA(NVDA) 4 NVL72 Kubernetes reçetesi yayımladı; güncel doğrulama kanıtı yalnızca 1'inde

NVIDIA(NVDA), AI Cluster Runtime (AICR) kullanarak Vera Rubin NVL72 için dört Kubernetes yapılandırma reçetesi yayımladı. Reçeteler, fiziksel sunucularda çalışan bare-metal RKE2 kümelerini kapsıyor.

NVIDIA'nın resmi yapılandırma belgelerinde genel eğitim, Kubeflow Trainer ile eğitim, genel çıkarım ve Dynamo çıkarım yolları yer alıyor. Dört yolun tamamı gerçek Vera Rubin NVL72 rack sistemlerini hedefliyor.

Reçeteler önizleme aşamasında. Bulut sağlayıcılarının yönettiği Kubernetes ortamları kapsam dışında.

Dört yolun tümü için doğrulama kanıtı yayımlanmış olsa da mevcut reçeteyle eşleşen kanıt yalnızca Kubeflow Trainer eğitim yolunda bulunuyor. Bu kanıt, güncel yapılandırma üzerinde üç aşamalı doğrulamanın ardından yayımlandı.

Genel eğitim, genel çıkarım ve Dynamo çıkarım yollarına ait kanıtlar önceki reçetelere dayanıyor. Bu nedenle mevcut yapılandırmanın doğrulandığını göstermiyor.

NVIDIA, geliştirme belgesinde önizleme sürümünün resmî destek için gereken kapsamlı operasyonel desteği ve yaşam döngüsü doğrulamasını içermediğini belirtiyor. Bu aşama, yükseltmeler ve genel operasyonlar için destek taahhüdü sunan resmî işletim sürümünden ayrı tutuluyor.

AICR, mevcut kümenin işletim sistemi, çekirdek ve GPU durumunun anlık görüntüsünü alıyor. Bu verilerle bileşen sürümlerini sabitleyen reçeteler ve dağıtım paketleri oluşturuyor, ardından kurulum ortamının reçete koşullarını karşılayıp karşılamadığını denetliyor.

Dağıtım paketleri Helm, Argo CD, Flux ve Helmfile gibi mevcut araçlarla uygulanıyor. AICR yeni bir küme kurmuyor veya fiziksel sunucuları yönetmiyor.

NVIDIA, 6 Ekim'de AICR v1.0'ı yayımlarken komut satırı aracı, REST API, Go SDK ve dağıtım paketleri için uyumluluk kurallarını duyurdu. Önizleme reçeteleri, bu çalışma zamanını Vera Rubin rack sistemlerindeki belirli bir yapılandırmayı kurup doğrulamak için kullanıyor.

TokenPost daha önce AICR ile Dynamo dağıtımı ve doğrulama sürecini ele aldı. O haberdeki Amazon EKS reçetesi GB200 ve GB300 NVL72 sistemlerini kapsıyordu; yeni yönerge ise Vera Rubin NVL72 için bare-metal RKE2 ortamıyla sınırlı.

Dört yolun ortak ön koşulları Ubuntu 26.04 ve Vera'ya uyarlanmış 64K sayfalı bir çekirdek. GPU düğümlerinin çekirdek ayarları değiştirilirken düğümler yeniden başlatılıyor.

Ana sistemde çalışan nvidia-imex hizmeti de devre dışı bırakılmalı ve yeniden başlatılması engellenmeli. Bare-metal düğümlerin kurtarılması ve BMC (anakart yönetim denetleyicisi) müdahalesi operatörün sorumluluğunda.

Sürüm koşulları eğitim ve çıkarım yollarına göre değişiyor. Eğitim için Kubernetes 1.34.1 veya üzeri gerekiyor.

Gateway API yapılandırmasındaki çakışma nedeniyle çıkarım yolları Kubernetes 1.36.0'dan eski bir sürüm istiyor. Çıkarım için ayrıca bare-metal ortamda çalışabilen bir yük dengeleyici gerekiyor.

Otomatik donanım tanımlamanın da sınırları var. AICR şu anda VR200'ü otomatik tanımlayamıyor; bu nedenle anlık görüntüde hızlandırıcı türü any olarak kaydedilebilir. Reçete oluşturulurken operatörün --accelerator vr200 seçeneğini belirtmesi gerekiyor.