Nvidia, H100 GKE tariflerine yapay zekâ iş yükü envanterini ekledi

Nvidia (NVDA), GPU tabanlı Kubernetes ortamlarında yapılandırmayı doğrulamak için kullanılan araca yapay zekâ iş yüklerini kaydeden açık kaynaklı k8s-aibom aracını entegre etti. Örnek sürüm eşleşmesi AICR 1.2.0 ve k8s-aibom 1.6.2'den oluşuyor.

Nvidia, entegrasyon ayrıntılarını teknik blogunda ayın 11'inde paylaştı. Özellik, küme yapılandırmasını yöneten AICR tariflerine yapay zekâ iş yükü envanteri ekliyor.

AICR; sürücü ve ağ gibi platform bileşenlerinin sürümlerini ve durumlarını yönetiyor. k8s-aibom ise bu ortamda desteklenen yapay zekâ iş yüklerini bulup hangi modellerin ve çıkarım yazılımlarının dağıtıldığını listeliyor.

Yapay zekâ iş yükü envanteri özelliği, H100 GPU kullanan GKE çıkarım tariflerinde ve bunlardan türetilen Dynamo tariflerinde varsayılan olarak yer alıyor. Diğer GKE tariflerine oluşturma sırasında isteğe bağlı olarak eklenebiliyor; AICR'nin tüm tariflerine otomatik uygulanmıyor.

Envanterde algılanan modeller, çıkarım çalışma ortamları, ajanlar, arama destekli üretim (RAG) bileşenleri ve bunlarla ilgili özellikler yer alıyor. Operatörler, iş yükünü oluşturan bileşenleri ve her bir özelliğin hangi kaynaktan belirlendiğini inceleyebiliyor.

k8s-aibom, bilgileri CycloneDX 1.6 biçiminde bir makine öğrenimi bileşen listesine (ML-BOM) dönüştürüyor. Her özellik için değerin belirlendiği konum ve güven düzeyi de kaydediliyor.

Güven düzeyleri; yapılandırmada belirtilen (declared), aracın çıkarsadığı (inferred), doğrulanamayan (unresolved) ve ayarlanan güven ölçütlerine göre imzası doğrulanan model beyanı (verified) olarak ayrılıyor. Böylece operatörler yapılandırmadan gelen bilgileri, aracın algıladığı veya çıkarsadığı bilgilerden ayırabiliyor.

Google Cloud, k8s-aibom'u 13 Temmuz 2026'da duyurdu. Açık kaynaklı denetleyici, Kubernetes kümelerinde yapay zekâ çalışma ortamlarını bulup makine öğrenimi bileşen listesi oluşturuyor.

TokenPost daha önce GPU kümesi bileşenlerinin sürüm ve durumlarını yöneten AICR işletim sürecini ele almıştı. Yeni entegrasyon, platform yapılandırmasının yanı sıra bu platformda çalışan yapay zekâ iş yüklerinin bileşen bilgilerini de kaydediyor.

Envanter, yöneticinin seçtiği ad alanlarındaki desteklenen iş yüklerinde tanınabilir yapay zekâ sinyalleri bulunduğunda oluşturuluyor. Desteklenen iş yükü veya sinyal yoksa ilgili iş yükü listede görünmeyebilir.

Ad alanı seçimi, envanter oluşturulacak iş yüklerini belirliyor ancak denetleyicinin okuma kapsamını bu ad alanlarıyla sınırlamıyor. Denetleyici, küme genelindeki iş yüklerini ve pod tanımlarını okuyabiliyor.

Envanter, pod çalışmaya başlamadan önce oluşturulabiliyor. Durum Ready=True olarak görünse bile imaj indirme işlemi tamamlanmamış olabilir. Bu nedenle yalnızca envanterin oluşturulması veya hazır durumunun görülmesi, iş yükünün başarıyla çalıştığını göstermiyor.

Proje deposunda bu envanterin mevzuata uyumu belgelemediği belirtiliyor. Yapay zekâ iş yükü envanteri yapılandırma bilgilerini kaydetmeye yarıyor; düzenleyici gerekliliklerin karşılandığını onaylayan bir sertifika niteliği taşımıyor.

Çalışma zamanında gözlemlenen AIBOM bilgileri imzalanmıyor. Nvidia ayrıca AICR'deki model imzası doğrulamasının varsayılan olarak devre dışı olduğunu belirtiyor.

Nvidia'nın paylaştığı kaynak kullanımı testi k8s-aibom 1.6.1 sürümünü kapsıyor. CPU'nun kullanıldığı bir düğümde iş yükü podları beklemede tutularak 15 dakika boyunca yapılan gözlemde API sunucusuna dakikada yaklaşık 4 istek gönderildi. Denetleyicinin ortalama CPU kullanımı 2,2 millicore, bellek kullanımı ise 28–34 MiB oldu. Test, canlı hizmet kapasitesini veya GPU kümesinin genel performansını ölçmedi.