Nvidia’nın yapay zekâ ajanları için donanım ve firmware denetimi işbirliği planı

Eclypsium, Nvidia’nın yapay zekâ ajanı güvenlik platformuna donanım ve firmware denetimi eklemeye yönelik işbirliği planını açıkladı. Amaç, ajanların erişimini kontrol eden cihazların güvenilir durumda olup olmadığını da doğrulamak.

Eclypsium, 28 Eylül’de yayımladığı resmi blog yazısında altyapı denetim teknolojisinin Nvidia’nın Open Agent Safety Platform platformunu destekleyen donanım ve firmware’in bütünlüğünü kontrol edeceğini bildirdi. Nvidia da aynı gün platformu tanıtan bir açıklama yayımladı ancak Eclypsium’dan iş ortağı olarak söz etmedi.

Yapay zekâ ajanları hedeflerini yerine getirirken dosyaları okuyabilir, araçları çağırabilir veya kod çalıştırabilir. Nvidia’nın platformu, ajanların yapabileceklerini sınırlamak ve faaliyetlerini izlemek için bir yapı sunuyor.

OpenShell, ajanların çalışma ortamını yalıtan ve dosya, süreç, ağ ve araçlara erişimi denetleyen bir çalışma zamanı. Ajanların kullanabileceği kaynakları ve gerçekleştirebileceği eylemleri belirliyor.

Sentry ise ajan faaliyetlerini Nvidia’nın BlueField-4 veri işleme biriminde (DPU) izlemek ve politikaları uygulamak üzere tasarlanmış bir referans tasarım. Nvidia, ajan belirlenen sınırların dışına çıkmaya çalışırsa Sentry’nin onu yalıtacak şekilde tasarlandığını belirtti.

TokenPost daha önce Nvidia ile Anthropic’in Open Agent Safety Platform işbirliğini haberleştirmişti. Bu duyuruda ele alınan plan, güvenlik yapısına ajanların çalışmasını denetleyen cihazların durum kontrolünü de ekliyor.

Eclypsium, yapay zekâ sunucularını, DPU’ları, GPU’ları ve sunucu yönetim denetleyicilerini envantere alıp firmware bütünlüğünü, güvenlik açıklarını, hatalı yapılandırmaları ve yetkisiz değişiklikleri denetlediğini açıkladı. Denetim kapsamına, ajanların çalışmasını kısıtlamak veya izlemek için kullanılan cihazlar da giriyor.

Firmware, cihazların temel işleyişini kontrol eden yazılımdır. Denetlenmesi, kontrol cihazlarının beklenen durumda çalışıp çalışmadığını değerlendirmeye yardımcı olabilir.

İki şirketin anlattığı işlevler farklı katmanlarda yer alıyor. OpenShell ajanların erişim kapsamını belirliyor, Sentry’nin ayrı bir donanım alanında faaliyetleri izlemesi tasarlanıyor; Eclypsium ise bu kontrollerde kullanılan cihazların ve firmware’in durumunu doğruluyor.

Eclypsium, DPU ana bilgisayar yazılımından ayrı olarak politika uygulasa bile DPU firmware’inin değiştirilebileceğini ve bu nedenle bütünlüğünün ayrıca denetlenmesi gerektiğini belirtti. Bu açıklama gerçek bir ihlal vakasını duyurmuyor; donanım tabanlı kontroller tasarlanırken dikkate alınması gereken bir riske işaret ediyor.

Reddit’teki bir yapay zekâ topluluğu paylaşımı, ajanların dışında bağımsız bir güvenlik katmanı kurma yaklaşımını olumlu değerlendirdi. Ancak tek bir paylaşım, sektörün genel görüşünü yansıtmak için yeterli değil.

Bir güvenlik topluluğu paylaşımında, Nvidia’nın milisaniyeler içinde yalıtım açıklaması satır içi eBPF yöntemiyle engellemenin zamanlamasıyla karşılaştırıldı. Paylaşımda gecikme ve özel donanıma bağımlılık konusunda soru işaretleri dile getirildi. Bu da bireysel bir kullanıcının görüşü.

Desteklenen cihazların kapsamı kullanılan yapılandırmaya göre değişiyor. Nvidia, OpenShell’in Arm ve Intel gibi farklı işlem platformlarına genişletilebileceğini belirtti. Sentry’nin donanım izleme işlevi ise BlueField-4 DPU’yu temel alıyor.

Eclypsium, ürünlerin nasıl entegre edileceğine, uygulama takvimine, fiyatlandırmaya veya bağımsız performans testlerine ilişkin ayrıntı paylaşmadı. Nvidia’nın açıklamasında da Eclypsium teknolojisinin hangi kapsamda kullanılacağı belirtilmedi.