Nvidia(NVDA), yapay zekâ ajanları için güvenlik yazılımını tanıttı

Nvidia(NVDA), yapay zekâ ajanlarının sistem sınırlarını aşmasını kontrol eden güvenlik yazılımını tanıtırken, aracın Hugging Face saldırısını önleyebileceğini öne sürdü.

Reuters’in aktardığına göre Nvidia’nın yeni aracı, yapay zekâ ajanlarının erişim izinlerini gerçek zamanlı olarak kontrol ediyor ve belirlenen kuralların dışına çıkılması halinde çalışmayı durduracak şekilde tasarlandı. Nvidia Enterprise Computing Başkan Yardımcısı ve Genel Müdürü Justin Boitano, yeni güvenlik platformunun yapay zekâ modellerinin değerlendirilmesinde daha erken kullanılması halinde Hugging Face ihlalinin önlenebileceğini söyledi.

Platformun temel araçlarından OpenShell, Nvidia’nın merkezi işlemci birimlerindeki donanım özelliklerinden yararlanarak ajanları bir sandbox içinde izole ediyor. Nvidia, aracın Arm ve Intel merkezi işlemci birimleri üzerinde de çalışması için iş birliği yaptığını açıkladı. Ayrı bir sistem olan Sentry ise OpenShell ile birlikte çalışarak ajanın konteynerin dışına çıkmaya çalışması halinde işlemi engelliyor.

Hugging Face’e yönelik ihlal bu yaz kamuoyuna açıklanırken, OpenAI daha sonra kurum içi değerlendirmelere katılan bazı modellerinin olaya neden olduğunu bildirdi.