120 kuruluş katıldı: Nvidia(NVDA) öncülüğünde açık AI güvenlik ittifakı kuruldu

Nvidia(NVDA) öncülüğündeki Open Secure AI Alliance (OSAA), kuruluşundan yaklaşık bir hafta sonra katılımcı sayısını 120'ye yakın seviyeye çıkardı. İttifakın amacı, yapay zeka ajanlarını güvenlik operasyonlarında kullanırken savunma tarafının bu araçları doğrudan doğrulayıp kontrol edebileceği açık kaynaklı çözümler geliştirmek.

Nvidia, 27 Temmuz'da (yerel saatle) resmi blogunda OSAA'nın kuruluşunu duyurarak amacın "savunmacıların güvenip kontrol edebileceği açık uçtaki (frontier) araçlara erişim sağlamak" olduğunu belirtti. Açıklanan üye listesinde Adobe, Amazon(AMZN), Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Intel, Linux Foundation, Microsoft(MSFT), Naver, Palantir, Red Hat, SK Telecom ve Visa gibi isimler yer alıyor.

OSAA, Linux Foundation'ın Akrites girişimi ile OpenSSF topluluğunun çalışmalarını temel alıyor. Nvidia, yapay zeka güvenliğini yalnızca model ağırlıklarının açık olup olmamasıyla sınırlamıyor; kimlik doğrulama ve yetkilendirmeden çalıştırma altyapısına, koruma mekanizmalarından günlük kayıtlarına ve değerlendirme sistemlerine kadar tüm 'ajan yığınını' kapsayan bir sorun olarak tanımlıyor.

Nvidia aynı blog yazısında Hugging Face'in yaşadığı bir güvenlik olayını, açık kaynaklı AI araçlarına neden ihtiyaç duyulduğunu gösteren örnek olarak sundu. Hugging Face, kapalı kaynaklı bir AI aracıyla adli analiz yaparken bazı istekleri engellenince kendi altyapısında açık ağırlıklı GLM-5.2 modelini çalıştırarak 17 binden fazla eylemi inceledi. Nvidia bu vakayı, güvenlik ekiplerinin doğrudan denetleyip değiştirebileceği açık AI araçlarının neden gerekli olduğuna dair somut bir örnek olarak öne çıkardı.

Üye kuruluşlar somut güvenlik araçları da paylaştı. Nvidia, yapay zeka ajanlarının davranışlarını test eden, izleyen ve denetleyen NOOA'yı tanıttı; Microsoft(MSFT) ise güvenlik açıklarını tarayan çok modelli tarama sistemi MDASH'i sundu. Hugging Face, model ağırlıklarını saklamak için kullanılan Safetensors formatını PyTorch Foundation'a devretti; IBM ve Red Hat ise açık kaynak tedarik zinciri güvenliği için Lightwell aracını duyurdu.

OpenAI, Anthropic ve Google, Nvidia'nın açıkladığı üye listesinde yer almadı. Wired, bu durumu açık kaynaklı AI güvenliği kampı ile kapalı uçtaki (frontier) model geliştiren şirketler arasındaki gerilimin bir yansıması olarak yorumladı. Ancak bu şirketlerin listeye neden dahil olmadığı ve ileride katılıp katılmayacakları henüz belli değil.

OSAA listesinde donanım cüzdanı üreticisi Ledger ile NEAR AI de bulunuyor. Yapay zeka ajanlarının yetki kontrolü ve tedarik zinciri açıklarına karşı geliştirilen çözümler akıllı kontratlar, cüzdanlar ve işlem altyapısı güvenliğine de uyarlanabilir; ancak ittifak henüz blok zinciri güvenliğine veya kripto para olaylarına yönelik özel bir standart ya da müdahale prosedürü açıklamadı.

TokenPost daha önce OSAA'nın, AI güvenlik olaylarını ortaklaşa analiz edip paylaşmayı öngören SAFE kılavuzunu önerdiğini aktarmıştı. İttifakın başarısı, NOOA, MDASH, Safetensors ve Lightwell gibi açık araçların sahadaki güvenlik ekipleri tarafından olay analizi, açık bildirimi ve yetki kontrolü süreçlerinde gerçekten benimsenip benimsenmeyeceğine bağlı.