Kimi K3 siber saldırı testinde ABD modellerinin gerisinde kaldı

ABD Ticaret Bakanlığına bağlı Yapay Zeka Standartları ve İnovasyon Merkezi ile Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü, Çinli yapay zeka modeli Kimi K3’ün siber saldırı kapasitesini inceledi; model, zafiyet istismarı testinde yaklaşık %32 ile GLM-5.2’nin %24’ünü geçti ancak ABD’nin öncü modellerinin yaklaşık %76’lık ortalamasının gerisinde kaldı.

Odaily’ye göre değerlendirme, barındırma ortamındaki kısıtlar nedeniyle Kimi K3’ün tüm ağ kabiliyetlerini doğrudan ölçmek yerine ağırlıklı olarak 41 zafiyet istismarı kıyas testine dayandı. Raporda, diğer modellerin daha geniş bir test setinden geçirildiği, bu nedenle Kimi K3 sonuçlarının hata payının daha yüksek olduğu belirtildi.

Simüle edilmiş saldırı zinciri testinde Kimi K3, 32 adımın ortalama 17’sini tamamladı. Model, 10 denemenin 1’inde ağa sızmayı başardı. ABD merkezli öncü yapay zeka modelleri ise aynı ölçümde ortalama 28,5 adım gerçekleştirdi.

Rapor, Kimi K3’ün belirli düzeyde ‘otonom saldırı’ becerisi gösterdiğini ve güvenlik önlemlerinin zafiyet geliştirme ya da saldırı yürütme süreçlerini engellemekte yeterli olmadığını ortaya koydu. Buna karşın test kapsamının sınırlı olması, model karşılaştırmalarının doğrudan genellenmesini zorlaştırıyor.

Bu sonuçlar, yapay zeka modellerinin siber güvenlik alanındaki çift kullanımlı risklerine yönelik tartışmayı yeniden gündeme taşıdı. Bundan sonra kurumların daha geniş kapsamlı testlerle Kimi K3 ve benzeri modellerin ağ içi davranışlarını nasıl ölçüleceği yakından izlenecek.