GLM-5.3, 410 siber istismar denemesinin 50'sinde başarılı oldu

Zhipu AI'ın açık ağırlıklı modeli GLM-5.3'ün birden fazla güvenlik açığını birleştirerek uçtan uca siber istismar geliştirebildiği tespit edildi. Anthropic, 29 Eylül'de yayımladığı araştırmada GLM-5.3'ün saldırılarda kötüye kullanılabilecek düzeyde siber yeteneklere sahip olduğunu açıkladı.

Anthropic, izole bir test ortamında GLM-5.3'ün tarayıcı bileşenlerindeki birden fazla bilinmeyen güvenlik açığını bulup birleştirdiğini ve ziyaretçilerin bilgisayarlarındaki dosyaları okuyabilen bir istismar geliştirdiğini belirtti. Bilinen güvenlik açıklarını saldırı koduna dönüştürme becerisini ölçen ExploitBench testinde model, 410 denemenin 50'sinde başarılı oldu.

Güvenlik önlemlerini aşma testinde model, zararlı talepleri savunma amaçlı görevler gibi gösteren bir yöntem kullanıldığında taleplerin yüzde 64'üne yanıt verdi. Düşünce süreci önceden girildiğinde bu oran yüzde 92'ye, güvenlik önlemleri kaldırılmış değiştirilmiş modelde ise yüzde 100'e çıktı.

ABD Ulusal Standartlar ve Teknoloji Enstitüsü'nün (NIST) Yapay Zekâ Standartları ve İnovasyon Merkezi (CAISI), 17 Eylül'de GLM-5.3'ü bugüne kadar kamuya açık en güçlü açık ağırlıklı siber yeteneklere sahip model olarak değerlendirdi. Merkez, modelin ABD'nin öncü modellerinin yaklaşık dört ay gerisinde olduğunu analiz etti.