Yapay zekâda siber jailbreak için 5 aşamalı risk taslağı yayımlandı; görüşler 21 Aralık’a kadar alınacak

Frontier Model Forum (FMF), yapay zekâ sistemlerindeki siber jailbreak tekniklerini risk düzeyine göre beş aşamada sınıflandıran değerlendirme taslağının 1.0 sürümünü yayımladı. Taslak, yeniden üretilebilir tekil güvenlik önlemi aşma vakalarını kapsıyor.

FMF, 5’inde yayımladığı resmi açıklamada taslağın; geliştiriciler, güvenlik araştırmacıları ve politika yapıcıların jailbreak vakalarını karşılaştırması ve müdahale önceliklerini tartışması için ortak bir ölçüt oluşturmayı amaçladığını belirtti.

Değerlendirme, belirli bir öncü modelin belirli bir sürümündeki güvenlik önlemlerini yeniden üretilebilir biçimde aşan tekil vakalara uygulanıyor. Kapsama tek bir istemle gerçekleştirilen saldırıların yanı sıra birden fazla mesajlaşma adımı içeren süreçler ve otomasyon araçlarıyla yapılan girişimler de giriyor.

FMF, güvenlik önlemlerinin aşılmış olmasının her vakanın aynı düzeyde risk taşıdığı anlamına gelmediğini vurguladı. Taslak, kısıtlı yanıtlar elde etmeyi sağlayan tekniklerle tehlikeli siber yeteneklere daha geniş erişim sunan teknikleri birbirinden ayırmayı hedefliyor.

Değerlendirme dört ölçüte dayanıyor: yetenek artışı, yetenek kapsamı, uygulama kolaylığı ve tespit edilebilirlik. Yetenek artışı, yöntemin yaygın olarak kullanılabilen mevcut modellere kıyasla ne kadar güçlü siber yetenek sağladığını; yetenek kapsamı ise yöntemin kaç farklı görevde işe yaradığını ölçüyor.

Uygulama kolaylığı, jailbreak tekniğinin gerçek bir saldırıda kullanılabilmesi için gereken çabayı değerlendiriyor. Tespit edilebilirlik ölçütü ise tekniğin bulunmasının ne kadar kolay olduğuna bakıyor.

FMF, bu dört ölçütü birleştirerek vakaları “ihmal edilebilir”, “düşük”, “orta”, “yüksek” ve “kritik” olmak üzere beş risk seviyesine ayırdı. Yetenek artışı puanı 0 olan bir vaka, diğer ölçütlerde aldığı puanlardan bağımsız olarak “ihmal edilebilir” seviyesinde sınıflandırılıyor. Bu kural, yaygın araçların ötesinde yeni bir siber yetenek sağlamayan vakaları en düşük risk grubuna koyuyor.

Puanlama sabit ve mutlak bir ölçeğe dayanmıyor; değerlendirme anında yaygın olarak kullanılabilen modellerin siber yetenekleri esas alınıyor. FMF, ölçütlerin Ekim 2026 itibarıyla geçerli olan temelini de açıkladı.

Değerlendirme belgesinde ilk incelemelerde ExploitBench ve ExploitGym’den yararlanılabileceği belirtiliyor. Temel alınan modellerin yetenekleri değiştiğinde aynı jailbreak tekniğinin puanı da değişebilir. Belgeye göre iki kıyaslama aracının performans ölçümleri doygunluğa ulaşırsa araçların değiştirilmesi gerekebilir.

Taslak, vakaların göreli riskini karşılaştırıyor; gerçek dünyadaki zararın boyutunu tahmin etmiyor ve bir modelin genel güvenliğini değerlendirmek için kullanılmıyor.

FMF, 1.0 sürümünün hemen uygulanabilecek bir operasyon kılavuzu olmadığını da belirtti. Farklı değerlendiricilerin aynı vakaya benzer puanlar verip vermediği ve sınıflandırmanın anlamlı risk farklarını yansıtıp yansıtmadığı ek testlerle incelenecek.

Amazon Web Services (AWS) güvenlikten sorumlu başkan yardımcısı Hart Rossman, FMF’nin 5’inde yayımladığı açıklamada “Güvenlik önlemlerinin aşılması vakalarının ciddiyeti birbirinden farklı, ancak etkilerini değerlendirmek için üzerinde uzlaşılmış bir yöntem yoktu” dedi. Rossman’ın açıklaması, taslağın farklı jailbreak vakalarını ortak bir yöntemle değerlendirme hedefini öne çıkarıyor.

FMF belgesinde NIST CAISSI, NSA SISC, UK AISI ve UK NCSC uzmanlarının görüş bildirdiği yazıyor. Forum, bu katkının söz konusu kurumların taslağı resmen desteklediği anlamına gelmediğini özellikle belirtti.

Anthropic, geçen temmuz ayında “Cyber Jailbreak Severity” (Siber Jailbreak Ciddiyeti) adlı ayrı bir ön taslak yayımlamış; yetenek artışı, uygulama kapsamı, yürütme kolaylığı ve tespit edilebilirlik ölçütlerine dayalı 0–4 arası bir sınıflandırma önermişti. FMF taslağı da bu dört unsuru ele alıyor ancak puanları birleştirme yöntemi ve seviye sistemi farklı. TokenPost, Anthropic’in jailbreak saldırıları dahil 10 yapay zekâ güvenliği başarısızlığı türündeki iyileştirmeleri test ettiği vakayı daha önce haberleştirmişti.

FMF, değerlendiricilerin benzer seviyeler verip vermediğini ve sınıflandırmanın gerçek risk farklarını yansıtıp yansıtmadığını ek testlerle incelemeyi, ardından kamuoyundan gelen görüşleri değerlendirmeyi planlıyor. 1.0 sürümüne ilişkin görüşler 21 Aralık 2026’ya kadar alınacak.