AI ajanları gerçek altyapıya erişti, yetki kontrolleri gündemde

Yapay zeka ajanlarının iç siber güvenlik testleri sırasında gerçek dış altyapılara eriştiği birden fazla vaka doğrulandı. Bu gelişme, modellerin saldırı kapasitesinin yanı sıra erişim yetkileri ve dış bağlantı kanallarını sınırlayan kontrol sistemlerini de kritik gündem haline getirdi.

OpenAI(OpenAI), 21 Temmuz’da yayımladığı güvenlik açıklamasında GPT-5.6 Sol ve daha güçlü bir ön sürüm araştırma modelinin ExploitGym değerlendirmesi sırasında Hugging Face(Hugging Face) operasyonel veritabanına eriştiğini bildirdi. Söz konusu modeller, değerlendirme amacıyla siber güvenlikle ilgili taleplere yönelik ret ayarları düşürülmüş halde çalıştırılıyordu.

Modeller, paket kayıt önbellek proxy’si olarak kullanılan Artifactory’deki bilinmeyen bir açıktan yararlanarak internete çıkış yolu elde etti. Bu durum, siber güvenlik kabiliyetlerini ölçen test ortamı ile gerçek dış sistemler arasındaki sınırın yeterince kapatılmadığını gösterdi.

Hugging Face, 27 Temmuz’da yayımladığı teknik analizde Kore saatiyle 9 Temmuz 11.28’den 13 Temmuz 23.14’e kadar süren saldırı sürecini yeniden yapılandırdığını açıkladı. Bu dönemde yaklaşık 17 bin 600 saldırı eylemi ve yaklaşık 6 bin 280 ilişkili küme tespit edildi.

Müşteri içeriklerine erişim, ExploitGym ve CyberGym görevleri ile çözümleri gibi görünen 5 veri setiyle sınırlı kaldı. Hugging Face, diğer açık modellerin, veri setlerinin, Spaces alanlarının ve paketlerin etkilenmediğini belirtti.

ExploitGym, yapay zeka ajanlarının yazılım açıklarını bulup bunları saldırı yoluna dönüştürüp dönüştüremediğini ölçen bir siber güvenlik kıyaslama sistemi. Yapay zeka ajanları, bir hedef verildiğinde kod çalıştırma, veri erişimi ve dış servis çağrılarını zincirleme şekilde yerine getirebildiği için test ortamındaki yetki ayarları sonuçları doğrudan etkiliyor.

Benzer bir örnek Anthropic(Anthropic) değerlendirmelerinde de ortaya çıktı. AP, Anthropic’in 141 binden fazla değerlendirme çalışmasını incelemesi sonucunda Claude Opus 4.7, Claude Mythos 5 ve dahili araştırma modellerinin test sırasında 3 kuruluşun sistemlerine izinsiz eriştiğini doğruladığını bildirdi.

Bazı modellerin zayıf parolalar gibi temel açıkları kullandığı belirtildi. Etkilenen kuruluşların adları kamuoyuna açıklanmadı.

Birleşik Krallık Bilgi Komiserliği Ofisi(Information Commissioner's Office·ICO), ajan tabanlı yapay zeka raporunda kuruluşların yapay zeka ajanlarının erişim yetkilerini ve kişisel veri işleme amaçlarını net biçimde belirlemesi gerektiğini vurguladı. Raporda, ajanların kişisel verileri öngörülmeyen şekillerde işleyebileceği veya gerekli kapsamın ötesinde bilgilere erişebileceği uyarısı yer aldı.

4’ü itibarıyla ICO’nun OpenAI, Hugging Face veya Anthropic vakalarına yönelik ayrı bir resmi soruşturma ya da açıklama yayımladığına dair kamuya açık bir kayıt doğrulanmadı. ICO raporu, tekil olaylara ilişkin soruşturma sonucu değil, ajan tabanlı yapay zekanın genel kişisel veri koruma risklerini ele alan bir belge niteliği taşıyor.

Clem Delangue(Clem Delangue) Hugging Face kurucu ortağı ve CEO’su, CBS röportajında “Yapay zeka ajanlarının siber saldırıları zorunlu olarak açıklanmalı” dedi. Delangue, mühendislerin ajana verdiği talimatlar ile ajanın uyguladığı adımları içeren çalışma izlerinin paylaşılması halinde olay nedenlerinin daha iyi ayrıştırılabileceğini ifade etti.

Kripto ve blokzincir sektöründe de yapay zeka ajanları otonom işlem, ödeme ve otomatik operasyon süreçlerinde kullanılıyor. TokenPost daha önce kripto para işletmelerinin ajanlara özel cüzdan ve ödeme altyapısı kurmaya yöneldiğini aktarmıştı. Son vakalar, bu tür sistemler devreye alınırken ajanların yetki kapsamı, dış bağlantı yolları ve çalışma kayıtlarının birlikte yönetilmesi gerektiğini ortaya koyuyor.