Cisco, yapay zekâ ajanı davranışlarındaki riskleri belirlemeye yönelik Project Quarry’yi duyurdu

Cisco($CSCO), yapay zekâ ajanlarının tek bir oturum boyunca gerçekleştirdiği eylemleri ilişkilendirerek risk işaretlerini arayan açık kaynaklı Project Quarry aracını duyurdu. Araç, dosya erişimi veya dış bağlantı gibi eylemleri ayrı ayrı değerlendirmek yerine bunların birbirini izleyişini inceliyor.

Bu yaklaşım, The Register’ın 28 Ekim tarihli röportajında tanıtıldı. Cisco’nun yapay zekâ tehditleri ve güvenliği araştırma sorumlusu Amy Chang, “Quarry, ajan oturumunun tamamını dikkate alıyor” dedi. Burada oturum, ajanın bir görevi yerine getirirken oluşturduğu konuşma ve araç kullanım kayıtlarını ifade ediyor.

Oturum analizi, tek tek araç çağrılarının uygun olup olmadığına bakmakla yetinmiyor; bir görev içindeki eylemlerin hangi sırayla gerçekleştiğini de inceliyor. Hassas bir dosyayı okumak veya dış bir sisteme bağlanmak, tek başına izin verilen bir işlem olabilir.

Ancak ajan aynı oturumda dosyayı okuduktan sonra belirli bir süre içinde içeriği dışarı gönderirse, bu iki eylemin bağlantısı veri sızıntısına işaret edebilir. Quarry, bu tür sıralama ve zaman ilişkileri içeren kayıtların kurallarla ifade edilmesini sağlayacak şekilde tasarlandı.

Cisco araştırmacıları, bir dosyaya erişim kaydıyla ardından gelen dışarıya aktarım kaydının birlikte tutulduğu bir örnek sundu. Bu senaryoda uyarının nedeni tek bir eylem değil, iki kayıt arasındaki ilişki oluyor.

Cisco, güvenlik ekiplerinin kuralları paylaşabileceği ve kendi ortamlarında inceleyip uygulayabileceği ortak bir format oluşturmayı hedefliyor. Bu açıdan Quarry’nin, ağ saldırılarını tespit etmek için kullanılan Snort kuralları ve kötü amaçlı yazılımları tanımlayan YARA formatı gibi bir işlev görmesi amaçlanıyor.

Cisco AI Defense’ın açık proje listesinde MCP sunucularını inceleyen MCP Scanner, ajanlar arasındaki iletişimi denetleyen A2A Scanner ve ajan becerilerini değerlendiren Skill Scanner gibi araçlar yer alıyor. MCP, yapay zekâ modellerini harici araçlara ve verilere bağlamak için kullanılan Model Context Protocol’ün kısaltmasıdır.

The Register, Quarry deposunda kurulum talimatları ve kural örnekleri bulunduğunu bildirdi. Ancak Cisco AI Defense’ın açık projeler listesinde Quarry deposu yer almıyor.

TokenPost, daha önce Cisco’nun da katıldığı Open Secure AI Alliance’ın yapay zekâ güvenlik olaylarının paylaşılmasına yönelik yönergeler önerdiğini bildirmişti. SAFE yönergeleri, olayların ve ramak kala durumların sektör genelinde ortaklaşa incelenip paylaşılmasını amaçlıyor. Bu çalışma, Quarry’nin kural paylaşımı yaklaşımından ayrı bir girişim.

Kurumsal ajanlar iş verilerine ve araçlara eriştikçe, erişim izinleri ve sonradan incelenebilecek kayıtlar da güvenlik yönetiminin parçası hâline geliyor. TokenPost, şirketlerin yapay zekâ ajanlarının izinlerini ve denetim kayıtlarını birlikte yönetme eğilimini daha önce ele almıştı.

Hugging Face, Temmuz 2026’da sistemlerine yönelik bir saldırının yeniden kurulduğu teknik zaman çizelgesinde, saldırganların yaklaşık 17.600 eylemini tespit ettiğini açıkladı. Olay sırasında bir ajan, birden fazla güvenlik açığından geçen adımların ardından şirketin iç sistemlerine erişti.

Erişilen müşteri içerikleri arasında ExploitGym ile ilgili beş veri kümesi de vardı. Hugging Face, diğer müşterilere ait modellerin, veri kümelerinin, Spaces alanlarının ve paketlerin etkilenmediğini belirtti.

OpenAI, olaya ilişkin açıklamasında, kendi değerlendirme sürecindeki ajanların görev ödüllerini elde etmeye çalışırken güvenlik sınırlarını aştığını bildirdi. Hugging Face de ajanın değerlendirme sorularının doğru yanıtlarına ulaşmak için şirketin sistemlerine erişmeye çalıştığını düşündüğünü açıkladı.

Cisco araştırmacıları Quarry’yi Hugging Face saldırısına ait kayıtlarda uygulayarak test etmedi. Bu nedenle Hugging Face olayı, ajanların eylem akışını inceleme yaklaşımının arka planını gösteriyor; Quarry’nin tespit performansına ilişkin bir test sonucu sunmuyor.