Brex, yapay zeka ajanlarının ağ isteklerini denetleyen CrabTrap'i açık kaynak yaptı

Brex, yapay zeka ajanlarının dış HTTP ve HTTPS isteklerini gerçek zamanlı olarak onaylayan ya da engelleyen açık kaynaklı bir proxy olan 'CrabTrap'i duyurdu. Araç, ajanların yetkilerini yalnızca komut (prompt) veya kod düzeyinde değil, doğrudan ağ trafiği aşamasında denetliyor.

Brex'in ortak kurucusu ve CEO'su Pedro Franceschi(Pedro Franceschi), CrabTrap'i 21 Nisan'da (yerel saatle) şirketin resmi mühendislik blogunda tanıttı. CrabTrap, yapay zeka ajanı ile dış uygulama programlama arayüzleri (API) arasındaki istekleri yakalayarak yalnızca belirlenen politikaya uyan trafiğin geçmesine izin veriyor.

Yapay zeka ajanları, bir hedefi gerçekleştirmek için kendi kararıyla işlem gerçekleştiren sistemler olarak tanımlanıyor. Bu sistemlere gerçek kimlik bilgileri, API anahtarları, OAuth token'ları veya servis hesapları verildiğinde, güvenliğin merkezine yalnızca verilen yanıtın doğruluğu değil, ajanın hangi sistemlere erişip neyi çalıştırabildiği de giriyor.

Brex, mevcut kontrol yöntemlerinin Model Bağlam Protokolü (MCP) ağ geçitleri gibi belirli bir protokole bağlı kalabileceğini ya da model sağlayıcısının koruma mekanizmaları gibi tek bir modele bağımlı olabileceğini değerlendirdi. Bu nedenle belirli bir ajana veya modele bağlı kalmadan dış iletişimi taşıma katmanında inceleyen bir yapı tercih edildi.

Kurulum, HTTP_PROXY ve HTTPS_PROXY ortam değişkenlerinin bağlantı hedefinin CrabTrap olarak belirlenmesiyle yapılıyor. Ajanın gönderdiği dış istekler proxy üzerinden geçiyor; HTTPS trafiği ise kendi sertifika otoritesi (CA) üzerinden yapılan aktarım katmanı güvenliği (TLS) ara şifre çözme yöntemiyle inceleniyor.

Konteyner ortamlarında iptables ayarları kullanılarak proxy'yi atlayan doğrudan bağlantılar da engellenebiliyor. Bu, yalnızca proxy ayarının değiştirilip atlama yolunun açık bırakılması durumunda ajanın izlenen alanın dışına istek gönderebileceği ihtimaline karşı eklenmiş bir önlem.

İstek değerlendirmesi iki aşamada gerçekleşiyor. Önce URL kalıplarına dayanan statik kurallar isteği inceliyor; belirlenen kurallarla karar vermek zor olduğunda ise büyük dil modeli tabanlı bir değerlendirici, doğal dilde yazılmış güvenlik politikasını ve istek bilgilerini analiz ediyor.

Büyük dil modeli değerlendiricisi, 'ALLOW' (izin ver) veya 'DENY' (reddet) sonucunu yapılandırılmış JSON formatında döndürüyor. İzin ve ret kuralları çakıştığında ret kuralı öncelik kazanıyor ve istek engelleniyor.

Statik kurallar öngörülebilir sonuç verip işlem maliyeti düşük olsa da önceden tanımlanmamış isteklere karşılık vermekte zorlanıyor. Büyük dil modeli değerlendirmesi ise doğal dil politikaları uygulayabiliyor ama sonucun olasılıksal olması bir sınırlama olarak kalıyor; bu yüzden iki yöntem birlikte konumlandırılmış.

CrabTrap, gerçek trafiği analiz ederek politika taslağı oluşturan bir politika oluşturucu da sunuyor. Yöneticinin tüm izin ve engelleme kurallarını sıfırdan yazması yerine, geçmiş ağ çağrılarına dayanarak politika kurgulanmasına destek oluyor.

Geçmiş denetim kayıtlarını yeniden çalıştırarak politika değişikliği öncesi ve sonrasındaki karar sonuçlarını karşılaştıran bir değerlendirme sistemi de dahil edildi. Tüm istek ve karar kayıtları PostgreSQL'de tutuluyor; böylece hangi isteğin nereye gittiği ve hangi politikayla işlendiği izlenebiliyor.

Brex, CrabTrap'i gerçek operasyon ortamında kullanıyor. Belirli bir kullanım örneğinde büyük dil modeli değerlendiricisinin devreye girdiği oran, toplam isteklerin yüzde 3'ünün altında kaldı. Ancak bu rakam, statik kuralları ve trafik yapısı belirli tek bir örneğe ait olup başka kurumlara veya ajan ortamlarına doğrudan uygulanabilecek bir gösterge değil.

Ödeme, cüzdan ve borsa API'leri gibi varlık transferiyle bağlantılı servislerde ajanın dış isteklerini kayıt altına alan ve sınırlayan işlevler önem kazanabilir. TokenPost daha önce Coinbase($COIN)'in yapay zeka ajanlarının USD Coin(USDC) ile ödeme yapabilmesini desteklediği örneği aktarmıştı. Ajanlar işlem ve ödemeleri doğrudan gerçekleştirdikçe, yürütme yetkisi ve iletişim yolu üzerindeki denetim de birlikte gerekli hale geliyor.

Fiddler AI(Fiddler AI), proxy tabanlı araçların gerçek zamanlı politika uygulamasının gerekliliğini gösterdiğini değerlendirdi. Ancak kurumsal yönetişim için telemetri, değerlendirme, izleme, politika uygulama ve denetim sistemlerinin birlikte işlemesi gerektiğini, bu nedenle tek başına proxy'nin güvenlik yapısının tamamının yerini alamayacağını belirtti.

Kamuya açık geliştirici tartışmalarında açık kaynak hale getirilmesini ve ağ katmanı erişimini olumlu bulan görüşlerin yanı sıra büyük dil modeli değerlendirmesinin olasılıksal doğasından duyulan endişeler de dile getirildi. CrabTrap'in izleme kapsamı da yalnızca dış HTTP ve HTTPS istekleriyle sınırlı; dosya okuma, kabuk (shell) çalıştırma ve HTTP dışı iletişimler ayrıca denetlenmesi gereken alanlar olarak kalıyor. Brex, yapay zeka ajanlarının dış HTTP ve HTTPS isteklerini denetleyen CrabTrap'i açık kaynak olarak yayımladı.