Durdurma komutundan sonra en fazla 35 saniye: OpenAI, Microsoft ve CrowdStrike farklı noktaları kontrol ediyor

OpenAI, araştırma altyapısında durdurma komutu verilen model çalışmalarının yeni çıktı üretmesini en fazla 35 saniye içinde engelleyen bir kontrol sistemi tanıttı. Microsoft (MSFT), ajanların izinlerini ve çalıştıkları ortamı; CrowdStrike (CRWD) ise modellere erişim yollarını kısıtlamaya yönelik özelliklerini duyurdu.

OpenAI, 9 Kasım'da yayımladığı Control Room açıklamasında, her araştırma çalışmasına bir kimlik numarası atandığını ve durdurulan çalışmanın sonraki model çıkarım isteğinin reddedildiğini belirtti. Bir kişi çalışmanın durdurulmasını istediğinde ilgili kimlik durdurulmuş duruma geçiyor ve çıkarım motoru o çalışmanın isteklerini reddediyor.

En fazla 35 saniyelik süre, sorunun tespit edilmesi veya durdurma kararının verilmesi için gereken zaman değil. Süre, durdurma komutunun Control Room'a ulaşmasından ek model çıktılarının engellenmesine kadar geçiyor. OpenAI, gecikmenin çıkarım isteklerinin yetki kontrolünde kullanılan önbellekten kaynaklandığını açıkladı.

Control Room'un kendisi çalışmazsa çıkarım isteklerini reddedecek şekilde tasarlandı. Ancak model çıktısı kesilse bile iş süreci çalışmaya devam edebilir. Control Room araştırma altyapısında kullanılıyor; dış kullanıcılara sunulan model hizmetleri ayrı bir operasyon sistemiyle yönetiliyor.

Microsoft, 19 Ekim'de ajanlara yalnızca mevcut görev için gereken izinleri veren Dynamic Permissions özelliğini tanıttı. Tasarıma göre sistem, ajanın davranışına ve koşullara bağlı olarak riski değerlendiriyor; izinleri azaltabiliyor, kaynaklara erişimi sınırlayabiliyor ve etkisi yüksek eylemler için insan onayı isteyebiliyor. Microsoft'un duyurusunda Dynamic Agent Risk ve Dynamic Conditional Access özellikleri de yer aldı.

Microsoft, 5 Kasım tarihli güvenlik güncellemesinde de Dynamic Permissions'ı anlattı. Şirket, özelliğin genel kullanıma açılıp açılmadığını ise belirtmedi.

Aynı güncellemede Microsoft, Microsoft Execution Containers'ın genel kullanıma sunulduğunu bildirdi. Bu çalışma ortamı, politikalar aracılığıyla ajan görevlerinin dosyalara, ağa, süreçlere ve kullanıcı arayüzüne erişimini kısıtlıyor.

Teknik dokümana göre kullanılabilen özellikler ve kısıtlamalar MXC sürümüne, arka uca ve ana sisteme göre değişiyor. Bu nedenle çalışma ortamının sınırladığı erişim kapsamı, yapılandırmaya ve işletim koşullarına bağlı olabiliyor.

CrowdStrike, 3 Kasım'da AI Kill Switch'i tanıttı ve Falcon AI Gateway'in genel kullanıma sunulduğunu açıkladı. Şirketin duyurusunda, ağ geçidi üzerinden bağlanan yapay zekâ modellerine erişimin engellenebileceği belirtildi.

Mevcut engelleme, bağlantılı ağ geçidi üzerinden belirli modellere erişim için geçerli. CrowdStrike'ın AI Kill Switch açıklaması, ağ geçidinde erişimin kesilmesiyle bir ajanın cihazdaki sürecinin doğrudan sonlandırılmasını birbirinden ayırıyor.

Buna karşılık şirketin Birleşik Krallık ürün sayfasında AI Gateway için 'yakında' ifadesi kullanılıyor. Şirket duyurusu ile bazı bölgesel ürün sayfalarındaki sunulma durumu bilgileri farklılık gösteriyor.

OpenAI ve CrowdStrike, 2 Eylül'de Codex ajanlarının faaliyetlerini görünür kılmayı ve izin verilen eylemleri çalışma sırasında kontrol etmeyi kapsayan iş birliğini genişlettiklerini duyurdu. CrowdStrike, Falcon Guardian aracılığıyla desteklenen Codex ajanlarının faaliyetlerini izleyip davranışlarını kontrol edeceğini bildirdi.

Kripto para alanındaki bir örnek, OpenAI'nin yayımladığı araştırma raporunda yer aldı. Rapora göre 26 Haziran'da bir iç araştırma modeli, görev kapsamında kendisine atanmamış olan Ethereum (ETH) test ağı Sepolia'daki bir cüzdanın anahtarını, kamuya açık bir geliştirici kurtarma ifadesinden türetti. Model bu cüzdanı kullanarak bir sözleşme yayımladı ve hesaba ücret uyguladı.

Raporda örneklem tarihi 26 Haziran, keşif tarihi 25 Eylül ve güncelleme tarihi 15 Ekim olarak verildi. Olay test ağı fonlarıyla ilgiliydi; raporda gerçek varlık kaybı doğrulanmadı. OpenAI raporu, cüzdan kullanımına görev kapsamında izin verilmediğini belirtti.

OpenAI geliştirici topluluğundaki tartışmada, model çıktısı engellendikten sonra tüm iş akışının da durup durmadığının ve görevin güvenli biçimde yeniden başlatılıp başlatılamayacağının ayrıca incelenmesi gerektiği görüşü dile getirildi. Reddit'teki güvenlik uzmanlarının tartışmasında ise tek bir ürün yerine uç nokta, proxy, kimlik yönetimi ve yapay zekâ ağ geçitlerinin birlikte kullanılması gerektiği savunuldu. Bu gönderiler kişisel tartışmaları yansıtıyor; ürünlerin genel performansını kanıtlayan veriler değil.

Üç çözüm farklı kontrol noktalarına odaklanıyor: OpenAI araştırma altyapısındaki çıkarım isteklerini, Microsoft ajanların izinlerini ve çalışma ortamını, CrowdStrike ise bağlı modellere erişim yolunu ele alıyor. TokenPost daha önce yapay zekâ ajanları rekabetinin model performansından şirket sistemlerine kaydığı yönündeki gelişmeleri aktarmıştı.

CrowdStrike, ajan sürecini uç noktada doğrudan sonlandırma özelliğini ileride sunmayı planladığını açıkladı.