Claude Managed Agents kendi altyapısında barındırma için özel betaya açıldı

Anthropic, 12’sinde Claude Managed Agents’ın müşterilerin kendi altyapısında barındırabileceği sürümünü özel betaya açtı.

Anthropic, resmi duyurusunda müşterilerin sunucuları, veritabanlarını, ajanların çalıştırma ve koordinasyon katmanını, kabuk ve dosya araçlarını çalıştıran işçileri, sanal alanları, kimlik bilgilerini ve oturum kayıtlarını kendilerinin yöneteceğini bildirdi. Bu bileşenler müşterilerin kendi bulutlarında veya şirket içi sistemlerinde çalışacak.

Geliştiriciler, barındırılan hizmetteki temel API’lerle aynı API’leri kullanarak ajan oluşturabilecek. Beta erişimi için Anthropic’in hesap ekibine başvurulması gerekiyor.

Daha önce sunulan kendi altyapısında barındırılan sanal alanlarda yalnızca araçlar müşterinin altyapısında çalışıyordu; ajanların iş akışı ve oturum kayıtları Anthropic tarafından yönetiliyordu. Yeni sürümde bu kapsam genişletildi ve oturum kayıtları da müşterinin veritabanında tutuluyor.

Model istekleri varsayılan olarak Claude API üzerinden gönderiliyor. Müşteriler isteklerin yönlendirileceği sağlayıcı olarak Amazon($AMZN) Bedrock, Google Agent Platform, Microsoft($MSFT) Foundry veya kendi ağ geçitlerini seçebiliyor.

Hizmet bileşenlerinin müşterinin altyapısında barındırılması ile model çıkarımının hangi yoldan yapılacağı birbirinden ayrı. Model çıkarımı Anthropic’te veya müşterinin seçtiği çıkarım sağlayıcısında işleniyor.

Anthropic’in veri ve erişim dokümanında, her model çağrısının konuşma içeriğini, istemleri, araç girdilerini ve sonuçlarını içerdiği ve bunların seçilen çıkarım sağlayıcısına iletildiği belirtiliyor. Oturum kayıtlarının tutulduğu yer ile model çağrısı verilerinin gönderildiği yer farklı olabilir.

Anthropic ile sıfır veri saklama (ZDR) koşullarını uygulayan kuruluşların Claude API’ye gönderdiği model çağrıları da diğer Messages API istekleriyle aynı saklamama koşullarına tabi. Bu açıklama, sözleşmenin tüm koşullarını değil, model çağrılarındaki veri saklama yöntemini kapsıyor.

Anthropic, kendi altyapısında barındırılan sunuculara ve kayıtlara uzaktan erişmediğini açıkladı. Müşteriler kendi gizli bilgi yönetimi hizmetlerini bağlayabiliyor ve sunucularla işçilerin ağ erişimini yapılandırabiliyor.

İşçilerde çalıştırılan komutlar, ilgili işçiye tanınan ağ erişim yetkilerini kullanıyor. Bu nedenle işçilerin hangi hizmetlere ve ağlara bağlanabileceği müşterinin ayarlarına bağlı.

Kendi altyapısında barındırılan sürümde, barındırılan hizmetin zamanlanmış dağıtım özellikleri ile Dreams, web kancaları, Files API ve dosya oturumu kaynakları kullanılamıyor. Anthropic’in özellik karşılaştırma dokümanında bu kısıtlamalar yer alıyor.

Barındırılan hizmetteki ajanlar, beceriler, kimlik bilgileri ve oturum kayıtları yeni sunucuya otomatik olarak kopyalanmıyor. Zamanlanmış görevleri sürdürmek isteyen müşterilerin oturumları kendi zamanlayıcılarında başlatması gerekiyor.

Anthropic daha önce model çağrılarını ve araç kullanımını kaydeden izleme özelliğini açık beta olarak sunmuştu. Kendi altyapısında barındırılan sürümde de OpenTelemetry yapılandırılarak ajan etkinlik kayıtları müşterinin izleme araçlarına aktarılabiliyor.

Kayıtların ve izleme verilerinin saklama süresi, müşterinin bağladığı toplama ve depolama sistemlerinin ayarlarına göre belirleniyor. OpenTelemetry, uygulama izleme verilerini başka izleme araçlarına aktarmak için kullanılan açık bir standart.

Anthropic, geliştirme için Docker Compose tabanlı hızlı başlangıç ortamını sunuyor; üretim dağıtımlarında ise Kubernetes için Helm grafiğini öneriyor. Kendi altyapısında barındırma ücretleri yayımlanan fiyat listesinde yer almıyor; fiyat bilgisi için hesap ekibiyle iletişime geçilmesi isteniyor.