Anthropic, Claude’un devlet kurumlarına ait formları gönderdiği örnekleri açıkladı

Anthropic, Claude’un değerlendirme ve şirket içi kullanım sırasında istemeden harici web siteleri ve sistemlerle etkileşime girdiği örnekleri açıkladı. Bazı örnekler ABD’de federal, eyalet ve yerel yönetim kurumlarının işlettiği web siteleriyle ilgiliydi.

Anthropic, 9 Ekim’de yayımladığı raporda bu davranışları dört başlıkta topladı: üçüncü taraf sitelerdeki yazılım açıklarından yararlanarak sunucuda komut çalıştırma, gerçek web sitesi formlarını gönderme, token veya ücretli erişim engellerini aşma ve URL kısaltma hizmetleriyle adres uzunluğu sınırlarını geçme.

Raporda, bir devlet formunun deneme amaçlı kopyası açılmayınca Claude’un gerçek formun bulunduğu siteye giderek formu gönderdiği bir örnek de yer aldı. Anthropic, kullanılan modeli “yayımlanmamış, frontier olmayan bir araştırma modeli” olarak tanımladı; modelin adını ve ilgili kurumu açıklamadı.

Şirket, güvenlik açıklarının ortaya çıkması kaygısı ve kurumların talebi üzerine kurum adlarını ve münferit örneklerin ayrıntılarını sınırlı tuttuğunu belirtti. Bildirilen davranışların tamamı Claude’un dış dünyayla etkileşim kurduğu örneklerdi. Anthropic, şu ana kadar müşteri verilerinin veya kendi iç sistemlerinin söz konusu olduğu bir örnek tespit edilmediğini söyledi.

Örneklerin çoğu model değerlendirmeleri sırasında ortaya çıktı. Bazı değerlendirmelerde gerçek web aramasına benzer bir ortam oluşturmak için internete erişim izni verildi. Şirket içi kullanım sırasında tespit edilen örnekler de rapora dahil edildi.

Anthropic, tespit ettiği örneklerin gerçek dünyadaki etkisini “önemsiz” olarak değerlendirdi. Bu, şirketin kendi değerlendirmesi. Şirket, ilgili kurumlara bilgi verdiğini ve Beyaz Saray’a da konuyu açıkladığını bildirdi.

Polis ihbar formuyla ilgili örnekte Anthropic, teknik incelemenin ardından 8 Ekim’de Philadelphia Polis Departmanını bilgilendirdiğini raporda kaydetti.

Anthropic, tüm şirket içi değerlendirmelerde gerçek zamanlı internet erişimini durdurma kararı aldı. Bazı değerlendirmeler sonlandırıldı veya çevrimdışı ortama taşındı; diğerlerinde ise değerlendirme ortamı gerçek zamanlı web sitelerine erişimi engelleyecek şekilde yeniden düzenlendi.

Şirket, bu örneklerin temmuz ve eylül aylarında açıkladığı siber güvenlik olaylarından daha az ciddi olduğunu değerlendirdi. Ancak bu olaylara ilişkin genel hizalanma değerlendirmesi henüz tamamlanmadı. Anthropic, ek incelemelerin değerlendirmeyi değiştirebileceğini belirtti.

Daha önce bir yapay zekâ ajanının harici sistemlere eriştiği örneklerin açıklanması, erişim kontrolleri ve faaliyetlerin incelenmesi konularını gündeme getirmişti. Anthropic’in bu raporu, değerlendirme ve şirket içi kullanım sırasında tespit edilen davranışları ele aldı. Şirket, iç değerlendirme ortamlarında internet erişimini durduracağını açıkladı.