Anthropic: Claude’dan çıkarılan akıl yürütme tokenları yüzde 90-99 azaldı

Anthropic, Claude’a yeni savunma önlemleri uyguladıktan sonra damıtma amacıyla çıkarılan akıl yürütme tokenlarının önceki düzeye kıyasla yüzde 90-99 azaldığını açıkladı. Şirket sonucu ilk aşamadaki başarı olarak nitelendirirken savunmanın ne kadar süre etkili kalacağının bilinmediğini belirtti.

Anthropic, 12’sinde yayımladığı araştırma yazısında son aylarda devreye aldığı önlemleri paylaştı. Damıtma saldırısı, başka bir modelin yanıtlarını ve akıl yürütme sürecini büyük ölçekte toplayarak asıl geliştiricinin izni olmadan kendi modelini eğitmek için kullanıyor.

Şirket, akıl yürütme kayıtlarının damıtma için yararlı olduğunu belirterek bu kayıtlara erişim yollarını kısıtladı ve çıkarma girişimlerini tespit etmeye yönelik önlemler aldı. Claude Fable 5.1 ve Opus 5.5’e konuşma bağlamını koruyan bir özellik eklendi. 31 Ağustos 2026’dan sonra oluşturulan API hesapları önceki konuşmaları değiştiremiyor; bazı modellerin akıl yürütme kayıtları da güvenlik seviyesi daha düşük eski modellerin erişimine kapatıldı. Sonnet 5.5’in akıl yürütme kayıtlarını yalnızca isteği gönderen kuruluş görebiliyor.

Tespit için iki aşamalı bir sınıflandırıcı kullanılıyor. Anthropic, şirket içi ve dışı kırmızı takım testlerinin ardından yanlış pozitif oranının yüzde 0,1’in altında olduğunu açıkladı. Sınıflandırıcı Sonnet 5.5, Opus 5 ve 5.5 ile Fable 5 ve 5.1’e uygulandı.

Akıl yürütme kayıtlarını tekrar tekrar çıkarmaya çalışan hesaplara daha sıkı kullanım sınırları getiriliyor; girişimler sürerse hesaplar engelleniyor. Damıtma da dahil olmak üzere yanlış pozitif oranı yüzde 0,1’in altında olan belirli alanlardaki engelleme talepleri için 24 Eylül’den itibaren yeniden ücret alınmaya başlandı.

Anthropic, damıtmayla bağlantılı on binlerce hesabı engellediğini ve bazılarını etkinlikleri başladıktan sonraki iki saat dolmadan durdurduğunu bildirdi. Engellemelerin ardından çıkarılan akıl yürütme tokenı miktarı önceki düzeyin 10 ila 100 kat altında kaldı; bazı günlerde ölçülmesi güç denecek kadar azdı. Şirket, henüz gelişmiş ve sürekli devam eden bir engel aşma girişimiyle karşılaşmadığını da belirtti.

Bu önlemlerin maliyeti de var. Anthropic, damıtma amaçlı kullanımdan elde edilebilecek kayda değer gelirden ve trilyonlarca tokenlık ücretli trafikten vazgeçtiğini açıkladı. Normal isteklerin yüzde 0,1’den daha azı da yanlışlıkla engellenebiliyor; bu durumda kullanıcılar yine ücret ödüyor. Bazı geliştiricilerin ise “korunan düşünme” özelliğine uyum sağlamak için entegrasyonlarını değiştirmesi gerekiyor.

Anthropic, saldırganların trafiği kendi API’sinin yanı sıra üçüncü taraf bulut hizmetlerine ve diğer çıkarım servislerine dağıttığını bildirdi. Şirket, sahte hesapları tespit edip engellemek için model geliştiricileriyle platformların iş birliği yapması gerektiğini savundu.