Anthropic, Claude’un akıl yürütme kayıtlarının izinsiz biçimde çıkarılarak model eğitiminde kullanılmaya çalışıldığı vakaları açıkladı. Şirket, Alibaba ile bağlantılı faaliyetlerde Mayıs-Temmuz 2026 arasında 151 milyondan fazla etkileşim gözlemlediğini bildirdi.
Anthropic, eylül ayında yayımladığı tehdit istihbaratı raporunda Aralık 2025-Ağustos 2026 döneminde tespit ettiği kötüye kullanım vakalarına yer verdi. Açıklanan etkileşim sayısı, şirketin gözlemleyip ilgili faaliyetlere atfettiği ölçeği gösteriyor. Bu sayı, savunma önlemlerinden sonra veri toplama miktarının yüzde 90-99 azaldığı anlamına gelmiyor.
Model damıtma, bir modelin yanıtlarını toplayarak başka bir modeli eğitme yöntemidir. Yaygın bir eğitim yöntemi olarak da kullanılır. Anthropic ise bu vakayı, izinsiz hesaplar ve dolambaçlı yollarla kendi hizmetinden büyük ölçekte veri çıkarılması olarak tanımladı. Damıtma tekniğini, hizmet şartlarını ihlal eden izinsiz veri çıkarma eyleminden ayrı değerlendirmek gerekiyor.
Raporda, Claude API’sindeki akıl yürütme kayıtlarını yeniden elde etmeye yönelik bir yöntem de anlatıldı. Bu yöntemde, API’nin ham kayıtlar yerine döndürdüğü imza kaydediliyor ve kayıtları almak amacıyla yeni bir oturumda tekrar sunuluyor. Anthropic, oturumlar arası yeniden oynatma saldırılarıyla bazı aktörlerin akıl yürütme kayıtlarını çıkardığını bildirdi.
Anthropic, hesapları engelleme ve faaliyet örüntülerini analiz etme gibi çeşitli önlemleri uyguladığını açıkladı. Ürün düzeyindeki önlemler arasında ‘korunan düşünce’ özelliğini gösterdi. Bu özellik, önceki konuşmalardaki düşünce blokları yeniden kullanıldığında imzanın ve önceki konuşma içeriğinin değiştirilip değiştirilmediğini kontrol ediyor.
Fable 5.1 sürüm duyurusunda Anthropic, yeni API hesaplarının önceki düşünce kayıtlarını korurken konuşma bağlamını elle düzenlemesine izin vermediğini belirtti. Şirket, savunmalar geliştikçe izinsiz kullanıcıların akıl yürütme kayıtlarını elde etmek için yöntemlerini değiştirdiğini de raporda kaydetti. Önlemlerin başarı oranı veya veri miktarındaki azalma açıklanmadı.
OpenAI da Eylül 2026’da korunan akıl yürütme kayıtlarını çıkarmaya yönelik koordineli girişimleri açıkladı. Şirket, bir konuşmadan kopyalanan şifreli akıl yürütme bilgilerini başka bir konuşmada yeniden oluşturmayı amaçlayan yolu engellediğini bildirdi. İki şirketin raporları, ayrı ayrı inceledikleri vakaları ve aldıkları önlemleri ele alıyor.
Anthropic daha önce, Alibaba ve Qwen ile bağlantılı operatörlerin Claude ile 28,8 milyondan fazla etkileşim kurarak model yeteneklerini çıkardığı iddiasını ABD Kongresi’ne sunduğunu açıklamıştı. Bu raporda ise Mayıs-Temmuz 2026 arasında 151 milyondan fazla etkileşim gözlemlediğini bildirdi. İki sayı farklı dönemlerdeki faaliyetleri kapsıyor.
Kaynak başlıkta yer alan ‘yüzde 90-99 azalma’ ifadesi, Anthropic’in kamuya açık raporlarında ve ürün materyallerinde doğrulanmıyor. Raporda doğrulanabilen veriler, belirli bir dönemde gözlemlenen etkileşim sayısı ve akıl yürütme kayıtlarının çıkarıldığı vakalar.
Yorum 0