OpenAI, GPT-6.2 Astra ve Sol modellerinde iç akıl yürütme süreçlerini (chain of thought) şifreleyen ve akıl yürütmenin açığa çıkabileceği akış yanıtlarını beklemeye alan savunma özelliklerini devreye aldı.
OpenAI, GPT-6.2 sistem kartında, yetkisiz damıtma (bir modelin çıktı ve akıl yürütmesini kullanarak başka bir modeli eğitme yöntemi) saldırılarına yönelik uyarlanabilir kırmızı takım değerlendirmesinde, önceki konuşmalar ile mevcut isteklerden gizli akıl yürütmeyi çıkarmaya çalışan girişimlerin başarı oranının her iki modelde de %1’in altında kaldığını açıkladı. GPT-6 Astra’da 54.0% olan önceki konuşmalardan çıkarım başarısı, GPT-6.2 Astra’da 0.2%’ye, Sol’da ise 0.5%’e geriledi.
Anthropic, 12 Ekim’de yayımladığı resmi yazıda Claude’un akıl yürütmesini kullanıcıya göstermeden önce özetlemek dahil savunma önlemlerini açıkladı. Şirket, kendi platformunda damıtıcıların çıkardığı akıl yürütme tokenlerinin savunma önlemlerinin uygulanmasının ardından 10 ila 100 kat (yaklaşık %90-%99) azaldığını tahmin etti ve bunu erken kanıt olarak nitelendirdi.
Comment 0