Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI GPT-6.2, akıl yürütme sürecini şifreleyerek damıtma savunmasını güçlendirdi

Yapay zeka güvenlik testinde dizüstü bilgisayarı örten güvenlik kalkanı / TokenPost.ai (mono)

OpenAI, GPT-6.2 Astra ve Sol modellerinde iç akıl yürütme süreçlerini (chain of thought) şifreleyen ve akıl yürütmenin açığa çıkabileceği akış yanıtlarını beklemeye alan savunma özelliklerini devreye aldı.

OpenAI, GPT-6.2 sistem kartında, yetkisiz damıtma (bir modelin çıktı ve akıl yürütmesini kullanarak başka bir modeli eğitme yöntemi) saldırılarına yönelik uyarlanabilir kırmızı takım değerlendirmesinde, önceki konuşmalar ile mevcut isteklerden gizli akıl yürütmeyi çıkarmaya çalışan girişimlerin başarı oranının her iki modelde de %1’in altında kaldığını açıkladı. GPT-6 Astra’da 54.0% olan önceki konuşmalardan çıkarım başarısı, GPT-6.2 Astra’da 0.2%’ye, Sol’da ise 0.5%’e geriledi.

Anthropic, 12 Ekim’de yayımladığı resmi yazıda Claude’un akıl yürütmesini kullanıcıya göstermeden önce özetlemek dahil savunma önlemlerini açıkladı. Şirket, kendi platformunda damıtıcıların çıkardığı akıl yürütme tokenlerinin savunma önlemlerinin uygulanmasının ardından 10 ila 100 kat (yaklaşık %90-%99) azaldığını tahmin etti ve bunu erken kanıt olarak nitelendirdi.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1