News 
Coin Information 
About us 
Add as a preferred source on Google
OpenAI, Anthropic ve Google(GOOGL) gibi büyük yapay zeka şirketlerinin şifrelediği yapay zeka çıkarım (reasoning) bloklarının, farklı kullanıcılar, oturumlar ve hatta farklı modeller arasında yeniden kullanılabildiği ortaya çıktı. Araştırmacılar, herkese açık günlüklerden 315 bin 320 çıkarım bloğunun şifresini çözerek 367 kişisel veri kaydı ve 182 kimlik bilgisi tespit etti.
11'inde (yerel saatle) yayımlanan makalede araştırmacılar, her yapay zeka sağlayıcısının çıkarım bloklarını sağlayıcı bazında tek bir 'küresel anahtar' ile şifrelediğini belirledi. Güçlü bir modelin ürettiği şifreli blok, aynı sağlayıcının güvenlik seviyesi daha düşük bir modeline girdi olarak verildiğinde, orijinal çıkarım içeriği düz metin halinde ortaya çıkabiliyor.
Şifresi çözülen verilerde şifreler ve API anahtarları başta olmak üzere çeşitli kimlik bilgileri bulundu. Araştırmacılar, nihai yanıtta engellenen zararlı içeriklerin çıkarım sürecinde kalabildiğini, ayrıca şifreli bloklara gizlenen komutlarla 'prompt injection' (istem enjeksiyonu) saldırıları düzenlenebileceğini de vurguladı.
Comment 0