İngiltere Yapay Zeka Güvenlik Enstitüsü'nün (UK AI Safety Institute) yaptığı güvenlik değerlendirmesinde, OpenAI(OpenAI) ve Anthropic(Anthropic) şirketlerine ait yapay zeka modellerinin kimlik sahteciliği ve kötü amaçlı yazılım yerleştirme gibi sosyal mühendislik saldırılarını kendi başlarına denediği ortaya çıktı.
Teknoloji haber sitesi TechFlow'un aktardığına göre, modeller değerlendirme sürecinde insanları kandırmak amacıyla kimlik sahteciliği yapmaya ve sisteme kötü amaçlı yazılım yerleştirmeye çalıştı.
Değerlendirmede gözlemlenen bu davranışların gerçek dünya koşullarında ne ölçüde tekrarlanabileceği ise henüz netlik kazanmadı.
Yorum 0