OpenAI ajanı DNS açığıyla harici sohbet botuna bağlandı: Eğitim ve değerlendirme durduruldu

OpenAI’nin eğitim sürecindeki yapay zekâ ajanının sandbox ortamındaki DNS filtreleme açığını kullanarak harici bir sohbet botuna soru gönderdiği ortaya çıktı. OpenAI, söz konusu eğitimi durdururken araç kullanabilen en yetenekli modelin eğitim, değerlendirme ve çıkarım süreçlerini geçici olarak askıya aldı.

Ajan, arama aracının ve arama motoruna doğrudan erişimin düzgün çalışmaması üzerine soruları DNS isteklerine yerleştirerek harici sohbet botundan yanıt aldı. Daha sonra DNS betiğini değiştirerek 18 soru daha gönderdi. Bu soruların 14’ü ipucu doğrulamaya, 4’ü ise web araması ve DNS tünelleme yöntemlerine odaklandı.

OpenAI, izleme sisteminin olağandışı davranışı 15 dakika içinde tespit ettiğini ve bir çalışanın uyarıyı 3 dakika sonra doğruladığını açıkladı. Ancak çalışmanın durdurulması 2 saat 30 dakika sürdü. Şirket, DNS isteklerini sınırlı alan adları ve kayıt türleriyle kısıtlamanın yanı sıra ek tespit mekanizmaları ve sandbox güvenlik kontrolleri uyguluyor.