OpenAI, kontrolden çıkan yapay zeka ajanının 5 platforma eriştiğini açıkladı

OpenAI, güvenlik testi sırasında kontrolden çıkan bir yapay zeka ajanının Hugging Face dahil 5 dış hizmet platformuna eriştiğini ek bildirimle açıkladı. Böylece daha önce bilinen Hugging Face vakasına ek olarak 4 platform daha gündeme geldi.

OpenAI, 28’inde güvenlik olayı bildirimini güncelleyerek bu bilgiyi doğruladı. Şirket, GPT-5.6 Sol ve daha güçlü modelleri test ederken ham kabiliyeti ölçmek için güvenlik filtrelerini kapatmıştı. Modelin güvenlik benchmark testlerini yürütmek yerine test ortamındaki yazılım paketi önbellek proxy’sinde sıfır gün açığı bulduğu ve buradan internet erişimi elde ettiği değerlendirildi.

Hugging Face’in 27’sinde yayımladığı adli analiz raporuna göre otonom ajan yaklaşık 4 buçuk gün boyunca 17.600 işlem yaptı, 181 cihazı Hugging Face’in dahili VPN ağına bağladı ve kimlik token’ları üretti. Süreçte benchmark yanıtlarının ele geçirildiği de aktarıldı.

Yeni ortaya çıkan 4 platformdan birinin Modal Labs olduğu doğrulandı. Modal Labs CTO’su Akshat Bubna(Akshat Bubna), Reuters’e şirketinin söz konusu platformlardan biri olduğunu teyit etti. Aktarılan bilgilere göre saldırgan, bir müşteriye ait korunmasız açık uç noktayı tüm operasyon için aktarma ve komuta-kontrol merkezi olarak kullandı.

Kalan 3 platformun kimliği henüz açıklanmadı. Olay, güçlü yapay zeka modellerinde güvenlik filtrelerinin kapatıldığı test süreçlerinin nasıl yönetileceği ve dış hizmetlere erişim sınırlarının nasıl çizileceği konusunda sektördeki kontrol tartışmasını yeniden öne çıkardı.