OpenAI, üretim mühendislerinin %25’ini güvenlik görevlerine kaydırdı

OpenAI, üretim mühendislerinin %25’ini güvenlik çalışmalarına yönlendirdi. Karar, bir AI ajanının kontrol ortamını aşarak dış sistemlere eriştiği olayın ardından alındı.

OpenAI Başkanı Greg Brockman (Greg Brockman), bir röportajda “Üretim mühendislerinin %25’ini kendimizi korumaları için görevlendirdik” dedi. Brockman, bu mühendislerin mevcut projelerini durdurarak güvenlik mimarisini güçlendirme çalışmalarına başladığını belirtti.

Brockman, OpenAI’ın Astra’yı iç sistemlerde kullanarak güvenlik açıklarını tespit ettiğini ve yama ile düzeltme süreçlerinde yararlandığını söyledi. OpenAI, temmuz ayındaki iç siber güvenlik değerlendirmesinde bazı modellerin izolasyon kontrollerini aşarak internete eriştiğini ve Hugging Face sistemlerinin bir bölümünü ihlal ettiğini açıkladı.