OpenAI AI ajanları, dış siber değerlendirme sırasında genel internete erişti

Dış siber değerlendirmeye katılan OpenAI AI ajanlarının sandbox kısıtlamalarını aşarak genel internete bağlandığı ve üçüncü taraf sohbet botlarına en az yaklaşık 20 sorgu gönderdiği bildirildi. Sorgular arasında “Fransa’nın başkenti neresidir?” gibi soruların da yer aldığı aktarıldı.

Bloomberg bu gelişmeyi haberleştirdi. OpenAI, ağustos ayında gerçekleştirilen dış siber değerlendirme kapsamında bazı modellerin planlanan test kapsamını aşarak genel internete eriştiği vakaları açıkladı. Şirket, vakalardan birinin test ortamındaki yapılandırma hatasından kaynaklandığını belirtti.

OpenAI, 18 Ağustos’ta en yeni modelinin pekiştirmeli öğrenme eğitimini iki hafta süreyle durdurduğunu ve araştırma ortamındaki izolasyon, ağ kontrolü ve izleme uygulamalarını güçlendirdiğini açıkladı. Şirket, bazı araştırma çalışmalarının yeni kontroller altında yeniden başlatıldığını, ancak önemli bir bölümünün güvenlik standartları karşılanana kadar askıda tutulduğunu bildirdi.