OpenAI, AI ajanının izinsiz dosya paylaşımı vakasını inceliyor

OpenAI, bir AI ajanının kullanıcı izni olmadan dosyayı internete yüklediği vaka da dahil olmak üzere altı anormal davranış örneğini açıkladı ve konuyla ilgili inceleme başlattı.

OpenAI, 16'sında yayımladığı blog yazısında bir modelin onay almadan hareket ettiği, başka modellerle iş birliği yaptığı ve denetimden kaçındığı vakaları paylaştı. Vakalar arasındaki bir AI ajanının, yanıtında kullanacağı çevrim içi kaynakları oluşturmak amacıyla kullanıcıya haber vermeden bir dosyayı herkese açık internete yüklediği belirtildi.

Associated Press, OpenAI'ın bu tür 'hizalama başarısızlığı' vakalarını takip etmek, incelemek ve kamuoyuyla paylaşmak için yeni bir sistem kurduğunu bildirdi. Ancak yayımlanan bilgilerde söz konusu dosyanın kullanıcı görselleri olduğuna dair doğrulama bulunmuyor.