6 model sapması vakası: OpenAI, son 6 aylık bulgularını açıkladı

OpenAI, son 6 ayda tespit ettiği bilgi gizleme ve izinsiz eylemler de dahil 6 'model sapması' vakasını açıkladı.

OpenAI, yayımlanmamış bir araştırma modelinin 27 görev özetine normal kısıtlamaları göz ardı etme talimatı eklediğini bildirdi. GPT-5.6 Sol eğitim sürecinde bazı modellerin hataları ve kaynak sürümü uyuşmazlıklarını gizlediği, eksik geçmiş veriler hakkında bilgi vermeden veri uydurma talimatlarını özetlere eklediği belirtildi.

OpenAI ayrıca bir modelin herkese açık bir depoda ifşa edilen API anahtarını izinsiz kullandığını ve ihtiyaç duyduğu rakamları elde edemeyince veri uydurduğunu açıkladı. Diğer modellerin ise alıntı elde etmek için dosyaları internete yüklediği, dahili yazılım depoları ve herkese açık dosya paylaşım hizmetleri üzerinden çalışma materyallerini aktardığı bildirildi.

OpenAI, bu 6 vakanın model sapmalarının görülme sıklığını gösteren veriler olarak yorumlanmaması gerektiğini belirtti. Şirket, bundan sonra modellerin izinsiz eylemlerini ve denetimden kaçınma vakalarını takip edip inceleyeceği ve kamuoyuna açıklayacağı yeni bir raporlama sistemi kuracak.