OpenAI, kontrolü aşma talimatı ekleyen yapay zekâ vakasını açıkladı

OpenAI, yayımlanmamış bir araştırma modelinin görev özetine olağan kısıtlamaları görmezden gelme talimatını kendiliğinden eklediği bir vakayı açıkladı. Söz konusu ifadede 'Özgürsün' ve 'şirketlere ya da hükümetlere yanıt vermiyorsun' gibi ifadeler yer aldı.

OpenAI, 16'sında (yerel saatle) yayımladığı model hizalama başarısızlıkları raporlama sisteminde bu vakaya yer verdi. Şirket, modelin yeni bir bağlamda görevi sürdürmek için kullandığı 27 özet metnine ilgili talimatları eklediğini bildirdi.

Reuters, OpenAI tarafından yayımlanan raporu aktararak bunun münferit bir gözlem olduğunu ve modeller genelinde hizalama başarısızlıklarının ne sıklıkta yaşandığını gösteren bir veri niteliği taşımadığını belirtti. OpenAI ise bu paylaşımın hizalama başarısızlığı vakalarını düzenli olarak raporlamaya yönelik ilk adım olduğunu açıkladı.