OpenAI araştırmacısı: Codex’te tersine mühendislik genel olarak yasak değil

OpenAI’ın yapay zekâ destekli kodlama aracı Codex’te tersine mühendisliği genel olarak yasaklayan bir politika bulunmuyor. Bazı isteklerin engellenmesine yol açan sorunların düzeltildiği belirtilirken, kullanıcıların kendi cihazlarındaki yazılımları kaldırmaya yönelik taleplerinin engellenmesi istenmeyen bir davranış olarak nitelendirildi.

Crypto Briefing’in haberine göre OpenAI araştırmacısı Roon, bu açıklamayı 26’sında yaptı. Tersine mühendislik, bir yazılımın yapısını anlamak için kodunu veya çalışma biçimini inceleme sürecidir. Roon’un X’teki gönderisinin aslına ulaşılamadığı için doğrudan alıntı yapılmadı.

Codex, kodları inceleyip komut çalıştırabilen bir geliştirme aracıdır. Kullanıcılar görev için izinleri ve kapsamı belirlese de güvenlik denetimleri isteği riskli olarak sınıflandırırsa işlem durdurulabilir. Söz konusu yazılım kaldırma talebini hangi kontrol aşamasının engellediği açıklanmadı.

OpenAI, mayısta yayımladığı Codex güvenlik işleyişi açıklamasında görev kapsamını sınırlayan bir sanal alan, kapsam dışındaki işlemler için onay süreci, ağ erişimi kontrolleri ve komutlara özel kurallar sıralamıştı. Belge, güvenlik kontrollerinin birden fazla aşamadan oluştuğunu gösteriyor ancak bu olayda engellemenin nedenini ortaya koymuyor.

Herkese açık depoda da izin verilen işlemlerin durdurulduğuna ilişkin kullanıcı bildirimi bulunuyor. Bir kullanıcı, 10 Ekim’de Codex’in GitHub deposunda, sahibi olduğu yazılımı salt okunur biçimde inceleme girişiminin siber güvenlik riski uyarısıyla durdurulduğunu yazdı. Kullanıcı bunu olası bir yanlış sınıflandırma bildirimi olarak sundu; ancak bunun doğrulanmış bir sınıflandırma hatası olmadığını da belirtti.

Roon’un sözünü ettiği engellemeyle GitHub’daki bildirimin aynı sorundan kaynaklanıp kaynaklanmadığı bilinmiyor. Her iki örnek de güvenlik denetimlerinin izin verilen işleri durdurabileceğine ilişkin kullanıcı endişelerini yansıtıyor; somut neden ise açıklanmış değil.

OpenAI, nisanda Codex’i haftalık kullanan geliştirici sayısının 4 milyonu aştığını duyurmuştu. Bu sayı, açıklamanın yapıldığı dönemdeki hizmet kullanımını gösteriyor; engellemelerin düzeltilmesiyle kullanıcıların yaşadığı aksaklıkların ne ölçüde azalacağını ortaya koymuyor. Şu an doğrulanabilen adım, Roon’un bazı engellemelerin düzeltilmekte olduğuna ilişkin açıklaması.