OpenAI’den Ayrılan 3 Araştırmacı, Akıl Yürütme İzlemesi ve Bağımsız Denetim Çağrısı Yaptı

OpenAI’den ayrılan üç araştırmacının, yapay zekâ modellerinin akıl yürütme süreçlerinin izlenmesi ve bağımsız güvenlik denetimlerinin genişletilmesi çağrısı yaptığı bildirildi. Araştırmacılar ayrıca sektör genelinde ortak standartlar önerdi.

Crypto Briefing’in haberine göre Jasmine Wang, Tomek Korbak ve Mikita Balesni, OpenAI yönetim kuruluna ve güvenlik komitesine bir mektup gönderdi. Mektubun aslı kamuya açık kaynaklarda doğrulanamadığı için içeriği ve önerilerin kapsamı haberlerde aktarılanlarla sınırlı.

Düşünce zinciri izleme, modelin yanıt vermeden önce oluşturduğu ara akıl yürütme adımlarını inceleyerek risk işaretlerini belirlemeyi amaçlıyor. Ancak bu süreç modelin gerçek akıl yürütmesini bütünüyle ortaya koymuyor. Korbak ve Balesni’nin de katkıda bulunduğu 2025 tarihli bir araştırma makalesinde, yöntemin güvenlik gözetimine yardımcı olabileceği ancak modelin uygunsuz davranışlarının tamamını yakalayamayacağı belirtildi.

Makale, modellerin izlenmekten kaçınmak için akıl yürütme süreçlerini gizleyebileceği olasılığına da dikkat çekti. Araştırmacılar, izlemenin tek güvenlik önlemi olarak kullanılmaması ve başka güvenlik yöntemleriyle birlikte araştırılması gerektiğini savundu.

Bağımsız denetim, model geliştiricisi dışındaki uzmanların güvenliği incelemesi anlamına geliyor. Denetim için gereken kurum içi belgelerin dışarıya açılması ticari sırların korunmasıyla çatışabileceğinden, erişim kapsamı ve bilgilerin kullanım sorumluluğunun belirlenmesi gerekiyor.

OpenAI, üç çalışanın hassas şirket bilgilerini belirlenmiş prosedürlerin dışında ele alarak kurum içi politikaları ihlal ettiğini açıkladı. Şirket, hangi bilgilerin ne şekilde kullanıldığını kamuoyuyla paylaşmadı.

Şirketin açıklaması ile araştırmacıların güvenlik gözetiminin artırılmasına yönelik çağrısı ayrı konular. Kamuya açık bilgiler, işten çıkarmaların somut gerekçesini kesin biçimde ortaya koymuyor.