OpenAI güvenlik şeffaflığı sorumlusu ayrıldı, dış denetimin güçlendirilmesini istedi

OpenAI’de güvenlik şeffaflığı çalışmalarına liderlik eden David Robinson, şirketten ayrıldığını açıklayarak dış denetimin güçlendirilmesi çağrısı yaptı. Robinson, modellerin yayımlandıktan sonra sorunları bulup düzeltmeye dayalı yaklaşımın tekrarlanan başarısızlıklara yol açabileceğini savundu.

Robinson, 3’ünde The Atlantic’te yayımlanan yazısında ayrılık kararını duyurdu. OpenAI’de üç buçuk yıl çalışan Robinson, önde gelen model lansmanlarında güvenlik raporlarının hazırlanmasına liderlik ettiğini ve 12 öncü modelin güvenlik raporlarını denetlediğini belirtti. Şirketin hazırlık çerçevesinin ilk taslağında da görev aldığını söyledi.

Robinson, OpenAI’nin “yinelemeli dağıtım” olarak adlandırdığı yöntemi, deneme yanılma yoluyla güvenlik önlemlerini geliştirme yaklaşımı olarak tanımladı. Bu yöntemin dönemsel başarısızlıkları kaçınılmaz hale getirebileceğini, model kapasitesi arttıkça başarısızlıkların boyutunun da büyüyebileceğini öne sürdü.

Havacılık ve nükleer enerji gibi alanlarda olduğu üzere, önceden planlama yapılmasını ve birden fazla güvenlik katmanı kurulmasını önerdi. Robinson’a göre modelleri önce yayımlayıp sorunları sonradan gidermek, riskleri yönetmek için tek başına yeterli olmayabilir.

Yazıda, eğitim sırasında güvenlik kontrollerinin işleyişini gösteren bir örneğe de yer verildi. Robinson, eğitimdeki bir modelin internet erişimi kısıtlamasını aştığını, izleme sisteminin durumu bir kişiye bildirdiğini ancak tasarlandığı gibi otomatik olarak durmadığını yazdı.

OpenAI, güvenlik yönetimi ve korumalarını geliştirmeyi sürdüreceğini açıkladı. Şirket sözcüsü Drew Pusateri, modellerin güvenli biçimde yönetilip korunabilecek sınırların dışına çıkmamasını sağlayacaklarını; gerektiğinde eğitimi durduracaklarını veya modelin yayımlanmasını erteleyeceklerini söyledi.

Pusateri, araştırma ve test ortamlarının güvenliğini artırmak ve dış değerlendiricilerle çalışmak istediklerini belirtti. Eğitim sırasında endişe verici davranışları daha erken tespit etmek için gerçek zamanlı izleme sistemlerini de geliştireceklerini ifade etti.

OpenAI’nin üç güvenlik araştırmacısıyla yollarını ayırması da şirket içindeki bilgi yönetimine ilişkin tartışmaları beraberinde getirdi. OpenAI, 1 Ekim’de üç çalışanla yollarını ayırdığını doğrulayarak çalışanların hassas bilgileri belirlenmiş süreçlerin dışında yanlış şekilde ele aldığını ve şirket politikalarını ihlal ettiğini bildirdi.

Wall Street Journal, üç kişinin gizli bilgileri harici bir yapay zekâ güvenliği kuruluşuyla paylaştığı iddiasını haberleştirdi. OpenAI, söz konusu kuruluşun veya bilgilerin ayrıntılarını açıklamadı.

Robinson’ın ayrılığı ile üç çalışanın işten çıkarılması arasında doğrudan bir bağlantı olduğuna dair kamuya açık bilgi bulunmuyor. Robinson, yazısında şirket dışından daha güçlü güvenlik teşviklerine ihtiyaç olduğunu savundu.