ChatGPT lansmanından önce OpenAI çalışanları güvenlik kaygılarını gündeme getirdi

Dış güvenlik araştırmacıları, çalışan hesaplarına bağlı OpenAI iç kod deposunda deneme amaçlı bir değişiklik talebi oluşturdu ancak iç kodu okumadı veya indirmedi. Bu gösterim, ChatGPT’nin lansmanından önce çalışanların gündeme getirdiği kod erişim izinlerine ilişkin kaygıları yeniden tartışmaya açtı.

Güvenlik şirketi Hacktron, 13 Eylül’de yayımladığı inceleme raporunda OpenAI topluluk forumundaki görsel işleme açığı ile OpenAI’nin SSO (tek oturum açma) yapılandırma sorununun bağlantılı olduğunu bildirdi.

Araştırmacılar, 25 Temmuz’da forumdaki açığı OpenAI’nin giriş yapılandırmasındaki sorunla ilişkilendirerek birden fazla çalışanın ChatGPT hesabına eriştiklerini belirtti. Ardından GitHub organizasyonuna bağlı çalışanlara ait Codex hesapları üzerinden iç depoya ulaştılar.

Araştırmacılar, şirketin iç monoreposunda deneme amaçlı PR (pull request) #1186742 oluşturdu. Monorepo, birden fazla projenin kodlarının tek bir depoda yönetildiği yapıyı ifade ediyor.

Hacktron, depoya erişimin mümkün olduğunu gösterdikten sonra testi durdurduğunu açıkladı. Raporda, açığın bulunmasından depo erişiminin kanıtlanmasına kadar 72 saatten kısa süre geçtiği belirtildi.

OpenAI, kendi yapılandırma sorununa ilişkin hata ödülü ödediğini, forum yazılımı Discourse üzerindeki testlerin ise ödül kapsamına dahil olmadığını söyledi. Araştırmacılar, OpenAI’nin bildirimin ardından kendi tarafındaki sorunu yaklaşık 14 saat içinde düzelttiğini raporda yazdı.

Çalışanların bu konudaki kaygıları, dış araştırmacıların gösteriminden önce de gündeme gelmişti.

Reuters, şirket hakkında bilgi sahibi beş kaynağa dayanarak bazı çalışanların ChatGPT piyasaya sürülmeden önce güvenlik kaygılarını üst yönetime ve yönetim kuruluna ilettiğini bildirdi.

Kaynaklar, kod erişim yetkisi olan çalışanların görevleriyle ilgisi bulunmayan projelerin teknik ayrıntılarını da görebildiğini söyledi. Endişelerin odağında, depo erişiminin çalışanlara görevleri dışındaki kodları görme imkânı verip vermediği vardı.

Haberde, bazı çalışanların yönetimin güvenlikten çok rakiplerle geliştirme hızına öncelik verdiğini düşündüğü de aktarıldı. Bu değerlendirme, anonim kaynakların çalışanlara atfettiği algıyı yansıtıyordu.

OpenAI, en hassas araştırmaların sıkı erişim denetimi uygulanan ayrı depolarda tutulduğunu söyledi. Şirket, monoreponun model ağırlıklarını veya modellerin temel ayrıntılarını içermediğini ve iç araçların düzenli güvenlik incelemesinden geçtiğini belirtti.

SSO, tek bir kimlik doğrulamasıyla birden fazla hizmete giriş yapmayı sağlayan sistemdir. Bu gösterim, çalışan hesapları ile iç depo arasında hangi işlemlerin yapılabildiği sorusunu gündeme getirdi.

Çalışanların itirazlarını yönetim ve yönetim kurulunun sorumluluğuna bağlayan tartışma, TokenPost’un daha önce ele aldığı yapay zekâ araştırma laboratuvarlarında güvenlik gözetimi konusuyla da kesişiyor.

OpenAI, 2 Kasım’da açıkladığı güvenlik planında kritik açık bildirimlerine verilen ödülleri önceki seviyenin 4 katından fazla düzeye çıkaracağını ve Cathedral Systems ile bir sonraki iç güvenlik sprintini yapacağını duyurdu. Şirket, bir önceki sprintte ürün mühendislerinin yüzde 25’ini açıkları bulup düzeltmeye ayırdığını belirtti.

Plana, iç depoların erişim izinlerinin nasıl değiştirildiğine ilişkin bilgi dahil edilmedi.