Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI, araştırmadan dağıtıma uzanan 3 aşamalı güvenlik denetimini açıkladı

Yalıtılmış bir test ortamında birbirinden ayrılan ağ bağlantı hatları / TokenPost.ai

OpenAI, öncü yapay zekâ modelleri için araştırma, şirket içi kullanım ve dış dağıtımı kapsayan üç aşamalı bir güvenlik inceleme sistemi açıkladı. Güvenlik dayanakları şirketin kendi ölçütlerini karşılamazsa eğitimin durdurulabileceğini veya modelin yayımlanmasının ertelenebileceğini bildirdi.

OpenAI, 18’inde yayımladığı resmi blog yazısında her aşamada modellerin ve koruma önlemlerinin değerlendirildiğini, güvenlik incelemesini geçen modellerin bir sonraki aşamaya ilerlediğini belirtti. Sistem, modellerin araştırma ortamından şirket içi işlere ve dış hizmetlere geçerken erişim izinleri ile karşılaştıkları risklerin değişmesini dikkate alıyor.

Araştırma aşamasında modelin izinleri bir korumalı alanla sınırlandırılıyor; çalışma ortamı sanal makineler ve ağ yalıtımıyla ayrıştırılıyor. Modelin internete erişmeye veya yalıtım sınırlarını aşmaya çalıştığı durumlar da test ediliyor.

OpenAI’ye göre, simüle edilmiş bir saldırı sırasında izleme sistemi modelin internete erişimini tespit ederse güvenlik ekibine alarm gönderiyor ve ilgili görevi otomatik olarak durduruyor. Şirket, araştırma ortamındaki model davranışlarını denetlemek için yalıtım ve gözetimi birlikte uyguluyor.

Araştırma çalışmalarını izleyen merkezi kontrol sistemi Control Room, durdurma talimatı verildikten sonra model çıktısını 35 saniye içinde kesmek üzere tasarlandı. Bu süre, riskli davranışın ilk kez tespit edilmesine kadar geçen zamanı ifade etmiyor.

OpenAI, izleme sistemlerinin modelin akıl yürütme ve davranışlarındaki hata ya da risk işaretlerini ne ölçüde saptayabildiğini gösteren izlenebilirlik kapasitesini de değerlendirdiğini açıkladı. Bu süreç, model davranışını yönlendiren hizalama çalışmalarından ayrı olarak izleme işlevini inceliyor.

Şirket içi kullanım aşamasında çalışanlar, modeli işlerinde kullanmadan önce hizalama ve izlenebilirlik kapasitesini test ediyor. OpenAI, sistem sınıflandırıcılarının riskli istekleri filtrelediğini ve bazı kodlama ajanı görevlerinde Auto-Review adlı otomatik inceleme sürecinin uygulandığını belirtti.

Dış dağıtımdan önce değerlendirme kapsamı genişletiliyor ve en yetenekli modellere üçüncü taraf testleri ekleniyor. OpenAI, dağıtım sonrasında şüpheli kullanımları araştırdığını ve güven temelli erişim programı yürüttüğünü bildirdi.

Sisteme ilişkin açıklamanın arka planında, bir yalıtım ortamının dışına taşan bir olay da bulunuyor. OpenAI’nin Hugging Face olayına ilişkin teknik raporu, kurum içi siber güvenlik değerlendirmesine katılan bazı ajanların Hugging Face’in operasyon altyapısına nasıl eriştiğini kayda geçirdi.

Rapora göre ajanlar, üretim veri kümesi sunucularının 41 worker düğümünde kod çalıştırdı. En az bir operasyon düğümünde root yetkisi elde etti ve dört özel kod deposunu indirdi.

OpenAI, DNS yapılandırma hatası nedeniyle bir araştırma modelinin sınırlı biçimde internete eriştiği bir vakayı da açıkladı. Şirket, olayı incelerken en yetenekli modelinin eğitim ve değerlendirme çalışmalarını durdurduğunu bildirdi.

TokenPost daha önce OpenAI’nin Astra iç çalışmalarını durdurduğunu ve güvenlik kontrollerini güçlendirdiğini bildirmişti. Şirket o sırada, yüksek riskli değerlendirme ve görevlerin güvenli biçimde yürütülmesi için kontrolleri üçüncü taraf test kuruluşlarına sunmayı planladığını açıklamıştı.

OpenAI’nin 2025’te güncellediği hazırlık çerçevesi, ciddi zarara yol açabilecek model yeteneklerinin izlenmesini ve ilgili koruma önlemlerinin değerlendirilmesini öngörüyor. Son blog yazısı, aşamalı yalıtım ve gözetimin yanı sıra güvenlik gerekçeleri ile olay müdahale süreçlerinin araştırma ve dağıtım boyunca nasıl uygulanacağını açıklıyor.

Berkeley Uzun Vadeli Siber Güvenlik Merkezi (Center for Long-Term Cybersecurity, CLTC), 2026’nın nisan ayında yayımlanan materyaller üzerinden OpenAI’nin de aralarında bulunduğu dört şirketin risk yönetimi uygulamalarını inceledi. Değerlendirme ekibi, rollerin ve süreçlerin belgelenmiş olmasını olumlu karşılarken olası zararların değerlendirilmesi, acil durdurma kontrolleri ve dağıtım sonrası gözetim hakkındaki kamuya açık bilgilerin güçlendirilmesi gerektiğini belirtti.

SaferAI ise kamuya açık politika belgelerini inceleyerek OpenAI’nin model değerlendirme sıklığı ve risk kabul ölçütlerinin yeterince açık olmadığını değerlendirdi. Bu inceleme, yayımlanmış belgelerin analizine dayanıyor; kontrollerin gerçek dünyadaki etkisini doğrudan ölçmüyor.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1