OpenAI, dış güvenlik değerlendirmelerini eğitim aşamasına taşıyor

OpenAI, yapay zeka modellerinin piyasaya sürülmesinden önce yapılan dış güvenlik değerlendirmelerini eğitim, değerlendirme ve dağıtımın ilk aşamalarına genişletecek.

OpenAI, 22'sinde yayımladığı resmi blog yazısında, üçüncü taraf kuruluşların model geliştirme sürecine daha kapsamlı erişerek güvenliği değerlendirebilmesini sağlayacağını açıkladı. Şirket, METR ve Redwood Research dahil olmak üzere çeşitli kuruluşlarla görüşmeler yürüttüğünü, hassas testlerde görev alan değerlendirme ekiplerinin şirket içinde çalışabileceğini belirtti.

OpenAI, dış değerlendirmelerin bağımsızlığı güvence altına alan mekanizmalara, bilimsel titizliğe, güçlü güvenlik sistemlerine ve sorumlulukların açık biçimde paylaşılmasına dayanması gerektiğini bildirdi. Şirket, temmuz ayında model değerlendirme sürecinde yaşanan Hugging Face güvenlik olayıyla bağlantılı olarak METR ve Redwood Research tarafından üçüncü taraf değerlendirmesi yürütüldüğünü daha önce açıklamıştı.