OpenAI, Kaliforniya’ya Yapay Zekâ İçin Acil Durdurma ve Bağımsız Denetim Önerdi

OpenAI, Kaliforniya’da yapay zekâ modelleri için acil durdurma kontrolleri ve yıllık bağımsız denetimler getirilmesini de içeren bir öneriyle SB 53 eyalet yasasının güçlendirilmesini istedi.

OpenAI, 20 Ekim’de Kaliforniya Valisi Gavin Newsom’a bir mektup gönderdi. The Information’ın haberine göre mektupta acil durdurma kontrolleri, yıllık bağımsız denetimler ve siber güvenliğin güçlendirilmesi önerileri yer aldı. Kaza bildirim koşullarının kesin ifadeleri, kamuya açık mektubun tam metninde doğrulanamadı.

SB 53, öncü yapay zekâ geliştiricilerinden güvenlik çerçevelerini açıklamalarını ve belirli ciddi güvenlik olaylarını eyalet yönetimine bildirmelerini istiyor. Yasa, önemli riskleri bildiren ihbarcıları da koruyor. Vali Newsom yasayı Eylül 2025’te imzaladı. Acil durdurma kontrolleri ve yıllık bağımsız denetimler mevcut yasanın zorunlu tuttuğu hükümler değil; OpenAI’nin ek önerileri.

Mektupta, şirketlerin güvenlik çerçevelerinin öncü modellerin otomatik yapay zekâ araştırma ve geliştirme kabiliyetlerini de ele alması gerektiği belirtildi. OpenAI, eylül ayında yayımladığı politika yazısında, Mart 2028’e kadar insan gözetiminde çalışacak otomatik bir yapay zekâ araştırmacısı geliştirmeyi hedeflediğini açıklamıştı.

OpenAI, 2025’te Kaliforniya’daki düzenleme görüşmeleri sırasında eyaletler arasında farklı kuralların inovasyonu yavaşlatabileceği endişesini dile getirmişti. Şirket, Eylül 2026 tarihli politika yazısında zorunlu federal yapay zekâ güvenliği düzenlemeleri çağrısı yaptı; federal adımlar atılana kadar eyalet yönetimlerinin düzenleme boşluklarını kapatmasını da desteklediğini bildirdi. OpenAI o dönemde SB 53’e ve bağımsız denetim hükümlerine desteğini de açıklamıştı.

Vali Newsom’un Eylül 2026 tarihli kararnameyle görevlendirdiği uzmanlardan, yasanın güçlendirilmesine yönelik öneriler hazırlamaları istendi. Öneriler arasında bağımsız doğrulama kuruluşlarının sahada görevlendirilmesi ve düzenli değerlendirme yapması, güvenlik çerçeveleri ile risk değerlendirmelerinin dışarıdan doğrulanması ve acil durdurma düzenekleri bulunuyor. Bu süreç, önlemlerin yürürlüğe konması değil, ek önerilerin değerlendirilmesi niteliği taşıyor.

Bağımsız doğrulamanın ne kadar etkili olacağı, sektördeki önceki tartışmalarda da gündeme geldi. Yayımlanan bir açık mektupta, yapay zekâ güvenlik değerlendirme ekiplerine gerçek erişim ve koruma sağlanması istendi. Kaliforniya’nın daha önce değerlendirdiği SB 1047’ye yönelik itirazlarda ise düzenleme yükünün inovasyonu sekteye uğratabileceği savunulmuştu. Vali Newsom tasarıyı 2024’te veto etmişti.