Chris Hughes, yapay zeka laboratuvarlarına hükümet denetçisi önerdi

Chris Hughes, OpenAI, Anthropic ve Google DeepMind gibi önde gelen yapay zeka laboratuvarlarında hükümet denetçilerinin sürekli görev yapmasını sağlayacak bir 'AI Denetim Ofisi' kurulmasını önerdi. Tasarı, denetim ekiplerinin laboratuvarlara yerleştirilerek yapay zeka modellerinin geliştirme süreçlerini gerçek zamanlı izlemesini öngörüyor.

Öneri, Financial Times'ta yayımlanan bir köşe yazısında yer aldı. Tasarıya göre denetim ekipleri her laboratuvara doğrudan atanacak ve üç yılda bir değiştirilecek.

Denetçilerin düzenli aralıklarla değiştirilmesi, uzun süreli görev sırasında denetçilerle şirketler arasında 'düzenleyici yakalanma' olarak bilinen çıkar ilişkilerinin oluşmasını önlemeyi amaçlıyor. Ancak AI Denetim Ofisi henüz kurulması kesinleşmiş bir kamu kurumu değil; yasalaşma ve uygulama takvimi de belirlenmiş değil.

Öneri, finans sektöründeki sürekli denetim modelinin yapay zeka endüstrisine uygulanması fikrine dayanıyor. Sonradan hazırlanan raporlara veya tek seferlik değerlendirmelere güvenmek yerine, hükümet görevlilerinin model geliştirme süreçlerine erişerek riskleri kontrol etmesi amaçlanıyor.

Hughes, Şubat 2025'te yayımladığı yazısında eğitim maliyeti 100 milyon doları (yaklaşık 135,4 milyar won) aşan büyük yapay zeka modelleri için güvenlik protokolleri, üçüncü taraf doğrulaması, olay bildirimleri ve 'öldürme anahtarı' zorunluluğu getirilmesi gerektiğini savundu. Yazıda, büyük modellerin risklerinin piyasaya sürüldükten sonra değil, geliştirme aşamasından itibaren yönetilmesi gerektiği belirtildi.

AI Denetim Ofisi önerisi, önceki güvenlik önlemlerini uygulayacak ayrı bir kurum ve personel oluşturulmasını öngören genişletilmiş bir tasarı olarak yorumlanabilir. Ancak iki fikrin tek bir yasa tasarısında birleştirildiği doğrulanmadı.

Avrupa Birliği, Avrupa Komisyonu bünyesinde AI Office'i işletiyor. Avrupa Komisyonu, AI Office'in genel amaçlı yapay zeka modellerini değerlendirebildiğini, sağlayıcılardan bilgi ve düzeltici adım talep edebildiğini ve ihlallerde yaptırım uygulayabildiğini belirtiyor.

AI Office, mevcut denetim kurumları gibi sağlayıcılardan bilgi ve önlem talep etme yetkisine sahip olsa da şirketlerin içinde sürekli görev yapan denetçilerden oluşan bir yapıya sahip değil. Hughes'un önerisi bu açıdan mevcut düzenlemelerden farklı olarak şirket içi erişim ve gerçek zamanlı gözetimi öne çıkarıyor.

Birleşik Krallık AI Security Institute da Kasım 2023'ten bu yana en gelişmiş yapay zeka modellerinin ulusal güvenlik ve kamu güvenliğiyle ilgili yeteneklerini değerlendiriyor. Kurum, frontier AI sistemlerini devlet kurumlarının dışarıdan test ettiği bir modelle çalışıyor.

Kurum, en gelişmiş modellerin siber güvenlik, kimya, biyoloji ve otonomi alanlarındaki yeteneklerini hızla geliştirdiğini ve test edilen tüm modellerde güvenlik açıkları tespit edildiğini bildirdi. Geliştirme sahasına denetçi yerleştirilmesi önerisi, bu risklerin model piyasaya çıktıktan sonra değil, geliştirme sürecinde incelenmesi gerektiği görüşüyle örtüşüyor.

Finans sektöründeki sürekli denetim modelinin yapay zekaya uygulanması, risklerin erken tespit edilmesini ve sorumluluğun netleştirilmesini sağlayabilir. Buna karşılık yapay zeka modellerinin karmaşık yapısı ve hızlı güncellenmesi nedeniyle finansal denetim yöntemlerinin doğrudan uygulanmasının zor olduğu da belirtiliyor.

Denetim kurumunun bağlı olacağı yapı, yasal yetkileri, bütçesi, denetçi seçme kriterleri ve şirket sırlarına erişimin kapsamı öneride ayrıntılı şekilde açıklanmadı. OpenAI, Anthropic ve Google DeepMind'in öneriyi desteklediğine veya karşı çıktığına ilişkin resmi bir açıklama da yayımlanmadı.

Kaliforniya'nın büyük yapay zeka modellerine yönelik güvenlik düzenlemesi tasarısı SB 1047, düzenleme tasarlamanın zorluklarını gösteren örneklerden biri oldu. Kaliforniya Valisi Gavin Newsom, 2024'te tasarıyı veto ederken yapay zeka sistemlerinin gerçek kullanım ortamlarıyla risk düzeylerini yeterince ayırt edemediğini söyledi.

AI Denetim Ofisi fikri, kripto varlık, blok zinciri veya çip endüstrileriyle doğrudan bağlantılı bir öneri değil. Mevcut tartışmanın merkezinde, yapay zeka laboratuvarlarına hükümet denetçilerinin yerleştirilip yerleştirilemeyeceği ve bu denetçilerin yetkilerinin ne kadar geniş tutulacağı bulunuyor.

Financial Times'taki köşe yazısının tamamı, Hughes'un doğrudan açıklamalarının bütünü ve önde gelen yapay zeka şirketlerinin resmi tepkileri kamuya açık şekilde doğrulanmadı. AI Denetim Ofisi şu aşamada şirket içi erişim ve gerçek zamanlı gözetimi öne çıkaran bir politika önerisi olarak değerlendiriliyor.