Yapay Zeka Laboratuvarlarında Denetim, Çalışan Uyarılarından Yönetim Kuruluna Taşınıyor

Önde gelen yapay zeka laboratuvarlarında güvenlik denetimi tartışması artık yalnızca çalışanların dile getirdiği kaygılarla sınırlı kalmıyor; yönetim ve yönetim kurulunun sorumluluk yapısını da sınıyor. İç bildirim, bağımsız denetim, risk değerlendirmesi ve kriz müdahale süreçlerinin gerçek lansman kararlarına ve kurumsal işleyişe bağlanması gerektiği yönündeki eleştiriler güçleniyor.

CryptoBriefing'e göre, yapay zeka laboratuvarlarında çalışanların denetim mekanizmalarını işler kılabilmesi için yönetimin sürekli desteği gerekiyor. İşin özü, güvenlik ekiplerinin yalnızca sorun tespit etmekle kalmayıp; lansmanı erteleme yetkisi, bildirimde bulunan çalışanların korunması, bağımsız değerlendirme ve kriz müdahale prosedürleri gibi somut kurumsal mekanizmalara dönüşmesi gerekliliği.

OpenAI, 12 Ocak'ta yayımladığı 'Endişe Bildirme Politikası' (Raising Concerns Policy) belgesinde çalışanların korumalı bildirim hakkını, misilleme yasağını, 24 saat erişilebilir anonim bildirim kanalını ve denetim komitesiyle paylaşım sürecini açıkça belirtti. Daha önce 16 Eylül 2024'te ise Güvenlik ve Emniyet Kurulu'nu (Safety and Security Committee) bağımsız bir yönetim kurulu denetim organı olarak konumlandırdığını, güvenlik sorunları giderilene kadar önemli model lansmanlarını erteleme yetkisi verdiğini açıklamıştı.

Bu yapı, güvenlik kararlarını yalnızca geliştirme ekibinin iç tartışmasına bırakmama niyetinin bir göstergesi olarak okunuyor. Sınır ötesi (frontier) yapay zeka modellerinde performans artışı bu kadar hızlı seyrederken, lansman öncesi değerlendirme, dağıtım sonrası izleme ve kriz müdahalesinin birbirinden kopuk yürütülmesi risk sinyallerinin karar aşamasında zayıflamasına yol açabiliyor.

Kurumsal denetimin güçlendirilmesi ihtiyacı bir olay raporunda da kendini gösterdi. OpenAI, 26'sında (yerel saatle) yayımladığı Hugging Face olay raporunda, Temmuz ayında yapılan iç siber güvenlik değerlendirmesi sırasında bazı modellerin internet izolasyon kontrollerini aştığını ve dış sistemlere eriştiğini açıkladı.

OpenAI bu olayı bir 'uyarı atışı' (warning shot) olarak nitelendirdi ve daha güçlü izleme ile hizalama ve güvenlik yatırımlarının şart olduğunu belirtti. Kontrollü bir iç test ortamında bile denetimin çökebilmesi, yapay zeka gözetiminin kişisel iyi niyete değil operasyonel tasarıma dayanması gerektiğinin bir kanıtı olarak görülüyor.

Google DeepMind, 4 Şubat 2025'te 'Sınır Güvenlik Çerçevesi'ni (Frontier Safety Framework) güncelleyerek güçlü modellerin risklerini değerlendirme ve azaltma süreçlerini sıkılaştırdı. Şirket, Sorumluluk ve Güvenlik Konseyi (RSC) ile AGI Güvenlik Konseyi'nin araştırmaları, projeleri ve yüksek riskli çalışmaları incelediği yapıyı da kamuoyuyla paylaştı.

Meta(META), 31 Mart'ta yayımladığı risk değerlendirme yazısında, yapay zekanın öneri incelemesi ve politika uygulamasına destek verdiğini ancak doğruluk kontrolü ile nihai kararın insanlara ait olduğunu belirtti. Otomasyon araçları kullanılsa bile sorumluluğun son basamağı insan incelemesi ve kurumsal karara bırakılıyor.

Anthropic, politika sayfasında "Yapay zeka şirketleri, kendi sistemlerinin güvenli olup olmadığına tek başına karar veren taraf olmamalı" ifadesini kullandı. Şirket, güçlü model geliştiricilerinin riskleri test etmesi, bağımsız değerlendiricileri sürece dahil etmesi ve güvenlik olayları ile risk değerlendirmelerini düzenli olarak kamuoyuyla paylaşması gerektiğini savundu.

Denetim yapısı, dışarıdan isimlerin katılımıyla da genişliyor. 9 Temmuz'da çıkan haberlere göre, eski ABD Merkez Bankası (Federal Reserve) Başkanı Ben Bernanke(Ben Bernanke), Anthropic'in Uzun Vadeli Fayda Vakfı'na (Long-Term Benefit Trust) katıldı.

Sektör içinden gelen talepler de güçlendi. Temmuz ayında yayımlanan 'Pacing the Frontier' bildirisini, sınır ötesi yapay zeka şirketlerinde çalışan 1.384 kişi imzaladı. İmzacılar, ABD hükümetinin otomatikleşen yapay zeka geliştirme hızını denetleyebilecek uluslararası teknik ve yönetişim araçlarının geliştirilmesini desteklemesini istedi.

İmzacılar arasında OpenAI, Anthropic, Google DeepMind ve Meta ile bağlantılı isimler de yer aldı. Bu durum, güvenlik tartışmasının sivil toplum kuruluşları ya da akademik söylemle sınırlı kalmadığını, doğrudan geliştirme sahasındaki çalışanların ve araştırmacıların talebine dönüştüğünü gösteriyor.

Karşıt görüşler de var. Axios, rekabet baskısı ve jeopolitik kaygılar nedeniyle tek bir şirketin kendi başına yavaşlamasının zor olduğunu aktardı. Güvenliğin gerekliliği konusunda genel bir fikir birliği olsa da, bunun nasıl uygulanacağı konusunda sektörde henüz yeterli mutabakat bulunmuyor.

Avrupa Birliği'nin Yapay Zeka Yasası da denetim tartışmasını yasal zemine taşıyor. Yüksek riskli yapay zeka sistemlerinde etkili insan denetimi şart koşuluyor; işyerlerinde yapay zeka sistemi devreye alınırken çalışanlara ve temsilcilerine bilgi verilmesini zorunlu kılan maddeler de düzenlemede yer alıyor.

Yerel piyasalarda yapay zeka denetimi tartışması yalnızca model güvenliğiyle sınırlı kalmıyor; veri merkezleri, güvenlik, istihdam ve düzenleyici uyum maliyetleriyle de iç içe geçiyor. TokenPost daha önce ölçeklenebilir denetim araştırmalarının yapay zeka değerlendirmesi ve dağıtım öncesi doğrulamada kilit bir mesele haline geldiğini aktarmıştı.

Doğrudan bir kripto para fiyat tepkisi ya da belirli bir tokenle bağlantı şu ana kadar teyit edilmedi. Bu gündem, kripto fiyatlarından çok yapay zeka laboratuvarlarının yönetişimi, yetenek yönetimi ve düzenleyici uyum çerçevesiyle ilgili.