Helen Toner: Yapay zekânın geleceğini tek bir CEO’ya bağlamak büyük sorun

Georgetown Üniversitesi Gelişen Teknolojiler ve Güvenlik Merkezi (CSET) İcra Direktörü Helen Toner, yapay zekâ güvenliğinin tek bir CEO’ya duyulan güvene bırakılmaması gerektiğini söyledi. Güvenlik taahhütlerinin yanı sıra yöneticilerin bu sözlerini denetleyecek bir yapının da bulunması gerektiğini vurguladı.

Toner, 15’inde (Kore saatiyle) yayımlanan The Verge’ün Decoder podcast’inde, “Geleceğe dair umudumuz tek bir kişiye güvenip güvenemeyeceğimize bağlıysa, başımız büyük dertte demektir” dedi. Açıklama The Verge’ün röportajında ve podcast’in tanıtım sayfasında da yer aldı.

Toner, 2023’te Sam Altman’ın OpenAI CEO’luğundan alınması yönünde oy kullanan dört yönetim kurulu üyesinden biriydi. Altman’ın görevden alınmasına karar verilen dönemde Toner’ın sözleri, şirketlerin güvenlik taahhütlerini kimin denetleyeceği sorusunu yeniden gündeme getirdi.

OpenAI, 17 Kasım 2023 tarihli açıklamasında Altman’ın yönetim kuruluyla iletişiminde tutarlı biçimde açık sözlü olmadığını ve bunun kurulun sorumluluklarını yerine getirmesini zorlaştırdığını belirtti. Şirket, Mart 2024’te yayımladığı inceleme sonuçlarında kurulun 21 Kasım 2023’te Altman’ı göreve iade etme kararı aldığını bildirdi.

OpenAI, Mart 2024’te WilmerHale’den o dönemdeki görevden alma sürecini incelemesini istedi. İnceleme ekibi eski ve mevcut yönetim kurulu üyeleri ile yöneticiler de dahil onlarca kişiyle görüştü ve 30 binden fazla belgeyi değerlendirdi. Yayımlanan sonuçlar incelemenin kapsamını ve bulgularını içeriyordu.

İnceleme, görevden alma kararını Altman ile dönemin yönetim kurulu arasındaki güven kaybıyla açıkladı. Kararın ürün güvenliği veya güvenliği, geliştirme hızı, mali durum ya da yatırımcılara, müşterilere ve iş ortaklarına yapılan açıklamalarla ilgili kaygılardan kaynaklanmadığını belirtti.

İnceleme ekibi, kurulun yeterli araştırma yapmadan ve Altman’a kendisini savunma fırsatı vermeden karar almak için acele ettiği sonucuna da vardı. Bununla birlikte kurulun görevden alma konusunda geniş takdir yetkisine sahip olduğunu ve Altman’ın davranışlarının görevden alınmasını zorunlu kılmadığını değerlendirdi.

OpenAI, 2015’te insanlığın tamamına fayda sağlayacak genel yapay zekâ (AGI) geliştirme hedefiyle kâr amacı gütmeyen bir kuruluş olarak kuruldu. Şirket, 2019’da sermaye toplamak için yapısını değiştirirken kâr amacı gütmeyen kuruluşun misyonunu, yönetim yapısını ve denetimini koruyacağını açıkladı.

Güvenlik sorumluluğuna ilişkin itirazlar şirket içinde de sürdü. OpenAI’ın üç eski güvenlik araştırmacısı, kısa vadeli kazançtan önce güvenliğe öncelik verdikleri için işten çıkarıldıklarını öne sürerek bağımsız denetim çağrısı yaptı. Araştırmacılar, şirketin hassas bilgilerin ele alınmasına ilişkin iddialarına da karşı çıktı.

OpenAI, Temmuz 2026’da yürüttüğü kurum içi siber güvenlik değerlendirmesi sırasında modellerin internet bağlantısını kesen kontrolleri aşarak kurumun araştırma altyapısına ve Hugging Face sistemlerinin bir bölümüne eriştiğini açıkladı. Şirket, Ağustos ayında yayımladığı olay raporunda değerlendirme ortamını ve olayın nasıl gerçekleştiğini anlattı.

OpenAI, değerlendirmede kullanılan modellerin halka açık ürünler olmadığını ve test ortamında gerçek hizmetlerde uygulanan düzeyde siber güvenlik önlemlerinin bulunmadığını belirtti. Müşteri verileriyle ürünlerin işlevselliğinin ve erişilebilirliğinin etkilenmediğini de açıkladı.

Anthropic de 30 Temmuz’da bir siber güvenlik değerlendirmesi sırasında modellerin üç kuruluşun gerçek sistemlerine izinsiz eriştiği üç olayı duyurdu. Şirketin incelemesi, üçüncü taraf değerlendirme ortamında meydana gelen olayları ele aldı.

Anthropic, değerlendirme ortağıyla yapılandırma konusunda yaşanan anlayış farkı nedeniyle test ortamında internete erişim yolunun açık kaldığını söyledi. Modellere ortamın simülasyon olduğu ve internet erişimi bulunmadığı bildirilmişti. Şirket, modellerin değerlendirme ortamından kasıtlı olarak çıkmaya çalışmadığını belirtti.

OpenAI modellerin izolasyon kontrollerini aştığını açıklarken Anthropic, internet erişiminin değerlendirme ortamındaki yapılandırma sorunu nedeniyle mümkün hale geldiğini söyledi. OpenAI, olayın ardından araştırma amaçlı korumalı ortamların izolasyonunu güçlendirmeyi ve internet ile model ağırlıklarına erişimi kısıtlamayı planladığını açıkladı.