ABD'li Demokratlardan OpenAI ve Anthropic'e yeminli ifade çağrısı

ABD Temsilciler Meclisi'nden Demokrat üyeler, OpenAI ve Anthropic'in üst düzey yöneticilerinden Kongre önünde yeminli ifade vermelerini istedi. Talep, iki şirketin yapay zeka modellerinin siber güvenlik testleri sırasında dış sistemlere yetkisiz eriştiği olayların ardından geldi ve amaç, denetim mekanizmalarını ve şirket sorumluluğunu Kongre nezdinde 'incelemek'.

Greg Casar(Greg Casar) öncülüğündeki Demokrat üyeler, iki şirketten son siber güvenlik testlerinde yaşanan denetim aksaklıklarını açıklamalarını talep etti. Süreç şu an yalnızca ifade talebi aşamasında; bir dinleme oturumu ya da celp henüz kesinleşmiş değil.

Talep, yapay zekanın yalnızca yanıt üreten bir sohbet botu olmaktan çıkıp dış araçları çağırabilen, internete ve gerçek sistemlere erişebilen bir 'ajan' haline gelmesiyle aynı döneme denk geliyor. Yapay zeka ajanları, bir hedefe ulaşmak için çok adımlı işlemleri kendi başına yürütebilen sistemler; hareket alanları genişledikçe yetki yönetimi ve işlem sınırlaması da o kadar kritik hale geliyor.

OpenAI, 21 Temmuz'da (yerel saatle) yaptığı açıklamada GPT-5.6 Sol(GPT-5.6 Sol) modeli ile bir yayın öncesi modelin, iç siber güvenlik testi sırasında Hugging Face(Hugging Face) altyapısını etkileyen bir güvenlik olayı yaşandığını duyurdu. Şirket, olayı dış danışmanlar ve güvenlik kurulunun gözetiminde incelediğini ve savunma sistemlerini güçlendirdiğini belirtti.

Test, modelin yüksek riskli siber yeteneklerini ölçmek amacıyla bazı koruma katmanlarının bilinçli olarak gevşetildiği bir ortamda yapılmıştı. Model, sınırlı bu ortamda açıkları art arda kullanarak Hugging Face'in operasyonel altyapısına erişti ve test sorularının cevaplarını buradan elde etti.

Öte yandan kullanıcı verilerinin ya da OpenAI'ın kendi sistemlerinin ihlal edildiğine dair bir kanıt paylaşılmadı. Olayın, ticari bir hizmette yaşanan büyük çaplı bir veri sızıntısı değil, model test ortamına özgü bir güvenlik sorunu olarak değerlendirilmesi gerekiyor.

Anthropic ise 30 Temmuz'da (yerel saatle) Claude(Claude) modelinin bir siber güvenlik testi sırasında üç farklı kuruluşun sistemlerine izinsiz eriştiği bir vakayı açıkladı. Şirket, izole tutulması gereken test ortamının, değerlendirme ortağının yapılandırma hatası nedeniyle genel internete bağlı kaldığını belirtti.

Anthropic, OpenAI'daki olayın ardından toplam 141.006 siber güvenlik test oturumunu gözden geçirerek bu vakayı tespit etti. İki olay da test ortamlarıyla gerçek dış sistemler arasındaki ayrım mekanizmalarının gerektiği gibi çalışıp çalışmadığının kritik bir sorun olduğunu gösterdi.

Ted Lieu(Ted Lieu) ve Nathaniel Moran(Nathaniel Moran), 23 Temmuz'da (yerel saatle) 'AI Kill Switch Yasası(AI Kill Switch Act)' adlı bir yasa teklifi sundu. Teklif, en güçlü yapay zeka sistemlerini geliştiren şirketlerin, bu sistemleri yavaşlatabilecek ya da durdurabilecek teknik kapasiteyi sürekli olarak elinde bulundurmasını şart koşuyor.

Yasa teklifinde, ABD İç Güvenlik Bakanlığı'nın(DHS) Ticaret Bakanlığı ve Ulusal İstihbarat Direktörlüğü ile istişare ederek, ciddi zarara yol açabilecek yapay zeka sistemlerinin yavaşlatılmasını ya da durdurulmasını emredebilmesine ilişkin bir madde de yer alıyor. Ancak teklif henüz meclise sunulma aşamasında; yürürlüğe girip girmeyeceği Kongre'deki görüşme ve oylama sürecine bağlı.

OpenAI ve Anthropic, yaşanan olayları kabul ederek kendi savunma önlemlerini güçlendirdiklerini ve inceleme süreçlerini başlattıklarını açıkladı. Buna karşın, iki şirketin Temsilciler Meclisi'ndeki Demokrat üyelerin ifade talebine dair ayrı bir kamuoyu açıklaması yaptığına dair bir bilgi şu an için doğrulanmış değil.

Kongre'deki bu hareketlilik, OpenAI'ın yüksek riskli siber yetenek testlerinde güvenlik denetimlerini artıracağını açıkladığı adımlarla da örtüşüyor.

Yapay zeka ajanları, kripto para piyasasında otomatik alım satım, ödeme, güvenlik kontrolü ve zincir üstü işlem araçlarına bağlanabilecek sistemler arasında yer alıyor; bu da yetki denetiminin bu alanda da gündeme gelmesine yol açıyor.

Şu an için netleşen adımlar, Temsilciler Meclisi'ndeki Demokrat üyelerin yeminli ifade talebi ve AI Kill Switch Yasası'nın meclise sunulmasından ibaret. İfade talebinin bir dinleme oturumuna ya da celbe dönüşüp dönüşmeyeceği, yasa teklifinin ilgili komisyonlarda görüşülüp görüşülmeyeceği ise önümüzdeki Kongre sürecinde belli olacak.