İngiltere Parlamentosu’nda AI güvenlik testleri ve olay bildirimi zorunluluğu görüşülüyor

İngiltere’de güçlü AI modelleri için piyasaya sürülmeden önce güvenlik testlerinin ve güvenlik olaylarının bildirilmesinin zorunlu olup olmayacağı parlamentoda gündeme geldi. Bağımsız bir değerlendirme kurumuna geliştiricilerden bilgi isteme ve modelin piyasaya çıkışını durdurma yetkisi verilmesi de tartışılıyor.

İngiltere Avam Kamarası İşletme, Yenilik, Bilim ve Ticaret Komitesi, 13 Ekim’de AI güvenliği ve yönetişimi konulu halka açık bir kanıt oturumu düzenledi. OpenAI, Anthropic, Google DeepMind ve Meta temsilcilerinin yanı sıra İngiltere AI Güvenlik Enstitüsü (AISI) ve hükümet yetkilileri de oturuma katıldı. Komitenin yayımladığı toplantı gündeminde şirketlerin gönüllü öz düzenlemesi ile yasal yükümlülüklerin karşılaştırılması, bağımsız testler, güvenlik olaylarının zorunlu bildirimi ve modelin piyasaya çıkışını durdurma yetkisi yer aldı.

Gündem, oturumda ele alınacak soruları sıralıyor ancak şirketlerin yanıtlarını içermiyor. OpenAI ve Anthropic temsilcilerinin katılmış olması, bu şirketlerin bağlayıcı kuralları desteklediği veya belirli bir düzenleme önerisi sunduğu anlamına gelmiyor.

Şirketlerin yükümlülükleri, düzenlemenin kapsamına göre değişebilir. Tartışmanın bir boyutunu, aynı standartların tüm AI hizmetlerine mi uygulanacağı, yoksa belirli kapasite veya risk eşiklerini aşan modeller için ön değerlendirme ve güvenlik yönetimi sorumluluklarının mı artırılacağı oluşturuyor. Komitenin yayımladığı gündemde eşiklerin nasıl belirleneceği veya ihlallerde hangi yaptırımların uygulanacağı açıklanmadı.

AISI’nin değerlendirme yetkisi ve bu yetkinin yaptırım gücü de gündemde. Komite, AISI’nin modellere erişerek risk değerlendirmesi yapabildiğini, ancak geliştiricileri bilgi paylaşmaya zorlayacak ya da bir modelin piyasaya çıkışını durduracak yetkilere mutlaka sahip olmadığını belirtti. Gönüllü iş birliğine dayanan değerlendirmeler ile yasal yükümlülük kapsamındaki değerlendirmeler, geliştiricilerin katılım biçimi ve kurumun müdahale alanı bakımından farklılık gösteriyor.

Ulusal güvenlik çerçevesi de tartışmanın arka planında yer alıyor. MI5, ekimde AI Tehdit Değerlendirme Merkezi’nin (AITAC) kurulduğunu duyurdu. Merkez, AISI ve Ulusal Siber Güvenlik Merkezi (NCSC) dahil çeşitli kurumların uzmanlığını bir araya getirerek AI ile bağlantılı ulusal güvenlik tehditlerini değerlendirecek ve hükümet birimlerine analiz sunacak.

MI5’in açıkladığı AITAC görevleri tehdit değerlendirmesi ve hükümete destek sağlanmasıyla sınırlı. Duyuruda şirketleri düzenleme veya modellerin piyasaya çıkışını durdurma yetkisinden söz edilmedi. İngiltere Parlamentosu’ndaki tartışma, güvenlik değerlendirmelerinin şirketlerin gönüllü yönetimine mi bırakılacağını, yoksa yasal yükümlülükler ve bağımsız bir kurumun yetkileriyle mi destekleneceğini ele alıyor.