İngiltere AI Bakanı, frontier risklere karşı savunmanın güçlendirilmesini istedi

İngiltere hükümeti, frontier yapay zekânın (AI) siber saldırı, biyokimyasal kötüye kullanım ve insan kontrolünden çıkma risklerine karşı savunma sistemlerinin güçlendirilmesini istedi. AI modellerini önceden test etmenin tek başına yeterli olmadığı belirtildi.

İngiltere AI ve çevrimiçi güvenlikten sorumlu bakanı Kanishka Narayan(Kanishka Narayan), İşçi Partisi konferansında “Savunmayı güçlendirmeli ve inşa etmeliyiz” dedi. Narayan, AI risk değerlendirmelerinin ötesine geçen bir müdahaleye ihtiyaç olduğunu belirterek frontier AI’ın kötü niyetli aktörlerin saldırılarını desteklemesi veya insan kontrolünden çıkması ihtimalini başlıca endişeler arasında gösterdi.

Narayan, Temmuz 2026’da İngiltere Parlamentosu’nda frontier AI’a ilişkin varoluşsal risk senaryolarının “oldukça düşük ihtimal” taşıdığını söyledi. Aynı zamanda AI güvenliği araştırmaları ile ön değerlendirme kapasitesinin artırılması gerektiğini belirtti. İngiltere Parlamentosu’ndaki sözlü ifadede, İngiltere’nin gelişmiş AI modellerine önceden erişerek riskleri değerlendirebilecek konumda olduğunu ifade etti.

İngiltere Hükümeti Bilim Ofisi ile AI Security Institute tarafından hazırlanan ‘AI Scenarios 2030’, AI’ın siber saldırılar, biyokimyasal kötüye kullanım ve insan kontrolünün kaybı yoluyla ciddi veya varoluşsal zararlara yol açabileceğini ortaya koydu. Ancak belge, politika tahmini olarak değil, belirsizlikleri incelemek ve politikaları sınamak amacıyla senaryo çalışması olarak hazırlandı.

Bu nedenle rapor, AI’ın insanlığın yok oluşuna yol açmasını İngiltere hükümetinin resmi tahmini olarak doğrulamıyor. Raporda asıl vurgunun, risk ihtimalinin politika incelemesine alınması olduğu görülüyor.

İngiltere AI Security Institute, frontier modellerin siber amaçlarla kötüye kullanılma ihtimalini, otonom davranışlarını, biyokimyasal risklerini ve hizalanma sorunlarını değerlendiriyor. Otomatik değerlendirmeler ile uzman doğrulamasını birlikte kullanan kurum, gelişmiş modellerin kritik altyapılara yönelik saldırıları veya geniş çaplı siber suçları destekleyip destekleyemeyeceğini inceliyor.

Araştırma gündemine göre bazı siber güvenlik değerlendirmelerinde AI modellerinin başlangıç düzeyindeki görevleri yerine getirme oranı, 2024’ün başında biraz üzerinde olduğu yüzde 10 seviyesinden yüzde 50’ye yükseldi. Modellerin tamamlayabildiği görevlerin uzunluğu da yaklaşık her 8 ayda iki katına çıktı. AI Security Institute araştırma gündemi, bu değişimin güvenlik değerlendirme kapasitesinin artırılmasının arka planını oluşturduğunu belirtiyor.

Tartışma, daha önce Anthropic’te araştırmacı olarak çalışan Jacob Coxon’ın uyarısının ardından genişledi. Coxon, 8 Eylül’de şirketten ayrılırken frontier AI şirketlerinin kendi kendini geliştiren süper zekâ geliştirme yarışına girdiğini savundu.

Coxon’ın paylaşımına görevdeki ve eski AI araştırmacılarından destek gelse de bu görüşü sektör genelinde bir uzlaşı olarak değerlendirmek mümkün değil. Söz konusu iddia, sosyal medya üzerinden dile getirilen kişisel bir görüş niteliğinde ve AI’ın belirli bir tarihe kadar insanlığın yok olmasına yol açacağını gösteren somut kanıtlarla doğrulanmış değil.

Anthropic hizalanma araştırmaları sorumlusu Evan Hubinger(Evan Hubinger) de AI’ın önümüzdeki 10 yıl içinde tüm insanları öldürme ihtimalini kişisel olarak yüzde 10’dan yüksek gördüğünü söyledi. Bu, Hubinger’ın kişisel olasılık değerlendirmesi olup Anthropic’in veya İngiltere hükümetinin resmi tahmini değil.

Karşı görüşler de dile getirildi. Nvidia(NVDA) CEO’su Jensen Huang(Jensen Huang), AI kaynaklı insanlığın yok oluşu iddialarının bilime dayanmayan bir abartı olduğu yönünde açıklama yaptı. PC Gamer, bu değerlendirmeyi CBS News röportajına dayandırarak aktardı ve röportajın orijinal video kaydını da yayımladı.

İngiltere, uluslararası iş birliğine de önem veriyor. İngiltere Başbakanı Andy Burnham(Andy Burnham), 2027’deki G20 dönem başkanlığı sırasında AI’ı temel gündem maddelerinden biri yapacağını ve şeffaflık, erişilebilirlik ile güvenli geliştirme için uluslararası ilkeler ve standartlar oluşturulmasını teşvik edeceğini söyledi.

İngiltere, 2027 G20 Zirvesi’ne Manchester’da ev sahipliği yapacak. Ancak bağlayıcı düzenlemeler veya somut bir anlaşma metni henüz belirlenmedi.

AI risklerine ilişkin tartışma, model geliştirme hızı ile güvenlik doğrulaması arasındaki farkı da gündeme getiriyor. TokenPost’un gelişmiş AI modellerinin siber riskleri artırabileceğine ilişkin önceki haberinde olduğu gibi, AI saldırı kapasitesini artırırken güvenlik ekiplerinin açıkları denetlemesine ve olaylara müdahale etmesine de yardımcı olabilir.

İngiltere hükümeti, üretkenlik artışı ve kamu hizmetlerinin iyileştirilmesi ihtimalini de vurguluyor. Narayan’ın sözünü ettiği savunma güçlendirmesinin somut uluslararası standartlara ve ülke düzenlemelerine dönüşüp dönüşmeyeceği, 2027 G20 görüşmelerinde ele alınacak.