Anthropic siber güvenlik özelliklerini kısıtlıyor: Çin menşeli yapay zekâ kullanım örnekleri

Anthropic, siber güvenlik odaklı yapay zekâ özelliklerine risk seviyesine göre sınırlama getirirken, erişimi görece kolay olan Çin menşeli yapay zekâ modellerinin savunma çalışmalarında kullanıldığı örnekler ortaya çıktı. Ancak Çin menşeli modellerin ABD modellerinden daha güvenli veya daha başarılı olduğu sonucuna varılmadı.

Anthropic, 12 Haziran'da ABD hükümetinin ihracat kontrolü talimatı doğrultusunda Claude Fable 5 ve Mythos 5'e erişimi durdurdu. Karar, yabancı uyrukluların modellere erişimini sınırlamaya yönelikti. Anthropic daha sonra ihracat kontrollerinin kaldırıldığını açıkladı. Ayrıntılar Anthropic'in duyurusunda yer aldı.

Anthropic, 30 Haziran'da Fable 5'i yeniden dağıtırken siber güvenlik taleplerini dört risk seviyesine ayırdığını belirtti. Kötü amaçlı yazılım geliştirme ve saldırıların otomatikleştirilmesi gibi yüksek riskli işlemler engellenirken, savunma amacıyla güvenlik açıklarının tespit edilmesine sınırlı ölçüde izin veriliyor. Yeni sınıflandırıcının belirli kaçış tekniklerinin yüzde 99'undan fazlasını engelleyecek şekilde tasarlandığı belirtildi.

Siber güvenlikte savunma ve saldırı için aynı teknikler kullanılabiliyor. Güvenlik açıklarını bulmak ve kodu düzeltmek güvenliği güçlendirmek için gerekli olsa da bu işlemler saldırı yollarını belirlemek veya istismar kodu oluşturmak için de kullanılabiliyor.

Anthropic, sızma testleri, yetki yükseltme ve istismar geliştirme gibi yüksek riskli çift kullanımlı çalışmaları prensip olarak engellediğini açıkladı. Güvenlik önlemlerine ilişkin ayrıntılar Anthropic'in belgelerinde yer aldı.

Bu tür sınırlamalar, güvenlik araştırmacılarının başka modeller aramasına yol açabiliyor. TokenPost'un daha önce yayımladığı OpenAI'nin siber güvenlik özelliklerine yönelik sınırlamaların ardından Çin menşeli yapay zekâ modellerinin kullanımına ilişkin haberde de erişim kısıtlamalarıyla alternatif model seçiminin aynı süreçte ilerlediği aktarılmıştı.

DeepSeek, API fiyat listesini yayımlarken Hugging Face, temmuz ayındaki güvenlik olayını analiz ederken Çin menşeli açık ağırlıklı GLM 5.2 modelinden yararlandı. Hugging Face, kapalı modellerin güvenlik önlemlerinin saldırı talimatları ile olay müdahalesi amacıyla yapılan analizleri birbirinden ayıramadığını ve bunun soruşturma çalışmalarını engellediğini açıkladı. DeepSeek API fiyat listesi ile Hugging Face'in olay analizinde doğrulanan noktalar, fiyat ve erişilebilirlik ile soruşturma amaçlı kullanım örnekleri oldu.

Çin menşeli modelleri yalnızca erişilebilirlik ve maliyet açısından alternatif olarak değerlendirmek zor. Booz Allen Hamilton, haziran ayında dört Çin menşeli büyük dil modeliyle bir ABD modelini 2.800'den fazla test ve yaklaşık 450 bin satır kod üzerinden karşılaştırdı.

Çin menşeli dört modelden üçü, ABD hükümeti kullanıcılarının varsayıldığı taleplerde daha savunmasız kod üretti. Ancak bu sonuçlar Booz Allen tarafından tasarlanan testlere dayanıyor ve tüm Çin menşeli modellere veya gerçek işletim ortamlarına genellenip genellenemeyeceği doğrulanmadı. İlgili sayılar Booz Allen analizinde yer aldı.

ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA), Ulusal Güvenlik Ajansı (NSA) ve Federal Soruşturma Bürosu (FBI), Çin menşeli yapay zekâ şirketlerinin ABD'nin öncü modellerindeki yetenekleri büyük ölçekte çıkarmaya yönelik model damıtma faaliyetleri yürüttüğünü öne sürdü. Damıtma, büyük bir modelin yanıtlarından yararlanarak daha küçük ve daha ucuz bir modeli eğitme yöntemi olarak tanımlanıyor.

ABD kurumlarının iddiasına göre Çin menşeli şirketler bu faaliyetleri 2024 sonundan itibaren yürüttü. İddialara ilişkin somut kanıtların ve hukuki değerlendirmenin ayrıca incelenmesi gerekiyor. Açıklamalar CISA, NSA ve FBI'ın ortak tavsiye metninde yer aldı.

Çin Ticaret Bakanlığı, 9 Eylül'de ABD tarafının iddialarının olgusal ve hukuki temelden yoksun olduğunu savundu. Çin tarafı, model damıtmanın birçok yapay zekâ şirketi tarafından kullanılan genel bir teknik olduğunu ve ABD'nin bu konuyu yapay zekâ sektörünü ve bilgi işlem kaynaklarını tekelleştirmek için bahane olarak kullandığını ileri sürdü. Karşı açıklama Çin Ticaret Bakanlığı'nın duyurusunda yer aldı.

Reddit topluluğu kullanıcıları arasında, ABD şirketlerinin erişim engellerinin savunma amaçlı güvenlik araştırmalarını zorlaştırabileceği yönündeki görüşlerle Çin menşeli modellerin veri işleme ve güvenlik özelliklerine ilişkin endişeler karşı karşıya geldi. Bu değerlendirmeler Reddit topluluğundaki kullanıcı görüşlerine dayanıyor.

Güvenlik çalışmalarında model seçilirken yanıt kalitesi ve maliyetin yanı sıra veri işleme yöntemi, erişim kontrolü ve denetim özellikleri de incelenmeli. Özellikle Türkiye'deki güvenlik çalışmalarında belirli bir model kullanılmadan önce modelin güvenliği ve işletim ortamına uygunluğu ayrıca değerlendirilmelidir.

Şu ana kadar ortaya çıkan tablo, ABD yapay zekâ modellerinin yüksek riskli siber güvenlik özelliklerini sınırladığı dönemde bazı Çin menşeli modellerin fiyat ve erişilebilirlik açısından kullanıldığı yönünde. Çin menşeli modellerin Türkiye'deki güvenlik çalışmalarına daha uygun olduğunu gösteren kanıtlar ile ABD düzenlemelerinin bu modellere yönelik kullanımı ne ölçüde artırdığı henüz doğrulanmadı.