Claude'da 7 kötüye kullanım alanı: AI anahtarı hırsızlığı, gizli modele erişim girişimi

Yapay zeka şirketi Anthropic, Claude modelinin kötüye kullanıldığı yedi risk alanını açıkladı. Şirket, en son tehdit istihbaratı raporunda 2025 Aralık ile 2026 Ağustos arasında tespit edip engellediği kötü niyetli faaliyetleri ele aldığını belirtti.

Rapora göre Rusya bağlantılı olduğu değerlendirilen bir saldırgan grup, Ukrayna ve Avrupa'daki hükümet, savunma ve dışişleri kurumları başta olmak üzere 20'den fazla kuruluşu hedef almak için Claude'u kullandı. Anthropic, 'ShinyHunters' ile bağlantılı olduğu düşünülen başka bir grubun ise kurumsal ortamlarda yapay zeka API anahtarlarını çaldığını ve bu anahtarları başka kuruluşlara saldırmak için kullandığını aktardı. Şirket, bu saldırılar sırasında kendi sistemlerinin ihlal edilmediğini vurguladı.

Anthropic, bir saldırganın dört gün boyunca yaklaşık 30 yapay zeka şirketini hedef aldığını, müşterilerden ele geçirdiği anahtarlarla henüz kamuya açıklanmamış Claude modellerine erişmeye çalıştığını fakat tüm girişimlerin 'başarısız' olduğunu bildirdi. Raporda ayrıca gözetim, dolandırıcılık ve sahtekarlık, biyolojik kötüye kullanım, konvansiyonel silah geliştirme ve yasa dışı model damıtma da başlıca risk alanları arasında sınıflandırıldı.