Çin ve Rusya'nın Claude'u kötüye kullandığı iddia edildi, Anthropic açıkladı

Anthropic, Çin ve Rusya ile bağlantılı grupların yapay zeka modeli Claude'u siber saldırılar, geniş çaplı gözetleme, propaganda faaliyetleri ve silah geliştirme amacıyla kullanmaya çalıştığı vakaları açıkladı.

Anthropic, 10'unda yayımladığı tehdit istihbaratı raporunda, 2025 Aralık ile 2026 Ağustos arasında tespit edilen kötüye kullanım vakalarını ele aldığını belirtti. Raporda, Çin bağlantılı bir grubun sosyal medya verilerini analiz ederek gözetleme hedefleri seçtiği vaka ile Rusya bağlantılı bir grubun Ukrayna hükümet kurumlarını, drone üreticilerini ve Avrupa diplomatik kurumlarını hedef alan siber saldırıları otomatikleştirdiği vaka yer aldı.

Anthropic, füze, silahlı drone ve bomba gibi konvansiyonel silahların geliştirilmesine destek sağlamaya yönelik girişimlerin yanı sıra, birden fazla hesap kullanılarak siyasi etki oluşturulmaya çalışıldığı vakaları da tespit ettiğini açıkladı. Şirket, ilgili hesapları engellediğini, yetkili makamlar ve sektörle bilgi paylaşımında bulunduğunu, ayrıca soruşturma sonuçlarını en güncel modelin güvenlik önlemlerinin güçlendirilmesine yansıttığını belirtti.