Anthropic’ten uyarı: Küçük AI modellerinin IoT cihazlarında kendini kopyalaması aylar içinde mümkün olabilir

Anthropic araştırmacıları, küçük yapay zekâ (AI) modellerinin birkaç ay içinde ticari nesnelerin interneti (IoT) cihazlarında kendini kopyalama becerisi kazanabileceği uyarısında bulundu. Ancak araştırmada gerçek ev aletlerine bulaşarak yayılan bir AI solucanı tespit edilmedi.

Anthropic’in Frontier Red Team ekibinden William Zhou ve Daniel Freeman, 12’sinde yayımladıkları araştırma yazısında AI modellerinin ticari IoT cihazlarında kendini kopyalama olasılığını test ettiklerini belirtti. Araştırmacılar, düşük maliyetli Android TV kutularında küçük bir AI modeli çalıştırdı ve modelin tanımadığı cihazlara uyum sağlayarak nasıl çalışacağını bulup bulamayacağını inceledi. Akıllı fırın, gelecekte hedef alınabilecek IoT cihazlarına örnek olarak gösterildi.

Araştırmacılar, düşük maliyetli 15 Android TV kutusunda modelleri ayrı ayrı çalıştırdı. Ayrıca dokuz donanım türünde 9B modelinin çıkarım yapma becerisini sınadı ve modeli bu türlerin sekizinde çalıştırdı. Buna karşın mevcut modeller, gerçek akıllı TV’lerde güvenilir biçimde kendini kopyalayacak kadar küçük ve güçlü değildi. 30B ve altındaki modeller gerekli görevleri tek tek yerine getirse de bu görevleri baştan sona birleştirirken hata yaptı.

Kopyalanma deneyi, kapalı bir ağdaki emüle edilmiş sekiz Android cihazda yürütüldü. Araştırmacılar saldırı adımlarını kasıtlı olarak kolaylaştırdı. Test edilen açık ağırlıklı modellerden yalnızca GLM-5.2 tüm kopyalanma sürecini tamamladı. Anthropic, bu sonucu gerçek dünyadaki başarı olasılığını gösteren bir oran olarak değil, ulaşılabilecek üst sınır olarak değerlendirmek gerektiğini belirtti.

Araştırmacılar, küçük modellerin performansı geçmişteki hızla gelişmeye devam ederse yıl sonuna kadar GLM-5.2 düzeyine ulaşabileceğini öngördü. Model ağırlıklarının cihazlar arasında aktarılmasıyla çalışan bir kopyalanma sisteminin mümkün olabileceğini de ekledi. Bu, teknolojinin ilerleme hızına dayanan araştırmacıların tahmini.

Böyle bir sistemde tek bir merkezi sunucuyu devre dışı bırakmak, yayılımı tamamen durdurmak için yeterli olmayabilir. Öte yandan Anthropic, kopyalanmanın günler sürebileceğini ve bu nedenle yayılımın yavaş olmasının beklendiğini belirtti. Araştırmanın gündeme getirdiği kaygı, ev aletlerinin şu anda enfekte olduğu iddiası değil; güvenliği zayıf cihazlarda AI modellerinin çalışıp kendini kopyalayabileceği yolların teknik olarak yakınlaşması.

İzole edilmiş sanal ağda bir AI solucanının ortalama 20,4 ana bilgisayara kopyalandığı önceki araştırma, açık ağırlıklı büyük dil modellerini kullanarak ağ içinde saldırı yolları oluşturma ve kopyalanma becerisini sınamıştı. Anthropic’in bu araştırması ise modellerin düşük maliyetli IoT cihazlarında çalışıp çalışamayacağını ve kendini kopyalama adımlarını bir araya getirip getiremeyeceğini inceledi.

Araştırmacılar, internete bağlı ve güvenliği zayıf IoT cihazlarının ilk hedefler arasında yer alabileceğini değerlendirdi. Bulgular, kontrollü testlere dayanan teknik bir inceleme niteliği taşıyor.