Anthropic 5 biyosilah riskli araştırmayı engelledi, ekip rakip yapay zekaya geçti

Anthropic, biyolojik silah geliştirmeye yol açabilecek bir araştırma girişimini engellediğini açıkladı ancak araştırmacıların birkaç gün içinde rakip bir yapay zeka modeline geçtiği bildirildi. Bu vaka, üretken yapay zekanın güvenlik önlemlerinin tek bir şirketin engellemesiyle kontrol altına alınmasının zor olabileceğini gösteriyor.

Anthropic, 10'unda yayımladığı tehdit istihbaratı raporunda, yapay zeka modeli Claude kullanılarak yürütülen biyoloji araştırmalarına ilişkin 5 vakayı tespit edip engellediğini açıkladı. AP (Associated Press) haber ajansının haberine göre, söz konusu vakalardan birinde sunulan bir araştırma fonu başvurusu, chikungunya virüsünün bulaşıcılığını ve bağışıklıktan kaçma özelliklerini artırmayı amaçlayan işlev kazandırma (gain-of-function) araştırmasını konu alıyordu.

BeInCrypto'nun haberine göre, Anthropic'in Claude desteğini kesmesinin ardından söz konusu araştırma ekibi birkaç gün içinde rakip bir modele geçti. Anthropic, en yeni modellerinde çift kullanımlı (dual-use) biyoloji araştırmalarına yönelik sorguları kısıtlayan koruma önlemlerini güçlendirdiğini belirtti.

Yorum: Bu vaka, yapay zeka güvenliği yönetişiminde önemli bir sorunu ortaya koyuyor; bir şirket sorunu tespit edip engellese bile, diğer platformlarda benzer bir denetim mekanizması bulunmadığı sürece, kötüye kullanma riski taşıyan kullanıcılar kolaylıkla başka bir hizmete yönelebiliyor. Üretken yapay zeka modellerinin yaygınlaşmasıyla birlikte, şirketler ve sektörler arası ortak bir izleme mekanizması kurulması önümüzdeki dönemde sektörün karşılaşacağı önemli bir mesele olabilir.