Meta ve Google’ın açık kaynak yapay zeka modellerinde güvenlik bariyerleri 10 dakikada kaldırıldı

Meta ve Google gibi devlerin geliştirdiği açık kaynak yapay zeka(AI) modellerine yerleştirilen ‘güvenlik önlemleri’nin, sadece herkese açık araçlar kullanılarak dakikalar içinde devre dışı bırakılabildiği ortaya çıktı. Modeller bir kez dağıtıldıktan sonra ‘kontrolün fiilen kaybolması’, AI güvenliği konusunda sorumluluğun kimde olması gerektiği sorusunu yeniden gündeme taşıyor.

Financial Times(FT), AI güvenlik grubu ‘앨리스(ELICE)’ ile birlikte yürüttüğü bir testte, açık kod depolarında bulunan araçlar kullanılarak bu modellerin ‘güvenlik bariyerleri’nin 10 dakikadan kısa sürede kaldırılabildiğini aktardı. Değiştirilen bu sürümler, normalde reddettikleri isteklere cevap verdi ve biyolojik silahlar, ‘zararlı yazılım’ ile kimyasal tehlikeli maddeler gibi son derece hassas konulardaki soruları da yanıtladı. ‘Açık kaynak AI güvenliği’ tartışmalarını alevlendiren de bu sonuçlar oldu.

Bu tablo, ‘açık kaynak AI’ modelleri güçlenip yaygınlaştıkça, geleneksel ‘regülasyon’ yaklaşımlarının etkisinin zayıflayabileceğini gösteriyor. Kapalı modellerin aksine açık sistemler, indirilmeye, değiştirilip yeniden dağıtılmaya açık olduğu için, geliştirici şirketler dağıtım sonrasında ‘güvenlik standartlarını’ fiilen dayatamıyor. Avrupa Birliği’nin ‘AI Yasası’ ile ABD ve İngiltere’de öne çıkan ‘fron-tier model’ düzenleme girişimlerinin de çoğunlukla geliştirme aşamasına odaklandığı ve bu nedenle önemli bir ‘sınıra’ takıldığı yönünde eleştiriler artıyor.

XYO’nun kurucu ortağı Markus Levin, “’Açık model’ bir kez yayımlandığı anda ‘kontrol yetkisi’ çok hızlı el değiştiriyor” diyerek riskin doğasını özetledi. Olas ve Valory’den David Minarsch da, “Yeterli motivasyona sahip bir aktör, bir kez çoğaltılmış ‘model ağırlıklarına’ erişim sağladıysa bunu sürdürür” diyerek, yalnızca geliştirme aşamasını değil; ‘dağıtım, dolaşım ve fiili kötüye kullanım’ aşamalarını hedefleyen bir düzenleme çerçevesinin daha etkili olabileceğini savundu.

Güvenlik şirketi CertiK’in CEO’su Ronghui Gu da, yalnızca ‘geliştirici şirket’ odağındaki yönetişim çabalarının yeterli olmayacağı uyarısında bulundu. Ona göre ‘ticari hosting’ sağlayıcılarının, kurumsal entegrasyon süreçlerinin ve dağıtım kanallarının yönetilmesi çok daha ‘gerçekçi’ bir politika alanı sunuyor. Tüm bu değerlendirmeler, ‘açık kaynak AI’ ekosisteminin inovasyonu hızlandırırken, buna paralel bir ‘güvenlik ve yönetişim’ mimarisi kurulmadığı takdirde yeni ve daha karmaşık riskleri büyütebileceğini bir kez daha gösteriyor.