CertiK’ten ajan tabanlı yapay zekâ güvenliği için yetki ve onay sistemi önerisi

Ajan tabanlı yapay zekânın siber güvenlik ve kara para aklamayı önleme (AML) çalışmalarında inceleme, karar alma ve müdahale görevlerini üstlenmesiyle, şirketlerin yetki ve denetim yapılarını da güçlendirmesi gerektiği belirtiliyor.

CertiK, 5’inde “Yapay Zekâ Çalışanlarının Yükselişi: Ajan Tabanlı Yapay Zekânın Siber Güvenlik, Kara Para Aklamayı Önleme ve Uyumluluğu Değiştirme Biçimi” başlıklı Intel3D raporunu yayımladı. Rapora göre ajan tabanlı yapay zekâ, analistlerin sorunları belirlemesine yardımcı olmanın ötesine geçerek tanımlanmış yetkiler kapsamında inceleme, değerlendirme ve işlem yapabiliyor.

Standart yapay zekâ yardımcıları analiz sonuçları sunarken ajan tabanlı sistemler iş akışlarını doğrudan yürütebiliyor. İnceleme sonuçlarını sınıflandırma veya müdahale sürecini başlatma yetkisi verildiğinde iş akışının bir bölümü otomatikleşiyor.

Sistemin uygulama alanı genişledikçe hatalı kararların gerçek işlemlere dönüşme riski de artıyor. Raporda model hataları, istem enjeksiyonu ve saldırganların yapay zekâyı kötüye kullanması başlıca riskler arasında sayılıyor.

İstem enjeksiyonu, yapay zekâyı mevcut talimatlardan farklı davranmaya yöneltmek için girdilerdeki metin veya verileri kullanan bir saldırı yöntemi. Güvenlik amaçlı yapay zekâ dış girdileri inceleyip müdahale de edebiliyorsa, girdilerin doğrulanması ile işlem yetkilerinin ayrı ayrı kontrol edilmesi gerekiyor.

CertiK; yetki sınırlarının belirlenmesini, insan onayını, karar kayıtlarının tutulmasını ve sorumlulukların paylaşılmasını yönetişimin temel unsurları olarak önerdi. Raporda düzenli kırmızı takım testleri de tavsiye edildi. Bu testlerde sistemin açıkları saldırgan bakış açısıyla inceleniyor.

Raporda, dijital varlık bulunduran veya alım satım yapan yapay zekâ sistemlerinin davranışlarının da denetime tabi tutulması gerektiği vurgulandı. Yapay zekâ hesaplara veya varlıklara erişebiliyorsa, kararlarını hangi yetkilerle aldığını izlemeye imkân veren kayıtların tutulması gerekiyor.

Rapor, yapay zekânın uygulama kapasitesine uygun denetim ve sorumluluk yapıları kurulmasını öneriyor. Önerilerin odağında, kullanım alanı genişlerken uygulanacak kontrol ilkeleri yer alıyor.