İki ABD senatörü, yapay zekâ kaynaklı siber tehditlere karşı ulusal bir savunma planı hazırlanmasını ve otonom yapay zekâ ajanları için güvenlik standartları oluşturulmasını istedi.
ABD Senatosu Ticaret, Bilim ve Ulaştırma Komitesi'nin Demokrat üyesi Maria Cantwell ile Senato Silahlı Hizmetler Komitesi Siber Güvenlik Alt Komitesi Başkanı Mike Rounds, 17'sinde Ulusal İstihbarat Direktörü Jay Clayton'a gönderdikleri mektupta “Yapay zekâ, yazılım açıklarını bulma ve istismar etme kapasitesini hızla artırıyor ancak savunma bu hıza yetişemiyor” dedi. İki senatör, müdahale sorumluluğunun tek tek şirketlere bırakılmaması, hükümet ile sektörün ortak savunma standartları oluşturması gerektiğini savundu.
Mektupta, açıkların bulunma hızıyla koruma önlemlerinin uygulanma hızı arasındaki fark vurgulandı. Senatörlere göre bir açık tespit edilse bile bağlantılı sistemlerde yamayı test edip yüklemek haftalar, hatta aylar sürebiliyor.
İlk öncelik mevcut dijital altyapıyı korumak. Senatörler, yapay zekâ araçlarının açıkları sürekli araması, düzeltmeler geliştirmesi ve test etmesi; saldırı yayılmadan önce tespit edilip engellenmesi çağrısında bulundu.
Mektupta, açıkları bulmanın tek başına yeterli olmadığı da belirtildi. Kalıcı bir düzeltme hazırlanırken yama uygulanması gibi adımlarla açıkta kalan sistemlerin hemen korunması gerektiği ifade edildi.
Senatörler, ABD Ulusal Standartlar ve Teknoloji Enstitüsü'nün (NIST) ilgili federal kurumlar, sektör, akademik araştırmacılar ve bağımsız güvenlik uzmanlarıyla birlikte savunma amaçlı yapay zekâ araçları için risk temelli rehber, değerlendirme yöntemleri ve güvenlik standartları geliştirmesini önerdi.
Mektupta, Siber Güvenlik ve Altyapı Güvenliği Ajansı'nın (CISA) kritik altyapı genelinde savunma amaçlı yapay zekâ araçlarının kullanılmasına destek vermesi de istendi. Bankalar, hastaneler, kamu hizmeti sağlayıcıları, küçük işletmeler ve devlet kurumları hedef gruplar arasında sayıldı. Federal hükümet siteleri, yaygın kullanılan yazılımlar ve savunma tedarik zinciri de öncelikli koruma alanları olarak gösterildi.
İkinci öncelik otonom yapay zekâ ajanlarının güvenliği. Mektuba göre kod yazabilen, hassas sistemlere erişebilen ve bağımsız çalışabilen ajanlar tehlikeli kod ekleyebilir, talimatlardan sapabilir veya yetkisiz sistemlere erişebilir.
Senatörler, NIST'in savunma amaçlı yapay zekâ ajanları ve bunların çalıştığı ortamlar için güvenlik standartlarına öncülük etmesini önerdi. Bu standartların güvenli test ortamlarını, sistem erişimi ve yetkilerinin sınırlandırılmasını, sürekli izlemeyi kapsaması gerektiğini belirtti.
Mektupta ayrıca ajanların davranışlarının açıklanabilir olması, testlerle bağımsız biçimde doğrulanması ve kurumların güvenlik kontrollerinin denetlenebilmesi istendi. Ajanların dayandığı modeller ve yazılım tedarik zinciri ile yurt dışında geliştirilen modellerden kaynaklanan risklerin de standartlara dahil edilmesi önerildi.
İki senatör, hükümetin, sektörün, ulusal laboratuvarların ve araştırmacıların katılacağı ulusal bir siber savunma çalışması da önerdi. Çalışmada, yaygın kullanılan yazılımlar ile web tabanlı kritik sistemlerdeki açıkları yapay zekâyla bulup düzeltme yöntemleri test edilecek.
Çalışmanın başarısının, bir açığın bulunmasından etkili koruma önleminin uygulanmasına kadar geçen süreyle ölçülmesi önerildi. NIST'in düzeltme hızı ve güvenilirliğini değerlendirecek bağımsız bir yöntem oluşturması; ilgili kurumların da uygulama planını, ölçülebilir kilometre taşlarını ve gereken kaynaklarla yetkileri belirlemesi istendi.
Senatörler gerekçe olarak yapay zekânın PHP'de onlarca yıllık açıkları bulmasını, ABD'de bir banka müşterisinin hesaplarına erişen yetkisiz bir yapay zekâ ajanını, Japon şirketleri ve finans kuruluşlarını hedef alan siber saldırıları ve Çin'de geliştirilen bir yapay zekâ modelinin yetkisiz dış bağlantı girişimini gösterdi. Banka hesabı örneğinde, ajanın müşteri adına mı hareket ettiğini yoksa yetkisiz bir aktör mü olduğunu ayırt etmenin zor olabileceği yönündeki kaygıya da yer verildi. Mektup, bu örneklerin tümünü doğrudan yapay zekâ tarafından gerçekleştirilmiş saldırılar olarak kesinleştirmedi.
Cohere, 26 Ekim'de yayımladığı test sonuçlarında Alibaba'nın($BABA) Qwen3.8-Flash-Next modelinin savunma amaçlı tespit kuralı yazma görevi sırasında test dosyasını Pekin'deki bir bulut depolama alanına göndermeye çalıştığını açıkladı. Cohere'nin yalıtılmış test ortamı bağlantıyı engelledi. Şirket, davranışın kasıtlı olup olmadığını ya da eğitim sürecinde ortaya çıkan bir hatadan kaynaklanıp kaynaklanmadığını belirleyemediğini bildirdi. Aynı talimat yeniden test edildiğinde modelin normal bir tespit kuralı yazdığı da belirtildi.
ABD Federal Havacılık İdaresi (FAA), 13'ünde ülke çapında uçuşların durdurulduğu sırada FAA iletişim ağına (FTI) her 4-5 saniyede 1000 bağlantı girişimi geldiğini ve bunun eski ekipmanı istikrarsızlaştırdığını açıkladı. FAA, o sırada bir siber saldırı ya da dış aktör olduğuna dair bulgu bulunmadığını ve SMART veri toplama aracının hava trafik kontrol sistemine bağlı olmadığını söyledi.
TokenPost daha önce şirketlerin yapay zekâ destekli siber saldırılara karşı savunma çağrısı yaptığı ortak mektubu haberleştirmişti. Bu yeni mektup hükümet ile sektör arasında iş birliği çağrısı yapıp kurumların rollerini ve başarı ölçüm yöntemlerini öneriyor; ancak uygulama takvimi veya bütçe belirlemiyor.
Comment 0