Yapay zekâ ajanlarının hızı mevcut güvenlik modellerini zorluyor: Otonom kontrol öne çıkıyor

Yapay zekâ (AI) ajanlarının harici araç ve verilerle insanlardan daha hızlı çalışması, insan onayı ve olay sonrası müdahaleye dayanan mevcut siber güvenlik modellerinin sınırlarını ortaya çıkarıyor. Güvenlik sistemlerinin de AI ajanlarının otonom eylemlerini gerçek zamanlı olarak sınırlayıp kaydedecek şekilde değişmesi gerektiği belirtiliyor.

TechCrunch, 23'ünde Index Ventures'ın siber güvenlik ve kurumsal yazılım yatırımlarından sorumlu ortağı Shardul Shah'ın bir podcast yayınında bu değerlendirmeyi yaptığını bildirdi. Shah, Index Ventures'ın siber güvenlik ve kurumsal yazılım alanlarına yatırım yaptığını ve bulut güvenliği şirketi Wiz'in çeşitli yatırım turlarına katıldığını belirtti.

Mevcut güvenlik sistemleri genel olarak bir kişinin uyarıyı inceledikten sonra müdahale edilip edilmeyeceğine karar verdiği bir yapıya dayanıyor. Bu yöntemde analiz ve onay için geçen süre, müdahale sürecinin doğal bir parçası olarak kabul ediliyor.

Ancak AI ajanları yalnızca komutları yorumlamakla kalmıyor; harici araçları çağırabiliyor, verilerle çalışabiliyor ve birden fazla görevi art arda yürütebiliyor. Bu nedenle saldırı ve savunma süreçlerinde insanın kontrol için harcadığı süre, yeni bir güvenlik açığına dönüşebilir.

Shah, insanların periyodik olarak müdahale ettiği mevcut güvenlik yöntemlerinin AI ajanlarının hızına yetişmekte zorlanacağını söyledi. Ajanlar iş sistemlerine ve güvenlik araçlarına doğrudan bağlandıkça, insan onay süreçleriyle otomatik yürütme arasındaki boşluğun nasıl yönetileceği önem kazanıyor.

AI güvenliği ve kontrol dışı ajanlara ilişkin endişeler artarken, ilgili girişimlere de sermaye akışı sürüyor. TechCrunch, Instinct ve Simile'ın geçmişte açıklanması zor olacak ölçekte yatırım aldığını ve yüksek şirket değerlemelerine ulaştığını aktardı.

Ancak TechCrunch, Simile'ı sanal kullanıcılar üzerinden pazarlama ve ürün araştırma hizmeti geliştiren bir girişim olarak tanımladı. Şirketin faaliyet alanının AI güvenliği şirketi Instinct'ten farklı olduğunu bildirdi.

Büyük ölçekli satın almalar da güvenlik teknolojisinin önemini gösteren örnekler arasında yer alıyor. Google, mart ayında bulut ve AI güvenliği şirketi Wiz'i satın alma işlemini tamamladığını açıkladı.

Google, satın almanın çoklu bulut ve AI tabanlı güvenlik yeteneklerini güçlendirmeyi amaçladığını belirtti. İşlemin büyüklüğü TechCrunch tarafından 32 milyar dolar( yaklaşık 43 trilyon won) olarak aktarılırken, Google'ın bildiriminde satın alma fiyatı ayarlamaları da dikkate alınarak 29,5 milyar dolar( yaklaşık 39,943 trilyon won) olarak yer aldı. Google'ın resmi açıklaması ile ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) bildirimi arasındaki fark, işlem koşullarının farklı biçimde hesaba katılmasından kaynaklanıyor.

Savunma teknolojileri de AI kullanımı yönünde ilerliyor. Palo Alto Networks(PANW), çeşitli AI modellerini kullanarak müşterilerin sistemlerindeki güvenlik açıklarını tespit eden ve düzeltme önerileri sunan abonelik tabanlı bir hizmet başlattı. Axios hizmeti haberleştirdi.

Palo Alto Networks, hizmette Anthropic'in modelleriyle OpenAI ve OpenWeights modellerini birlikte kullandığını açıkladı. Bu gelişme, güvenlik ürünlerinin tek bir tespit işleviyle sınırlı kalmayıp açıkların analizini ve düzeltme önerilerini de otomatikleştiren bir yapıya dönüştüğünü gösteriyor.

Ancak AI'ı savunma amacıyla kullanmak, riskleri tek başına ortadan kaldırmıyor. Anthropic, eylül ayındaki tehdit raporunda insan müdahalesi olmadan erişim izinlerini yenileyen veya bulut depolama alanlarını toplayan otomatik saldırı örnekleri gözlemlediğini açıkladı. Anthropic'in tehdit raporu, ajanların sahip olduğu izinlerin ve eylem alanlarının ayrıca yönetilmesi gerektiğine dikkat çekti.

AI ajanlarının güvenliğinde erişim izinlerinin kapsamı, harici araç kullanım kayıtları ve görev durdurma prosedürleri temel yönetim alanları olarak öne çıkıyor. Bir ajan bir görevi yerine getirirken hangi komutu aldığı ve hangi sistemlere eriştiği kaydedilmezse, olayın nedenini takip etmek zorlaşıyor.

Bu tartışma, yerel sektörü de etkileyebilir. TokenPost daha önce AI ajanlarının dosya değiştirme, komut çalıştırma, arama ve dağıtım işlemlerini gerçekleştirebildiğini haberleştirmişti. İş sistemlerinde yetkilere sahip bir AI çalıştığında, yalnızca hesap yönetimiyle güvenlik kontrolünü tamamlamak mümkün olmayabilir.

Shah, Index Ventures'ın geçmişe kıyasla daha az doğrulamayla AI tabanlı güvenlik şirketlerine yatırım yaptığını söyledi. AI ajanlarının kullanım alanı genişlerken, güvenlik şirketleri arasındaki rekabet yalnızca tespit performansına değil, ajanların yetkilerini sınırlama, eylemlerini kaydetme ve gerektiğinde durdurma becerisine de odaklanıyor.