Nadella: Şirketler yapay zekâ modellerini iç güvenlik riski olarak yönetmeli

Şirketler, yapay zekâ modellerini iç güvenlik riskleri yönetimine dahil etmeli ve yetkili kişilerin ajanları istedikleri zaman duraklatıp sonlandırabilmesini sağlamalı. Model hataları veya saldırganların bu modelleri kötüye kullanması, hassas verileri ve kritik iş süreçlerini etkileyebilir.

Odaily’nin 12’sinde saat 15.52’de yayımladığı habere göre, Microsoft($MSFT) CEO’su Satya Nadella, şirketlerin yapay zekâ güvenliğini nasıl yönetmesi gerektiğini açıkladı. Nadella, “Şirketler yapay zekâ modellerini iç güvenlik riski olarak yönetmeli” dedi. Bu yaklaşım, model sağlayıcılarının güvenlik taahhütlerine bel bağlamak yerine şirketlerin kendi kontrol mekanizmalarını kurması gerektiğine işaret ediyor.

Nadella, model ile ajanların çalıştırıldığı sistemi birbirinden ayırmayı, veri erişimi ve araç kullanım izinlerini model dışındaki sistemlerden denetlemeyi önerdi. Önemli işlemlerin değiştirilemeyecek ve insanların inceleyebileceği kayıtlarla belgelenmesi gerektiğini de belirtti.

Dağıtım aşamasından itibaren modelin ele geçirilmiş olabileceğinin hesaba katılması gerektiğini vurgulayan Nadella, yetkili kişilerin ajanları istedikleri zaman duraklatıp sonlandırabilmesini istedi. Sürekli güvenlik testleri yapılmasını ve güvenlik olaylarının açıklanmasını da tavsiye etti.