Nadella: Güçlü AI modelleri içeriden tehdit sayılmalı

Microsoft($MSFT) CEO’su Satya Nadella, şirketlerin güçlü AI modellerini potansiyel bir iç tehdit olarak ele alması gerektiğini söyledi.

Bloomberg’in haberine göre Nadella, şirketlere modellerin güvenliğinin ihlal edilmiş olabileceğini varsayarak hazırlık yapmaları çağrısında bulundu. Model geliştiricilerinin güvenlik güvencelerine bel bağlamak yerine erişim izinleri, görev kısıtlamaları, kayıtlar ve izolasyon sınırları gibi denetim araçlarını modelleri kullanan şirketlerin kendilerinin yönetmesi gerektiğini belirtti.

Nadella, bu denetim mekanizmalarının modelin değiştiremeyeceği bir sistem içinde tutulmasını önerdi. Böylece modelin erişim izinlerini veya güvenlik önlemlerini kendi başına değiştirmesi engellenirken şirketler de modelin faaliyetlerini izleyip kontrol edebilir.