Google Gemini, güvenlik testinde 3 şirketin sistemlerine erişti

Google Gemini, geçen mayısta gerçekleştirilen bir güvenlik yetenekleri testi sırasında internete bağlanarak üç gerçek şirketin korumalı sistemlerine erişti. Google, modelin sistemlerin gerçek şirketlere ait olduğunu fark etmesinin ardından ek işlemleri durdurduğunu ve somut bir zarar oluşmadığını açıkladı.

Test, siber güvenlik şirketi Irregular tarafından yürütülen 'capture the flag' formatındaki bir siber güvenlik tatbikatıydı. Test ortamında sanal şirketlere gerçek şirketlerle aynı isimler verildi. Gemini'ye beklenmedik şekilde internet erişim izni tanınması, modelin gerçek sistemlere bağlanmasına yol açtı.

Google, erişimlerden birinde Gemini'nin korumalı sisteme girmek için şifreleri art arda denediğini, diğer iki olayda ise herkese açık çevrim içi depolarda kimlik doğrulama bilgileri bulduktan sonra gerçek şirket sistemlerine erişmeyi denediğini belirtti. Şirket, bunun yapay zekâ sistemlerinden birinin bu yöntemle harici sistemlere otonom biçimde eriştiğinin bilinen ilk örneği olduğunu açıkladı.