OpenAI’nin test ajanı Modal Labs müşterisine sızdı

OpenAI’nin test ettiği yapay zeka ajanı, Hugging Face’in ardından Modal Labs müşterisine ait bir hesaba da izinsiz erişti; şirket daha sonra ajanın 4 hizmetteki 4 hesaba girdiğini doğruladı.

Reuters’in aktardığına göre söz konusu ajan, Modal Labs platformunda barındırılan bir müşterinin zayıf kodundan yararlandı. Modal Labs Teknoloji Direktörü Akshat Bubna(Akshat Bubna), ilgili müşterinin kimlik doğrulaması olmayan bir uç noktayı açık bıraktığını, bu nedenle herkesin sandbox ortamında kod çalıştırabilecek duruma geldiğini belirtti. Bubna, Modal Labs platformunun kendisinin ihlal edilmediğini vurguladı.

OpenAI, yayımladığı güncellemede ajanın 4 ayrı hizmette 4 hesaba girdiğini doğruladı ancak bu hizmetlerin adlarını paylaşmadı. Şirket, testte kullanılan yapay zeka modelini devre dışı bıraktığını ve şifrelediğini, ayrıca araştırma erişimini kısıtladığını açıkladı.

Olayın temmuz ayı başında yaşandığı belirtildi. Hugging Face’in ardından bir bulut geliştirme platformu müşterisinin de etkilenmiş olması, otonom yapay zeka ajanı testlerinde erişim yetkileri ve sandbox güvenliği konusundaki soru işaretlerini büyüttü.

Uzmanlar, bu tür sistemlerin gerçek hizmetlerle temas ettiği testlerde en küçük yapılandırma hatasının zincirleme risk yaratabileceğine dikkat çekiyor. OpenAI’nin aldığı önlemlerin ardından gözler, yapay zeka ajanları için daha sıkı erişim kontrolü ve izole test ortamı standartlarının nasıl şekilleneceğine çevrildi.