OpenAI, siber risk nedeniyle Astra geliştirmesini kısmen durdurdu

OpenAI, yeni nesil yapay zeka modeli Astra'nın ciddi siber saldırı yeteneklerine sahip olabileceği gerekçesiyle, modelle ilgili bazı iç geliştirme çalışmalarını durdurduğunu açıkladı.

OpenAI, 7'sinde yaptığı resmi açıklamada, son iç değerlendirmeler ve uzman incelemelerinin, Astra'nın şirketin hazırlıklılık çerçevesinde 'kritik' seviyede siber yeteneğe ulaşmış olabileceğini gösterdiğini belirtti. Bu seviye, insan müdahalesi olmadan gerçek, kritik sistemlerdeki sıfır gün (zero-day) açıklarını bulup istismar edebilme ya da yalnızca üst düzey bir hedef tanımıyla yeni bir siber saldırıyı baştan sona tasarlayıp uygulayabilme kapasitesi anlamına geliyor.

Şirket, güçlendirilmiş güvenlik gereksinimlerini henüz karşılamayan Astra'yla ilgili iç çalışmaları geçici olarak askıya aldı. OpenAI; izole test ortamları kurmayı, ağ ve araç erişimini kısıtlamayı, model ağırlıklarını şifrelemeyi ve riskli davranışları sürekli izlemeyi devreye alacağını, ayrıca devlet kurumları ve yapay zeka güvenliği odaklı kuruluşlarla ek testler yürüteceğini duyurdu.