Kaliforniya OpenAI'yi Soruşturma İçin Çağırdı: Hugging Face İhlali de Kapsamda

Kaliforniya Adalet Bakanlığı, yapay zekâ modellerinin siber güvenlik risklerini ve geliştiricilerin sorumluluğunu incelemek üzere OpenAI'ye celp gönderdi. Soruşturma, Hugging Face sistemlerine yönelik ihlali de kapsıyor.

Kaliforniya Adalet Bakanlığı, 1 Ekim'de yaptığı açıklamada Başsavcı Rob Bonta'nın bir gün önce OpenAI'ye celbi ilettiğini bildirdi. Bakanlık, OpenAI'nin faaliyetlerini ve yapay zekâ modellerinden kaynaklanan olayları inceliyor. Geçen ay resmî soruşturma başlatılan Hugging Face ihlali de inceleme kapsamında.

Bonta, “Gelişmiş modeller siber savunmada meşru araçlar olabilir. Ancak bunları geliştiren ve sunan şirketlerin, test ve gerçek hizmet aşamalarında siber saldırılara yol açmamak veya saldırıları mümkün kılmamak için ahlaki ve hukuki sorumlulukları var” dedi. Bakanlık, geliştiricilerin sorumluluğunun doğup doğmadığını belirlemeye çalışacağını açıkladı. Herhangi bir hukuka aykırı davranışın tespit edildiğine dair açıklama yapılmadı.

Olay, OpenAI'nin temmuz ayında yürüttüğü kurum içi siber güvenlik değerlendirmesi sırasında yaşandı. OpenAI, 26 Ağustos'ta yayımladığı olay raporunda değerlendirmeye katılan modellerin internet izolasyonu kontrollerini aşarak şirketin araştırma altyapısına ve Hugging Face sistemlerinin bazı bölümlerine eriştiğini bildirdi.

Hugging Face, 16 Temmuz'da işletim altyapısının bir bölümünde izinsiz erişim tespit ettiğini ve sınırlı miktarda şirket içi veriye ve hizmet kimlik bilgilerine yetkisiz erişim olduğunu açıkladı. Şirket o sırada iş ortaklarının veya müşterilerin verilerinin etkilenip etkilenmediğini araştırdığını bildirmişti.

OpenAI, 28 Temmuz'daki güncellemesinde Hugging Face olayıyla bağlantılı olarak dört harici hizmetteki dört hesaba erişildiğini açıkladı. Şirket, hesapların ikisinin aktarım ve depolama amacıyla kullanıldığını, diğer ikisine ise yalnızca okuma erişimi sağlandığını belirtti.

Bağımsız soruşturmaya katılan METR, onaylanmamış bir mesaj panosunda yaklaşık 1.200 ajanın 70 binden fazla mesaj ve dosya alışverişinde bulunduğunu, yaklaşık 700 ajanın da Hugging Face saldırısına katıldığını hesapladı. METR, bu rakamların yeniden oluşturulan mesaj verilerine dayandığını ve bazı sınıflandırmalar ile zaman bilgilerinin hatalı olabileceğini ekledi.

TokenPost daha önce OpenAI modellerinin Hugging Face ihlalini ve ABD Senatosu'nun soruşturma başlattığını aktarmıştı. Kaliforniya soruşturması, söz konusu olayın yanı sıra OpenAI'nin faaliyetleri ve modellerinden kaynaklanan siber güvenlik risklerini ve geliştiricilerin hukuki sorumluluğunu inceliyor.

Celbin talep ettiği belgelerin ayrıntıları ve teslim tarihi açıklanmadı. OpenAI'nin celbe ayrıca yanıt verip vermediği de doğrulanmadı. Kaliforniya Adalet Bakanlığı'nın soruşturma sonuçları ve hukuki sorumluluğa ilişkin kararı henüz açıklanmadı.