Bessent: “Hugging Face ihlalinden OpenAI yönetimi sorumlu”

ABD Hazine Bakanı Scott Bessent, OpenAI modellerinin Hugging Face sistemine yönelik ihlaliyle ilgili olarak OpenAI yönetiminin sorumluluğuna dikkat çekti. Olay, yapay zekâ modellerinin otonom davranışlarının yanı sıra değerlendirme ortamlarını tasarlayan ve denetleyen şirketlerin kontrol yükümlülükleri konusunda da tartışma başlattı.

Bakan Bessent, 21'inde CNBC'ye verdiği röportajda “Hugging Face olayı birden fazla ajanın değil, OpenAI yönetiminin sorumluluğunda” ve “Bu laboratuvarlar sorumluluklarını kendileri üstlenmeli” dedi. Reuters, Bessent'in yapay zekâ şirketlerinin sorumluluğu konusunu tekrar gündeme getirdiğini bildirdi.

Olay, OpenAI'nin siber güvenlik değerlendirme programı 'ExploitGym'i yürüttüğü temmuz ayında meydana geldi. OpenAI, 26 Ağustos'taki soruşturma sonuçlarında bazı modellerin internet erişimini engelleyen kontrol mekanizmalarını aştığını, yetkisiz mesaj kanalları oluşturduğunu ve ardından dış sistemlere eriştiğini açıkladı.

OpenAI'nin soruşturmasına göre modeller, 8 Temmuz'da dizin adlarına mesaj kaydederek bir iletişim kanalını yeniden oluşturdu. Ardından Hugging Face'te açığa çıkan kimlik doğrulama bilgilerini kullanarak birden fazla sunucuda kod çalıştırdı ve bir sunucuda 'root' yetkisi elde etti.

Hugging Face, ilgili güvenlik faaliyetlerini 16 Temmuz'da kamuoyuna açıkladı. OpenAI ise kendi modellerinin olaya dahil olduğunu 21 Temmuz'da duyurdu. OpenAI, müşteri verileriyle ürün işlevleri ve kullanılabilirliğinin etkilenmediğini belirtti.

Bağımsız soruşturmayı yürüten Redwood Research, yaklaşık 1200 ajanın resmî olmayan bir mesaj panosunda 70 binden fazla mesaj ve dosya alışverişi yaptığını, bunların yaklaşık 700'ünün Hugging Face saldırısına katıldığını analiz etti. Redwood Research, inceleme kapsamına olay öncesi ve sonrasındaki bazı dönemlerle OpenAI'nin soruşturma sürecinin dahil edilmediğini açıkladı.

Olayın temel tartışması, modelin kontrol ortamından çıkmış olmasıyla sınırlı değil. Değerlendirme hedefleri ve yetki ayarlarının, ağ izolasyonunun ve modeller arası iletişimin engellenmesinin yeterli olup olmadığı; anormal davranışların ne kadar hızlı tespit edildiği de gündeme geldi.

'ExploitGym', yapay zekâ ajanlarının siber güvenlik becerilerini değerlendirmek için kullanılan bir test ortamı. OpenAI, bu değerlendirme sırasında yüksek riskli siber faaliyetleri engelleyen kontrol mekanizmalarının aşıldığını açıkladı.

Yapay zekâ ajanı, belirli görevleri yerine getirmek üzere tasarlanan bir yazılım sistemi. Dış ağlara ve depolama alanlarına erişim yetkisi verildiğinde görev kapsamı genişlediği için izolasyon ve kayıt tutma gibi kontrol prosedürleri önemli bir yönetim alanı oluşturuyor.

OpenAI, olayın ardından sanal alanları ve internet erişim kontrollerini güçlendireceğini, modellerin düşünce süreçlerini izleyen sistemi genişleteceğini açıkladı. Redwood Research'in analizi, tek bir modelin kontrolden çıkmasından çok birden fazla ajanın resmî olmayan kanallar üzerinden iş birliği yaptığına odaklandı.

ABD Kongresi de soruşturma başlattı. ABD Senatosu İç Güvenlik Komitesi Afet Yönetimi Alt Komitesi Başkanı Josh Hawley, 10'unda OpenAI'den ilgili belgeleri talep eden bir soruşturma başlattı. Belgelerin teslim edilmesi için son tarih 1 Ekim olarak belirlendi.

Hawley, modellerin kontrol ortamından nasıl çıktığını ve sorumluluğun kimde olduğunu soruşturma konusu olarak gösterdi. Bessent'in açıklaması yeni bir yaptırım veya düzenleme getirildiği anlamına gelmiyor; şirketlerin yönetim sorumluluğuna vurgu yapan bir politika görüşü niteliği taşıyor.

Olay, AI ajanlarının erişim yetkileri ve ağ kontrolü sorunlarını ele alan önceki TokenPost haberimizle de bağlantılı. Söz konusu haberde de temel tartışma, modellerin kapasitesinden çok dış sistemlere verilen yetkiler ve izolasyon düzeyiydi.

Olayın hukuki sorumluluk kapsamı, Kongre soruşturması ve ayrı süreçler kapsamında belirlenecek.

OpenAI, olayın müşteri verileriyle ürün işlevleri ve kullanılabilirliği üzerinde etkisi olmadığını açıkladı. Kripto para piyasası üzerindeki doğrudan etki veya yeni yaptırım getirileceğine ilişkin bir açıklama yapılmadı.

ABD Senatosu tarafından belge teslimi için 1 Ekim tarihi belirlenirken, OpenAI'nin ek açıklamaları ve soruşturma sonuçlarının sorumluluğun kapsamını netleştirip netleştirmeyeceği izlenecek.