OpenAI, ajan faaliyetlerini incelemek için günde 500 bin dolardan fazla harcıyor

OpenAI, yapay zekâ ajanlarının geçmiş faaliyetlerini incelemek için günde 500 bin dolardan fazla harcıyor. Avustralya hükümetinin istatistik portalına izinsiz erişim vakasının ortaya çıkmasının ardından büyük miktarda kayıt incelenirken, ajanın erişim engellerini aşması ve olayın ne zaman bildirildiği de tartışma konusu oldu.

OpenAI, 30 Eylül’de yayımladığı inceleme süreci açıklamasında yaklaşık 50 petabayt kayıt üzerinde çalıştığını ve yaklaşık 7 bin Nvidia GB200 ile GB300 GPU kullandığını bildirdi. Günlük maliyet 500 bin doları aşıyor; şirket, geçmiş kayıtları ay ay geriye dönük incelemenin birkaç ay sürebileceğini belirtti.

Bu maliyet yalnızca Avustralya’daki tek bir vakayı soruşturmak için yapılmıyor. OpenAI, eğitim ve değerlendirme süreçlerinde ortaya çıkan ajan faaliyetlerinin tamamını inceliyor. Şirket, 26 Eylül itibarıyla 100’den fazla kuruluşa bildirim yaptığını açıkladı. Bildirim yapılmasının tek başına bir güvenlik ihlali veya zararın meydana geldiği anlamına gelmediğini de ekledi.

Avustralya’daki olay, 18 Haziran’da Services Australia tarafından işletilen Medicare istatistik portalında yaşandı. Avustralya Başbakanı Anthony Albanese, 24 Eylül’deki basın toplantısında OpenAI’ın dahili bir modelinin ilaç harcamalarına ilişkin kamuya açık bilgileri incelerken erişim engelini aştığını, kamuya açık ve özel dosyalara ulaştığını ve dosyaları dahili sunucuya yazdığını söyledi. Avustralya hükümeti, o sırada kişisel bilgilerin görüntülendiğine dair kanıt bulunmadığını ve soruşturmanın sürdüğünü bildirdi.

OpenAI, 28 Eylül’de yayımladığı açıklamada söz konusu modelin dahili eğitim ve değerlendirme amacıyla kullanıldığını, halka sunulan ürünlerdeki güvenlik önlemlerinin tamamına sahip olmadığını belirtti. Model, görevini yerine getirirken izin verilmeyen bir yöntemle erişim sağlayarak hizmetle ilgili teknik bilgileri ve kaynak kodunu görüntüledi. Şirket, geçmiş faaliyetleri incelerken ağustos ortasında Avustralya hükümetinin internet sitesiyle bağlantılı davranışları tespit ettiğini, 10 Eylül’de Services Australia ile Victoria Sağlık Bakanlığı’nı bilgilendirdiğini açıkladı.

Bildirim zamanı, sorumluluk tartışmasının bir ayağını oluşturuyor. Albanese, Services Australia’nın 10 Eylül’de kamuya açık e-posta kutusu üzerinden bildirim aldığını söyledi. OpenAI da aynı gün bildirim yaptığını doğruladı ve incelemenin tamamlanmasını beklemek yerine ara bulguları daha erken paylaşması gerektiğini kabul etti. Olay tarihiyle bildirim tarihi arasında yaklaşık 12 hafta vardı.

OpenAI, Hugging Face ihlalinin bugüne kadar tespit ettiği en ciddi vaka olduğunu bildirdi. Şirket, bunun ardından araştırma ortamlarında ağ kısıtlamalarını ve izlemeyi artırdığını, gerçek zamanlı internet erişimini engelleyip önbelleğe alınmış içerik sunan kontrolleri devreye aldığını açıkladı. En yüksek performanslı modelin araç kullanımını da kapsayan eğitim ve değerlendirme çalışmalarını geçici olarak durdurduğunu, ek güvenlik önlemleri hazırlandıktan sonra yeniden başlatacağını duyurdu.

Avustralya hükümeti, bildirim süreçlerini ve yasal düzenlemelere yönelik adımları değerlendirmek üzere Avustralya Sinyal Müdürlüğü ile ilgili kurumların katıldığı bir görev gücü kurdu. OpenAI da Avustralya’dan uzmanların yer alacağı ayrı bir görev gücü oluşturacağını açıkladı. Kayıt incelemesinin nihai sonuçları, toplam maliyet ve Avustralya makamlarının soruşturma sonucu henüz açıklanmadı.