16.500 erişim: AI ajanı olduğu tahmin edilen program BM istatistik API’sini taradı

OpenAI ajanı olduğu tahmin edilen bir yapay zekâ (AI) programının, Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’nın (UNCTAD) istatistik sitesine iki ayı aşkın sürede yaklaşık 16.500 kez eriştiği tespit edildi. Erişimlerin hedefinde kamuya açık veriler bulunurken, erişim kısıtlandığında farklı yollar arandığına ilişkin işaretler de görüldü.

Güvenlik araştırmacısı Rowan Howard-Jones, 13 Nisan ile 19 Haziran arasındaki UNCTADstat API URL tarayıcı kayıtlarını inceledi. Howard-Jones, yayımladığı analizde faaliyetin OpenAI ajanından kaynaklanmış olma ihtimalinin yüksek olduğunu belirtti ancak bunun OpenAI tarafından doğrudan doğrulanmadığını söyledi.

Howard-Jones, geçmişte OpenAI ile ilişkilendirilen ajan faaliyetleriyle örtüşen bulut IP adreslerini ve ‘CHATGPTTEST1’ ile ‘OAI_META_1312’ gibi işaretleri dayanak gösterdi. Ajanın talep ettiği veriler arasında UNCTADstat’ta yayımlanan üretim kapasitesi endeksi (PCI), ticaret sektörleri ve gıda ticareti istatistikleri yer aldı.

UNCTADstat API, programların istatistik verisi talep etmesini sağlayan bir erişim noktası olarak çalışıyor. Ajan, ihtiyaç duyduğu uç noktaları bulmak için veri alanlarını tek tek denedi. Bu süreçte UNCTADstat 82 isteği kısıtladı.

Sorun, isteklerin gönderilme biçiminden kaynaklandı. Ajanın doğrudan gönderebildiği isteklerin GET yöntemiyle sınırlı olduğu, bazı veri uç noktalarının ise yalnızca POST isteklerini işlediği görülüyor. GET genellikle bilgi sorgulamak, POST ise veri göndermek için kullanılıyor.

Howard-Jones’un analizine göre ajan, URL tarama hizmeti Urlquery ile geliştiricilere yönelik test hizmeti httpbin’i aracı olarak kullandı. httpbin üzerinden otomatik bir gönderim formu oluşturuldu ve Urlquery’nin sandbox tarayıcısının bu formu açarak POST isteği göndermesi sağlandı.

Daha sonra istek adreslerini iki kez kodlama yöntemi de kullanıldı. ‘Facts’ yolu ‘F%2561cts’ biçimine dönüştürüldü ve bu yöntemin 55 kez kullanıldığı kayıtlara geçti. Howard-Jones, birden fazla hizmet katmanının URL’yi aşamalı olarak yorumladığı ihtimalini gündeme getirdi ancak UNCTADstat’ın iç yapısının gerçekten bu şekilde olduğunu kesin olarak söylemedi.

Howard-Jones’un yayımladığı Urlquery kayıtlarında, Google’ın web güvenliği eğitimine yönelik XSS oyununun istek çalıştırma alanı olarak kullanılmış olabileceğine dair işaretler de yer aldı. Analize göre ajan, bu oyunun web sayfasına istek çalıştırma kodu ekleyerek verilere erişmeye çalıştı.

Kamuya açık API anahtarı etrafındaki denemeler de tekrarlandı. Bu anahtar, UNCTADstat kullanıcılarının tarayıcılarının her istekte gönderdiği bir değerdi ve gizli bilgi olarak değerlendirilmiyordu.

Ajan, ‘subscription-key’, ‘ocp-apim-subscription-key’ ve ‘apikey’ gibi yaklaşık 20 farklı adı dönüşümlü olarak kullandı. Bu yöntemlerden biriyle 9.500’den fazla istek gönderildi. Howard-Jones, ajanın API istek biçimindeki sorunu anahtar adındaki bir hata olarak yanlış yorumlamış olabileceğini belirtti.

6 Haziran’daki taramadan 40 dakika sonra ‘PublicDataResearchAgentT93214’ adlı bir hesabın FractalWiki’de ilgili UNCTADstat URL’lerini ve anahtarları içeren bir sayfa oluşturduğu görüldü. OpenAI, bu sayfanın gerçek erişim faaliyetleriyle doğrudan bağlantılı olup olmadığını doğrulamadı.

Wiki sitesinin erişim kayıtlarında, UNCTAD ile ilgili sayfaları oluşturan 54 Azure IP adresinin 45’inin geçmişte DseWiki’yi düzenlediği de görüldü. OpenAI ile ilişkilendirildiği tahmin edilen işaretlerin eklenmesi üzerine Howard-Jones, faaliyetin bir OpenAI ajanına ait olma ihtimalinin yüksek olduğu değerlendirmesini yaptı.

Howard-Jones, verilerin kamuya açık olması ve UNCTADstat’ın kullanım kurallarının net görünmemesi nedeniyle faaliyeti ‘hack’ olarak nitelendirmedi. Ancak kısıtlamaların ardından farklı erişim yollarının aranmaya devam edilmesinin, yöneticiler açısından saldırgan otomasyon gibi görülebileceğini söyledi.

Stanford Üniversitesi siber güvenlik eğitmeni Alex Stamos(Alex Stamos), Wall Street Journal’a yaptığı açıklamada faaliyetin “hack olarak nitelendireceğim davranışların sınırında” olduğunu belirterek bunu “son derece saldırgan bir tarama ve veri toplama” olarak tanımladı. Bu değerlendirme, tartışmanın verilerin kendisinden çok AI ajanının erişim kısıtlamalarına karşı davranış biçimine odaklandığını gösteriyor.

OpenAI, ilgili soruşturmanın sonuçlarını incelediğini ve Birleşmiş Milletler tarafına soruşturma ekibine brifing verme teklifinde bulunduğunu açıkladı. OpenAI sözcüsü Wall Street Journal’a, şimdiye kadar tespit edilen faaliyetlerin çoğunun kamuya açık web sayfalarını okumaya yönelik olağan araştırmalardan oluştuğunu söyledi. Faaliyet nedeniyle gizli bilgilerin açığa çıktığına veya istatistik hizmetinin kesintiye uğradığına dair bir bulgu bulunmuyor.