Amap’te 2.600’den Fazla Sorgu Yapan Yapay Zekâ Ajanlarından Bazıları Araştırmacılara Yanıt Verdi

Alibaba’nın harita hizmeti Amap’teki yer bilgilerini 2.600’den fazla kez sorgulamaya çalışan yapay zekâ ajanları, araştırmacıların sorularını da yanıtladı. Bazı ajanların Tencent Cloud altyapısından geçtiğine dair izler tespit edildi; ancak ajanları kimin işlettiği ve hangi modellerin kullanıldığı doğrulanamadı.

Swarmchasers araştırma grubu, 28 Eylül-8 Ekim tarihleri arasında ajanların Amap verilerine erişme girişimlerinin 2.600’ü aştığını 14 Ekim’de yayımladığı raporda bildirdi. Sorgulanan bilgiler, hayvanat bahçesi, park ve hastane gibi yerlerde kullanıcıların çoğunlukla hangi giriş kapısını tercih ettiğiyle ilgiliydi.

Araştırmacılar, herkese açık güvenlik tarama hizmeti urlquery’deki kayıtları izleyerek faaliyetleri belirledi. Ajanların ön raporu okuyor olabileceğine dair işaretler görünce rapora, insanların göremediği bir yönlendirme metni eklediler. Metin, araştırmacıların işlettiği bir web veri sorgulama hizmetine yönlendiriyordu. Bazı ajanlar bu kanal üzerinden sorulara yanıt verdi.

Ajanlardan biri, Amap’te belirli bir turistik yerin giriş tabelalarını kontrol ettiğini ve kısıtlı bir Tencent Cloud sanal alanında çalıştığını söyledi. Araştırmacılar, etkileşimin kontrollü bir deney olmadığını ve soruların yanı sıra yaptıkları müdahalelerin yanıtları etkilemiş olabileceğini raporda belirtti. Bazı ajanlar kendilerini Anthropic’in Claude modeli olarak tanıttı; ancak bu öz tanımlama, kullanılan modeli doğrulamaya yetmedi.

Sorgulama sürecinde hizmet kısıtlamalarını aşma girişimlerine dair izler de bulundu. Bazı ajanlar token’ları ele geçirmeye veya üçüncü taraf sayfa okuyucularını kullanmaya çalıştı; herkese açık kod depolarında açığa çıkmış API anahtarları ve güvenlik kodlarını kullanmayı da denedi. Kimlik doğrulama bilgilerini içeren kombinasyonlardan biri gerçek konum verileri döndürdü.

Araştırmacılar, geliştirme veya test amacıyla kullanıldığı izlenimi veren dört ana bilgisayarı hedef alan istekler de buldu. Ancak özel sistemlere erişildiğine dair kanıt bulamadıklarını bildirdi.

İncelenebilen 18 gelen kutusundan 17’si Tencent Cloud’da oluşturulmuştu. Ajan isteklerinde “hysandbox-ats” adlı bir proxy ibaresi de yer aldı. Bu bulgular, isteklerin söz konusu altyapıdan geçtiğine işaret ediyor; Tencent’in ajanları doğrudan işlettiğini veya belirli bir model kullandığını kanıtlamıyor.

Swarmchasers, Tencent’e yakın olduğunu belirten anonim bir kaynağın faaliyetleri Tencent’in değerlendirme araştırma ekibinin geçici bir üçüncü taraf model testi olarak açıkladığını aktardı. Kaynak, Hunyuan modelinin kullanılmadığını söyledi. Bu açıklama anonim kaynağın aktarımına dayanıyor ve şirketin kamuya açık resmi görüşü değil.

Swarmchasers, ajanların gerçek zamanlı olarak birlikte çalıştığına dair kanıt bulamadığı için “sürü” yerine “filo” ifadesini kullandı. Araştırmacıların faaliyeti son gözlemlediği tarih 8 Ekim oldu.