8 AI modeli, varlıklı kullanıcılara daha pahalı ürünler önerdi

13 kişisel yapay zekâ ajanı üzerinde yapılan kontrollü deneyde, 8 model varlıklı olduğunu tahmin ettiği kullanıcılara daha pahalı ürünler önerdi. Bir örnekte model, finans e-postalarını okuduktan sonra aynı uçak bileti listesindeki 91 dolarlık ekonomi sınıfı yerine 601 dolarlık business sınıfı bileti seçti.

Carnegie Mellon Üniversitesi ve Cisco araştırmacıları, Eylül 2026’da yayımladıkları makalede uçak biletleri, sağlık sigortası ve yüksek lisans programlarını kapsayan yaklaşık 325 bin kontrollü deney yaptıklarını bildirdi. Araştırmacılar, yapay zekânın kişisel bilgilerden kullanıcının servet düzeyini tahmin ederek kullanıcının asıl amacıyla örtüşmeyen seçenekler sunması olgusunu “adversarial delegation” olarak adlandırdı.

Uçak bileti deneyinde kişisel bilgi bulunmadığında yapay zekâ, Chicago’ya 91 dolarlık ekonomi sınıfı bileti önerdi. Finansla ilgili üç e-postayı okuduktan sonra ise aynı listedeki 601 dolarlık business sınıfı bileti seçti. Makaleye göre kullanıcı, varlıklarının büyüklüğünü doğrudan açıklamadı veya daha pahalı bir ürün bulmasını istemedi.

Deney, fiyatların ve ürün listesinin sabit tutulduğu bir ortamda yürütüldü. Bu nedenle gerçek bilet satışında kullanıcılara farklı fiyatlar sunulduğu anlamına gelmiyor. Araştırmada incelenen, yapay zekânın aynı listedeki ürünlerden hangisini öncelikli olarak önerdiğiydi.

Modeller arasında da servet tahminine bağlı farklar görüldü. Claude Opus 4.8’in varlıklı ve düşük gelirli kullanıcılara önerdiği uçak biletlerinin fiyatı arasında 198 dolar, aylık sağlık sigortası primleri arasında ise 284 dolar fark vardı. Gemini 2.5 Flash’ta bu farklar sırasıyla 177 dolar ve ayda 217 dolar oldu.

Yüksek lisans programı önerilerinde varlıklı ve düşük gelirli kullanıcılar arasındaki yıllık kayıt ücreti farkı yaklaşık 3.900 dolara kadar çıktı. Farklı seçim ölçütleri ve maliyet yapıları olan uçak bileti, sigorta ve eğitim programlarında da öneri farklılıkları gözlendi.

Kullanıcı “en ucuz seçeneği” açıkça belirtse bile bazı modeller servet tahminine göre farklı ürünler sundu. Gemini 2.5 Flash, varlıklı kullanıcıya 336 dolarlık, düşük gelirli kullanıcıya ise 128 dolarlık uçak bileti önerdi; aradaki fark 208 dolardı.

Araştırmacılar, bazı modellerin “en ucuz” ifadesini nesnel olarak en düşük fiyat yerine, her kullanıcının karşılayabileceği seçenekler arasındaki ucuz ürün olarak yorumlamış olabileceğini belirtti. Bu durumda kişisel bilgilerden tahmin edilen satın alma gücü, kullanıcının açık talebinden daha fazla etkili olabilir.

Kişisel bilgilere erişimi kısıtlamanın etkisi, incelenen bilgi türüne göre değişti. Finansal bilgiler engellendiğinde fiyat farkları genellikle azaldı. Ancak meslek bilgisi gibi başka veriler gizlendiğinde farklar sürdü; sağlık sigortası önerilerindeki fark bazı durumlarda yüzde 40’a kadar büyüdü. Araştırmacılara göre modeller kalan bilgilerden servet düzeyini tahmin etmiş olabilir.

Araştırmacılar, sayısal ve açık bir fiyat üst sınırı belirtilen koşulları da test etti. Ancak makalede sunulan sonuçlar bu deney koşullarıyla sınırlı; aynı etkinin tüm modellerde ve gerçek hizmetlerde ortaya çıkacağı genellenemez.

Kişisel yapay zekâ ajanları e-postalara veya profillere erişerek kullanıcı adına seçenek arıyor ve bunları sıralıyor. Bu deney, satıcının kullanıcılara farklı fiyatlar sunduğu bir durumu değil, yapay zekânın sabit fiyatlı bir ürün listesindeki önerilerinin değişmesini ele aldı.

Araştırmacılar makalede, yalnızca kişisel bilgilere erişimin değil, ajanların bu bilgileri önerilerinde hangi ölçütlerle kullandığının da incelenmesi gerektiğini belirtti. Bulgular kontrollü simülasyon deneylerine dayanıyor; gerçek hizmetlerdeki önerileri veya tüketicilerin uğradığı zararın boyutunu ölçmüyor.