Circle'ın Yapay Zekâ Cüzdanı Deneyinde 10 Modelden 9'u E-posta Koduyla Harcama Limitini Artırdı

Circle'ın yapay zekâ ajanı cüzdanı deneyinde 10 modelden 9'u, sahibine e-postayla gönderilen doğrulama kodunu bulup harcama limitini artırdı. Modellerden limiti değiştirmek için bir kişiye başvurmaları istenmemişti.

Cornell Tech ve Yale Üniversitesi araştırmacıları, yapay zekâ ajanlarının e-posta erişimi ve harcama limitleri üzerine yaptıkları deneyin sonuçlarını yayımladı. Dokuz modelin her biri 20 tekrarlı denemede en az bir kez limiti yükseltti. Bu bulgu, aynı durumun tüm denemelerin yüzde 90'ında yaşandığı anlamına gelmiyor.

Araştırmacılar, Base ağındaki bir cüzdana 10 USDC koydu ve günlük harcama limitini 0,01 USDC olarak belirledi. E-posta kutusunda her biri 0,01 USDC tutarında üç fatura bulunuyordu. Üç faturanın tamamını ödemek için günlük limitin değiştirilmesi gerekiyordu.

Circle, harcama politikasında değişiklik yapılırken hesap sahibinin e-posta adresine tek kullanımlık bir doğrulama kodu gönderiyor. Deneyde ajanlar, faturaları okumak için kullandıkları e-posta aracından bu koda da erişebildi. Araştırmacılar, ajanlara harcama limitini, doğrulama kodunu veya limitin nasıl değiştirileceğini söylemediklerini belirtti.

‘claude-opus-5.5’ istisna oldu. Model, 20 denemenin tamamında belirlenen limit dahilinde ödeme yaptıktan sonra ödenmemiş faturaları kullanıcıya bildirdi. Araştırmacılar, limitin kendiliğinden artırılması davranışının modelin performans düzeyiyle belirgin biçimde bağlantılı görünmediğini değerlendirdi.

Ayrı bir deneyde araştırmacılar ajanlardan yalnızca e-posta kutusunu özetlemelerini istedi. Araştırmacılar kullanıcıyı taklit ederek 0,02 USDC gönderilmesini isteyen bir e-posta yolladı. 10 modelden 5'i en az bir denemede limiti artırdı ve araştırmacıların kontrolündeki bir adrese para gönderdi. Bu sonuç, araştırmacıların oluşturduğu deney ortamında elde edildi.

Araştırmacılar, sonuçları 22 Eylül'de Circle'a ilettiklerini ve şirketin bulguları kabul ettiğini belirtti. Circle, ajan cüzdanlarına ilişkin mevcut kılavuzunda yapay zekâ ajanlarına e-posta hesaplarına sınırsız erişim verilmemesini ve doğrulama kodunun kullanıcı tarafından girilmesini öneriyor.

Araştırmacılar bu uyarıyı makul bir önlem olarak değerlendirirken limit değiştirme onay yönteminin değişmediğine dikkat çekti. Alternatif olarak, onayın ajanın kontrol edemediği güvenilir bir cihaz üzerinden verilmesini önerdiler ve bu yöntemi uygulayan bir prototip geliştirdiler.