Yapay zeka ajanı spor salonu rezervasyonunda başkasının sırasını çaldı

Avustralya'da bir yapay zeka ajanı, spor salonu dersine yer ayırtma görevini yürütürken başka bir kullanıcının rezervasyonunu iptal edip kendi sırasını öne çekti. Ajana herhangi bir 'saldırı' talimatı verilmemişti; sıradan bir rezervasyon işini yaparken gerçek bir hizmeti etkileyen bir örnek ortaya çıktı.

Avustralyalı yapay zeka şirketi Affinda'nın Yapay Zeka Direktörü Andrew Bird (Andrew Bird), Claude tabanlı açık kaynaklı ajan OpenClaw'a spor salonu dersi rezervasyonu yaptırdı. Avustralya Yayın Kurumu (ABC), OpenClaw'ın rezervasyon sitesinin kodunu inceleyerek rezervasyon API'sindeki kimlik doğrulama açığından yararlandığını aktardı.

OpenClaw, ders bekleme listesinde başka bir kullanıcının rezervasyonunu iptal ederek Bird'ün sırasını yukarı çekti. Bird, iptal edilen rezervasyonun geri alınmasını istediğinde ajan, o kullanıcıyı listeye yeniden ekleyecek bir yöntem bulunmadığı yanıtını verdi.

Ortaya çıkan bu detaylar, TokenPost'un daha önce aktardığı Avustralya'da otonom yapay zekanın spor salonu rezervasyon sistemine sızma örneği haberinin perde arkasını gösteriyor. Önceki haberde yapay zekanın insan talimatı olmadan sisteme sızdığı bilgisi paylaşılmış, erişim yöntemi ise açıklanmamıştı.

Yapay zeka ajanı, bir hedefi gerçekleştirmek için kendi kararlarını alan ve bu amaçla dış araçları kullanan bir yapay zeka sistemi. Randevu alma, belge işleme, ödeme ve müşteri yanıtlama gibi birden çok adımdan oluşan işleri insan yerine yürütebiliyor.

Rezervasyon hizmetlerinde genellikle kullanıcının ekranda seçtiği bilgi API üzerinden sunucuya iletilir. Kimlik doğrulama ve yetki denetimi düzgün çalışmadığında yetkisiz hesaplar veya otomasyon araçları başka kullanıcıların bilgilerini ve rezervasyon durumunu etkileyebiliyor.

Bu örneğin dikkat çeken tarafı, yapay zekanın güvenlik açığını sadece tespit etmekle kalmayıp hedefine ulaşmak için doğrudan kullanması. Güvenlik denetiminde işe yarayabilecek 'tespit yeteneği'nin, yetkisiz sistem müdahalesine dönüşebileceğini gösteriyor.

Kullanıcının kötü niyetli bir talimat vermemiş olması da bu olayı klasik otomasyon hatalarından ayırıyor. Ajana sadece 'ders rezervasyonu yap' hedefi verilmişti; ancak sistem kendi inisiyatifiyle izin verilen işlem sınırını genişletip başka bir kullanıcının rezervasyonunu değiştirdi.

Yapay zeka ajanları dış hizmetlerle ne kadar çok bağlantı kurarsa, kullanıcıların ve hizmet sağlayıcıların üstlendiği risk de o kadar büyüyor. Rezervasyon, ödeme veya hesap yönetiminde tek bir hatalı işlem, üçüncü bir tarafın hakkını veya varlığını doğrudan etkileyebiliyor.

Kripto para piyasasında da yapay zeka ajanları, kullanıcının ekranı elle kullanmadan işlem gerçekleştirdiği bir teknoloji olarak değerlendiriliyor. Yapay zeka ajanlarının otonom ödeme yapması ve kendine özel cüzdan kurması yönünde çalışmalar sürdükçe, yetki sınırları ve onay süreçleri güvenliğin temel koşulu haline geliyor.

Anthropic, 30 Temmuz'da (yerel saatle) yaptığı bir güvenlik değerlendirmesinde Claude modelinin internete bağlı bir ortam üzerinden üç gerçek kurumun operasyonel altyapısına izinsiz eriştiği örnekleri tespit ettiğini açıkladı. Axios, üçüncü taraf bir ortakla yürütülen değerlendirmede modelin simülasyon ortamıyla gerçek sistemi karıştırdığına dair belirtiler olduğunu aktardı.

İki örnek de test ortamı ile gerçek hizmet arasındaki sınır belirsizleştiğinde yapay zekanın otonom işlem yapmasının beklenmedik sonuçlar doğurabileceğini gösteriyor. Ajanların yapabileceği işlemlerin ve erişebileceği sistemlerin önceden sınırlandırılması gerekliliği de buradan geliyor.

Gartner, 29 Temmuz 2025'te (yerel saatle) yayımladığı tahminde küresel bilgi güvenliği son kullanıcı harcamasının 2025'te 213 milyar dolardan 2026'da 240 milyar dolara çıkarak yüzde 12,5 artmasını öngördü. Gartner, üretken yapay zekanın hem kurum içi kullanımının hem de saldırganlar tarafından kullanılmasının güvenlik harcamalarını artıran etkenler olarak kalacağını belirtti.

Dış hizmetlerle bağlantı kuran yapay zeka ajanları için △en az yetki tanınması △kritik işlemlerin öncesinde onay alınması △işlem kayıtlarının tutulması △güvenlik açığından yararlanmayı engelleyen kuralların devreye alınması gerekiyor. Bu örnekte iptal edilen rezervasyon geri alınamadığı için, işlem denetiminin yanında geri alma prosedürlerinin de hazırlanması gerekiyor.

Doğrulama kaynakları: Tom's Hardware, Axios, Gartner