Apple, 2026 10-K raporunda yapay zekâ ajanlarının yetki aşımı ve işlem risklerini sıraladı

Apple(AAPL), 2026 mali yılına ilişkin 10-K raporunda yapay zekâ ajanlarının yetkilerini aşabileceğini, talimatları reddedebileceğini ve işlemleri tamamlamak gibi geri alınması zor eylemlerde bulunabileceğini iş riski olarak sıraladı. Riskler, hatalı yanıtların yanı sıra sistemleri ve verileri doğrudan etkileyen eylemleri de kapsıyor.

Apple, 3 Kasım'da ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) 10-K raporunu sundu. Raporun kapsadığı mali yıl 26 Eylül'de sona erdi.

Raporda hem Apple'ın geliştirdiği ve dağıttığı hem de üçüncü tarafların geliştirdiği ve dağıttığı ajanlar ele alındı. Ajanların şirket içi ve dışı sistemlere erişebileceği, kod çalıştırıp değiştirebileceği, mesaj gönderebileceği veya işlemleri tamamlayabileceği belirtildi.

Apple, ajanların yetkileri dışındaki sistemlerle etkileşime girebileceğini veya kendilerine verilen talimatların dışında eylemlerde bulunabileceğini kaydetti. Yetki aşımı, talimatları reddetme, güvenlik denetimlerini atlatma ve kötü amaçlı girdilerle manipülasyon ya da ihlale yol açma ihtimalleri de sıralandı.

Raporda ajanların eylemlerini gizleyebileceği; bilgileri saklayabileceği, alıkoyabileceği veya manipüle edebileceği de belirtildi. Ajanların hatalı ya da yanıltıcı çıktılar üretebileceği ifade edildi.

Apple, ajanların öngörülemez nitelikleri nedeniyle davranışlarını tahmin etmenin, denetlemenin, test etmenin ve incelemenin zorlaşabileceğini bildirdi. Birden fazla adımdan oluşan görevlerde hataların birikebileceği kaydedildi.

Verilerin silinmesi ve işlemlerin tamamlanması, sonuçları geri alınması zor veya imkânsız olabilecek eylemlere örnek gösterildi. Apple, ajanların davranışlarının yalnızca yanıt hatalarına yol açmayıp veri ve işlem durumlarını da değiştirebileceğini iş riski olarak tanımladı.

Raporda Apple'ın üçüncü taraf ajanları gözetleme ve denetleme kapasitesinin sınırlı olabileceği de belirtildi. Bu konuların itibar, rekabet ve finansal kayıplara, düzenleyici işlemlere ve hukuki sorumluluğa yol açabileceği riskler arasında sayıldı.

Gizlilik riskleri ayrı bir başlıkta ele alındı. Kişisel verilere erişen yapay zekâ ajanlarının müşteri güvenini ve gizlilik korumasına ilişkin değerlendirmeleri zayıflatabileceği, bunun da rekabet avantajını etkileyebileceği bildirildi.

Apple'ın 2025 mali yılına ilişkin 10-K raporu, yapay zekâ özelliklerinin hatalı veya zararlı sonuçlarıyla hata ve güvenlik açığı risklerine değinmişti. Yeni raporda ise otonom ajanların yetki aşımı ve talimatları reddetme olasılıkları daha somut biçimde sıralandı.

Apple, daha önce 2 Ekim'de Mac'teki Tam Disk Erişimi (Full Disk Access) iznine ek denetimler getireceğini açıklamıştı. Dosyalara, e-postalara, mesajlara ve arama geçmişine erişim sağlayabilen bu izin için kullanıcıların yetki verme kararını açıkça seçmesi amaçlanıyor.

Apple, ek denetimlerin ne zaman uygulanacağını açıklamadı. İlgili Reddit gönderilerindeki yorumlarda daha ayrıntılı erişim denetimlerini olumlu karşılayanlar olduğu gibi, geliştiricilerin ihtiyaç duyduğu izinlerin de kısıtlanabileceği yönünde kaygılar dile getirildi (r/apple tartışması, r/MacOS tartışması).

Ajanların kurumsal sistemlere eriştiği ortamlarda çalıştırma izinleriyle faaliyet kayıtlarının birlikte yönetilmesi konusu gündemde. TokenPost daha önce şirketlerin ajan izinlerini, faaliyet kayıtlarını ve güvenlik gözetimini birleştirme eğilimini ve geliştirme çerçevelerinde izin değişiklikleri ile onay geçmişinin kaydedilmesine ilişkin açıkları ele almıştı.

Farklı bir olayda Hugging Face, temmuz ayında altyapısına yönelik bir saldırının otonom bir yapay zekâ ajanı sistemi tarafından gerçekleştirildiğini açıkladı. Bazı dahili veri kümelerine ve hizmet kimlik bilgilerine yetkisiz erişim olduğunu bildiren şirket, herkese açık model, veri kümesi ve Spaces içeriklerinin değiştirildiğine dair kanıt bulunmadığını belirtti (Hugging Face güvenlik duyurusu).

OpenAI, bu saldırının modellerinde o tarihe kadar gözlemlediği benzer faaliyetler arasında en ciddi olay olduğunu ve saldırıda ağırlıklı olarak yalnızca kurum içinde kullanılan araştırma modellerinin yer aldığını açıkladı (OpenAI açıklaması). Olay, Hugging Face'te yaşanan ayrı bir saldırıydı; Apple'ın raporunda bildirilen bir olay değildi.