Microsoft(MSFT), yapay zeka ajanları için sorumluluk standartlarını yeniden belirledi

Microsoft(MSFT), sorumlu yapay zeka yönetim standartlarını ajan tabanlı (agentic) sistemleri merkeze alacak şekilde yeniden düzenledi. Üretken yapay zeka, yanıt üretmenin ötesine geçip araç çağırma, veri bağlantısı kurma ve gerçek görevleri yürütme aşamasına geçtikçe, kurumsal yapay zekada tartışmanın odağı da model performansından yetki, denetim ve denetlenebilirliğe kayıyor.

Microsoft, 1'inde (yerel saatle) yayımladığı '2026 Responsible AI Transparency Report' başlıklı raporda, bunun üçüncü yıllık şeffaflık raporu olduğunu açıkladı. Şirket, yapay zeka sistemlerinin birden çok modeli, aracı, hizmeti ve uygulamayı bir araya getirerek çok aşamalı görevler yürüttüğünü, riskin de erişim yetkisine, belleğe, kullanım akışına ve devreye alma sonrası işleyişe göre değiştiğini belirtti.

Raporun öne çıkan değişikliği, sorumlu yapay zeka standartlarının 'model' bazlı değil 'yapay zeka teknoloji yığını' bazlı olarak yeniden konumlandırılması oldu. Microsoft, geliştirici ve dağıtıcı sorumluluklarını ayıran yeni bir bölüm ekledi; model, platform hizmeti ve uygulama düzeyindeki gereksinimleri yeniden düzenledi. Ajan özellikleri ise bu üç katmanı birden kesen bir unsur olarak ele alındı.

Rapora göre Microsoft, son bir yılda yaklaşık 20 bin kişiye sorumlu yapay zeka eğitimi verdi. Şirket, yürürlükteki veya gündemdeki 100'den fazla yasa tasarısını incelediğini, 30'dan fazla ekipten 80'i aşkın çalışanın yeni standartların hazırlanmasına katıldığını açıkladı.

Microsoft, Amerikan Ulusal Standartlar ve Teknoloji Enstitüsü'nün (NIST) yapay zeka risk yönetimi çerçevesine uygun şekilde, ürün öncesi merkezi inceleme sürecini de paralel yürüttüğünü belirtti. Bu çerçeve, yönetişim, tespit, ölçüm ve müdahale işlevlerini esas alarak yapay zeka risklerini sınıflandırıp ele alan bir yapı.

Şirket, somut araçlar da sundu. Microsoft, AI Red Teaming Agent ile düşmanca (adversarial) testleri otomatikleştirdiğini, dış araştırmacılarla iş birliği için External Red Team Alliance'ı hayata geçirdiğini açıkladı.

Microsoft 365 Copilot, Foundry ve GitHub Copilot, ISO 42001 sertifikası aldı. ISO 42001, yapay zeka yönetim sistemlerine ilişkin uluslararası bir standart olup kuruluşların yapay zeka sistemlerini geliştirip işletirken yönetim sorumluluğu ve risk kontrol yapısına sahip olup olmadığını değerlendiriyor.

Microsoft'un iç işleyiş belgeleri de aynı yönü işaret ediyor. Şirket, Agent 365 ile ilgili dokümanlarda, büyük ölçekli ajan yönetimi için kayıt, görünürlük, güvenlik ve operasyon sisteminin gerekli olduğunu belirtti.

Microsoft Learn'ün sorumlu ajan rehberi, dışa açık ajanlar için açık bildirim yapılmasını, yüksek riskli eylemlerde insan onayını ve en az yetki ilkesini vurguluyor. Ajanlar gerçek görevleri üstlendikçe, yalnızca ön değerlendirmenin değil, çalışma sırasındaki denetimin ve sonrasındaki kayıt tutmanın da birlikte gerekli olduğu vurgulanıyor.

Ajan tabanlı yapay zeka, basit bir sohbet botundan farklı. Kullanıcı isteğine yanıt vermekle sınırlı kalmıyor; dış araçları çağırabiliyor ve birden çok adımı art arda yürütebiliyor. Bu nedenle yanlış hedef yorumlama, yetki suistimali ve prompt enjeksiyonu gibi sorunlar doğrudan gerçek iş sonuçlarına yansıyabiliyor.

ABD'deki politika tartışmaları da ajan tabanlı yapay zekanın güvenlik standartları yönünde ilerliyor. Axios, ABD Temsilciler Meclisi'nde, yapay zeka ajanlarının güvenli şekilde devreye alınmasına ilişkin standartları ve iyi uygulama örneklerini NIST'in belirlemesini öngören bir yasa tasarısının gündeme geldiğini bildirdi. Tasarının çoğu kuruluş için bağlayıcı olmayan bir tavsiye niteliği taşıdığı, ancak federal hükümetle sözleşmesi olan şirketler için önemli bir ölçüt haline gelebileceği aktarıldı.

Kripto para piyasası açısından bakıldığında bu rapor, fiyat veya yatırım kararına doğrudan bir işaret olmaktan çok, altyapı ve yönetişim standardındaki değişime işaret ediyor.

Yapay zeka veri merkezleri, geliştirme araçları, güvenlik çözümleri ve zincir üstü (on-chain) otomasyonun iç içe geçtiği bir ortamda, ajanların hangi yetkiye sahip olduğu ve hangi kayıtları bıraktığı, kurumsal benimsemenin ön koşulu olarak değerlendiriliyor. Ancak raporda sunulan denetim mekanizmalarının bireysel ürünlerdeki kazaları ne kadar azalttığı, benimseyen şirketlerin hukuki ve güvenlik risklerini ne ölçüde düşürdüğü ayrı bir doğrulama gerektiriyor.

Bu rapor, yeni bir ürün lansmanından çok güven inşasına odaklanan bir belge. Microsoft, ajan tabanlı yapay zekanın model, platform hizmeti ve uygulama katmanlarını kesen bir yapıda çalıştığını vurgulayarak, geliştirici ve dağıtıcı sorumluluklarını ayrı ayrı yöneteceği yönünde bir çerçeve ortaya koydu.