Yapay zekâ ajanlarına rağmen maaş ve terfi kararlarını insanlar vermeli

Yapay zekâ ajanlarının iş üstlendiği kurumlarda maaş ve terfi kararlarından sorumlu bir insan bulunması gerektiği savunuldu. Görüşe göre kuruluşların yalnızca işleri otomatikleştirmesi değil, ajanlara kimin yetki verdiğini ve sonuçların sorumluluğunu kimin üstlendiğini de belirlemesi gerekiyor.

Humanity’nin kurucusu Terence Kwok, Finbold’a verdiği röportajda, “Ajanlar başka ajanlara görev verebilir ve işin tamamlanıp tamamlanmadığını kontrol edebilir. Ancak insanların geçimini etkileyen maaş ve terfi kararlarını sorumluluk üstlenen bir insan vermeli” dedi. Kwok, insanların ve yapay zekânın birlikte ürettiği işlerde tarafların uzmanlıklarının, yönlendirme rollerinin ve yapay zekânın oluşturduğu çıktıların kayda geçirilmesini önerdi. Bu öneri, ajanların işi yapmasından çok kurum içindeki yetki ve sorumluluğun nasıl paylaşılacağına odaklanıyor.

Kurumsal sistemlerde ajanların kimliğini ve sorumlularını yönetmeye yönelik özellikler bulunuyor. Microsoft, Entra ajan kimliği belgelerinde her ajana benzersiz bir tanımlayıcı verilebildiğini ve sorumluluğu üstlenecek kişi ya da grubun “sponsor” olarak atanabildiğini açıklıyor. Bu özellikler kimlik ve erişim yetkilerini yönetiyor; performansa göre itibar puanı verme veya yetkileri genişletme sisteminin kurulduğu anlamına gelmiyor.

Otomasyon, fabrikalarda ve lojistik sahalarında insanların makinelerle birlikte çalışması şeklinde de görülüyor. Siemens, Almanya’daki Amberg fabrikasının değer zincirinin yüzde 75’inin makineler ve robotlar tarafından yürütüldüğünü açıkladı. Amazon ise Haziran 2025’te operasyon sahalarında bir milyonuncu robotunu devreye aldığını duyurdu. Bu iki veri sırasıyla fabrika üretimi ve lojistik otomasyonuna ilişkin örnekler; ofis işlerinin otomasyon oranını veya istihdamdaki yer değiştirmeyi göstermiyor.

Kwok, otomasyona alışıldıkça insanların işleri doğrudan öğrenemeyebileceği endişesini dile getirerek durumu uçakların otomatik pilot sistemlerine benzetti. ABD Federal Havacılık İdaresi (FAA), otomasyona aşırı güvenin manuel uçuş becerilerini zayıflatabileceği konusunda uyarıyor ve pilotların manuel uçuş yetkinliklerini korumasını tavsiye ediyor. Bu ilkenin yapay zekâ ile yürütülen işlere uygulanması ise Kwok’un yorumu.

Yapay zekâ ajanlarının sonuç üretmesi, kurumların sorumluluk sorununu tek başına çözmüyor. Kwok’un gündeme getirdiği başlıca konu; yetkiyi veren, işi yönlendiren, sonucu inceleyen ve onaylayan kişilerin rollerinin kaydedilmesi.