Finansal Yapay Zekada 7 İlke Yürürlükte: Yönetim Sorumluluğu ve Güvenlik Standardı Netleşti

Güney Kore'de finans şirketlerinin yapay zeka (AI) kullanımı hızla yaygınlaşırken, düzenleyiciler yönetim kurulu sorumluluğunu, güvenliği ve tüketici korumasını kapsayan yeni bir yönetim çerçevesini devreye soktu. Kore Finans Araştırma Enstitüsü (KIF), yakın zamanda yayımladığı 'Finans Şirketlerinde AI Yönetişimi Kurulması İçin Politika Önerileri' başlıklı raporda, bu kapsamlı yönetim yapısının artık gerekli hale geldiğini belirtti. Finans sektörüne yönelik yapay zeka rehberi 22 Haziran'da yürürlüğe girdi.

Güney Kore Finansal Hizmetler Komisyonu (FSC), 18 Haziran'da düzenlediği finans sektörü yapay zeka dönüşümü toplantısında rehberin güncellenmiş halini duyurdu. Düzenleme, sektör veya iş kolu fark etmeksizin yapay zeka kullanan tüm finans şirketlerinin başvurabileceği bir öz-düzenleme niteliğinde tasarlandı.

Güncellenen rehber yedi temel ilke ortaya koydu: 'yönetişim', 'yasallık', 'yardımcı araç niteliği', 'güvenilirlik', 'finansal istikrar', 'dürüstlük' ve 'güvenlik'. Yönetişim ilkesi, CEO dahil üst yönetimin yapay zeka geliştirme ve kullanım sürecindeki rol ve sorumluluklarını paylaşmasını, karar alma mekanizmaları, özel bir birim ve iç düzenlemeler oluşturmasını şart koşuyor.

Yardımcı araç niteliği ilkesi ise mevcut aşamada yapay zekanın yalnızca bir iş destek aracı olarak tanımlanmasını, nihai kararın ve sorumluluğun çalışanlarda kalmasını öngörüyor. Amaç, finansal ürün tavsiyesi, üyelik işlemleri ve ödeme gibi tüketici kararlarını doğrudan etkileyebilecek alanlarda sorumluluğun belirsizleşmesini önlemek.

Finans şirketleri yapay zekayı yalnızca müşteri hizmetleri chatbotlarında ve iç süreç verimliliğinde değil, müşteri verisi, risk yönetimi ve veri analizinde de kullanıyor. Bazı şirketler, yapay zeka ajanlarını karar destek aracı olarak devreye aldıklarını belirtti.

Dış hizmetlerin genişletilmesinin önünde ağ ayrımı, veri düzenlemeleri, erişim aracı doğrulaması, sorumluluk paylaşımı ve sektör sınıflandırması gibi kısıtlamalar duruyor. FSC, yapay zeka eğitiminde kullanılan kişisel kredi bilgileri için onay sistemini ve veri anonimleştirme düzenlemelerini gözden geçireceğini, yapay zekanın davranış standartlarını ve sorumluluk yapısını da inceleyeceğini açıkladı.

FSC, 26 Mayıs'ta yayımladığı bir belgede, yalnızca güvenlik amaçlı yapay zeka kullanımı için ağ ayrımı düzenlemesini geçici olarak gevşetme planını ortaya koydu. Buna göre belirli bir güvenlik kapasitesine sahip finans şirketleri başvuruda bulunursa, uzman değerlendirmesi, FSC'ye raporlama ve 'işlem yapılmayacağına dair görüş belgesi' verilmesi gibi aşamalardan geçerek düzenleme belirli bir süre için esnetilebilecek.

Finansal Güvenlik Enstitüsü (FSI) de finansal yapay zekanın güvenliğini ve güvenilirliğini denetleyecek bir değerlendirme sistemi sundu. Taslak kriterler arasında model performans yönetimi, veri kalitesi, adillik ve önyargı, açıklanabilirlik, yapay zekaya özgü güvenlik tehditleri, dış model ve veri doğrulaması ile tedarik zinciri güvenliği yer alıyor.

Finans şirketleri, yapay zekada kullanılan veriler ve model performansı için durdurma kriterlerini, tüketici itirazlarında izlenecek açıklama prosedürlerini iç düzenlemelerle belirlemek zorunda. Yapay zeka yönetişimi artık teknik birimlerin ötesine geçerek yönetim kurulu ve üst yönetimin sorumluluk alanına girdi.

FSC, yılın ikinci yarısından itibaren mevzuat iyileştirmesi gereken alanları, yapay zeka uygulamasında risk yönetimi yöntemlerini ve yapay zeka ajanlarının test edilmesine yönelik pilot proje planlarını değerlendirmeyi planlıyor. FSI de yılın ikinci yarısında finans şirketlerinden başvuru alarak yapay zeka güvenliği ve güvenilirliği için pilot değerlendirme gerçekleştirecek.