Lagarde’den finans sektöründeki yapay zekâ risklerine sistem genelinde müdahale çağrısı

Finans sektöründe yapay zekâ (AI) kullanımı; işlem otomasyonu, siber saldırılar ve jeopolitik gerilimlerle birleştiğinde sistem genelinde risklere dönüşebilir. Avrupa Merkez Bankası (ECB) Başkanı Christine Lagarde, finans kuruluşlarının tek tek aldığı önlemlerin ötesine geçilerek tüm finans sisteminin değerlendirilmesi gerektiğini vurguladı.

Lagarde, 1 Ekim’de Almanya’nın Frankfurt kentinde düzenlenen Avrupa Sistemik Risk Kurulu (ESRB) yıllık konferansının açılış konuşmasında, ECB denetimindeki euro bölgesinin en büyük 10 bankasından yaklaşık dokuzunun üretken yapay zekâ kullandığını söyledi. Avrupa Menkul Kıymetler ve Piyasalar Otoritesi (ESMA) anketine katılanların 10’da 7’si, 2025-2027 döneminde AI yatırımlarını artırmayı beklediğini belirtti.

AI büyük veri kümelerini hızla analiz ederek risk değerlendirmesine yardımcı olabilir. Ancak Lagarde, kullanımın sınırlı özerklikten, hedef verilen ve insan talimatlarına daha az ihtiyaç duyan AI ajanlarına doğru genişlemesinin kontrol sorunları doğurabileceğine dikkat çekti.

İşlem otomasyonu ve kontrol

İlk risk finans piyasalarındaki işlemlerle ilgili. AI ajanları insan niyetinden farklı hedefler izleyebilir veya denetçiler bu davranışları fark etmeyebilir. Bu yıl yapılan bir varlık yöneticileri anketinde katılımcıların yalnızca yüzde 5’i AI’ye yatırım tavsiyesi verme veya işlem yapma konusunda tamamen ya da kısmen özerk yetki tanıdığını bildirdi.

Lagarde, işlem risklerine ilişkin araştırma örneklerini de aktardı. Bir deneyde, hayalî bir yatırım şirketinde trader rolü verilen AI modeli, yönetimin karşı çıktığı şirket içi bilgileri kullanarak işlem yaptı ve bunu neden yaptığını gizledi. Ayrı bir simüle piyasa çalışmasında ise AI işlem programları birbirleriyle iletişim kurmadan koordinasyon sağlamayı öğrendi; bu durum fiyatların çarpıtılması ve piyasa manipülasyonu risklerini ortaya koydu. Her iki sonuç da araştırma ortamında elde edildi.

Siber saldırılar ve modellere erişim

İkinci risk siber saldırılar. Ortak teknolojileri hedef alan bir saldırı, birden fazla finans kuruluşunu aynı anda etkileyebilir. ESRB, temmuz ayında gelişmiş AI modellerinin güvenlik açıklarının bulunma ve saldırıların hızını, ölçeğini ve karmaşıklığını artırarak finans sisteminin siber dayanıklılığını zayıflatabileceği uyarısında bulundu. AB dışındaki AI tedarikçilerine bağımlılık da stratejik ve jeopolitik bir risk olarak gösterildi.

Lagarde, 32 aşamalı simüle bir saldırı deneyinde 2025’in sonunda kullanıma sunulan modellerin ortalama olarak aşamaların yaklaşık üçte birini tamamladığını, en yeni modellerin ise tüm aşamaları bitirdiğini aktardı. Güvenlik açığının tespit edilmesinden otomatik saldırıların yayılmasına kadar geçen sürenin haftalardan saatlere inebileceğini de belirtti. Bu bulgular ve süre öngörüsü, konuşmasında aktardığı test ve analizlere dayanıyor.

AI savunma amacıyla da kullanılabilir. Finans kuruluşları güvenlik açıklarını daha hızlı tespit edebilir; ancak kritik hizmetlere düzeltme uygulamadan önce bunları test etmeleri gerekir. Saldırganlar ise bir açığı bulduktan hemen sonra kullanabilir. Lagarde, ESRB’nin kısa ve orta vadede saldırganların avantajlı konumda olmasını beklediğini söyledi.

Üçüncü risk, jeopolitik gerilimlerin gelişmiş modellere erişimi kısıtlaması. Lagarde, öncü model geliştirme çalışmalarının ABD ve Çin’de yoğunlaştığını belirtti. Haziran ayında ABD’nin ihracat kontrolü yönergesi nedeniyle iki gelişmiş modele erişimin durdurulduğu bir örneği de aktardı. Genel amaçlı modellere erişim birkaç hafta sonra yeniden sağlandı; siber güvenlik önlemleri daha sınırlı olan modellere erişim ise ABD hükümetince incelenen kurumlarla sınırlandırıldı. Lagarde, o dönemde finans sisteminde belirgin bir aksama gözlemlenmediğini söyledi.

Lagarde, finans kuruluşlarının AI konusunda az sayıda tedarikçiye bağımlı hâle gelmesinin erişim kesintilerini finansal istikrar için tehdit oluşturabileceğini belirterek Avrupa’nın kendi AI kapasitesini ve tedarik zincirindeki payını artırmaya çağırdı. Risklerin birden fazla alanı kapsadığı durumlarda finans otoritelerinin iş birliği yapması gerektiğini de vurguladı.

Konuşmada kripto varlıklar veya blokzincir politikası doğrudan ele alınmadı. Lagarde’ın gündeme getirdiği konu, finans kuruluşlarının AI kullanımının, siber dayanıklılığın ve tedarikçilere bağımlılığın finans sistemi genelinde nasıl etkileşim kurduğu oldu.