İltica AI özetlerinde ilk uzman incelemesinde 203 örneğin 45’i başarısız oldu

Birleşik Krallık İçişleri Bakanlığının iltica mülakatı özetleri hazırlayan yapay zekâsının ürettiği 203 örneğin 45’i dağıtımdan sonraki ilk uzman incelemesini geçemedi. Bu oran örneklerin yüzde 22’sine karşılık geliyor; tüm iltica başvurularının veya nihai kararların hata oranını göstermiyor.

Open Rights Group (ORG), 12 Ekim’de yayımladığı araştırmada bu bulgulara yer verdi. Kuruluş, Birleşik Krallık Bağımsız Göç ve Sınır Denetçisinden (ICIBI) İçişleri Bakanlığının kullandığı iki yapay zekâ aracını incelemesini istedi.

Bakanlığın araçlarından İltica Vakası Özeti (ACS), iltica mülakatı kayıtlarını görevliler için kısaltıyor. İltica Politikası Araması (APS) ise ülkelere ilişkin politika bilgilerini etkileşimli biçimde bulmaya yarıyor. ORG, her iki aracın da Azure AI Foundry üzerinden GPT-4o kullandığını belirtti.

APS, Temmuz 2025’te tüm iltica inceleme görevlilerinin kullanımına sunuldu. ACS ise Nisan 2026’da iltica dosyalarında çalışan tüm görevlilere dağıtıldı. Bakanlığın ACS pilot değerlendirmesinde özetlerin yüzde 9’u hatalı veya eksik bilgi içerdiği için kullanıma uygun bulunmadı.

Dağıtım sonrası örneklem incelemesinde 203 özetin 139’u ilk değerlendirmeyi geçti, 19’u ek incelemeye alındı. Kalan 45 özet ise ilk incelemede başarısız oldu. Pilot değerlendirme ile dağıtım sonrası inceleme farklı zamanlarda ve yöntemlerle yürütüldüğünden, iki oran aynı koşullardaki performans değişimi olarak karşılaştırılamaz.

Denetimin kapsamı da tartışma konusu. ORG, Nisan-Temmuz 2026 arasında oluşturulan özetlerin yalnızca yüzde 0,3’ünün bakanlığın alan uzmanlarınca kontrol edildiğini tahmin etti. Kuruluş, değerlendirmede önemli ifadelerin özette yer alıp almadığına bakıldığını, ancak eksik bırakmanın açıkça başarısızlık ölçütü sayılmadığını kaydetti.

ORG’nin araştırmasına göre iltica başvuru sahiplerine dosyalarında yapay zekâ kullanıldığı ayrıca bildirilmiyor; yapay zekânın hazırladığı özeti görmeleri veya düzeltmeleri de mümkün değil. ORG’nin görevlendirdiği hukuki görüş, bu uygulamanın başvuru sahiplerine hatalı kişisel verileri düzeltme fırsatı vermediği için yasal yükümlülüklerle çelişebileceğini belirtti. Bu, mahkeme kararı değil, hukuki değerlendirme görüşüdür.

ORG, iki aracın kullanımının durdurulmasını ve bağımsız denetim yapılmasını talep ediyor. Buna karşılık Birleşik Krallık İçişleri Bakanlığı, Haziran 2026’da parlamentoya sunduğu yanıtta yapay zekânın iltica başvuruları hakkında karar vermediğini; görevlilerin değerlendirmesine yardımcı olmak için belge analizi ve bilgi sunumunda kullanıldığını bildirdi.

İçişleri Bakanlığı sözcüsü, incelemeleri eğitimli görevlilerin yürüttüğünü, araçların performansının düzenli olarak kontrol edildiğini ve dağıtım değerlendirmesinin yayımlanacağını söyledi. Guardian’ın aktardığı açıklamada yer alan bu taahhüde karşın, denetçinin resmî bir soruşturma başlatıp başlatmayacağı henüz açıklanmadı.