Fransız uzmanlardan üretken yapay zekâya 18 öneri

Fransız uzmanlar, tüketicilere yönelik üretken yapay zekâ araçlarının Avrupa pazarına sunulmadan önce risk değerlendirmesinden geçirilmesini ve piyasaya çıktıktan sonra etkilerinin izlenmesini önerdi.

Fransa Cumhurbaşkanlığı, Yapay Zekâ ve Dijital Komitesi bünyesindeki uzman heyetinin “Üretken Yapay Zekâ ve Kırılganlıklar” başlıklı raporu Cumhurbaşkanı Emmanuel Macron’a 10 Kasım’da sunduğunu açıkladı. Farklı disiplinlerden dokuz uzmanın yer aldığı heyet; sağlık, araştırma, eğitim, iş dünyası ve çocuk koruma kuruluşlarından paydaşlarla 55 görüşme yaptı ve 18 öneri hazırladı. Fransa Cumhurbaşkanlığı duyurusu

Ön değerlendirme önerisi, genel tüketicilere sunulan sohbet tabanlı yapay zekâyı kapsıyor. Sosyal ağlara entegre edilen sohbet botları da bu kapsamda; iş amaçlı yapay zekâ araçları ise kapsam dışında. Heyet, psikolojik ve toplumsal etkilerin farklı alanlardan uzmanlarca bağımsız biçimde değerlendirilmesini istedi. TokenPost daha önce, gelişmiş yapay zekâ modelleri yayımlanmadan önce hükümetlerin değerlendirme sürecine katılması gerektiğini savunan Microsoft’un yapay zekâ birimi yöneticisinin görüşünü haberleştirmişti. Uzman heyetinin raporu

Öneriler, ürün piyasaya çıktıktan sonra kullanıcılar üzerindeki etkilerin izlenmesini ve modelde kapsamlı değişiklik yapıldığında yeniden değerlendirme yürütülmesini de içeriyor. Yetkili kurumların ve araştırmacıların kullanım, eğitim ve gelir elde etme verilerine erişebilmesi için yasal bir çerçeve oluşturulması da önerildi.

Heyet, kullanıcıya her koşulda katılan veya insan gibi görünen tasarımların düzenlenmesini istedi. Reşit olmayanların erişebildiği hizmetlerde zararlı taleplerin filtrelenmesi ve güvenliğin varsayılan ayar olması gerektiğini belirtti. Yapay zekâ yanıtlarında ticari etkiler bulunuyorsa bunun açıklanması; gizli reklamların ve kullanıcıların kırılganlıklarından yararlanan ticari yönlendirmenin yasaklanması da öneriler arasında yer aldı.

Sistemlerin sohbet sırasında sağlık durumu veya siyasi görüş gibi kullanıcı bilgilerini çıkarsaması hâlinde, çıkarım yapılan kategorinin kullanıcıya bildirilmesi önerildi. Kullanıcıların çıkarımları görüp bunlara itiraz edebilmesi ve ticari amaçlı kullanıma karşı kişisel verilerin korunması kuralları uyarınca güvence sağlanması da raporda yer aldı. Kullanıcıların bu tür kullanımı reddedebilmesi istendi.

Eğitim ve yanlış bilgiyle mücadele de öneriler arasında. Heyet, çocuklara erken yaşlardan itibaren yapay zekânın nasıl kullanılacağının ve risklerinin öğretilmesini, yapay zekâ tarafından üretilen yanlış bilgiler yayıldığında kamu kurumları ile geliştiricilerin hızla bilgi paylaşacağı bir müdahale mekanizması kurulmasını önerdi. Fransa’da üretken yapay zekâyı kullanan tekil kullanıcıların sayısı bu yılın başında 33 milyona ulaşmıştı. Heyet, teknolojinin kullanım potansiyelini kabul ederken mevcut hukuki çerçevenin farklı yasalara dağılmış olduğunu ve değerlendirmelerin ağırlıklı olarak ürün piyasaya çıktıktan sonra yapıldığını belirtti. Rapor bir uzman heyetinin politika önerilerinden oluşuyor; sunulmuş olması tek başına yasal yükümlülük başlatmıyor.