AB, çocukların duygularını taklit eden sohbet botlarını sınırlamaya hazırlanıyor

Avrupa Komisyonu, çocuklarla insan ilişkilerini taklit ederek duygusal bağımlılığa yol açabilecek yapay zekâ sohbet botlarının tasarımını sınırlamayı önerdi. Avrupa Komisyonu, 17'sinde açıkladığı EU KIDS Act kapsamında çocukların kullanabileceği yapay zekâ sohbet botları ve yapay zekâ eşlikçi hizmetleri için güvenli tasarım yükümlülüğü getirileceğini bildirdi.

Avrupa Komisyonu, bu hizmetlerin çocukların önceki konuşmalarını varsayılan olarak sonraki görüşmelerde kullanamaması gerektiğini belirtti. Ayrıca hizmetlerin kullanıma sunulmadan önce çocuklara yönelik riskler açısından test edilmesi ve yayımlandıktan sonra da olası zararların izlenmesi gerektiğini açıkladı. Platformlara veya oyunlara entegre edilen sohbet botlarının otomatik olarak çalıştırılmaması, çocukları kullanıma teşvik etmemesi ve kolayca kapatılabilmesi gerektiği kaydedildi.

Avrupa Komisyonu ayrıca 13 yaşından küçüklerin sosyal medya hesabı açmasını yasaklamayı, 13-14 yaş grubu için ebeveyn gözetimli hesapları, 15 yaşından itibaren ise bağımsız hesapları mümkün kılmayı öngören kademeli yaş kriterleri önerdi. EU KIDS Act henüz yasalaşmış değil ve teklif aşamasında bulunuyor.