Kore'de yapay zekâda yasa dışı içerik için kamu-özel toplantısı yapıldı

Güney Kore’de yayın, medya ve iletişim alanını düzenleyen Yayın Medya İletişim Kurulu (BMTK), yapay zekâ hizmetlerinde yasa dışı ve zararlı içerik riskine karşı alınacak önlemleri görüşmek üzere kamu-özel sektör toplantısı düzenledi.

27’sinde (yerel saatle) Seul’deki L Tower’da yapılan ‘Yapay Zekâ Hizmeti Kullanıcı Koruması Kamu-Özel Sektör Kurulu’nun ikinci toplantısına hükümet, sektör temsilcileri, akademisyenler ve sivil toplum kuruluşları katıldı. BMTK, toplantının amacının yapay zekâ hizmetlerinin yaygınlaşmasıyla mevcut düzenlemelerin dışında kalan kullanıcı koruma sorunlarını incelemek ve güvenli bir hizmet ortamı için sistem iyileştirme önerileri geliştirmek olduğunu açıkladı.

Toplantının ana gündemi, yapay zekâ hizmetlerinde yasa dışı ve zararlı bilgilerin kullanıcıya ulaşma riskini azaltacak teknik önlemlerdi. Kakao’nun AI Safety Lideri Kim Kyung-hoon, “Yapay Zekâ Hizmetlerinde Yasa Dışı ve Zararlı İçerikle Mücadele İçin Guardrail Sistemi” başlıklı bir sunum yaptı.

Kim, Kakao’nun kendi geliştirdiği, Korece’ye özel açık kaynaklı yapay zekâ güvenlik doğrulama modeli ‘Kanana Safeguard’ı tanıttı. Şirketlerin kendi güvenlik önlemlerini nasıl güçlendirebileceğine ve yapay zekâ güvenlik ekosisteminde iş birliği yollarına da değindi.

Guardrail, yapay zekâ hizmetinin uygunsuz yanıtlar vermesini veya tehlikeli bilgi paylaşmasını engelleyen bir güvenlik katmanı olarak tanımlanıyor. Kullanıcıya ulaşacak yanıtları önceden filtreleyerek ya da riskli isteklere verilecek cevapları sınırlandırarak hizmet güvenliğini artırmak için kullanılıyor.

Ardından gelen genel tartışma oturumunu Korea Üniversitesi Teknoloji Yönetimi Yüksek Lisans Enstitüsü’nden Lee Sung-yop yönetti. Oturumda, yapay zekâ hizmetlerinde yasa dışı ve zararlı içerik riskine karşı şirketlerin gönüllü önlemlerinin yaygınlaştırılması ve kamu-özel iş birliği seçenekleri konuşuldu.

Lee Sung-yop, “Bugün paylaşılan teknik gelişmelerin, şirketlerin kullanıcı korumasına yönelik mevzuat hazırlığı sürecinde sistemin işlerliğini artıracak şekilde yansıtılması gerekiyor” dedi. Teknik tartışmanın yalnızca bir bildirgeyle sınırlı kalmayıp gerçek bir düzenleme çerçevesine bağlanması gerektiğini vurguladı ('yorum').

BMTK Yayın-İletişim Kullanıcı Politikaları Genel Müdürü Shin Young-gyu ise “Etik açıdan güvenilir olmayan yapay zekâ teknolojisi toplumsal güvensizliğe yol açarak yapay zekâ sektörünün büyümesinin önüne geçebilir” diyerek, “Teknolojinin geliştirilmesiyle kullanıcı korumasına yönelik teknik güvenlik önlemlerinin birlikte hayata geçirilmesi gerekiyor” ifadelerini kullandı.

BMTK’nin bu toplantısı, yapay zekâ hizmetlerini yalnızca yeni bir teknoloji olarak değil, kullanıcı koruma düzenlemesinin konusu olarak ele alma eğiliminin bir parçası. Yapay zekâ hizmetlerinin arama, danışmanlık, içerik önerisi ve iş süreçleri otomasyonu gibi alanlara yayılmasıyla, mevcut iletişim ve platform düzenlemelerinin yakalayamadığı kullanıcı zararı ihtimalinin büyüdüğü değerlendiriliyor ('yorum').

BMTK, 2021’den bu yana ‘Akıllı Bilgi Toplumu Kullanıcı Koruma Kamu-Özel Sektör Kurulu’nu yürütüyordu. 2024’te yapay zekâ alanındaki değişime paralel olarak bu kurulu ‘Yapay Zekâ Hizmeti Kullanıcı Koruma Kamu-Özel Sektör Kurulu’ adıyla genişletti.

Geçtiğimiz Mayıs ayında, hükümet, sektör, hukuk, akademi ve sivil toplumdan 35 uzmanın yer aldığı kurulun ikinci dönemi göreve başlamıştı. Bu ikinci toplantı, yapay zekâ hizmetlerindeki güvenlik önlemlerini hem şirketlerin gönüllü adımları hem de sistem iyileştirme tartışmaları üzerinden ele alması bakımından önem taşıyor.

Güney Kore’de yapay zekâ hizmetlerine yönelik düzenleme eğilimi, model performansı yarışından çok kullanıcı kontrol mekanizmaları ve sorumluluk yapısını birlikte talep eden bir yöne doğru ilerliyor. TokenPost daha önce yapay zekâ laboratuvarlarındaki güvenlik denetimi tartışmasının çalışan itirazlarından yönetim kurulu sorumluluğuna kaydığını aktarmıştı.

Yapay zekâ güvenliği tartışması, hizmet sağlayıcılarla kullanıcılar arasındaki sorumluluk sınırının nasıl çizileceği sorusunu da beraberinde getiriyor. Şirketlerin teknik engelleme mekanizmaları kurması, düzenleyici kurumların ise gönüllü önlemlerin gerçekten kullanıcı korumasına dönüşüp dönüşmediğini takip edecek bir yapı oluşturması yönünde beklenti büyüyor.

BMTK, bu toplantıda konuşulanları temel alarak yapay zekâ hizmeti kullanıcılarının güvenle hizmet alabileceği bir ortam oluşturmayı planlıyor.