Yapay zekâ raporu: Deepfake, bağımlılık ve dijital uçurum toplumu tehdit ediyor

Web 3.0 Endüstrisini Canlandırmaya Yönelik Politika Araştırma Raporu'na göre, yapay zekâ(AI) teknolojilerinin hızla yayılması sanayi alanında *yenilik* getirse de, aynı zamanda toplumsal güveni zedeleyen *olumsuz etkileri* de artırıyor. Rapor, özellikle deepfake videolar, sesli dolandırıcılık (voice phishing) gibi kötüye kullanım örneklerinin artmasıyla, AI'ye aşırı bağımlılığın ve teknolojiyi eşitsiz kullanmanın toplumsal yapıyı olumsuz etkileyebileceğine dikkat çekiyor.

Sogang Üniversitesi'nden Profesör Yoon Seok-bin, bu raporda AI’nin olumsuz yönlerini yalnızca teknik kusurlar değil, *insan kaynaklı yanlış ve kötüye kullanımın doğurduğu tüm etkiler* olarak tanımlıyor. Rapor, bu etkileri özellikle üç başlık altında ele alıyor: ‘dijital uçurumun derinleşmesi (AI Divide)’, ‘dijital aşırı bağımlılık (AI Overdependence)’ ve ‘suç ve yasa dışı faaliyetler (Crime & Illegal Acts)’.

İlk olarak *dijital uçurum* konusu, yüksek performanslı AI araçlarının kullanımı için gerekli olan ücretlendirme sistemleri, büyük-küçük işletmeler arasındaki veri işleme kapasitesi farkı ve kaliteli veri bulundurulmasına bağlı performans eşitsizliği gibi faktörlerin, üretkenlikte muazzam eşitsizlikler yaratabileceğini ortaya koyuyor. Örneğin ücretli AI hizmetlerine erişimi olmayan kullanıcıların üretim süreçlerinde geride kalma riski her geçen gün artıyor.

*Dijital aşırı bağımlılık* ise insanların özgün düşünme yeteneklerinin gerilemesiyle ilişkilendiriliyor. AI’nin sunduğu otomatik tamamlama sonuçlarının sürekli denetlenmesi, düzeltilmesi gibi tekrar eden işler nedeniyle oluşan zihinsel yorgunluk, stres ve hatta ‘AI olmadan çalışamama’ durumuna düşme riski artıyor. Özellikle ‘nitelik kaybı’ anlamına gelen ‘deskilling’ etkisi, insan kabiliyetlerinin giderek körelmesine neden oluyor.

Daha kritik olan bir diğer konu ise *AI’nin suç amaçlı kullanımı*. Rapora göre, deepfake teknolojisiyle işlenen cinsel suçlar, CEO kimliği taklit edilerek yapılan dolandırıcılıklar ve sahte kanıt üretimi gibi olaylar artık gerçek hayatta karşılaşılan vakalar haline geldi. Bu durum, ‘bilgiye güvenememe’ ortamını büyüterek bir tür ‘gerçeklik krizi’ yaratıyor. Ayrıca yapay zekâ destekli sesli dolandırıcılık tekniklerinin gelişmesi ve kişiye özel manipülatif içeriklerin yaygınlaşması, sahte haberlerin ve toplumsal kutuplaşmaların artmasına yol açabilir.

Bu tehditlere karşı önerilen teknik çözümler de raporda detaylandırılmış. Deepfake içeriği tespit eden algoritmaların geliştirilmesi, içerik kaynağını doğrulamaya yarayan C2PA standartlarının ve dijital filigranların zorunlu hale getirilmesi öneriliyor. Bunun yanında, dağıtık kimlik doğrulama (DID), sıfır bilgi kanıtı (ZKP) ve blokzinciri tabanlı içerik doğrulama sistemlerinin birleşimiyle *Web 3.0 tabanlı dijital güven ağı* kurmanın önemi vurgulanıyor.

Politika düzeyinde ise, deepfake içeriklerin yayılmasına yönelik cezai yaptırımların artırılması, platform sağlayıcılarının sorumluluklarının açıkça yasalaştırılması ve kamuya açık AI altyapısının inşası gibi talepler artmakta. Aynı zamanda hem gençler hem yetişkinler dahil olmak üzere toplumun tüm kesimlerine yönelik kapsamlı dijital okuryazarlık eğitimi ihtiyacı da güçlü şekilde dile getiriliyor.

Raporun sonunda Profesör Yoon, yalnızca teknik çözümlerle sınırlı kalınmaması gerektiğini, etik eğitimler, politika yapıcılarla iş dünyası, akademi ve sivil toplum arasında *etkileşimli yönetişim* sistemlerinin inşa edilmesi gerektiğini vurguluyor. Aksi halde, teknolojiye duyulan güvenin çökmesi dijital demokrasiyi ve ekonomik düzeni bile tehdit edebilir.

Sonuç olarak rapor, teknolojinin ilerlemesini sınırlandırmak yerine, onu *adil ve sorumlu biçimde kullanmayı sağlayacak insan merkezli ilkelerin* tanımlanmasının esas olduğunu belirtiyor. AI’nin toplumsal kalkınma için kullanılabilmesi adına, esnek mevzuatlar, uyumlu sistemler ve sürdürülebilir güven ekosisteminin bir arada geliştirilmesi gerektiği sonucuna varılıyor.