Çocuk istismarı görüntüleri Grok'un eğitiminde mi kullanıldı? xAI davalık oldu

Elon Musk(Elon Musk) yönetimindeki yapay zeka şirketi xAI, Grok modelinin eğitiminde çocuk istismarı görüntülerinin (CSAM) kullanıldığı iddiasıyla açılan bir hukuk davasıyla karşı karşıya. Davacı tarafın avukatları, gerçek mağdur görüntülerinin ve bunlardan türetilen yapay zeka üretimi görsellerin Grok'un eğitim veri akışına karıştığını öne sürüyor.

Dava, 26'sında (yerel saatle) ABD'de Kuzey Kaliforniya Federal Bölge Mahkemesi'nde açıldı. Ars Technica ve CyberScoop'un haberine göre davacı, geçmişte çocuk istismarı mağduru olduğunu ve kendi görüntüsünün Grok ile ilişkili çıktılarda yeniden ortaya çıktığını iddia ediyor.

Davacı, kendisine ait mağdur görüntüsünün FBI'ın (Federal Soruşturma Bürosu) çocuk istismarı bildirim programı kapsamında tanımlanmış bir görsel olduğunu savunuyor. İddiaya göre bu görüntü, ABD Kayıp ve İstismara Uğramış Çocuklar Merkezi (NCMEC) ile Kanada Çocuk Koruma Merkezi'nin dijital 'hash' listelerinde de yer alıyordu; xAI'nin bu görseli Grok'un görsel ve video üretme yeteneğini eğitmek için kullandığı öne sürülüyor.

Hash, bir görüntü veya dosyayı tanımlamak için oluşturulan dijital parmak izi anlamına geliyor. Çocuk istismarı görüntüleriyle mücadelede, daha önce tespit edilmiş yasa dışı görüntülerin hash'leri bir veritabanında tutularak aynı ya da benzer dosyaların yeniden tespit edilmesi sağlanıyor. Bu davanın özünde, söz konusu tanımlanmış görüntülerin üretken yapay zeka eğitim sürecine filtrelenmeden karışıp karışmadığı tartışması yatıyor.

Davacı tarafa göre Grok, yalnızca geçmiş mağdur görüntülerini değil, bunlardan yapay zeka ile üretilmiş türev görselleri de yeniden eğitim veri akışına dahil etti. Dava dilekçesinde, Grok'un herkese açık X gönderilerini ve kendi ürettiği çıktıları eğitim verisi olarak işleyen kullanım koşulları yapısı, sorunun kaynağı olarak gösteriliyor. Ancak yalnızca bu kullanım koşulları yapısının varlığı, belirli bir çocuk istismarı görüntüsünün gerçekten eğitime dahil edildiğini tek başına kanıtlamıyor.

xAI'nin herkese açık SSS sayfası, Grok'un büyük ölçüde herkese açık web verileriyle ön eğitimden geçtiğini ve kullanıcıların istemlerinin, aramalarının, gönderdiği içeriklerin ve Grok'un yanıtlarının model eğitiminde kullanılabileceğini belirtiyor. X'in yardım merkezi de herkese açık X verileri ile Grok etkileşimlerinin, Grok ve diğer üretken modellerin eğitim ve ince ayarında kullanılabileceğini açıklıyor. Aynı zamanda bazı eğitim amaçlı kullanım reddi ayarları ve özel sohbetlere ilişkin istisnalar da tanımlanmış durumda.

Tartışmanın merkezinde üretken yapay zeka hizmetlerinin veri döngüsü yapısı yer alıyor. Normalde kullanıcı girdileri, herkese açık gönderiler ve model çıktıları hizmet geliştirme ile güvenlik değerlendirmesi amacıyla kullanılabiliyor. Ancak yasa dışı görüntüler ya da rıza olmadan üretilmiş cinsel içerikli görseller bu akışa karışırsa, mağduriyet tekrar edebiliyor. Davacı tarafın iddiası, bu riskin Grok'ta gerçeğe dönüştüğü yönünde.

Dava, Grok'a yönelik cinsel içerikli 'deepfake' tartışmalarının sürdüğü bir dönemde geldi. Kanada'nın kişisel veri denetim kurumu, 11 Haziran'da yayımladığı raporda X ve xAI'nin cinsel içerikli deepfake üretimiyle ilgili gerekli rızayı almadığı ve alınan önlemlerin yetersiz kaldığı sonucuna vardı. xAI ve X ise aynı rapora verdikleri yanıtta, çocuk istismarı görüntüleri ile rıza dışı cinsel içeriğin platformlarında yer bulamayacağını ve bunu önlemek için gerekli adımları attıklarını savundu.

xAI'ye karşı açılan hukuk davaları da giderek birikiyor. Mart ayından itibaren Grok'un çocuk istismarı görüntüsü ürettiği iddiasıyla sorumluluk arayan bir grup davası sürüyor; Temmuz'da bu davanın değiştirilmiş dilekçesine yeni mağdurlar ve Stability AI eklendi. Ağustos ayında da ayrı davalar art arda gündeme geldi.

Bu dava, mevcut 'üretilen içerikten sorumluluk' tartışmasını bir adım öteye taşıyor. Artık mesele yalnızca Grok'un yasa dışı görüntüler üretip üretmediği değil; modeli oluşturan eğitim verisinin kendisine gerçek mağdur görüntülerinin girip girmediği. Bu da kanıt toplama süreci ve teknik doğrulama olmadan sonuca bağlanması güç bir alan.

Konunun yerli okuyucu için önemi veri kontrolü ve model güvenliği. Grok, X ile bütünleşik bir üretken yapay zeka hizmeti olduğu için herkese açık gönderilerin, kullanıcı etkileşimlerinin ve görsel üretim sonuçlarının model geliştirmede ne ölçüde kullanıldığı artık hukuki bir tartışma konusu haline geldi. TokenPost daha önce, Grok'un iş odaklı bir yapay zeka aracına dönüşmesiyle hesap bazlı erişim kapsamının ve aktivite kayıtlarının yönetiminin önem kazandığını aktarmıştı.

Kurumsal yapay zeka kullanımında da aynı sorun tekrarlanıyor. Model performansı arttıkça, kullanıcı verisi, kurum içi belgeler ve üretilen çıktıların yeniden kullanım kapsamının net biçimde ayrılması gerekiyor. Yasa dışı ve hassas içeriğin engellenmesi, silme taleplerinin işlenmesi ve eğitim sonrası etkilerin denetlenmesi, hizmete duyulan güvenin temel dayanağı haline geliyor.

Ars Technica, xAI'nin yorum talebine yanıt vermediğini aktardı. Kamuya açık kaynaklarda bu habere birebir denk düşen bir dava numarasına ulaşılamadı. İlgili federal mahkeme dosyaları arasında Mart ayında açılan Doe 1 et al v. X.AI Corp. et al ile 18'inde açılan Doe I et al v. X.AI Corp. et al davaları bulunuyor.

Mahkeme bundan sonra davacı tarafın iddialarının somut dayanaklarını ve xAI'nin veri işleme yapısını inceleyecek. Gerçek çocuk istismarı görüntülerinin eğitim verisine girip girmediği, girdiyse hangi kapsamda kaldığı ve silme talebinin ardından modelde ne gibi izler bıraktığı, duruşmanın ana konusu olacak.