4500 Yıldızlı Proje: Claude Filigranını Kaldıran Araçlar Günler İçinde Yayıldı

Anthropic'in Claude modelleriyle üretilen içeriklerin filigranını silmeyi vaat eden geliştirici araçları, kamuoyuna duyurulmasının ardından sadece birkaç gün içinde hızla yayıldı. Avrupa Birliği'nin (AB) Yapay Zeka Yasası kapsamındaki şeffaflık yükümlülüğü yürürlüğe girince tartışma, filigranın uygulanmasından doğrulanabilirliğine kaydı.

Anthropic destek belgesinde, ayın 2'sinden (yerel saatle) itibaren piyasaya sürülen Claude modellerinin çıkış anından başlayarak ürettiği metinlere makinenin okuyabileceği bir 'filigran', destek dosyalarına ise dijital imzaya dayanan kaynak meta verisi eklediğini duyurdu. Kapsam Claude platform API'sini, Claude'u, Claude Code'u, Claude Cowork'ü, Claude Tag'i, Amazon Web Services'i (AWS), Google Cloud'u ve Microsoft Foundry'yi içeriyor.

Avrupa Komisyonu, AB Yapay Zeka Yasası'nın 50. maddesindeki şeffaflık kuralının 2'sinden itibaren (yerel saatle) uygulanmaya başladığını açıkladı. Madde, üretken yapay zekânın oluşturduğu sentetik ses, görsel, video ve metin içeriklerine makinenin okuyabileceği bir işaret eklenmesini zorunlu kılıyor. Kamu yararına yazılan metinlerde insan denetimi ya da editoryal kontrol bulunmuyorsa, içeriğin yapay zekâ tarafından üretildiği yayımlanırken açıklanmak zorunda.

Bu adım, gazetemizin daha önce Claude'un ürettiği metinlere görünmez bir filigran eklendiğini aktardığı haberin devamı niteliğinde. O dönemki tartışmanın odağı büyük yapay zekâ şirketlerinin düzenlemeye uyacak işaretleme sistemleri hazırlayıp hazırlamadığıyken, uygulama fiilen başladıktan sonra mesele işaretin ne kadar sağlam olduğuna kaydı.

BleepingComputer, Anthropic'in duyurusunun ardından filigran kaldırma araçlarının ve web servislerinin hızla çoğaldığını, bunlardan bir GitHub projesinin 4500'den fazla yıldız aldığını yazdı. Ancak Anthropic'in dedektör ve teknik detayları kamuoyuyla paylaşmaması nedeniyle bu araçların filigranı gerçekten kaldırıp kaldırmadığının bağımsız olarak doğrulanmasının güç olduğunu aktardı.

Teknik açıdan bakıldığında kaldırılabilen kısmın yalnızca gizli karakterler ya da dosya meta verisiyle sınırlı kaldığına dikkat çekiliyor. Gerçek metin filigranı kelime seçim örüntüsüne gömülüyse, etkili olması için cümlelerin büyük ölçüde yeniden yazılması gerekiyor. Bu da basit silme araçlarıyla gerçek tespitten kaçış arasında bir boşluk bulunduğu anlamına geliyor.

Filigran, bir cümle okunurken gözle görülen bir etiket değil. Metinde üretim sürecindeki token seçim örüntüsüne bir sinyal yerleştiriliyor, dosyalarda ise üretim ve işlem geçmişi imzalı meta veri olarak kaydediliyor. Dosya kaynak meta verisi, içerik kökenini ve değişiklik geçmişini kaydeden C2PA standardıyla örtüşüyor.

Anthropic da filigranın sınırlarını belgesine yazdı. Şirket, bu işaretin yalnızca içeriğin Claude tarafından işlendiğine dair bir sinyal olduğunu, eksiksiz bir kaynak kanıtı sayılmadığını açıkladı. Yoğun düzenleme, cümlelerin yeniden yazılması, çeviri ya da çok kısa metinlerde tespit sinyalinin kaybolabileceğini belirtti.

Bu durum, gazetemizin Charles Hoskinson'ın(Charles Hoskinson) Claude işaretini temizleyen açık kaynaklı bir araç yayımladığını aktardığı haberle de aynı çizgide. Filigranın bulunması eserin sahibini ya da nihai sorumluyu otomatik olarak belirlemiyor; tersine filigranın bulunmaması da yapay zekâ kullanımını dışlamıyor.

Nature dergisi, araştırmacıların bu adımın akademide düşük kaliteli yapay zekâ üretimlerinin yayılmasını azaltmada büyük bir etki yaratmasının zor olduğunu düşündüğünü yazdı. Öne çıkan itiraz, metin filigranının görsel ya da videoya kıyasla yapısal olarak daha kırılgan olması.

Kullanıcı tepkileri de bölündü. Business Insider, bazı Claude kullanıcılarının filigranı gerekçe göstererek aboneliklerini iptal ettiğini aktardı. Anthropic ise ciddi bir üye kaybı artışı görmediklerini açıkladı.

Geliştiriciler açısından bakıldığında, kamuya açık bir tespit aracı olmadan kaldırma araçlarının gerçek performansını doğrulamak güç. Filigran kaldırdığını iddia eden servis sayısı arttıkça, gerçek teknik etkinlikten çok pazarlama söyleminin öne çıkma ihtimali de büyüyor.

Bu tartışma yalnızca yurt dışı bir düzenleme meselesi olarak kalmıyor. AB kullanıcılarına yapay zekâ hizmeti sunan ya da AB kurallarına uymak zorunda olan şirketlerin, üretim içeriği işaretleme ile sonradan doğrulama sistemini birlikte değerlendirmesi gerekiyor. Özellikle çeviri ve yeniden yazım sürecinde tespit sinyalinin zayıflayabilmesi, farklı dillerdeki içerik yönetimini de doğrudan ilgilendiriyor.

Bu tartışma, yapay zekâ şirketlerinin düzenlemeye uyum çabasının doğrudan teknoloji güvenilirliği sorunuyla iç içe geçtiğini gösteriyor. Filigran, kurallara uyum sinyali olarak işlev görebilir; ancak kamuya açık tespit araçları ve doğrulama süreçleri eşlik etmedikçe kullanıcılar ve geliştiriciler işaretin ne kadar işe yaradığını sorgulamaya devam edecek.