Claude'un ürettiği metinlere 'görünmez filigran' geliyor

Anthropic, yapay zeka modeli Claude(Claude) tarafından üretilen metinlere ve bazı dosya türlerine, insan gözüyle görülmeyen ama makinelerin okuyabildiği bir iz ekliyor. Metin kopyalanıp başka bir belgeye veya web sitesine yapıştırıldığında bile bu izin bir kısmı kalabiliyor.

Anthropic, Claude'un resmi destek sayfasında desteklenen modellerin ürettiği metinlere makine tarafından okunabilir bir işaret eklendiğini duyurdu.

Bu 'dijital filigran' ekranda ayrı bir etiket olarak görünmüyor, doğrudan üretilen cümlenin içine yerleşiyor. Sistem, cümlenin anlamını, kalitesini ve okunabilirliğini değiştirmeyecek şekilde tasarlandı.

Kullanıcı Claude'un yanıtını Word belgesine, e-postaya, sosyal medyaya ya da başka bir web sitesine taşısa bile filigran birlikte gidebiliyor. Cümlede kısmi değişiklik yapılsa bile iz tespit edilebiliyor.

Uygulama yalnızca Claude'un web servisiyle sınırlı değil. Desteklenen modeller kullanıldığında API, Claude Code(Claude Code), Cowork(Cowork) ve Claude Tag(Claude Tag) üzerinden üretilen metinlere de aynı işaret uygulanıyor.

Amazon Web Services(AWS), Google Cloud ve Microsoft(MSFT) Foundry üzerinden desteklenen modellere erişim de bu kapsamda yer alıyor. Çünkü filigran, servis arayüzünde değil model aşamasında ekleniyor.

Dosyalarda ise farklı bir yöntem uygulanıyor. Anthropic, SVG, PNG ve JPG gibi bazı dosya biçimlerine dijital imza içeren köken meta verisi ekliyor.

Bu meta veri için, dijital içeriğin kaynağını ve değişiklik geçmişini doğrulamaya yarayan açık standart C2PA(C2PA) kullanılıyor. Geçerli bir Claude imzası taşıyan dosyalar, dış araçlarla incelendiğinde içeriğin Claude tarafından işlenip işlenmediğini ve sonradan değiştirilip değiştirilmediğini göstermek için kullanılabiliyor.

Bazı bulut platformları veya dosya biçimleri köken meta verisi imzasını desteklemeyebiliyor. Bu nedenle metin filigranının ve dosya köken işaretinin kapsama alanı birbirinden farklı olabiliyor.

Bu adım, Avrupa Birliği(AB) Yapay Zeka Yasası'nın 50. maddesindeki şeffaflık yükümlülüğüyle de örtüşüyor. AB Komisyonu, yapay zeka tarafından üretilen içeriklerin şeffaflığına ilişkin uygulama kurallarında 50. madde yükümlülüğünün ayın 2'sinde (yerel saatle) yürürlüğe girdiğini ve yapay zeka tarafından üretilen ya da değiştirilen içeriklerin işaretlenmesi ile tespitini kapsadığını açıkladı.

Anthropic, 2 Ağustos sonrasında AB'de piyasaya sürülecek yeni Claude modellerinde makine tarafından okunabilir işareti ilk günden itibaren destekliyor. Kapsam, desteklenen modelleri kullanan tüm dünyadaki Claude hizmetlerine genişletiliyor ve mevcut modellere de bu özellik kademeli olarak ekleniyor.

TokenPost, daha önce AB Yapay Zeka Yasası'nın yürürlüğe girmesiyle üretken yapay zeka filigran teknolojisinin bir uyum sorunu haline geldiğini aktarmıştı. Mevcut yapay zeka tespit araçları metnin üslubuna veya kelime olasılıklarına bakarak içeriğin yapay zeka tarafından yazılıp yazılmadığını tahmin ederken, Claude'un yöntemi üretim aşamasında doğrudan bir iz bırakması yönüyle ayrışıyor.

Okullar, medya kuruluşları ve şirket içi sistemler bu izi içerik doğrulama aracı olarak kullanabiliyor. Ancak filigranın tespit edilmesi tek başına, belgenin tamamının yazarının Claude olduğu anlamına gelmiyor.

Çünkü insan tarafından yazılan bir metin Claude ile düzeltildiğinde, çevrildiğinde ya da özetlendiğinde de aynı iz kalabiliyor. Tespit sonucu, içeriğin nasıl ortaya çıktığına dair bir ipucu sunsa da tek başına karar kriteri olarak kullanılmaya elverişli değil.

Büyük çaplı yeniden yazım, parafraz, çeviri ya da farklı metinlerle harmanlama gibi işlemlerden sonra filigranın güvenilir biçimde tespit edilmesi zorlaşabiliyor. Kısa cümleler yeterli sinyali taşıyamıyor, dosyalarda da yeniden kaydetme, format dönüştürme ya da ekran görüntüsü alma sırasında meta veri kaybolabiliyor. Anthropic, dış kullanıcıların ve üçüncü tarafların Claude izini tespit edebileceği araçlar geliştiriyor; ayrıntılı teknik dokümanları ise ileride paylaşmayı planlıyor.