Anthropic, Claude metinlerine görünmez filigran eklediğini açıkladı

Anthropic, Claude tarafından üretilen metinlere gözle görülmeyen bir filigran ekleme yöntemini açıkladı. Bu, okuyucunun cümlede fark edebileceği bir işaret değil, kelime seçim sürecinde istatistiksel bir örüntü bırakan bir yapı.

Anthropic, 15'inde (Kore saatiyle) yayımladığı resmi bir yazıda, Claude modellerinin bundan sonra filigran içeren metinler üreteceğini duyurdu. Bu adım, Avrupa Birliği (AB) Yapay Zeka Yasası'nın şeffaflık yükümlülüklerine yanıt vermek amacıyla atıldı ve şirketin daha önce açıkladığı Claude metin filigranı uygulamasının işleyişini somutlaştırıyor.

Yöntemin özü, anlam açısından çok az fark yaratan kelime seçeneklerinde yatıyor. Büyük dil modelleri cümle kurarken bir sonraki kelimeyi çeşitli adaylar arasından seçiyor; Claude ise düşük riskli seçim aralıklarında belirli bir anahtar ve önceki kelime akışına dayanarak bir seçim örüntüsü oluşturuyor. İnsanlar bu farkı okuyamaz, ancak ilgili anahtara sahip bir tespit sistemi, bir metnin oluşturulmasında Claude'un rol oynamış olma olasılığını hesaplayabiliyor.

Anthropic, filigranın metne ayrı bir karakter eklemediğini ve gizli karakter de içermediğini belirtti. Şirketin açıklamasına göre ek bir token oluşmadığı için kullanım maliyetini artırmıyor, ayrıca kişi, kurum veya sohbet içeriğini tanımlayan hiçbir bilgi de barındırmıyor. Şirket, "Filigran, Claude'a ve onun ürettiği çıktılara uygulanır; bireysel kullanıcıları tanımlamaz" ifadesini kullandı.

Yöntem, Google DeepMind'ın SynthID-Text yaklaşımını temel alıyor. Google DeepMind, 2024 yılında SynthID'nin metin üretim sürecinde token olasılıklarını ayarlayarak insan gözüyle görülemeyen bir filigran eklediğini açıklamıştı. Anthropic, bu tekniğin çıktı kalitesi, yaratıcılık ve okunabilirlik üzerinde gerçek bir etki yaratmadığını belirtti.

Metin filigranı, mevcut yapay zeka tespit araçlarından da farklı çalışıyor. Mevcut tespit araçları genellikle üslup veya sık kullanılan ifadeler gibi izleri analiz ederek içeriğin yapay zeka tarafından yazılıp yazılmadığını tahmin ediyor. Claude'un yöntemi ise üretim aşamasında bir sinyal yerleştirip, sonrasında bu sinyalin hâlâ mevcut olup olmadığını kontrol eden bir yapıya dayanıyor.

Ancak filigran her durumda aynı yoğunlukta çalışmıyor. Gerçekliği sabit cümlelerde veya kısa paragraflarda seçenek sayısı az olduğundan tespit güvenilirliği düşebiliyor. Claude'un, insan tarafından yazılmış bir metinde yalnızca yazım veya noktalama düzeltmesi yaptığı durumlarda da yeni seçtiği kelime sayısı az olduğundan filigran için bırakılan alan sınırlı kalıyor.

Kod üzerindeki etkisi de sınırlı. Kodda çalışıp çalışmama durumu önemli olduğundan keyfi seçim alanı zaten dar. Anthropic, kod içindeki yorum satırları gibi kelime seçiminin mümkün olduğu alanlarda filigranın kullanılabileceğini, ancak fiili kod çıktısı üzerindeki etkisinin küçük olduğunu açıkladı.

Bu durum geliştiriciler açısından, kalite kaybından önce tartışılması gereken konunun çıktının kaynağının tespit edilmesi meselesi olduğu anlamına geliyor. Claude'un değişken adı veya yorum satırı gibi seçilebilir ifadeler belirlediği alanlarda sinyal kalabiliyor; ancak çalıştırma sonucunu değiştirebilecek kod yapısının kendisinde seçim alanı zaten dar.

Düzenlemenin filigranı ortadan kaldırıp kaldıramayacağı da tartışma konularından biri. Anthropic, hafif düzenlemelerin filigranı tamamen ortadan kaldırma olasılığının düşük olduğunu, ancak her kelimeyi değiştiren kapsamlı bir yeniden yazımın filigranı kaldırabileceğini belirtti. Şirket, bu durumda söz konusu metnin hâlâ yapay zeka üretimi sayılıp sayılmayacağının ayrı bir değerlendirme konusu olduğunu ekledi.

Dosyalarda farklı bir yöntem kullanılıyor. Claude, PNG, JPG, SVG gibi desteklenen dosya türlerini oluşturduğunda, C2PA standardına uygun içerik kimlik bilgileri meta veri biçiminde ekleniyor. Bu, metin filigranı gibi içeriğin içine gizlenen bir yöntem değil; dosyanın Claude tarafından oluşturulduğunu veya işlendiğini gösteren imzalı bir kayıt ekleme yapısı.

AB Yapay Zeka Yasası'nın 50. maddesi, yapay zeka tarafından üretilen veya değiştirilen içeriklerin makine tarafından okunabilir bir formatta işaretlenmesini zorunlu kılıyor. Anthropic, bir filigran tespit API'si sunmayı planladığını belirtti; mevcut Claude modellerine de AB yasasının geçiş sürecine uygun olarak önümüzdeki aylarda kademeli şekilde filigran uygulaması yapılacak.