AB Yapay Zeka Yasası yürürlükte: watermark yarışı hızlanıyor

Avrupa Birliği Yapay Zeka Yasası'nın şeffaflık yükümlülükleri 2'sinde (yerel saatle) uygulanmaya başladı ve üretken yapay zeka çıktılarına makine tarafından okunabilir işaret bırakma teknolojisi, başlıca AI şirketleri için düzenleme uyum sorunu haline geldi. Anthropic 'watermarking' teknolojisini araştırıyor ancak Claude ürün ailesinin tamamına bunu uyguladığını resmi olarak açıklamış değil.

Crypto Briefing, Anthropic'in dünya genelindeki Claude modellerine görünmez watermark eklediğini öne sürdü. Ancak Anthropic'in 29 Ocak'ta güncellediği şeffaflık merkezi sayfasında, watermarking konusunun sektör ve akademiyle birlikte incelenmeye devam ettiği belirtiliyor, başka bir ayrıntı yok.

Anthropic şeffaflık merkezinde 'watermarking en sık, şu anda sunmadığımız görüntü çıktılarına uygulanıyor' açıklamasını yaptı. Şirketin kamuya açık ifadelerine bakıldığında, Claude'un tüm ürün yelpazesine watermark dağıtıldığına dair haberler şu an için doğrulanmış değil.

Tartışmanın arka planında AB Yapay Zeka Yasası'nın 50. maddesi bulunuyor. Bu madde, yapay zekanın ürettiği veya değiştirdiği ses, görüntü, video ve metin içeriklerinin makine tarafından okunabilir biçimde işaretlenmesini zorunlu kılıyor.

Deepfake içerikler ile belirli kamu yararı taşıyan metinlerde, kullanıcıların doğrudan fark edebileceği bir bildirim de eklenmesi gerekiyor. Daha önce ele aldığımız AB Yapay Zeka Yasası'nın şeffaflık yükümlülüğü artık fiilen uygulamaya girdiği için, içeriğin kaynağını ve üretim şeklini kanıtlama zorunluluğu şirketler açısından somut bir uyum sorununa dönüştü.

Avrupa Komisyonu, 10 Haziran'da 'Yapay Zeka Tarafından Üretilen İçeriğin İşaretlenmesi ve Etiketlenmesi için Şeffaflık Uygulama Kuralları'nı yayımladı. Gönüllü katılıma dayanan bu kurallar, şirketlerin Yasa'nın 50. maddesine uyum sağlamasını kolaylaştırmak amacıyla hazırlanan pratik bir araç niteliğinde.

Şirketler genellikle kullanıcının görebileceği etiketleri, dosya meta verilerini ve görünmez watermark'ları bir arada kullanabiliyor. Watermark içeriğin kendisine tanımlayıcı bir sinyal yerleştirirken, meta veri dosyaya üretim ve düzenleme geçmişiyle imza bilgilerini kaydediyor.

Google (GOOGL), 24 Temmuz'da AB Yapay Zeka Yasası şeffaflık uygulama kurallarını imzalayacağını duyururken dijital watermarking teknolojisi olarak SynthID'yi öne çıkardı. Şirket aynı zamanda ek düzenleyici karmaşıklığa dair endişelerini de dile getirdi.

OpenAI, 19 Mayıs'ta ChatGPT, Codex ve API üzerinden üretilen görsellere içerik kaynağı ve doğrulama standardı olan C2PA ile SynthID'yi uyguladığını açıkladı. 31 Temmuz'da ise SynthID watermarking uygulamasını desteklenen ses içeriklerine de genişletti.

İki şirketin adımları büyük ölçüde görsel ve ses içerikleri üzerinde yoğunlaşıyor. Bu tür içeriklerde piksellere veya ses sinyallerine tanımlayıcı bilgi eklenebiliyor, ancak metinlerde çeviri ya da yeniden yazım sırasında cümle yapısı kolaylıkla değişebiliyor.

OpenAI, 2024 yılında yayımladığı bir açıklamada metin watermarking'in çeviri, cümle yeniden yazımı ve başka üretken modeller kullanılarak yapılan dönüştürmelere karşı savunmasız olduğunu belirtmişti. Yani yapay zekanın oluşturduğu cümlelere tanımlayıcı sinyal eklense bile, kullanıcı ifadeyi değiştirdiğinde bu sinyal zayıflayabiliyor.

Anthropic, Claude Code'un gizli işaretleri konusunda da ayrı bir tartışma yaşadı. 30 Haziran'da yayımlanan teknik bir yazı, Claude Code'un sistem promptuna kullanıcıya açıklanmayan bir işaret yerleştirildiğini ortaya koydu; geliştirici topluluğu bu uygulamayı 'prompt steganografisi' olarak adlandırdı.

The Register, Anthropic mühendislerinin söz konusu uygulamayı bir deney olarak tanımladığını ve kaldırma yönünde adım atacaklarını açıkladığını bildirdi. Bu örnek, düzenleyici uyum amacıyla yapılan içerik işaretlemesi ile kullanıcıya açıklanmayan dahili işaretlerin birbirinden ayrılması, uygulamanın amacının ve kapsamının şeffaf biçimde anlatılması gerektiğini gösteriyor.

Kripto para sektörü de borsalar, cüzdanlar, güvenlik denetimleri ve araştırma işlerinde AI ajanlarını kullanırken, çıktıların kaynağını ve üzerinde oynama yapılıp yapılmadığını doğrulamak zorunda. AI ajanlarının gerçek altyapıya erişimi ve yetki kontrolü sorununda olduğu gibi, yalnızca watermark ile iş kayıtlarının güvenilirliğini tam olarak garanti etmek zor; bu yüzden erişim yetkisiyle çalıştırma kayıtlarının birlikte yönetilmesi gerekiyor.

Anthropic'in kamuya açık tutumu, şu an için watermarking teknolojisini araştırma aşamasında olduğu yönünde. Bunun Claude'a fiilen uygulanıp uygulanmayacağı ve kapsamı, şirket ayrı bir açıklama yaptığında netleşecek.