Anthropic, yapay zekâ yanıtları için FlashProve sıfır bilgi kanıtı prototipini yayımladı

Anthropic, belirli bir yapay zekâ modelinin yanıtı üretip üretmediğini doğrulayan FlashProve adlı sıfır bilgi kanıtı sistemini yayımladı. Araştırma prototipi, modelin ağırlıklarını kullanıcıya açmadan yanıtın kaynağını doğrulamayı amaçlıyor.

Anthropic, ayın 2'sinde (yerel saatle) çalıştırılabilir kodu, teknik raporu ve güvenlik önermesini Lean ile biçimsel olarak kanıtlayan çalışmayı yayımladı. Ayrıntılar Anthropic'in resmi duyurusunda yer aldı.

Sistem iki aşamada çalışıyor. Önce model sağlayıcısı, belirli ağırlıklara karşılık gelen kriptografik parmak izini yayımlıyor. Model yanıt üretirken de hesaplamanın o model tarafından yapıldığını gösteren bir kanıt dosyası oluşturuyor.

Kullanıcı, yayımlanan parmak izini, soruyu ve yanıtı kullanarak kanıtı doğrulayabiliyor. Modeli yeniden çalıştırması ya da ağırlıkları indirmesi gerekmiyor; böylece yanıtın belirlenen modelin hesaplamasından gelip gelmediğini kontrol edebiliyor.

Anthropic, yalnızca yanıtın metnine bakarak hangi modelin çalıştırıldığını anlamanın zor olduğunu belirtti. Aradaki bir hizmet isteği başka bir modele yönlendirse veya yanıtın tokenlarını değiştirse bile, yalnızca çıktı metni bu değişiklikleri göstermeyebilir.

FlashProve, zkSNARK adı verilen kriptografik kanıt yöntemini çıkarım doğrulamasına uyguluyor. Anthropic, bu yöntem ailesinin Starknet gibi blokzincir ölçekleme ağlarında da kullanıldığını, FlashProve'un ise işlemleri değil yapay zekâ modelinin hesaplama sonucunu doğruladığını açıkladı.

Performans testinde Meta'nın 400 milyar parametreli uzman karışımı modeli Llama 4 Maverick kullanıldı. Model ağırlıkları 4 bit olarak nicemlendi ve test bağlamı 1024 token uzunluğundaydı.

Anthropic'in testinde 24 CPU çekirdeği ve bir H100 GPU kullanılarak 24 istek birlikte işlendiğinde kanıt oluşturmak yaklaşık 223 saniye sürdü. Bağlam işleme hızı saniyede yaklaşık 110 token oldu.

İstek başına kanıt dosyası yaklaşık 19 MB boyutundaydı. Ancak bir kanıt, 1024 tokenlık bağlamın tamamındaki yanıtı değil, tek bir çıktı tokenını doğruluyor. Bu nedenle saniyede 110 token değeri, yanıtın tamamının bu hızda doğrulandığı anlamına gelmiyor.

Kanıt doğrulaması için GPU gerekmiyor. Anthropic'in testinde doğrulama, 24 CPU iş parçacığıyla yaklaşık 17 saniye, tek iş parçacığıyla ise yaklaşık 21 saniye sürdü.

Kanıt oluşturmak için gereken GPU süresi, olağan çıkarımdan daha uzundu. Anthropic, aynı modelin vLLM ile işlendiği testle karşılaştırıldığında FlashProve'un kanıt oluşturma süresinin yaklaşık 70 ila 95 kat daha uzun olduğunu bildirdi.

Yöntem, yanıtın belirlenen modelin hesaplamasından gelip gelmediğini doğruluyor. Yanıtın doğru, gerçek veya yararlı olduğunu kanıtlamıyor.

Mevcut sistem en fazla 1024 tokenlık bağlamda tam sayı aritmetiğini ve önceden belirlenmiş token seçimini kapsıyor. Model ağırlıklarını gizliyor ancak model mimarisini gizlemiyor; sohbet hizmetlerindeki uzun bağlamları veya yanıtın tamamını doğrulamıyor.

Anthropic güvenlik önermesini Lean ile biçimselleştirdi, ancak matematiksel tanımın, makalenin ve hızlı çalıştırma kodunun tamamen örtüştüğünü garanti etmedi. Bu nedenle Lean ispatı, gerçek çalıştırma kodunun tüm davranışlarının doğrulandığı anlamına gelmiyor.

Anthropic, kod deposunu bakım ve desteği yapılmayan bir araştırma çıktısı olarak tanımladı. Yayın, belirlenmiş test koşullarında model çıktısının bir bölümünü doğrulama yöntemini ve ölçüm sonuçlarını sunan araştırma aşamasında bulunuyor.