Chetan Puttagunta: Anthropic’in damıtma çağrısında API geliri etkili olabilir

Benchmark(Benchmark) ortağı Chetan Puttagunta(Chetan Puttagunta), Anthropic(Anthropic) tarafından yapay zeka(AI) model damıtma kurallarının sıkılaştırılması yönündeki çağrıyı eleştirdi. Puttagunta, X(eski adıyla Twitter) hesabındaki paylaşımında yaklaşık 1 trilyon dolar değerindeki Anthropic’in, büyük ölçekli damıtma saldırılarını kendi başına tespit edememesi için bir neden olmadığını savundu.

Puttagunta paylaşımında, “Anthropic’in AI model damıtma düzenlemelerinin sıkılaştırılmasını açık şekilde talep etmesi şaşırtıcı” dedi. Model damıtma, büyük bir modelin bilgisinin daha küçük bir modele aktarılmasıyla yapılan eğitim yöntemi olarak biliniyor.

Puttagunta ayrıca, “Anthropic şu anda yaklaşık 1 trilyon dolar değerinde, büyük teknik ve finansal kaynaklara sahip bir şirket. Kendi tarif ettiği ölçekte sözde ‘büyük ölçekli damıtma saldırıları’ teorik olarak görece kolay biçimde tanımlanıp izlenebilmelidir” ifadelerini kullandı. Bu değerlendirme, şirketin teknik kapasitesinden çok ticari tercihlerinin tartışmaya açıldığını gösteriyor.

Puttagunta, Anthropic’in ilgili faaliyetleri sınırlamayı seçmesi halinde asıl maliyetin teknik yetersizlik değil, bazı API gelirlerinden vazgeçmek olabileceğini belirtti. “Ödenmesi gereken tek maliyet, ilgili API işinden elde edilen gelirin azalması gibi görünüyor” diyen Puttagunta, düzenleme talebinin arkasında gelir etkisinin bulunabileceğini savundu.

Anthropic dahil AI şirketleri, model damıtma meselesini bir süredir yakından izliyor. Tartışmanın bundan sonra teknik güvenlik, fikri mülkiyet ve API tabanlı iş modelleri ekseninde sürmesi bekleniyor.