PolicyLM-1.7B: Kurallar değişse de yeniden eğitim gerektirmeden içerik sınıflandırma

Sosyal platformların içerik politikalarındaki ifadeler değişse bile yeniden eğitim gerektirmeden gönderileri sınıflandırabilen hafif bir yapay zekâ modeli yayımlandı. Musubi’nin PolicyLM-1.7B modeli, yöneticilerin İngilizce hazırladığı içerik politikalarına göre mesajları sınıflandırmak üzere tasarlandı.

TechCrunch, Musubi’nin modeli 6’sında (yerel saatle) açık ağırlıklarla yayımladığını bildirdi. Model, bir mesajın her politika maddesine ne ölçüde uyduğunu puan olarak veriyor. Musubi, işlem süresinin 50 milisaniyenin altında olduğunu açıkladı.

Geleneksel sınıflandırıcılar önceden belirlenmiş kategorileri hızla bulmaya odaklanırken PolicyLM-1.7B, yöneticilerin sınıflandırma ölçütlerini değiştirerek politika güncellemelerini yansıtmasına imkân tanıyor. Platformlar, gönderi ve yorumları incelerken her topluluğun kendi kurallarını uygulayabiliyor.

Model kartına göre PolicyLM-1.7B, 1,7 milyar parametreye sahip. Mesajı ve politikayı girdi olarak alıp her madde için ayrı puan döndürüyor. Açık ağırlık lisansı Apache-2.0. Model kartındaki hız değerlerinin donanım ve ayarlara göre değişebileceği belirtiliyor.

NVIDIA L4 üzerinde kısa mesajlar ve en fazla 6 sınıflandırma maddesi işlendiğinde medyan süre 35 milisaniye olarak ölçüldü. H100 için verilen medyan süre ise 22 milisaniye. Model gerçek zamanlı sınıflandırma için tasarlansa da sınıflandırma sonucu tek başına gönderinin silinmesi veya hesabın yaptırıma uğraması anlamına gelmiyor.

Karar, yöneticilerin belirlediği puan eşiğine göre değişebiliyor. Musubi, platformların kendi verilerini kullanarak bu eşikleri ayarlamasını öneriyor.

Model kartında, politikaların İngilizce olarak test edildiği belirtiliyor. Birden fazla dil içeren içeriklerde, bazı düşük kaynaklı dillerde ve karakterleri değiştirerek filtreleri aşma girişimlerinde performans düşebilir. Model gerçek hizmet trafiğinde de doğrulanmadı.

Bağlam gerektiren görselleri veya konuşma geçmişini birlikte değerlendirme desteği de bulunmuyor. Bu nedenle inceleme sürecini gerçek platformlarda ne ölçüde kısaltacağı, dağıtım ortamında sınanmayı bekliyor.