Liquid AI, 2,45 milyar aktif parametreli çıkarım modelini tanıttı

Toplam 24 milyar parametrenin 2,45 milyarı token işleme sırasında etkinleşen yeni bir çıkarım modeli tanıtıldı. Liquid AI, LFM2.5-24B-A2B’yi cihaz üzerinde çalışan ajan görevleri ve araç kullanımı için tasarlanmış, yalnızca metin işleyen bir model olarak sundu.

Liquid AI, LFM2.5 ailesinin son modeli LFM2.5-24B-A2B’yi 13 Ekim’de yayımladı. Temel modelin ve ajan görevleri için sonradan işlenmiş modelin ağırlıkları Hugging Face’ten indirilebiliyor.

Model kartında toplam parametre sayısı 24,0 milyar, aktif parametre sayısı ise 2,45 milyar olarak belirtiliyor. Aktif parametreler, token işlenirken hesaplamaya fiilen katılan parametreleri ifade ediyor. Modelin tamamını depolamak ve çalıştırmak için gereken bellek, aktif parametre oranında azalmaz; gerçek gereksinimler kullanılan çalıştırma aracına ve niceleme yöntemine göre değişebilir.

Modelin bağlam uzunluğu 131.072 token ve Türkçe dahil 16 dili destekliyor. Önceki LFM2-24B-A2B ile karşılaştırıldığında bağlam uzunluğu 32K’den 131K’ye, sözlük boyutu ise 65K’den 128K’ye çıktı. Model kartında Transformers, vLLM ve SGLang çalıştırma seçeneklerinin yanı sıra GGUF ve MLX biçimleri de yer alıyor.

Performans verileri Liquid AI’nin kendi değerlendirmelerine dayanıyor. Şirket, 16 kıyaslama testini karşılaştırdığını ve ajan ile araç kullanımı alanındaki sekiz değerlendirmeden beşinde Qwen3.6-35B-A3B ile eşit sonuç aldığını veya onu geçtiğini bildirdi. AutomationBench puanı LFM2.5-24B-A2B için 27,69, karşılaştırılan model için 8,72 olarak açıklandı.

Hız ölçümünün de belirli koşulları bulunuyor. Liquid AI, Apple M5 Max üzerinde saniyede 184 token üretildiğini duyurdu. Model kartında ölçümün llama.cpp, Q4_K_M nicelemesi ve 4K giriş bağlamıyla yapıldığı belirtiliyor. Şirketin karşılaştırma modeline göre açıkladığı en fazla 1,7 kat hız da bu ölçüm koşulları için geçerli.

Model görüntü veya ses işlemiyor; yalnızca metinle çalışıyor. Açık ağırlıklar ve çeşitli çalıştırma biçimleri, geliştiricilerin modeli kendi ortamlarında denemesi için sunuluyor. Gerçek hız ve bellek gereksinimleri kullanılan cihaza ve çalıştırma koşullarına göre değişecek.