Liquid AI'ın 2,6 milyar parametreli modeli bazı testlerde 9B'yi geride bıraktı

Liquid AI, 2,69 milyar parametreye sahip cihaz-üstü (on-device) ajan modeli 'LFM2.5-2.6B'yi duyurdu. Şirketin kendi ölçümlerinde bazı talimat takibi ve araç kullanımı puanları, çok daha büyük olan Qwen3.5-9B modelini geride bıraktı.

Liquid AI, 4'ünde (yerel saatle) resmi blogunda LFM2.5-2.6B ile temel sürüm 'LFM2.5-2.6B-Base'i Hugging Face üzerinden yayımladığını duyurdu. Şirket, küçük boyutlu modeli araç çağırma, çok adımlı görevler ve yapılandırılmış çıktı üretimini yerel cihazlarda işleyecek şekilde tasarladığını belirtti.

LFM2.5-2.6B, yaklaşık 34 trilyon token ile ön eğitimden geçirildi. 128K bağlam genişletme aşamasının ardından model, en fazla 131.072 token'lık bağlamı destekliyor. Mimaride 30 katman ve 128.000 kelimelik bir sözlük yapısı bulunuyor.

Model, gerçek ajan ortamlarında araç kullanımı, sistem promptları ve çok turlu görev senaryolarıyla eğitildi. Ajan ortamı (agent harness), modelin dış araçları seçip sonuçları alarak bir sonraki adımı yürütmesini sağlayan çalışma altyapısı anlamına geliyor.

Eğitim sürecinde denetimli ince ayar, öğretmen model uzmanlaşması, çoklu alan çevrimiçi damıtma (on-policy distillation) ve ajan pekiştirmeli öğrenme yöntemleri kullanıldı. Damıtma, güçlü bir modelin ürettiği yanıt ve kararların daha küçük bir modele aktarılması anlamına geliyor.

Liquid AI, talimat takibi, matematik, bilgi, kod, araç kullanımı ve uzun bağlam işleme alanlarında ayrı 'öğretmen' modeller oluşturduğunu, ardından bunları tek bir 'öğrenci' modelde birleştirdiğini açıkladı. Amaç, bulut API'ye bağlanmadan cihaz üzerinde çıkarım yaparak gecikmeyi ve kişisel veri işleme yükünü azaltmak olarak belirtildi.

Şirketin paylaştığı değerlendirme tablosuna göre LFM2.5-2.6B, IFBench testinde 59,17 puan alarak Qwen3.5-9B'nin 56,47 puanının üzerine çıktı. Multi-IF testinde 80,07'ye 62,55, IFStruct testinde ise 85,49'a 78,50 ile fark daha da açıldı.

Araç kullanımını ölçen ToolSandbox testinde de LFM2.5-2.6B 77,83 puanla Qwen3.5-9B'nin 76,44 puanını geçti. Ancak bu rakamlar Liquid AI'ın kendi yayımladığı test sonuçları; bağımsız bir kurumun aynı koşullarda yaptığı bir doğrulama şu an için bulunmuyor.

Küçük model her testte önde değil. BFCLv4'te Qwen3.5-9B 60,13 puanla LFM2.5-2.6B'nin 56,88 puanının üzerinde kaldı. AIME25 ve LiveCodeBenchv6 testlerinde de üstünlük yine Qwen3.5-9B'de.

Liquid AI, LFM2.5-2.6B'yi araç kullanımı, veri çıkarma, retrieval-augmented generation (RAG) ve uzun bağlamlı görevler için önerdiğini belirtti. Buna karşılık ajan tabanlı kodlama ve bilgi yoğun görevler için modeli tavsiye etmediğini, karmaşık işlemler ya da kodlamanın ağırlıklı olduğu ortamlarda daha büyük modellerin daha uygun olabileceğini ekledi.

Cihaz üzerinde yapılan testlerde model, Apple M5 Max üzerinde saniyede 220 token, AMD Ryzen AI Max+ 395 üzerinde ise saniyede 113 token çözümleme (decoding) hızına ulaştı. Şirket, bellek kullanımının 2,5 GB'ın altında kaldığını, akıllı telefonlarda da saniyede yaklaşık 30 token hızla çalıştığını açıkladı.

Bu model, akıllı telefon gibi cihazların içinde çalışan küçük yapay zeka modelleri alanındaki genişleme eğilimiyle örtüşüyor. Ancak belirli bir blok zinciri projesi, token ya da borsayla doğrudan bir entegrasyon şu an için açıklanmadı.

Yerel ajanların ileride cüzdan güvenliği ya da zincir üstü veri analizi araçlarında kullanılma ihtimali var; ancak bunun gerçekleşip gerçekleşmeyeceği geliştirici benimsemesine ve bağımsız performans doğrulamasına bağlı. Model ağırlıkları ve temel sürüm Hugging Face üzerinden erişime açık.

Doğrulama kaynakları: Liquid AI resmi blogu, Hugging Face model sayfası