AMD'den Qwen 27B modeline çıkış günüyle yerel destek

AMD(AMD), Alibaba(BABA) bünyesindeki Qwen serisinin 27 milyar parametrelik modelini, kendi AI PC ve iş istasyonu donanımlarında çıkış günüyle birlikte yerel olarak çalıştırılabilir hale getirdi. Adım, büyük ölçekli açık kaynaklı AI modellerinin buluta bağlanmadan doğrudan PC ve iş istasyonlarında çalıştırılması eğilimine denk düşüyor.

Odaily'nin haberine göre AMD, Qwen3.8 27B modeline 'gün 0' desteği sağlıyor. Habere göre geliştiriciler, modelin kamuoyuna duyurulduğu günden itibaren AMD donanımlarında modeli yerel olarak çalıştırabiliyor.

Söz konusu model, 27 milyar parametreli yoğun (dense) bir yapı olarak tanıtıldı. AMD, kod üretimi, günlük iş süreçleri, araştırma ve uzun bağlamlı AI uygulamalarına yönelik Qwen serisi optimizasyonlarını sürdürdüğünü açıkladı.

Çalışma ortamı, açık kaynaklı çıkarım (inference) çerçevesi llama.cpp temelinde kuruluyor. AMD işlemcili AI PC ve iş istasyonları ile tek bir AMD 32GB ekran kartı destek kapsamına giriyor; 24GB üzerinde değişken grafik belleğine sahip veya paylaşımlı grafik belleği bulunan AMD donanım platformları da bu kapsamda yer alıyor.

AMD'nin ilk testlerinde, Ryzen AI Max+ 395 işlemcide saniyede en fazla 24,5 token, tek bir Radeon AI Pro R9700 grafik işlem birimi(GPU) üzerinde ise saniyede en fazla 51,8 token'lık yerel çıkarım performansı elde edildi. Testler Windows ortamında, llama.cpp'nin Vulkan arka ucu ve çoklu token tahmini (multi-token prediction) optimizasyonu uygulanarak gerçekleştirildi.

'Gün 0' desteği, bir modelin kamuoyuna duyurulmasıyla eş zamanlı olarak belirli donanım ve yazılım ortamlarında hemen çalıştırılabilmesini sağlayan hazır destek sistemini ifade ediyor. Büyük AI modellerinin kullanımı bugüne dek büyük ölçüde bulut merkezli ilerlerken, yerel çalıştırma veri aktarımını azaltması ve geliştiricinin ortamı doğrudan kontrol edebilmesi yönüyle öne çıkıyor.

Alibaba, Qwen serisi modelleri açık kaynak olarak yayımladığını, geliştiricilerin, araştırma kurumlarının ve şirketlerin bu modelleri indirip dağıtabildiğini ve kullanabildiğini duyurdu. Odaily, yeni duyurulan Qwen3.8-27B modelinin doğal çoklu-modlu (multimodal) yoğun bir model olduğunu ve 27 milyar parametre ölçeğinde Qwen3.7-Plus'ı geride bıraktığını aktardı.

Ancak model adlandırmasında ek doğrulama gerektiren bir nokta bulunuyor. TokenPost daha önce, Alibaba'nın 27 milyar parametrelik açık ağırlıklı modelinin resmi duyuru materyallerinde ve Hugging Face model listesinde Qwen3.6-27B olarak kayıtlı olduğunu bildirmişti. O dönem PANews'in aktardığı Qwen3.8-27B adlandırmasıyla resmi kaynaklardaki Qwen3.6-27B adlandırması birbirini tutmamış, konunun özü Alibaba'nın 27 milyar parametre sınıfındaki çoklu-modlu açık ağırlıklı model yelpazesini genişletmesi olarak şekillenmişti.

Bu destek, AI çip rekabetiyle yerel AI altyapısı rekabetinin kesiştiği bir noktada duruyor. AMD, merkezi işlem birimi(CPU), grafik işlem birimi ve AI PC'lere yönelik işlemcilerini birlikte öne çıkararak geliştiricilerin bulut ve yerel ortamlar arasında seçim yapabildiği bir ekosistemi genişletiyor.

Kripto para piyasasıyla doğrudan bağlantı ise sınırlı. TokenPost daha önce, yerel AI modelleri ve açık ağırlık rekabetinin merkeziyetsiz bilişim, AI doğrulama ve geliştirici araçları alanlarıyla kesişebileceğini aktarmıştı. AMD'nin bu desteğinin ilgili tokenların fiyatına veya işlem hacmine doğrudan bir etkisi ortaya konmadı.

AMD, yazılım ve model optimizasyonlarının ilerlemesiyle gerçek performansın daha da iyileşebileceğini belirtti. Şu an için doğrulanmış bilgiler, Qwen 27B sınıfı modelin yerel çalıştırma desteği, ilk test sonuçları ve açık kaynak dağıtım kapsamıyla sınırlı.

Doğrulama kaynakları: Odaily orijinal haberi, AMD Qwen 3.5 Gün 0 teknik dokümanı, QwenCloud model dokümantasyonu