Zhipu GLM (지푸GLM), Çin yapımı 100 binden fazla AI çipinden oluşan bir kümede GLM-5.3-Flash çıkarım sistemini kurdu ve iki haftadan kısa sürede uçtan uca işlem kapasitesini başlangıç seviyesinin üç katına çıkardı. Şirket bu gelişmeyi 17'sinde resmi blogunda açıkladı.
Zhipu GLM, GLM-5.3 tabanlı altyapı ajanının çıkarım altyapısının tasarımını, koordinasyonunu ve optimizasyonunu gerçekleştirdiğini belirtti. Şirket ayrıca bu süreçte donanım kullanım verimliliği ile tek token maliyetinin Nvidia GPU'larıyla benzer seviyeye ulaştığını bildirdi.
Zhipu GLM, bu örneği modelin çalıştığı sistemi geriye dönük olarak geliştirdiği yinelemeli öz iyileştirme (RSI) yaklaşımının bir mühendislik uygulaması olarak tanımladı.
Yorum 0