DeepSeek, 30 Eylül'de Huawei Ascend 950 için hesaplama ve iletişim kütüphanelerini yayımladı. Açıklanan bileşenler arasında matris hesaplama kütüphanesi DeepGEMM-Ascend ile dağıtık iletişim kütüphanesi DeepEP-Ascend yer aldı.
DeepSeek'in resmi GitHub deposunda yer alan bilgilere göre DeepGEMM-Ascend, Ascend 950'i destekliyor ve mevcut DeepGEMM ile API ile geliştirme akışı açısından uyumluluk sağlıyor. DeepEP-Ascend ise Huawei Ascend NPU'larında makine öğrenimi eğitimi ve çıkarımı için kullanılan bir iletişim kütüphanesi olarak tasarlandı. Kütüphanenin açık tampon API'si, NVIDIA için geliştirilen DeepEP sürümüyle uyumlu hale getirildi.
DeepEP-Ascend deposunda, Ascend 950DT üzerinde ölçülen bant genişliği değerleri paylaşılırken dağıtım için 373-375 GB/s, birleştirme için 345-347 GB/s değerleri verildi. Ölçümlerde CANN 9.2.0 ve test amaçlı bir donanım yapılandırmasının kullanıldığı belirtildi.
Yorum 0