AMD-Intel'in ACE komut seti GCC 17 geliştirme ağacına eklendi

AMD(AMD) ve Intel(INTC) tarafından birlikte tasarlanan yapay zeka (AI) hesaplama komut seti uzantısı AI Compute Extension (ACE) için destek kodu, GCC 17 geliştirme ağacına eklendi. Böylece x86 işlemcilerde matris işlemlerini hızlandırmaya yönelik derleyici desteği başlamış oldu.

GCC projesi, 2 Eylül'de ACEv1 komut setine yönelik destek commit'ini yayımladı. Bu GCC commit'i, ACE'ye özgü intrinsic fonksiyonları, tile işlemlerini, dış çarpıma dayalı komutları, FP8 karma hassasiyet işlemlerini ve tile veri taşıma özelliklerini içeriyor.

ACE, AI modellerinin temel işlemi olan matris çarpımını x86 işlemcilerde gerçekleştirmek için tasarlanmış bir komut seti uzantısı. AMD ve Intel'in birlikte hazırladığı ACE teknik raporuna göre, aynı sayıda AVX10 girdi vektörü kullanıldığında ACE'nin dış çarpım işlemi, AVX10'daki eşdeğer çarpma-toplama işlemine kıyasla en fazla 16 kat daha yüksek “hesaplama yoğunluğu” sunuyor.

Bu 16 kat rakamı, uygulamanın genel performansının 16 kat artacağı anlamına gelmiyor. Bu sayı, belirli bir matris işlem yapısındaki teorik işlem hacmini karşılaştıran bir değer; gerçek performans ise ACE'yi taşıyan işlemcinin tasarımına ve yazılım uygulamasına göre değişiyor.

ACEv1, INT8, OCP FP8, OCP MXFP8, OCP MXINT8 ve BF16 gibi düşük hassasiyetli AI hesaplama formatlarını destekliyor. Düşük hassasiyetli işlemler, bazı çıkarım (inference) görevlerinde bellek kullanımını ve hesaplama yükünü azaltmak için kullanılıyor.

ACE, Intel'in mevcut Advanced Matrix Extension (AMX) komut setiyle ilişkili programlama modelinin bir kısmını yeniden kullanıyor. Ancak GCC geliştirici e-posta listesindeki ACEv1 yama açıklamasına göre, ACE ile mevcut AMX birlikte kullanılmamalı ve ikisi farklı intrinsic fonksiyon isimleri kullanıyor.

Bu nedenle, mevcut AMX için yazılmış kodun herhangi bir değişiklik yapılmadan ACE destekli işlemcilerde çalıştırılabileceğini söylemek zor. ACE, AMX ile bazı kavramları paylaşsa da kendine ait ayrı bir komut ve intrinsic fonksiyon sistemine sahip.

LLVM tarafında da ACEv1 desteği üzerinde çalışılıyor. Bir AMD mühendisinin paylaştığı LLVM geliştirme dalında, ACE'nin tile işlemleri, dış çarpım komutları, FP8 işlemleri ve tile veri taşıma özellikleri için yapılan derleyici ve Clang değişiklikleri kayıtlı.

Bu değişikliğin özü donanımın piyasaya sürülmesinden çok yazılım ekosisteminde yatıyor. Derleyici ACE komutlarını ve intrinsic fonksiyonlarını tanıdığında, işletim sistemleri, kütüphaneler ve AI çerçeveleri ileride ACE'ye özel optimizasyon yapabilmek için bir temel kazanmış oluyor.

Derleyici desteği, işlemcinin fiilen piyasaya sürüldüğü anlamına gelmiyor. Şu ana kadar kamuoyuyla paylaşılan belgelerde ACE'yi destekleyen ticari bir işlemci veya kesinleşmiş bir çıkış tarihi bulunmuyor.

AMD ve Intel'in yayımladığı ACEv1 spesifikasyon belgesi, ürün ve yol haritasının hâlâ tasarım aşamasında olduğunu ve önceden bildirim yapılmaksızın değişebileceğini açıkça belirtiyor. Dolayısıyla dışarıdan öne sürülen belirli bir çıkış tarihini resmi takvim olarak kabul etmek de güç.

ACE'nin sahada gerçek anlamda kullanılabilmesi için uyumlu işlemcilerin piyasaya sürülmesinin yanı sıra GCC ve LLVM tarafında da istikrarın sağlanması gerekiyor. İşletim sistemleri, kütüphaneler ve AI çerçevelerinin ACE'yi destekleyip desteklemediği de ayrıca takip edilmesi gereken bir unsur.

Düşük hassasiyetli matris işlemleri, AI çıkarımında bellek kullanımını ve hesaplama yükünü azaltmak amacıyla kullanılıyor. Ancak desteklenen formatların gerçek performans artışına dönüşüp dönüşmeyeceği, işlemci mimarisine ve yazılım optimizasyon düzeyine bağlı.

AMD ve Intel'in ortak hedeflediği x86 komut seti mimarisi GCC ve LLVM geliştirme aşamalarına ayrı ayrı yansıtılırken, geliştirici araçları düzeyinde hazırlık süreci başlamış oldu. Ancak ACE'nin ticarileşip ticarileşmeyeceği ve gerçek performansı, uyumlu işlemciler ile yazılım desteği kamuoyuna açıklandıktan sonra değerlendirilebilecek.