通用計(jì)算仍有差距，RISC-V可靠矢量處理彎道超車

電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）對(duì)于高效的數(shù)據(jù)并行負(fù)載處理來說，矢量架構(gòu)的吸引力越來越大，主流ISA都開始注意到這一點(diǎn)。就拿我們熟悉的前超算王者——日本的富岳來說，其處理器富士通A64FX就是基于Arm可伸縮矢量擴(kuò)展（SVE）的。

Arm也在隨后推出的Armv9架構(gòu)中提出了改良版的SVE2，并在其中加入了對(duì)NEON的兼容，SVE2在HPC之外的市場(chǎng)應(yīng)用中做出了指令優(yōu)化，甚至可以用于手機(jī)、汽車等智能設(shè)備中。

正是因?yàn)橛辛薙VE的存在，富岳才得以單靠通用處理器完成高性能的大數(shù)據(jù)運(yùn)算，而不是像其他主流超算一樣，還要靠堆積GPU、FPGA和AI加速器等片外加速器才能實(shí)現(xiàn)可觀的性能，我國(guó)的神威太湖之光同樣運(yùn)用了這樣的矢量設(shè)計(jì)思路。但以上這些都是專有架構(gòu)，微架構(gòu)不透明的同時(shí)也限制了開源和定制化方案的出現(xiàn)，而這些均可以在RISC-V上一一實(shí)現(xiàn)。

RISC-V矢量處理器的吸引力

RISC-V的矢量擴(kuò)展RVV自2015年提出以來，已經(jīng)有了長(zhǎng)足的進(jìn)展，也有了正式的1.0版本規(guī)范。與傳統(tǒng)的SIMD指令相比，RVV提供動(dòng)態(tài)的矢量長(zhǎng)度修改，做到了更高的效率、更小的代碼體積和更簡(jiǎn)單的循環(huán)結(jié)束。我們近期已經(jīng)看到了不少RISC-V處理器被廣泛使用的新聞，比如谷歌選擇在其TPU上加入SiFive的X280處理器，其實(shí)看重的就是它在矢量處理上的優(yōu)勢(shì)。
所以我們看到在SiFive的處理器產(chǎn)品中，像Performance P270和Intelligence X280都擁有優(yōu)秀的矢量處理能力，后者更是引入了一個(gè)512位矢量寄存器長(zhǎng)度的架構(gòu)，在完全支持矢量擴(kuò)展標(biāo)準(zhǔn)的同時(shí)，還支持動(dòng)態(tài)可變矢量長(zhǎng)度的運(yùn)算。SiFive也在其矢量擴(kuò)展上做出了改進(jìn)，稱其為SiFive智能擴(kuò)展，與直接基于RV64GCV架構(gòu)的設(shè)計(jì)相比，X280的智能擴(kuò)展在INT8格式下的矩陣乘法運(yùn)算時(shí)可將執(zhí)行速度提高12倍。

而且這不僅僅造福的是數(shù)據(jù)中心，還有受制于功耗卻又需要高吞吐量和單線程性能的邊緣應(yīng)用，比如AR/VR、數(shù)碼相機(jī)等等。SiFive同樣測(cè)試了可用于移動(dòng)端或嵌入式設(shè)備的輕量級(jí)神經(jīng)網(wǎng)絡(luò)MobileNet，相較基于RISC-V標(biāo)量的架構(gòu)，SiFive智能擴(kuò)展可以將速度提升144倍。

同樣的還有晶心科技推出的RISC-V矢量處理器NX27V，該處理器采用了5級(jí)流水線的設(shè)計(jì)，晶心為其設(shè)計(jì)了強(qiáng)大的矢量處理單元，擁有32個(gè)矢量寄存器，最高支持512位的矢量長(zhǎng)度，為了進(jìn)一步支持AI應(yīng)用，晶心還為其增加了BF16和INT4的數(shù)據(jù)格式支持。據(jù)正在打造可擴(kuò)展的高性能AI超算的初創(chuàng)公司Luminous Computing透露，他們打造的系統(tǒng)用到了數(shù)百個(gè)NX27V VPU核心，極大地提升了該系統(tǒng)的深度學(xué)習(xí)性能。

開源RISC-V矢量處理器

RISC-V作為開源架構(gòu)最棒的一點(diǎn)就在于，總是不缺香山處理器這樣優(yōu)秀的開源方案。比如2019年推出的Ara就是一款高效矢量協(xié)處理器，用于輔助OpenHW的CVA6 RISC-V應(yīng)用處理器Ara，只不過Ara剛發(fā)布之際還是基于早期的RVV規(guī)范設(shè)計(jì)的。

來自蘇黎世聯(lián)邦理工學(xué)院（ETH）和華為蘇黎世研究中心的研究員們借助Ara的啟發(fā)，基于RVV1.0發(fā)表了一個(gè)開源的高效RISC-V矢量處理器設(shè)計(jì)。他們基于格芯的22FDX工藝進(jìn)行了吞吐量和PPA的驗(yàn)證，整個(gè)系統(tǒng)運(yùn)行頻率為1.34GH，在關(guān)鍵的矩陣乘法內(nèi)核下，F(xiàn)PU的利用率可以達(dá)到98%以上。

相較之下，SiFive的X280和另一個(gè)開源矢量協(xié)處理器Vicuna宣稱的FPU利用率大于90%，伯克利的開源方案Hwacha可以做到95%以上。為了展示從RVV擴(kuò)展這么多年以來的改進(jìn)，他們也與基于RVV 0.5版下的設(shè)計(jì)做了對(duì)比，結(jié)果是在面積占用上有了15%的提升，吞吐量也有了6%的提升，雙精度計(jì)算效率也做到了37.1GFLOPS/W。

結(jié)語

AI時(shí)代下，矢量處理的應(yīng)用場(chǎng)景已經(jīng)遠(yuǎn)超我們的現(xiàn)象，包括深度學(xué)習(xí)、推薦系統(tǒng)、鍵值存儲(chǔ)和HPC等，都已經(jīng)廣泛利用了矢量計(jì)算。但如何做到高效高性能，才是未來所有ISA的努力方向，而RISC-V作為后來者，反而能在這上面找到彎道超車的機(jī)會(huì)。