希姆計算的RISC-V矩陣擴展開源項目已升級至0.5版本,支持向量+矩陣的實現(xiàn)

希姆計算的RISC-V矩陣擴展開源項目已升級至0.5版本

-----支持向量+矩陣的實現(xiàn)

范福杰博士&陳煒博士

項目背景

Background

為了解決RISC-V在人工智能領(lǐng)域中指令碎片化的問題，推動加速人工智能行業(yè)的發(fā)展，自2021年開始，希姆計算啟動了針對RISC-V矩陣指令集和支持工具的開源工作，工作的目標(biāo)是提高人工智能應(yīng)用的兼容性、降低軟件開發(fā)成本，并實現(xiàn)新一代的標(biāo)準和可擴展的領(lǐng)域特定架構(gòu)。

2022年9月，完成了RISC-V矩陣ISA規(guī)范0.1版本，并向RISC-V國際基金會提交了開源提案和支持工具。

2023年5月，與達摩院建立了協(xié)商機制，共同探索RISC-V矩陣指令集。

2024年8月，完成了RISC-V矩陣ISA規(guī)范0.5版本。

2024年10月，完成了RISC-V矩陣ISA規(guī)范0.5版本支持工具鏈的開發(fā)。

今天，希姆計算正式發(fā)布了RISC-V矩陣指令集0.5版本及其支持工具，成為首家向全球社區(qū)提交完整RISC-V矩陣指令集及其支持工具的公司。這將推動RISC-V矩陣指令集國際標(biāo)準的快速形成，并推動整個RISC-V生態(tài)系統(tǒng)的發(fā)展。

項目亮點

Highlights

最新的RISC-V矩陣指令集采用Tile-based的矩陣乘法架構(gòu)設(shè)計，在原有基礎(chǔ)上進一步完善了編程模型和類型支持。

同時提供了基本版32位指令編碼(https://github.com/riscv-stc/riscv-matrix-spec) 和擴展版64位長指令編碼(https://github.com/riscv-stc/riscv-matrix-spec/tree/matrix64) 。

通過參數(shù)化寄存器架構(gòu)和模塊化類型系統(tǒng)，它能夠適應(yīng)從邊緣到云端的各種應(yīng)用場景。

為了推動標(biāo)準化和商業(yè)實施，提供了以下工具并進行了更新：

基于LLVM的編譯器 (https://github.com/riscv-stc/llvm-project/tree/matrix)

基于Spike的模擬器 (https://github.com/riscv-stc/riscv-isa-sim)

基于GDB的調(diào)試器 (https://github.com/riscv-stc/riscv-openocd-matrix/tree/matrix)

基于SCOOP（Stream Computing Out-of-Order Processor）平臺的開源核心實現(xiàn)，包含RVV和RV Matrix支持(https://github.com/riscv-stc/chipyard)

SCOOP(Stream Computing Out-of-Orfer Processor)開源平臺基于BOOM(Berkeley Out-of-Order Machine)增加了RVV 1.0和矩陣功能的支持，這使得它成為業(yè)界首個開源的RISC-V向量和矩陣項目。

截至目前，編譯器、模擬器和調(diào)試器均已更新至0.5版本。開源核心已經(jīng)更新到了0.2版本，并將在將來逐步更新到最新版本。

社區(qū)反饋

Community Response and Evaluations

希姆計算的研發(fā)總監(jiān)范福杰博士表示：“我們非常激動能推出這個新的版本。通過引入對RISC-V矩陣指令集擴展的支持，可以大大增強希姆計算基于RISC-V架構(gòu)開發(fā)高性能AI芯片的能力，同時為RISC-V指令集的改進做出貢獻。此外，我們的SCOOP（Stream Computing Out-of-Order Processor）實現(xiàn)了與Chipyard項目的結(jié)合，這充分展示了先進技術(shù)在現(xiàn)實世界的硬件設(shè)計中得到了極好的應(yīng)用?！?/p>

RISC-V國際的首席執(zhí)行官Calista Redmond對此次升級也給予了高度評價：“看到像希姆計算這樣的創(chuàng)新項目積極采用和支持了RISC-V的新特性，真是令人鼓舞。矩陣指令集擴展代表了RISC-V生態(tài)系統(tǒng)向前邁出了重要一步，能夠在特定應(yīng)用場景中顯著提升性能。我們對希姆計算團隊的努力表示感謝，這對整個社區(qū)來說是一個巨大的勝利?！?/p>

“我們非常興奮能與希姆計算合作，將RISC-V AI核心技術(shù)引入我們的課堂。通過具體的工程案例進行實踐學(xué)習(xí)，我們的學(xué)生將能夠接觸最前沿的技術(shù)和發(fā)展趨勢。這將顯著提升他們的實踐技能和創(chuàng)新能力，”北京大學(xué)集成電路學(xué)院助理教授賈天宇博士說，他已將SCOOP項目納入今年秋季的SOC設(shè)計研究生課程中。

未來展望

Future outlook

RISC-V的開源特性已經(jīng)吸引了學(xué)術(shù)界和產(chǎn)業(yè)界的廣泛關(guān)注，其模塊化設(shè)計和可擴展性能力滿足了近年來人工智能計算能力的應(yīng)用需求?；赗ISC-V架構(gòu)的AI芯片不僅能夠通過擴展指令實現(xiàn)AI應(yīng)用所需的高計算能力，還因為與RISC-V標(biāo)準指令集的兼容性而在編程靈活性方面具有顯著優(yōu)勢。

我們期待更多合作伙伴加入這個開源項目，推動計算技術(shù)的持續(xù)進步。希姆計算將進一步加強與合作伙伴的合作，推動RISC-V在人工智能領(lǐng)域的發(fā)展，繁榮RISC-V生態(tài)系統(tǒng)，提高AI應(yīng)用的兼容性，降低軟件開發(fā)成本，并實現(xiàn)新一代的標(biāo)準和可擴展的領(lǐng)域特定架構(gòu)。