SVE(Scalable Vector Extension)是arm AArch64架構(gòu)下的下一代SIMD指令集,旨在加速高性能計算,SVE引入了很多新的架構(gòu)特點, 比如
? 可變矢量長度
? 每通道預(yù)測
? 聚集加載和分散存儲
? 橫向操作
本文將對SVE做個基本介紹。
1. SIMD指令發(fā)展史 intel vs arm
從上圖我們可以看出,SIMD指令總體趨勢是向著越來越長的方向發(fā)展的,到了arm SVE,最長可以支持2048位的矢量操作。
2. 背景
Armv7的高級SIMD (即arm NEON 或“MPE” 多媒體處理引擎) 指令集自2005年發(fā)布,已經(jīng)面世十幾年了。Armv7 NEON的主要特性如下:
? 支持8/16/32位整數(shù)操作,支持非IEEE兼容單精度浮點操作,支持指令條件執(zhí)行
? 32個64位矢量寄存器,也可視為16個128位矢量寄存器
? 旨在CPU端加速多媒體處理任務(wù)
在升級到armv8架構(gòu)時,AArch64 NEON指令集做出了許多改進,比如:
? 支持IEEE兼容單精度和雙精度浮點操作和64位整數(shù)矢量操作
? 32個128位矢量寄存器
? 這些改進使NEON指令集更適用于通用計算,而不僅僅是多媒體計算
但是到了現(xiàn)在,armv8的新市場需要更徹底的SIMD指令改進。我們需要能夠并行處理非常規(guī)數(shù)據(jù)和復(fù)雜數(shù)據(jù)結(jié)構(gòu),也需要更長的矢量,SVE因此而生,SVE旨在加速高性能計算。
3. SVE特性
SVE是armv8 AArch64架構(gòu)的下一代SIMD指令集,它不是NEON的替代,而是聚焦于高性能計算。主要特性如下:
? 可變矢量長度
? 128位的整數(shù)倍。 最高可支持2048位
? 不同的實現(xiàn)可以適應(yīng)不同的應(yīng)用場景,不用更改指令集
? 每通道預(yù)測
? 支持復(fù)雜嵌套循環(huán)和if/then/else條件跳轉(zhuǎn), 沒有循環(huán)尾數(shù)。
? 聚集加載和分散存儲支持復(fù)雜數(shù)據(jù)結(jié)構(gòu),如步長數(shù)據(jù)存取、數(shù)組索引,鏈表等。
? 橫向操作
? 支持基本的reduction操作,降低循環(huán)依賴性
4. SVE寄存器
SVE寄存器有兩種:矢量寄存器和預(yù)測寄存器。
SVE共有32個可變長矢量寄存器Z0-Z31(128位的整數(shù)倍, 最高可達2048位) ,其中Z0-Z31的低128位[127:0],與AArch64 SIMD&FP寄存器V0-V31共享硬件資源。假設(shè)SVE的矢量長度為256,其矢量寄存器視圖如下。SVE支持8/16/32/64位整數(shù)操作和單精度/雙精度浮點操作。
SVE預(yù)測寄存器用于控制每通道操作,有16個可變長預(yù)測寄存器P0-P15。每一個預(yù)測寄存器的位對應(yīng)矢量寄存器的字節(jié)。假設(shè)SVE的矢量長度為256,預(yù)測寄存器在管理32位和64位操作時,其視圖如下。在控制32位數(shù)據(jù)操作時,如果Pg寄存器的最低為1,則該通道操作為激活狀態(tài),該通道操作結(jié)果被正常存儲到目的寄存器;如果Pg寄存器的最低為0,則該通道操作為未激活狀態(tài),該通道操作結(jié)果不會被存儲到目的寄存器,目的寄存器的該通道數(shù)據(jù)有兩種可能:
? 指令指定為Pg/z - 清零模式,該通道數(shù)據(jù)被清零。
? 指令指定為Pg/m – 合并模式,該通道數(shù)據(jù)保持原值
5. SVE指令實例
下面我們通過一些實例來介紹常用SVE指令的用法。
a. 矢量加法
大家也許都熟悉NEON的指令格式(如下),NEON指令通過對指令助記符添加“f”前綴來區(qū)分整數(shù)操作和浮點操作,如“add”和“fadd”;另外通過寄存器后綴“.2s”、“.4s”、“.2d”表示操作兩個32位、四個32位數(shù)據(jù)、兩個64位數(shù)據(jù)。
? add v0.4s, v0.4s, v1.4s
? fadd v0.2s, v0.2s, v1.2s
? fadd v0.2d, v0.2d, v1.2d
SVE指令也通過對指令助記符添加 “f” 前綴來區(qū)分整數(shù)操作和浮點操作。但是SVE是未知矢量長度編程,因此在指令中我們只需要指明操作數(shù)據(jù)類型就可以了。
? add z0.s, z0.s, z1.s
? fadd z0.s, z0.s, z1.s
? fadd z0.d, z0.d, z1.d
b. 矢量加載
對于加載指令,NEON指令通過助記符“l(fā)d1”、“l(fā)d2”表示加載一維數(shù)組、二維數(shù)組;通過寄存器后綴“.8h”、“.4s”表示加載八個16位、四個32位數(shù)據(jù)。
? ld1 {v0.8h}, [x1]
? ld1 {v0.4s}, [x1]
? ld2 {v0.4s, v1,4s}, [x1]
SVE加載指令添加指令助記符后綴 “h“、”w“表示讀取存儲元素寬度;寄存器后綴”.h“、”.s“表示元素在寄存器中的寬度。寄存器元素寬度必須大于等于讀取存儲寬度。對于加載指令,讀取元素可以通過符號擴展或者零擴展填充到矢量寄存器;對于存儲指令,每個矢量元素被截斷后存儲到內(nèi)存中。
? ld1h {z0.h}, p0/z, [x1]
? ld1w {z0.s}, p0/z, [x1]
? ld2w {z0.s, z1.s}, p0/z, [x1]
6. 小結(jié)
本文簡單介紹了SVE架構(gòu)特性和指令基本用法,后續(xù)還會再寫文章介紹如何在C程序中利用SVE。
原文標題:一文了解SIMD指令集SVE(可伸縮矢量擴展),加速高性能計算
文章出處:【微信公眾號:安芯教育科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
責(zé)任編輯:haq
-
指令集
+關(guān)注
關(guān)注
0文章
224瀏覽量
23384 -
SIMD
+關(guān)注
關(guān)注
0文章
33瀏覽量
10298
原文標題:一文了解SIMD指令集SVE(可伸縮矢量擴展),加速高性能計算
文章出處:【微信號:Ithingedu,微信公眾號:安芯教育科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論