FPGA執(zhí)行計算密集型任務(wù)性能表現(xiàn)及優(yōu)勢

FPGA可用于處理多元計算密集型任務(wù)，依托流水線并行結(jié)構(gòu)體系，F(xiàn)PGA相對GPU、CPU在計算結(jié)果返回時延方面具備技術(shù)優(yōu)勢。

計算密集型任務(wù)：矩陣運算、機器視覺、圖像處理、搜索引擎排序、非對稱加密等類型的運算屬于計算密集型任務(wù)。該類運算任務(wù)可由CPU卸載至FPGA執(zhí)行。

FPGA執(zhí)行計算密集型任務(wù)性能表現(xiàn)：

? 計算性能相對CPU：如Stratix系列FPGA進行整數(shù)乘法運算，其性能與20核CPU相當，進行浮點乘法運算，其性能與8核CPU相當。

? 計算性能相對GPU：FPGA進行整數(shù)乘法、浮點乘法運算，性能相對GPU存在數(shù)量級差距，可通過配置乘法器、浮點運算部件接近GPU計算性能。

FPGA執(zhí)行計算密集型任務(wù)核心優(yōu)勢：搜索引擎排序、圖像處理等任務(wù)對結(jié)果返回時限要求較為嚴格，需降低計算步驟時延。傳統(tǒng)GPU加速方案下數(shù)據(jù)包規(guī)模較大，時延可達毫秒級別。FPGA加速方案下，PCIe時延可降至微秒級別。遠期技術(shù)推動下，CPU與FPGA數(shù)據(jù)傳輸時延可降至100納秒以下。

FPGA可針對數(shù)據(jù)包步驟數(shù)量搭建同等數(shù)量流水線（流水線并行結(jié)構(gòu)），數(shù)據(jù)包經(jīng)多個流水線處理后可即時輸出。GPU數(shù)據(jù)并行模式依托不同數(shù)據(jù)單元處理不同數(shù)據(jù)包，數(shù)據(jù)單元需一致輸入、輸出。針對流式計算任務(wù)，F(xiàn)PGA流水線并行結(jié)構(gòu)在延遲方面具備天然優(yōu)勢。

FPGA用于處理通信密集型任務(wù)不受網(wǎng)卡限制，在數(shù)據(jù)包吞吐量、時延方面表現(xiàn)優(yōu)于CPU方案，時延穩(wěn)定性較強。

通信密集型任務(wù)：對稱加密、防火墻、網(wǎng)絡(luò)虛擬化等運算屬于通信密集型計算任務(wù)，通信密集數(shù)據(jù)處理相對計算密集數(shù)據(jù)處理復(fù)雜度較低，易受通信硬件設(shè)備限制。

FPGA執(zhí)行通信密集型任務(wù)優(yōu)勢：

① 吞吐量優(yōu)勢：CPU方案處理通信密集任務(wù)需通過網(wǎng)卡接收數(shù)據(jù)，易受網(wǎng)卡性能限制（線速處理64字節(jié)數(shù)據(jù)包網(wǎng)卡有限，CPU及主板PCIe網(wǎng)卡插槽數(shù)量有限）。GPU方案（高計算性能）處理通信密集任務(wù)數(shù)據(jù)包缺乏網(wǎng)口，需依靠網(wǎng)卡收集數(shù)據(jù)包，數(shù)據(jù)吞吐量受CPU及網(wǎng)卡限制，時延較長。FPGA可接入40Gbps、100Gbps網(wǎng)線，并以線速處理各類數(shù)據(jù)包，可降低網(wǎng)卡、交換機配置成本。

② 時延優(yōu)勢：CPU方案通過網(wǎng)卡收集數(shù)據(jù)包，并將計算結(jié)果發(fā)送至網(wǎng)卡。受網(wǎng)卡性能限制，DPDK數(shù)據(jù)包處理框架下，CPU處理通信密集任務(wù)時延近5微秒，且CPU時延穩(wěn)定性較弱，高負載情況下時延或超過幾十微秒，造成任務(wù)調(diào)度不確定性。FPGA無需指令，可保證穩(wěn)定、極低時延，F(xiàn)PGA協(xié)同CPU異構(gòu)模式可拓展FPGA方案在復(fù)雜端設(shè)備的應(yīng)用。

FPGA部署包括集群式、分布式等，逐漸從中心化過渡至分布式，不同部署方式下，服務(wù)器溝通效率、故障傳導效應(yīng)表現(xiàn)各異。

FPGA嵌入功耗負擔：FPGA嵌入對服務(wù)器整體功耗影響較小，以Catapult聯(lián)手微軟開展的FPGA加速機器翻譯項目為例，加速模塊整體總計算能力達到103Tops/W，與10萬塊GPU計算能力相當。相對而言，嵌入單塊FPGA導致服務(wù)器整體功耗增加約30W。

FPGA部署方式特點及限制：

① 集群部署特點及限制：FPGA芯片構(gòu)成專用集群，形成FPGA加速卡構(gòu)成的超級計算器（如Virtex系列早期實驗板于同一硅片部署6塊FPGA，單位服務(wù)器搭載4塊實驗板）。

? 專用集群模式無法在不同機器FPGA之間實現(xiàn)通信；

? 數(shù)據(jù)中心其他機器需集中發(fā)送任務(wù)至FPGA集群，易造成網(wǎng)絡(luò)延遲；

? 單點故障導致數(shù)據(jù)中心整體加速能力受限

② 網(wǎng)線連接分布部署：為保證數(shù)據(jù)中心服務(wù)器同構(gòu)性（ASIC解決方案亦無法滿足），該部署方案于不同服務(wù)器嵌入FPGA，并通過專用網(wǎng)絡(luò)連接，可解決單點故障傳導、網(wǎng)絡(luò)延遲等問題。

??類同于集群部署模式，該模式不支持不同機器FPGA間通信；

??搭載FPGA芯片的服務(wù)器具備高度定制化特點，運維成本較高

③ 共享服務(wù)器網(wǎng)絡(luò)部署：該部署模式下，FPGA置于網(wǎng)卡、交換機間，可大幅提高加速網(wǎng)絡(luò)功能并實現(xiàn)存儲虛擬化。FPGA針對每臺虛擬機設(shè)置虛擬網(wǎng)卡，虛擬交換機數(shù)據(jù)平面功能移動至FPGA內(nèi)，無需CPU或物理網(wǎng)卡參與網(wǎng)絡(luò)數(shù)據(jù)包收發(fā)過程。該方案顯著提升虛擬機網(wǎng)絡(luò)性能（25Gbps），同時可降低數(shù)據(jù)傳輸網(wǎng)絡(luò)延遲（10倍）。

分享服務(wù)器網(wǎng)絡(luò)部署模式下，F(xiàn)PGA加速器有助于降低數(shù)據(jù)傳輸時延，維護數(shù)據(jù)中心時延穩(wěn)定，顯著提升虛擬機網(wǎng)絡(luò)性能。

分享服務(wù)器網(wǎng)絡(luò)部署模式下FPGA加速Bing搜索排序：Bing搜索排序于該模式下采用10Gbps專用網(wǎng)線通信，每組網(wǎng)絡(luò)由8個FPGA組成。其中，部分負責提取信號特征，部分負責計算特征表達式，部分負責計算文檔得分，最終形成機器人即服務(wù)（RaaS）平臺。FPGA加速方案下，Bing搜索時延大幅降低，延遲穩(wěn)定性呈現(xiàn)正態(tài)分布。該部署模式下，遠程FPGA通信延遲相對搜索延遲可忽略。

Azure服務(wù)器部署FPGA模式：Azure針對網(wǎng)絡(luò)及存儲虛擬化成本較高等問題采取FPGA分享服務(wù)器網(wǎng)絡(luò)部署模式。隨網(wǎng)絡(luò)計算速度達到40Gbps，網(wǎng)絡(luò)及存儲虛擬化CPU成本激增（單位CPU核僅可處理100Mbps吞吐量）。通過在網(wǎng)卡及交換機間部署FPGA，網(wǎng)絡(luò)連接擴展至整個數(shù)據(jù)中心。通過輕量級傳輸層，同一服務(wù)器機架時延可控制在3微秒內(nèi)，觸達同數(shù)據(jù)中心全部FPGA機架時延可控制在20微秒內(nèi)。

依托高帶寬、低時延優(yōu)勢，F(xiàn)PGA可組成網(wǎng)絡(luò)交換層與服務(wù)器軟件之間的數(shù)據(jù)中心加速層，并隨分布式加速器規(guī)模擴大實現(xiàn)性能超線性提升。

數(shù)據(jù)中心加速層：FPGA嵌入數(shù)據(jù)中心加速平面，位于網(wǎng)絡(luò)交換層（支架層、第一層、第二層）及傳統(tǒng)服務(wù)器軟件（CPU層面運行軟件）之間。

加速層優(yōu)勢：

? FPGA加速層負責為每臺服務(wù)器（提供云服務(wù)）提供網(wǎng)絡(luò)加速、存儲虛擬化加速支撐，加速層剩余資源可用于深度神經(jīng)網(wǎng)絡(luò)（DNN）等計算任務(wù)。?

? 隨分布式網(wǎng)絡(luò)模式下FPGA加速器規(guī)模擴大，虛擬網(wǎng)絡(luò)性能提升呈現(xiàn)超線性特征。

加速層性能提升原理：使用單塊FPGA時，單片硅片內(nèi)存不足以支撐全模型計算任務(wù)，需持續(xù)訪問DRAM以獲取權(quán)重，受制于DRAM性能。加速層通過數(shù)量眾多的FPGA支撐虛擬網(wǎng)絡(luò)模型單層或單層部分計算任務(wù)。該模式下，硅片內(nèi)存完整加載模型權(quán)重，可突破DRAM性能瓶頸，F(xiàn)PGA計算性能得到充分發(fā)揮。加速層需避免計算任務(wù)過度拆分而導致計算、通信失衡。

嵌入式eFPGA技術(shù)在性能、成本、功耗、盈利能力等方面優(yōu)于傳統(tǒng)FPGA嵌入方案，可針對不同應(yīng)用場景、不同細分市場需求提供靈活解決方案.

eFPGA技術(shù)驅(qū)動因素：設(shè)計復(fù)雜度提升伴隨設(shè)備成本下降的經(jīng)濟趨勢促發(fā)市場對eFPGA技術(shù)需求。

器件設(shè)計復(fù)雜度提升：SoC設(shè)計實現(xiàn)過程相關(guān)軟件工具趨于復(fù)雜（如Imagination Technologies為滿足客戶完整開發(fā)解決方案需求而提供PowerVR圖形界面、Eclipse整合開發(fā)環(huán)境），工程耗時增加（編譯時間、綜合時間、映射時間，F(xiàn)PGA規(guī)模越大，編譯時間越長）、制模成本提高(FPGA芯片成本為同規(guī)格ASIC芯片成本100倍）。

設(shè)備單位功能成本持續(xù)下降：20世紀末期，F(xiàn)PGA平均售價較高（超1,000元），傳統(tǒng)模式下，F(xiàn)PGA與ASIC集成設(shè)計導致ASIC芯片管芯面積、尺寸增大，復(fù)雜度提升，早期混合設(shè)備成本較高。21世紀，相對批量生產(chǎn)的混合設(shè)備，F(xiàn)PGA更多應(yīng)用于原型設(shè)計、預(yù)生產(chǎn)設(shè)計，成本相對傳統(tǒng)集成持續(xù)下降（最低約100元），應(yīng)用靈活。eFPGA技術(shù)優(yōu)勢：

更優(yōu)質(zhì)：eFPGA IP核及其他功能模塊的SoC設(shè)計相對傳統(tǒng)FPGA嵌入ASIC解決方案，在功耗、性能、體積、成本等方面表現(xiàn)更優(yōu)。

更方便：下游應(yīng)用市場需求更迭速度快，eFPGA可重新編程特性有助于設(shè)計工程師更新SoC，產(chǎn)品可更長久占有市場，利潤、收入、盈利能力同時大幅提升。eFPGA方案下SoC可實現(xiàn)高效運行，一方面迅速更新升級以支持新接口標準，另一方面可快速接入新功能以應(yīng)對細分化市場需求。

更節(jié)能：SoC設(shè)計嵌入eFPGA技術(shù)可在提高總性能的同時降低總功耗。利用eFPGA技術(shù)可重新編程特性，工程師可基于硬件，針對特定問題對解決方案進行重新配置，進而提高設(shè)計性能、降低功耗。

FPGA技術(shù)無需依靠指令、無需共享內(nèi)存，在云計算網(wǎng)絡(luò)互連系統(tǒng)中提供低延遲流式通信功能，可廣泛滿足虛擬機之間、進程之間加速需求.

FPGA云計算任務(wù)執(zhí)行流程：主流數(shù)據(jù)中心以FPGA為計算密集型任務(wù)加速卡，賽靈思及阿爾特拉推出基于OpenCL的高層次編程模型，模型依托CPU觸達DRAM，向FPGA傳輸任務(wù)，通知執(zhí)行，F(xiàn)PGA完成計算并將執(zhí)行結(jié)果傳輸至DRAM，最終傳輸至CPU。

FPGA云計算性能升級空間：受限于工程實現(xiàn)能力，當前數(shù)據(jù)中心FPGA與CPU之間通信多以DRAM為中介，通過燒寫DRAM、啟動kernel、讀取DRAM的流程完成通信（FPGADRAM相對CPU DRAM數(shù)據(jù)傳輸速度較慢），時延近2毫秒（OpenCL、多個kernel間共享內(nèi)存）。CPU與FPGA間通信時延存在升級空間，可借助PCIe DMA實現(xiàn)高效直接通信，時延最低可降至1微秒。

FPGA云計算通信調(diào)度新型模式：新通信模式下，F(xiàn)PGA與CPU無需依托共享內(nèi)存結(jié)構(gòu)，可通過管道實現(xiàn)智行單元、主機軟件之間的高速通信。云計算數(shù)據(jù)中心任務(wù)較為單一，重復(fù)性強，主要包括虛擬平臺網(wǎng)絡(luò)構(gòu)建和存儲（通信任務(wù)）以及機器學習、對稱及非對稱加密解密（計算任務(wù)），算法較為復(fù)雜。新型調(diào)度模式下，CPU計算任務(wù)趨于碎片化，遠期云平臺計算中心或以FPGA為主，并通過FPGA將復(fù)雜計算任務(wù)卸載至CPU（區(qū)別于傳統(tǒng)模式下CPU卸載任務(wù)至FPGA的模式）。

全球FPGA市場由四大巨頭Xilinx賽靈思，Intel英特爾（收購阿爾特拉）、Lattice萊迪思、Microsemi美高森美壟斷，四大廠商壟斷9,000余項專利技術(shù)，把握行業(yè)“制空權(quán)”。

FPGA芯片行業(yè)形成以來，全球范圍約有超70家企業(yè)參與競爭，新創(chuàng)企業(yè)層出不窮（如Achronix Semiconductor、MathStar等）。產(chǎn)品創(chuàng)新為行業(yè)發(fā)展提供動能，除傳統(tǒng)可編程邏輯裝置（純數(shù)字邏輯性質(zhì)），新型可編程邏輯裝置（混訊性質(zhì)、模擬性質(zhì)）創(chuàng)新速度加快，具體如Cypress Semiconductor 研 發(fā) 具 有 可 組 態(tài) 性 混 訊 電 路 PSoC（Programmable System on Chip），再如Actel推出Fusion（可程序化混訊芯片）。此外，部分新創(chuàng)企業(yè)推出現(xiàn)場可編程模擬數(shù)組FPAA（Field Programmable Analog Array）等。

隨智能化市場需求變化演進，高度定制化芯片（SoC ASIC）因非重復(fù)投資規(guī)模大、研發(fā)周期長等特點導致市場風險劇增。相對而言，F(xiàn)PGA在并行計算任務(wù)領(lǐng)域具備優(yōu)勢，在高性能、多通道領(lǐng)域可以代替部分ASIC。人工智能領(lǐng)域多通道計算任務(wù)需求推動FPGA技術(shù)向主流演進。

基于FPGA芯片在批量較?。髌?strong>5萬片為界限）、多通道計算專用設(shè)備（雷達、航天設(shè)備）領(lǐng)域的優(yōu)勢，下游部分應(yīng)用市場以FPGA取代ASIC應(yīng)用方案。

中國FPGA芯片研發(fā)企業(yè)可以紫光同創(chuàng)、國微電子、成都華微電子、安路科技、智多晶、高云半導體、上海復(fù)旦微電子和京微齊力為例。從產(chǎn)品角度分析，中國FPGA硬件性能指標相較賽靈思、Intel等差距較大。紫光同創(chuàng)是當前中國市場唯一具備自主產(chǎn)權(quán)千萬門級高性能FPGA研發(fā)制造能力的企業(yè)。上海復(fù)旦微電子于2018年5月推出自主知識產(chǎn)權(quán)億門級FPGA產(chǎn)品。中國FPGA企業(yè)緊跟大廠步伐，布局人工智能、自動駕駛等市場，打造高、中、低端完整產(chǎn)品線。

中國FPGA企業(yè)競爭突破口現(xiàn)階段中國FPGA廠商芯片設(shè)計軟件、應(yīng)用軟件不統(tǒng)一，易在客戶端造成資源浪費，頭部廠商可帶頭集中產(chǎn)業(yè)鏈資源，提高行業(yè)整體競爭力。

編輯：黃飛

?