基于FPGA嵌入式AI解決方案的百度EdgeBoard

（文章來源：百度AI）

EdgeBoard是基于FPGA打造的嵌入式AI解決方案，能夠提供強(qiáng)大的算力，并支持定制化模型，適配各種不同的場景，并大幅提高設(shè)備的AI推理能deeplab力，具有高性能、高通用、易集成等特點(diǎn)。EdgeBoard系列計(jì)算卡符合工業(yè)設(shè)計(jì)標(biāo)準(zhǔn)、滿足-40℃~85℃的溫度范圍，接口齊全，可廣泛適配如安防監(jiān)控、工業(yè)質(zhì)檢、醫(yī)療診斷、科研教學(xué)、智能零售等各種場景。

EdgeBoard產(chǎn)品分為三個(gè)系列，稱之為“三兄弟”，能夠滿足客戶不同的需求，既有滿足高性能計(jì)算的方案，也有高性價(jià)比的處理方案。本文將從“三兄弟”的特點(diǎn)及整體硬件框架兩個(gè)方面來介紹EdgeBoard。理想的異構(gòu)計(jì)算平臺應(yīng)該具備三種基本能力：首先專有的硬件加速能力，提高算法的性能；其次高效靈活適配算法的能力，適配不斷演進(jìn)的算法；最后豐富的外圍接口，適合不同的應(yīng)用場景。

CPU作為通用處理器，以邏輯計(jì)算作為出發(fā)點(diǎn)，更偏重控制流數(shù)據(jù)，適用于控制和調(diào)度類任務(wù)，不易于進(jìn)行外圍電路的擴(kuò)展。GPU具有并行計(jì)算的特點(diǎn)，廣泛應(yīng)用在訓(xùn)練階段，但由于功耗大、成本高等原因，少有部署在端上的產(chǎn)品，另外高延遲及缺少對外圍電路的支持也不利于部署到端上的產(chǎn)品中。ASIC作為一種專用集成電路芯片，具有體積小、功耗低、計(jì)算性能高等特點(diǎn)，但AISC芯片研發(fā)時(shí)間長，資金投入大，由于芯片內(nèi)部結(jié)構(gòu)相對固定，無法適配快速演進(jìn)的AI算法，在應(yīng)用場景沒有明確之前ASIC顯然不是最優(yōu)的選擇。

FPGA作為一種現(xiàn)場可編程門陣列，具有低功耗、低延遲、高性能等優(yōu)勢，其可編程的特性又可以靈活適配不同的算法，同時(shí)FPGA豐富的外圍接口可以滿足不同的應(yīng)用需求，F(xiàn)PGA差異化的內(nèi)部邏輯資源可以提供不同的算力支持，這些優(yōu)勢使得FPGA被廣泛應(yīng)用在AI推理加速上。

EdgeBoard是基于Xilinx Zynq UltraScale+ MPSoC系列芯片打造的計(jì)算卡，芯片內(nèi)部集成ARM處理器+GPU+FPGA的架構(gòu)，既具有多核處理能力、也有視頻流硬解碼處理能力，還具有FPGA的可編程的特點(diǎn)。內(nèi)置Linux 4.14.0系統(tǒng)和深度學(xué)習(xí)預(yù)裝環(huán)境，與百度大腦模型定制平臺（AIStudio、EasyDL、EasyEdge）深度打通，實(shí)現(xiàn)模型的訓(xùn)練、部署、推理等一站式服務(wù)。

EdgeBoard計(jì)算卡產(chǎn)品可以分為FZ9、FZ5、FZ3三個(gè)系列，是分別基于XCZU9EG、XAZU5EV、XAZU3EG研發(fā)而來，分別具有高性能，硬解碼，低成本等特點(diǎn)，針對不同需求和應(yīng)用場景，有不同的市場定位和產(chǎn)品定位，滿足各類開發(fā)者多樣性的需求。

EdgeBoard FZ9系列計(jì)算卡是基于XCZU9EG芯片的高性能計(jì)算卡，具有較高的性能和集成功能。ZU9芯片PS端具有四核Cortex-A53和雙核Cortex-R5 以及Mali-400MP2 GPU；PL端資源DSP Slices 2520，計(jì)算性能達(dá)3.6Tops，片上存儲BRAM高達(dá)32.1Mb。

FZ9計(jì)算卡產(chǎn)品采用核心板+擴(kuò)展板的雙層設(shè)計(jì)方案，增加了對外接口的數(shù)量，其80*120mm的尺寸方便計(jì)算卡集成于到產(chǎn)品中，具備軟硬一體的解決方案（軟件+FPGA），支持多種視頻源（usb、mipi、bt1200、網(wǎng)絡(luò)攝像頭）的輸入，并具有強(qiáng)大的視頻預(yù)處理能力，視頻輸出DisplayPort接口兼容標(biāo)準(zhǔn)Linux視頻框架V4L2。高性能的視頻處理能力和標(biāo)準(zhǔn)化的視頻輸出接口可滿足機(jī)器學(xué)習(xí)、醫(yī)療診斷等行業(yè)需求。

EdgeBoard FZ5系列計(jì)算卡是基于XAZU5EV芯片的計(jì)算卡，提供較高性能和功能集成，具有多路視頻流H264&H265標(biāo)準(zhǔn)的編解碼功能。ZU5芯片PS端同樣包含四核Cortex-A53 、雙核Cortex-R5、以及GPU Mali-400MP2；PL端資源DSP Slices 1248，計(jì)算性能達(dá)2.4Tops，片上存儲BRAM達(dá)5.1Mb，UltraRAM 18Mb。

FZ5計(jì)算卡產(chǎn)品延續(xù)了FZ9計(jì)算卡的產(chǎn)品形態(tài)，采用核心板+擴(kuò)展板雙層設(shè)計(jì)方案，具有多視頻輸入接口，VCU（Video Codec Unit）硬核解碼，對視頻的輸入處理采用流水線設(shè)計(jì)，實(shí)現(xiàn)高吞吐量和低時(shí)延，具有極佳的功耗性能比。產(chǎn)品可以廣泛應(yīng)用于具有硬解碼需求的視頻圖像推理，滿足安防監(jiān)控、工業(yè)質(zhì)檢、自動駕駛等行業(yè)需求。

EdgeBoard FZ3系列計(jì)算卡是基于XAZU3EG芯片的計(jì)算卡，處理器ZU3芯片內(nèi)置四核Cortex-A53和核心FPGA可編程邏輯模塊；PL端資源DSP Slices 360，實(shí)測計(jì)算性能達(dá)1.2Tops，片上存儲BRAM達(dá)7.6Mb。

FZ3計(jì)算卡產(chǎn)品具有高集成性的設(shè)計(jì)方案，板卡尺寸為80*70mm，具有usb3.0、bt1120、mipi、網(wǎng)絡(luò)等多視頻輸入接口，板載2GB 64bit位寬的 DDR4，整體功耗僅5W左右，極佳的功耗性能比。對于FZ3產(chǎn)品具有的高性能、低功耗、低成本、小體積的特點(diǎn)，產(chǎn)品可以廣泛應(yīng)用于科研教學(xué)、智能零售、安防監(jiān)控等行業(yè)。

（責(zé)任編輯：fqj）