AI讓FPGA獲得新生：CPU+GPU都搞不定的機器學習問題，微軟和百度用FPGA解決了

在今年的 Hot Chips 2017 會議上，微軟推出基于 FPGA 的超低延遲計算平臺 Brainwave，用于在云端加速深度學習。該平臺采用英特爾 Stratix 10 FPGA，經(jīng)測試得出，Brainwave 不需要任何 batching 就能在大型 GRU（Gated recurrent unit）上達到 39.5 Teraflops 的性能。

微軟將 DPU 或者 DNN 處理單元合并到 FPGA 中，希望通過加強深度學習網(wǎng)絡的研究，更快地適應其云服務基礎設施建設，以應對接近于實時的運算處理需求。

同樣是在 Hot Chips 大會上，百度發(fā)布一款 256 核、基于 FPGA 的云計算加速芯片 XPU，其合作伙伴是著名 FPGA 廠商 Xilinx。XPU 的目標是在性能和效率之間實現(xiàn)平衡，處理多樣化的計算任務，而 FPGA 本身就擅長于處理某些特定的計算。

百度研究員歐陽劍表示：「FPGA 是高效的，可以專注于特定計算任務。傳統(tǒng) CPU 擅長通用計算任務，尤其是基于規(guī)則的計算任務，同時非常靈活。GPU 瞄準了并行計算，因此有很強大的性能，XPU 則專注于計算密集型、基于多規(guī)則的多樣化計算任務，提高效率和性能，并帶來類似 CPU 的靈活性?！?/span>

近兩年隨著人工智能浪潮的到來，讓有些冷門 FPGA 又重新煥發(fā)了生機，其實各大科技廠商很早就發(fā)現(xiàn)了 FPGA 在 AI 領域所擁有的優(yōu)勢，并開始布局。

微軟在 Hot Chips 上展示 Brainwave

早在2015 年，微軟就提出了一種使用 FPGA 加速 Bing 搜索引擎的方案，這些 CPU + FPGA 混合器在當年便投入了生產(chǎn)和布置，用以加速 Bing 的頁面排名功能。去年，亞馬遜 AWS 也推出了基于 FPGA 的云服務 EC2 F1。事實上，百度、阿里云、騰訊云等巨頭也相繼推出了 FPGA 云服務。

FPGA 之所以普遍受到業(yè)界的關注，是源于 2015 年英特爾有史以來最大的一筆收購案 —— 以 167 億美元的價格收購 FPGA 大廠 Altera。英特爾判斷， 2020 年 CPU + FPGA 的異構計算將占據(jù)運輸局中心市場的三分之一。

和傳統(tǒng)的 CPU 、GPU 相比，F(xiàn)PGA 無指令、無需共享內存的體系結構可以擁有更高的計算效率，在處理類似矩陣運算、圖像處理、機器學習、壓縮、Bing 搜索排序等計算密集型任務中有相當優(yōu)秀的表現(xiàn)。另外，F(xiàn)PGA 擁有更低的功耗，百度在線上服務使用的 FPGA 版百度大腦，在同樣的功耗下，其性能是天河二號超級計算機的十倍以上。

摩爾定律已經(jīng)不再符合現(xiàn)今技術的發(fā)展狀態(tài)，而機器學習和 Web 服務的規(guī)模卻以指數(shù)級增長，技術和行業(yè)的快速發(fā)展，對處理器提出了可被重新編程以適應新類型計算任務的要求，F(xiàn)PGA 正是這樣一種可以重構的體系結構，而這也是各科技巨頭如此看重 FPGA 的原因。