FPGA版通用圖形處理架構(gòu)創(chuàng)新解決方案

介紹

“互聯(lián)網(wǎng)上的整個(gè)電子商務(wù)世界都是由圖形分析驅(qū)動(dòng)的”，因?yàn)閳D形結(jié)構(gòu)可以自然地代表許多重要應(yīng)用領(lǐng)域的數(shù)據(jù)集，例如社交網(wǎng)絡(luò)、網(wǎng)絡(luò)安全和機(jī)器學(xué)習(xí)。在當(dāng)前的時(shí)代，圖形結(jié)構(gòu)呈指數(shù)級(jí)增長(zhǎng)，這就導(dǎo)致了這些應(yīng)用程序的數(shù)據(jù)對(duì)高性能圖形處理產(chǎn)生了迫切的需求。

目前，基于 FPGA 的圖形處理加速器的仍在被大量研究；然而，高級(jí)圖形應(yīng)用程序與底層CPU-FPGA平臺(tái)之間仍然存在差距，這需要開發(fā)人員了解硬件細(xì)節(jié)并花費(fèi)大量精力進(jìn)行編程（例如使用硬件描述語(yǔ)言編程和進(jìn)行內(nèi)存優(yōu)化）。這一差距在很大程度上阻礙了數(shù)據(jù)中心應(yīng)用程序開發(fā)人員采用 FPGA。

主角-ThunderGP

ThunderGP 通過為 FPGA 加速圖形處理帶來(lái)性能和可編程性來(lái)彌補(bǔ)上述差距。

ThunderGP是基于HLS的開源通用圖形處理框架，支持Vitis和SDAccel開發(fā)環(huán)境，適用于U50、U200、U250和VCU1525等Xilinx Alveo平臺(tái)（官方開發(fā)板）。借助 ThunderGP，開發(fā)人員只需編寫與硬件無(wú)關(guān)的基于顯式高級(jí)語(yǔ)言 (C++) 的 API 的高級(jí)函數(shù)即可使用FPGA強(qiáng)大的并行處理能力。ThunderGP 在具有多個(gè)SLR 的先進(jìn) FPGA 平臺(tái)上自動(dòng)生成高性能加速器，并管理加速器的部署。

圖1：ThunderGP 概述。它與 Vitis 和 SDAccel 工具兼容。

ThunderGP 的概述如圖 1 所示。我們簡(jiǎn)要說(shuō)明主要模塊如下：

內(nèi)置加速器模板。ThunderGP采用Gather-Apply-Scatter（GAS）模型作為各種圖算法的抽象，并通過內(nèi)置的高度并行和高效的內(nèi)存加速器模板來(lái)實(shí)現(xiàn)該模型。

自動(dòng)加速器生成。自動(dòng)加速器產(chǎn)生可綜合的加速器，釋放底層 FPGA 平臺(tái)的全部潛力。除了內(nèi)置加速器模板之外，它還采用圖形算法和 FPGA 平臺(tái)模型（例如 U50）的分散、聚集和應(yīng)用階段（來(lái)自 GAS 模型）來(lái)自開發(fā)人員作為輸入的用戶定義函數(shù) (UDF) 。

圖形劃分和調(diào)度。ThunderGP采用基于目標(biāo)頂點(diǎn)的垂直分區(qū)方法，無(wú)需引入邊緣排序等繁重的預(yù)處理操作，即可通過片上RAM實(shí)現(xiàn)頂點(diǎn)緩沖。

高級(jí)API。ThunderGP 提供了兩套基于 C++ 的 API：用于定制圖算法加速器的加速器 API（Acc-API）和用于加速器部署和執(zhí)行的 Host-API。

有關(guān)GAS模型、API以及ThunderGP設(shè)計(jì)的詳細(xì)信息，請(qǐng)參考ThunderGP技術(shù)報(bào)告（附件或GitHub上）。

https://github.com/Xtra-Computing/ThunderGP/blob/develop_u50/docs/ThunderGP_technical_report.pdf

ThunderGP 有多易用？

我們進(jìn)行了一個(gè)案例研究 - 使用 Vitis 2020.1 對(duì) Alveo U50 板上的 COVID-19 進(jìn)行預(yù)測(cè) - 演示如何將 ThunderGP 輕松應(yīng)用于現(xiàn)實(shí)生活中的圖形處理問題。

及時(shí)預(yù)測(cè)人口水平隨時(shí)間變化的感染流行率對(duì)于采取適當(dāng)?shù)姆怄i措施（例如隔離或保持社交距離）減輕病毒的傳播具有重要作用。目前的傳播預(yù)測(cè)模型一般由空間元胞自動(dòng)機(jī)（CA）和時(shí)間易感感染去除（SIR）模型組成，其中元胞代表一個(gè)居住區(qū)（例如縣）并維持其狀態(tài)（例如感染率）， SIR模型根據(jù)相鄰小區(qū)之間的傳輸來(lái)更新。因此，傳播可以表述為圖形處理問題， SIR 通過圖中的傳播進(jìn)行更新。

我們使用 ThunderGP 實(shí)現(xiàn)了三種傳播模型：CA-SIR [1]、CA-SEIR [2] 和 CA-SAIR [3] 模型。該數(shù)據(jù)集來(lái)自 COVID-19 影響分析平臺(tái) [4]，包含 3100 個(gè)縣和 230 萬(wàn)個(gè)連接。

在這里，我們展示了清單 1 中為 CA-SAIR 模型實(shí)現(xiàn)加速器的示例。在分散階段，每個(gè)縣（小區(qū)）根據(jù)其感染率和連接強(qiáng)度計(jì)算感染率并推送到鄰近縣它量化了縣際流動(dòng)的數(shù)量和頻率。在收集階段，該縣會(huì)累積推送給它的所有感染率。在應(yīng)用階段，收集的感染率用于計(jì)算感染率。需要注意的是，apply階段涉及到很多用戶自定義的參數(shù)（ThunderGP支持apply階段的用戶自定義參數(shù)，詳細(xì)內(nèi)容參見技術(shù)報(bào)告）。

50平臺(tái)上用于加速COVID-19傳播預(yù)測(cè)的用戶輸入。

圖 2 顯示了使用公共數(shù)據(jù)集進(jìn)行預(yù)測(cè)一周后感染風(fēng)險(xiǎn)的可視化情況。結(jié)果與CPU端執(zhí)行的開源Python程序[3]相符。

表 1 量化了 ThunderGP 在該任務(wù)中所涉及的開發(fā)工作，并顯示了與基于 Python 的 CPU 實(shí)現(xiàn)的性能比較[3]。根據(jù)結(jié)果，使用 ThunderGP 解決此問題的好處是雙重的。首先，ThunderGP比基于 CPU 的解決方案實(shí)現(xiàn)了高達(dá)419 倍的加速。能夠在短時(shí)間內(nèi)預(yù)測(cè)傳播情況有助于對(duì)傳播情況做出快速、及時(shí)的反應(yīng)。其次，隨著對(duì)病毒了解的不斷深入，CA-SIR模型正在快速發(fā)展。使用ThunderGP，開發(fā)人員通常只需編寫數(shù)十行代碼即可加速預(yù)測(cè)一天，從而最大程度地減少了開發(fā)工作量。

[1] MA Fuentes et al. Physica A: Statistical Mechanics and its Applications, 1999.

[2] José M Carcione et al. A simulation of a covid-19 epidemic based on a deterministic seir model. arXiv, 2020.

[3] Yiwang Zhou et al. A spatiotemporal epidemiological prediction model to inform county-level covid-19 risk in the united states. Harvard Data Science Review, 2020.

[4] University of Maryland COVID-19 Impact Analysis Platform. https://data.covid.umd.edu, 2020-09-10.

審核編輯：黃飛

?