自適應(yīng)計(jì)算加速軟件定義硬件時(shí)代到來

以前設(shè)計(jì)一個(gè)產(chǎn)品，先要規(guī)劃好硬件架構(gòu)，等硬件設(shè)計(jì)全部完成后，才會(huì)開始軟件部分的開發(fā)，然后才是完整產(chǎn)品的發(fā)布?，F(xiàn)在，隨著云計(jì)算、互聯(lián)網(wǎng)的發(fā)展，以及AI、5G和自動(dòng)駕駛的興起，硬件和產(chǎn)品的開發(fā)流程需求在發(fā)生著前所未有的變化，比如更高的硬件性能；更高的安全和保密需求；不斷增加的傳感器類型和接口；不斷演進(jìn)的AI算法和模型；以及軟件開發(fā)需要與硬件開發(fā)同步進(jìn)行等等。

在這些新需求的推動(dòng)下，“軟件定義硬件”的概念被人多次提到，人們希望芯片中所有操作的控制和調(diào)度都由軟件來完成，從而減少相應(yīng)的硬件開銷，把節(jié)省的部分用于運(yùn)算和片上存儲(chǔ)。這個(gè)愿望看起來很美好，但實(shí)現(xiàn)起來還是有不少難度的，比如FPGA可以實(shí)現(xiàn)一部分的軟件定義硬件功能，但其效率比ASIC低，功耗卻比ASIC高。那有沒有什么更好的辦法呢？

自適應(yīng)平臺(tái)的優(yōu)勢

賽靈思的自適應(yīng)計(jì)算平臺(tái)就是為此而生的。根據(jù)賽靈思的自適應(yīng)計(jì)算白皮書和自適應(yīng)計(jì)算專區(qū)，自適應(yīng)計(jì)算以FPGA技術(shù)為基礎(chǔ)，支持在芯片上動(dòng)態(tài)構(gòu)建特定領(lǐng)域架構(gòu)（DSA）。也就是說，自適應(yīng)計(jì)算允許DSA隨需求變化進(jìn)行動(dòng)態(tài)更新，從而避免受到漫長的ASIC設(shè)計(jì)周期和高昂的NRE成本的約束。隨著處理的分布式水平不斷提高，自適應(yīng)計(jì)算不僅能夠支持軟件的無線（OTA）更新，也支持硬件無線更新，而且更新可以幾乎無線的次數(shù)反復(fù)進(jìn)行。

“自適應(yīng)平臺(tái)”則指以自適應(yīng)硬件為核心的任意類型產(chǎn)品或解決方案。自適應(yīng)平臺(tái)完全基于相同的自適應(yīng)硬件基礎(chǔ)，但其包含的內(nèi)容遠(yuǎn)不止芯片硬件或器件，而是涵蓋了全部的硬件和全面的成套設(shè)計(jì)軟件和運(yùn)行軟件。

有了自適應(yīng)平臺(tái)后，硬件工程師可以從那些重復(fù)和低端的設(shè)計(jì)工作中解放出來，專注于自己擅長的專業(yè)功能的開發(fā)，軟件工程師則可以跟硬件工程師同一時(shí)間開始設(shè)計(jì)工作，而不需要等到所有硬件全部設(shè)計(jì)好之后才開始工作。

當(dāng)然，除了這個(gè)好處之外，自適應(yīng)平臺(tái)還有以下一些優(yōu)勢：

一是加快產(chǎn)品上市進(jìn)程。比如賽靈思的其中一個(gè)自適應(yīng)計(jì)算平臺(tái)產(chǎn)品Alveo數(shù)據(jù)中心加速器卡，使用該加速卡來構(gòu)建的應(yīng)用，能為特定應(yīng)用加速，而不需要特別的硬件定制。且只需將PCIe卡添加到服務(wù)，就可以從現(xiàn)有的軟件應(yīng)用中直接調(diào)用加速庫。

二是可以降低運(yùn)營成本。與基于 CPU 的解決方案相比，由于計(jì)算密度的提升，基于自適應(yīng)平臺(tái)的優(yōu)化應(yīng)用能在每節(jié)點(diǎn)提供大幅提高的效率。

三是可靈活且動(dòng)態(tài)地配置工作負(fù)載。自適應(yīng)平臺(tái)可根據(jù)當(dāng)前需求重新配置。開發(fā)者可以在自適應(yīng)平臺(tái)內(nèi)輕松切換已部署應(yīng)用，使用相同設(shè)備即可滿足不斷變化的工作負(fù)載需求。

四是能兼容未來。自適應(yīng)平臺(tái)能不斷進(jìn)行調(diào)整。如果現(xiàn)有應(yīng)用需要新的功能，則可以對(duì)硬件重新編程，以最佳方式實(shí)現(xiàn)這些功能，減少硬件升級(jí)需求，進(jìn)而延長系統(tǒng)使用壽命。

五是可加速整體應(yīng)用。因?yàn)锳I推斷很少單獨(dú)存在，一般是更大的數(shù)據(jù)分析與處理鏈條的組成部分，往往與使用傳統(tǒng)（非AI）實(shí)現(xiàn)方案的多個(gè)上游級(jí)和下游級(jí)并存。這些系統(tǒng)中的嵌入式AI部分得益于AI加速，而非AI部分也能從加速中獲益。自適應(yīng)計(jì)算的天然靈活性適合為AI和非AI處理任務(wù)進(jìn)行加速，稱之為“整體應(yīng)用加速”。隨著計(jì)算密集型AI推斷滲透到更多應(yīng)用中，其重要性也在日益提升。

自適應(yīng)計(jì)算的成功落地案例

以前，工程師如果要使用FPGA，就需要自己構(gòu)建自己的硬件板，并用硬件描述語言（HDL）配置好FGPA才行。如今，自適應(yīng)平臺(tái)的開發(fā)者只需要使用自己熟悉的軟件框架和語言（比如C++、Python、TensorFlow等），直接發(fā)揮自適應(yīng)計(jì)算的效能。也就是說，軟件和AI開發(fā)者不需要構(gòu)建電路板，或者成為硬件專家，就能自如地運(yùn)用自適應(yīng)計(jì)算。

更為方便的是，工程師不僅可以通過API直接調(diào)用他們現(xiàn)有的軟件代碼，還可以使用獨(dú)立軟件供應(yīng)商（ISV）生態(tài)系統(tǒng)和廠商提供的開源庫，庫里有大量的加速API可供使用。

以賽靈思已經(jīng)量產(chǎn)的兩款自適應(yīng)計(jì)算平臺(tái)產(chǎn)品Kria SOM和Alveo加速器卡為例。Kria SOM基于Zynq UltraScale+ MPSoC 架構(gòu)而構(gòu)建，支持開發(fā)者在交鑰匙自適應(yīng)平臺(tái)上開發(fā)邊緣應(yīng)用。通過將系統(tǒng)的核心部分標(biāo)準(zhǔn)化，開發(fā)者有更多時(shí)間專注于打造差異化功能特性。

賽靈思首款量產(chǎn)的Kria SOM產(chǎn)品就是K26 SOM，硬件配置方面，K26 SOM基于Zynq UltraScale+ MPSoC架構(gòu)設(shè)計(jì)，整體尺寸為77×60×11mm，搭載四核Arm A53處理器，內(nèi)置64位4GB的DDR4內(nèi)存，擁有256K系統(tǒng)邏輯單元和1.4TOPS AI處理器性能，支持4K 60p的H.264/265視頻編解碼器。

Kria SOM是作為量產(chǎn)就緒型的產(chǎn)品來設(shè)計(jì)、制造和測試的，它可以承受各種嚴(yán)苛的應(yīng)用環(huán)境。目前Kria SOM分為工業(yè)級(jí)和商用級(jí)兩種類別，工業(yè)級(jí)支持更高的振動(dòng)和更極端的溫度，同時(shí)也有更長的生命周期等級(jí)和維保。

Kria SOM主要針對(duì)智能視覺的應(yīng)用，因此，它可以用于智慧城市中的高速目標(biāo)檢測，比如車牌識(shí)別等應(yīng)用；同時(shí)，它也可以用于工業(yè)產(chǎn)線上的機(jī)器視覺應(yīng)用。

對(duì)于Alveo 加速器卡，它采用行業(yè)標(biāo)準(zhǔn)的PCI-e接口，可為任意數(shù)據(jù)中心應(yīng)用提供硬件卸載能力，同時(shí)還可用于SmartSSD存儲(chǔ)，在存儲(chǔ)訪問點(diǎn)上進(jìn)行加速。此外，還能用于SmartNIC，直接在網(wǎng)絡(luò)流量上提供加速。

比如Alveo SN1000 SmartNIC，它擴(kuò)展了SmartNIC的性能包絡(luò)，其以數(shù)據(jù)中心和邊緣計(jì)算平臺(tái)為目標(biāo)，結(jié)合了高性能網(wǎng)絡(luò)、CPU集群和大規(guī)模FPGA，在一塊板子上構(gòu)建了一個(gè)高性能計(jì)算（HPC）平臺(tái)，具有顯著的網(wǎng)絡(luò)加速功能。

此外，Alveo SN1000 SmartNIC采用標(biāo)準(zhǔn)化和軟件框架，不需要直接處理FPGA的編程，使用更加方便。工程師可以利用賽靈思或第三方支持FPGA中使用的大部分固件，甚至CPU集群上運(yùn)行的軟件。CPU集群可運(yùn)行標(biāo)準(zhǔn)的Linux發(fā)行版，如Ubuntu和Yocto Linux。SmartNIC驅(qū)動(dòng)程序可用于Red Hat Enterprise Linux （RHEL）、CentOS和Ubuntu等主機(jī)平臺(tái)。

在應(yīng)用方面，Alveo適用于基因組學(xué)分析、圖形數(shù)據(jù)庫、醫(yī)療影像的處理分析，以及基于視頻影像監(jiān)控類應(yīng)用。在應(yīng)用落地方面，已經(jīng)有數(shù)據(jù)中心及基因測序應(yīng)用方面都有應(yīng)用。

結(jié)語

軟件正在改變硬件，軟硬件的結(jié)合發(fā)展將會(huì)改變產(chǎn)品的形態(tài)，進(jìn)一步改變我們的生活。雖然現(xiàn)在軟件定義硬件并沒有大規(guī)模鋪開，但不論從我們常用的手機(jī)應(yīng)用，到工業(yè)應(yīng)用，以及自適應(yīng)計(jì)算平臺(tái)中軟件的作用，我們可以明顯看到軟件在產(chǎn)品中所起到的作用越來越大。未來自適應(yīng)計(jì)算平臺(tái)必將加速軟件定義硬件時(shí)代的到來。

編輯：jq