借助自適應計算迎接更加智能和互聯(lián)的世界

作者：Greg Martin，賽靈思戰(zhàn)略市場營銷總監(jiān)

（賽靈思現(xiàn)在是 AMD 的一部分）

不斷變化和演進的 5G、數(shù)據(jù)中心、汽車和工業(yè)等應用，要求在保持嚴苛的電源包絡(luò)的同時，持續(xù)提升計算能力。隨著人工智能（ AI ）技術(shù)商用進程持續(xù)加速，其成為提升計算密度的一個主要因素。

無論是部署在云端、邊緣還是終端，人工智能推斷都需要更高的處理性能和嚴格的功耗預算，因而，人工智能推斷工作負載，通常都需要專用的人工智能硬件來進行加速。

與此同時，人工智能算法的發(fā)展速度，遠遠超過了傳統(tǒng)芯片開發(fā)周期的速度。由于先進的人工智能模型的快速創(chuàng)新，固定芯片解決方案，如人工智能網(wǎng)絡(luò)的 ASIC 實現(xiàn)，有可能很快就會被淘汰。

自適應計算是應對上述挑戰(zhàn)的答案

因為基于在產(chǎn)品制造之后依然可以針對特定應用而進行優(yōu)化的自適應硬件而打造，自適應計算因而擁有獨特的價值。由于優(yōu)化可以在硬件制造完成之后按需進行，因此它可以保持與最新的人工智能模型與時俱進金。相反，ASIC 因為基于固定的硬件架構(gòu)，一旦制造完成就無法改變。

自適應計算的這種靈活的優(yōu)化能力，可以支持無限次地反復執(zhí)行。甚至在器件被完全部署到量產(chǎn)環(huán)境后，依然可以進行硬件的變更。就像一個量產(chǎn)型 CPU 可以被用來運行一個新程序一樣，一個自適應平臺也可以靈活適應新的硬件配置，甚至可以在一個實時的生產(chǎn)環(huán)境中。

自適應硬件與其它替代方案的對比

CPU 和 GPU 各自具有其獨特的能力，非常適合某些任務。CPU 是需要評估復雜邏輯的決策功能的最佳選擇。GPU 是處理高吞吐量但對時延要求不高的離線數(shù)據(jù)的最佳選擇。而自適應計算， 則是那些同時需要高吞吐量和低時延數(shù)據(jù)處理的最佳選擇，如實時視頻流、5G 通信和汽車傳感器融合等應用。

自適應計算之所以能夠在保證低時延的情況下提供高性能，是因為它能夠?qū)崿F(xiàn)領(lǐng)域?qū)Ｓ玫募軜?gòu)（ DSA ），從而保障特定應用在特定領(lǐng)域架構(gòu)上的最佳實現(xiàn)。相反，CPU 和 GPU 基于固定的、馮-諾依曼的架構(gòu)，不允許對其底層架構(gòu)進行針對特定領(lǐng)域的優(yōu)化。

DSA 也可以使用專用（固定）芯片器件來構(gòu)建，通常被稱為特定應用標準產(chǎn)品或ASSP 。但是，在固定 ASSP 中實現(xiàn) DSA，既有 有優(yōu)勢，也有劣勢。這里介紹兩種主要的劣勢。

首先是創(chuàng)新步伐。為了跟上創(chuàng)新步伐，制造商被期望用更短的時間打造和提供新的服務。更具體來講，這個時間要比設(shè)計開發(fā)新的固定芯片 DSA 所需的時間還要短。這就造成了市場的創(chuàng)新需求與企業(yè)設(shè)計制造 ASSP 所需時間之間的根本性市場錯位。行業(yè)標準改變或其他需求波動，會很快導致這些器件過時。

第二個考量因素是定制芯片的成本。設(shè)計與制造獨特的芯片設(shè)計（如復雜的 7nm ASIC）的一次性成本，可能導致數(shù)億美元的非重復性工程（ NRE ）成本。隨著器件工藝縮小到 5nm 及更小，預計成本還將進一步上升。成本的攀升，正在延緩 ASSP 對先進節(jié)點的采用，而這，可能導致其用戶固守過時低效的技術(shù)。

自適應計算平臺介紹

自適應平臺都是基于相同的自適應硬件（ FPGA ）而打造，然而，它們所涵括的組件和 技術(shù)遠遠超過了芯片硬件和器件本身。自適應平臺包含了一套全面的運行時軟件，軟硬件相結(jié)合為打造高度靈活和高效的應用，提供了一種獨特的能力。

自適應平臺使得自適應計算能夠為廣泛的軟件和系統(tǒng)開發(fā)者所使用，并為其打造眾多創(chuàng)新產(chǎn)品奠定了基礎(chǔ)。采用自適應平臺的優(yōu)勢包括：

• 縮短上市時間。使用 Alveo? 數(shù)據(jù)中心加速器卡這樣的平臺，可以支持其無需定制硬件，就可以通過專門為特定應用加速而打造的硬件構(gòu)建應用。而且，僅需將 PCIe 卡連接到服務器，就可以用現(xiàn)有軟件應用程序直接調(diào)用加速庫。
• 降低運營成本。與基于 CPU 的解決方案相比，由于計算密度的提升，基于自適應平臺的優(yōu)化應用能大幅提供每節(jié)點的效率。
• 靈活和動態(tài)變化的工作負載。自適應平臺可根據(jù)當前需求重新配置。開發(fā)者可以在自適應平臺內(nèi)輕松切換已部署應用，使用相同設(shè)備即可滿足不斷變化的工作負載需求。
• 兼容未來。自適應平臺能不斷進行調(diào)整。如果現(xiàn)有應用需要新的功能，則可以對硬件重新編程，以最佳方式實現(xiàn)這些功能，減少硬件升級需求，進而延長系統(tǒng)使用壽命。
• 加速整體應用。AI 推斷很少單獨存在。它是更大的數(shù)據(jù)分析與處理鏈條的一部分，往往與使用傳統(tǒng)（非 AI ）實現(xiàn)方案的多個上游級和下游級并存。這些系統(tǒng)中的嵌入式 AI部分得益于 AI 加速，而非 AI 部分也能從加速中獲益。自適應計算的天然靈活性適合為 AI 和非 AI 處理任務進行加速，這被稱為“整體應用加速”。隨著計算密集型 AI 推斷滲透到更多應用中，“整體應用加速”的重要性也在日益提升。
• 易用性。過去，運用 FPGA 技術(shù)需要開發(fā)者構(gòu)建自己的硬件板，并用硬件描述語言（ HDL ）配置 FPGA。相比之下，自適應平臺則支持開發(fā)者使用自己熟悉的軟件框架和語言（例如 C++、Python、TensorFlow 等），直接發(fā)揮自適應計算的效能。軟件和 AI 開發(fā)者現(xiàn)在也可以直接使用自適應計算，而無需構(gòu)建電路板或成為硬件專家。

不同類型的自適應計算平臺

根據(jù)應用和需求，存在多種類型的自適應平臺，包括數(shù)據(jù)中心加速器卡和標準化邊緣模塊。多種平臺的存在，旨在為開發(fā)所需應用提供盡可能最佳的起點。不同的自適應平臺所面向的應用類型也十分廣泛，既有自動駕駛和實時視頻流等時延敏感型應用，也有高度復雜的 5G 信號處理和非結(jié)構(gòu)化數(shù)據(jù)庫的數(shù)據(jù)處理。

自適應計算能夠部署到云端、網(wǎng)絡(luò)、邊緣甚至終端，將最新的架構(gòu)創(chuàng)新帶到單獨及端到端的應用。鑒于存在各種自適應平臺，部署位置也可以是多樣化的——從數(shù)據(jù)中心內(nèi) PCIe 加速器卡上的大容量器件，到適用于物聯(lián)網(wǎng)設(shè)備所需終端處理的小型低功耗器件。

邊緣端的自適應平臺，包括賽靈思 Kria? 自適應系統(tǒng)模塊（ SOM ），數(shù)據(jù)中心中的自適應平臺包括 Alveo 加速器卡。Alveo 加速器卡采用行業(yè)標準的 PCIe，為任意數(shù)據(jù)中心應用提供了硬件卸載能力。

Kria 自適應 SOM

AI 引擎的引入

自適應計算領(lǐng)域最大的創(chuàng)新之一，就是是賽靈思推出的 AI 引擎。

AI 引擎是一種革命性的新方法，其為計算密集型應用提供了前所未有的計算密度。AI 引擎從根本上說仍然是一個可配置的塊，但它也可以像 CPU 一樣進行編程。AI 引擎不是由標準的 FPGA 處理硬件組成的，而是包含高性能的標量和單指令多數(shù)據(jù)（ SIMD ）矢量處理器。這些處理器經(jīng)過優(yōu)化，用以高效實現(xiàn)人工智能推斷和無線通信中出現(xiàn)的各種計算密集型功能。

人工智能引擎陣列，仍然與類似于 FPGA 的、靈活應變的數(shù)據(jù)互連相關(guān)接，從而能夠為目標應用建立高效、優(yōu)化的數(shù)據(jù)路徑。這種計算密集型的、類似 CPU 的處理元素與類似 FPGA 的互連組合，正引領(lǐng)人工智能和通信產(chǎn)品邁入一個新時代。

賽靈思 AI 引擎架構(gòu)

迎接一個更加互聯(lián)和智能的世界

從根本上說，自適應計算建立在現(xiàn)有的 FPGA 技術(shù)上，但使其比以往任何時候都更容易被更多的開發(fā)者和應用所接受。軟件和人工智能開發(fā)者現(xiàn)在可以借助這種對他們來說曾經(jīng)遙不可及的用自適應計算硬件技術(shù)，快速打造優(yōu)化的應用。

使硬件適應特定應用的能力，是自適應計算區(qū)別于 CPU、GPU 和 ASSP 的獨特所在，后者的核心是固定的硬件架構(gòu)。自適應計算允許硬件為應用量身定做，從而實現(xiàn)更高效率，而且如果未來工作負載或標準發(fā)生變化，其還能夠根據(jù)需求進行調(diào)整。

隨著世界變得更加互聯(lián)和智能，自適應計算將繼續(xù)占據(jù)優(yōu)化、加速應用的前沿，助力各種各樣的開發(fā)者加速將創(chuàng)意變成現(xiàn)實，讓我們的明天更美好。