嵌入式FPGA從航空航天、網(wǎng)絡(luò)和通信到人工智能等的演變

　　雖然 FPGA 芯片自 1980 年代以來就已經(jīng)面市，但嵌入式 FPGA （eFPGA） 僅在大約五年前才面市。然而，由于其驚人的靈活性和功能集，它很快就在市場上占有一席之地。它現(xiàn)在可以從多個供應(yīng)商處商業(yè)化，在廣泛的代工廠（臺積電、格羅方德、中芯國際和三星）上以及在 180、40、28、22、16、14、12 和 7nm 等工藝節(jié)點(diǎn)上。eFPGA 還被用于廣泛的應(yīng)用，例如航空航天、通信、網(wǎng)絡(luò)以及最近的人工智能 （AI）。采用它的客戶（僅公布的客戶）包括桑迪亞國家實(shí)驗(yàn)室、DARPA、波音、哈佛和晨芯（中國大唐電信的芯片子公司）。

　　在 eFPGA 面世的短短幾年內(nèi)，業(yè)界已經(jīng)出現(xiàn)了幾代產(chǎn)品。隨著每一代新產(chǎn)品的推出，eFPGA 變得更加靈活，更適用于新應(yīng)用，所有這些都是由客戶需求驅(qū)動的。事實(shí)上，eFPGA 的應(yīng)用似乎是無窮無盡的，在未來，這項(xiàng)技術(shù)應(yīng)該會像今天的 Arm 處理器一樣普及。本文將回顧各代 eFPGA，最后以目前可用的特性結(jié)束。

　　第一代

　　第一代 eFPGA 相對簡單，通常使用 4 輸入 LUT。為了提供一系列陣列尺寸，一些供應(yīng)商將他們的 eFPGA 設(shè)計(jì)為復(fù)制塊陣列，其中頂層互連自動連接陣列范圍網(wǎng)狀互連中的塊。編程是在 Verilog 中使用命令行界面完成的。

　　第二代

　　第二代 eFPGA 根據(jù)客戶評估第一代的反饋增加了一系列功能。這些新功能包括：

　　與當(dāng)今最先進(jìn)的 FPGA 一樣的 6 輸入 LUT。6 輸入 LUT 提高了 eFPGA 的密度和性能。

　　能夠在陣列的行之間集成任何類型/大小的 RAM。這為分布式計(jì)算提供了更多的本地化內(nèi)存。這是一個非常重要的新增功能，因?yàn)?1/3 的評估 eFPGA 的客戶要求使用此功能。

　　GUI 界面，用于使用各種圖形工具進(jìn)行編程，以加快評估和開發(fā)。

　　直接從 GDS 數(shù)據(jù)庫中提取的時序允許對任何 PVT 組合的性能進(jìn)行評估。

　　回讀配置位（在高可靠性環(huán)境中需要）和在操作期間重寫配置位的能力。

　　DFT 覆蓋率 99% 以上。

　　一種新的配置加載模式，將測試時間減少了大約 100 倍。

　　為每個帶有 PC 接口的新工藝提供評估板。

　　如今，客戶正在使用第二代 eFPGA 進(jìn)行設(shè)計(jì)，這些設(shè)計(jì)在每個芯片的多個陣列中使用 Flex Logix 的 EFLX eFPGA，陣列大小高達(dá)數(shù)十萬個 LUT。

　　第三代

　　從上面的描述可以看出，前幾代 eFPGA 執(zhí)行的功能類似于 FPGA 芯片。但是，在第三代 eFPGA 中，它開始做 FPGA 芯片沒有做的事情。第三代 eFPGA 的一個例子是 Flex Logix 的 nnMAX，它是一種經(jīng)過優(yōu)化的推理 eFPGA，具有以下新特性：

　　它由高級神經(jīng)網(wǎng)絡(luò)模型語言（如 Tensorflow Lite 和 ONNX）編程。nnMAX 編譯器自動執(zhí)行較低級別的 Verilog 編程，從而釋放客戶并獲得更高的性能。

　　每層運(yùn)行大約十億個 MAC（乘法累加操作）的神經(jīng)網(wǎng)絡(luò)層。nnMAX 為下一層重新配置 eFPGA 互連和“軟邏輯”（控制狀態(tài)機(jī)），然后再次開始運(yùn)行。在早期的 eFPGA 中，重新配置是串行完成的，類似于 FPGA 芯片。相反，nnMAX 以高度并行模式進(jìn)行配置，以便在 1GHz 操作下大約 1，000 個周期重新配置整個陣列。

　　將 AI 優(yōu)化的 MAC（8x8 整數(shù)、16x16 整數(shù)和/或 16x16 浮點(diǎn)）組織成每個 64 個的集群。在傳統(tǒng)的 eFPGA 中，每個 MAC 都單獨(dú)連接到互連網(wǎng)絡(luò)中。在 AI 工作負(fù)載中，矩陣乘法非常大，因此集群是一種獲得更高密度并更有效地使用稀缺互連網(wǎng)絡(luò)資源的邏輯方法。

　　可以在 Winograd 加速模式下運(yùn)行以加速 3x3 卷積，步幅為 1 x 2.25x，用于整數(shù) 8 運(yùn)算

　　能夠在層之間混合精度：硬件可以根據(jù)需要從整數(shù) 8/16 轉(zhuǎn)換為浮點(diǎn)數(shù)并返回。這允許模型設(shè)計(jì)者最大化吞吐量和最大化預(yù)測準(zhǔn)確性。

　　Interconnect 現(xiàn)在具有流水線觸發(fā)器，可實(shí)現(xiàn) 1GHz 吞吐量，同時每層僅增加幾個延遲周期。

　　迄今為止，上述新功能僅適用于 nnMAX 推理 eFPGA。但是，根據(jù)客戶的興趣，其中一些功能也可能出現(xiàn)在未來的第三代通用 eFPGA 中。

　　特殊的醬汁在互連中

　　雖然 eFPGA 最初是為通信和網(wǎng)絡(luò)等應(yīng)用而開發(fā)的，但隨著時間的推移，F(xiàn)lex Logix 等公司想出了如何利用 eFPGA 中使用的相同核心互連技術(shù)來解決爆炸性 AI 市場的神經(jīng)推理部分。在神經(jīng)推理中，計(jì)算主要是數(shù)萬億次運(yùn)算（乘法和累加，通常使用 8 位整數(shù)輸入和權(quán)重，有時使用 16 位整數(shù)）。最初為 eFPGA 開發(fā)的技術(shù)非常適合推理，因?yàn)?eFPGA 允許對每個網(wǎng)絡(luò)階段進(jìn)行可重新配置的快速控制邏輯。eFPGA 中的 SRAM 可根據(jù)需要在神經(jīng)網(wǎng)絡(luò)中重新配置，其中每一層都可能需要不同的數(shù)據(jù)大小。例如，F(xiàn)lex Logix 互連允許 SRAM 輸入庫、MAC 集群、

　　未來

　　eFPGA 是一種非常強(qiáng)大和靈活的技術(shù)，適用于廣泛的市場和應(yīng)用。隨著客戶了解如何使用 eFPGA 并不斷要求供應(yīng)商支持新特性和功能以改進(jìn)其價值主張，它將繼續(xù)發(fā)展。真正的客戶需求將成為 eFPGA 未來發(fā)展的驅(qū)動力，看到這項(xiàng)技術(shù)如何隨著時間的推移繼續(xù)發(fā)展將是令人興奮的。

　　審核編輯：郭婷