一款Xilinx FPGA的CNN加速器IP—AIScale

隨著人工智能（AI）的不斷發(fā)展，它已經(jīng)從早期的人工特征工程進(jìn)化到現(xiàn)在可以從海量數(shù)據(jù)中學(xué)習(xí)，機器視覺、語音識別以及自然語言處理等領(lǐng)域都取得了重大突破。CNN（Convolutional Neural Network，卷積神經(jīng)網(wǎng)絡(luò)）在人工智能領(lǐng)域受到越來越多的青睞，它是深度學(xué)習(xí)技術(shù)中極具代表性的網(wǎng)絡(luò)結(jié)構(gòu)之一，尤其在圖像處理領(lǐng)域取得了很大的成功。隨著網(wǎng)絡(luò)變得越來越大、越來越復(fù)雜，我們需要大量的計算資源來對其進(jìn)行訓(xùn)練，因此人們紛紛將注意力轉(zhuǎn)向FPGA（Field Programmable Gate Array，現(xiàn)場可編程門陣列）器件，F(xiàn)PGA不僅具有軟件的可編程性和靈活性，同時又有ASIC高吞吐和低延遲的特性，而且由于具有豐富的I/O接口，F(xiàn)PGA還非常適合用作協(xié)議和接口轉(zhuǎn)換的芯片。

近日KORTIQ公司推出了一款Xilinx FPGA的CNN加速器IP——AIScale，它能夠利用實現(xiàn)訓(xùn)練好的CNN網(wǎng)絡(luò)，比如行業(yè)標(biāo)準(zhǔn)的ResNet、AlexNet、Tiny Yolo和VGG-16等，并將它們進(jìn)行壓縮輸出二進(jìn)制描述文件，可以部署到Xilinx全系列可編程邏輯器件上。Zynq SoC和Zynq UltraScale+ MPSoC器件PS可以提供數(shù)據(jù)給AIScale CNN加速器（PL），經(jīng)過分類處理將輸出數(shù)據(jù)給PS。壓縮后的CNN網(wǎng)絡(luò)占用資源相對小很多，可以部署在片上存儲器中，可以更快更靈活的切換CNN網(wǎng)絡(luò)。

圖1：AIScale在計算機視覺應(yīng)用案例示意圖

AIScale加速器的核心是AIScale RCC（Re-configurable Compute Core），用戶根據(jù)需求可以靈活自定義AIScale RCC模塊的數(shù)量，AIScale RCC支持卷積預(yù)處理、池化/采樣、加權(quán)和全連接層等處理。資源更豐富的Zynq SoC和UltraScale+ MPSoC可以集成更多的AIScale RCC模塊，這會給AIScale加速器帶來更大的性能提升。當(dāng)然也可以根據(jù)成本、系統(tǒng)功耗、性能需求集成一定的AIScale RCC模塊，選擇合適的Xilinx FPGA器件。

圖2：多個 AIScale RCC模塊級聯(lián)連接

KORTIQ公司目前專注于嵌入式和計算機視覺領(lǐng)域，設(shè)計工業(yè)4.0和物聯(lián)網(wǎng)（IoT）等，未來將會為AIScale CNN加速器提供更多更先進(jìn)的特性，比如圖像分類、物體識別和追蹤、人臉和語音識別、自然語言處理等，將先進(jìn)的人工智能網(wǎng)絡(luò)應(yīng)用到自動化生產(chǎn)、控制等場景中，提高相關(guān)行業(yè)的生產(chǎn)力為用戶帶來更好的服務(wù)。