0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

FPGA在加速AI算法上的獨特優(yōu)勢

lPCU_elecfans ? 來源:電子發(fā)燒友網(wǎng) ? 作者:電子發(fā)燒友網(wǎng) ? 2022-02-28 17:37 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/李彎彎)當(dāng)前許多行業(yè)都采用人工智能來解決棘手問題,包括工業(yè)制造領(lǐng)域,隨著工業(yè)4.0在2010年代早期進(jìn)一步演進(jìn),AI在制造環(huán)境中的重要性與日俱增。

如今,許多應(yīng)用都會利用AI來促進(jìn)制造和業(yè)務(wù)經(jīng)營、流程、安保和供應(yīng)鏈等更加流暢高效。通過運用預(yù)測性算法,AI可以監(jiān)控設(shè)備狀況,優(yōu)化維護(hù)日程,最終還能預(yù)報機(jī)械故障。

在持續(xù)興旺發(fā)展的工業(yè)4.0和正在演進(jìn)的工業(yè)5.0中,AI依然是一個重要的組成部分。然而,AI算法的蓬勃發(fā)展離不開實時數(shù)據(jù)。

4G相比,5G網(wǎng)絡(luò)可提供100倍的帶寬和500倍的信道數(shù)量。5G網(wǎng)絡(luò)與IoT結(jié)合之后,海量的輸入數(shù)據(jù)在計算機(jī)領(lǐng)域中引出了一種新范式,即對數(shù)據(jù)加速器的需求。

FPGA在加速AI算法上的獨特優(yōu)勢

數(shù)據(jù)加速的賽場上有三種各異的硬件方式,即GPU、FPGA和定制ASIC。ASIC的效率與性能最為出色,但功能完全固定,缺乏必需的靈活性,無法適應(yīng)AI算法的變化、新興技術(shù)的參數(shù)改動、供應(yīng)商要求和負(fù)載優(yōu)化。

GPU是傳統(tǒng)核心數(shù)據(jù)中心的主力,僅限于純粹運算這樣的使用場景,而不能提供大多數(shù)場景中需要利用到的聯(lián)網(wǎng)與存儲加速的能力,并且能耗和成本較高。

FPGA可以加速聯(lián)網(wǎng)、運算和存儲,速度與ASIC相仿,也具備了必需的靈活性,能夠為如今的核心與邊緣數(shù)據(jù)中心提供理想的數(shù)據(jù)加速。

除了數(shù)據(jù)加速之外,F(xiàn)PGA還將在傳感器融合和傳入數(shù)據(jù)流合并等領(lǐng)域發(fā)揮關(guān)鍵作用,為數(shù)據(jù)消費打下了堅實的基礎(chǔ)。

“FPGA提供了類似于ASIC的性能和比圖形處理器(GPU)更高的靈活性?!?a target="_blank">Achronix產(chǎn)品營銷高級經(jīng)理Tom Spencer在接受電子發(fā)燒友采訪的時候說到。

Achronix的產(chǎn)品解決AI/ML硬件中的普遍痛點

Achronix是一家高性能的現(xiàn)場可編程邏輯門陣列(FPGA)技術(shù)供應(yīng)商,該公司不僅可以提供FPGA芯片解決方案,還能提供嵌入式FPGA(eFPGA)半導(dǎo)體知識產(chǎn)權(quán)(IP)。

包括與云計算和企業(yè)數(shù)據(jù)中心匹配的Speedster7t系列FPGA產(chǎn)品,以及通過集成到專用集成電路(ASIC)或系統(tǒng)級芯片(SoC)之中,進(jìn)入到嵌入式應(yīng)用的Speedcore嵌入式FPGA IP。

通過這樣的產(chǎn)品組合,合作伙伴都可以為其人工智能/機(jī)器學(xué)習(xí)(AI/ML)解決方案找到合適的解決方案。

值得關(guān)注的是,Achronix的產(chǎn)品結(jié)合了三個關(guān)鍵的構(gòu)建模塊,可以解決當(dāng)前AI/ML硬件中的普遍痛點:存儲帶寬、計算吞吐量和片上數(shù)據(jù)傳輸。

據(jù)Tom Spencer介紹,Achronix在其FPGA中率先利用二維片上網(wǎng)絡(luò)(2D NoC)來連接所有其他功能塊、I/O接口和FPGA邏輯陣列,這種新的內(nèi)部通信設(shè)施即二維片上網(wǎng)絡(luò)擁有20Tbps的雙向帶寬,這使得Speedster7t器件在整個FPGA市場在片上可以實現(xiàn)最快的數(shù)據(jù)傳輸。

同時,通過充分考慮當(dāng)前各種機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)模型所需的計算資源,Achronix開發(fā)了一種獨特的乘法和累加模塊,并將其稱為機(jī)器學(xué)習(xí)處理器或MLP。

MLP使用自己的內(nèi)置存儲器以實現(xiàn)極低的延遲,可以在一個時鐘周期內(nèi)執(zhí)行多達(dá)32次乘法運算和1次累加運算。在Speedster7t系列AC7t1500 FPGA芯片中有超過2500個MLP,實現(xiàn)高達(dá)61 TOPS計算能力。

但是如果沒有足夠的存儲器來支持計算資源,無論是MLP還是2D NoC都是不完整的,Achronix的7t1500 FPGA器件可以提供多達(dá)8個GDDR6控制器,總帶寬為4Tbps。

結(jié)語

在解決方案中使用剛好足夠的FPGA資源提供靈活性,同時強(qiáng)化使用傳統(tǒng)ASIC模型不需要靈活性的電路,用戶可以獲得兩全其美的效果,為所有固定功能提供ASIC級別的最高效率和性能,同時保持靈活性,可以適應(yīng)不斷變化的需求、終端用戶的獨特要求和不斷變化的規(guī)范。

原文標(biāo)題:在加速AI算法上,F(xiàn)PGA具有更高性能和靈活性

文章出處:【微信公眾號:電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FPGA
    +關(guān)注

    關(guān)注

    1629

    文章

    21754

    瀏覽量

    604221
  • 芯片
    +關(guān)注

    關(guān)注

    456

    文章

    50936

    瀏覽量

    424660
  • asic
    +關(guān)注

    關(guān)注

    34

    文章

    1204

    瀏覽量

    120554

原文標(biāo)題:?在加速AI算法上,F(xiàn)PGA具有更高性能和靈活性

文章出處:【微信號:elecfans,微信公眾號:電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    FPGAAI方面有哪些應(yīng)用

    提供了強(qiáng)有力的支持。 一、FPGA 深度學(xué)習(xí)中的應(yīng)用 深度學(xué)習(xí)是 AI 的重要分支,涉及海量的數(shù)據(jù)運算。FPGA 能夠針對深度學(xué)習(xí)算法中的
    的頭像 發(fā)表于 01-06 17:37 ?217次閱讀

    解析大研智造激光錫球焊錫機(jī)助力醫(yī)療設(shè)備精密焊接的獨特優(yōu)勢

    隨著科技發(fā)展與人類整體壽命增加,全球醫(yī)療器件和醫(yī)療電子制造市場蓬勃發(fā)展。醫(yī)療領(lǐng)域,從醫(yī)療器件的精密組裝到電子元件的精細(xì)裝配,各個環(huán)節(jié)對焊接技術(shù)均提出了嚴(yán)苛要求。大研智造激光錫球焊錫機(jī)憑借出色性能與獨特優(yōu)勢,于醫(yī)療導(dǎo)絲導(dǎo)管焊接領(lǐng)域彰顯出無可比擬的價值。
    的頭像 發(fā)表于 12-27 14:24 ?97次閱讀
    解析大研智造激光錫球焊錫機(jī)助力醫(yī)療設(shè)備精密焊接的<b class='flag-5'>獨特優(yōu)勢</b>

    FPGA 實時信號處理應(yīng)用 FPGA圖像處理中的優(yōu)勢

    現(xiàn)場可編程門陣列(FPGA)是一種高度靈活的硬件平臺,它允許開發(fā)者根據(jù)特定應(yīng)用需求定制硬件邏輯。實時信號處理和圖像處理領(lǐng)域,FPGA因其獨特優(yōu)勢
    的頭像 發(fā)表于 12-02 10:01 ?679次閱讀

    FPGA和ASIC大模型推理加速中的應(yīng)用

    隨著現(xiàn)在AI的快速發(fā)展,使用FPGA和ASIC進(jìn)行推理加速的研究也越來越多,從目前的市場來說,有些公司已經(jīng)有了專門做推理的ASIC,像Groq的LPU,專門針對大語言模型的推理做了優(yōu)化,因此相比GPU這種通過計算平臺,功耗更低、
    的頭像 發(fā)表于 10-29 14:12 ?528次閱讀
    <b class='flag-5'>FPGA</b>和ASIC<b class='flag-5'>在</b>大模型推理<b class='flag-5'>加速</b>中的應(yīng)用

    FPGA應(yīng)用于人工智能的趨勢

    FPGA(現(xiàn)場可編程門陣列)人工智能領(lǐng)域的應(yīng)用趨勢日益顯著,主要歸因于其高速、低功耗、靈活性和并行處理能力等獨特優(yōu)勢。以下是對FPGA應(yīng)用于人工智能趨勢的分析: 一、
    的頭像 發(fā)表于 10-25 09:20 ?812次閱讀

    FPGA圖像處理領(lǐng)域的優(yōu)勢有哪些?

    FPGA(Field Programmable Gate Array,現(xiàn)場可編程門陣列)圖像處理領(lǐng)域具有顯著的優(yōu)勢,這些優(yōu)勢主要體現(xiàn)在以下幾個方面: 一、高并行處理能力
    發(fā)表于 10-09 14:36

    bnc彎公頭有哪些獨特優(yōu)勢

    德索工程師說道BNC彎公頭作為一種特殊的同軸電纜連接器,多個領(lǐng)域展現(xiàn)出了其獨特優(yōu)勢。以下是對BNC彎公頭獨特優(yōu)勢的詳細(xì)闡述:   BNC彎公頭的最大
    的頭像 發(fā)表于 08-26 09:26 ?275次閱讀
    bnc彎公頭有哪些<b class='flag-5'>獨特優(yōu)勢</b>

    DFN EEPROM 的非用不可應(yīng)用:EVASH的獨特優(yōu)勢

    DFN EEPROM 的非用不可應(yīng)用:EVASH的獨特優(yōu)勢
    的頭像 發(fā)表于 08-21 00:15 ?362次閱讀

    香港裸機(jī)云站群服務(wù)器獨特優(yōu)勢

    香港裸機(jī)云站群服務(wù)器獨特優(yōu)勢。
    的頭像 發(fā)表于 08-02 17:58 ?687次閱讀

    FPGA人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場可編程門陣列)人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個方面: 一、深度學(xué)習(xí)加速 訓(xùn)練和推理過程加速FPGA可以用來
    發(fā)表于 07-29 17:05

    FPGA與MCU的應(yīng)用場景

    錯誤還請指正。 首先,FPGA(現(xiàn)場可編程門陣列)和MCU(微控制器)都是兩種常見的集成電路。盡管它們都可以被視為“小型計算機(jī)”,但它們可編程性和處理能力方面存在顯著差異。但是FPGA獨特
    發(fā)表于 07-29 15:45

    EPSON156.25MHz差分晶振擁有獨特優(yōu)勢

    全球高速發(fā)展的數(shù)字世界中,精準(zhǔn)的時鐘信號猶如脈搏般至關(guān)重要,而愛普生晶振公司旗下的156.25MHz差分晶振擁有獨特優(yōu)勢,正以其出色的穩(wěn)定性和精度,引領(lǐng)著這個數(shù)字世界的節(jié)奏,156.25MHz差分
    的頭像 發(fā)表于 03-15 11:29 ?514次閱讀
    EPSON156.25MHz差分晶振擁有<b class='flag-5'>獨特優(yōu)勢</b>

    NanoEdge AI的技術(shù)原理、應(yīng)用場景及優(yōu)勢

    、NanoEdge AI 具有以下優(yōu)勢: - 低延遲:由于數(shù)據(jù)處理任務(wù)設(shè)備本地完成,因此 NanoEdge AI 可以實現(xiàn)較低的延遲,滿足實時性要求較高的應(yīng)用場景。 - 高安全性:
    發(fā)表于 03-12 08:09

    【國產(chǎn)FPGA+OMAPL138開發(fā)板體驗】(原創(chuàng))5.FPGAAI加速源代碼

    if; end process; end architecture Behavioral; 本人寫的這個程序極度簡化了FPGA實現(xiàn)AI
    發(fā)表于 02-12 16:18

    怎么用FPGA算法 如何在FPGA實現(xiàn)最大公約數(shù)算法

    FPGA算法的優(yōu)點在于它們可以提供高度的定制化和靈活性,使得算法可以根據(jù)實際需求進(jìn)行優(yōu)化和調(diào)整。此外,FPGA還可以實現(xiàn)硬件加速,提供比傳統(tǒng)
    的頭像 發(fā)表于 01-15 16:03 ?2421次閱讀