0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

泛AI時(shí)代,中低端FPGA成為邊緣重要部署組件

Felix分析 ? 來(lái)源:電子發(fā)燒友 ? 作者:吳子鵬 ? 2024-03-21 00:10 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)當(dāng)前,行業(yè)對(duì)于AI人工智能芯片的關(guān)注都集中在GPU或?qū)S肁I加速器芯片(如NPU和TPU)上。不過(guò),AI實(shí)際上并不局限于大算力的高性能運(yùn)算,部署到終端的AI同樣有巨大的市場(chǎng)空間,因而有相當(dāng)多的組件可以運(yùn)行AI負(fù)載,包括在嵌入式領(lǐng)域廣泛應(yīng)用的FPGA。

在2024年萊迪思(Lattice)客戶(hù)技術(shù)交流大會(huì)上,萊迪思半導(dǎo)體首席戰(zhàn)略與營(yíng)銷(xiāo)官Esam Elashmawi表示,萊迪思是全球FPGA出貨量最大的公司,很早就布局AI市場(chǎng)。2021年萊迪思專(zhuān)門(mén)收購(gòu)了一家AI軟件公司Mirametrix。2023年,萊迪思在AI方面的收入已經(jīng)超過(guò)了1億美金。

wKgZomX6tqeAV564AAzeiJ5yqcM575.png
萊迪思半導(dǎo)體首席戰(zhàn)略與營(yíng)銷(xiāo)官Esam Elashmawi

FPGA之于AI

對(duì)于了解FPGA靈活性和可編程性的人來(lái)說(shuō),基于FPGA實(shí)現(xiàn)AI是一件順理成章的事情。FPGA器件一個(gè)重要的特點(diǎn)就是可編程特性,也就是靈活性,那么開(kāi)發(fā)人員可以借助FPGA創(chuàng)建多個(gè)并行計(jì)算流水線,并分配存儲(chǔ)塊,從而優(yōu)化數(shù)據(jù)傳輸。

FPGA的靈活性讓其能夠適配大量的AI算法,無(wú)論是計(jì)算還是控制,都可以根據(jù)算法需要提供相關(guān)的功能。以神經(jīng)網(wǎng)絡(luò)為例,其基本原理是通過(guò)多個(gè)神經(jīng)元之間的連接進(jìn)行信息傳遞和處理,從而實(shí)現(xiàn)算法的計(jì)算和輸出。而神經(jīng)網(wǎng)絡(luò)也可以轉(zhuǎn)化為FPGA可編程電路的形式,并可以根據(jù)算法需要調(diào)整硬件配置。

話雖如此,不過(guò)由于FPGA具有一定的設(shè)計(jì)門(mén)檻,所以還是需要FPGA廠商提供一些幫助。Esam Elashmawi指出,萊迪思目前擁有有史以來(lái)最強(qiáng)大的產(chǎn)品組合,會(huì)繼續(xù)投資并推出新一代的較小型FPGA和中端FPGA,也將繼續(xù)在軟件工具和解決方案上投入更多資源。

在萊迪思官網(wǎng)可以看到,該公司所提供的強(qiáng)大產(chǎn)品組合包括功能全面的萊迪思sensAI。萊迪思sensAI提供評(píng)估、開(kāi)發(fā)和部署基于FPGA的機(jī)器學(xué)習(xí)和人工智能解決方案所需的一切——模塊化硬件平臺(tái)、演示示例、參考設(shè)計(jì)、神經(jīng)網(wǎng)絡(luò)IP核、軟件開(kāi)發(fā)工具和定制設(shè)計(jì)服務(wù)。

在演示示例中,通過(guò)將內(nèi)置攝像頭與在萊迪思行業(yè)領(lǐng)先的低功耗FPGA上運(yùn)行的機(jī)器學(xué)習(xí)模型相結(jié)合,萊迪思sensAI智能視覺(jué)傳感技術(shù)可以追蹤用戶(hù)在使用設(shè)備時(shí)的注意力,讓PC更加智能,更好地感知周?chē)h(huán)境。還有一個(gè)示例是,通過(guò)在屏幕上彈出警示或自動(dòng)打開(kāi)屏幕隱私設(shè)置,萊迪思sensAI視覺(jué)傳感技術(shù)可以防止黑客偷窺,保護(hù)PC用戶(hù)安全。

因此,通過(guò)萊迪思sensAI工具加上該公司豐富的FPGA產(chǎn)品,能夠快速構(gòu)建終端類(lèi)型的AI應(yīng)用,有助于幫助開(kāi)發(fā)人員搶占市場(chǎng)先機(jī)。

萊迪思Avant FPGA平臺(tái)

萊迪思亞太區(qū)應(yīng)用工程高級(jí)總監(jiān)Frank Xie在演講中談到,萊迪思在性能、功率和連接性方面做得更好。而客戶(hù)正在尋找的是實(shí)時(shí)響應(yīng)的產(chǎn)品,因?yàn)檫吘壣系腁I設(shè)備非常接近數(shù)據(jù)收集。萊迪思幫助客戶(hù)持續(xù)優(yōu)化響應(yīng)時(shí)間和功耗,讓他們實(shí)現(xiàn)更好的AI功能。

那么,這個(gè)更好方案基于怎樣的平臺(tái)呢?答案是萊迪思Avant FPGA平臺(tái)。

2022年底,萊迪思發(fā)布低功耗中端Avant FPGA平臺(tái),是該公司進(jìn)入中端FPGA市場(chǎng)的標(biāo)志性事件,和Nexus FPGA平臺(tái)一起組成萊迪思“史上最強(qiáng)產(chǎn)品組合”。

Esam Elashmawi指出,和Nexus FPGA平臺(tái)相比,Avant FPGA平臺(tái)容量提升5倍,達(dá)到500K邏輯單元,帶寬提升10倍,計(jì)算性能提升30倍。根據(jù)介紹信息,Avant基于16nm FinFET平臺(tái),提供強(qiáng)大的25 Gb/s SERDES、硬核PCI Express和外部存儲(chǔ)器PHY接口,以及適用于最新AI/ML和計(jì)算機(jī)視覺(jué)算法的大量DSP。

和競(jìng)爭(zhēng)對(duì)手的FPGA產(chǎn)品相比,萊迪思Avant是功耗更低、帶寬更高、體積更小的方案。其中,Avant-E FPGA旨在解決客戶(hù)在網(wǎng)絡(luò)邊緣面臨的一些關(guān)鍵挑戰(zhàn),擁有低功耗、小尺寸和高性能,以及針對(duì)數(shù)據(jù)處理和AI等網(wǎng)絡(luò)邊緣應(yīng)用量身定制的優(yōu)化功能集。

Avant-G是針對(duì)中端應(yīng)用的通用型FPGA,旨在通過(guò)提供無(wú)縫、靈活的接口橋接和優(yōu)化的計(jì)算來(lái)實(shí)現(xiàn)系統(tǒng)可擴(kuò)展性,滿(mǎn)足更廣泛的客戶(hù)需求。萊迪思Avant-G器件提供領(lǐng)先的信號(hào)處理、AI和靈活的I/O——支持一系列系統(tǒng)接口,同時(shí)提供2400 Mbps的專(zhuān)用LPDDR4存儲(chǔ)器接口。

Avant-X高級(jí)互連FPGA旨在實(shí)現(xiàn)高帶寬和安全性,其功能集可根據(jù)客戶(hù)對(duì)信號(hào)聚合和高吞吐量的需求量身定制。萊迪思Avant-X器件提供最高1 T/s的總系統(tǒng)帶寬、帶硬核DMA的PCIe Gen 4控制器,以及用于加密動(dòng)態(tài)用戶(hù)數(shù)據(jù)的安全引擎,提供量子安全加密功能。

有了更出色的FPGA平臺(tái)加上全面的工具支持,開(kāi)發(fā)人員可以非常便利地基于萊迪思FPGA實(shí)現(xiàn)自己的AI創(chuàng)新。當(dāng)然,面向通信、自動(dòng)化、機(jī)器學(xué)習(xí)、計(jì)算(包括服務(wù)器和存儲(chǔ))、汽車(chē)(激光雷達(dá)、娛樂(lè)系統(tǒng)、控制單元)和消費(fèi)電子等領(lǐng)域也是同樣的道理。

萊迪思亞太區(qū)應(yīng)用工程高級(jí)總監(jiān)Frank Xie稱(chēng),未來(lái)萊迪思將持續(xù)加碼AI創(chuàng)新。他在談到未來(lái)規(guī)劃時(shí)說(shuō):“萊迪思也在開(kāi)發(fā)未來(lái)的AI應(yīng)用,這是與硬件、軟件一起出現(xiàn)的。目前我們看到的工業(yè)發(fā)展趨勢(shì)是傳感器到云的連接。傳感器有不同種類(lèi)的接口,意味著我們需要滿(mǎn)足不同的接口要求。由于我們的服務(wù)是多協(xié)議支持,可以調(diào)整我們的服務(wù)協(xié)議,為客戶(hù)提供各種不同的工業(yè)連接標(biāo)準(zhǔn)。”

寫(xiě)在最后

在2024年萊迪思客戶(hù)技術(shù)交流大會(huì)上,萊迪思展示了其強(qiáng)大的FPGA合作生態(tài)系統(tǒng),包括豐富的FPGA產(chǎn)品,以及全面的軟件、開(kāi)發(fā)套件資源。同時(shí),該公司龐大的用戶(hù)群基礎(chǔ)也為萊迪思后續(xù)產(chǎn)品創(chuàng)新帶來(lái)了源源不斷的創(chuàng)新靈感和創(chuàng)新需求。

Esam Elashmawi表示,萊迪思在低功耗FPGA領(lǐng)域深耕超過(guò)40年,自2018年以來(lái)合作伙伴生態(tài)系統(tǒng)擴(kuò)展了5倍,更多的公司為萊迪思構(gòu)建軟件知識(shí)產(chǎn)權(quán)(IP),也有越來(lái)越多的其他半導(dǎo)體公司參與到萊迪思生態(tài)系統(tǒng)。目前,萊迪思為全球10000+ 客戶(hù)提供服務(wù)。

面向未來(lái),我們今天重點(diǎn)談?wù)摰腁I當(dāng)然是萊迪思的重點(diǎn)發(fā)展方向之一。同時(shí),萊迪思也透露了該公司后續(xù)產(chǎn)品迭代的方向,包括低功耗、先進(jìn)且靈活的連接性以及針對(duì)新興應(yīng)用優(yōu)化的計(jì)算能力。此外,安全性是始終貫穿其中的,在量子計(jì)算等新技術(shù)層出不窮的情況下,安全防護(hù)會(huì)愈發(fā)重要。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • FPGA
    +關(guān)注

    關(guān)注

    1629

    文章

    21736

    瀏覽量

    603315
  • 萊迪思
    +關(guān)注

    關(guān)注

    2

    文章

    229

    瀏覽量

    39113
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI模型部署邊緣設(shè)備的奇妙之旅:目標(biāo)檢測(cè)模型

    以及邊緣計(jì)算能力的增強(qiáng),越來(lái)越多的目標(biāo)檢測(cè)應(yīng)用開(kāi)始直接在靠近數(shù)據(jù)源的邊緣設(shè)備上運(yùn)行。這不僅減少了數(shù)據(jù)傳輸延遲,保護(hù)了用戶(hù)隱私,同時(shí)也減輕了云端服務(wù)器的壓力。然而,在邊緣部署高效且準(zhǔn)確
    發(fā)表于 12-19 14:33

    AI模型部署邊緣設(shè)備的奇妙之旅:如何在邊緣部署OpenCV

    邊緣,通常與邊緣檢測(cè)相關(guān)聯(lián)。 文件保存 cv2.imwrite() 將圖像保存到磁盤(pán)。 目的:保存處理后的圖像以便將來(lái)使用或分享。 此外,還有其他重要的OpenCV功能,如: 直方圖均衡
    發(fā)表于 12-14 09:31

    AI模型部署邊緣設(shè)備的奇妙之旅:如何實(shí)現(xiàn)手寫(xiě)數(shù)字識(shí)別

    系統(tǒng)的智能化水平,還極大地拓展了其應(yīng)用范圍, 使得嵌入式系統(tǒng)在智能家居、智能交通、智能醫(yī)療等領(lǐng)域有了更深層次的運(yùn)用。AI技術(shù)的嵌入,已經(jīng)成為未來(lái)嵌入式系統(tǒng)發(fā)展 的一個(gè)重要趨勢(shì)。踏入邊緣
    發(fā)表于 12-06 17:20

    后摩爾時(shí)代的創(chuàng)新:在米爾FPGA上實(shí)現(xiàn)Tiny YOLO V4,助力AIoT應(yīng)用

    學(xué)習(xí)如何在MYIR的ZU3EGFPGA開(kāi)發(fā)板上部署TinyYOLOv4,對(duì)比FPGA、GPU、CPU的性能,助力AIoT邊緣計(jì)算應(yīng)用。(文末有彩蛋)一、為什么選擇
    的頭像 發(fā)表于 11-22 01:00 ?728次閱讀
    后摩爾<b class='flag-5'>時(shí)代</b>的創(chuàng)新:在米爾<b class='flag-5'>FPGA</b>上實(shí)現(xiàn)Tiny YOLO V4,助力AIoT應(yīng)用

    Arm推出GitHub平臺(tái)AI工具,簡(jiǎn)化開(kāi)發(fā)者AI應(yīng)用開(kāi)發(fā)部署流程

    專(zhuān)為 GitHub Copilot 設(shè)計(jì)的 Arm 擴(kuò)展程序,可加速?gòu)脑频?b class='flag-5'>邊緣側(cè)基于 Arm 平臺(tái)的開(kāi)發(fā)。 Arm 原生運(yùn)行器為部署云原生、Windows on Arm 以及云到邊緣側(cè)的
    的頭像 發(fā)表于 10-31 18:51 ?2090次閱讀

    大模型時(shí)代的算力需求

    現(xiàn)在AI已進(jìn)入大模型時(shí)代,各企業(yè)都爭(zhēng)相部署大模型,但如何保證大模型的算力,以及相關(guān)的穩(wěn)定性和性能,是一個(gè)極為重要的問(wèn)題,帶著這個(gè)極為重要的問(wèn)
    發(fā)表于 08-20 09:04

    高通打破Android系統(tǒng)更新壁壘,提升中低端手機(jī)用戶(hù)體驗(yàn)

    在智能手機(jī)市場(chǎng)日益成熟的今天,品牌間的競(jìng)爭(zhēng)已不僅僅局限于硬件配置和外觀設(shè)計(jì),系統(tǒng)更新支持也逐漸成為消費(fèi)者選擇手機(jī)的重要考量因素。然而,盡管頂級(jí)和高端設(shè)備在Android系統(tǒng)更新上得到了較好的支持
    的頭像 發(fā)表于 06-29 16:41 ?2139次閱讀

    支持大模型部署和運(yùn)行的邊緣計(jì)算SoC芯片

    的處理器核心、AI加速器、內(nèi)存控制器、外設(shè)接口以及通信接口等關(guān)鍵組件,旨在在數(shù)據(jù)產(chǎn)生的源頭附近(即邊緣)實(shí)現(xiàn)實(shí)時(shí)的數(shù)據(jù)處理、分析和決策。
    的頭像 發(fā)表于 05-27 08:00 ?3432次閱讀

    基于FPGA的實(shí)時(shí)邊緣檢測(cè)系統(tǒng)設(shè)計(jì),Sobel圖像邊緣檢測(cè),FPGA圖像處理

    摘要 :本文設(shè)計(jì)了一種 基于 FPGA 的實(shí)時(shí)邊緣檢測(cè)系統(tǒng) ,使用OV5640 攝像頭模塊獲取實(shí)時(shí)的視頻圖像數(shù)據(jù),提取圖像邊緣信息并通過(guò) VGA顯示。FPGA 內(nèi)部使用流水線設(shè)計(jì)和 并
    發(fā)表于 05-24 07:45

    Achronix的FPGA有何優(yōu)勢(shì)?為什么能挑戰(zhàn)AMD在高端FPGA的地位?

    隨著國(guó)產(chǎn)FPGA的崛起,中低端產(chǎn)品中,很多國(guó)產(chǎn)FPGA都是不錯(cuò)的選擇,性?xún)r(jià)比很高。
    的頭像 發(fā)表于 03-22 16:02 ?1649次閱讀

    英特爾發(fā)布全新邊緣計(jì)算平臺(tái),解決AI邊緣落地難題

    2030年,至少一半的邊緣計(jì)算部署將納入AI。 ? 英特爾全新商用邊緣計(jì)算平臺(tái) ? 英特爾認(rèn)為,我們已經(jīng)進(jìn)入了AI無(wú)處不在的
    的頭像 發(fā)表于 03-12 09:06 ?4348次閱讀
    英特爾發(fā)布全新<b class='flag-5'>邊緣</b>計(jì)算平臺(tái),解決<b class='flag-5'>AI</b><b class='flag-5'>邊緣</b>落地難題

    什么是AI邊緣計(jì)算,AI邊緣計(jì)算的特點(diǎn)和優(yōu)勢(shì)介紹

    隨著人工智能的迅猛發(fā)展,AI邊緣計(jì)算成為了熱門(mén)話題。那么什么是AI邊緣計(jì)算呢?簡(jiǎn)單來(lái)說(shuō),它是將人工智能技術(shù)引入
    的頭像 發(fā)表于 02-01 11:42 ?890次閱讀

    國(guó)產(chǎn)FPGA介紹-上海安路

    擴(kuò)張到逾200人,量產(chǎn)及在研產(chǎn)品覆蓋高中低端,面向數(shù)據(jù)中心、AI、通信、工業(yè)控制、視頻監(jiān)控等領(lǐng)域。 此前安路科技量產(chǎn)的中等性能FPGA芯片成功進(jìn)入LED顯示屏控制卡市場(chǎng)和高清電視TCON控制卡市場(chǎng),并
    發(fā)表于 01-24 10:46

    通用Tensilica軟件堆棧提供最佳邊緣AI性能

    開(kāi)發(fā)敏捷的軟件堆棧對(duì) AI邊緣側(cè)的成功部署非常重要
    的頭像 發(fā)表于 01-18 13:39 ?779次閱讀
    通用Tensilica軟件堆棧提供最佳<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>性能

    AI邊緣計(jì)算機(jī)應(yīng)用場(chǎng)景廣泛!大語(yǔ)言模型與數(shù)字人結(jié)合方案在邊緣側(cè)落地

    。 ? 當(dāng)下,AI邊緣側(cè)的部署正在成為趨勢(shì),包括近年來(lái)備受矚目的大語(yǔ)言模型,在邊緣側(cè)的應(yīng)用也是業(yè)界探索的焦點(diǎn),
    的頭像 發(fā)表于 01-16 01:11 ?4441次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>邊緣</b>計(jì)算機(jī)應(yīng)用場(chǎng)景廣泛!大語(yǔ)言模型與數(shù)字人結(jié)合方案在<b class='flag-5'>邊緣</b>側(cè)落地