作為一種開放的指令集架構(gòu),RISC-V被認為是推動新一代信息技術(shù)發(fā)展的新引擎,RISC-V生態(tài)系統(tǒng)近年來也不斷發(fā)展繁榮。
2024年3月14日,以“開放·連接”為主題的第二屆玄鐵RISC-V生態(tài)大會在深圳舉行,來自全球的行業(yè)專家、技術(shù)領(lǐng)袖、企業(yè)決策者和RISC-V社區(qū)開發(fā)者到場,共同見證玄鐵RISC-V在技術(shù)創(chuàng)新、應(yīng)用拓展、生態(tài)成果等多領(lǐng)域的最新進展。AI視覺芯片研發(fā)及基礎(chǔ)算力平臺公司愛芯元智受邀參會。
大會同時公布了“玄鐵優(yōu)選伙伴”,愛芯元智等8家公司入選。據(jù)悉,該項榮譽旨在推動玄鐵生態(tài)成果落地,連接RISC-V產(chǎn)業(yè)鏈生態(tài)網(wǎng)絡(luò),促進玄鐵商業(yè)生態(tài)發(fā)展。此次入選,代表著愛芯元智對玄鐵RISC-V生態(tài)做出的貢獻得到肯定。
會上,愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉也受邀發(fā)表主題演講,向與會嘉賓分享了愛芯通元混合精度NPU這一面向邊端側(cè)算力布局的AI處理器,以及基于RISC-V生態(tài)所進行的AI算力提升及行業(yè)落地探索。
AI無處不在
RISC-V為AI計算添動力
從以ChatGPT為代表的云端大模型,到邊緣側(cè)的計算盒子和散布于端側(cè)的各個攝像頭,伴隨著技術(shù)的快速發(fā)展,AI已經(jīng)無處不在。自動駕駛、智能機器人、智慧工廠、智慧城市、智能零售等多個端側(cè)業(yè)務(wù)場景下,AI都開始發(fā)揮作用,為各行各業(yè)帶來了生產(chǎn)力的提升。
作為支持邊緣側(cè)和端側(cè)智能的平臺型芯片公司,愛芯元智以“普惠AI 造就美好生活”作為企業(yè)使命,專注于高性能、低功耗的人工智能視覺處理器芯片研發(fā)。劉建偉介紹,愛芯元智的系列芯片產(chǎn)品已在AIoT、ADAS兩大產(chǎn)品線得到廣泛應(yīng)用并實現(xiàn)穩(wěn)健發(fā)展,推動AI在邊緣側(cè)和端側(cè)的部署落地。
但AI在邊端側(cè)的落地,也意味著更高的算力需求。對此,精簡、靈活、高效的RISC-V指令集架構(gòu)展現(xiàn)出了其優(yōu)勢,有望成為萬物互聯(lián)時代核心處理器的架構(gòu)之一。作為本次玄鐵優(yōu)選伙伴,愛芯元智也在現(xiàn)場分享了基于玄鐵RISC-V所進行的行業(yè)落地實踐,如面向物聯(lián)網(wǎng)領(lǐng)域,愛芯元智通過應(yīng)用玄鐵RISC-V處理器,并結(jié)合愛芯智眸AI-ISP和愛芯通元混合精度NPU兩大自研核心技術(shù),實現(xiàn)了快速低功耗AI檢測喚醒,可大大降低系統(tǒng)耗電,輕松應(yīng)對電池類產(chǎn)品需求。
同時,愛芯元智還通過愛芯通元混合精度NPU與玄鐵RISC-V IP的結(jié)合,打造出高能效AI計算平臺,實現(xiàn)了圖形分割、以文搜圖等大算力應(yīng)用,滿足邊端不同場景下對感知、計算和數(shù)據(jù)處理能力的需求。
打造原生AI處理器
攜手玄鐵RISC-V重塑千行百業(yè)
算力是AI的基礎(chǔ),那么AI時代,我們究竟需要什么樣的算力基建?
劉建偉指出,當(dāng)下,AI程序的計算密度變得更高,呼喚著NPU這一新的處理器出現(xiàn),“作為AI專用處理器,NPU應(yīng)該有自己的指令集,而不是被簡單理解為加速器或是擴展指令集?!逼浔硎?,在AI計算中,指令操作的對象變成了高維的張量,因此整個處理器的能耗需要放在數(shù)據(jù)計算上,且降低數(shù)據(jù)搬運和整理組合的能耗。而從推理的角度來看,大部分AI的算法/算子已處于收斂狀態(tài)。因此,以算子這一AI模型的基本運算單元為指令集進行NPU設(shè)計,可以打開硬件微架構(gòu)設(shè)計空間,從而有更多的設(shè)計思路可以使用,提高能效比。
而作為愛芯元智自研核心技術(shù),愛芯通元混合精度NPU即是以算子為原子指令集的AI計算處理器,其采用多線程異構(gòu)多核設(shè)計,實現(xiàn)算子、網(wǎng)絡(luò)微結(jié)構(gòu)、數(shù)據(jù)流和內(nèi)存訪問優(yōu)化,高效支持混合精度算法設(shè)計,原生支持Transformer網(wǎng)絡(luò)結(jié)構(gòu),為大模型在邊緣側(cè)、端側(cè)的應(yīng)用提供了良好的基礎(chǔ)。
同時,愛芯通元混合精度NPU還提供成熟易用的編譯器,從而大幅度降低AI軟件的開發(fā)、部署成本,助力客戶在一小時內(nèi)快速上手,推動AI計算的蓬勃發(fā)展。
從AI處理器在視覺領(lǐng)域的評價指標來看,愛芯通元混合精度NPU也表現(xiàn)出色,其在運行SwinT時,量化精度達到了高于市面平均水平的80.45%,并有著416 FPS的高性能和199FPS/W的低功耗。
為滿足多樣化的AI計算需求,作為AI處理器的NPU還需要更加靈活的動態(tài)控制,這也正是愛芯元智與玄鐵RISC-V展開深度合作的原因。據(jù)介紹,愛芯元智正在探索基于玄鐵RISC-V主控和愛芯通元混合精度NPU,打造生成式AI解決方案?!拔覀兿M麛y手玄鐵RISC-V打造AI硬件的最優(yōu)平臺選擇,把AI落到千行百業(yè),助力更多客戶提升效率,創(chuàng)造價值?!眲⒔▊ケ硎?。
審核編輯:劉清
-
RISC-V
+關(guān)注
關(guān)注
45文章
2277瀏覽量
46159 -
AI處理器
+關(guān)注
關(guān)注
0文章
92瀏覽量
9491 -
愛芯元智
+關(guān)注
關(guān)注
1文章
81瀏覽量
4835 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1561瀏覽量
7673 -
大模型
+關(guān)注
關(guān)注
2文章
2450瀏覽量
2714
原文標題:愛芯元智入選2024玄鐵優(yōu)選伙伴:發(fā)展AI計算,攜手RISC-V重塑千行百業(yè)
文章出處:【微信號:愛芯元智AXERA,微信公眾號:愛芯元智AXERA】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論