在未來(lái)十年,我們將見(jiàn)證大多數(shù)經(jīng)典計(jì)算向邊緣轉(zhuǎn)移,為機(jī)器人、無(wú)人機(jī)、汽車(chē)、醫(yī)療保健和制造以及其他重要行業(yè)的突破性創(chuàng)新注入活力。盡管許多組織都明白追求機(jī)器學(xué)習(xí)和人工智能是保持競(jìng)爭(zhēng)力的必要條件,但隨著這場(chǎng)邊緣創(chuàng)新競(jìng)賽的展開(kāi),利用人工智能力量的旅程面臨著巨大的挑戰(zhàn)。SiMa.ai是一家機(jī)器學(xué)習(xí)公司,專(zhuān)門(mén)構(gòu)建了任何公司入門(mén)和擴(kuò)展邊緣人工智能和計(jì)算機(jī)視覺(jué)所需的硬件和軟件平臺(tái)。
Edge ML的崛起
人工智能創(chuàng)新并不局限于數(shù)據(jù)中心或智能手機(jī),但半導(dǎo)體行業(yè)還沒(méi)有創(chuàng)造出高效驅(qū)動(dòng)兩者之間一切的技術(shù)。將生成式AI、LLM和視覺(jué)變壓器擴(kuò)展到物聯(lián)網(wǎng)、工業(yè)物聯(lián)網(wǎng)、安全、國(guó)防、汽車(chē)以及智能手機(jī)和數(shù)據(jù)中心之間的任何機(jī)器,需要一種新的外形規(guī)格,其中硬件和軟件經(jīng)過(guò)優(yōu)化以提高性能并節(jié)省能源,從而滿(mǎn)足邊緣要求。
云雖然是許多人工智能應(yīng)用程序的寶貴工具,但在提供實(shí)時(shí)人工智能和人工智能功能方面存在不足。該行業(yè)現(xiàn)在正試圖將為數(shù)據(jù)中心、個(gè)人計(jì)算和手機(jī)制造的相同芯片應(yīng)用于從自動(dòng)駕駛汽車(chē)到智能制造、機(jī)器人技術(shù)到無(wú)人機(jī)送貨的所有領(lǐng)域。這些芯片從來(lái)不是為這些使用場(chǎng)景設(shè)計(jì)的,也不是為了在邊緣或低功耗設(shè)備的限制下運(yùn)行如此龐大的算法。為了實(shí)現(xiàn)創(chuàng)新者正在努力實(shí)現(xiàn)的智能汽車(chē)和機(jī)器人助手的未來(lái),必須并行設(shè)計(jì)軟件和硬件,以?xún)?yōu)化低延遲,而距離其運(yùn)行的技術(shù)數(shù)英里遠(yuǎn)的云倉(cāng)庫(kù)根本無(wú)法承諾這一點(diǎn)。
想象一下生產(chǎn)線上的機(jī)器人技術(shù),以前,運(yùn)輸傳送帶上的產(chǎn)品未對(duì)準(zhǔn)會(huì)使生產(chǎn)線出現(xiàn)故障,現(xiàn)在可以?xún)?yōu)化和處理任何配置。這是實(shí)時(shí)推斷?;蛘咭患以谟腥毕莸漠a(chǎn)品上浪費(fèi)供應(yīng)和資源的消費(fèi)品公司,現(xiàn)在可以在運(yùn)送數(shù)百萬(wàn)美元無(wú)法實(shí)現(xiàn)收入的產(chǎn)品之前確定質(zhì)量控制問(wèn)題的確切點(diǎn)?;蛘吒悄艿尼t(yī)療設(shè)備,幫助識(shí)別潛在疾病并補(bǔ)充醫(yī)生的即時(shí)診斷能力。在所有這些情況下,都沒(méi)有在云延遲上花費(fèi)時(shí)間的空間。
邊緣的關(guān)鍵真實(shí)生活ML應(yīng)用要求實(shí)時(shí)推理;傳統(tǒng)的基于云的方法無(wú)法滿(mǎn)足邊緣的延遲限制。人類(lèi)生活在邊緣,這只是人工智能如何改變?nèi)粘C(jī)器的開(kāi)始。
嵌入式邊緣的新ML性能標(biāo)準(zhǔn)
為了實(shí)現(xiàn)edge ML的潛力,組織需要配備一種全新的方法,使機(jī)器和設(shè)備具有現(xiàn)實(shí)環(huán)境的視覺(jué)、速度、效率和推理能力。SiMa.ai是 m阿奇內(nèi)l盈利公司為邊緣產(chǎn)品提供專(zhuān)門(mén)構(gòu)建的解決方案,并為其設(shè)定新的性能和效率標(biāo)準(zhǔn)。該公司成立的前提是通過(guò)一鍵體驗(yàn)將性能功耗比提高10倍,從而解決任何計(jì)算機(jī)視覺(jué)應(yīng)用挑戰(zhàn)。
在性能和能效都至關(guān)重要的邊緣人工智能領(lǐng)域,最突出的指標(biāo)是FPS/瓦特。這個(gè)指標(biāo)不僅僅是一個(gè)數(shù)字;這是一個(gè)關(guān)鍵指標(biāo),表明系統(tǒng)每瓦耗電量可以處理多少幀。這對(duì)于邊緣人工智能工作負(fù)載至關(guān)重要,因?yàn)槟茉聪拗仆ǔ?huì)帶來(lái)重大挑戰(zhàn)。SiMa.ai專(zhuān)門(mén)構(gòu)建的MLSoc是SiMa成功實(shí)現(xiàn)無(wú)與倫比的電源效率的關(guān)鍵。SiMa.ai經(jīng)過(guò)精密設(shè)計(jì),在不影響性能的情況下針對(duì)低功耗進(jìn)行了優(yōu)化。這不僅僅是做更多的事情;它是關(guān)于用更少的資源做更多的事情—更少的能源、更低的成本和更少的環(huán)境影響。SiMa.ai專(zhuān)注于電源效率以滿(mǎn)足客戶(hù)的需求,客戶(hù)越來(lái)越關(guān)注可持續(xù)、高效和高性能的計(jì)算。
在客戶(hù)測(cè)試中,SiMa在FPS/功耗方面始終優(yōu)于傳統(tǒng)競(jìng)爭(zhēng)對(duì)手的解決方案,并在2023年ML Perf基準(zhǔn)測(cè)試中獲得了封閉邊緣功耗類(lèi)別的最高分?jǐn)?shù),這兩項(xiàng)測(cè)試均于4月舉行(參見(jiàn):SiMa.ai贏得MLPerf封閉邊緣ResNet50基準(zhǔn)測(cè)試,超越行業(yè)ML領(lǐng)導(dǎo)者)和八月(見(jiàn):開(kāi)辟新天地:SiMa.ai在MLPerf基準(zhǔn)測(cè)試中的空前進(jìn)步)今年的。
SiMa.ai的ML Perf基準(zhǔn)測(cè)試評(píng)級(jí)有力地證明了SiMa.ai對(duì)卓越性能和電源效率的堅(jiān)定承諾,驗(yàn)證了SiMa.ai MLSoc提供軟件用戶(hù)體驗(yàn)的能力SiMa.ai調(diào)色板?這很容易“按下按鈕”。
在邊緣簡(jiǎn)化計(jì)算,無(wú)需代碼ML
SiMa.ai調(diào)色板軟件專(zhuān)為完整的ML堆棧應(yīng)用程序開(kāi)發(fā)而設(shè)計(jì)。該平臺(tái)支持客戶(hù)計(jì)劃在邊緣上部署的任何ML工作流,而不會(huì)影響性能和易用性。調(diào)色板邊緣是SiMa.ai的Palette軟件平臺(tái)的可視化擴(kuò)展,是一個(gè)新的基于瀏覽器的開(kāi)發(fā)環(huán)境,可供任何希望在邊緣免費(fèi)創(chuàng)建、評(píng)估和微調(diào)ML應(yīng)用程序的組織使用。
調(diào)色板邊緣支持“拖放式”無(wú)代碼方法,用戶(hù)可以在幾分鐘內(nèi)(而不是幾個(gè)月內(nèi))自動(dòng)創(chuàng)建、構(gòu)建和部署自己的模型并完成計(jì)算機(jī)視覺(jué)管道,同時(shí)實(shí)時(shí)評(píng)估其edge ML應(yīng)用的性能和功耗需求。使用Palette Edgematic開(kāi)發(fā)的ML應(yīng)用程序以后可以通過(guò)購(gòu)買(mǎi)SiMa開(kāi)發(fā)人員或生產(chǎn)板.
來(lái)自SiMa.ai的調(diào)色板Edgematic
借助Palette Edgematic,任何具有計(jì)算機(jī)視覺(jué)管道概念的人都可以直接在邊緣設(shè)備上進(jìn)行評(píng)估,而無(wú)需在云中進(jìn)行中間模擬,從而提供了在邊緣實(shí)現(xiàn)的直接途徑。使用Palette Edgematic,開(kāi)發(fā)人員可以:
在幾分鐘內(nèi)快速原型化和評(píng)估邊緣設(shè)備上的ML管線;
使用實(shí)時(shí)數(shù)據(jù)流來(lái)衡量KPI,然后使用調(diào)色板Edgematic new visual canvas快速迭代設(shè)計(jì)以提高管道性能,從而消除了edge ML實(shí)現(xiàn)的專(zhuān)門(mén)嵌入式編碼轉(zhuǎn)換;
利用Palette的自動(dòng)構(gòu)建功能,只需按一下按鈕即可將管道的可視化表示轉(zhuǎn)換為可執(zhí)行代碼;
在短短五分鐘內(nèi)將ML管道轉(zhuǎn)換為可演示的概念證明,從而加快概念的生產(chǎn)部署并縮短上市時(shí)間。
Palette Edgematic的初始版本由SiMa.ai MLSoC遠(yuǎn)程提供支持,可提供基于GUI的視覺(jué)體驗(yàn)來(lái)評(píng)估五個(gè)優(yōu)化的管道和40個(gè)不同的模型,涵蓋對(duì)象檢測(cè)、跟蹤、分類(lèi)、語(yǔ)義分割和實(shí)例分割用例。
Palette Edgematic使任何個(gè)人、開(kāi)發(fā)人員或組織能夠在幾分鐘內(nèi)而不是幾個(gè)月內(nèi)創(chuàng)建生產(chǎn)就緒的ML應(yīng)用程序-使他們擺脫在邊緣執(zhí)行ML的復(fù)雜性、如何開(kāi)始的不確定性以及如何為其產(chǎn)品或服務(wù)提供人工智能的焦慮。
隨著Palette Edgematic的推出,SiMa.ai現(xiàn)在比以往任何時(shí)候都更像是一家構(gòu)建自己芯片的軟件公司,將ML的潛力放在每個(gè)人、其客戶(hù)、合作伙伴和ML社區(qū)的手中。
使用SiMa.ai在5分鐘內(nèi)構(gòu)建您的計(jì)算機(jī)視覺(jué)ML應(yīng)用程序調(diào)色板邊緣今天。
審核編輯 黃宇
-
AI
+關(guān)注
關(guān)注
87文章
31262瀏覽量
269616 -
EDGE
+關(guān)注
關(guān)注
0文章
182瀏覽量
42703 -
代碼
+關(guān)注
關(guān)注
30文章
4808瀏覽量
68808 -
ML
+關(guān)注
關(guān)注
0文章
149瀏覽量
34678 -
計(jì)算機(jī)視覺(jué)
+關(guān)注
關(guān)注
8文章
1699瀏覽量
46050
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論