簡述邊緣計(jì)算的持續(xù)發(fā)展

作者：Arm 架構(gòu)與技術(shù)部安全設(shè)備生態(tài)系統(tǒng)總監(jiān) David Maidment

從今年四月德國 embedded world 展會(huì)上的主題就不難看出，邊緣人工智能 (AI) 及物聯(lián)網(wǎng)中關(guān)于 AI 應(yīng)用程序的持續(xù)發(fā)展成為了熱議話題。

目前的互連設(shè)備總量已達(dá)到數(shù)十億，其中許多都具有先進(jìn) AI 計(jì)算的需求，這一數(shù)字預(yù)計(jì)到 2030 年將翻倍，達(dá)到 300 億[1]。與此同時(shí)，AI 推理也將呈指數(shù)級(jí)增長（該推理是指利用經(jīng)訓(xùn)練的模型對(duì)新的現(xiàn)實(shí)世界數(shù)據(jù)進(jìn)行預(yù)測或決策的過程），這將導(dǎo)致數(shù)十億個(gè)獨(dú)立端側(cè)設(shè)備上處理的個(gè)人數(shù)據(jù)量達(dá)到前所未有的量級(jí)，而每個(gè)終端設(shè)備的數(shù)據(jù)都需要被保護(hù)。

雖然存在計(jì)算和安全性的挑戰(zhàn)，但整個(gè)技術(shù)行業(yè)已達(dá)成共識(shí) —— 盡可能在邊緣（設(shè)備）或本地服務(wù)器上進(jìn)行數(shù)據(jù)處理。這將為企業(yè)和用戶帶來以下優(yōu)勢：

更低延遲：邊緣 AI 減少了一切都要在云端處理的需求，這對(duì)于汽車和工業(yè)物聯(lián)網(wǎng)等安全優(yōu)先型的應(yīng)用而言尤為重要，因?yàn)橛?jì)算處理的延遲可能會(huì)導(dǎo)致潛在的毀滅性后果。

更高可靠性：邊緣 AI 消除或減少了對(duì)集中式云端往返連接的依賴。

更低成本：在保持高帶寬連接的前提下，在云端與邊緣側(cè)間來回傳輸大量數(shù)據(jù)的成本，要比直接在邊緣側(cè)處理少量數(shù)據(jù)更高。

更高隱私性：邊緣 AI 意味著個(gè)人數(shù)據(jù)可以保留在設(shè)備上，能更好地對(duì)數(shù)據(jù)訪問者進(jìn)行管控。

更強(qiáng)安全性：邊緣 AI 代表著對(duì)云端的擴(kuò)展，而在邊緣設(shè)備的整個(gè)生命周期內(nèi)，必須確保遵守新出臺(tái)的網(wǎng)絡(luò)法規(guī)，例如 EU-CRA、NIST 和 UK-PSTI 法案。

為了滿足大規(guī)模部署 AI 的需求，邊緣計(jì)算必需不斷發(fā)展。而“邊緣計(jì)算的持續(xù)發(fā)展”促進(jìn)了對(duì)硬件和軟件異構(gòu)性、順暢開發(fā)和規(guī)模化安全性三方面的需求。這三方面又將為重要的計(jì)算趨勢提供支持，從而使整個(gè)技術(shù)生態(tài)系統(tǒng)受益，包括“與云類似”的開發(fā)方法、模塊化軟件、廣泛的協(xié)作，以及消除不必要的碎片化風(fēng)險(xiǎn)。

邊緣側(cè)的硬件和軟件異構(gòu)性

邊緣 AI 的計(jì)算要求會(huì)因不同用例而異。有些應(yīng)用程序經(jīng)過調(diào)式以實(shí)現(xiàn)最低功耗，例如延長電池續(xù)航時(shí)間，而其他應(yīng)用程序則需要大量的計(jì)算來支持密集型工作負(fù)載。積極采納底層硬件和軟件工作負(fù)載的異構(gòu)性至關(guān)重要。Arm 架構(gòu)作為全球最多樣化、普及性最高和安全性的代表，被廣泛應(yīng)用于各種邊緣設(shè)備和不同用例中，可說是硬件異構(gòu)性的基礎(chǔ)。這對(duì)開發(fā)者而言尤為重要，因?yàn)閼?yīng)用程序能夠訪問盡可能廣泛的硬件是他們所希望的。此外，這還能支持開發(fā)者針對(duì)特定的 AI 用例選出最佳解決方案。

擁抱這種異構(gòu)性就需要模塊化軟件，以便盡可能跨不同供應(yīng)商的不同硬件平臺(tái)進(jìn)行無縫運(yùn)行。目前面臨的挑戰(zhàn)在于，在很多情況下，互連設(shè)備都帶有各供應(yīng)商特有的定制軟件層，而這些軟件層在長達(dá)數(shù)十年的部署過程中需要持續(xù)進(jìn)行維護(hù)和更新。這種特定供應(yīng)商的做法會(huì)導(dǎo)致高昂的管理成本，并帶來安全漏洞。通過采用模塊化軟件，供應(yīng)商可以專注于差異化和增值，并通過重復(fù)使用標(biāo)準(zhǔn)軟件組件（例如主流操作系統(tǒng)和底層固件）來優(yōu)化設(shè)備維護(hù)成本。

順暢開發(fā)

盡可能復(fù)用軟件是邊緣 AI 順暢開發(fā)的一大關(guān)鍵。無需從頭開始為單個(gè)互連設(shè)備創(chuàng)建新軟件，取而代之的是，在整個(gè)生態(tài)系統(tǒng)中復(fù)用軟件，從而加快服務(wù)的部署和擴(kuò)展。這種方式是 SOAFEE 項(xiàng)目的一個(gè)主要目標(biāo)，SOAFEE 是由 Arm 牽頭發(fā)起且由行業(yè)主導(dǎo)的協(xié)作項(xiàng)目，它涵蓋了整個(gè)汽車生態(tài)系統(tǒng)和價(jià)值鏈，旨在為大規(guī)模軟件復(fù)用提供基于標(biāo)準(zhǔn)的一致性框架。雖然針對(duì)的是汽車行業(yè)，但軟件定義汽車 (SDV) 本質(zhì)上是面向互連的邊緣設(shè)備，通過軟件的無線更新 (OTA)，進(jìn)行關(guān)鍵功能和應(yīng)用程序的迭代更新。因此，SOAFEE 積累的經(jīng)驗(yàn)可以廣泛應(yīng)用于各種互連的邊緣設(shè)備。

順暢開發(fā)的另一大關(guān)鍵是采用“與云類似”的新方法，旨在打破傳統(tǒng)的線性嵌入式軟件開發(fā)流程。那些流程通常是孤立的，針對(duì)特定設(shè)備，并且僅在硬件可用時(shí)方能啟動(dòng)。

“與云類似”的開發(fā)方法使得軟件能夠在云端開發(fā)并集成到 CI/CD 工作流中，從而實(shí)現(xiàn)持續(xù)構(gòu)建、測試和驗(yàn)證。因此，開發(fā)者可以在硬件就緒前，提前在虛擬平臺(tái)上啟動(dòng)應(yīng)用程序的開發(fā)工作，并采用更靈活的方法實(shí)現(xiàn)部署和增強(qiáng)功能。由此助力開發(fā)者提高效率、簡化開發(fā)流程并縮短產(chǎn)品上市時(shí)間。

規(guī)模化安全性

不過，改進(jìn)開發(fā)流程需要遵循公開可用的標(biāo)準(zhǔn)，采用可信且一致的安全方法來實(shí)現(xiàn)。Arm SystemReady、PSA Certified 和 PARSEC 是制定此類標(biāo)準(zhǔn)相關(guān)的一些重要舉措示例，共同承擔(dān)著保障生態(tài)系統(tǒng)合規(guī)性的責(zé)任，并為每位參與者帶來了海量機(jī)遇。不僅如此，這些標(biāo)準(zhǔn)也有助于進(jìn)一步減少各互連設(shè)備上的軟件層數(shù)，并解決碎片化問題。

每個(gè)標(biāo)準(zhǔn)都具備不同的優(yōu)勢。2020 年推出的 Arm SystemReady 面向基于 Arm 架構(gòu)的設(shè)備，旨在實(shí)現(xiàn)相關(guān)操作系統(tǒng)（例如 Linux）的安全安裝和啟動(dòng)的標(biāo)準(zhǔn)化，進(jìn)而在設(shè)備部署的整個(gè)生命周期內(nèi)最大限度降低軟件維護(hù)成本。Arm 參與創(chuàng)立的 PSA Certified 可為物聯(lián)網(wǎng)硬件（信任根, RoT）、SoC、系統(tǒng)軟件和設(shè)備提供獨(dú)立的認(rèn)證評(píng)估方案，有助于讓生態(tài)系統(tǒng)對(duì)互連設(shè)備的安全性充滿信心。此外，它還符合新頒布的網(wǎng)絡(luò)安全法規(guī)要求，例如 EU-CRA 法案和 UK-PSTI 法案。這無疑為設(shè)備供應(yīng)商提供了保障，助其大規(guī)模部署互連設(shè)備。最后，開源計(jì)劃 PARSEC 可為硬件抽象的安全服務(wù)（例如加密服務(wù)和安全存儲(chǔ)）提供標(biāo)準(zhǔn)化方法，有助于消除與保護(hù)目前正在開發(fā)和部署的大量邊緣 AI 應(yīng)用程序相關(guān)的障礙，并提高軟件的復(fù)用率和可移植性。

在今年 embedded world 展會(huì)上，作為 Arm 軟件生態(tài)的專業(yè)組織，Linaro 展示了一個(gè)支持 Arm 生態(tài)系統(tǒng)的全新方案 ONELab，依據(jù)這些標(biāo)準(zhǔn)以更高效的方式對(duì)新發(fā)布及更新后的設(shè)備固件進(jìn)行測試。隨著越來越多的合作伙伴正積極加入由 Linaro 提供支持的 ONELab 項(xiàng)目，更加無縫、敏捷和順暢的開發(fā)體驗(yàn)將成為可能。

積極擁抱生態(tài)系統(tǒng)協(xié)作

邊緣計(jì)算正在加快各種技術(shù)設(shè)備的數(shù)字化轉(zhuǎn)型。這為我們帶來了難得的商業(yè)機(jī)會(huì)，并將帶領(lǐng)大家探索新的 AI 相關(guān)軟件功能。當(dāng)然，整個(gè)行業(yè)也面臨著重重挑戰(zhàn)。通過促進(jìn)行業(yè)間協(xié)作，不斷發(fā)展的邊緣計(jì)算正全力應(yīng)對(duì)這些挑戰(zhàn)，致力于讓所有參與者持續(xù)實(shí)現(xiàn)有關(guān)順暢開發(fā)、硬件和軟件異構(gòu)性以及規(guī)模化安全性的發(fā)展目標(biāo)。然而，這也需要生態(tài)系統(tǒng)更廣泛地開展協(xié)作，進(jìn)而加速擴(kuò)展、支持和保護(hù)未來的數(shù)十億互連設(shè)備。最終的勝利將是生態(tài)系統(tǒng)的雙贏，更重要的是，使用未來 AI 服務(wù)的用戶將逐步轉(zhuǎn)移到邊緣側(cè)。