利用邊緣計(jì)算如何構(gòu)建應(yīng)用平臺(tái)

物聯(lián)網(wǎng)（ IoT ）的發(fā)展和企業(yè)對(duì)人工智能的采用，使人們重新關(guān)注邊緣計(jì)算。組織正在尋求利用這些物聯(lián)網(wǎng)設(shè)備在邊緣產(chǎn)生的數(shù)據(jù)，解決以前集中式數(shù)據(jù)中心或云計(jì)算無法解決的挑戰(zhàn)。

當(dāng)邊緣計(jì)算和人工智能（也稱為 Edge AI ）相結(jié)合時(shí)，用于實(shí)時(shí)推理，從而推動(dòng)業(yè)務(wù)流程的數(shù)字轉(zhuǎn)換。 Edge AI 是智能空間的核心技術(shù)，可提高效率、自動(dòng)化工作流程、降低成本并改善整體客戶體驗(yàn)。

如今，所有行業(yè)的組織都在工廠、零售店、石油鉆塔和自動(dòng)機(jī)器上推出 edge AI 解決方案。

與任何新的 IT 計(jì)劃一樣，充分利用邊緣計(jì)算需要精心規(guī)劃，以構(gòu)建一個(gè)能夠滿足當(dāng)今和未來任何擴(kuò)展需求的平臺(tái)。

什么是邊緣計(jì)算？

從廣義上講， 邊緣計(jì)算 指的是數(shù)據(jù)中心或云之外的任何東西。更具體地說，這是一種將計(jì)算能力從物理上轉(zhuǎn)移到更接近數(shù)據(jù)生成位置（通常是物聯(lián)網(wǎng)設(shè)備或傳感器）的做法。

與云計(jì)算相比 ，邊緣計(jì)算提供更低的延遲、更低的帶寬要求和更好的數(shù)據(jù)隱私。有 不同類型的邊緣計(jì)算 ，通常根據(jù)用例、網(wǎng)絡(luò)需求或位置進(jìn)行細(xì)分。內(nèi)容交付網(wǎng)絡(luò)、工廠檢查、無摩擦商店和機(jī)器人都被認(rèn)為是邊緣計(jì)算的例子。

盡管存在差異，但好處仍然是一樣的：低延遲、降低帶寬要求和數(shù)據(jù)隱私。

邊緣計(jì)算的成本是多少？

邊緣計(jì)算的成本因規(guī)模、數(shù)據(jù)、位置和專業(yè)知識(shí)而大不相同?？傮w成本可能會(huì)增加或減少，具體取決于邊緣環(huán)境中當(dāng)前的基礎(chǔ)設(shè)施。圖 1 顯示了幾個(gè)關(guān)鍵因素。

圖 1 影響成本的邊緣計(jì)算解決方案的組件

基礎(chǔ)設(shè)施成本

在邊緣部署人工智能應(yīng)用程序的首要考慮因素之一是支持用例所需的系統(tǒng)和傳感器。一般來說，在添加新的硬件或軟件之前，已經(jīng)有了某種基礎(chǔ)設(shè)施。邊緣基礎(chǔ)設(shè)施最常見的組件是傳感器、計(jì)算系統(tǒng)和網(wǎng)絡(luò)。

傳感器

傳感器的數(shù)量和類型都會(huì)影響組織的成本。許多組織已經(jīng)對(duì)物聯(lián)網(wǎng)傳感器進(jìn)行了投資，從而減少了邊緣計(jì)算推廣所需的總體投資。在添加傳感器時(shí)，一次性使用的掃描儀可以快速添加。

攝像頭是最通用的邊緣設(shè)備之一，可以讓您同時(shí)運(yùn)行多個(gè)應(yīng)用程序。其他傳感器包括麥克風(fēng)、條形碼掃描儀或支持 RFID 的智能標(biāo)簽。

計(jì)算系統(tǒng)

邊緣計(jì)算可以在一個(gè)簡(jiǎn)單的嵌入式設(shè)備上運(yùn)行，成本高達(dá)數(shù)百美元?；蛘?，它可以運(yùn)行到半個(gè)甚至全機(jī)架的服務(wù)器，花費(fèi)數(shù)十萬美元。計(jì)算系統(tǒng)的大小取決于收集和處理的數(shù)據(jù)量、一個(gè)或多個(gè)人工智能模型的復(fù)雜性，以及在任何給定時(shí)間運(yùn)行的推理次數(shù)。

當(dāng)在邊緣建立計(jì)算時(shí)，重要的是要考慮在環(huán)境中運(yùn)行的現(xiàn)有和將來的邊緣用例。一些應(yīng)用程序可以在僅CPU的系統(tǒng)上運(yùn)行，而其他應(yīng)用程序需要 GPU ，或者可以從 GPU 中受益匪淺。

嵌入式設(shè)備，甚至是單 GPU 系統(tǒng)在前端都比較便宜。但是，如果您的計(jì)劃是運(yùn)行多個(gè) AI 應(yīng)用程序，那么一個(gè)具有多個(gè) GPU 且可以運(yùn)行多個(gè)工作負(fù)載的單一系統(tǒng)可以節(jié)省成本。在空間有限的地區(qū)，它通常也會(huì)更有效。

網(wǎng)絡(luò)

大多數(shù)企業(yè)邊緣使用案例都是在本地運(yùn)行的，可以是硬連線到網(wǎng)絡(luò)，也可以是 Wi-Fi 。這使得網(wǎng)絡(luò)組件基本上是免費(fèi)的。依賴蜂窩網(wǎng)絡(luò)的遠(yuǎn)程設(shè)備確實(shí)會(huì)因傳輸?shù)臄?shù)據(jù)產(chǎn)生成本，如果數(shù)據(jù)是視頻，成本會(huì)特別高。

AI-on-5G 是許多組織需要考慮的一個(gè)關(guān)鍵話題，尤其是那些正在研究依賴有保證的性能和高速無線網(wǎng)絡(luò)的用例的組織。這些解決方案仍處于開發(fā)的早期階段，這使得成本難以確定。

邊緣計(jì)算的另一個(gè)網(wǎng)絡(luò)考慮因素是查看將向數(shù)據(jù)中心或云發(fā)送哪些數(shù)據(jù)以及發(fā)送多少數(shù)據(jù)。大多數(shù)組織使用來自邊緣的數(shù)據(jù)在一個(gè)集中的位置驗(yàn)證和再培訓(xùn)他們的人工智能模型。圍繞數(shù)據(jù)構(gòu)建一個(gè)考慮到網(wǎng)絡(luò)和存儲(chǔ)的戰(zhàn)略對(duì)于確保管理維護(hù)邊緣應(yīng)用程序的總體成本至關(guān)重要。

申請(qǐng)費(fèi)用

在未來幾年，人工智能應(yīng)用程序的生產(chǎn)數(shù)量預(yù)計(jì)將增長(zhǎng)到 60% 以上。不是組織是否會(huì)部署人工智能應(yīng)用程序，而是何時(shí)部署。組織要么構(gòu)建或購(gòu)買應(yīng)用程序，要么使用混合方法。

構(gòu)建人工智能應(yīng)用程序

從頭開始建設(shè)數(shù)據(jù)科學(xué)團(tuán)隊(duì)可能是一項(xiàng)艱巨的任務(wù)，尤其是由于大多數(shù)地區(qū)對(duì)合格候選人的需求很高，且供應(yīng)有限。數(shù)據(jù)科學(xué)家的平均工資從 10 萬美元到 15 萬美元不等，取決于技能水平。即使是內(nèi)部有人工智能開發(fā)人員的組織，也經(jīng)常采用構(gòu)建和購(gòu)買相結(jié)合的策略，將其內(nèi)部專業(yè)知識(shí)用于幫助其與眾不同的關(guān)鍵應(yīng)用程序。

購(gòu)買人工智能應(yīng)用程序

對(duì)于那些還沒有數(shù)據(jù)科學(xué)家和人工智能開發(fā)人員的組織來說，購(gòu)買人工智能應(yīng)用程序是首選方法。

Prebuilt applications 可以定制，價(jià)格從數(shù)千美元到數(shù)萬美元不等，具體取決于它們的許可方式。

Custom applications 從頭開始構(gòu)建，包括開發(fā)和推出，成本高達(dá)數(shù)十萬美元。

根據(jù)客戶需求，可以購(gòu)買額外的服務(wù)合同，用于對(duì)這些應(yīng)用程序進(jìn)行持續(xù)管理和升級(jí)。

管理成本

邊緣計(jì)算為管理帶來了獨(dú)特的挑戰(zhàn)。這些環(huán)境高度分散，部署在遠(yuǎn)程位置，沒有經(jīng)過培訓(xùn)的 IT 人員，而且通常缺乏數(shù)據(jù)中心預(yù)期的物理安全性。

管理軟件

專用邊緣人工智能管理解決方案通常根據(jù)使用情況定價(jià)，管理中的系統(tǒng)或 GPU 是決定因素。這些解決方案具有為邊緣部署量身定制的關(guān)鍵功能，以及隨著成本增長(zhǎng)而擴(kuò)展的能力。這些解決方案的一些示例包括 NVIDIA Fleet Command 、 Azure IoT 和 AWS IoT 。

另一個(gè)管理選項(xiàng)是將傳統(tǒng)的數(shù)據(jù)中心管理解決方案擴(kuò)展到邊緣。 VMware Tanzu 和 RedHat OpenShift 通常都存在于許多數(shù)據(jù)中心部署中，這意味著 IT 團(tuán)隊(duì)對(duì)它們有經(jīng)驗(yàn)。將這些解決方案擴(kuò)展到邊緣可能需要增加許可成本，具體取決于公司簽訂的合同。

應(yīng)考慮的其他成本包括使這些解決方案與邊緣部署兼容所需的時(shí)間，以及對(duì)這些環(huán)境的持續(xù)管理。

托管服務(wù)

一些組織希望將其邊緣計(jì)算環(huán)境的管理外包給系統(tǒng)集成商或其他管理合作伙伴。這些活動(dòng)可能會(huì)有很大不同，包括人工智能模型的開發(fā)、基礎(chǔ)設(shè)施的供應(yīng)和管理，以及人工智能應(yīng)用程序的推出和更新。

當(dāng)構(gòu)建和管理 edge AI 解決方案的內(nèi)部專業(yè)知識(shí)有限時(shí)，通常會(huì)考慮此選項(xiàng)。根據(jù)范圍、規(guī)模和持續(xù)時(shí)間的不同，這些項(xiàng)目的成本從數(shù)十萬美元到數(shù)百萬美元不等。

邊緣計(jì)算比云計(jì)算便宜嗎？

許多組織都在云計(jì)算領(lǐng)域進(jìn)行了大量投資?，F(xiàn)在，隨著邊緣計(jì)算的興起，他們正在尋求節(jié)約成本。當(dāng) 將邊緣與云進(jìn)行比較 出現(xiàn)時(shí)， edge AI 通常是一項(xiàng)新的投資，因此需要提前開始。如果將這一成本與移動(dòng)流媒體數(shù)據(jù)并將其存儲(chǔ)在云中的成本相比較，成本可能會(huì)有所降低。

大多數(shù)情況下，向邊緣計(jì)算的轉(zhuǎn)移是由于一個(gè)需要實(shí)時(shí)響應(yīng)或部署在帶寬有限的遠(yuǎn)程位置的用例。例如，由于延遲要求，云環(huán)境不可能提供預(yù)測(cè)性維護(hù)、安全警報(bào)或自動(dòng)機(jī)器等工作負(fù)載。

在這種情況下，降低邊緣計(jì)算的成本并不重要；相反，人工智能算法為組織帶來了巨大的商業(yè)價(jià)值。

邊緣計(jì)算的價(jià)值是什么？

對(duì)于大多數(shù)組織來說，邊緣計(jì)算是一種范式轉(zhuǎn)變。與其他轉(zhuǎn)型轉(zhuǎn)變一樣，如果不仔細(xì)思考，這個(gè)過程可能會(huì)很復(fù)雜，成本也很高。然而，當(dāng)與人工智能結(jié)合時(shí)，您的組織可以看到巨大的好處。從提高效率到降低運(yùn)營(yíng)成本，再到改善客戶智能和體驗(yàn)， edge AI 帶來的經(jīng)濟(jì)效益可以用數(shù)百萬美元來衡量。

人工智能提供了一種無摩擦的購(gòu)物體驗(yàn)，顧客可以走進(jìn)商店，選擇他們想要購(gòu)買的商品，然后離開，商品會(huì)自動(dòng)記入他們的賬戶。

零售商通過人工智能解決勞動(dòng)力短缺和供應(yīng)鏈問題 ：在過去的一年里，零售商經(jīng)歷了令人難以置信的挑戰(zhàn)，勞動(dòng)力減少了 6.2% ，停工對(duì)全球供應(yīng)鏈造成了嚴(yán)重破壞。使用人工智能解決方案，商店和餐館已經(jīng)能夠改進(jìn)自動(dòng)化、預(yù)測(cè)和物流，為客戶提供更好的體驗(yàn)。

人工智能檢驗(yàn)降低了總制造成本 ：在任何生產(chǎn)線上，手動(dòng)檢查都需要大量時(shí)間，并且需要高技能工人來保持高質(zhì)量。當(dāng)需要準(zhǔn)確、快速的缺陷檢測(cè)時(shí)，人工智能可以是提高整體設(shè)備效率（ OEE ）和提高生產(chǎn)線產(chǎn)量的完美解決方案。一家制造商能夠通過在工廠使用人工智能光學(xué)檢測(cè)，將檢測(cè)成本從總制造成本的 30% 降低到 30% 。

智能醫(yī)院優(yōu)化工作流程，改善臨床醫(yī)生體驗(yàn) ：醫(yī)療服務(wù)的提供變得越來越具有挑戰(zhàn)性，提供者、員工和 IT 都必須用更少的資源做更多的事情。人工智能有助于增強(qiáng)這些供應(yīng)商的工作，為他們提供有價(jià)值的及時(shí)見解，不僅減輕他們的負(fù)擔(dān)，還拯救生命。使用視覺人工智能監(jiān)控患者和自動(dòng)化工作流程，一個(gè)擁有 100 張床位的設(shè)施每年可以節(jié)省 1100 萬美元。

開始

鑒于 Edge AI 的價(jià)值，如何推出成功的 edge 戰(zhàn)略無疑是組織和 IT 部門關(guān)注的一個(gè)關(guān)鍵話題。作為人工智能領(lǐng)域的領(lǐng)導(dǎo)者，NVIDIA 與客戶和合作伙伴合作，創(chuàng)建了能夠提供強(qiáng)大分布式計(jì)算的邊緣計(jì)算解決方案；安全遠(yuǎn)程管理；以及與業(yè)界領(lǐng)先技術(shù)的兼容性。

關(guān)于作者

Amanda Saunders 在 NVIDIA 負(fù)責(zé) Edge 和企業(yè)計(jì)算解決方案集團(tuán)的 Edge AI 產(chǎn)品營(yíng)銷。她為醫(yī)院、商店、倉(cāng)庫(kù)、工廠等帶來了智能的邊緣計(jì)算解決方案。除了從事 edge 解決方案之外， Amanda 還在 NVIDIA 擔(dān)任銷售和營(yíng)銷角色，與 AI 、數(shù)據(jù)科學(xué)、虛擬 GPU 和許多不同行業(yè)合作。

審核編輯：郭婷