淺談邊緣計算與云計算

公有云計算平臺使企業(yè)能夠使用全球服務器補充其私有數據中心，將基礎設施擴展到任何位置，并根據自身需求擴展和縮減計算資源。這些公私混合云為企業(yè)計算應用提供了前所未有的靈活性、價值和安全性。

但在全球各地實時運行的AI應用可能需要巨大的本地處理能力，而且往往是在遠離中央云服務器的偏遠地區(qū)。由于低時延或數據駐留要求，一些工作負載需要保留在本地或特定地點。

這就是為什么許多企業(yè)使用邊緣計算部署AI應用，邊緣計算能夠在產生數據的地點處理數據，在本地邊緣設備中處理和存儲數據，而不是在遙遠的中央數據存儲庫中進行云處理。因此，此類設備無需聯(lián)網就能作為一個獨立的網絡節(jié)點運行。

云和邊緣計算有許多優(yōu)點和用例，并且可以一起使用。

什么是云計算

根據研究機構Gartner的定義，“云計算是一種使用網絡技術以服務形式提供可擴展、彈性IT功能的計算方式?！?/p>

云計算有許多優(yōu)點。《哈佛商業(yè)評論》中的“云轉型狀況”報告，83%的受訪者表示，云對企業(yè)機構的未來戰(zhàn)略和增長極其重要。

云計算必定會日益普及。企業(yè)采用云基礎設施并將繼續(xù)這樣做的原因包括：

更低的前期成本：省去了購買硬件、軟件、IT管理以及24小時供電和冷卻的資本支出。云計算使企業(yè)機構能夠迅速將應用推向市場并降低進入市場的財務門檻。

靈活的定價：企業(yè)只需為所使用的計算資源付費，因此可以更好地控制成本，減少意外情況。

無限的按需計算：云服務能夠通過自動配置和刪除資源來即時應對和適應不斷變化的需求，從而降低成本，提高企業(yè)機構的整體效率。

簡化的IT管理：云供應商為其客戶提供IT管理專家服務，使員工能夠專注于企業(yè)的核心需求。

易于更新：只需點擊一次就可以獲得最新的硬件、軟件和服務。

穩(wěn)定可靠：由于可以在云供應商網絡上的多個冗余站點建立數據鏡像，因此能夠以更低的成本輕松地實現備份、災難恢復和業(yè)務連續(xù)性。

節(jié)省時間：企業(yè)在配置私有服務器和網絡時會浪費時間。有了按需提供的云基礎設施，企業(yè)能夠在很短的時間內部署應用并更快進入市場。

什么是邊緣計算

邊緣計算將算力移動到產生數據的硬件附近(通常是物聯(lián)網設備或傳感器)，它因將算力移動到網絡或設備邊緣而得名，能加快數據處理速度、增加帶寬并確保數據主權。

通過在網絡邊緣處理數據，邊緣計算減少了大量數據在服務器、云和設備或邊緣位置之間傳輸的需求。這對于數據科學和AI等現代化應用尤為重要。

邊緣計算的優(yōu)點

Gartner預測：“在生產中部署邊緣用例的企業(yè)數量將從2019年的約5%增長至2024年的約40%?！痹S多高性能計算應用已經成為現代生活的支柱，例如深度學習和推理、數據處理和分析、模擬以及視頻流等。隨著企業(yè)逐漸意識到這些應用由邊緣計算驅動，生產中的邊緣用例數量也將會增加。

投資于邊緣技術的企業(yè)可以獲得以下優(yōu)勢：

減少時延：邊緣數據處理避免或減少了數據的傳輸，因此可以更快洞悉具有低時延要求的復雜AI模型用例，例如全自動駕駛汽車和增強現實等。

降低成本：與云計算相比，使用局域網進行數據處理可以讓企業(yè)以更低的成本獲得更高的帶寬和存儲。此外，由于在邊緣進行處理，因此需要發(fā)送到云或數據中心進行進一步處理的數據變得更少，這減少了需要傳輸的數據量，同時也降低了成本。

模型精度：AI依賴高精度模型，尤其是對于需要實時響應的邊緣用例。當網絡帶寬過低時，一般會通過降低輸入模型的數據大小來緩解。這會導致圖像尺寸減少、視頻跳幀和音頻采樣率降低。當部署在邊緣時，數據反饋回路可提高AI模型的精度，并且可以同時運行多個模型。

更廣泛的覆蓋范圍：互聯(lián)網接入是傳統(tǒng)云計算的必備條件。但邊緣計算可以在本地處理數據并且無需連接網絡，這將計算范圍擴大到了以前無法接入或遠程的位置。

數據主權：當數據在采集地點得到處理時，企業(yè)機構就可以通過邊緣計算將所有敏感數據和計算保留在局域網和公司防火墻內。這能降低云端遭受網絡安全攻擊的風險，并使企業(yè)能夠更好地遵守嚴格而不斷變化的數據法律。

云計算在邊緣AI中扮演什么角色

邊緣和云計算都可以充分使用容器化的應用。容器是一種易于部署的軟件包，可以在任何操作系統(tǒng)上運行應用。這些軟件包從主機操作系統(tǒng)中提取，因此它們可以在任何平臺或云端運行。

云和邊緣容器的主要區(qū)別在于位置。邊緣容器位于網絡的邊緣，更接近數據源，而云容器則在數據中心運行。

已實施容器化云解決方案的企業(yè)機構可以十分輕松地將它們部署在邊緣。

企業(yè)機構一般會使用云原生技術來管理他們的邊緣AI數據中心。這是因為邊緣AI數據中心的服務器常常分布在成千上萬個地點，而且這些地點無法既沒有物理安全保障也沒有受過培訓的人員。因此邊緣AI服務器必須是安全、有彈性并且易于大規(guī)模管理的。

何時使用邊緣計算和云計算?

邊緣計算和云計算具有不同的特點，大多數企業(yè)機構最終會同時使用這兩種計算。下面是您部署不同工作負載時需要考慮的一些因素。

云計算

非時延敏感型數據處理

可靠的網絡連接

動態(tài)工作負載

存儲在云端的數據

邊緣計算

實時數據處理

網絡連接受限或無網絡連接的遠程地點

大型數據集的成本太高，無法發(fā)送到云

高度敏感的數據和嚴格的數據法律

邊緣計算優(yōu)于云計算的應用示例之一是醫(yī)療機器人。外科醫(yī)生需要訪問實時數據，而這些系統(tǒng)包含了大量可以在云中執(zhí)行的軟件，但手術室中日益增加的智能分析和機器人控制系統(tǒng)無法容忍時延、網絡可靠性問題或帶寬限制。在該應用示例中，邊緣計算直接關乎病人的生死。

兩全其美的選擇：混合云架構

許多企業(yè)機構必須融合云和邊緣，他們會盡可能采取集中式管理并在必要時采取分散式管理?；旌显萍軜嬍蛊髽I(yè)能夠發(fā)揮本地系統(tǒng)的安全性和可管理性，同時充分運用服務供應商的公有云資源。

不同的企業(yè)機構所采用的混合云解決方案也有所不同，例如在云端訓練+在邊緣部署、在數據中心訓練+在邊緣使用云管理工具、在邊緣訓練+將模型集中到云端進行聯(lián)合學習等。云與邊緣的結合可以創(chuàng)造無限的可能性。

原文標題：一文了解邊緣計算與云計算

文章出處：【微信公眾號：NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

審核編輯：湯梓紅