兩種深度學(xué)習(xí)技術(shù)部署:在設(shè)備上在云端和邊緣

如今，有兩種可能的深度學(xué)習(xí)技術(shù)部署：直接在設(shè)備上在云端和邊緣。

由于對處理能力和內(nèi)存消耗的廣泛需求以及AI模型的規(guī)模，這些部署中的大多數(shù)依賴于云。盡管云部署使AI可以從高性能計算系統(tǒng)的功能中受益，但挑戰(zhàn)依然存在。需要將數(shù)據(jù)從設(shè)備來回發(fā)送到云以進(jìn)行處理會引起隱私問題，并且由于延遲，帶寬和連接性而存在限制。

這促使業(yè)界專注于邊緣AI的開發(fā)，這是我在上一篇文章中談到的主題。這些工作主要圍繞引入用于訓(xùn)練AI模型的新方法進(jìn)行，這些方法可以減少占用空間，因此可以將這些模型直接部署在邊緣設(shè)備上。

邊緣AI將通過使智能設(shè)備實時做出真正自主的決策來解決深度云的不足，從而促進(jìn)深度學(xué)習(xí)。具體而言，這將消除了將所有數(shù)據(jù)連續(xù)發(fā)送到云或從云連續(xù)發(fā)送的需要，從而改善了隱私，帶寬和延遲限制。此外，新興的邊緣AI部署方法極大地提高了速度，功耗和內(nèi)存消耗，從而可以降低成本并限制對環(huán)境的影響。

一個人的利益不能被另一個人完全取代；因此，最具影響力的現(xiàn)實世界AI部署將是采用混合方法的部署：在云中和邊緣。但是混合方法是什么樣的呢？

混合部署的免費工作流可獲得更好的結(jié)果

第一步是通過確定必須實時在邊緣進(jìn)行決策的用例，并通過可在云中進(jìn)行處理以進(jìn)行長期分析和改進(jìn)的方案，來淘汰可最大化效率和可擴(kuò)展性的工作流程。

如果您在智能邊緣設(shè)備上部署深度學(xué)習(xí)，那么在需要實時決策的情況下，例如自動駕駛汽車，農(nóng)業(yè)無人機(jī)和系統(tǒng)，攝像機(jī)，移動設(shè)備等。同時，系統(tǒng)可以將數(shù)據(jù)上傳到云中以進(jìn)行存儲以及進(jìn)一步處理和分析，而這些處理和分析可以由功能更強大的引擎執(zhí)行。這將確保該系統(tǒng)可以實現(xiàn)大功率計算的優(yōu)勢，并允許將云中的數(shù)據(jù)與其他系統(tǒng)中的數(shù)據(jù)進(jìn)行組合。

利用這些組合數(shù)據(jù)，可以對模型進(jìn)行重新訓(xùn)練以進(jìn)行持續(xù)改進(jìn)。一旦在云中進(jìn)行了再培訓(xùn)，就可以在邊緣重新部署新模型。

與采用單一方法相比，將云AI和邊緣部署的優(yōu)勢整合在一起更強大。具體來說，云AI的處理能力和高性能可以補充邊緣AI的效率，速度和自主性。

混合方法在行動

人工智能在自動駕駛汽車中的應(yīng)用是一個說明補充方法好處的特定用例。

在此用例中，至關(guān)重要的是，AI模型必須在邊緣，直接在設(shè)備和車輛上運行，以確保汽車可以安全行駛。如果汽車在將數(shù)據(jù)發(fā)送到云端并進(jìn)行處理之前無法采取行動，那么它將無法做出反應(yīng)并迅速做出決策以確保安全。另外，無法保證車輛將保持連續(xù)的互聯(lián)網(wǎng)連接。

但是，汽車制造商還可以從捕獲數(shù)據(jù)中受益，而不僅僅是實時決策所必需的。將收集的數(shù)據(jù)發(fā)送到云進(jìn)行處理是持續(xù)改進(jìn)和重新訓(xùn)練模型的關(guān)鍵。這不僅可以徹底處理設(shè)備的數(shù)據(jù)，而且還可以將深度學(xué)習(xí)的見解與從其他邊緣設(shè)備收集的數(shù)據(jù)相結(jié)合，以進(jìn)行更大的輸入和理解?；诖艘娊?，可以不斷改進(jìn)算法以發(fā)展自動駕駛汽車系統(tǒng)。

下一步是什么？邊緣AI和云AI的演變

隨著越來越多的組織在云端或邊緣利用AI的力量，我們將看到更多能夠提供現(xiàn)實價值的深度學(xué)習(xí)應(yīng)用程序。

5G的興起將繼續(xù)推動深度學(xué)習(xí)的發(fā)展。隨著5G變得越來越普遍，它將增強超級計算的可訪問性。具體來說，5G將使從邊緣到云的數(shù)據(jù)共享變得更加無縫和高效，從而促進(jìn)更高效的數(shù)據(jù)處理。

但是，即使使用5G，仍然需要在邊緣進(jìn)行實時決策。云仍將無法即時滿足邊緣應(yīng)用程序?qū)?shù)據(jù)處理的需求。因此，在計劃部署模型時，邊緣AI必須繼續(xù)成為AI公司關(guān)注的焦點。對于云和邊緣部署采用互補方法的企業(yè)，無論是在其模型的短期處理能力還是在有效存儲，處理和改進(jìn)模型的長期能力上，都將獲得最大的成功。
責(zé)任編輯：YYX