Edge AI在深度學(xué)習(xí)應(yīng)用中超越云計(jì)算

什么是邊緣人工智能？

Edge AI 在硬件上本地處理和實(shí)施機(jī)器學(xué)習(xí)算法。這種形式的本地計(jì)算減少了數(shù)據(jù)傳輸?shù)?a target="_blank">網(wǎng)絡(luò)延遲，并解決了一切都發(fā)生在設(shè)備本身上的安全挑戰(zhàn)。

邊緣人工智能的流程

Edge AI 的本地處理并不意味著機(jī)器學(xué)習(xí)模型的訓(xùn)練應(yīng)該在本地進(jìn)行。通常，訓(xùn)練在具有更大計(jì)算能力的平臺(tái)上進(jìn)行，以處理更大的數(shù)據(jù)集。最后，這個(gè)經(jīng)過訓(xùn)練的模型可以部署在系統(tǒng)的處理器或硬件上。該系統(tǒng)具有人工智能加速功能以及用于實(shí)時(shí)數(shù)據(jù)處理應(yīng)用程序的部署模型。

隨著對(duì) GPU、NPU、TPU 和 AI 加速器的需求增加，Edge AI 技術(shù)經(jīng)歷了巨大的增長。隨著機(jī)器學(xué)習(xí)和人工智能已成為當(dāng)前情況下的趨勢(shì)技術(shù)，這種需求是顯而易見的。因此，由于當(dāng)前應(yīng)用程序的需求，Edge AI 在硬件中找到了自己的位置。硬件中對(duì)本地高級(jí)處理和計(jì)算能力的需求解釋了 Edge AI 的重要性。

云 AI 能比邊緣 AI 活得更久嗎？

Cloud AI 通過在云端遠(yuǎn)程提供計(jì)算能力來支持硬件處理。由于處理是遠(yuǎn)程進(jìn)行的，因此系統(tǒng)在性能和處理方面更加強(qiáng)大。此外，云計(jì)算增加了有關(guān)架構(gòu)和設(shè)計(jì)的選項(xiàng)。由于高級(jí)處理發(fā)生在云上，它降低了系統(tǒng)硬件功耗的復(fù)雜性。然而，正如引言中所討論的，這些好處是以延遲和安全問題為代價(jià)的。

云AI的流程

當(dāng)計(jì)算需求非常密集并且需要大量數(shù)據(jù)處理時(shí)，云人工智能可以比邊緣人工智能更長壽。如果應(yīng)用程序可以在延遲和安全性方面做出妥協(xié)，那么 Cloud AI 是比 Edge AI 更好的選擇。Cloud AI 還可以解決功耗問題。但是，它不能被視為選擇 Cloud AI 而不是 Edge AI 的決定因素。

邊緣人工智能與云人工智能

在 Edge AI 和 Cloud AI 之間進(jìn)行選擇的不確定性主要發(fā)生在機(jī)器學(xué)習(xí)或深度學(xué)習(xí)用例中。由于深度學(xué)習(xí)算法需要密集處理，因此硬件的性能成為一個(gè)重要因素。Cloud AI 絕對(duì)可以為系統(tǒng)提供更好的性能，但大多數(shù)深度學(xué)習(xí)應(yīng)用程序無法在數(shù)據(jù)傳輸延遲和網(wǎng)絡(luò)安全威脅方面妥協(xié)。因此，對(duì)于人工智能應(yīng)用，Edge AI 比 Cloud AI 壽命更長。

如前所述，功耗因素總是會(huì)影響邊緣 AI 處理器。這是可以理解的，因?yàn)榉敝氐挠?jì)算需要更高的電源。但是當(dāng)前的 Edge AI 處理器具有 AI 加速器，可提供更高的性能和更低的功耗。然而，GPU 和 TPU 仍然需要更高的功率，但設(shè)計(jì)和電路架構(gòu)的改進(jìn)將克服這個(gè)問題。

由于單獨(dú)的云并不是人工智能應(yīng)用程序的絕佳選擇，邊緣和云人工智能的混合可以提供更好的性能?？赡軙?huì)影響延遲的部分處理可以在云上完成，其余部分則在硬件本身上完成。

示例：由于訓(xùn)練后的模型需要根據(jù)實(shí)時(shí)數(shù)據(jù)進(jìn)行更新，因此可以在云端完成更新后的訓(xùn)練。但實(shí)時(shí)數(shù)據(jù)通過 Edge AI 在硬件上進(jìn)行處理以生成輸出。

因此，處理的劃分帶來了兩種技術(shù)的最佳效果。因此，它可能是 AI 應(yīng)用程序的更好選擇。但是，大多數(shù)應(yīng)用程序都需要更快的實(shí)時(shí)更新訓(xùn)練，因此 Edge AI 比 Cloud AI 技術(shù)壽命更長。因此，Edge AI 在深度學(xué)習(xí)應(yīng)用方面正在超越 Cloud AI。

審核編輯：郭婷