利用NVIDIA AI Enterprise IGX在邊緣賦能任務(wù)關(guān)鍵型AI

NVIDIA SDK 在加速智慧城市、醫(yī)療和機(jī)器人等領(lǐng)域的 AI 應(yīng)用方面發(fā)揮了重要作用。然而，要實(shí)現(xiàn)可在邊緣部署的生產(chǎn)級(jí) AI 解決方案來(lái)為人類與機(jī)器的協(xié)作提供安全可靠的支持，就需要同時(shí)具備針對(duì)企業(yè)需求量身定制的高質(zhì)量硬件和軟件。

NVIDIA 再次為邊緣任務(wù)關(guān)鍵型 AI 應(yīng)用加速。NVIDIA AI Enterprise IGX 是一款可在 NVIDIA IGX 平臺(tái)上運(yùn)行邊緣 AI 的企業(yè)級(jí)軟件解決方案。

NVIDIA IGX 為您的工業(yè)級(jí)硬件提供超快的 AI 性能和高吞吐量數(shù)據(jù)處理能力，同時(shí)還具備邊緣所需的尺寸和功耗，以及強(qiáng)大的邊緣安全性、遠(yuǎn)程易管理性和內(nèi)置安全機(jī)制。

NVIDIA IGX 與 NVIDIA AI Enterprise的集成使邊緣 AI 更易于訪問(wèn)、更高效且更適合企業(yè)使用。

企業(yè)對(duì)邊緣 AI 的需求

AI 堆棧由許多第三方應(yīng)用和開(kāi)源軟件（OSS）組成并依賴于它們。鑒于其復(fù)雜性與日益增加的依賴性，維護(hù) AI 軟件堆棧的安全和穩(wěn)定已成為一項(xiàng)艱巨的任務(wù)，這項(xiàng)資源密集型的任務(wù)阻礙了企業(yè)的 AI 創(chuàng)新步伐。

以下是一些需要考慮的因素：

穩(wěn)定性和可靠性

安全性和威脅減輕措施

監(jiān)管問(wèn)題

穩(wěn)定性和可靠性

了解軟件包內(nèi)的所有依賴關(guān)系對(duì)于保持 API 的穩(wěn)定性來(lái)說(shuō)至關(guān)重要。任何第三方和開(kāi)放源碼軟件包的更改，都可能需要隨后對(duì) API 進(jìn)行更改，而這可能會(huì)破壞堆棧。這種依賴關(guān)系網(wǎng)使企業(yè)幾乎不可能在部署中實(shí)現(xiàn)最新開(kāi)源版本的標(biāo)準(zhǔn)化。

安全性和威脅減輕措施

不斷擴(kuò)大的軟件依賴性增加了引入軟件漏洞的風(fēng)險(xiǎn)。這些漏洞可能導(dǎo)致后果嚴(yán)重的攻擊，如數(shù)據(jù)泄露、服務(wù)中斷和巨大的經(jīng)濟(jì)損失等。

2022 年報(bào)告的關(guān)鍵漏洞數(shù)量共計(jì) 4,135 個(gè)，較 2021 年增加了 59%。在延遲、隱私、帶寬和監(jiān)管要求方面具有更高標(biāo)準(zhǔn)的行業(yè)也不能幸免于難。根據(jù)《臨床醫(yī)生對(duì)醫(yī)療網(wǎng)絡(luò)安全和網(wǎng)絡(luò)威脅的看法》一文，2019 年有 24% 的網(wǎng)絡(luò)攻擊發(fā)生在醫(yī)療行業(yè)，2022 年，針對(duì)醫(yī)院的網(wǎng)絡(luò)攻擊激增。

監(jiān)管問(wèn)題

許多受到高度管制的行業(yè)都對(duì) AI 軟件的維護(hù)制定了嚴(yán)格的規(guī)定。

例如，航空航天領(lǐng)域越來(lái)越多地將 AI 用于導(dǎo)航系統(tǒng)和飛行控制算法，通過(guò)嚴(yán)格的指導(dǎo)來(lái)保證持續(xù)的監(jiān)控與更新，以保持系統(tǒng)的完整性和安全標(biāo)準(zhǔn)。

在醫(yī)療行業(yè)，AI 驅(qū)動(dòng)的治療和診斷工具同樣必須遵守嚴(yán)格的維護(hù)協(xié)議，以保證醫(yī)療決策過(guò)程的準(zhǔn)確性和可靠性。

NVIDIA AI Enterprise IGX

NVIDIA AI Enterprise IGX是專為在 NVIDIA IGX Orin 平臺(tái)上運(yùn)行關(guān)鍵任務(wù)應(yīng)用而打造的軟件解決方案。

它為整個(gè)軟件堆棧提供了無(wú)與倫比的性能、安全性、穩(wěn)定性和支持，使企業(yè)不再需要為維護(hù)和保護(hù)復(fù)雜的 AI 軟件平臺(tái)而頭疼，這不僅簡(jiǎn)化了 AI 賦能的運(yùn)營(yíng)，還讓企業(yè)能夠更加放心地大規(guī)模部署 AI 應(yīng)用。

在 NVIDIA AI Enterprise 成功應(yīng)用于數(shù)據(jù)中心和云的基礎(chǔ)上，NVIDIA AI Enterprise IGX 的推出將這些優(yōu)勢(shì)擴(kuò)展到了邊緣。

作為一款工業(yè)級(jí)的高性能企業(yè)級(jí)邊緣解決方案，NVIDIA AI Enterprise IGX 與 NVIDIA IGX 一起為各種固件、操作系統(tǒng)、驅(qū)動(dòng)程序、AI 框架、SDK 和庫(kù)提供全面的端到端軟件支持。借助專為 NVIDIA IGX 打造的穩(wěn)定軟件分發(fā)，您就可以在關(guān)鍵用例所要求的更長(zhǎng)時(shí)段內(nèi)獲得軟硬件支持。除了能夠從單一的來(lái)源獲得支持外，您還能獲得長(zhǎng)期 API 穩(wěn)定性和一致的軟件物料清單（SBOM）。

加入企業(yè)支持的價(jià)值在于提供能夠及時(shí)解決技術(shù)問(wèn)題的方案，確保邊緣 AI 系統(tǒng)的穩(wěn)定性和可靠性，避免因停機(jī)而導(dǎo)致重大經(jīng)濟(jì)損失或運(yùn)營(yíng)中斷。

圖 1. NVIDIA AI Enterprise IGX 和 NVIDIA IGX 平臺(tái)

NVIDIA AI Enterprise IGX 包含基本的 AI 庫(kù)和 SDK，例如 NVIDIA TensorRT、TensorFlow、PyTorch、NVIDIA Triton推理服務(wù)器、Holoscan 和企業(yè) Ubuntu Linux 操作系統(tǒng)等。

此外還有兩個(gè)附加選項(xiàng)：

Yocto：適用于部署 Yocto 的企業(yè)。

功能安全：在安全、人員和財(cái)產(chǎn)至關(guān)重要的領(lǐng)域（如工業(yè)制造），可確保系統(tǒng)能夠利用主動(dòng)和被動(dòng)安全策略保護(hù)關(guān)鍵資產(chǎn)和人員生命安全。

NVIDIA AI Enterprise IGX 專門用于幫助企業(yè)在構(gòu)建尖端技術(shù)的同時(shí)，降低總體擁有成本（TCO）、加快產(chǎn)品上市速度并全面提高產(chǎn)品開(kāi)發(fā)效率。

它具有靈活的軟件分支，可提供符合您行業(yè)需求和產(chǎn)品開(kāi)發(fā)周期的選擇：

生產(chǎn)分支：通過(guò)每月的安全更新確保 API 的穩(wěn)定性。這些分支非常適合在需要穩(wěn)定性的生產(chǎn)環(huán)境中部署 AI，每 6 個(gè)月發(fā)布一次，生命周期為 9 個(gè)月。

長(zhǎng)期支持分支：通過(guò)每季度的安全更新來(lái)支持長(zhǎng)期應(yīng)用生命周期。這些分支最適合用于受到高度監(jiān)管的 AI 應(yīng)用，每?jī)赡臧氚l(fā)布一次，生命周期長(zhǎng)達(dá) 10 年。

在充滿挑戰(zhàn)且復(fù)雜的邊緣 AI 開(kāi)發(fā)過(guò)程中，該解決方案提供了一條行之有效的 AI 成功路徑。

審核編輯：劉清