使用 NVIDIA IGX Orin 開發(fā)套件加速邊緣 AI 之旅

想象一下，你即將開啟一生難忘的山地自行車冒險之旅。計劃已經(jīng)完成，相應的訓練也基本到位，當下所需要的就是一輛完美的自行車。你需要好的減震器、輪胎、剎車、車架、車把和座椅。假設所有這些部件都集中在一個包裹中，并且預先組裝在了一起，從而為你節(jié)省時間和花費。

NVIDIA IGX Orin為邊緣 AI 應用程序開發(fā)人員提供了類似的工具包：一個優(yōu)化的一體式平臺。NVIDIA IGX Orin 是第一個將工業(yè)級硬件與企業(yè)級軟件相結合，并支持邊緣 AI 管理的平臺。

圖 1 硬件和企業(yè)級軟件工作流程，以確保安全的邊緣AI管理

NVIDIA IGX Orin 讓公司能夠轉向軟件定義的模型，從而提高開發(fā)速度、降低成本，而不是浪費寶貴的資源拼湊平臺來運行或開發(fā) AI 應用程序。

NVIDIA IGX Orin 專為工業(yè)和醫(yī)療環(huán)境打造，為開發(fā)人員提供邊緣 AI 所需的性能、耐用性、安全性和安全功能。

NVIDIA IGX Orin 開發(fā)套件

一體式NVIDIA IGX Orin 開發(fā)者套件配有機箱和電源，可幫助啟動或加速邊緣 AI 應用程序開發(fā)，主要功能如下所述。

硬件

• IGX Orin 模塊：工業(yè)級；已認證就緒

• CPU ：12 核 Arm

• GPU ：NVIDIA Ampere 1024 CUDA ，64 Tensor

• 硬件安全擴展

• 功能安全島

• NVIDIA ConnectX-7 智能網(wǎng)絡接口卡（SmartNIC）提供 200Gb/s 的網(wǎng)絡速度，非常適合接收高幀率視頻

• 用于固件更新的 NVIDIA 基板管理控制器（BMC）

• 安全 MCU

• 與功能安全島（FSI）和安全擴展包軟件攜手合作

• 監(jiān)控 IGX 和機箱環(huán)境的電壓、溫度、風扇和速度

• 機箱，包括冷卻風扇

• 電源裝置

• 附件（用于連接的各種電纜）

軟件

• NVIDIA AI SDK

• NVIDIA Metropolis

• NVIDIA Holoscan

• 安全擴展包

• 商業(yè)操作系統(tǒng)集成

• Canonical，紅帽

更多有關信息，請參閱NVIDIA IGX productspecifications(https://www.nvidia.com/en-us/edge-computing/products/igx/)。

關鍵用例

許多領先的工業(yè)和醫(yī)療公司目前正在使用 NVIDIA IGX Orin 將 AI 應用于其運營和解決方案中。繼續(xù)閱讀，了解更多關于在 NVIDIA IGX 平臺上開發(fā)的一些關鍵用例信息。

工業(yè)安全：預防工作場所的險情

隨著機器與人類互動的增加，特別是在倉庫和制造環(huán)境中，functional safety變得至關重要。更多詳細信息，請參見全新NVIDIA IGX 平臺幫助創(chuàng)建安全、自動化的未來工廠(https://blogs.nvidia.com/blog/2022/09/20/igx-industrial-edge-ai/)。

Reactive safety是自主機器的標準規(guī)定，當出現(xiàn)安全威脅或事件時，會減慢或關閉機器。這會減輕對相關人員造成的傷害，但停機時間的成本也非常昂貴。

除了支持 reactive safety功能外，NVIDIA IGX Orin 還使公司能夠構建proactive safety，以防止危險事件的發(fā)生。Proactive safety的運作類似早期檢測和響應系統(tǒng)，通過控制面板來監(jiān)督自主機器集群。

Proactive safety包括在事件發(fā)生前識別安全隱患，采取適當措施，保護工人，最小化停機時間和相關成本。以下提供了一些 proactive safety 的具體示例。

• PPE detection：可以訓練 AI 模型，以幫助監(jiān)測和檢測個人防護裝備（PPE）的適當使用。

• Barrier breaches：啟用 AI 的攝像頭和傳感器可以識別及分類物體和人，以確定是否存在安全或安保威脅，并提示采取適當?shù)陌踩胧?/p>

• Collision detection：AI 可以分析實時視頻和圖像處理，以確定機器和人類的運動是否可能導致碰撞，然后采取安全措施避免事故發(fā)生。

NVIDIA IGX Orin 和NVIDIA MetropolisSDK 的結合為開發(fā)人員提供了強大平臺，加速功能安全 AI 應用程序開發(fā)，并管理自主機器集群。

工業(yè)自動化：更快、更準確、更高效的供應鏈

低效的供應鏈加上勞動力短缺，對公司滿足需求和保持客戶滿意度的能力產(chǎn)生了深遠的負面影響。對更高效的供應鏈的迫切需求，帶來了 AI 解決方案的快速發(fā)展。

例如，履行中心在公司的供應鏈中發(fā)揮著關鍵作用。使用 NVIDIA IGX Orin 、 NVIDIA Metropolis SDK 和NVIDIA Omniverse可以將低效的供應鏈轉化為面向未來、適應性強的運營?？梢蚤_發(fā) AI 應用程序以產(chǎn)出高質(zhì)量的感知數(shù)據(jù)，為實時決策提供信息，從而提高運營效率。請參閱下面的幾個例子。

• Industrial inspection：AI 模型被訓練來檢測和分類物體，并識別去除缺陷產(chǎn)品。

• Predictive maintenance：通過對周圍環(huán)境、故障檢測和機器/機器人性能的數(shù)據(jù)分析，AI 可以預測設備何時可能需要主動維護，以避免停機。

• Field inspection：圖像識別和處理與自動報告相結合，使現(xiàn)場檢查更加準確、安全和高效。

通過分析來自傳感器或其他來源的數(shù)據(jù)，可以在 AI 的幫助下檢測甚至消除生產(chǎn)中的瓶頸。

醫(yī)療設備：在臨床邊緣實時處理流式數(shù)據(jù)

醫(yī)療設備制造商正在采用新的 AI 功能，以加速 TTM 并降低開發(fā)和維護成本。利用 AI 計算平臺可以在以下方面賦能醫(yī)療設備開發(fā)人員：

• 更快地訓練醫(yī)學 AI 模型

• 構建和微調(diào)醫(yī)療 AI 應用程序

• 核實和驗證醫(yī)療級應用程序

• 安全地部署到臨床生產(chǎn)

使用 NVIDIA IGX Orin 和NVIDIA Holoscan SDK，開發(fā)人員可以大大加快 AI 應用程序和 AI 醫(yī)療設備的開發(fā)。NVIDIA Clara Holoscan是一個在 NVIDIA IGX Orin 上運行的實時 AI 計算平臺，用于高精度 AI、高級別安全和 proactive safety。下面列出了 NVIDIA IGX Orin 和 NVIDIA Clara Holoscan 的一些早期用例。

• Ultrasound：AI 應用可以通過改進圖像優(yōu)化、分析和解釋來提高超聲的準確性，有助于更好地診斷癌癥腫瘤或妊娠期異常等疾病。

• Endoscopy：AI 可以幫助提高成像解釋的準確性和速度，從而減少醫(yī)療專業(yè)人員的工作量，并更好地檢測情況。了解更多信息，請參閱AI in Endoscopy: Improving Detection Rates and Visibility with Real-Time Sensing(https://developer.nvidia.com/blog/ai-in-endoscopy-improving-detection-rates-and-visibility-with-real-time-sensing/)。

• Robotic surgery：醫(yī)療保健創(chuàng)新者正在探尋 AI 的方式，通過將肉眼無法看到的關鍵生理結構和功能（如血流）實時可視化，來幫助外科醫(yī)生避免并發(fā)癥。一些其他領先的公司則使用 AI 遠程連接外科醫(yī)生，以便合作，帶來盡可能好的結果。了解更多信息，請參閱NVIDIA Medical Edge AI Computing Platform Selected by Top Robotic and Digital Surgery Startups(https://blogs.nvidia.com/blog/2022/09/20/igx-clara-holoscan-edge-ai-robotic-surgery/)。

開始著手

無論是在規(guī)劃階段、起始階段，還是在邊緣 AI 之旅的中途，NVIDIA IGX Orin 開發(fā)套件都會讓你更快到達目的地。立即獲取NVIDIA IGX Orin 開發(fā)套件(https://www.nvidia.com/en-us/edge-computing/products/igx/?nvid=nv-int-tblg-313058#cid=dl23_nv-int-tblg_en-us)。

掃描海報二維碼，或點擊“閱讀原文”，即可觀看 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛 GTC23 主題演講重播！