通過集成MLOps平臺和邊緣解決方案打破數(shù)據(jù)孤島

一種新的數(shù)據(jù)處理方法

人工智能和物聯(lián)網(wǎng)的融合將數(shù)據(jù)重心從云轉(zhuǎn)移到了網(wǎng)絡(luò)邊緣。在零售店、工廠、履行中心和其他分布式位置，數(shù)千個(gè)傳感器正在收集數(shù) PB 的數(shù)據(jù)，為創(chuàng)新人工智能用例的洞察提供動(dòng)力。因?yàn)樽钣袃r(jià)值的見解是在邊緣產(chǎn)生的，所以組織很快采用了新技術(shù)和流程，以更好地利用這一新的重心。

采用的主要技術(shù)之一是 邊緣計(jì)算 ，即將應(yīng)用程序的計(jì)算能力帶到傳感器收集信息的同一物理位置的過程。當(dāng)這種計(jì)算方法用于在邊緣為人工智能應(yīng)用程序供電時(shí)，它被稱為 edge AI 。

為了確保這些獲取有價(jià)值見解的邊緣位置不存在于孤立的筒倉中，各組織正越來越多地將其邊緣計(jì)算解決方案集成到其現(xiàn)有工作流中，以開發(fā)、測試和優(yōu)化應(yīng)用程序。通過從開發(fā)過程到部署過程的無縫路徑，團(tuán)隊(duì)能夠同時(shí)對應(yīng)用程序在生產(chǎn)環(huán)境中的運(yùn)行方式有很強(qiáng)的可見性，同時(shí)還可以利用應(yīng)用程序在邊緣位置收集的數(shù)據(jù)和見解。

隨著人工智能模型根據(jù)在邊緣位置收集的新數(shù)據(jù)快速、不斷地重新訓(xùn)練和迭代，這個(gè)過程只會(huì)變得更加重要。

機(jī)器學(xué)習(xí)操作和邊緣人工智能

機(jī)器學(xué)習(xí)操作 （ MLOps ）是一個(gè)過程系統(tǒng) 簡化了機(jī)器學(xué)習(xí)模型的開發(fā)、部署、監(jiān)控和日常管理。它允許組織快速擴(kuò)展應(yīng)用程序的開發(fā)過程，并支持?jǐn)?shù)據(jù)科學(xué)和 It 團(tuán)隊(duì)之間的快速迭代。 MLOps 平臺將這一理念組織成一套工具，可在組織中跨職能使用，以加快創(chuàng)新速度。

集成 MLOps 平臺和邊緣計(jì)算解決方案可以為數(shù)據(jù)科學(xué)家和 IT 團(tuán)隊(duì)在生產(chǎn)環(huán)境中協(xié)作開發(fā)和部署應(yīng)用程序提供無縫、快速的工作流。有了完整的工作流程，團(tuán)隊(duì)可以顯著提高創(chuàng)新率，因?yàn)樗麄兛梢愿鶕?jù)在邊緣站點(diǎn)收集的見解和信息不斷迭代、測試、部署和保留。對于努力利用新數(shù)據(jù)范式的組織來說，創(chuàng)新至關(guān)重要。

集成 Domino Data Lab 和 NVIDIA Fleet Command

Domino Data Lab Enterprise MLOps 平臺和 NVIDIA Fleet Command 現(xiàn)在已集成 為數(shù)據(jù)科學(xué)家和 IT 團(tuán)隊(duì)提供了從模型開發(fā)到部署的一致、簡化的流程。

Domino Data Lab 提供了一個(gè)企業(yè) MLOps 平臺，支持模型驅(qū)動(dòng)的業(yè)務(wù)，以加快數(shù)據(jù)科學(xué)工作的開發(fā)和部署，同時(shí)增強(qiáng)協(xié)作和治理。它允許數(shù)據(jù)科學(xué)家在將人工智能模型部署到生產(chǎn)中之前進(jìn)行實(shí)驗(yàn)、研究、測試和驗(yàn)證。

NVIDIA Fleet Command 是一個(gè)用于容器編排的托管平臺，可在邊緣優(yōu)化系統(tǒng)和人工智能應(yīng)用程序的供應(yīng)和部署。它利用云的規(guī)模和彈性簡化了分布式計(jì)算環(huán)境的管理，將每個(gè)站點(diǎn)變成了一個(gè)安全、智能的位置。

從開發(fā)到部署

與 NVIDIA Fleet Command 的集成為 Domino Data Lab 用戶提供了一個(gè)將他們正在研究的模型部署到邊緣位置的簡單途徑。該集成彌合了開發(fā)應(yīng)用程序的數(shù)據(jù)科學(xué)家團(tuán)隊(duì)和部署應(yīng)用程序的 IT 團(tuán)隊(duì)之間的差距，允許兩個(gè)團(tuán)隊(duì)訪問整個(gè)應(yīng)用程序生命周期。

Thomas Robinson 說：“與 NVIDIA Fleet Command 的集成是難題中的最后一塊，讓數(shù)據(jù)科學(xué)家能夠訪問開發(fā)和部署人工智能應(yīng)用程序的完整工作流?！保?Domino Data Lab 戰(zhàn)略合作伙伴關(guān)系和公司開發(fā)副總裁?！叭媪私馍a(chǎn)部署對于團(tuán)隊(duì)利用在邊緣生成的數(shù)據(jù)和見解，最終更快地生成更好的應(yīng)用程序至關(guān)重要?！?/p>

數(shù)據(jù)科學(xué)家可以使用 Domino 數(shù)據(jù) MLOps 平臺快速迭代他們正在研究的模型。通過相同的界面，用戶可以將其新模型加載到 Fleet Command 上，使其可以部署到任何連接的位置。部署后，管理員可以遠(yuǎn)程訪問應(yīng)用程序以進(jìn)行監(jiān)視和故障排除，提供關(guān)鍵反饋，可用于模型的下一次迭代。

一位數(shù)據(jù)科學(xué)家正在為飲料制造廠開發(fā)質(zhì)量檢查應(yīng)用程序，這就是在生產(chǎn)環(huán)境中使用這種集成的一個(gè)例子。該應(yīng)用程序用于視覺捕捉罐頭上的凹痕和缺陷，以防止它們接觸到消費(fèi)者。面臨的挑戰(zhàn)是，隨著新設(shè)計(jì)的測試、季節(jié)性產(chǎn)品的發(fā)布以及基于事件的包裝推向市場，罐頭上的包裝會(huì)頻繁變化。應(yīng)用程序需要能夠快速、頻繁地學(xué)習(xí)新設(shè)計(jì)，同時(shí)保持精確的成功水平。這需要高創(chuàng)新率，以跟上包裝的頻繁變化。為了實(shí)現(xiàn)這一點(diǎn)，數(shù)據(jù)科學(xué)家使用 Domino data Lab Enterprise MLOps 平臺和 NVIDIA Fleet Command 創(chuàng)建從開發(fā)和迭代到部署和監(jiān)控的快速無縫流程。通過這樣做，他們可以輕松部署新模型，并隨著產(chǎn)品的變化對服務(wù)的中斷有限，從而提高創(chuàng)新速度。此外，模型監(jiān)控確保數(shù)據(jù)科學(xué)家能夠發(fā)現(xiàn)其模型的質(zhì)量或預(yù)測能力方面的任何問題。

關(guān)于作者

Troy Estes 是 NVIDIA Edge 和企業(yè)計(jì)算解決方案的產(chǎn)品營銷經(jīng)理。在加入 Edge & Enterprise 業(yè)務(wù)部門之前，特洛伊曾在自主汽車業(yè)務(wù)部門和 NVIDIA 電網(wǎng)產(chǎn)品集團(tuán)從事營銷活動(dòng)和支持產(chǎn)品 GTM 。

審核編輯：郭婷