解碼“新質(zhì)生產(chǎn)力”，一站式AI工具成工業(yè)智能化升級(jí)關(guān)鍵

當(dāng)前，各大產(chǎn)業(yè)最熱門的話題無(wú)疑是“新質(zhì)生產(chǎn)力”，發(fā)展“新質(zhì)生產(chǎn)力”對(duì)產(chǎn)業(yè)智能化升級(jí)帶動(dòng)明顯，尤其是作為國(guó)民經(jīng)濟(jì)主導(dǎo)的工業(yè)，產(chǎn)業(yè)重點(diǎn)已經(jīng)從工業(yè)自動(dòng)化轉(zhuǎn)變?yōu)楣I(yè)智能化。

AI（人工智能）作為一項(xiàng)顛覆性技術(shù)，是工業(yè)智能化升級(jí)的核心驅(qū)動(dòng)力。如何快速完成AI和工業(yè)制造場(chǎng)景的融合，成為企業(yè)決勝未來(lái)的關(guān)鍵。根據(jù)Frost&Sullivan的統(tǒng)計(jì)數(shù)據(jù)，2023年全球工業(yè)自動(dòng)化市場(chǎng)規(guī)模達(dá)到4807.3億美元，預(yù)計(jì)2025年將達(dá)到5436.6億美元。從自動(dòng)化到智能化，工業(yè)智能有著巨大的存量市場(chǎng)和未來(lái)空間。

數(shù)據(jù)來(lái)源：Frost&Sullivan，電子發(fā)燒友網(wǎng)制圖

面向這一藍(lán)海市場(chǎng)，作為行業(yè)領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商，移遠(yuǎn)通信推出工業(yè)智能品牌寶維塔 (ProvectaAI)旗下核心產(chǎn)品——AI算法平臺(tái)「匠心」，并于近日舉辦了「匠心」平臺(tái)主題直播，介紹了這款行業(yè)領(lǐng)先的一站式AI開(kāi)發(fā)工具。

移遠(yuǎn)通信副總經(jīng)理蘭世桂在直播中表示：“移遠(yuǎn)通信是當(dāng)前行業(yè)內(nèi)為數(shù)不多的具備邊緣計(jì)算軟硬件開(kāi)發(fā)能力和AI算法自研能力的企業(yè)，「匠心」平臺(tái)打造的AI模型可以一鍵下放到指定的邊緣計(jì)算終端，促進(jìn)AI技術(shù)在各行各業(yè)的廣泛應(yīng)用。同時(shí)，寶維塔成功將AI推理從傳統(tǒng)的X86架構(gòu)拓展到ARM架構(gòu)。ARM架構(gòu)具有天然的高集成度優(yōu)勢(shì)，相較于傳統(tǒng)X86架構(gòu)，ARM架構(gòu)配合「匠心」平臺(tái)最多可以節(jié)省50%的硬件成本?！?/span>

工業(yè)智能培育“新質(zhì)生產(chǎn)力”

在AI技術(shù)的加持下，工業(yè)智能已經(jīng)成為現(xiàn)代工業(yè)革命里最核心的內(nèi)容，幫助各類型工業(yè)制造場(chǎng)景提升生產(chǎn)效率、優(yōu)化品控檢測(cè)、降低生產(chǎn)成本、快速響應(yīng)市場(chǎng)需求。工業(yè)智能主要有視覺(jué)智能、數(shù)據(jù)智能和交互智能三大賽道，均有豐富的應(yīng)用場(chǎng)景。

以工業(yè)視覺(jué)為例，傳統(tǒng)機(jī)器視覺(jué)只能夠提供基本的檢測(cè)和識(shí)別功能，引入AI技術(shù)之后，特別是卷積神經(jīng)網(wǎng)絡(luò) (CNN) 等深度學(xué)習(xí)技術(shù)，智能化的機(jī)器視覺(jué)能夠基于海量數(shù)據(jù)進(jìn)行學(xué)習(xí)和推理，可以執(zhí)行特征識(shí)別、細(xì)微傷痕檢測(cè)、材料檢驗(yàn)等日益復(fù)雜的視覺(jué)任務(wù)。

因而，通過(guò)增強(qiáng)視覺(jué)智能、數(shù)據(jù)智能和交互智能能力，工業(yè)智能可以借助精準(zhǔn)控制、智能分析、自動(dòng)化生產(chǎn)、質(zhì)量追溯等手段，進(jìn)一步提升智能制造水平，快速培育工業(yè)市場(chǎng)的“新質(zhì)生產(chǎn)力”。

從工業(yè)自動(dòng)化到工業(yè)智能化，是“AI+”落地的典范，AI算法模型在其中扮演著關(guān)鍵角色。和云端AI大模型不同，工業(yè)智能所需要的是更加具象化的“小模型”。AI大模型在模型容量和參數(shù)量方面受到的限制很小，具有更強(qiáng)的普適性，但也就意味著在特定場(chǎng)景下需要深度優(yōu)化和“瘦身”。AI小模型可以基于有限的數(shù)據(jù)量，針對(duì)特定場(chǎng)景打造出規(guī)模更小、成本更優(yōu)、性價(jià)比更高、實(shí)用性更強(qiáng)的模型。這些AI小模型反應(yīng)靈敏，對(duì)于算力和內(nèi)存的需求更小，可以進(jìn)行本地化部署。

然而，AI小模型雖然看起來(lái)靈活輕便，但在實(shí)際開(kāi)發(fā)、部署和管理過(guò)程中卻也需要面臨很多方面的挑戰(zhàn)。AI小模型的開(kāi)發(fā)和部署流程主要包括數(shù)據(jù)分析、數(shù)據(jù)標(biāo)注，模型選擇，訓(xùn)練框架選擇和模型訓(xùn)練，模型轉(zhuǎn)換，以及模型部署。由于數(shù)據(jù)、容量和硬件性能各方面的限制，上述每一個(gè)環(huán)節(jié)都會(huì)遇到相應(yīng)的挑戰(zhàn)。

具體來(lái)看，在數(shù)據(jù)分析、數(shù)據(jù)標(biāo)注環(huán)節(jié)，開(kāi)發(fā)人員需要根據(jù)數(shù)據(jù)特點(diǎn)、檢測(cè)類型進(jìn)行數(shù)據(jù)標(biāo)注。高質(zhì)量的數(shù)據(jù)獲取和標(biāo)注是非常重要的，但完成這項(xiàng)工作并非易事。主要原因在于，需要智能化升級(jí)的企業(yè)往往對(duì)模型框架、部署方式認(rèn)知不足，對(duì)模型需要怎樣的數(shù)據(jù)只有模糊的概念，標(biāo)注人員對(duì)于數(shù)據(jù)的理解也不統(tǒng)一，從而導(dǎo)致數(shù)據(jù)質(zhì)量難以達(dá)標(biāo)，最終影響模型的性能和泛化性。

在模型選擇環(huán)節(jié)，開(kāi)發(fā)人員需要根據(jù)精度和算力需求，結(jié)合終端實(shí)際情況，選擇合適的算法模型。由于小模型通常具有簡(jiǎn)單的結(jié)構(gòu)和較少的參數(shù)，因此每一個(gè)小模型都有優(yōu)勢(shì)的應(yīng)用場(chǎng)景，開(kāi)發(fā)人員需要很大的精力去選擇和構(gòu)建模型，尤其是在高度可解釋性場(chǎng)景里，一旦選錯(cuò)，“真假”人工智能往往只有一步之遙。同時(shí)，考慮到生產(chǎn)任務(wù)時(shí)常變更，模型泛化能力也很重要。

在訓(xùn)練框架選擇和模型訓(xùn)練環(huán)節(jié)，開(kāi)發(fā)人員需要通過(guò)訓(xùn)練得到和特定場(chǎng)景適配的網(wǎng)絡(luò)及參數(shù)。這一環(huán)節(jié)是AI小模型開(kāi)發(fā)的最后一步，接下來(lái)就是部署。很多時(shí)候，開(kāi)發(fā)人員會(huì)被困在這一環(huán)節(jié)，由于數(shù)據(jù)、模型類型和訓(xùn)練框架等方面的問(wèn)題，會(huì)遇到訓(xùn)練的模型難以收斂，卻又找不到具體的問(wèn)題。

在模型轉(zhuǎn)換環(huán)節(jié)，開(kāi)發(fā)人員需要通過(guò)模型轉(zhuǎn)換，得到和推理框架匹配的網(wǎng)絡(luò)和參數(shù)。這個(gè)過(guò)程也包括很有必要的模型優(yōu)化，在保證性能的前提下，實(shí)現(xiàn)模型的高效壓縮和優(yōu)化。然而，模型轉(zhuǎn)換將會(huì)考驗(yàn)開(kāi)發(fā)人員多方面的能力，包括行業(yè)認(rèn)知、應(yīng)用經(jīng)驗(yàn)、硬件性能評(píng)估、數(shù)據(jù)微調(diào)、模型微調(diào)等。否則，模型很難達(dá)到最初預(yù)設(shè)的部署效果。

完成上述工作，最后將進(jìn)入模型部署環(huán)節(jié)，為終端移植對(duì)應(yīng)的推理框架，再將模型導(dǎo)入到推理引擎。并不是模型開(kāi)發(fā)和優(yōu)化完成就宣告成功了，模型部署的挑戰(zhàn)同樣很大。比如，開(kāi)發(fā)人員需要深刻理解推理引擎和推理算子，AI小模型更加注重算力利用率；需要充分適配硬件性能，完成算法模型和引擎之間的中間件開(kāi)發(fā)。

同時(shí)，我們也不能忽視AI人才短缺的問(wèn)題，這會(huì)進(jìn)一步增加AI小模型開(kāi)發(fā)和部署的難度和成本。正是由于重重挑戰(zhàn)的存在，一站式AI開(kāi)發(fā)工具成為工業(yè)智能的剛需和新寵。一站式AI開(kāi)發(fā)工具能夠提供覆蓋模型開(kāi)發(fā)到部署的全流程服務(wù)，簡(jiǎn)化AI方案的開(kāi)發(fā)流程，并做到提質(zhì)增效，讓每一個(gè)企業(yè)都擁有構(gòu)建專屬AI的能力。這也是移遠(yuǎn)通信推出「匠心」平臺(tái)的初衷和意義。

「匠心」平臺(tái)讓工業(yè)智能一蹴而就

「匠心」是寶維塔精心打造的行業(yè)AI平臺(tái)，可為企業(yè)提供一站式、低成本、低門檻的AI模型訓(xùn)練與部署服務(wù)，推動(dòng)AI技術(shù)便捷高效落地。移遠(yuǎn)通信產(chǎn)品經(jīng)理王柯指出：“對(duì)于企業(yè)而言，了解AI、熟悉AI部署是一項(xiàng)非常艱巨繁瑣的任務(wù)，如果有一站式AI開(kāi)發(fā)工具的幫忙，便能夠顯著降低企業(yè)應(yīng)用AI的門檻，讓工業(yè)智能應(yīng)用更快落地。相關(guān)工具的打造會(huì)涉及很多AI模型開(kāi)發(fā)和部署方面的‘know how’，這些‘know how’都是在多年項(xiàng)目實(shí)戰(zhàn)中積累起來(lái)的。親自經(jīng)歷過(guò)，才能打造出更好的產(chǎn)品。這正是寶維塔的優(yōu)勢(shì)所在?！?/span>

如下圖所示，這是一個(gè)端到端的全鏈路架構(gòu)，將「匠心」平臺(tái)、設(shè)備端的AI推理引擎SDK和物聯(lián)網(wǎng)連接融為一體?！附承摹蛊脚_(tái)提供數(shù)據(jù)上傳、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型測(cè)試、模型發(fā)布和一鍵部署等全流程功能。有了這個(gè)平臺(tái)，企業(yè)遇到的AI小模型相關(guān)問(wèn)題都會(huì)迎刃而解。

「匠心」平臺(tái)端到端全鏈路架構(gòu)，圖源：移遠(yuǎn)通信

移遠(yuǎn)通信為「匠心」平臺(tái)提供完善的教學(xué)材料和強(qiáng)大的技術(shù)支持團(tuán)隊(duì)，進(jìn)一步降低了企業(yè)的AI準(zhǔn)入門檻。為了提升企業(yè)部署工業(yè)智能的自由度，「匠心」平臺(tái)提供靈活的服務(wù)模式，無(wú)論企業(yè)有無(wú)自己的開(kāi)發(fā)團(tuán)隊(duì)，都能使用該平臺(tái)，企業(yè)既可以直接在寶維塔「匠心」平臺(tái)開(kāi)發(fā)訓(xùn)練模型，也可以選擇私有化部署。同時(shí)，「匠心」平臺(tái)能夠兼容目前市面上主流的硬件平臺(tái)，包括常規(guī)的X86 CPU架構(gòu)、英偉達(dá)顯卡，以及高通、紫光展銳、瑞芯微RK等公司的ARM架構(gòu)平臺(tái)。寶維塔還提供硬件狀態(tài)監(jiān)測(cè)和數(shù)據(jù)存儲(chǔ)策略，保障AI模型平穩(wěn)地運(yùn)行。

移遠(yuǎn)通信研發(fā)經(jīng)理俞喆俊分享了「匠心」平臺(tái)的具體操作以及相關(guān)應(yīng)用優(yōu)勢(shì)。比如，在AI模型開(kāi)發(fā)最開(kāi)始的數(shù)據(jù)標(biāo)注環(huán)節(jié)，如下圖所示，「匠心」平臺(tái)支持模型預(yù)標(biāo)注，鼠標(biāo)點(diǎn)擊自動(dòng)畫(huà)輪廓；支持?jǐn)?shù)據(jù)智能處理，物料自動(dòng)融合；支持使用自動(dòng)標(biāo)注模塊進(jìn)行預(yù)標(biāo)注；支持多人同時(shí)標(biāo)注。

「匠心」平臺(tái)數(shù)據(jù)標(biāo)注功能，圖源：移遠(yuǎn)通信

再比如，企業(yè)借助「匠心」平臺(tái)可進(jìn)行高效模型訓(xùn)練。該平臺(tái)支持訓(xùn)練量化提高精度，下圖展示了Int8量化感知訓(xùn)練；支持增量訓(xùn)練減少訓(xùn)練時(shí)間；支持訓(xùn)練過(guò)程和訓(xùn)練結(jié)果指標(biāo)的查看分析；支持自定義傳統(tǒng)算子。

「匠心」平臺(tái)Int8量化感知訓(xùn)練，圖源：移遠(yuǎn)通信

正如俞喆俊所言，有了「匠心」平臺(tái)，企業(yè)在引入AI技術(shù)時(shí)，關(guān)注點(diǎn)不再是模型和部署，而是功能的選擇?！附承摹蛊脚_(tái)的功能覆蓋圖像檢測(cè)、圖像分割、圖像分類和OCR識(shí)別。其中，亞像素分割（支持 3~5 pixel）是「匠心」平臺(tái)的一大特色，工業(yè)場(chǎng)景存在低分辨率場(chǎng)景，缺陷收集難度較大，基于亞像素分割算法，可以快速訓(xùn)練部署達(dá)到一定精度。因此，在試紙檢測(cè)、軸瓦分割模型、鋁絲驗(yàn)證、極柱防爆閥驗(yàn)證等項(xiàng)目中，「匠心」平臺(tái)的應(yīng)用可以大幅提升檢測(cè)和驗(yàn)證的準(zhǔn)確率。

「匠心」平臺(tái)亞像素分割算法優(yōu)勢(shì)，圖源：移遠(yuǎn)通信

根據(jù)俞喆俊的演示，「匠心」平臺(tái)在基于正樣本的缺陷檢測(cè)、未知背景過(guò)殺問(wèn)題等具體應(yīng)用，以及模型推理、模型泛化和模型部署等方面，都表現(xiàn)出了優(yōu)于競(jìng)品的性能。比如，在模型推理方面，「匠心」平臺(tái)的一大特色是提供加速推理的功能，能夠?qū)崿F(xiàn)2倍以上的推理加速效率。

總結(jié)而言，移遠(yuǎn)寶維塔「匠心」平臺(tái)是一個(gè)基于端到端全鏈路架構(gòu)的一站式AI開(kāi)發(fā)和部署平臺(tái)，提供靈活的服務(wù)模式，擁有亞像素分割、加速推理、多模型管理、系統(tǒng)監(jiān)測(cè)平臺(tái)等特征優(yōu)勢(shì)。除了3C電子外觀缺陷檢測(cè)、汽車電子零部件外觀缺陷檢測(cè)、半導(dǎo)體/泛半導(dǎo)體表面缺陷檢測(cè)、木板材封邊及外觀缺陷、玻璃表面檢測(cè)等工業(yè)智能類應(yīng)用，「匠心」還適用于自動(dòng)零售商品AI識(shí)別等消費(fèi)類應(yīng)用場(chǎng)景，以及農(nóng)副產(chǎn)品分選與循環(huán)經(jīng)濟(jì)垃圾分揀等其他AI應(yīng)用。

寫在最后

從自動(dòng)化到智能化，AI技術(shù)已經(jīng)成為工業(yè)革命的核心驅(qū)動(dòng)技術(shù)。面向廣泛的工業(yè)制造場(chǎng)景，云端AI大模型從數(shù)據(jù)量、成本、體量等方面來(lái)看，與大部分工業(yè)智能場(chǎng)景都不契合，AI小模型成為行業(yè)剛需。

不過(guò)，企業(yè)部署AI小模型面臨著一系列挑戰(zhàn)，亟需寶維塔「匠心」平臺(tái)這樣的一站式AI工具幫助他們應(yīng)對(duì)挑戰(zhàn)，高效完成工業(yè)AI應(yīng)用的開(kāi)發(fā)和部署。憑借端到端的全鏈路架構(gòu)，以及亞像素分割、推理加速等特色優(yōu)勢(shì)，寶維塔「匠心」平臺(tái)成為工業(yè)智能化升級(jí)的理想工具，將在數(shù)千億美元級(jí)別的自動(dòng)化市場(chǎng)里，迎來(lái)一片巨大的市場(chǎng)藍(lán)海。

（文章來(lái)源：電子發(fā)燒友網(wǎng)）