開發(fā)應(yīng)用程序中如何更好地利用人工智能

人工智能(AI)通常是一件通用的解決問題的利器,隨時準(zhǔn)備迎接任何挑戰(zhàn)。而有些時候,它被認(rèn)為預(yù)示著文明本身的終結(jié)。作為工程師,我們?nèi)绾尾拍茉陂_發(fā)應(yīng)用程序的過程中更好地利用人工智能,或者更正確地利用機(jī)器學(xué)習(xí)(ML)呢? 人工智能領(lǐng)域的最新進(jìn)展真的會讓我們變得多余嗎?

提到人工智能(AI),無疑是吸引主流媒體注意的一種重要方式。由于互聯(lián)網(wǎng)和云服務(wù)的發(fā)展,再加上時不時有問題的數(shù)據(jù)源,新的人工智能驅(qū)動的服務(wù)似乎無處不在。點(diǎn)擊幾下鼠標(biāo)后,你的文字可以放進(jìn)Morgan·Freeman的嘴里,或者你的圖像融入到一件新的藝術(shù)品中,這些有趣而發(fā)人深省的想法,要在嵌入式系統(tǒng)中實(shí)現(xiàn)并非易事,但這是該行業(yè)內(nèi)部正在發(fā)生的事情。

大多數(shù)嵌入式系統(tǒng)使用基于規(guī)則的編程方法來實(shí)現(xiàn)其功能。給定一組輸入數(shù)據(jù),一系列if/else或switch語句決定如何響應(yīng)。對于有限數(shù)量的輸入,這種方法效果很好。然而,在某些時候,輸入的數(shù)量或它們之間關(guān)系的微妙之處使得很難定義明確的、程序化的規(guī)則。

舉個例子,想象一下工廠里有一臺馬達(dá)一周7天、每天24小時運(yùn)轉(zhuǎn)。經(jīng)驗(yàn)告訴我們,隨著時間的推移,會發(fā)生磨損,軸承潤滑脂會變稠,進(jìn)而改變機(jī)器的啟動時間、噪聲、振動模式、電機(jī)工作溫度和電流等參數(shù)。定期維護(hù)是當(dāng)今應(yīng)對這一挑戰(zhàn)的方式,但它會導(dǎo)致固定的停機(jī)時間,從而中斷生產(chǎn)。

此外,它不太可能捕捉到由軸、軸承、套管或夾具的細(xì)微斷裂引起的即將發(fā)生的故障。經(jīng)過正確訓(xùn)練后,人工智能方法可以使用復(fù)雜的數(shù)據(jù)源組合來確定潛在故障。如果這種智能可以部署到基于微控制器的系統(tǒng)中,那么就會得到一個經(jīng)濟(jì)實(shí)惠的監(jiān)控系統(tǒng),既節(jié)省了時間和金錢,又減少了不必要的潤滑和零件更換造成的浪費(fèi)。

1 將智能引入微控制器中

在微控制器層面,我們談?wù)摰氖菣C(jī)器學(xué)習(xí)(ML),而不是 Al。這意味著對機(jī)器進(jìn)行編程,使用通過分析可用數(shù)據(jù)制定的規(guī)則來做出決策。雖然微控制器的功能強(qiáng)大到足以執(zhí)行這樣的ML算法,但從訓(xùn)練數(shù)據(jù)中學(xué)習(xí)仍然超出了它們的能力范圍,如果不是云服務(wù)器,至少需要一臺臺式計(jì)算機(jī)來執(zhí)行。Edge Impulse成立于2019年,開發(fā)了一個專門用于嵌入式系統(tǒng)中ML的平臺,并成功地與全球半導(dǎo)體供應(yīng)商進(jìn)行合作推廣。

任何ML應(yīng)用程序的起點(diǎn)都是數(shù)據(jù)。雖然一些應(yīng)用(比如自動駕駛)需要TB級的訓(xùn)練數(shù)據(jù),但簡單的基于微控制器的系統(tǒng)可以從少量(幾千字節(jié))的數(shù)據(jù)中學(xué)習(xí)。因此,將數(shù)據(jù)從板上取出并放到Edge Impulse環(huán)境中是第一個挑戰(zhàn)。最初的想法是使用 Arduino的串行接口將其發(fā)送到您的PC,然后從那里將其作為文本文件上傳。然而,他們的平臺是為了直接獲取數(shù)據(jù)。

2 數(shù)據(jù):Al的食物

其中一個工具是Data Forwarder,這是一個命令行(CLI)應(yīng)用程序,可以將數(shù)據(jù)從開發(fā)板直接發(fā)送到Edge Impulse環(huán)境。使用用戶名和密碼即可在PC上的串行端口和服務(wù)器之間建立鏈接。在微控制器方面,所需要的只是通過串行接口以逗號或制表符分隔的格式輸出數(shù)據(jù)。如果采樣率相對較低,那么這是直接從傳感器收集代表性數(shù)據(jù)的理想方法(見圖1)。更強(qiáng)大的嵌入式系統(tǒng)(如樹莓派或NVIDIA Jetson Nano)可以使用提供的軟件開發(fā)工具包(SDK)。它也支持麥克風(fēng)和攝像頭等傳感器產(chǎn)生更可觀的數(shù)據(jù)量。

數(shù)據(jù)上傳后,下一步就是定義“脈沖”。它們由兩個部分組成:第一部分將數(shù)據(jù)切片成更小的塊,并使用信號處理技術(shù)提取特征,這確保了可用的傳感器數(shù)據(jù)被轉(zhuǎn)換成第二個信號處理階段信息的一致性;第二部分是學(xué)習(xí)和分類的過程(見圖2)。在一個示例項(xiàng)目“連續(xù)運(yùn)動識別”中,很好地解釋了如何配置這些塊來分析加速度計(jì)數(shù)據(jù)并將此輸入分類為4種手勢之一。

這是任何ML開發(fā)中最關(guān)鍵的一步,通常需要橫向思維和多次迭代來確定最佳方法。有時候,忽略一些傳感器輸入是最好的解決方案,而其他時候,則需要更多的數(shù)據(jù)。你甚至可能會發(fā)現(xiàn)正在過度學(xué)習(xí),或者選擇的神經(jīng)網(wǎng)絡(luò)模型不適合你試圖進(jìn)行的分類。另一個至關(guān)重要的步驟是異常分類。在示例項(xiàng)目中,有4種定義的手勢。然而,需要排除其他類似于學(xué)習(xí)手勢的動作。良好的異常檢測提供了魯棒性更好的ML結(jié)果。

最后一步是部署。通過web界面下載所選設(shè)備的固件,以便集成到你的應(yīng)用程序中。對于Arduino,會生成一個庫,而對于其他微控制器,則可以生成一個C++文件。當(dāng)然,微控制器的性能差別很大。為了確保最佳結(jié)果,Edge Impulse提供了EON 調(diào)諧器。該工具可以通過使用目標(biāo)設(shè)備、內(nèi)存大小和延遲等信息進(jìn)一步提高檢測精度,加快推理速度,并降低內(nèi)存需求(見圖3)。

3 實(shí)際應(yīng)用中的ML

實(shí)際的應(yīng)用程序正在使用這種方法來嵌入ML功能。SlateSafety的BAND集成了一系列生物識別傳感器,以監(jiān)測在具有挑戰(zhàn)性的情況下工作的工人(見圖4)。這些人員包括從急救人員到穿戴重型個人防護(hù)裝備(PPE)的工業(yè)工人,比如消防員。他們的產(chǎn)品通常會將數(shù)據(jù)上傳到云端,這樣就可以監(jiān)測用戶的生命體征了。

但是,特別是在災(zāi)難情況下,網(wǎng)絡(luò)連接可能不完整甚至根本不存在。開發(fā)團(tuán)隊(duì)利用Edge Impulse將邊緣ML集成到現(xiàn)有產(chǎn)品中,并對歷史生物識別數(shù)據(jù)進(jìn)行了訓(xùn)練。使用EON Tuner,該算法針對硬件進(jìn)行了優(yōu)化,然后使用無線更新進(jìn)行部署?，F(xiàn)在,即使在沒有無線連接的情況下,BAND也可以在存在熱衰竭風(fēng)險時向佩戴者提供警告。

4 利用Al改進(jìn)產(chǎn)品開發(fā)

當(dāng)然,人工智能并不一定要集成到產(chǎn)品中,它也可以用于產(chǎn)品的開發(fā)。今天,許多復(fù)雜的應(yīng)用程序都是使用基于模型的方法開發(fā)的,本質(zhì)上是使用軟件和物理學(xué)的數(shù)學(xué)方程來描述事物是如何工作的。然而,這種方法也有其局限性,這就使Monolith和他們的自學(xué)AI平臺有了用武之地。

該平臺能夠根據(jù)已經(jīng)收集到的數(shù)據(jù)學(xué)習(xí)復(fù)雜系統(tǒng)的物理特性。例如,車輛在測試軌道上進(jìn)行一系列測試,多個傳感器監(jiān)測偏航和滾轉(zhuǎn)以及車輪速度和加速度。收集不同懸架剛度的數(shù)據(jù),可以很好地了解車輛對一系列駕駛情況的反應(yīng)。通常情況下,這些數(shù)據(jù)將被分析,從而在下一次試車時應(yīng)用新的設(shè)置。Monolith可以評估第一組測試運(yùn)行的數(shù)據(jù),并以很高的精度預(yù)測懸架變化的結(jié)果。該結(jié)果可用于更快地磨練最佳懸架設(shè)置,減少所需的額外物理測試運(yùn)行次數(shù)。

這種方法也可以應(yīng)用于計(jì)量。燃?xì)獗肀仨毞浅?zhǔn)確,以確保正確計(jì)費(fèi)。但當(dāng)儀表必須測量一系列不同的氣體時,這是具有一定挑戰(zhàn)性的。對客戶來說,模擬超聲波儀表已經(jīng)將純粹的數(shù)學(xué)分析推向了極限,使得重復(fù)的測試過程成為實(shí)現(xiàn)所需認(rèn)證的唯一校準(zhǔn)解決方案。幸運(yùn)的是,所有的測試都產(chǎn)生了豐富的數(shù)據(jù)集用于分析。使用自學(xué)習(xí)AI模型,所需的測試量下降了高達(dá)70%,顯著加快了開發(fā)速度。

5 大幅壓縮AI計(jì)算成本

像DARPA大挑戰(zhàn)賽這樣的比賽,團(tuán)隊(duì)建造了可以穿越蜿蜒路線的自動駕駛汽車,引發(fā)了人們對自動駕駛汽車的興趣。近20年后的今天,已經(jīng)投入了大量資金,但收效甚微,似乎只有Waymo提供了真正的自動駕駛汽車乘車服務(wù),但這些服務(wù)僅在美國的鳳凰城和舊金山運(yùn)營。其中一個問題是,讓一臺計(jì)算機(jī)控制汽車是非常具有挑戰(zhàn)性的。車輛不僅要不斷評估周圍的情況,還必須預(yù)測其他司機(jī)和道路使用者的行為,比如行人和騎自行車的人可能不遵守交通規(guī)則。

目前的情況是,汽車的電氣和電子(E/E)架構(gòu)正在發(fā)生變化,以滿足未來自動駕駛汽車的需求。隨著大量傳感器提供大量數(shù)據(jù),行業(yè)正在轉(zhuǎn)向自動網(wǎng)聯(lián)車。目前,這種方法正在形成先進(jìn)的駕駛員輔助系統(tǒng)(ADAS),它通過控制制動、加速和轉(zhuǎn)向,可以在駕駛員犯錯時介入。根據(jù)美國汽車工程師協(xié)會(SAE)的車輛自動駕駛水平,高檔車輛目前達(dá)到了L2+級,其中一些達(dá)到了L3級。然而,完全的“解放雙手”級別的自動駕駛是L5級,所以我們還有很長一段路要走。

Eurotech等公司正在支持該行業(yè)加快必要算法的開發(fā)。目前,一次8小時的試駕會收集120 TB的數(shù)據(jù),這些數(shù)據(jù)必須返回實(shí)驗(yàn)室進(jìn)行處理和分析。AI算法的改進(jìn)可以在實(shí)驗(yàn)室中使用收集到的數(shù)據(jù)進(jìn)行測試,但支持現(xiàn)場測試和算法開發(fā)的數(shù)據(jù)很少。

利用在液體冷卻方面的經(jīng)驗(yàn),Eurotech提供了一系列能夠勝任這項(xiàng)任務(wù)的邊緣Al硬件,本質(zhì)上是可以放在汽車后備箱里的小型超級計(jì)算機(jī)。像DYNACOR40 36這樣的設(shè)備經(jīng)過加固,可以在公路和越野車輛中使用。這款無風(fēng)扇計(jì)算機(jī)采用16核英特爾至強(qiáng) CPU(64 GB RAM),最多兩個NVIDIA GV100 GPU(32 GB RAM),提供237

TFLOPS來處理深度學(xué)習(xí)應(yīng)用程序(見圖5)。幾個千兆以太網(wǎng)接口支持?jǐn)z取大量傳感器數(shù)據(jù),包括雷達(dá)、攝像頭和激光雷達(dá)等數(shù)據(jù),并將這些數(shù)據(jù)注入32 TB的固態(tài)存儲器中。通過在試駕期間進(jìn)行更多的推理和強(qiáng)化測試,實(shí)現(xiàn)L5級自動駕駛的過程可能會顯著加快。

6 AI會危及我們的工作嗎?

社交媒體上正在討論AI的進(jìn)步是否會危及創(chuàng)意產(chǎn)業(yè)的工作崗位。OpenAI推出的DALL·E2將自然語言需求轉(zhuǎn)化為圖像(見圖6)。但是,也許更令人印象深刻的是它能夠真實(shí)地編輯現(xiàn)有圖像。例如,它可以移除前景或背景中的物體。此外,如果給它一幅荷蘭畫家維米爾(Vermeer)的作品,Al可以擴(kuò)展它的“戴珍珠耳環(huán)的女孩”,使人們對畫中她所處的房間有一個可信的印象。

然而,作家(比如Elektor和其他知名媒體的編輯團(tuán)隊(duì))對ChatGPT的推出感到震驚。這種Al可以以會話方式和多種語言與用戶進(jìn)行交互。到目前為止,關(guān)于碳化硅(SiC)MOSFET和氮化鎵(GaN)晶體管優(yōu)點(diǎn)的討論,以及它們相對于硅MOSFET的優(yōu)點(diǎn),已經(jīng)出現(xiàn)了高度精準(zhǔn)的效果。因此,即使是小眾話題,似乎也被很好地涵蓋了。

雖然這個工具非常聰明,但它只知道訓(xùn)練之前相關(guān)話題的答案。因?yàn)樗皇浅掷m(xù)學(xué)習(xí)的,所以不會了解最新的時事或最新的K pop樂隊(duì)劇(shame)。另一個小問題是,過了一段時間,答案似乎變得有點(diǎn)老套和公式化。

總之,嵌入式系統(tǒng)和AI越來越多地被用于創(chuàng)建智能、自主設(shè)備和系統(tǒng)中。嵌入式系統(tǒng)為AI算法的運(yùn)行提供了硬件和軟件平臺,而AI算法使這些系統(tǒng)能夠以更智能和更人性化的方式感知、分析和響應(yīng)其環(huán)境。隨著嵌入式系統(tǒng)和AI的能力不斷提高,我們期待在機(jī)器人、醫(yī)療保健、交通運(yùn)輸?shù)阮I(lǐng)域看到一系列令人興奮的新應(yīng)用。

審核編輯：彭菁