嵌入式視覺(jué)的發(fā)展趨勢(shì)及其算法示例

在這篇文章中，前賽靈思機(jī)器視覺(jué)市場(chǎng)戰(zhàn)略總監(jiān)Aaron Behman 針對(duì)嵌入式視覺(jué)方面的問(wèn)題進(jìn)行了介紹，并解讀了賽靈思 All Programmable Zynq? SoC 的獨(dú)特解決方案。希望能為讀者了解該領(lǐng)域的問(wèn)題有所幫助。
?

一、嵌入式視覺(jué)四大普遍趨勢(shì)

嵌入式視覺(jué)可劃分為兩個(gè)高級(jí)類(lèi)別；感知環(huán)境和采取行動(dòng)。視覺(jué)導(dǎo)向的機(jī)器人和無(wú)人機(jī)屬于后面的采取行動(dòng)類(lèi)。

在民用領(lǐng)域，目前無(wú)人機(jī)是商業(yè)、醫(yī)療、農(nóng)業(yè)、廣播和執(zhí)法應(yīng)用中最熱門(mén)的話(huà)題之一。對(duì)許多這樣的應(yīng)用，無(wú)人機(jī)可提供顯著的優(yōu)勢(shì)。在廣播和執(zhí)法領(lǐng)域，無(wú)人機(jī)能夠以低得多的成本提供之前需要直升機(jī)才能提供的能力。無(wú)人機(jī)還能執(zhí)行預(yù)訂服務(wù)，例如即將推出的 Amazon Prime 交貨服務(wù)，或者如烏干達(dá)偏遠(yuǎn)地區(qū)的醫(yī)療產(chǎn)品交貨服務(wù)。在農(nóng)業(yè)應(yīng)用中，無(wú)人機(jī)能使用高光譜成像來(lái)判斷作物的健康狀況。而這些應(yīng)用，只不過(guò)是目前已經(jīng)在使用或正在考慮使用無(wú)人機(jī)技術(shù)應(yīng)用的冰山一角。

農(nóng)業(yè)無(wú)人機(jī)應(yīng)用示例

這些應(yīng)用，綜合起來(lái)體現(xiàn)著我們?cè)谇度胧揭曈X(jué)總體環(huán)境中觀察到的嵌入式視覺(jué)當(dāng)前四大普遍趨勢(shì)中的三大趨勢(shì)：

1、邊緣（edge）端通過(guò)機(jī)器學(xué)習(xí)獲得的智能化 – 智能化嵌入在無(wú)人機(jī)本身內(nèi)部，需要從它的攝像頭提取信息并根據(jù)該信息采取行動(dòng)，達(dá)成自己的目標(biāo)。

2、開(kāi)放式高級(jí)語(yǔ)言和框架 – 在無(wú)人機(jī)中實(shí)現(xiàn)智能化需要高級(jí)框架和語(yǔ)言。這些中最常用的是開(kāi)源多平臺(tái)框架，比如嵌入式環(huán)境里的 OpenCV、OpenVX，以及在機(jī)器學(xué)習(xí)環(huán)境里的 Tensor Flow 和 Caffe。

3、多層次的安全性 – 用于確保無(wú)人機(jī)不僅能夠運(yùn)行，且不能影響安全性和信息獲取。這種方法要求在器件、系統(tǒng)和網(wǎng)絡(luò)層面實(shí)現(xiàn)多層次的安全性。

第四個(gè)趨勢(shì)是嵌入式視覺(jué)的普及化。雖然視覺(jué)導(dǎo)向的機(jī)器人和無(wú)人機(jī)還不像我們的手機(jī)一樣普及——我們常在旅行中用手機(jī)來(lái)翻譯標(biāo)牌等用途，隨著新用例被發(fā)掘出來(lái)，使用視覺(jué)導(dǎo)向的機(jī)器人和無(wú)人機(jī)的應(yīng)用正處于快速發(fā)展中。

在架構(gòu)層面無(wú)人機(jī)擁有一些關(guān)鍵的子系統(tǒng)，包括實(shí)時(shí)精準(zhǔn)的馬達(dá)控制系統(tǒng)、提供與無(wú)人機(jī)雙向通信的軟件無(wú)線電和精確的嵌入式視覺(jué)系統(tǒng)。視覺(jué)導(dǎo)向的機(jī)器人和無(wú)人機(jī)主要針對(duì)大部分電池供電的應(yīng)用，因此設(shè)計(jì)高能效解決方案的能力極為重要。

高精度嵌入式視覺(jué)系統(tǒng)提供高幀率，其處理圖像和根據(jù)圖像采取行動(dòng)的能力要遠(yuǎn)超過(guò)人眼。對(duì)許多應(yīng)用來(lái)說(shuō)，需要使用多個(gè)攝像頭來(lái)形成立體多視覺(jué)，以完整掌握無(wú)人機(jī)周邊環(huán)境。這也稱(chēng)為傳感器融合。雖然許多應(yīng)用使用多攝像頭方法來(lái)觀察環(huán)境，部分應(yīng)用還會(huì)把設(shè)計(jì)用于觀測(cè)電磁場(chǎng)頻譜不同組成部分的攝像頭結(jié)合起來(lái)使用，例如在超光譜或紅外應(yīng)用中的情況。在使用多個(gè)相同類(lèi)型傳感器的時(shí)候這一般稱(chēng)為同構(gòu)，在使用不同傳感器技術(shù)的時(shí)候稱(chēng)為異構(gòu)。

在算法層面，這種高精度嵌入式視覺(jué)系統(tǒng)運(yùn)行的算法有同步定位與地圖構(gòu)建（SLAM）和稠密光流（Dense Optical Flow），以為平臺(tái)提供增強(qiáng)型感知和避障系統(tǒng)。這些算法還與更傳統(tǒng)的模式和對(duì)象識(shí)別算法結(jié)合。

稠密光流設(shè)計(jì)

視覺(jué)導(dǎo)向的機(jī)器人和無(wú)人機(jī)因此不僅需要強(qiáng)大的處理能力，還需要有能力進(jìn)行功耗優(yōu)化，提供面向未來(lái)且具有可擴(kuò)展性的解決方案。

All Programmable Zynq? SoC 可針對(duì)您面臨的問(wèn)題提供獨(dú)特的解決方案。Zynq 提供的高性能邏輯，與雙核 ARM? A9 處理器集成可打造出緊密集成的異構(gòu)處理單元。該異構(gòu)處理單元能夠在處理器內(nèi)或可編程邏輯內(nèi)實(shí)現(xiàn)高效率的功能細(xì)分。

使用基于 ARM 的處理系統(tǒng)，可以在邊緣開(kāi)展極為復(fù)雜的實(shí)時(shí)視覺(jué)分析。在與可編程邏輯架構(gòu)結(jié)合后，它提供實(shí)時(shí)檢測(cè)對(duì)象然后使用處理器系統(tǒng)分類(lèi)對(duì)象的能力。分類(lèi)完成后，視覺(jué)導(dǎo)向機(jī)器人系統(tǒng)或無(wú)人機(jī)就能針對(duì)檢測(cè)出的對(duì)象類(lèi)采取適當(dāng)?shù)男袆?dòng)。

為在邊緣實(shí)現(xiàn)實(shí)時(shí)視覺(jué)分析，我們運(yùn)用了機(jī)器學(xué)習(xí)提供的智能化技術(shù)。要執(zhí)行這些算法，我們首先需要模型并提供大型培訓(xùn)數(shù)據(jù)集，使模型能夠進(jìn)行分析。在極高性能工作站上進(jìn)行培訓(xùn)，得到的分類(lèi)器被用于實(shí)現(xiàn)方案中。開(kāi)展這類(lèi)機(jī)器學(xué)習(xí)有多種不同的方法可供選擇，例如卷積神經(jīng)網(wǎng)絡(luò)、深度神經(jīng)網(wǎng)絡(luò)或遞歸神經(jīng)網(wǎng)絡(luò)。

當(dāng)我們?cè)谶吘墝?shí)現(xiàn)這些模型時(shí)，我們不需要與培訓(xùn)相同水平的性能?？梢允褂谜麛?shù)或浮點(diǎn)數(shù)學(xué)，兩者都能方便地實(shí)現(xiàn)在 All Programmable SoC 中。