利用Hailo-8 TM推理芯片和插件模塊擴(kuò)展可行應(yīng)用程序的數(shù)量

Hailo-8 TM推理芯片通過消除內(nèi)在因素，擴(kuò)大了工業(yè)人工智能（AI）應(yīng)用程序的數(shù)量，可用于多種工業(yè)應(yīng)用程序，包括生產(chǎn)，流程，跟蹤和跟蹤，物流，質(zhì)量，機器功能以及預(yù)測性維護(hù)的優(yōu)化邊緣處理的服務(wù)器和云解決方案的局限性。服務(wù)器和云AI解決方案適用于廣泛的應(yīng)用程序，但是計算成本，網(wǎng)絡(luò)通信速度和延遲因素對許多實時工業(yè)和流程應(yīng)用程序構(gòu)成了限制。Hailo-8 TM推理芯片和插件模塊擴(kuò)展了可行的應(yīng)用程序數(shù)量。

Hailo由以色列國防軍精銳技術(shù)部門的成員于2017年在以色列成立，它開發(fā)了用于邊緣設(shè)備的AI處理器。該公司已獲得NEC和ABB的包括戰(zhàn)略投資在內(nèi)的8，800萬美元資金。該團(tuán)隊認(rèn)為Hailo技術(shù)的定位是改變AI芯片行業(yè)，為更多應(yīng)用程序帶來新的計算可能性。AI處理器旨在適應(yīng)各種行業(yè)和用例的智能設(shè)備，包括汽車，智能城市，零售和工業(yè)4.0。

Hailo-8是實時邊緣計算如何增加以在應(yīng)用程序中提供高性能和可靠性的另一個示例。工業(yè)自動化始于中央控制，隨著時間的流逝，隨著技術(shù)的進(jìn)步使其實用化，已經(jīng)慢慢往邊緣計算發(fā)展。這導(dǎo)致可用性，可靠性和性能提高，并擴(kuò)展了應(yīng)用程序使用案例。

Hailo芯片是高性能工業(yè)級Edge AI處理器

Liran Bar討論了市場上的其他產(chǎn)品，包括Nvidia，Intel Myriad-X和Google Edge TPU，并指出Hailo-8是唯一針對工業(yè)和汽車等低功耗和環(huán)保邊緣應(yīng)用而優(yōu)化的芯片。Bar提供了詳細(xì)的基準(zhǔn)信息，以支持Hailo在堅固邊緣應(yīng)用程序中的優(yōu)勢。

Hailo業(yè)務(wù)開發(fā)和產(chǎn)品營銷副總裁Liran Bar說：“ Hailo-8tm處理器通過使智能設(shè)備能夠在邊緣更有效地運行基于神經(jīng)網(wǎng)絡(luò)（NN）的應(yīng)用程序，正在改變多個行業(yè)的視覺智能和感官知覺?！?“我們的M.2和Mini PCIe高性能AI加速模塊使客戶能夠?qū)I功能集成到邊緣設(shè)備中，從而擴(kuò)展了這些功能，從而提供了一種更加靈活和優(yōu)化的解決方案，以高效地加速各種基于深度學(xué)習(xí)的應(yīng)用程序，并以標(biāo)準(zhǔn)尺寸優(yōu)化上市時間。”

附加模塊

此外，還可以通過使用 在許多計算機（包括嵌入式工業(yè)PC）中使用的流行M.2 和mPCIe連接器標(biāo)準(zhǔn)提供的插件附加板模塊來應(yīng)用Hailo-8，而這些模塊包括高性能的AI處理，而不會降低計算機中的其他應(yīng)用程序。規(guī)格包括每秒26兆操作數(shù)（TOPS）的Hailo-8?處理器，具有3 TOPS / Watt的高功率效率，可滿足工業(yè)環(huán)境要求。

這類似于早期的PC協(xié)處理器插件以實現(xiàn)高性能的浮點數(shù)學(xué)計算性能，而視頻顯示協(xié)處理器則實現(xiàn)了高分辨率/高性能的圖形。例如，原始的 IBM PC 包含一個用于Intel 8087的插槽。浮點 協(xié)處理器（又名 FPU），對于使用PC進(jìn)行計算機輔助設(shè)計 或數(shù)學(xué)密集型計算的人們來說，它是一種流行的選擇 。

系統(tǒng)方法

Hailo設(shè)備受到Dataflow Compiler的支持，Dataflow Compiler是一個完整且可擴(kuò)展的軟件工具鏈，可與現(xiàn)有的深度學(xué)習(xí)開發(fā)框架無縫集成，從而可以輕松集成到現(xiàn)有的開發(fā)生態(tài)系統(tǒng)中。支持開放標(biāo)準(zhǔn)，包括TensorFlow和ONNX。

AI優(yōu)化架構(gòu)

Liran Bar解釋了非常有趣的體系結(jié)構(gòu)，因為該應(yīng)用程序?qū)嵸|(zhì)上是驅(qū)動芯片資源的動態(tài)配置以優(yōu)化性能。Hailo-8芯片包含許多具有控制，內(nèi)存和計算功能的處理元素集，這些元素被配置和分配為基于用戶應(yīng)用程序執(zhí)行神經(jīng)網(wǎng)絡(luò)圖的各個層。這與基于經(jīng)典馮·諾依曼架構(gòu)的通用計算機模型形成鮮明對比，該模型也被稱為具有單個CPU，內(nèi)存和控制的普林斯頓架構(gòu)。

Hailo-8芯片具有許多控制，內(nèi)存和計算元素集，可根據(jù)用戶應(yīng)用程序?qū)⑵渑渲貌⒎峙浣o神經(jīng)網(wǎng)絡(luò)圖的各個層，以實現(xiàn)高性能。

應(yīng)用實例

富士康 已經(jīng)在不同的生產(chǎn)線上部署了幾種內(nèi)部開發(fā)的AI解決方案，從而將報告準(zhǔn)確性從95％提高到了99％，并將缺陷檢查項目的運營成本至少降低了三分之一。創(chuàng)建標(biāo)準(zhǔn)化解決方案富士康將其高密度，無風(fēng)扇的邊緣計算機“ BOXiedge?”與Socionext的高效并行處理器“ SynQuacer?” SC2A11和Hailo-8?深度學(xué)習(xí)處理器相結(jié)合，創(chuàng)建了一個節(jié)能的獨立AI推理節(jié)點邊緣的視頻分析。這款新產(chǎn)品能夠?qū)崟r在邊緣處理和分析20多個流式攝像機輸入提要，以進(jìn)行視頻分析和隱私保護(hù)，包括圖像分類，檢測，姿勢估計和其他各種基于AI的應(yīng)用程序。

巴爾說：“通過確保制造商不必在性能，成本或延遲方面進(jìn)行折衷，邊緣上的高效深度學(xué)習(xí)處理將迎來新一代的工業(yè)4.0。當(dāng)前的解決方案通常運行在過時的處理架構(gòu)上，無法跟上發(fā)展速度。滿足智能工廠所需的計算需求，例如多設(shè)備自動化和連接性。Hailo-8 edge AI處理器可實時支持多個流式攝像機輸入提要，從而確保視頻分析的最佳性能，同時保持隱私。我們期待幫助將工業(yè)4.0引入新的數(shù)字時代。”

邊緣計算趨勢

Hailo-8是實時邊緣計算如何增加以在應(yīng)用程序中提供高性能和可靠性的另一個示例。工業(yè)自動化始于中央控制，隨著技術(shù)的進(jìn)步使其實用化，加班處理一直被推向邊緣，從而提高了可用性，可靠性和性能，并擴(kuò)展了應(yīng)用程序用例。

責(zé)任編輯：gt