Deep Vision發(fā)布低延遲AI處理器

Deep Vision 是一家致力于為邊緣計算解決方案打造人工智能推理芯片、成立至今已有六年的初創(chuàng)企業(yè)。該公司宣布推出了全新的 ARA-1 處理器，有望在低延遲、高效能、以及計算性能之間找到合適的平衡。Deep Vision 表示，該芯片可在相機傳感器、到成熟的邊緣計算服務器等領域發(fā)揮重要的作用。

采用 M.2 接口封裝的 Deep Vision AI 處理器產品

得益于在實時視頻分析方面的實力，該芯片主要面向智能零售領域的解決方案，比如無人收銀的商店、智能城市、工業(yè) 4.0 / 機器人等領域。

此外該公司海域汽車行業(yè)的供應商合作，主要圍繞自動駕駛之外的車內監(jiān)測，以避免駕駛員分心或疲勞駕駛。

據悉，Deep Vision 由首席技術官 Rehan Hameed 和首席架構師 Wajahat Qadeer 攜手創(chuàng)立，后又招募了曾在英特爾和閃迪工作過的 Ravi Annavajjhala 作為公司的首席執(zhí)行官。

在斯坦福大學的博士學位論文中，Hameed 和 Qadeer 介紹了他們開發(fā)的 Deep Vision 體系架構。

采用 U.2 接口封裝的 Deep Vision AI 處理器產品

該架構致力于最大程度地減少芯片內的數據移動，因而在 AI 工作負載上具有出色的每瓦特、每美元的性能和效率表現。

不過在推出可用硬件之前，Deep Vision 很早就將精力集中到了構建自家的編譯器上，以確保該公司的解決方案可真正滿足客戶需求，然后才完成最終的芯片設計。

Rehan Hameed 表示，Deep Vision 特別強調減少 AI 計算的延遲，而市面上許多解決方案更樂于宣傳有多高的數據吞吐量。

但是該團隊認為，在邊緣解決方案中，低延遲是一項更重要的性能指標。相比之下，吞吐量只有在數據中心等領域才顯得有意義。

Deep Vision 首席技術官 Rehan Hameed 解釋稱，那些追求數據吞吐量的架構，要求加速器同時來處理大量的數據流（無論是通過批處理、還是管道執(zhí)行），以充分發(fā)揮硬件的性能。

然而這也是競爭方案獲得高吞吐量的唯一途徑，且這么做會導致單個任務的延遲相當高，使之難以在更側重于實時性能的邊緣用例中發(fā)揮作用。

值得一提的是，Deep Vision 宣稱其 AI 處理器的延遲要遠低于谷歌 Edge TPU 和 Movidius 的 MyriadX 方案。

除了通過硬件架構優(yōu)化來將芯片上的數據移動降至最低，還利用軟件層面的工作負載優(yōu)化，來改善架構內的整體數據流動。

責任編輯：haq