0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

優(yōu)化AI可傳輸計(jì)算架構(gòu)

星星科技指導(dǎo)員 ? 來(lái)源:嵌入式計(jì)算設(shè)計(jì) ? 作者:Braden Cooper ? 2022-11-07 11:20 ? 次閱讀

軍事電子行業(yè)的人工智能AI)正在以超現(xiàn)實(shí)的速度增長(zhǎng)。各個(gè)領(lǐng)域的最新創(chuàng)新恰逢將計(jì)算、傳感器技術(shù)和軟件方面最強(qiáng)大的進(jìn)步帶到關(guān)鍵任務(wù)場(chǎng)景中。正如GPU在原始計(jì)算能力方面繼續(xù)超過(guò)摩爾定律一樣,新的傳感器和網(wǎng)絡(luò)接口帶來(lái)了越來(lái)越大的數(shù)據(jù)集需要計(jì)算。這些新技術(shù)為將商業(yè)和科學(xué)人工智能進(jìn)步的力量帶入軍事可運(yùn)輸設(shè)施提供了關(guān)鍵機(jī)會(huì)。民用數(shù)據(jù)中心型人工智能應(yīng)用和軍用可運(yùn)輸部署之間的主要區(qū)別(和障礙)是任務(wù)的環(huán)境、電力和安全要求。

需要在邊緣部署人工智能系統(tǒng)的一個(gè)明顯例子是軍用陸地、空中或海上車輛的威脅檢測(cè)。與民用自動(dòng)駕駛汽車物體識(shí)別一樣,軍事威脅檢測(cè)系統(tǒng)正在捕獲傳入的傳感器數(shù)據(jù),將數(shù)據(jù)提供給預(yù)先訓(xùn)練的AI模型,并在傳感器數(shù)據(jù)中推斷威脅的跡象。此工作流雖然只有幾個(gè)步驟,但需要幾個(gè)不同的復(fù)雜硬件層。傳感器向計(jì)算節(jié)點(diǎn)提供數(shù)據(jù)流,計(jì)算節(jié)點(diǎn)又將可操作的智能分發(fā)到適當(dāng)?shù)淖酉到y(tǒng),所有這些子系統(tǒng)都在高速存儲(chǔ)和互連的框架上運(yùn)行。

構(gòu)建硬件架構(gòu)圖成為根據(jù)車輛的尺寸、重量和功率 (SWaP) 限制優(yōu)化連續(xù)數(shù)據(jù)吞吐量的一項(xiàng)練習(xí)。雖然可以通過(guò)添加另一個(gè)計(jì)算機(jī)系統(tǒng)機(jī)架來(lái)優(yōu)化民用數(shù)據(jù)中心的工作流程,但大多數(shù)軍用車輛的獨(dú)特功率、外形和環(huán)境條件使得對(duì)優(yōu)化的人工智能可移動(dòng)系統(tǒng)的挑戰(zhàn)和需求顯而易見。

應(yīng)對(duì)此工作流程挑戰(zhàn)的可能解決方案是將傳感器數(shù)據(jù)流廣播到遠(yuǎn)程或移動(dòng)數(shù)據(jù)中心,這可以支持邊緣優(yōu)化程度較低的計(jì)算機(jī)系統(tǒng);從而消除了對(duì) AI 計(jì)算節(jié)點(diǎn)進(jìn)行加固的需要。然而,隨著數(shù)據(jù)量的增長(zhǎng),傳感器數(shù)據(jù)存儲(chǔ)與“云”或遠(yuǎn)程數(shù)據(jù)中心之間的通信路徑很快成為吞吐量瓶頸。為了在軍事可移動(dòng)人工智能應(yīng)用中充分利用最新的人工智能技術(shù),應(yīng)使用邊緣優(yōu)化的融合系統(tǒng)來(lái)集成整個(gè)工作流程。

這些堅(jiān)固耐用的軍用系統(tǒng)可最大限度地提高傳感器數(shù)據(jù)攝取速率,并將其與整個(gè)計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)速度相匹配。在這種無(wú)瓶頸體系結(jié)構(gòu)中,平衡的數(shù)據(jù)流可以以可縮放的方式滿足數(shù)據(jù)的計(jì)算需求,該方式可以隨著數(shù)據(jù)的增長(zhǎng)而增長(zhǎng)。無(wú)需遠(yuǎn)程計(jì)算意味著可以捕獲、處理傳感器數(shù)據(jù)并將其用于實(shí)時(shí)推理和決策。

打破對(duì)遠(yuǎn)程數(shù)據(jù)中心和云計(jì)算的依賴可以優(yōu)化AI工作流程的吞吐量,但確實(shí)帶來(lái)了新的挑戰(zhàn)。與軍用車輛中的所有電子系統(tǒng)一樣,融合AI系統(tǒng)的設(shè)計(jì)必須滿足嚴(yán)格的MIL-STD環(huán)境條件以及各自車輛的獨(dú)特動(dòng)力傳輸系統(tǒng)。為數(shù)據(jù)中心構(gòu)建的商用現(xiàn)貨 (COTS) 服務(wù)器可在配備 220VAC 單相電源的空調(diào)房中運(yùn)行。為了真正優(yōu)化通常在不太理想條件下運(yùn)行的軍用車輛的AI工作流程,托管AI構(gòu)建塊的系統(tǒng)必須經(jīng)過(guò)設(shè)計(jì),測(cè)試和認(rèn)證,以滿足它們將繼續(xù)支持的任務(wù)的嚴(yán)格要求。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 傳感器
    +關(guān)注

    關(guān)注

    2552

    文章

    51353

    瀏覽量

    755560
  • 人工智能
    +關(guān)注

    關(guān)注

    1793

    文章

    47588

    瀏覽量

    239465
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI云端計(jì)算資源的多維度優(yōu)勢(shì)

    AI云端計(jì)算資源,作為AI技術(shù)與云計(jì)算深度融合的產(chǎn)物,在成本效益、性能優(yōu)化、數(shù)據(jù)安全、靈活擴(kuò)展以及創(chuàng)新加速等多個(gè)維度都具有顯著優(yōu)勢(shì)。下面,
    的頭像 發(fā)表于 01-07 11:11 ?84次閱讀

    如何優(yōu)化總線系統(tǒng)的性能

    總線系統(tǒng)是計(jì)算機(jī)和其他電子設(shè)備中用于傳輸數(shù)據(jù)的關(guān)鍵組件。性能優(yōu)化可以提高數(shù)據(jù)傳輸速率、降低延遲,并增強(qiáng)系統(tǒng)的可靠性和擴(kuò)展性。 1. 理解總線系統(tǒng) 總線類型 :介紹不同類型的總線,如PC
    的頭像 發(fā)表于 12-31 09:54 ?127次閱讀

    《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變

    對(duì)卷積核優(yōu)化的思考。 GPU的存儲(chǔ)體系采用了獨(dú)特的倒金字塔結(jié)構(gòu),在我看來(lái)這是其計(jì)算性能的關(guān)鍵。大容量寄存器設(shè)計(jì)破解了傳統(tǒng)馮諾依曼架構(gòu)的內(nèi)存瓶頸,合并訪存機(jī)制巧妙解決了內(nèi)存帶寬限制。NVIDIA GPU
    發(fā)表于 11-24 17:12

    NPU技術(shù)如何提升AI性能

    設(shè)計(jì)的處理器,與傳統(tǒng)的CPU和GPU相比,它在執(zhí)行深度學(xué)習(xí)任務(wù)時(shí)具有更高的效率和更低的能耗。NPU通過(guò)專門優(yōu)化的硬件結(jié)構(gòu)和指令集,能夠更快地處理神經(jīng)網(wǎng)絡(luò)中的大量并行計(jì)算任務(wù)。 1. 優(yōu)化硬件
    的頭像 發(fā)表于 11-15 09:11 ?604次閱讀

    華迅光通AI計(jì)算加速800G光模塊部署

    ChatGPT引爆的AI大模型市場(chǎng),數(shù)據(jù)中心的東西流量和內(nèi)部服務(wù)器流量比例增加。 更新數(shù)據(jù)中心拓?fù)浣Y(jié)構(gòu) 數(shù)據(jù)中心計(jì)算規(guī)模和東西向流量不斷擴(kuò)大,數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)也在不斷變化。在傳統(tǒng)的三層拓?fù)浣Y(jié)構(gòu)中
    發(fā)表于 11-13 10:16

    如何優(yōu)化SOC芯片性能

    的核心數(shù)量、頻率和架構(gòu)。例如,對(duì)于高性能計(jì)算應(yīng)用,可能需要高頻率、多核心的設(shè)計(jì);而對(duì)于低功耗應(yīng)用,則可能需要優(yōu)化功耗效率的核心。 總線與接口優(yōu)化
    的頭像 發(fā)表于 10-31 15:50 ?645次閱讀

    未來(lái)AI大模型的發(fā)展趨勢(shì)

    未來(lái)AI大模型的發(fā)展趨勢(shì)將呈現(xiàn)多元化和深入化的特點(diǎn),以下是對(duì)其發(fā)展趨勢(shì)的分析: 一、技術(shù)驅(qū)動(dòng)與創(chuàng)新 算法與架構(gòu)優(yōu)化 : 隨著Transformer架構(gòu)的廣泛應(yīng)用,
    的頭像 發(fā)表于 10-23 15:06 ?755次閱讀

    AI云平臺(tái)與傳統(tǒng)云計(jì)算的區(qū)別

    AI云平臺(tái)與傳統(tǒng)云計(jì)算在定義、技術(shù)架構(gòu)、應(yīng)用場(chǎng)景和服務(wù)模式等方面存在顯著差異。
    的頭像 發(fā)表于 10-14 10:08 ?414次閱讀

    3D DRAM內(nèi)嵌AI芯片,AI計(jì)算性能暴增

    當(dāng)前高帶寬內(nèi)存(HBM)中的DRAM芯片,通過(guò)在3D DRAM中實(shí)現(xiàn)AI處理來(lái)解決數(shù)據(jù)總線問(wèn)題。 ? 通常來(lái)說(shuō),當(dāng)前的 AI芯片架構(gòu)將數(shù)據(jù)存儲(chǔ)在高帶寬內(nèi)存中,并通過(guò)數(shù)據(jù)總線將數(shù)據(jù)傳輸
    的頭像 發(fā)表于 08-16 00:08 ?3299次閱讀
    3D DRAM內(nèi)嵌<b class='flag-5'>AI</b>芯片,<b class='flag-5'>AI</b><b class='flag-5'>計(jì)算</b>性能暴增

    AI云服務(wù)器:開啟智能計(jì)算新時(shí)代

    一、AI云服務(wù)器的定義與特點(diǎn) AI云服務(wù)器的定義 AI云服務(wù)器是一種基于云計(jì)算技術(shù),專為處理人工智能相關(guān)工作負(fù)載而構(gòu)建的服務(wù)器。它集成了強(qiáng)大的計(jì)算
    的頭像 發(fā)表于 08-09 16:08 ?978次閱讀

    ai服務(wù)器是什么架構(gòu)類型

    AI服務(wù)器,即人工智能服務(wù)器,是專門為人工智能應(yīng)用設(shè)計(jì)的高性能計(jì)算服務(wù)器。AI服務(wù)器的架構(gòu)類型有很多種,以下是一些常見的架構(gòu)類型: CPU
    的頭像 發(fā)表于 07-02 09:51 ?1180次閱讀

    進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級(jí)芯片

    2024年3月19日,[英偉達(dá)]CEO[黃仁勛]在GTC大會(huì)上公布了新一代AI芯片架構(gòu)BLACKWELL,并推出基于該架構(gòu)的超級(jí)芯片GB200,將助推數(shù)據(jù)處理、工程模擬、電子設(shè)計(jì)自動(dòng)化、計(jì)算
    發(fā)表于 05-13 17:16

    risc-v多核芯片在AI方面的應(yīng)用

    在極低的能耗下實(shí)現(xiàn)高效的AI元器件的運(yùn)行。這對(duì)于需要長(zhǎng)時(shí)間運(yùn)行和依賴電池供電的AI設(shè)備來(lái)說(shuō)尤為重要。 其次,RISC-V的模塊化架構(gòu)允許其不同部分以模塊化的方式串在一起,從而滿足各種不同的應(yīng)用需求。這使
    發(fā)表于 04-28 09:20

    NanoEdge AI的技術(shù)原理、應(yīng)用場(chǎng)景及優(yōu)勢(shì)

    ,可以減少數(shù)據(jù)在傳輸過(guò)程中被竊取或篡改的風(fēng)險(xiǎn),提高數(shù)據(jù)安全性。 - 低能耗:通過(guò)優(yōu)化神經(jīng)網(wǎng)絡(luò)模型和硬件設(shè)計(jì),NanoEdge AI 可以在有限的資源下實(shí)現(xiàn)高效的計(jì)算,降低設(shè)備的能耗。
    發(fā)表于 03-12 08:09

    國(guó)科微:將持續(xù)優(yōu)化邊緣AI戰(zhàn)略布局

    國(guó)科微近日在接受調(diào)研時(shí)透露,公司正積極推進(jìn)搭載自研NPU架構(gòu)的芯片研發(fā),主要聚焦在邊緣側(cè)應(yīng)用。公司表示,將持續(xù)優(yōu)化邊緣AI戰(zhàn)略布局,加快AI技術(shù)在全系芯片中的普及化應(yīng)用進(jìn)程。
    的頭像 發(fā)表于 02-23 11:23 ?883次閱讀