端側(cè) AI 芯片：終端智能落地的核心引擎

電子發(fā)燒友網(wǎng)報道（文 / 李彎彎）端側(cè) AI 芯片，是專門為在諸如智能手機、IoT 設(shè)備、自動駕駛汽車等終端設(shè)備上，高效運行人工智能算法而設(shè)計的處理器。通過硬件級優(yōu)化，它們能夠?qū)崿F(xiàn)低功耗、高實時性的 AI 計算，構(gòu)成了端側(cè) AI 落地的核心硬件基礎(chǔ)。

為何需要端側(cè) AI 芯片？隨著 AI 技術(shù)不斷發(fā)展，傳統(tǒng)芯片暴露出局限性。CPU 和 GPU 雖通用性強，但能效比較低，難以契合移動設(shè)備對功耗的嚴苛要求；依賴云端則會引發(fā)延遲、隱私以及網(wǎng)絡(luò)穩(wěn)定性等問題。與之相比，專用端側(cè) AI 芯片優(yōu)勢顯著，具備高能效比、低延遲、隱私安全保障以及離線運行能力等特性。

端側(cè) AI 芯片的核心技術(shù)涵蓋架構(gòu)設(shè)計與關(guān)鍵技術(shù)創(chuàng)新等方面。在架構(gòu)設(shè)計上，NPU（神經(jīng)網(wǎng)絡(luò)處理單元）堪稱端側(cè) AI 芯片的核心。它是專為神經(jīng)網(wǎng)絡(luò)設(shè)計的加速器，像華為昇騰 NPU、Apple 神經(jīng)引擎等，支持并行計算以及 INT8/FP16 低精度運算。

再者是異構(gòu)計算架構(gòu)，現(xiàn)代端側(cè) AI 芯片普遍采用該架構(gòu)，集成了 CPU、GPU、NPU、DSP（數(shù)字信號處理器）等多種計算單元，以應(yīng)對各類不同的計算任務(wù)，高通 Hexagon 便是典型代表。

在關(guān)鍵技術(shù)創(chuàng)新方面，量化計算可支持 INT4/INT8 低精度運算，有效提升能效，聯(lián)發(fā)科 APU 就是范例；稀疏化加速技術(shù)能夠跳過零值權(quán)重計算，例如特斯拉 Dojo 芯片；存算一體技術(shù)可減少數(shù)據(jù)搬運功耗（即存內(nèi)計算，如存算一體芯片）；動態(tài)調(diào)度技術(shù)能夠依據(jù)任務(wù)負載動態(tài)分配算力，ARM Ethos NPU 便是如此。

主流的端側(cè) AI 芯片廠商及產(chǎn)品有哪些？在此列舉部分廣為人知的廠商及其產(chǎn)品。華為海思昇騰（Ascend）系列，屬于面向邊緣推理的 AI 芯片，如 Ascend 310；麒麟 SoC 集成了 NPU，像麒麟 9000，可支持手機端 AI 任務(wù)。

高通驍龍移動平臺，部分型號支持端側(cè) AI，比如驍龍 8 Gen 2 集成了 Hexagon 處理器，算力超過 60 TOPS；QCS 系列則是面向物聯(lián)網(wǎng)設(shè)備的 AI 芯片，例如 QCS8250 支持 15 TOPS 算力。

聯(lián)發(fā)科天璣系列集成了 AI 處理器，可支持端側(cè) AI 任務(wù)。

蘋果 A 系列 / M 系列芯片集成了神經(jīng)網(wǎng)絡(luò)引擎，像 A17 Pro 算力達 35 TOPS，M2 芯片算力達 15.8 TOPS。

三星 Exynos 系列，例如 Exynos Auto V 系列，是面向車用的 AI 芯片，算力超過 10 TOPS。

英特爾 Movidius VPU 專為視覺 AI 優(yōu)化，比如 Myriad X 支持 4 TOPS 算力。

地平線（Horizon Robotics）征程系列面向自動駕駛和智能座艙，如征程 5 算力達 128 TOPS。

寒武紀（Cambricon）MLU 系列，像 MLU220 支持 8 TOPS 算力，面向邊緣推理。

全志科技（Allwinner）V/R 系列，例如 V853 集成了 NPU，算力 1.2 TOPS，適用于智能攝像頭。

瑞芯微（Rockchip）RK3588 內(nèi)置 6 TOPS NPU，支持旗艦級邊緣計算。

當前，端側(cè) AI 芯片的發(fā)展面臨諸多挑戰(zhàn)：在能效平衡方面，移動設(shè)備需要在 1W 以下功耗實現(xiàn) TOPS 級算力；算法適配層面，芯片需要支持動態(tài)稀疏化、混合精度等前沿算法；開發(fā)門檻上，存在廠商專用工具鏈（如華為 MindSpore Lite）與通用框架（TensorFlow Lite）的兼容性問題；碎片化生態(tài)方面，不同廠商的 NPU 指令集和編譯器存在差異，導(dǎo)致移植成本居高不下。

從發(fā)展趨勢來看，隨著 AI 模型復(fù)雜度提升，端側(cè) AI 芯片的算力會持續(xù)增強，同時維持低功耗狀態(tài)。端側(cè) AI 芯片將支持多模態(tài)數(shù)據(jù)（如圖像、語音、傳感器數(shù)據(jù)）的融合處理，從而拓展更為豐富的應(yīng)用場景。輕量化模型（如 MobileNet、EfficientNet）和神經(jīng)架構(gòu)搜索（NAS）技術(shù)將進一步優(yōu)化端側(cè) AI 的性能。端側(cè) AI 芯片與云端 AI 的協(xié)同作業(yè)將成為主流模式，復(fù)雜任務(wù)交由云端處理，實時任務(wù)則由端側(cè)設(shè)備完成。

總而言之，端側(cè) AI 芯片是推動 AI 技術(shù)在終端設(shè)備落地的核心硬件，其發(fā)展將對智能手機、智能穿戴、自動駕駛、工業(yè)物聯(lián)網(wǎng)等眾多領(lǐng)域產(chǎn)生深遠影響。盡管目前面臨一些挑戰(zhàn)，但未來端側(cè) AI 芯片必將朝著更高算力、更低功耗、更強安全性以及更豐富應(yīng)用場景的方向邁進。