NPU是如何發(fā)展起來的？性能受哪些因素影響？

（電子發(fā)燒友網(wǎng)綜合報(bào)道）NPU是一種專門用于加速神經(jīng)網(wǎng)絡(luò)計(jì)算的硬件處理器。隨著人工智能和深度學(xué)習(xí)技術(shù)的快速發(fā)展，傳統(tǒng)的CPU和GPU在處理復(fù)雜的神經(jīng)網(wǎng)絡(luò)計(jì)算時(shí)顯得力不從心，NPU正是為了解決這一問題而設(shè)計(jì)的。

NPU是如何發(fā)展起來的

早在2011年，Google就提出了利用大規(guī)模神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像識(shí)別的技術(shù)，并在2012年的ImageNet大賽中取得了顯著成績(jī)，這標(biāo)志著深度學(xué)習(xí)技術(shù)的崛起。

隨著深度學(xué)習(xí)技術(shù)的不斷發(fā)展，傳統(tǒng)的CPU和GPU在處理大規(guī)模神經(jīng)網(wǎng)絡(luò)計(jì)算時(shí)逐漸顯得力不從心，迫切需要更加高效的計(jì)算單元來支持。

為了滿足深度學(xué)習(xí)計(jì)算的需求，NPU應(yīng)運(yùn)而生。NPU是一種專門用于加速神經(jīng)網(wǎng)絡(luò)計(jì)算的處理器，它采用并行計(jì)算架構(gòu)，能夠顯著提高計(jì)算效率。

2016年，Google發(fā)布了TPU芯片，這是全球首款商用化的NPU產(chǎn)品。TPU在深度學(xué)習(xí)計(jì)算中表現(xiàn)出色，為NPU的商業(yè)化應(yīng)用奠定了基礎(chǔ)。隨后，英偉達(dá)、AMD、英特爾等科技巨頭也紛紛推出了自己的NPU產(chǎn)品，推動(dòng)了NPU市場(chǎng)的快速發(fā)展。

在智能手機(jī)領(lǐng)域，NPU的應(yīng)用也逐漸興起。2016年前后，寒武紀(jì)發(fā)布了全球首款商用終端AI處理器，為手機(jī)AI計(jì)算提供了強(qiáng)大的硬件支持。

2017年，華為在Mate10中首次搭載了集成AI模塊的麒麟970處理器，標(biāo)志著手機(jī)AI時(shí)代的到來。隨后，蘋果、三星等廠商也相繼推出了搭載NPU的智能手機(jī)產(chǎn)品。

隨著技術(shù)的不斷進(jìn)步，NPU的性能和功能也得到了顯著提升。高通、聯(lián)發(fā)科等芯片廠商在NPU領(lǐng)域進(jìn)行了大量研發(fā)投入，推出了多代NPU產(chǎn)品，如高通的HexagonNPU系列。HexagonNPU在性能、功耗、靈活性等方面均表現(xiàn)出色，為智能手機(jī)、物聯(lián)網(wǎng)設(shè)備等終端產(chǎn)品提供了強(qiáng)大的AI計(jì)算能力。

NPU的性能指標(biāo)

NPU的性能通常受到多個(gè)因素的影響，算力是衡量NPU性能的關(guān)鍵指標(biāo)，通常以每秒能夠執(zhí)行的浮點(diǎn)運(yùn)算次數(shù)（FLOPS）或整數(shù)運(yùn)算次數(shù)（IOPS）來衡量。在AI芯片中，算力往往以TOPS（TeraOperationsPerSecond，即每秒萬億次運(yùn)算）來表示。

算力的高低直接影響NPU處理神經(jīng)網(wǎng)絡(luò)任務(wù)的速度和效率。算力越高，NPU在同一時(shí)間內(nèi)能夠完成的計(jì)算量就越大，從而能夠更快地處理復(fù)雜的神經(jīng)網(wǎng)絡(luò)任務(wù)。

NPU的工作頻率是另一個(gè)重要的性能指標(biāo)，它影響著處理器的運(yùn)算速度。頻率取決于制成節(jié)點(diǎn)和NPU設(shè)計(jì)，不同的NPU之間可能存在差異。更高的頻率允許NPU在單位時(shí)間內(nèi)執(zhí)行更多運(yùn)算，從而提高處理速度。然而，提高頻率也會(huì)導(dǎo)致更高功耗和發(fā)熱，影響電池續(xù)航和用戶體驗(yàn)。因此，在設(shè)計(jì)NPU時(shí)需要在性能和功耗之間找到平衡點(diǎn)。

NPU擁有大量并行運(yùn)算核心，能夠支持高效的并行處理。這是NPU在處理神經(jīng)網(wǎng)絡(luò)任務(wù)時(shí)的一個(gè)重要優(yōu)勢(shì)。并行計(jì)算能力越強(qiáng)，NPU就越能夠同時(shí)處理多個(gè)計(jì)算任務(wù)或數(shù)據(jù)點(diǎn)，從而提高整體計(jì)算效率。這對(duì)于處理大規(guī)模神經(jīng)網(wǎng)絡(luò)和復(fù)雜數(shù)據(jù)集尤為重要。

作為嵌入式設(shè)備中的一個(gè)組成部分，NPU的功耗也是一個(gè)不可忽視的性能指標(biāo)。功耗是指NPU在運(yùn)行過程中消耗的能量。低功耗可以使得NPU更適用于移動(dòng)設(shè)備和邊緣計(jì)算場(chǎng)景。在設(shè)計(jì)NPU時(shí)需要考慮如何在保持高性能的同時(shí)降低功耗，以延長(zhǎng)設(shè)備的使用時(shí)間和提高用戶體驗(yàn)。

精度指計(jì)算的顆粒度，通常精度越高模型準(zhǔn)確性就越高，但需要的計(jì)算強(qiáng)度也越高。常見的精度包括32位和16位浮點(diǎn)精度，以及速度更快的低精度低功耗模型通常使用的8位和4位整數(shù)精度。選擇適當(dāng)?shù)木葘?duì)于平衡NPU的性能和功耗至關(guān)重要。高精度可以提高模型的準(zhǔn)確性，但會(huì)增加計(jì)算復(fù)雜度和功耗；而低精度雖然可以降低功耗和計(jì)算復(fù)雜度，但可能會(huì)犧牲一定的模型準(zhǔn)確性。

內(nèi)存帶寬決定了NPU能夠從內(nèi)存中獲取數(shù)據(jù)的速度。如果內(nèi)存帶寬不足，NPU可能會(huì)因?yàn)榈却龜?shù)據(jù)而空閑，從而降低整體性能。

軟件優(yōu)化也是影響NPU性能的重要因素。通過對(duì)算法和代碼進(jìn)行優(yōu)化，可以充分利用NPU的計(jì)算資源，提高計(jì)算效率和準(zhǔn)確性。

寫在最后

在現(xiàn)代芯片設(shè)計(jì)中，NPU往往被集成到SoC中，作為SoC的一個(gè)重要組成部分。這種集成方式使得SoC在保持其高集成度、低功耗等優(yōu)勢(shì)的同時(shí)，能夠進(jìn)一步擴(kuò)展其在人工智能領(lǐng)域的應(yīng)用能力。

例如，在智能手機(jī)、物聯(lián)網(wǎng)設(shè)備等應(yīng)用中，NPU常常被集成到SoC中，以提供高效的AI處理能力。這種集成方式不僅有助于提升設(shè)備的整體性能，還能夠降低設(shè)計(jì)成本和功耗。

當(dāng)NPU被集成到SoC中時(shí)，它可以與其他功能模塊（如CPU、GPU、存儲(chǔ)器等）協(xié)同工作，共同完成復(fù)雜的計(jì)算任務(wù)。CPU負(fù)責(zé)處理通用計(jì)算任務(wù)，GPU負(fù)責(zé)圖形渲染和大規(guī)模并行計(jì)算任務(wù)，而NPU則專注于神經(jīng)網(wǎng)絡(luò)計(jì)算任務(wù)。這種協(xié)同工作的方式能夠充分發(fā)揮各個(gè)功能模塊的優(yōu)勢(shì)，提高整體計(jì)算效率。

隨著人工智能技術(shù)的不斷發(fā)展，NPU在SoC中的應(yīng)用場(chǎng)景也越來越廣泛。在智能手機(jī)中，NPU可以用于實(shí)現(xiàn)AI拍照、語音助手等功能；在物聯(lián)網(wǎng)設(shè)備中，NPU可以用于實(shí)現(xiàn)智能識(shí)別、自動(dòng)控制等功能；在自動(dòng)駕駛汽車中，NPU則可以用于實(shí)現(xiàn)視覺識(shí)別、路徑規(guī)劃等任務(wù)。