華為昇騰異構(gòu)計(jì)算架構(gòu)CANN 助力應(yīng)對(duì)AI發(fā)展新挑戰(zhàn)！

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）人工智能在21世紀(jì)以后，經(jīng)歷了PC、互聯(lián)網(wǎng)以及移動(dòng)互聯(lián)網(wǎng)這幾波浪潮之后，又進(jìn)入了新一波浪潮，從2012年人工智能神經(jīng)網(wǎng)絡(luò)取得很好的成績(jī)開始，快速發(fā)展，預(yù)計(jì)2025年AI產(chǎn)業(yè)市場(chǎng)規(guī)模將達(dá)到7.44萬億美金，未來五年年均增長(zhǎng)30%

近兩年人工智能正從單點(diǎn)技術(shù)走向真正通用技術(shù)，一是從大模型走向超大模型，從GPT-2的15億參數(shù)，到GPT-3的1750億參數(shù)，鵬程·盤古的2000億參數(shù)，再Switch Transformer的16000億參數(shù)。二是從單模態(tài)走向多模態(tài)。簡(jiǎn)單來說就是容量需要更大，學(xué)習(xí)的領(lǐng)域需要更豐富，這帶來的趨勢(shì)就是更智能化。

華為昇騰計(jì)算業(yè)務(wù)副總裁金穎日前在某論壇上表示，這也給人工智能的發(fā)展帶來挑戰(zhàn)：一是隨著模型越來越大訓(xùn)練花費(fèi)越來昂貴，比如GPT-3需要花費(fèi)460萬美金，BERT平均需花費(fèi)1.5萬美金；二是訓(xùn)練更大的模型，對(duì)算法、系統(tǒng)的難度要求更高，未來開發(fā)難度會(huì)加大，包括算法開發(fā)難、應(yīng)用開發(fā)難、業(yè)務(wù)部署難；三是人才本就稀缺，人才缺口很大，目前中國人工智能人才供需比為10%，中國人才缺口超過500萬。

金穎認(rèn)為，面對(duì)上述新趨勢(shì)、新挑戰(zhàn)、新問題，異構(gòu)計(jì)算架構(gòu)對(duì)上適配多框架，對(duì)下適配多異構(gòu)芯片，同時(shí)針對(duì)多樣化應(yīng)用場(chǎng)景，提供高效易用的編程方式，是突破AI產(chǎn)業(yè)平臺(tái)的關(guān)鍵。

為此華為發(fā)布了AI全棧硬件架構(gòu)，包括底層的系列硬件、芯片，以及異構(gòu)計(jì)算架構(gòu)，AI框架，行業(yè)應(yīng)用等，跟絕大多數(shù)的AI硬件架構(gòu)一樣，其中華為昇騰AI全棧的核心是異構(gòu)計(jì)算架構(gòu)CANN，發(fā)揮承上啟下的關(guān)鍵作用。AI異構(gòu)計(jì)算架構(gòu)CANN是華為針對(duì)AI場(chǎng)景推出的異構(gòu)計(jì)算架構(gòu)，通過提供多層次的編程接口，支持用戶快速構(gòu)建基于Asend平臺(tái)的AI應(yīng)用和業(yè)務(wù)。

CANN包含統(tǒng)一APP編程語言，提供一套標(biāo)準(zhǔn)的ACL編程接口，對(duì)應(yīng)用程序開發(fā)者屏蔽底層多種芯片差異，提升用戶APP編程易用性；統(tǒng)一網(wǎng)絡(luò)構(gòu)圖接口，提供了標(biāo)準(zhǔn)的昇騰計(jì)算AIR，支持多框架，支持用戶在昇騰芯片上快速部署神經(jīng)網(wǎng)絡(luò)業(yè)務(wù)；高性能計(jì)算引擎以及算子庫，通過高性能編譯引擎、執(zhí)行引擎、調(diào)優(yōu)引擎和預(yù)置高性能算子庫，支撐客戶快速部署神經(jīng)網(wǎng)絡(luò)業(yè)務(wù)、降低部署成本并最大程度發(fā)揮昇騰計(jì)算能力；以及驅(qū)動(dòng)、虛擬化、媒體、集合通信等基礎(chǔ)服務(wù)能力。

華為即將發(fā)布最新發(fā)的CANN5.0版本，通過軟硬件協(xié)同，相比之前的版本性能再翻倍，該架構(gòu)支持多種AI框架，包括Mindspore、TensorFlow、飛槳、Pytorch、ONNX等。而且性能還在持續(xù)提升中，金穎表示，該版本ResNet-50訓(xùn)練速度保持業(yè)界領(lǐng)先，最新的數(shù)據(jù)已經(jīng)小于16s。完善生態(tài)滿足度方面，親和昇騰的圖編譯技術(shù)已經(jīng)超過1300高性能算子，支持ModeZoo 400+模型全面覆蓋典型場(chǎng)景應(yīng)用。

華為以開放社區(qū)的方式運(yùn)營，從目前的成績(jī)來看，CANN已經(jīng)達(dá)到支持40萬昇騰開發(fā)者，各項(xiàng)數(shù)據(jù)全面翻倍，社區(qū)已經(jīng)成為開發(fā)者大本營，預(yù)計(jì)到2022年將發(fā)展到百萬開發(fā)者級(jí)別?？蒲泻献鞒^200家，華為與國內(nèi)多所高校有很好的合作，北京大學(xué)田永鴻教授表示，使用華為人工智能全棧解決方案，在今年的MLPerf評(píng)測(cè)中之所以能夠取得如此優(yōu)異的成績(jī)，其中關(guān)鍵因素就是CANN。

金穎表示，未來在異構(gòu)計(jì)算架構(gòu)領(lǐng)域，希望更多提供極致性能、極簡(jiǎn)開發(fā)、開放生態(tài)，推動(dòng)這個(gè)產(chǎn)業(yè)進(jìn)入各個(gè)行業(yè)貢獻(xiàn)我們的力量，也希望未來在更多的標(biāo)準(zhǔn)領(lǐng)域，匯聚產(chǎn)業(yè)的力量，推動(dòng)AI產(chǎn)業(yè)的發(fā)展。