華為的AI之旅！如何贏得下一個十年

10 月 10 日開幕的 2018 華為全聯(lián)接大會（HUAWEI CONNECT 2018）現(xiàn)場，華為輪值董事長徐直軍詳細闡述了華為的 AI 戰(zhàn)略，并推出了全棧全場景的 AI 解決方案，正式向整個 AI 業(yè)界宣告華為入場...

總體來說，華為人工智能的發(fā)展戰(zhàn)略是以持續(xù)投資基礎研究和 AI 人才培養(yǎng)，打造全棧全場景 AI 解決方案和開放全球生態(tài)為基礎。

所謂全棧，是從縱向的技術功能視角來看，包括芯片、芯片使能、訓練和推理框架、應用使能在內(nèi)的全堆棧方案。所謂全場景，是指從橫向來看，華為的 AI 解決方案可以用于包括公有云、私有云、各種邊緣計算、物聯(lián)網(wǎng)行業(yè)終端以及消費類終端等部署環(huán)境。

當然，華為 AI 全棧全場景，離不開華為云。同時，華為云 BU 雖然成立時間不長，但實際上是站在巨人的肩膀上前進——目前來看華為過去 30 年所積累的無論是軟硬件技術的能力，還是基于運營商在網(wǎng)絡方面的經(jīng)驗，及終端消費者客戶的經(jīng)驗，對華為云 BU 來說都是一個很好的積淀。

華為云 BU EI 服務產(chǎn)品部總經(jīng)理賈永利表示：“華為云從成立第一天就是帶著全棧整合優(yōu)勢出現(xiàn)的?！币匀珬＜夹g為核心武器，在過去一年里，聚焦企業(yè)端的華為云在 8 大行業(yè)、200 多個項目中，將行業(yè)智慧不斷與 AI 進行融合，把 AI 能力擴展到了交通、物流、制造等無限場景。而這一切的支撐來自華為云貫通軟硬件各個層面的技術創(chuàng)新。

華為云 AI 能力全面升級

基于新發(fā)布的昇騰芯片，華為云從底層算力到軟件框架再到系統(tǒng)級服務進行了一次 AI 大升級，不僅進一步補齊 AI 軟件體系，也為行業(yè) AI 更好地落地打下了基礎。

第一層進化：底層算力擴展

算力、算法、數(shù)據(jù)是當前 AI 的三大基石，目前行業(yè)中產(chǎn)生的大量數(shù)據(jù)在清洗、標注、訓練上仍然需要消耗較長時間，因此算力仍是稀缺資源。

而算力的基礎又在于芯片，華為在 HC 上發(fā)布的兩款 AI 芯片昇騰 910 和昇騰 310 不出意料地成為熱點話題。

這兩款芯片均采用華為獨創(chuàng)的“達芬奇架構(gòu)”。

昇騰 910 屬于 Max 系列，主打云場景的超高算力，半精度算力達到 256 TFLOPS，比目前最強的 NVIDIA V100 的 125T 還高出一倍，是目前全球已經(jīng)發(fā)布的單芯片計算力最大的 AI 芯片，采用 7nm 工藝，最大功耗 350W，將在明年第二季度上市。

昇騰 310 屬于 Mini 系列，采用 12nm 工藝，兼具高效計算和低功耗，算力可達 16TFLOPS，最大功耗僅 8 瓦，集成了 16 通道全高清視頻解碼器。這既是目前面向邊緣計算場景最強算力的 SoC，也可以應用在云上。

我們都知道，中國的云廠商還沒有做芯片的能力，在不少互聯(lián)網(wǎng)廠商 AI 芯片還僅存在于 PPT 里的情況下，華為已經(jīng)將昇騰 310 用于華為云，使 AI 的推理能力成為高端虛擬機的標配，用戶可以獲得 16 倍的推理算力。

如果覺得這個算力還不夠，華為云還會在 AI 增強型的虛擬機和容器中，提供高達 512T 算力的服務；針對訓練場景，華為云還將提供 ECS 和裸金屬形態(tài)最高 2PFLOP 的計算能力。

除了 H6 服務，華為云還提供 Ai1、At1、Physical.At1 服務，全部基于昇騰 AI 芯片，有了這一系列云服務，華為云將全面進入 AI 新時代。

當然，正如華為云 BU EI 服務產(chǎn)品部總經(jīng)理賈永利所說的：“算力肯定是華為的一個顯著競爭力，但是我不認為它是華為云做人工智能唯一的競爭優(yōu)勢，而是其中一個優(yōu)勢。”

第二層進化：全平臺統(tǒng)一訓練和推理框架

在算力之上，華為還提出了完整的軟件堆棧，以實現(xiàn)一次性算子開發(fā)、一致的開發(fā)和調(diào)試體驗。

目前大部分 AI 算法都需要在云端訓練，進而在終端部署。但大部分云廠商都不提供終端芯片售賣，芯片廠商也不提供云計算服務，所以，一般 AI 應用在訓練跟部署之間一定會經(jīng)過一次以上的底層計算環(huán)境遷移——對企業(yè)而言這是一個無用的“內(nèi)耗”，既耗費人力物力，又浪費時間。

這對于開發(fā)者本人而言也是件麻煩事，因為轉(zhuǎn)換底層環(huán)境涉及到很多算法跟算子的調(diào)校，很容易出現(xiàn)明明在云上跑得好好的，一換計算環(huán)境應用效率就跌。因此，華為希望能夠用同一套框架，打通華為公有云、私有云、邊緣計算、手機等不同 AI 應用場景，讓 AI 應用只需要一次調(diào)校，從而大大簡化部署工作。

算子庫 CANN 能夠兼具最優(yōu)開發(fā)算力和算子性能，其中 TensorEngine 實現(xiàn)了統(tǒng)一的 DSL 接口、自動算子優(yōu)化、自動算子生成以及自動算子調(diào)優(yōu)功能。值得一提的是，華為在 TensorEngine 中采用了陳天奇等人提出的 TVM。以 Reduce_sum 開發(fā)案例為例，使用 CANN 能將開發(fā)效率提升三倍。

Mindspore 則是華為提出的統(tǒng)一訓練和推理的 AI 框架，將于明年第二季度正式對外發(fā)布。Mindspore 支持深度學習、強化學習、增強學習，能夠靈活適應不同資源預算的部署環(huán)境，可以在云、邊緣、端提供一致的開發(fā)體驗，同時支持所有主流機器學習和深度學習框架（包括 TensorFlow、PyTorch、PaddlePaddle、Keras、ONNX、MXNet 等）。在發(fā)布會上，華為還介紹了 MindSpore 設備端深度學習框架，大小只有 2MB 不到，運行時占用內(nèi)存不到 50MB。

CANN 和 Mindspore 共同構(gòu)成了“全棧全場景”的核心基礎框架。

第三層進化：一站式 AI 應用開發(fā)平臺

除了稀缺且昂貴的算力，阻礙 AI 產(chǎn)業(yè)規(guī)?；l(fā)展的根本原因還有一個，就是開發(fā)效率低。標注、訓練、部署整個過程不僅費時，還極其費力。為了解決這個問題，華為推出了普惠 AI 開發(fā)平臺 ModelArts。

ModelArts 是面向 AI 開發(fā)者的一站式開發(fā)平臺，提供海量數(shù)據(jù)預處理及半自動化標注、大規(guī)模分布式訓練、自動化模型生成、模型調(diào)優(yōu)，及端 - 邊 - 云模型按需部署能力。

同時，ModelArts 能夠在 AI 開發(fā)全生命周期中，從原始數(shù)據(jù)、標注數(shù)據(jù)、訓練作業(yè)、算法、模型、推理服務等，提供全流程可視化管理。支持千萬級模型、數(shù)據(jù)集以及服務等對象的管理，無需人工干預，自動生成溯源圖，選擇任一模型就可以找到對應的數(shù)據(jù)集、參數(shù)、模型部署在哪里。其中最實用的訓練斷點接續(xù)功能、訓練結(jié)果比對功能，在華為內(nèi)部開發(fā)者中也頗受歡迎。

簡單來說，ModelArts 的特點是“四快”：

數(shù)據(jù)準備快

數(shù)據(jù)標注與準備對于很多 AI 開發(fā)者來說是最為痛苦的一項工作。曾有開發(fā)者吐槽，光是準備數(shù)據(jù)就要占掉整體開發(fā)時間的 70%。ModelArts 內(nèi)置 AI 數(shù)據(jù)框架，以 AI 的機制來治理數(shù)據(jù)，用迭代訓練來解決標注的數(shù)據(jù)量問題。尤其在數(shù)據(jù)量龐大的場景中，帶來的直接效益是數(shù)據(jù)標注與準備效率達百倍的提升。

上手快

ModelArts 具備自動學習功能，支持模型的自動設計與自動調(diào)參等，能夠幫助開發(fā)者提升開發(fā)效率、快速上手。

對于有經(jīng)驗的開發(fā)者，可以在 ModelArts 上自行編寫并導入算法代碼，核心組件 MoXing SDK 支持豐富的模型庫、優(yōu)化算法和各類工具庫；支持自動超參數(shù)調(diào)優(yōu)；包含訓練 - 驗證 - 預測 - 模型導出的整套框架；開發(fā)者只需要編寫一套代碼就能自動實現(xiàn)單機及分布式化。

對于編程苦手卻想快速生成模型的 AI 初學者，ModelArts 也預置了能夠覆蓋大部分常用應用場景的算法模型（如 RestNet_50、Faster_RCNN、SegNet_VGG_16 等，未來還將上線更多算法模型），所有預置模型的基于開源數(shù)據(jù)集訓練，模型精度領先。只需配置數(shù)據(jù)路徑 / 日志輸出路徑和 Hyper Parameter 自動選擇設置就可以一鍵啟動訓練。

訓練快

針對模型訓練耗時長的挑戰(zhàn)，ModelArts 通過各類優(yōu)化技術，尤其是級聯(lián)式混合并行技術，在同樣的模型、數(shù)據(jù)集和同等硬件資源情況下，可以使模型訓練耗時降低一半。

在大量數(shù)據(jù)需要同步的情況下，大規(guī)模集群做分布式仍是當前的業(yè)界難題。目前大數(shù)據(jù)集分布式訓練在行業(yè)內(nèi)的最好成績是 fast.ai 團隊在亞馬遜云上實現(xiàn)的，通過 128 顆 GPU 實例同時運行，可在 18 分鐘內(nèi)完成訓練，而華為云 EI 可以用同樣的節(jié)點在 12 分鐘以內(nèi)完成同樣的任務。

上線快

在 AI 規(guī)?；涞氐膱鼍跋?，模型部署會非常復雜。例如在智慧交通領域，以下場景非常常見——更新后的模型，需要一次性同時部署到各種不同規(guī)格、不同廠商的攝像頭上，這是一項非常耗時、費力的巨大工程。

對于此類場景，ModelArts 可以一鍵推送模型到所有邊緣、端的設備上，云上的部署還支持在線和批量推理，滿足大并發(fā)和分布式等多種場景需求。

ModelArts 之外，華為還推出了專為視覺智能打造的開發(fā)工具 HiLens。

HiLens 由一個具備 AI 能力的攝像機和云上開發(fā)平臺組成，搭載昇騰 310，提供了強大的算力和存儲空間，可以滿足較大的圖像處理運算需求，甚至實現(xiàn) 1 秒百幀的處理能力及毫秒級人臉檢測。

同時，HiLens 內(nèi)置的輕量級容器，具備資源占用少、降低網(wǎng)絡帶寬、下載啟動時間快等特性，因此也降低了系統(tǒng)實時處理的難度。

另外，HiLens 為個人開發(fā)者、企業(yè)和設備生產(chǎn)廠商提供了一整套安全可靠的一站式技能開發(fā)、部署和管理服務，可無縫對接客戶行業(yè)設備，增加業(yè)務開發(fā)效率、提升生產(chǎn)力。

HiLens 預置了豐富的模型和 Skill 能力，其中 Skill 由控制代碼和模型組成，AI 模型由 ModelArts 訓練，訓練后可以封裝為 Skill 開發(fā)基礎組件，簡化 Skill 開發(fā)。通過 HiLens 開發(fā)生成的 Skill 可以直接部署到有昇騰芯片的任何端側(cè)設備中。同時 HiLens 也兼容其他主流框架訓練的模型，在部署到端側(cè)設備的過程中會將模型自動轉(zhuǎn)換為 MindSpore 模型，以提供最優(yōu)性能表現(xiàn)。

在以往 AI 視覺場景落地的過程中，通常某種處理方法在研究和開發(fā)中表現(xiàn)良好，但在復雜多變的應用環(huán)境中，卻不時地出現(xiàn)問題。例如機器視覺檢測的人臉識別系統(tǒng)，在目標配合時識別率可高達 95% 以上，但在實際監(jiān)控環(huán)境下，視覺檢測識別率就會大大下降。HiLens 提供在線利用每個設備獨有的部署環(huán)境數(shù)據(jù)，在線訓練針對設備的個性化模型，提高模型精度，極大增強用戶體驗。

ModelArts 和 HiLens 在大會發(fā)布當天均已上線華為云 EI 平臺。

除了這兩個面向開發(fā)者的大殺器，華為云 EI 的全家桶相比去年剛推出時也變得更加豐富了。

截至目前，華為云 EI 已經(jīng)上線 45 款服務 142 類功能，在解決方案層面，針對不同人群，華為云 EI 提供通用 API、高階 API 以及預集成解決方案三種不同類型服務。無論是數(shù)據(jù)科學家或數(shù)據(jù)算法工程師、IT 開發(fā)人員，甚至是沒有 AI 背景的業(yè)務人員，都可以在華為云上找到解決絕大多數(shù)場景問題的解決方案。

可以看出，華為云想要打造的是打通底層硬件到上層軟件應用、開發(fā)者與行業(yè)兩手抓的全方位 AI 生態(tài)體系，并且不是僅僅停留在想法、戰(zhàn)略或口號層面，這些都是華為云已經(jīng)做了和繼續(xù)在做的事情。

進擊的 EI 城市智能體

在與大會同期開放的展臺上，華為 AI 的全場景全棧解決方案大部分都已經(jīng)就位。上文提到的從全棧維度賦能開發(fā)者的 ModelArts、HiLens 等均有亮相，吸引了大量開發(fā)者的試用咨詢?；谌A為 Ascend（昇騰）系列芯片和業(yè)界主流異構(gòu)計算部件的 Atlas 智能計算平臺，通過模塊、板卡、小站、一體機等豐富的產(chǎn)品形態(tài)，已經(jīng)實現(xiàn)了將 AI 能力帶入云、邊、端等全場景。

與此同時，華為云 EI 行業(yè)解決方案的發(fā)布和展示也同步進行，應用案例涵蓋了公共事業(yè)、交通、金融、物流、教育、零售等眾多行業(yè)，包括三大運營商、微軟、英特爾，以及專攻行業(yè)智慧的諸多企業(yè)都匯聚現(xiàn)場展示了他們借助華為云 EI 為各自業(yè)務帶來的智能化變革。

去年 9 月，華為第二屆全聯(lián)接大會上，華為云首次推出 EI 企業(yè)智能，主要包括基礎平臺服務、通用服務（大數(shù)據(jù)、視覺認知、語音語義）、行業(yè)場景解決方案三大類；推出的當年，華為云 EI 企業(yè)智能迅速攻城略地，把智能水務、智能制造、智能電力、智能交通、智能金融、智能零售六大行業(yè)解決方案推向市場。

今年 6 月，華為集 EI 企業(yè)智能、華為云全棧能力大成于一身，推出 EI 交通智能體和 EI 工業(yè)智能體。華為云 EI 智能體不僅基于歷史的統(tǒng)計，更是實時感知、互動和優(yōu)化，實現(xiàn)真正的智能。今年的全連接大會正式發(fā)布了華為云 EI 城市智能體，EI 智能體進一步升級。

針對行業(yè)智慧與 AI 結(jié)合，賈永利表示：“華為云 EI 正從海量重復、專家經(jīng)驗及多域協(xié)同等三大場景助力行業(yè)升級，實現(xiàn)效率提升、專業(yè)傳承和突破極限?！?/p>

其中，海量重復場景主要是指在企業(yè)實踐中尋找高頻出現(xiàn)的重復場景，例如華為云 EI 深度學習和圖像搜索服務，支持中國圖庫每日數(shù)十萬新增版權圖片和數(shù)千萬網(wǎng)絡圖片的自動入庫和交叉檢查，準確率達 99%。

專家經(jīng)驗場景是指通過融入專家積累和經(jīng)驗（行業(yè)智慧），使 AI 達到專家助手水平。例如，第三方醫(yī)學檢驗機構(gòu)金域醫(yī)學與華為云 EI 合作，在宮頸癌病理檢測方面取得階段性突破，敏感度（真陽性率）超過 99%，特異度（真陰性率）超過 80%。

對于涉及參數(shù)眾多、依賴關系復雜、維度高的異常復雜場景——多域協(xié)同場景，比如工業(yè)生產(chǎn)、城市治理等， 人工智能技術也為這些領域帶來了新思路、新方法。

華為云 EI 城市智能體就是多域協(xié)同場景的一個典型例子：在數(shù)字孿生的基礎上，通過 AI 協(xié)同云、大數(shù)據(jù)、邊緣計算、物聯(lián)網(wǎng)等多種技術，實現(xiàn)從數(shù)據(jù)產(chǎn)生到數(shù)據(jù)分析、數(shù)據(jù)閉環(huán)的完整系統(tǒng)；通過數(shù)字世界強大的計算力，驅(qū)動物理世界更加智能。

目前，EI 城市智能體在交通、應急、環(huán)保、水務、水利、燃氣等場景持續(xù)探索高效的資源調(diào)度與配置，以解決更多城市難題，在效率提升、能耗降低、綠色環(huán)保等方面均有實際落地案例。

來自深圳市公安局交通警察局的李強處長就用幾組實際數(shù)字分享了采用華為云 EI 交通智能體為業(yè)務帶來的顯著改變：

華為云 EI 城市智能體幫助深圳交警在 2018 年上半年通過部署開車打手機、未系安全帶、刷臉執(zhí)法等 AI 應用，深圳交警執(zhí)法量增加了 15%；

深圳交警正在深圳龍崗坂田 43 個路口部署 EI 交通智能體 TrafficGo 解決方案，試點在線信號配時，關鍵路口等待時間平均縮短 17.7%；

構(gòu)建新型運營指揮中心，深圳交警“鐵騎專項行動”應急反應時間縮短 67%。

還有一個離我們更近的案例，來自深圳機場。當前深圳機場每天航班起降超過 1000 架次，靠橋率約為 70% 左右，每天客流量 12 萬人。通過“+AI”，同時進行基礎設施的智能化改造，從傳統(tǒng)的甘特圖手工安排計劃到 AI 的自動化，能夠使靠橋率提升到 80%。而這 10% 的提升，意味著每年將有 400 萬人不用坐擺渡車去遠機位。與此同時，深圳機場正在結(jié)合人臉識別實現(xiàn)機場一站式通關，目標是讓旅客的排隊時間減少 15%。

Cloud 2.0 時代，且看華為云

未來，上云會成為新常態(tài)，云將是多數(shù)企業(yè)探索人工智能的唯一環(huán)境，因為人工智能需要海量的計算資源和存儲空間。 “云 + 人工智能”才是接下來推動產(chǎn)業(yè)變革的動力。

華為云 BU CTO 張宇昕認為，Cloud2.0 時代的來臨，相對于過去十幾年互聯(lián)網(wǎng)的發(fā)展有顯著的不同。

第一，企業(yè)開始上云了，尤其是企業(yè)的關鍵應用開始上云了

過去，云僅應用于個人娛樂和消費領域，而 Cloud2.0 時代，云已經(jīng)進入了生產(chǎn)領域。

第二， 傳統(tǒng)的互聯(lián)網(wǎng)應用出現(xiàn)瓶頸

過去，互聯(lián)網(wǎng)應用主要靠做流量紅利，誰能獲得更多的流量誰就能發(fā)展壯大。但是流量紅利終究會有天花板，而且流量紅利的模式很容易被復制。Cloud2.0 時代新的互聯(lián)網(wǎng)業(yè)務的核心從流量紅利變成了數(shù)據(jù)紅利。

張宇昕認為，在 Cloud1.0 時代，解決客戶難題的技術關鍵詞是分布式、自動化、大規(guī)模彈性，而在 Cloud 2.0 時代，光有這些技術已經(jīng)遠遠不夠。企業(yè)應用和互聯(lián)網(wǎng)應用除了要求安全可靠之外，還有對智能化的普遍需求，這時拼的就是人工智能、大數(shù)據(jù)，還有技術和全系統(tǒng)架構(gòu)的實力。

正如我們在這次 HC 大會上所看到的，從芯片、硬件、整個數(shù)據(jù)中心開始，到基礎云服務，再到應用開發(fā)的平臺、應用的開發(fā)部署運維平臺和工具框架，直到 AI 的基礎模型算法和面向領域的行業(yè)解決方案，華為云已經(jīng)在垂直軸向上實現(xiàn)了諸多技術突破，足以應對未來的企業(yè)智能化挑戰(zhàn)。

Cloud2.0 時代，且看華為云還會帶給我們哪些驚喜。