Ampere創(chuàng)新產(chǎn)品助力釋放數(shù)智應(yīng)用潛能

11 月 18 日，Data & AI Con Shanghai 2023在上海成功舉辦。本次大會(huì)以“數(shù)智云聚 萬象創(chuàng)生”為主題，匯聚了眾多頂級(jí)技術(shù)專家，包括來自開源軟件、工業(yè)界、產(chǎn)業(yè)界以及學(xué)術(shù)界的代表，共探數(shù)據(jù)科技和人工智能領(lǐng)域的最新趨勢(shì)，助力千行百業(yè)加快實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。作為本次大會(huì)的鉑金贊助商，Ampere Computing亮相本屆大會(huì)，并發(fā)表了兩場(chǎng)精彩演講，與現(xiàn)場(chǎng)觀眾共聚“數(shù)智”狂歡！

創(chuàng)新產(chǎn)品

助力釋放數(shù)智應(yīng)用潛能

在展臺(tái)上，Ampere 向觀眾們介紹了高性能、低能耗的 Ampere 云原生處理器如何為AI、大數(shù)據(jù)、Web 應(yīng)用、數(shù)據(jù)庫及轉(zhuǎn)碼（Transcoding）等工作負(fù)載提供高效賦能，吸引了眾多參會(huì)者駐足參觀。

隨著 AI 技術(shù)及應(yīng)用的深入發(fā)展，數(shù)據(jù)中心對(duì)算力、能耗的需求迅速飆升，如何應(yīng)對(duì)算力和能耗帶來的挑戰(zhàn)，促進(jìn) AI 可持續(xù)發(fā)展已成為行業(yè)熱門議題。Ampere Altra 系列云原生處理器與傳統(tǒng) x86 處理器相比，在 AI 推理方面擁有顯著的性能優(yōu)勢(shì)，針對(duì)計(jì)算機(jī)視覺工作負(fù)載，性能最高可提升 4 倍*；針對(duì)常見的NLP 工作負(fù)載，每瓦性能最高可提升 3 倍*。

精彩演講

詮釋數(shù)智發(fā)展“芯”趨勢(shì)

推動(dòng)人工智能領(lǐng)域發(fā)展和助力數(shù)據(jù)科技產(chǎn)業(yè)進(jìn)步，需要開放、高效、高性能、可持續(xù)的“芯”力量來提供支撐。相較于成本高、能耗大的傳統(tǒng) x86 處理器，高能效、高性能的 Ampere 云原生處理器是 AI 推理應(yīng)用的理想選擇。

在本次大會(huì)上，Ampere 中國(guó)區(qū)產(chǎn)品市場(chǎng)總監(jiān)孫開本和 Ampere 資深平臺(tái)應(yīng)用工程師黃濱帶來了兩場(chǎng)精彩演講，詮釋了 Ampere 創(chuàng)新解決方案如何為 AI 發(fā)展提供高效、可持續(xù)的“芯”助力。

Ampere 中國(guó)區(qū)產(chǎn)品市場(chǎng)總監(jiān)孫開本在演講中強(qiáng)調(diào):

云原生處理器是創(chuàng)新的 CPU 架構(gòu)，為 AI 推理提供了高效可靠的新選擇，可替代高成本、高能耗的傳統(tǒng) x86 處理器。為 AI 應(yīng)用程序配置適度算力，可以選擇用 CPU-Only的方式，或是將云原生處理器的能效、可擴(kuò)展性和計(jì)算性能與 GPU 的并行計(jì)算能力相結(jié)合。

為了實(shí)現(xiàn)更高效能、更高價(jià)值的 AI 解決方案，可遵循三項(xiàng)準(zhǔn)則：一是僅部署滿足應(yīng)用程序性能需求的計(jì)算資源，并盡可能多地使用通用處理器而非專用處理器，以保持靈活性并滿足未來的計(jì)算需求；二是借助 Ampere 云原生處理器帶來的性能優(yōu)勢(shì)，在 CPU-Only 的情況下部署更廣泛的 AI 工作負(fù)載；三是將 GPU 與云原生處理器相結(jié)合，更高效地處理任務(wù)更繁重的 AI 訓(xùn)練或 LLM 推理工作負(fù)載。

Ampere 資深平臺(tái)應(yīng)用工程師黃濱表示：

憑借 Ampere 云原生處理器的強(qiáng)大核心數(shù)和硬件 FP16 向量加速能力，再結(jié)合 Ampere AI 軟件加速引擎，Ampere 云原生處理器展現(xiàn)出比肩主流 x86 架構(gòu)的 CPU-Only 推理性能，同時(shí)提供更出色的性能功耗比。

此外，Ampere AI 軟件加速引擎為用戶提供了對(duì) PyTorch、ONNX、TensorFlow 等主流AI框架的支持和鏡像下載，并使用與原生框架相同的 API 接口。用戶無需進(jìn)行額外的遷移適配，只需通過 AI 軟件加速引擎鏡像，即可在 Ampere 云原生處理器上體驗(yàn)開箱即用的 AI 推理加速效果。

隨著各行各業(yè)的數(shù)智化進(jìn)程不斷加速，云計(jì)算和 AI 將成為推動(dòng)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的重要引擎。Ampere 將持續(xù)引領(lǐng)行業(yè)發(fā)展，秉持著對(duì)性能與可持續(xù)發(fā)展的堅(jiān)定承諾，與客戶、合作伙伴攜手，共同構(gòu)建綠色、可持續(xù)發(fā)展的 AI 未來。