Ampere如何引領(lǐng)并塑造下一代人工智能計(jì)算系統(tǒng)

現(xiàn)代人工智能計(jì)算工作負(fù)載給傳統(tǒng)處理器架構(gòu)帶來了前所未有的挑戰(zhàn)，已將其推向了極限。當(dāng)下，無(wú)論是企業(yè)，還是云服務(wù)提供商，若要實(shí)現(xiàn)自身的人工智能愿景，最為關(guān)鍵的任務(wù)便是追求更高性能、更強(qiáng)擴(kuò)展性，以及在計(jì)算過程中實(shí)現(xiàn)更高效的通信。這不僅是順應(yīng)人工智能發(fā)展潮流的必然選擇，更是在激烈的市場(chǎng)競(jìng)爭(zhēng)中脫穎而出，占據(jù)技術(shù)高地的核心訴求。面對(duì)這一挑戰(zhàn)，Ampere Computing 憑借豐富的知識(shí)產(chǎn)權(quán)創(chuàng)新產(chǎn)品組合所驅(qū)動(dòng)的高性能、高效率人工智能計(jì)算解決方案，積極應(yīng)對(duì)。在本次問答環(huán)節(jié)中，Ampere 首席產(chǎn)品官 Jeff Wittich 深入解讀了公司的創(chuàng)新理念。他詳細(xì)闡述了 Ampere 如何通過定制化知識(shí)產(chǎn)權(quán)實(shí)現(xiàn)性能層面的重大突破，這種創(chuàng)新又是怎樣為后續(xù)產(chǎn)品提供有力支撐，進(jìn)而引領(lǐng)并塑造下一代人工智能計(jì)算系統(tǒng)，展現(xiàn)出 Ampere 在人工智能計(jì)算領(lǐng)域的前沿探索與深遠(yuǎn)布局 。

Q: AmpereOne 產(chǎn)品系列(其中包括備受期待的 AmpereOne Aurora)的核心是 Ampere 的定制化內(nèi)核。這些內(nèi)核有哪些不同之處呢?它們又是如何具備處理人工智能工作負(fù)載的能力的呢?

Ampere 基于 Arm 架構(gòu)的定制化內(nèi)核在處理人工智能工作負(fù)載方面，尤其是人工智能推理方面，具有多項(xiàng)優(yōu)勢(shì)。其主要的一些優(yōu)勢(shì)包括：

用于并行處理的高計(jì)算密度：如今，Ampere 處理器支持多達(dá)192個(gè)內(nèi)核，在 AmpereOne Aurora 中，內(nèi)核數(shù)量將增加到512個(gè)。這些內(nèi)核提供了強(qiáng)大的并行處理能力，對(duì)于眾多人工智能推理工作負(fù)載來說是一大優(yōu)勢(shì)，比如生成式人工智能、自然語(yǔ)言處理和圖像識(shí)別等方面。就如同 GPU 依靠大量特定的計(jì)算元件協(xié)同工作來執(zhí)行一項(xiàng)任務(wù)一樣，Ampere 處理器依靠大量通用的高性能內(nèi)核來實(shí)現(xiàn)這一點(diǎn)。

超高能源效率：自成立以來，Ampere 一直專注于開發(fā)高能效的處理器。這一核心價(jià)值也體現(xiàn)在我們的定制內(nèi)核上。與基于x86架構(gòu)的處理器相比，我們的定制內(nèi)核能夠?qū)崿F(xiàn)更高的每瓦性能。由于人工智能推理在云環(huán)境中常常需要持續(xù)運(yùn)行，因此這種能源效率對(duì)于確保人工智能在規(guī)模擴(kuò)展時(shí)仍能保持可持續(xù)性至關(guān)重要。

可擴(kuò)展的性能：Ampere 處理器兼具微架構(gòu)特性和產(chǎn)品功能，以確保性能能夠可預(yù)測(cè)地?cái)U(kuò)展，即便處于始終有大量數(shù)據(jù)在處理器中傳輸?shù)母呃寐虱h(huán)境中也是如此。諸如自適應(yīng)流量管理和服務(wù)質(zhì)量(QoS)保障等功能，以及我們的單線程內(nèi)核，都有助于消除云人工智能部署中“嘈雜鄰居”效應(yīng)。

Q: Ampere 近期披露，已成功研發(fā)出專屬的定制網(wǎng)格。在人工智能領(lǐng)域迅猛擴(kuò)張且數(shù)據(jù)密集程度與日俱增的當(dāng)下，Ampere 的這款定制網(wǎng)格架構(gòu)究竟如何滿足不斷攀升的帶寬需求，進(jìn)而顯著提升人工智能驅(qū)動(dòng)型應(yīng)用程序的性能呢?

Ampere 的定制網(wǎng)格架構(gòu)，專為滿足人工智能日益增長(zhǎng)的高帶寬、低延遲需求而設(shè)計(jì)。Ampere 在 CPU 密度和效率上不斷突破極限，性能遠(yuǎn)超其他網(wǎng)格架構(gòu)技術(shù)。該架構(gòu)通過降低事務(wù)處理開銷，實(shí)現(xiàn)內(nèi)核間數(shù)據(jù)高效傳輸，大幅降低延遲，這對(duì)實(shí)時(shí)性人工智能任務(wù)至關(guān)重要。

Ampere 定制網(wǎng)格架構(gòu)的主要優(yōu)勢(shì)包括：

寬闊的數(shù)據(jù)傳輸路徑：支持信息的高效流動(dòng)，減少傳輸事務(wù)量。

優(yōu)化的延遲：將事務(wù)負(fù)載降至最低，提升實(shí)時(shí)性能。

高帶寬容量：支持快速訪問大型數(shù)據(jù)集。

能源效率：通過專有的創(chuàng)新設(shè)計(jì)，實(shí)現(xiàn)性能最大化以及數(shù)據(jù)的高效傳輸。

這種架構(gòu)在確保低延遲的同時(shí)，能夠?qū)崿F(xiàn)人工智能應(yīng)用所需的數(shù)據(jù)吞吐量，滿足人工智能日益增長(zhǎng)的復(fù)雜需求 。

Q: 網(wǎng)格架構(gòu)在支持像 AmpereOne Aurora 這樣即將推出的人工智能專用產(chǎn)品方面發(fā)揮著怎樣的作用呢?

AmpereOne Aurora 是 AmpereOne 系列的下一代產(chǎn)品，它將通用計(jì)算內(nèi)核與人工智能加速功能相結(jié)合。

Ampere 的定制網(wǎng)格架構(gòu)能夠滿足這些未來產(chǎn)品在可擴(kuò)展性和性能方面的需求。它支持大量計(jì)算元件之間的連接，同時(shí)還能維持內(nèi)核與內(nèi)存之間的高效通信，確保隨著系統(tǒng)規(guī)模的擴(kuò)大，數(shù)據(jù)傳輸依然保持高效。

除了擴(kuò)充內(nèi)存容量、采用新型內(nèi)存技術(shù)外，Ampere 確保每個(gè)內(nèi)核都具備處理高要求工作負(fù)載所需的帶寬。如此一來，Ampere 即將推出的產(chǎn)品便能從容應(yīng)對(duì)現(xiàn)代云應(yīng)用與人工智能應(yīng)用帶來的挑戰(zhàn)。

Q: 軟件在 Ampere 實(shí)現(xiàn)人工智能領(lǐng)域的宏偉目標(biāo)中扮演著怎樣的角色?公司如何讓自己從軟件領(lǐng)域脫穎而出?

2021年，Ampere 收購(gòu)了人工智能部署與加速軟件領(lǐng)域的領(lǐng)先供應(yīng)商 OnSpecta，旨在為客戶帶來大幅提升的人工智能性能。Ampere 利用 OnSpecta 的知識(shí)產(chǎn)權(quán)，打造了一系列定制化的人工智能軟件庫(kù)，這些軟件庫(kù)旨在優(yōu)化機(jī)器學(xué)習(xí)和人工智能推理工作負(fù)載。

例如，一個(gè)關(guān)鍵工具就是 Ampere 人工智能優(yōu)化器(AIO)。這個(gè)加速引擎已完全集成到流行的人工智能框架中，這樣一來，開發(fā)人員無(wú)需使用 GPU，就能夠在 Ampere 處理器上高效的，并且以最高性能無(wú)縫運(yùn)行人工智能推理工作負(fù)載。

Q: 這些知識(shí)產(chǎn)權(quán)創(chuàng)新是怎樣協(xié)同發(fā)力，助力 Ampere 在人工智能領(lǐng)域中嶄露頭角、與競(jìng)爭(zhēng)對(duì)手形成顯著差異的呢?

AmpereOne Aurora，作為我們即將發(fā)布的集成人工智能加速功能的512核 CPU，是一個(gè)很好的范例，它充分展現(xiàn)了 Ampere 在知識(shí)產(chǎn)權(quán)領(lǐng)域的投入如何匯聚并轉(zhuǎn)化為成果。Ampere 將定制內(nèi)核、專有的網(wǎng)格架構(gòu)以及跨小芯片的裸片到裸片互連技術(shù)等創(chuàng)新成果深度整合，融入自主研發(fā)的人工智能加速功能，最終造就了具有革命性意義的 AmpereOne Aurora，更好的滿足行業(yè)需求。

這款產(chǎn)品性能卓越，將遠(yuǎn)超我們現(xiàn)有的 AmpereOne 處理器三倍之多，在人工智能計(jì)算領(lǐng)域，其每機(jī)架的性能表現(xiàn)處于領(lǐng)先地位。尤為突出的是，它采用風(fēng)冷散熱方式，無(wú)需對(duì)數(shù)據(jù)中心進(jìn)行特殊升級(jí)改造。這使得它能夠在全球任意現(xiàn)有數(shù)據(jù)中心部署，無(wú)論是公有云、企業(yè)數(shù)據(jù)中心，還是超大規(guī)模數(shù)據(jù)中心與邊緣計(jì)算場(chǎng)景皆可適用。而這一點(diǎn)，正是化解全球人工智能領(lǐng)域電力危機(jī)的關(guān)鍵所在 。

這一切得以實(shí)現(xiàn)，源于 Ampere 在過去數(shù)年持續(xù)深耕研發(fā)，促使各項(xiàng)創(chuàng)新技術(shù)相互融合、協(xié)同發(fā)力。

關(guān)于 Ampere Computing

Ampere Computing 是一家現(xiàn)代化半導(dǎo)體企業(yè)，致力于塑造云計(jì)算的未來，并推出了世界上首款云原生處理器。為可持續(xù)云而生，Ampere 云原生處理器兼具最高性能和最佳每瓦性能，助力加速多種云計(jì)算應(yīng)用的交付，為云提供行業(yè)領(lǐng)先的性能、能效和可擴(kuò)展性。