0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Ampere如何引領(lǐng)并塑造下一代人工智能計(jì)算系統(tǒng)

安晟培半導(dǎo)體 ? 來源:安晟培半導(dǎo)體 ? 2025-04-07 10:15 ? 次閱讀

現(xiàn)代人工智能計(jì)算工作負(fù)載給傳統(tǒng)處理器架構(gòu)帶來了前所未有的挑戰(zhàn),已將其推向了極限。當(dāng)下,無(wú)論是企業(yè),還是云服務(wù)提供商,若要實(shí)現(xiàn)自身的人工智能愿景,最為關(guān)鍵的任務(wù)便是追求更高性能、更強(qiáng)擴(kuò)展性,以及在計(jì)算過程中實(shí)現(xiàn)更高效的通信。這不僅是順應(yīng)人工智能發(fā)展潮流的必然選擇,更是在激烈的市場(chǎng)競(jìng)爭(zhēng)中脫穎而出,占據(jù)技術(shù)高地的核心訴求。面對(duì)這一挑戰(zhàn),Ampere Computing 憑借豐富的知識(shí)產(chǎn)權(quán)創(chuàng)新產(chǎn)品組合所驅(qū)動(dòng)的高性能、高效率人工智能計(jì)算解決方案,積極應(yīng)對(duì)。在本次問答環(huán)節(jié)中,Ampere 首席產(chǎn)品官 Jeff Wittich 深入解讀了公司的創(chuàng)新理念。他詳細(xì)闡述了 Ampere 如何通過定制化知識(shí)產(chǎn)權(quán)實(shí)現(xiàn)性能層面的重大突破,這種創(chuàng)新又是怎樣為后續(xù)產(chǎn)品提供有力支撐,進(jìn)而引領(lǐng)并塑造下一代人工智能計(jì)算系統(tǒng),展現(xiàn)出 Ampere 在人工智能計(jì)算領(lǐng)域的前沿探索與深遠(yuǎn)布局 。

Q: AmpereOne 產(chǎn)品系列(其中包括備受期待的 AmpereOne Aurora)的核心是 Ampere 的定制化內(nèi)核。這些內(nèi)核有哪些不同之處呢?它們又是如何具備處理人工智能工作負(fù)載的能力的呢?

Ampere 基于 Arm 架構(gòu)的定制化內(nèi)核在處理人工智能工作負(fù)載方面,尤其是人工智能推理方面,具有多項(xiàng)優(yōu)勢(shì)。其主要的一些優(yōu)勢(shì)包括:

用于并行處理的高計(jì)算密度:如今,Ampere 處理器支持多達(dá)192個(gè)內(nèi)核,在 AmpereOne Aurora 中,內(nèi)核數(shù)量將增加到512個(gè)。這些內(nèi)核提供了強(qiáng)大的并行處理能力,對(duì)于眾多人工智能推理工作負(fù)載來說是一大優(yōu)勢(shì),比如生成式人工智能、自然語(yǔ)言處理和圖像識(shí)別等方面。就如同 GPU 依靠大量特定的計(jì)算元件協(xié)同工作來執(zhí)行一項(xiàng)任務(wù)一樣,Ampere 處理器依靠大量通用的高性能內(nèi)核來實(shí)現(xiàn)這一點(diǎn)。

超高能源效率:自成立以來,Ampere 一直專注于開發(fā)高能效的處理器。這一核心價(jià)值也體現(xiàn)在我們的定制內(nèi)核上。與基于x86架構(gòu)的處理器相比,我們的定制內(nèi)核能夠?qū)崿F(xiàn)更高的每瓦性能。由于人工智能推理在云環(huán)境中常常需要持續(xù)運(yùn)行,因此這種能源效率對(duì)于確保人工智能在規(guī)模擴(kuò)展時(shí)仍能保持可持續(xù)性至關(guān)重要。

可擴(kuò)展的性能:Ampere 處理器兼具微架構(gòu)特性和產(chǎn)品功能,以確保性能能夠可預(yù)測(cè)地?cái)U(kuò)展,即便處于始終有大量數(shù)據(jù)在處理器中傳輸?shù)母呃寐虱h(huán)境中也是如此。諸如自適應(yīng)流量管理和服務(wù)質(zhì)量(QoS)保障等功能,以及我們的單線程內(nèi)核,都有助于消除云人工智能部署中“嘈雜鄰居”效應(yīng)。

Q: Ampere 近期披露,已成功研發(fā)出專屬的定制網(wǎng)格。在人工智能領(lǐng)域迅猛擴(kuò)張且數(shù)據(jù)密集程度與日俱增的當(dāng)下,Ampere 的這款定制網(wǎng)格架構(gòu)究竟如何滿足不斷攀升的帶寬需求,進(jìn)而顯著提升人工智能驅(qū)動(dòng)型應(yīng)用程序的性能呢?

Ampere 的定制網(wǎng)格架構(gòu),專為滿足人工智能日益增長(zhǎng)的高帶寬、低延遲需求而設(shè)計(jì)。Ampere 在 CPU 密度和效率上不斷突破極限,性能遠(yuǎn)超其他網(wǎng)格架構(gòu)技術(shù)。該架構(gòu)通過降低事務(wù)處理開銷,實(shí)現(xiàn)內(nèi)核間數(shù)據(jù)高效傳輸,大幅降低延遲,這對(duì)實(shí)時(shí)性人工智能任務(wù)至關(guān)重要。

Ampere 定制網(wǎng)格架構(gòu)的主要優(yōu)勢(shì)包括:

寬闊的數(shù)據(jù)傳輸路徑:支持信息的高效流動(dòng),減少傳輸事務(wù)量。

優(yōu)化的延遲:將事務(wù)負(fù)載降至最低,提升實(shí)時(shí)性能。

高帶寬容量:支持快速訪問大型數(shù)據(jù)集。

能源效率:通過專有的創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)性能最大化以及數(shù)據(jù)的高效傳輸。

這種架構(gòu)在確保低延遲的同時(shí),能夠?qū)崿F(xiàn)人工智能應(yīng)用所需的數(shù)據(jù)吞吐量,滿足人工智能日益增長(zhǎng)的復(fù)雜需求 。

Q: 網(wǎng)格架構(gòu)在支持像 AmpereOne Aurora 這樣即將推出的人工智能專用產(chǎn)品方面發(fā)揮著怎樣的作用呢?

AmpereOne Aurora 是 AmpereOne 系列的下一代產(chǎn)品,它將通用計(jì)算內(nèi)核與人工智能加速功能相結(jié)合。

Ampere 的定制網(wǎng)格架構(gòu)能夠滿足這些未來產(chǎn)品在可擴(kuò)展性和性能方面的需求。它支持大量計(jì)算元件之間的連接,同時(shí)還能維持內(nèi)核與內(nèi)存之間的高效通信,確保隨著系統(tǒng)規(guī)模的擴(kuò)大,數(shù)據(jù)傳輸依然保持高效。

除了擴(kuò)充內(nèi)存容量、采用新型內(nèi)存技術(shù)外,Ampere 確保每個(gè)內(nèi)核都具備處理高要求工作負(fù)載所需的帶寬。如此一來,Ampere 即將推出的產(chǎn)品便能從容應(yīng)對(duì)現(xiàn)代云應(yīng)用與人工智能應(yīng)用帶來的挑戰(zhàn)。

Q: 軟件在 Ampere 實(shí)現(xiàn)人工智能領(lǐng)域的宏偉目標(biāo)中扮演著怎樣的角色?公司如何讓自己從軟件領(lǐng)域脫穎而出?

2021年,Ampere 收購(gòu)了人工智能部署與加速軟件領(lǐng)域的領(lǐng)先供應(yīng)商 OnSpecta,旨在為客戶帶來大幅提升的人工智能性能。Ampere 利用 OnSpecta 的知識(shí)產(chǎn)權(quán),打造了一系列定制化的人工智能軟件庫(kù),這些軟件庫(kù)旨在優(yōu)化機(jī)器學(xué)習(xí)和人工智能推理工作負(fù)載。

例如,一個(gè)關(guān)鍵工具就是 Ampere 人工智能優(yōu)化器(AIO)。這個(gè)加速引擎已完全集成到流行的人工智能框架中,這樣一來,開發(fā)人員無(wú)需使用 GPU,就能夠在 Ampere 處理器上高效的,并且以最高性能無(wú)縫運(yùn)行人工智能推理工作負(fù)載。

Q: 這些知識(shí)產(chǎn)權(quán)創(chuàng)新是怎樣協(xié)同發(fā)力,助力 Ampere 在人工智能領(lǐng)域中嶄露頭角、與競(jìng)爭(zhēng)對(duì)手形成顯著差異的呢?

AmpereOne Aurora,作為我們即將發(fā)布的集成人工智能加速功能的512核 CPU,是一個(gè)很好的范例,它充分展現(xiàn)了 Ampere 在知識(shí)產(chǎn)權(quán)領(lǐng)域的投入如何匯聚并轉(zhuǎn)化為成果。Ampere 將定制內(nèi)核、專有的網(wǎng)格架構(gòu)以及跨小芯片的裸片到裸片互連技術(shù)等創(chuàng)新成果深度整合,融入自主研發(fā)的人工智能加速功能,最終造就了具有革命性意義的 AmpereOne Aurora,更好的滿足行業(yè)需求。

這款產(chǎn)品性能卓越,將遠(yuǎn)超我們現(xiàn)有的 AmpereOne 處理器三倍之多,在人工智能計(jì)算領(lǐng)域,其每機(jī)架的性能表現(xiàn)處于領(lǐng)先地位。尤為突出的是,它采用風(fēng)冷散熱方式,無(wú)需對(duì)數(shù)據(jù)中心進(jìn)行特殊升級(jí)改造。這使得它能夠在全球任意現(xiàn)有數(shù)據(jù)中心部署,無(wú)論是公有云、企業(yè)數(shù)據(jù)中心,還是超大規(guī)模數(shù)據(jù)中心與邊緣計(jì)算場(chǎng)景皆可適用。而這一點(diǎn),正是化解全球人工智能領(lǐng)域電力危機(jī)的關(guān)鍵所在 。

這一切得以實(shí)現(xiàn),源于 Ampere 在過去數(shù)年持續(xù)深耕研發(fā),促使各項(xiàng)創(chuàng)新技術(shù)相互融合、協(xié)同發(fā)力。

關(guān)于 Ampere Computing

Ampere Computing 是一家現(xiàn)代化半導(dǎo)體企業(yè),致力于塑造云計(jì)算的未來,并推出了世界上首款云原生處理器。為可持續(xù)云而生,Ampere 云原生處理器兼具最高性能和最佳每瓦性能,助力加速多種云計(jì)算應(yīng)用的交付,為云提供行業(yè)領(lǐng)先的性能、能效和可擴(kuò)展性。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19798

    瀏覽量

    233428
  • 人工智能
    +關(guān)注

    關(guān)注

    1804

    文章

    48660

    瀏覽量

    246190
  • 計(jì)算系統(tǒng)
    +關(guān)注

    關(guān)注

    0

    文章

    44

    瀏覽量

    10412
  • Ampere
    +關(guān)注

    關(guān)注

    1

    文章

    81

    瀏覽量

    4660

原文標(biāo)題:Ampere 憑借知識(shí)產(chǎn)權(quán)創(chuàng)新,借定制網(wǎng)格為高性能 AI 注入活力

文章出處:【微信號(hào):AmpereComputing,微信公眾號(hào):安晟培半導(dǎo)體】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 0人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    英偉達(dá)Q3將發(fā)布新一代人工智能系統(tǒng)

    5月19日消息,據(jù)外媒報(bào)道,在臺(tái)北國(guó)際電腦展上;黃仁勛宣布英偉達(dá)將于2025年第三季度推出下一代GB300人工智能系統(tǒng)。 據(jù)悉,GB300 雖然與上一代 GB200 擁有相同的物理占地
    的頭像 發(fā)表于 05-19 18:02 ?241次閱讀

    蘋果加入U(xiǎn)ALink聯(lián)盟,共推AI加速器新標(biāo)準(zhǔn)

    蘋果公司已正式成為Ultra Accelerator Link(UALink)聯(lián)盟的員,獲得了該聯(lián)盟董事會(huì)席位。UALink聯(lián)盟由超過65家成員組成,專注于開發(fā)下一代人工智能加速器架構(gòu),旨在推動(dòng)AI技術(shù)的快速發(fā)展。
    的頭像 發(fā)表于 01-22 18:18 ?639次閱讀

    嵌入式和人工智能究竟是什么關(guān)系?

    領(lǐng)域,如工業(yè)控制、智能家居、醫(yī)療設(shè)備等。 人工智能計(jì)算機(jī)科學(xué)的個(gè)分支,它研究如何使計(jì)算機(jī)具備像人類
    發(fā)表于 11-14 16:39

    谷歌計(jì)劃12月發(fā)布Gemini 2.0模型

    近日,有消息稱谷歌計(jì)劃在12月發(fā)布其下一代人工智能模型——Gemini 2.0。這消息引發(fā)了業(yè)界的廣泛關(guān)注,因?yàn)楣雀柙?b class='flag-5'>人工智能領(lǐng)域直保持著領(lǐng)先地位,而Gemini系列模型更是其重要
    的頭像 發(fā)表于 10-29 11:02 ?1032次閱讀

    下一代機(jī)器人技術(shù):工業(yè)自動(dòng)化的五大趨勢(shì)

    隨著人工智能(AI)技術(shù)的迅猛發(fā)展和全球制造業(yè)的轉(zhuǎn)型升級(jí),下一代機(jī)器人技術(shù)正在引領(lǐng)工業(yè)自動(dòng)化領(lǐng)域的新輪變革。這些變革不僅深刻影響著生產(chǎn)模式,還為企業(yè)帶來了前所未有的機(jī)遇和挑戰(zhàn)。
    的頭像 發(fā)表于 10-23 15:52 ?1089次閱讀

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    ,無(wú)疑為讀者鋪設(shè)了條探索人工智能(AI)如何深刻影響推動(dòng)科學(xué)創(chuàng)新的道路。在閱讀這章后,我深刻感受到了人工智能技術(shù)在科學(xué)領(lǐng)域的廣泛應(yīng)用潛
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    人工智能推薦系統(tǒng)中強(qiáng)大的圖形處理器(GPU)爭(zhēng)高下。其獨(dú)特的設(shè)計(jì)使得該處理器在功耗受限的條件下仍能實(shí)現(xiàn)高性能的圖像處理任務(wù)。 Ceremorphic公司 :該公司開發(fā)的分層學(xué)習(xí)處理器結(jié)合了
    發(fā)表于 09-28 11:00

    名單公布!【書籍評(píng)測(cè)活動(dòng)NO.44】AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新

    芯片設(shè)計(jì)的自動(dòng)化水平、優(yōu)化半導(dǎo)體制造和封測(cè)的工藝和水平、尋找新一代半導(dǎo)體材料等方面提供幫助。 第6章介紹了人工智能在化石能源科學(xué)研究、可再生能源科學(xué)研究、能源轉(zhuǎn)型三個(gè)方面的落地應(yīng)用。 第7章從環(huán)境監(jiān)測(cè)
    發(fā)表于 09-09 13:54

    壁仞科技攜手合作伙伴共建“新一代人工智能產(chǎn)教育人創(chuàng)新中心”

    近日,壁仞科技與浙江大學(xué)上海高等研究院、驀科技簽訂戰(zhàn)略合作共建“新一代人工智能產(chǎn)教育人創(chuàng)新中心”,聯(lián)合打造“課程+平臺(tái)+算力”軟硬協(xié)同的高校 AI 教科研體化解決方案,賦能我國(guó)高校AI+科研型
    的頭像 發(fā)表于 08-07 09:40 ?936次閱讀

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場(chǎng)可編程門陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個(gè)方面: 、深度學(xué)習(xí)加速 訓(xùn)練和推理過程加速:FPGA可以用來加速深度學(xué)習(xí)的訓(xùn)練和推理過程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05

    亞馬遜云科技與德勤聯(lián)合啟動(dòng)人工智能與數(shù)據(jù)加速器計(jì)劃 目標(biāo)直指下一代人工智能

    全新成立的創(chuàng)新實(shí)驗(yàn)室與資金支持,將進(jìn)步鞏固雙方的合作伙伴關(guān)系,通過將數(shù)據(jù)、分析能力以及人工智能與機(jī)器學(xué)習(xí)能力與商業(yè)智能深度融合,幫助全球客戶實(shí)現(xiàn)生成式AI等新興技術(shù)的價(jià)值。 ? 北京 ——2024
    發(fā)表于 07-26 13:55 ?299次閱讀

    Nanotronics 推出 “開創(chuàng)性 ”第五代人工智能模型

    Nanotronics 推出新一代人工智能和兩款利用人工智能的新硬件產(chǎn)品,“將重新定義 ”行業(yè)標(biāo)準(zhǔn)。 在Founders Fund(創(chuàng)始人基金)的支持下,Nanotronics得到五家FAANG公司
    的頭像 發(fā)表于 07-25 09:59 ?594次閱讀

    一代人工智能的發(fā)展與思考

    人工智能教學(xué)資料。
    發(fā)表于 07-17 17:10 ?0次下載

    西部數(shù)據(jù)發(fā)布AI數(shù)據(jù)周期框架,推動(dòng)人工智能革新

    人工智能領(lǐng)域持續(xù)革新的今天,西部數(shù)據(jù)公司憑借其深厚的技術(shù)積累,正式發(fā)布了全新的人工智能數(shù)據(jù)周期(AI Data Cycle)框架。這框架不僅為下一代人工智能的飛速發(fā)展提供了強(qiáng)大助力
    的頭像 發(fā)表于 06-14 17:55 ?1220次閱讀

    西部數(shù)據(jù)發(fā)布全新人工智能數(shù)據(jù)周期存儲(chǔ)框架,助力用戶發(fā)掘人工智能價(jià)值

    Data Cycle)框架,助力推動(dòng)下一代人工智能革新。該框架共分為六個(gè)階段,詳細(xì)闡明了如何通過優(yōu)化存儲(chǔ)組合來應(yīng)對(duì)大規(guī)模人工智能運(yùn)算負(fù)載。該框架旨在為用戶搭建先進(jìn)的存儲(chǔ)基礎(chǔ)架構(gòu)提供指導(dǎo),幫助提高人工智能工作流的效率
    的頭像 發(fā)表于 06-11 10:57 ?562次閱讀

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品