0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

業(yè)界唯一內(nèi)置AI的數(shù)據(jù)中心CPU來了

機器人創(chuàng)新生態(tài) ? 來源:芯東西 ? 作者:心緣 ? 2021-04-13 11:34 ? 次閱讀

業(yè)界唯一內(nèi)置AI的數(shù)據(jù)中心CPU來了。4月6日,英特爾在北京首鋼園推出第三代至強可擴展處理器(代號Ice Lake),最多支持40核,進一步強化AI性能和安全性,在主流數(shù)據(jù)中心工作負載上性能平均提升46%。英特爾還將該新品的AI性能與AMD競品及NVIDIA A100 GPU做了對比。2021年第一季度,這款芯片已出貨超過20萬顆,主流云服務提供商均計劃今年提供基于Ice Lake的服務,在超過50家獨立OxM合作伙伴中贏得了超過250個訂單。

同時,英特爾宣布推出傲騰持久內(nèi)存200系列、傲騰固態(tài)盤SSD P5800X、NAND固態(tài)盤SSD D5-P5316,以及英特爾以太網(wǎng)800系列適配器和全新的英特爾Agilex FPGA,并展示了整體解決方案,以及英特爾產(chǎn)品組合自身獨具的優(yōu)勢。

01.第三代至強可擴展處理器:10nm、最多40核、AI推理性能猛增

自2013年以來,英特爾已在云端部署超過10億個至強處理器核心,有超過800個云服務提供商部署了基于英特爾至強可擴展處理器的服務器。從2017年推出第一款英特爾至強可擴展處理器至今,英特爾已向全球客戶交付了超過5000萬顆至強可擴展處理器。

如今,采用英特爾10nm先進制程的第三代至強可擴展處理器Ice Lake終于來了,依然是業(yè)界唯一內(nèi)置人工智能(AI)加速的數(shù)據(jù)中心處理器。新Ice Lake采用了新Sunny Cove核心,可額外增加20%的IPC性能,更加強調(diào)靈活性,主要服務于單路和雙路服務器。加上去年發(fā)布的Cooper Lake產(chǎn)品系列,迄今第三代至強產(chǎn)品系列已能滿足從單路到8路的市場需求。

其新旗艦Xeon Platinum 8380擁有40個核心,相較上一代28核Cascade Lake,其IPC性能可提升20%,平均性能可提升46%,AI推理性能可提升74%,平均性能相比已部署5年的老系統(tǒng)可提升2.65倍,這對于想要更新舊基礎設施的客戶來說是相當不錯的收益。

云計算、5G、物聯(lián)網(wǎng)、HPC、AI等不同應用領域,第三代至強可擴展處理器均帶來超過1.5倍的代際提升。

具體來看,第三代至強可擴展處理器在AI和安全性方面的特點尤其凸顯。從AI算力的增強來看,通過采用英特爾深度學習加速技術(DL Boost),其推理性能較上一代提高74%,在20種主流AI工作負載上的性能最高可達AMD EPYC 763的1.5倍、NVIDIA A100 GPU的1.3倍。

相比默認發(fā)行版,經(jīng)英特爾軟件優(yōu)化后的新一代至強在運行TensorFlow上ResNet50的深度學習性能提高了10倍,在Scikit-learn上SVC和kNN預測的機器學習性能提高了100倍。

從安全性來看,這是英特爾第一個主流雙插槽并啟用SGX英特爾軟件防護擴展(SGX)技術的數(shù)據(jù)中心處理器,能幫助保護敏感的代碼及數(shù)據(jù),能滿足主流工作負載的需求。除了能做到應用程序隔離,該處理器還引入了英特爾全內(nèi)存機密技術、英特爾平臺固件彈性技術相結合,可批量加密全內(nèi)存空間,防止物理攻擊。即使平臺的軟件或硬件組件遭到入侵,依然能保護該區(qū)域內(nèi)的機密信息。此外,英特爾推出了英特爾平臺固件彈性技術,用于固件層的防御甚至恢復,以防止永久性的拒絕服務攻擊。第三代至強可擴展處理器還內(nèi)置英特爾密碼操作硬件加速,能通過公鑰對稱加密、哈希法等很多重要的加密算法,減少普遍加密對系統(tǒng)性能和響應時間的影響,并為客戶的敏感數(shù)據(jù)提供更高級別的保護。

數(shù)據(jù)中心計算機架構不僅需要提高吞吐量,同時也需具備最佳的響應能力,才能更好地處理數(shù)據(jù)中心普遍存在的不同類型工作負載。對此,Ice Lake采用了一個可擴展且平衡的架構,在內(nèi)核架構方面進一步優(yōu)化其性能,支持關鍵的矢量化擴展,并提升了轉(zhuǎn)譯后備緩沖區(qū)(TLB)和預存數(shù)據(jù)性能,以確保內(nèi)存阻塞時間最少,還增加了總體共享緩存。

內(nèi)存方面,該處理器每插槽最多可支持6TB系統(tǒng)內(nèi)存,內(nèi)存通道數(shù)量由6個增加到8個,進一步改善內(nèi)存帶寬,內(nèi)存速度最高可達3200。此外,英特爾Ice Lake支持PCIe 4.0,核心之間的網(wǎng)狀互連采用了更新的算法向核心提供IO,槽間互連傳輸速度提高到11.2GT/s,還通過每個IP塊內(nèi)的獨立電源管理代理來實現(xiàn)更好的電源管理。通過六個技術支柱,英特爾在芯片計算、內(nèi)存、IO、架構平衡方面都取得了進步,并已開發(fā)優(yōu)化的底層庫,用于ISV和開放源碼社區(qū)合作,確保在軟件優(yōu)化后第三代至強可擴展處理器的性能最大化釋放。為了進一步降低應用門檻,目前超過500個可立即部署的英特爾物聯(lián)網(wǎng)行業(yè)整體解決方案和英特爾精選解決方案已搭載第三代英特爾至強可擴展處理器,幫客戶提高規(guī)?;渴鸬男?。其中近80%的英特爾精選解決方案將在今年年底完成更新。

02.計算存儲連接陣容集體上新

如果僅看新處理器的參數(shù),英特爾的優(yōu)勢可能不算明顯,畢竟有其他廠商的核心數(shù)已經(jīng)奔著64核、128核去了。但談及豐富的軟硬件組合,當前沒有一家處理器廠商比英特爾的布局更全面。具體來看英特爾產(chǎn)品組合的新成員,其中新一代傲騰持久內(nèi)存200系列的內(nèi)存帶寬增加了32%,每個插槽內(nèi)存容量最高可以達到6TB。

新一代傲騰固態(tài)盤P5800X被英特爾稱作世界上最快的數(shù)據(jù)中心固態(tài)盤,相比上一代,其平均時延可降低40%,服務質(zhì)量(QoS)提高50%,耐久性提高67%,而延遲降低到NAND固態(tài)盤的1/13。

新一代NAND固態(tài)盤D5-P5316采用了英特爾最先進的OLC NAND技術,相比硬盤能將數(shù)據(jù)訪問速度提高25倍,能將客戶存儲空間最多減少到原來的1/20;其耐久性是上一代QLC固態(tài)盤系列的5倍。

新一代英特爾以太網(wǎng)適配器800系列把網(wǎng)絡數(shù)據(jù)吞吐量提高至每個適配器200GB/s,適合高性能vRAN、NFV轉(zhuǎn)發(fā)面、存儲、高性能計算、云和內(nèi)容交付網(wǎng)絡等帶寬密集型工作負載,能為虛擬機密度提供最多2倍的資源。

有些數(shù)據(jù)中心對靈活性和敏捷性的要求很高,對此英特爾打造了新一代Agilex FPGA。這款FPGA采用英特爾最先進的10nm SuperFin制程技術,包含從140萬到270萬個邏輯元件,搭配Quartus Prime軟件,據(jù)稱能提供比競爭對手7nm FPGA高30%的邏輯結構性能和高2倍的結構每瓦性能。

據(jù)英特爾公司副總裁兼至強處理器與存儲事業(yè)部總經(jīng)理Lisa Spelmam分享,從平臺到邊緣到云,通過整合更多產(chǎn)品組合,英特爾已經(jīng)建立了一個價值超過10億美元的業(yè)務,并且這一業(yè)務還在增長。英特爾還分享了與阿里云、騰訊云等云計算巨頭的合作案例,在第三代至強可擴展處理器及其深度學習加速技術的支持下,阿里云視頻轉(zhuǎn)碼性能最高可提升40%,騰訊云支撐的游戲角色創(chuàng)建速度比上一代提升了4.2倍。新一代至強還幫助進一步降低了總擁有成本。當英特爾新一代至強與傲騰持久內(nèi)存、固態(tài)盤、以太網(wǎng)、PCle 4.0等平臺組件,及所有軟件優(yōu)化工具等功能結合時,能幫助客戶大幅提高性能。

03.面向數(shù)據(jù)中心,英特爾的五大競爭優(yōu)勢

在發(fā)布新品之余,英特爾技術專家還分享了客戶為何繼續(xù)購買英特爾產(chǎn)品的5個理由。

第一是豐富靈活的產(chǎn)品組合,包括數(shù)據(jù)中心處理器、傲騰持久內(nèi)存、以太網(wǎng)適配器等在內(nèi)的英特爾軟硬件產(chǎn)品組合,可以帶來極高的性能提升。第二是為客戶關鍵工作負載提供可預測的結果和低時延。通過與競品的參數(shù)對比可見,英特爾新一代至強可擴展處理器的本地插槽延時更短,遠程插槽延時性能更優(yōu),響應速度更快。

第三是持續(xù)優(yōu)化軟件,英特爾有近萬名工程師每天專注于更新軟件堆棧,確保客戶在購買至強平臺多年后,仍能持續(xù)從英特爾受益。圍繞工作負載加速指令集,英特爾已經(jīng)構建了龐大的軟件生態(tài)系統(tǒng),并根據(jù)客戶需求持續(xù)迭代。

第四是虛擬化計算池具有一致性,易于部署、易于管理,客戶未來能方便地從第三代至強遷移到第五代至強,大幅減少遷移成本。第五是供應鏈和物流能力更穩(wěn)定,英特爾是一家集成設備制造商(IDM),因此在向客戶交付產(chǎn)品時,英特爾能確定什么時候交付、怎樣優(yōu)先排序、如何可以更好滿足客戶的需求,從而如期交付客戶所需的產(chǎn)品。

04.結語:或刺激數(shù)據(jù)中心新一輪換機潮

2021年宛如英特爾新的轉(zhuǎn)折之年。從英特爾新任CEO帕特·基辛格宣布IDM 2.0戰(zhàn)略,到今日推出以第三代至強可擴展處理器為中心的一系列數(shù)據(jù)中心新品,英特爾似乎正擺脫去年因7nm延期而陷入的焦灼境地,開始向快速擴張的數(shù)據(jù)中心市場發(fā)起新一輪攻勢。對于英特爾來說,AMD、Arm系處理器的強勢發(fā)展顯然正為其產(chǎn)品帶來新的競爭壓力。但與此同時,英特爾全技術維度提升的優(yōu)勢仍具有獨特性,至少從現(xiàn)在來看,沒有其他競爭對手能提供像英特爾這樣全面統(tǒng)一的軟硬件及生態(tài)布局。隨著英特爾Ice Lake導入市場,以及更多來自其他品牌的處理器加入競爭,更高性能的芯片新品有望刺激企業(yè)數(shù)據(jù)中心服務器新一輪的換機潮。

原文標題:新品 | 史上最擅長AI推理的云端CPU!Q1已出貨超20萬顆

文章出處:【微信公眾號:機器人創(chuàng)新生態(tài)】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

責任編輯:haq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    10898

    瀏覽量

    212552
  • AI
    AI
    +關注

    關注

    87

    文章

    31393

    瀏覽量

    269784

原文標題:新品 | 史上最擅長AI推理的云端CPU!Q1已出貨超20萬顆

文章出處:【微信號:robotplaces,微信公眾號:機器人創(chuàng)新生態(tài)】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關推薦

    Meta AI數(shù)據(jù)中心網(wǎng)絡用了哪家的芯片

    ? 在Meta,我們相信開放的硬件會推動創(chuàng)新。在當今世界,越來越多的數(shù)據(jù)中心基礎設施致力于支持新興的AI技術,開放硬件在協(xié)助分解方面發(fā)揮著重要作用。通過將傳統(tǒng)數(shù)據(jù)中心技術分解為其核心組件,我們可以
    的頭像 發(fā)表于 11-25 10:05 ?450次閱讀
    Meta <b class='flag-5'>AI</b><b class='flag-5'>數(shù)據(jù)中心</b>網(wǎng)絡用了哪家的芯片

    CET中電技術誠邀您參加2024數(shù)據(jù)中心標準大會

    11月20-21日,2024數(shù)據(jù)中心標準大會將在北京·國家會議中心舉辦,本次大會以“AI之光照耀未來”為主題,匯聚了來自數(shù)據(jù)中心全行業(yè)的技術專家,聚焦最新科技成果及技術熱點,為
    的頭像 發(fā)表于 11-19 01:03 ?387次閱讀
    CET中電技術誠邀您參加2024<b class='flag-5'>數(shù)據(jù)中心</b>標準大會

    安森美引領數(shù)據(jù)中心能效革命

    在當今數(shù)字化轉(zhuǎn)型的浪潮中,數(shù)據(jù)中心作為支撐人工智能、云計算等關鍵技術的基礎設施,其能耗問題日益凸顯。特別是隨著AI計算的蓬勃發(fā)展,數(shù)據(jù)中心對電力的需求急劇增加,傳統(tǒng)搜索引擎請求相比,AI
    的頭像 發(fā)表于 08-12 11:13 ?520次閱讀

    美光推出全新數(shù)據(jù)中心 SSD,性能業(yè)界領先

    數(shù)據(jù)中心 SSD 產(chǎn)品美光 9550 NVMe? SSD,性能業(yè)界領先,同時具備卓越的 AI 工作負載性能及能效。[1] 美光 9550 SSD 集成了自有的控制器、NAND、DRAM 和固件,彰顯了美光
    發(fā)表于 07-29 15:13 ?958次閱讀

    AI時代,我們需要怎樣的數(shù)據(jù)中心?AI重新定義數(shù)據(jù)中心

    超過60%的中國企業(yè)計劃在未來12至24個月內(nèi)部署生成式人工智能。AI、模型的構建,將顛覆數(shù)據(jù)中心基礎設施的建設、運維和運營。個全新的數(shù)據(jù)中心智能化時代已經(jīng)拉開序幕。
    發(fā)表于 07-16 11:33 ?748次閱讀
    <b class='flag-5'>AI</b>時代,我們需要怎樣的<b class='flag-5'>數(shù)據(jù)中心</b>?<b class='flag-5'>AI</b>重新定義<b class='flag-5'>數(shù)據(jù)中心</b>

    數(shù)據(jù)中心液冷需求、技術及實際應用

    夏日炎炎,數(shù)據(jù)中心制冷技術全新升級,液冷散熱,讓服務器清涼夏。本文將帶您起探索數(shù)據(jù)中心液冷需求、技術及實際應用。 1 數(shù)據(jù)中心液冷需求
    的頭像 發(fā)表于 06-19 11:12 ?1208次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>液冷需求、技術及實際應用

    HNS 2024:星河AI數(shù)據(jù)中心網(wǎng)絡,賦AI時代新動能

    華為數(shù)據(jù)通信創(chuàng)新峰會2024在巴庫隆重舉辦,在“星河AI數(shù)據(jù)中心網(wǎng)絡,賦AI時代新動能”主題論壇中,華為面向中東中亞地區(qū)發(fā)布星河AI
    的頭像 發(fā)表于 05-15 09:15 ?691次閱讀
    HNS 2024:星河<b class='flag-5'>AI</b><b class='flag-5'>數(shù)據(jù)中心</b>網(wǎng)絡,賦<b class='flag-5'>AI</b>時代新動能

    蘋果正在研發(fā)全新數(shù)據(jù)中心AI芯片

    蘋果正在秘密研發(fā)款全新的數(shù)據(jù)中心AI芯片,這項目在公司內(nèi)部被稱為“ACDC”,并且已經(jīng)經(jīng)過了數(shù)年的精心籌備。據(jù)華爾街日報的知情人士透露,這款芯片的設計目標是為了優(yōu)化蘋果
    的頭像 發(fā)表于 05-08 09:40 ?444次閱讀

    #mpo極性 #數(shù)據(jù)中心mpo

    數(shù)據(jù)中心MPO
    jf_51241005
    發(fā)布于 :2024年04月07日 10:05:13

    圖看懂星河AI數(shù)據(jù)中心網(wǎng)絡,全面釋放AI時代算力

    華為中國合作伙伴大會 | 圖看懂星河AI數(shù)據(jù)中心網(wǎng)絡,以網(wǎng)強算,全面釋放AI時代算力
    的頭像 發(fā)表于 03-22 10:28 ?804次閱讀
    <b class='flag-5'>一</b>圖看懂星河<b class='flag-5'>AI</b><b class='flag-5'>數(shù)據(jù)中心</b>網(wǎng)絡,全面釋放<b class='flag-5'>AI</b>時代算力

    #mpo光纖跳線 #數(shù)據(jù)中心光纖跳線

    光纖數(shù)據(jù)中心
    jf_51241005
    發(fā)布于 :2024年03月22日 10:18:31

    納微半導體發(fā)布最新AI數(shù)據(jù)中心電源技術路線圖

    納微氮化鎵和碳化硅技術并進,下AI數(shù)據(jù)中心電源功率突破飛升 加利福尼亞州托倫斯2024年3月11日訊 — 唯一全面專注的下代功率半導體
    發(fā)表于 03-13 13:48 ?628次閱讀
    納微半導體發(fā)布最新<b class='flag-5'>AI</b><b class='flag-5'>數(shù)據(jù)中心</b>電源技術路線圖

    #MPO預端接 #數(shù)據(jù)中心機房 #機房布線

    數(shù)據(jù)中心MPO
    jf_51241005
    發(fā)布于 :2024年03月01日 11:12:47

    #永久鏈路 #信道測試 #數(shù)據(jù)中心

    數(shù)據(jù)中心
    jf_51241005
    發(fā)布于 :2024年02月23日 10:17:58

    #緊套光纜 #松套光纜 #數(shù)據(jù)中心

    數(shù)據(jù)中心光纜
    jf_51241005
    發(fā)布于 :2024年01月26日 09:44:11