0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

浪潮發(fā)布的最新AI服務(wù)器,將GPU資源利用率提升至前所未有的水平

我快閉嘴 ? 來(lái)源:環(huán)球網(wǎng) ? 作者:環(huán)球網(wǎng) ? 2020-06-23 10:56 ? 次閱讀

浪潮在ISC20大會(huì)期間發(fā)布支持最新NVIDIA? Ampere架構(gòu)A100 PCIe Gen4的AI服務(wù)器NF5468M6和NF5468A5,為AI用戶提供兼具超強(qiáng)性能與靈活性的極致AI計(jì)算平臺(tái)。

得益于敏捷而強(qiáng)大的產(chǎn)品設(shè)計(jì)開(kāi)發(fā)能力,浪潮在業(yè)界最早實(shí)現(xiàn)了對(duì)NVIDIA? Ampere架構(gòu)GPU的快速跟進(jìn),并構(gòu)建起完善且富有競(jìng)爭(zhēng)力的新一代AI計(jì)算平臺(tái),能夠通過(guò)NVSwitch實(shí)現(xiàn)8到16顆NVIDIA A100 Tensor Core GPU的高速互聯(lián),提供高達(dá)每秒40 PetaOPS的AI計(jì)算性能以及600GB/秒的GPU間P2P帶寬。目前,浪潮支持Ampere架構(gòu)的AI服務(wù)器已率先實(shí)現(xiàn)量產(chǎn)供貨。

最新發(fā)布的浪潮AI服務(wù)器NF5468M6、NF5468A5實(shí)現(xiàn)了諸多創(chuàng)新設(shè)計(jì),兼顧了超強(qiáng)性能與靈活性,可以滿足日趨復(fù)雜且多元的AI計(jì)算需求,并可在高性能計(jì)算/云應(yīng)用上能發(fā)揮超強(qiáng)的計(jì)算性能。

NF5468M6、NF5468A5均可在4U空間內(nèi)配置8塊雙寬尺寸的PCIe A100,支持最新PCIe Gen4,雙向通信帶寬高達(dá)64GB/秒,相比PCIe Gen3,功耗不變,但通信性能提升1倍,具備更高計(jì)算性能,可應(yīng)對(duì)最復(fù)雜的數(shù)據(jù)科學(xué)、高性能計(jì)算和人工智能挑戰(zhàn)。此外,40GB的HBM2內(nèi)存將內(nèi)存帶寬提高70%,達(dá)到1.6TB/秒,可以承載更大的深度學(xué)習(xí)模型訓(xùn)練。獨(dú)特的NVLINK Bridge設(shè)計(jì)可在2塊GPU卡間提供最高達(dá)600GB/秒的P2P通信性能,訓(xùn)練效率可獲得數(shù)量級(jí)提升;面向多任務(wù)訓(xùn)練與開(kāi)發(fā)場(chǎng)景,MIG功能(Multi-Instance GPU)可以將單個(gè)A100劃分為多達(dá)七個(gè)獨(dú)立的GPU實(shí)例并分別處理不同的計(jì)算任務(wù),通過(guò)更細(xì)粒度的GPU資源切割,能夠?yàn)橛脩籼峁└_的加速計(jì)算量,將GPU資源利用率提升至前所未有的水平。

此外,浪潮目前廣為銷售的領(lǐng)先的AI服務(wù)器產(chǎn)品NF5468M5、NF5280M5也均可同步支持PCIe Gen4 NVIDIA A100。

浪潮是全球領(lǐng)先的AI服務(wù)器廠商,擁有豐富的AI產(chǎn)品陣列,并和AI客戶緊密合作幫助在語(yǔ)音、語(yǔ)義、圖像、視頻、搜索等各方面取得數(shù)量級(jí)的AI應(yīng)用性能提升。據(jù)IDC數(shù)據(jù)報(bào)告顯示,浪潮AI服務(wù)器在中國(guó)AI基礎(chǔ)架構(gòu)設(shè)施領(lǐng)域已連續(xù)三年保持50%以上市場(chǎng)份額。
責(zé)任編輯:tzh

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 帶寬
    +關(guān)注

    關(guān)注

    3

    文章

    947

    瀏覽量

    41008
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31396

    瀏覽量

    269787
  • 人工智能
    +關(guān)注

    關(guān)注

    1793

    文章

    47588

    瀏覽量

    239465
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI服務(wù)器市場(chǎng)前景廣闊:2025年市場(chǎng)價(jià)值預(yù)計(jì)達(dá)2980億美元

    近日,根據(jù)TrendForce的最新研究顯示,服務(wù)器行業(yè)正迎來(lái)前所未有的發(fā)展機(jī)遇。預(yù)計(jì)在2024年,整個(gè)服務(wù)器行業(yè)的總產(chǎn)值達(dá)到3060億美元,這一數(shù)字彰顯了
    的頭像 發(fā)表于 01-08 10:21 ?134次閱讀

    GPU加速云服務(wù)器怎么用的

    GPU加速云服務(wù)器GPU硬件與云計(jì)算服務(wù)相結(jié)合,通過(guò)云服務(wù)提供商的平臺(tái),用戶可以根據(jù)需求靈活
    的頭像 發(fā)表于 12-26 11:58 ?109次閱讀

    GPU服務(wù)器租用多少錢

    GPU服務(wù)器的租用價(jià)格受多種因素影響,包括服務(wù)提供商、GPU型號(hào)和性能、實(shí)例規(guī)格、計(jì)費(fèi)模式、促銷活動(dòng)以及地域差異等。下面,AI部落小編為您
    的頭像 發(fā)表于 12-09 10:50 ?200次閱讀

    GPU服務(wù)器和傳統(tǒng)的服務(wù)器有什么區(qū)別

    GPU服務(wù)器與傳統(tǒng)的服務(wù)器在多個(gè)方面存在顯著差異,主機(jī)推薦小編為您整理發(fā)布GPU服務(wù)器和傳統(tǒng)的
    的頭像 發(fā)表于 11-07 11:05 ?258次閱讀

    GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)

    眾所周知,在大型模型訓(xùn)練中,通常采用每臺(tái)服務(wù)器配備多個(gè)GPU的集群架構(gòu)。在上一篇文章《高性能GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)(上篇)》中,我們對(duì)
    的頭像 發(fā)表于 11-05 16:20 ?559次閱讀
    <b class='flag-5'>GPU</b><b class='flag-5'>服務(wù)器</b><b class='flag-5'>AI</b>網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)

    海外輕量云服務(wù)器是什么意思?如何使用

    海外輕量云服務(wù)器是指位于海外數(shù)據(jù)中心內(nèi),采用虛擬化技術(shù)構(gòu)建的輕量級(jí)云服務(wù)器實(shí)例。海外輕量云服務(wù)器是專為輕量級(jí)應(yīng)用或小型網(wǎng)站設(shè)計(jì)的,旨在以較低的成本提供高效、穩(wěn)定的云服務(wù)。它采用虛擬化技
    的頭像 發(fā)表于 10-30 09:48 ?178次閱讀

    華納云:什么是負(fù)載均衡??jī)?yōu)化資源利用率的策略

    負(fù)載均衡是現(xiàn)代計(jì)算機(jī)網(wǎng)絡(luò)架構(gòu)中不可或缺的一部分,它通過(guò)智能分配請(qǐng)求和任務(wù),確保系統(tǒng)資源的高效利用。本文探討負(fù)載均衡的概念、工作原理、優(yōu)化資源利用率
    的頭像 發(fā)表于 10-28 16:07 ?201次閱讀

    GPU高性能服務(wù)器配置

    GPU高性能服務(wù)器作為提升計(jì)算速度和效率的關(guān)鍵設(shè)備,在各大應(yīng)用場(chǎng)景中發(fā)揮著越來(lái)越重要的作用。在此,petacloud.ai小編為你介紹GPU
    的頭像 發(fā)表于 10-21 10:42 ?257次閱讀

    什么是AI服務(wù)器?AI服務(wù)器的優(yōu)勢(shì)是什么?

    AI服務(wù)器是一種專門為人工智能應(yīng)用設(shè)計(jì)的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片
    的頭像 發(fā)表于 09-21 11:43 ?972次閱讀

    環(huán)球儀器FuzionXC貼片機(jī)在服務(wù)器行業(yè)的應(yīng)用

    隨著云計(jì)算、大數(shù)據(jù)、人工智能等技術(shù)的迅猛發(fā)展,服務(wù)器行業(yè)也迎來(lái)了前所未有的發(fā)展機(jī)遇。
    的頭像 發(fā)表于 09-14 11:26 ?398次閱讀

    中國(guó)大陸AMOLED DDIC將于2024年迎來(lái)前所未有的需求高峰

     在全球顯示技術(shù)的浪潮中,OLED顯示驅(qū)動(dòng)芯片(DDIC)市場(chǎng)正步入一個(gè)需求井噴的新階段,尤以智能手機(jī)領(lǐng)域的AMOLED DDIC市場(chǎng)為甚,預(yù)計(jì)其將于2024年迎來(lái)前所未有的需求高峰。這一趨勢(shì)中,中國(guó)大陸廠商的表現(xiàn)尤為搶眼,成為推動(dòng)市場(chǎng)增長(zhǎng)的重要力量。
    的頭像 發(fā)表于 08-27 14:35 ?1274次閱讀

    富士康股價(jià)飆升一倍,AI服務(wù)器需求驅(qū)動(dòng)業(yè)績(jī)創(chuàng)新高

    今年以來(lái),富士康的股價(jià)表現(xiàn)令人矚目,累計(jì)漲幅已逾一倍,這一亮眼表現(xiàn)背后,是AI服務(wù)器市場(chǎng)的強(qiáng)勁需求所驅(qū)動(dòng)的業(yè)績(jī)飆升。作為全球知名的電子制造服務(wù)巨頭,富士康在科技浪潮中緊抓機(jī)遇,實(shí)現(xiàn)了
    的頭像 發(fā)表于 07-09 16:30 ?688次閱讀

    ai服務(wù)器是什么架構(gòu)類型

    架構(gòu)的AI服務(wù)器通常具有較高的通用性,可以運(yùn)行各種人工智能算法。但是,CPU架構(gòu)的AI服務(wù)器在處理大規(guī)模并行計(jì)算時(shí),性能可能不如GPU架構(gòu)的
    的頭像 發(fā)表于 07-02 09:51 ?1180次閱讀

    恒訊科技全面解析:如何有效降低服務(wù)器CPU利用率?

    降低服務(wù)器CPU利用率是一個(gè)涉及監(jiān)控、診斷和優(yōu)化的全面過(guò)程。以下是一些有效的方法: 1、監(jiān)控CPU使用率: 使用工具如top, htop, vmstat, 或 iostat實(shí)時(shí)監(jiān)控CPU使用情況
    的頭像 發(fā)表于 05-10 17:24 ?780次閱讀

    gpu服務(wù)器是干什么的 gpu服務(wù)器與cpu服務(wù)器的區(qū)別有哪些

    gpu服務(wù)器是干什么的 gpu服務(wù)器與cpu服務(wù)器的區(qū)別 GPU
    的頭像 發(fā)表于 01-30 15:31 ?925次閱讀