0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

摩爾線程和滴普科技完成大模型訓(xùn)練與推理適配

CHANBAEK ? 來(lái)源:網(wǎng)絡(luò)整理 ? 2024-05-30 10:14 ? 次閱讀

近日,摩爾線程與滴普科技宣布了一項(xiàng)重要合作成果。摩爾線程的夸娥(KUAE)千卡智算集群與滴普科技的企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配,共同實(shí)現(xiàn)了700億參數(shù)LLaMA2大語(yǔ)言模型的預(yù)訓(xùn)練測(cè)試。

在測(cè)試過(guò)程中,摩爾線程的夸娥千卡智算集群展現(xiàn)了其卓越的性能。全程77小時(shí)的無(wú)故障連續(xù)運(yùn)行,集群訓(xùn)練穩(wěn)定性高達(dá)100%,訓(xùn)練效率和兼容性均達(dá)到預(yù)期。這一成果得益于摩爾線程夸娥千卡智算集群的全棧方案,其模型覆蓋、推理加速、CUDA兼容、斷點(diǎn)續(xù)訓(xùn)、分布式訓(xùn)練、集群可靠性等8大核心能力,為訓(xùn)練提供了強(qiáng)大支持。

此次合作不僅彰顯了摩爾線程在智能計(jì)算領(lǐng)域的領(lǐng)先地位,也標(biāo)志著雙方在推動(dòng)國(guó)產(chǎn)化數(shù)智賦能底座構(gòu)建上取得了實(shí)質(zhì)性進(jìn)展。展望未來(lái),摩爾線程與滴普科技將繼續(xù)深化合作,共同推動(dòng)人工智能技術(shù)的創(chuàng)新與發(fā)展。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 摩爾線程
    +關(guān)注

    關(guān)注

    2

    文章

    215

    瀏覽量

    4854
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2845

    瀏覽量

    3488
收藏 0人收藏

    評(píng)論

    相關(guān)推薦

    國(guó)產(chǎn)千卡GPU集群完成大模型訓(xùn)練測(cè)試,極具高兼容性和穩(wěn)定性

    卡集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個(gè)全國(guó)產(chǎn)千卡千億模型訓(xùn)練平臺(tái)“摩爾線程
    的頭像 發(fā)表于 06-11 07:50 ?3682次閱讀
    國(guó)產(chǎn)千卡GPU集群<b class='flag-5'>完成大</b><b class='flag-5'>模型</b><b class='flag-5'>訓(xùn)練</b>測(cè)試,極具高兼容性和穩(wěn)定性

    摩爾線程GPU原生FP8計(jì)算助力AI訓(xùn)練

    并行訓(xùn)練推理,顯著提升了訓(xùn)練效率與穩(wěn)定性。摩爾線程是國(guó)內(nèi)率先原生支持FP8計(jì)算精度的國(guó)產(chǎn)GPU企業(yè),此次開(kāi)源不僅為AI
    的頭像 發(fā)表于 03-17 17:05 ?255次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>GPU原生FP8計(jì)算助力AI<b class='flag-5'>訓(xùn)練</b>

    摩爾線程支持阿里云通義千問(wèn)QwQ-32B開(kāi)源模型

    近日,阿里云團(tuán)隊(duì)正式開(kāi)源全新推理模型——通義千問(wèn)QwQ-32B。摩爾線程在該模型發(fā)布后2小時(shí)內(nèi),迅速且高效完成了對(duì)千問(wèn)QwQ-32B的支持。
    的頭像 發(fā)表于 03-07 17:48 ?429次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>支持阿里云通義千問(wèn)QwQ-32B開(kāi)源<b class='flag-5'>模型</b>

    摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務(wù)

    近日,摩爾線程智能科技(北京)有限責(zé)任公司在其官方渠道發(fā)布了一則重要消息,宣布公司已經(jīng)成功實(shí)現(xiàn)了對(duì)DeepSeek蒸餾模型推理服務(wù)的部署。這一技術(shù)突破,標(biāo)志著
    的頭像 發(fā)表于 02-06 13:49 ?548次閱讀

    摩爾線程GPU與超圖軟件大模型適配:共筑國(guó)產(chǎn)地理空間AI新生態(tài)

    10月24日,摩爾線程公司宣布與超圖軟件達(dá)成重要合作里程碑。經(jīng)過(guò)雙方的嚴(yán)格測(cè)試,摩爾線程的MTT S/X系列全功能GPU已成功與超圖軟件最新發(fā)布的大
    的頭像 發(fā)表于 10-24 11:29 ?1095次閱讀

    摩爾線程與超圖軟件完成產(chǎn)品兼容認(rèn)證

    10月24日,摩爾線程官方正式對(duì)外宣布,其MTT S/X系列全功能GPU已成功與超圖軟件最新發(fā)布的大模型系列產(chǎn)品完成產(chǎn)品兼容認(rèn)證。這一消息的發(fā)布標(biāo)志著雙方在GPU與軟件
    的頭像 發(fā)表于 10-24 10:25 ?725次閱讀

    摩爾線程與羽人科技完成大語(yǔ)言模型訓(xùn)練測(cè)試

    近日,摩爾線程與羽人科技攜手宣布,雙方已成功實(shí)現(xiàn)夸娥(KUAE)千卡智算集群與羽人系列模型解決方案的訓(xùn)練兼容適配。在本次測(cè)試中,羽人科技通過(guò)
    的頭像 發(fā)表于 08-27 16:19 ?658次閱讀

    摩爾線程攜手智源研究院完成基于Triton的大模型算子庫(kù)適配

    近日,摩爾線程與北京智源人工智能研究院(簡(jiǎn)稱:智源研究院)已順利完成基于Triton語(yǔ)言的高性能算子庫(kù)FlagGems的適配工作。得益于摩爾
    的頭像 發(fā)表于 08-02 11:06 ?1091次閱讀

    摩爾線程攜手東華軟件完成AI大模型推理測(cè)試與適配

    近日,摩爾線程與東華軟件云筑AI創(chuàng)新中心宣布,雙方已完成大模型推理測(cè)試與適配。依托
    的頭像 發(fā)表于 07-31 10:51 ?1044次閱讀

    摩爾線程與智譜AI完成大模型性能測(cè)試與適配

    近日,摩爾線程與智譜AI在人工智能領(lǐng)域開(kāi)展了一輪深入的合作,共同對(duì)GPU大模型進(jìn)行了適配及性能測(cè)試。此次測(cè)試不僅涵蓋了大模型
    的頭像 發(fā)表于 06-14 16:40 ?1276次閱讀

    摩爾線程與羽人科技攜手完成7B大模型訓(xùn)練測(cè)試

    近日,摩爾線程與羽人科技聯(lián)合宣布了一項(xiàng)重要成果:雙方已成功實(shí)現(xiàn)夸娥(KUAE)千卡智算集群與羽人系列模型解決方案的訓(xùn)練兼容適配。這一成果不僅
    的頭像 發(fā)表于 06-14 16:33 ?608次閱讀

    摩爾線程與師者AI攜手完成70億參數(shù)教育AI大模型訓(xùn)練測(cè)試

    近日,國(guó)內(nèi)知名的GPU制造商摩爾線程與全學(xué)科教育AI大模型“師者AI”聯(lián)合宣布,雙方已成功完成了一項(xiàng)重要的大模型
    的頭像 發(fā)表于 06-14 16:31 ?735次閱讀

    摩爾線程千卡智算集群與企業(yè)大模型完成訓(xùn)練推理適配

    近日,摩爾線程與國(guó)內(nèi)領(lǐng)先的數(shù)據(jù)智能服務(wù)商科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與
    的頭像 發(fā)表于 05-29 10:28 ?574次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>千卡智算集群與<b class='flag-5'>滴</b><b class='flag-5'>普</b>企業(yè)大<b class='flag-5'>模型</b>已<b class='flag-5'>完成</b><b class='flag-5'>訓(xùn)練</b>及<b class='flag-5'>推理</b><b class='flag-5'>適配</b>

    摩爾線程攜手憨猴集團(tuán),深化AI算力戰(zhàn)略合作,成功實(shí)現(xiàn)大模型分布式訓(xùn)練

    摩爾線程與憨猴科技集團(tuán)日前宣布,采用搭載摩爾線程的夸娥(KUAE)千卡智算集群,已成功完成了多個(gè)大模型
    的頭像 發(fā)表于 05-17 17:24 ?809次閱讀

    摩爾線程助力AI大模型訓(xùn)練與計(jì)算升級(jí),共建美好數(shù)字化未來(lái)

    此外,在中關(guān)村國(guó)際技術(shù)交易大會(huì)高精尖技術(shù)產(chǎn)品首發(fā)會(huì)上,摩爾線程與無(wú)問(wèn)芯穹聯(lián)合宣布,雙方正致力于開(kāi)發(fā)基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩爾
    的頭像 發(fā)表于 04-28 16:42 ?1270次閱讀

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品