0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

天數(shù)智芯與無問芯穹合作突破千卡集群訓(xùn)練優(yōu)化

科技綠洲 ? 來源:網(wǎng)絡(luò)整理 ? 作者:網(wǎng)絡(luò)整理 ? 2025-01-21 14:31 ? 次閱讀

近日,天數(shù)智芯與無問芯穹宣布達(dá)成深度合作,并在千卡集群訓(xùn)練優(yōu)化領(lǐng)域取得了重大技術(shù)突破。這一合作基于天數(shù)智芯的天垓150卓越計(jì)算能力和無問芯穹自主研發(fā)的大模型訓(xùn)練框架,共同推動(dòng)了LLaMA千卡集群模型訓(xùn)練性能的大幅提升。

據(jù)了解,通過雙方的緊密合作和技術(shù)融合,LLaMA千卡集群的模型訓(xùn)練性能已成功達(dá)到國際先進(jìn)水平。尤為值得一提的是,在MoE(Mixture of Experts,專家混合)模型訓(xùn)練性能方面,雙方的合作更是實(shí)現(xiàn)了53.5%的顯著提升,再度刷新了自主算力混訓(xùn)集群的效能極限。

這一突破不僅彰顯了天數(shù)智芯與無問芯穹在AI計(jì)算領(lǐng)域的深厚實(shí)力,更為我國AI技術(shù)的發(fā)展注入了新的活力。未來,雙方將繼續(xù)深化合作,探索更多技術(shù)創(chuàng)新,推動(dòng)AI技術(shù)的普及和應(yīng)用,為各行各業(yè)的數(shù)字化轉(zhuǎn)型提供有力支持。

此次合作取得的重大突破,標(biāo)志著天數(shù)智芯與無問芯穹在AI計(jì)算領(lǐng)域邁出了堅(jiān)實(shí)的一步,也為我國AI技術(shù)的自主創(chuàng)新和發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31463

    瀏覽量

    269857
  • 模型訓(xùn)練
    +關(guān)注

    關(guān)注

    0

    文章

    20

    瀏覽量

    1358
  • 天數(shù)智芯
    +關(guān)注

    關(guān)注

    0

    文章

    97

    瀏覽量

    5571
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    國產(chǎn)千卡GPU集群完成大模型訓(xùn)練測試,極具高兼容性和穩(wěn)定性

    集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個(gè)全國產(chǎn)千卡千億模型訓(xùn)練平臺(tái)“摩爾線程KUAE智算中心”。摩爾線程相關(guān)負(fù)責(zé)人此前談到,百
    的頭像 發(fā)表于 06-11 07:50 ?3391次閱讀
    國產(chǎn)<b class='flag-5'>千卡</b>GPU<b class='flag-5'>集群</b>完成大模型<b class='flag-5'>訓(xùn)練</b>測試,極具高兼容性和穩(wěn)定性

    性能提升近一倍!壁仞科技攜手,在千卡訓(xùn)練集群等領(lǐng)域取得技術(shù)新突破

    隨著智能算力需求的倍增,到2024年,千卡算力集群已成為國內(nèi)大模型訓(xùn)練的必備場景。壁仞科技,作為國內(nèi)少數(shù)擁有原創(chuàng)訓(xùn)推一體架構(gòu)的高端算力芯片廠商之一,與在AI算力市場具有重要影響力的
    發(fā)表于 11-05 18:45 ?876次閱讀
    性能提升近一倍!壁仞科技攜手<b class='flag-5'>無</b><b class='flag-5'>問</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>,在<b class='flag-5'>千卡</b><b class='flag-5'>訓(xùn)練</b><b class='flag-5'>集群</b>等領(lǐng)域取得技術(shù)新<b class='flag-5'>突破</b>

    獲完成5億元A輪融資

    近日,大模型基礎(chǔ)設(shè)施領(lǐng)域的創(chuàng)新企業(yè)宣布成功完成5億元人民幣的A輪融資。此輪融資由社?;鹬嘘P(guān)村自主創(chuàng)新專項(xiàng)基金(君聯(lián)資本擔(dān)任管理人)、啟明創(chuàng)投及洪泰基金聯(lián)合領(lǐng)投,聯(lián)想創(chuàng)投、小米
    的頭像 發(fā)表于 09-03 15:41 ?350次閱讀

    摩爾線程與羽人科技完成大語言模型訓(xùn)練測試

    近日,摩爾線程與羽人科技攜手宣布,雙方已成功實(shí)現(xiàn)夸娥(KUAE)千卡智算集群與羽人系列模型解決方案的訓(xùn)練兼容適配。在本次測試中,羽人科技通過摩爾線程夸娥千卡智算
    的頭像 發(fā)表于 08-27 16:19 ?570次閱讀

    上海獲多家投資方投資

    近日,上海智能科技有限公司宣布完成新一輪工商變更,公司股東陣容顯著增強(qiáng)。此次變更中,順為資本旗下北京順贏股權(quán)投資合伙企業(yè)、聯(lián)想旗下的中小企業(yè)發(fā)展基金聯(lián)想(天津)合伙企業(yè)等多家知
    的頭像 發(fā)表于 08-08 16:27 ?728次閱讀

    發(fā)布千卡規(guī)模異構(gòu)芯片混訓(xùn)平臺(tái)

    在科技日新月異的今天,人工智能領(lǐng)域的每一次突破都引領(lǐng)著行業(yè)的新一輪變革。2024年世界人工智能大會(huì)AI基礎(chǔ)設(shè)施論壇上,以其卓越的創(chuàng)新
    的頭像 發(fā)表于 07-08 14:27 ?819次閱讀

    國產(chǎn)GPU可替代!摩爾線程千卡集群點(diǎn)亮新成就

    摩爾線程、聯(lián)合宣布,雙方已經(jīng)正式完成MT-infini-3B 3B(30億參數(shù))規(guī)模大模型的實(shí)訓(xùn),基于摩爾線程國產(chǎn)全功能GPU MTT S4000組成的
    的頭像 發(fā)表于 05-29 11:27 ?805次閱讀
    國產(chǎn)GPU可替代!摩爾線程<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>點(diǎn)亮新成就

    摩爾線程千卡智算集群與滴普企業(yè)大模型已完成訓(xùn)練及推理適配

    近日,摩爾線程與國內(nèi)領(lǐng)先的數(shù)據(jù)智能服務(wù)商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配。
    的頭像 發(fā)表于 05-29 10:28 ?498次閱讀
    摩爾線程<b class='flag-5'>千卡</b>智算<b class='flag-5'>集群</b>與滴普企業(yè)大模型已完成<b class='flag-5'>訓(xùn)練</b>及推理適配

    摩爾線程、合作完成國產(chǎn)全功能GPU千卡集群

    據(jù)介紹,此項(xiàng)訓(xùn)練歷時(shí)13.2天,過程穩(wěn)定而有序,集群整體運(yùn)行穩(wěn)定性達(dá)到了100%。相較于單機(jī)訓(xùn)練,千卡集群的擴(kuò)展效率提升了超過90%。
    的頭像 發(fā)表于 05-27 14:40 ?652次閱讀

    摩爾線程與在國產(chǎn)GPU上首次實(shí)現(xiàn)大模型實(shí)訓(xùn)

    近日,摩爾線程與共同宣布,雙方已正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)
    的頭像 發(fā)表于 05-27 10:59 ?691次閱讀

    摩爾線程與宣布完成基于GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)

    摩爾線程聯(lián)合宣布,雙方已在本周正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)。
    的頭像 發(fā)表于 05-27 10:44 ?511次閱讀
    摩爾線程與<b class='flag-5'>無</b><b class='flag-5'>問</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>宣布完成基于GPU<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>的3B規(guī)模大模型實(shí)訓(xùn)

    摩爾線程助力AI大模型訓(xùn)練與計(jì)算升級(jí),共建美好數(shù)字化未來

    此外,在中關(guān)村國際技術(shù)交易大會(huì)高精尖技術(shù)產(chǎn)品首發(fā)會(huì)上,摩爾線程與聯(lián)合宣布,雙方正致力于開發(fā)基于夸娥千卡智算
    的頭像 發(fā)表于 04-28 16:42 ?1142次閱讀

    俄羅斯自主芯片遇挫,超半數(shù)成廢片

    摩爾線程是第一家接入并成功完成千卡級(jí)別大模型訓(xùn)練的國產(chǎn)GPU公司,“夸娥”(KUAE)
    的頭像 發(fā)表于 04-02 10:27 ?557次閱讀
    俄羅斯自主芯片遇挫,超半數(shù)成廢片

    摩爾線程與聯(lián)手開啟千億大模型服務(wù)新篇章

    3月31日,AI算力優(yōu)化論壇暨產(chǎn)品發(fā)布會(huì)在上海成功舉辦,重磅發(fā)布了“
    的頭像 發(fā)表于 04-01 11:11 ?709次閱讀
    摩爾線程與<b class='flag-5'>無</b><b class='flag-5'>問</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>聯(lián)手開啟千億大模型服務(wù)新篇章

    燧原科技與簽約宣布共同打造千卡集群案例

    3月31日,在舉辦的以“多元計(jì)算·泛在鏈接”為主題的AI算力優(yōu)化論壇暨產(chǎn)品發(fā)布會(huì)上,燧原科技與
    的頭像 發(fā)表于 04-01 10:48 ?955次閱讀