0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

摩爾線程與羽人科技完成大語言模型訓練測試

摩爾線程 ? 來源:摩爾線程 ? 2024-08-27 16:19 ? 次閱讀

近日,摩爾線程與羽人科技攜手宣布,雙方已成功實現(xiàn)夸娥(KUAE)千卡智算集群與羽人系列模型解決方案的訓練兼容適配。在本次測試中,羽人科技通過摩爾線程夸娥千卡智算集群,高效完成了70億參數(shù)羽人7B(YuRen-7b)大語言模型的訓練測試。測試結果顯示,訓練效率達到預期,夸娥千卡智算集群展現(xiàn)出了高度的兼容性和穩(wěn)定性,為羽人科技未來的零代碼訓練平臺向摩爾線程夸娥千卡智算集群的遷移提供了堅實的基礎。

羽人科技作為中關村門頭溝“京西智谷”的重點引入企業(yè),專注于利用AI賦能傳統(tǒng)行業(yè)的軟件開發(fā),其核心產(chǎn)品Flappy是一個專為真實生產(chǎn)環(huán)境設計的大模型應用開發(fā)框架,旨在彌合大型語言模型與開發(fā)者之間的鴻溝,幫助不具備AI背景的傳統(tǒng)軟件開發(fā)者,能夠輕松開發(fā)行業(yè)AI應用。

摩爾線程基于先進的MUSA架構,已經(jīng)建立了從芯片、板卡、集群到軟件的全棧AI產(chǎn)品線,致力于成為AGI時代大模型訓練堅實可靠的先進基礎設施??涠鹎Эㄖ撬慵阂匀δ?a href="http://www.wenjunhu.com/tags/gpu/" target="_blank">GPU為底座,提供軟硬一體化的全棧解決方案,憑借其高兼容性、高穩(wěn)定性、高擴展性等綜合優(yōu)勢,摩爾線程為羽人科技的零代碼大模型訓練平臺提供了堅實的國產(chǎn)算力。通過零代碼大模型訓練平臺,任何企業(yè)都可快速定制符合自身業(yè)務需求的大模型,極大降低企業(yè)使用大模型的門檻。

羽人科技聯(lián)合創(chuàng)始人王瑤對此次適配成果給予了高度評價:“本次基于摩爾線程夸娥千卡智算集群的訓練測試過程十分順利,夸娥千卡集群算力能夠支撐羽人科技的真實業(yè)務需求,為零代碼訓練平臺在國產(chǎn)化算力部署上開辟新路徑。我們也期待在平臺遷移和推理方面完成更深層次的適配工作,攜手推進雙方業(yè)務更深入融合?!?/p>

關于羽人科技

羽人科技(北京)有限公司是一家被譽為“開發(fā)者背后的開發(fā)者”的初創(chuàng)科技公司,其核心產(chǎn)品Flappy是一個專為真實生產(chǎn)環(huán)境設計的開發(fā)框架,旨在彌合大型語言模型與開發(fā)人員之間的差距,實現(xiàn)業(yè)務系統(tǒng)的無縫集成,同時還提供端到端的行業(yè)人工智能實施解決方案以及符合要求的定制模型開發(fā)咨詢服務。

關于摩爾線程

摩爾線程是一家以全功能GPU芯片設計為主的集成電路高科技公司,能夠為廣泛的科技生態(tài)合作伙伴提供強大的計算加速能力,致力于打造為下一代互聯(lián)網(wǎng)提供多元算力的元計算平臺。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    459

    文章

    51732

    瀏覽量

    431028
  • 摩爾線程
    +關注

    關注

    2

    文章

    216

    瀏覽量

    4871
  • 大模型
    +關注

    關注

    2

    文章

    2849

    瀏覽量

    3516

原文標題:摩爾線程 × 羽人科技|高效完成7B大模型訓練測試

文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 0人收藏

    評論

    相關推薦

    國產(chǎn)千卡GPU集群完成大模型訓練測試,極具高兼容性和穩(wěn)定性

    卡集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個全國產(chǎn)千卡千億模型訓練平臺“摩爾線程
    的頭像 發(fā)表于 06-11 07:50 ?3687次閱讀
    國產(chǎn)千卡GPU集群<b class='flag-5'>完成大</b><b class='flag-5'>模型</b><b class='flag-5'>訓練</b><b class='flag-5'>測試</b>,極具高兼容性和穩(wěn)定性

    摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務

    。 據(jù)悉,DeepSeek開源模型在多語言理解與復雜推理任務中一直表現(xiàn)出卓越的性能,其V3、R1等系列模型更是備受業(yè)界關注。而此次摩爾線程
    的頭像 發(fā)表于 02-06 13:49 ?567次閱讀

    摩爾線程完成股改,籌備上市

    近日,摩爾線程智能科技(北京)股份有限公司(簡稱“摩爾線程”)宣布已完成股改,并正積極籌備上市。據(jù)國家企業(yè)信用信息公示系統(tǒng)最新查詢結果顯示,
    的頭像 發(fā)表于 11-12 14:15 ?872次閱讀

    摩爾線程與超圖軟件完成產(chǎn)品兼容認證

    10月24日,摩爾線程官方正式對外宣布,其MTT S/X系列全功能GPU已成功與超圖軟件最新發(fā)布的大模型系列產(chǎn)品完成產(chǎn)品兼容認證。這一消息的發(fā)布標志著雙方在GPU與軟件適配方面的合作取
    的頭像 發(fā)表于 10-24 10:25 ?743次閱讀

    摩爾線程攜手智源研究院完成基于Triton的大模型算子庫適配

    近日,摩爾線程與北京智源人工智能研究院(簡稱:智源研究院)已順利完成基于Triton語言的高性能算子庫FlagGems的適配工作。得益于摩爾
    的頭像 發(fā)表于 08-02 11:06 ?1099次閱讀

    摩爾線程攜手東華軟件完成AI大模型推理測試與適配

    近日,摩爾線程與東華軟件云筑AI創(chuàng)新中心宣布,雙方已完成大模型推理測試與適配。依托摩爾
    的頭像 發(fā)表于 07-31 10:51 ?1052次閱讀

    摩爾線程與智譜AI完成大模型性能測試與適配

    近日,摩爾線程與智譜AI在人工智能領域開展了一輪深入的合作,共同對GPU大模型進行了適配及性能測試。此次測試不僅涵蓋了大
    的頭像 發(fā)表于 06-14 16:40 ?1278次閱讀

    摩爾線程科技攜手完成7B大模型訓練測試

    近日,摩爾線程科技聯(lián)合宣布了一項重要成果:雙方已成功實現(xiàn)夸娥(KUAE)千卡智算集群與
    的頭像 發(fā)表于 06-14 16:33 ?613次閱讀

    摩爾線程與師者AI攜手完成70億參數(shù)教育AI大模型訓練測試

    近日,國內(nèi)知名的GPU制造商摩爾線程與全學科教育AI大模型“師者AI”聯(lián)合宣布,雙方已成功完成了一項重要的大模型
    的頭像 發(fā)表于 06-14 16:31 ?740次閱讀

    摩爾線程和滴普科技完成大模型訓練與推理適配

    近日,摩爾線程與滴普科技宣布了一項重要合作成果。摩爾線程的夸娥(KUAE)千卡智算集群與滴普科技的企業(yè)大模型Deepexi已
    的頭像 發(fā)表于 05-30 10:14 ?669次閱讀

    摩爾線程千卡智算集群與滴普企業(yè)大模型完成訓練及推理適配

    近日,摩爾線程與國內(nèi)領先的數(shù)據(jù)智能服務商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業(yè)大模型Deepexi已
    的頭像 發(fā)表于 05-29 10:28 ?582次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>千卡智算集群與滴普企業(yè)大<b class='flag-5'>模型</b>已<b class='flag-5'>完成</b><b class='flag-5'>訓練</b>及推理適配

    摩爾線程與無問芯穹在國產(chǎn)GPU上首次實現(xiàn)大模型實訓

    近日,摩爾線程與無問芯穹共同宣布,雙方已正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實訓。這款名為“MT-infini-3B”的模型
    的頭像 發(fā)表于 05-27 10:59 ?781次閱讀

    摩爾線程攜手憨猴集團,深化AI算力戰(zhàn)略合作,成功實現(xiàn)大模型分布式訓練

    摩爾線程與憨猴科技集團日前宣布,采用搭載摩爾線程的夸娥(KUAE)千卡智算集群,已成功完成了多個大模型
    的頭像 發(fā)表于 05-17 17:24 ?810次閱讀

    【大語言模型:原理與工程實踐】大語言模型的預訓練

    如此卓越的性能,就是通過其核心能力對海量數(shù)據(jù)進行預訓練,再進行微調(diào)或?qū)ζ涫裁葱透玫母鶕?jù)人類的指令和偏好,發(fā)揮這些性能。隨著語言模型參數(shù)的不斷增加,模型
    發(fā)表于 05-07 17:10

    摩爾線程助力AI大模型訓練與計算升級,共建美好數(shù)字化未來

    此外,在中關村國際技術交易大會高精尖技術產(chǎn)品首發(fā)會上,摩爾線程與無問芯穹聯(lián)合宣布,雙方正致力于開發(fā)基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩爾
    的頭像 發(fā)表于 04-28 16:42 ?1277次閱讀

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品