0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從千卡集群卡到萬卡集群,燧原科技打造更好的AI算力底座

吳生semi ? 來源:電子發(fā)燒友網(wǎng) ? 作者:吳子鵬 ? 2024-07-07 09:45 ? 次閱讀
電子發(fā)燒友網(wǎng)報道(文/吳子鵬)算力是新質(zhì)生產(chǎn)力的代表,隨著以ChatGPT為代表的Transformer架構(gòu)大模型的參數(shù)規(guī)模越來越大,對計算資源的需求顯著增長。在2024年世界人工智能大會(以下簡稱:WAIC 2024)上,不僅有國內(nèi)各大模型廠商同場競技,也有豐富的算力基礎(chǔ)設(shè)施展示,其中包括專注人工智能領(lǐng)域云端算力產(chǎn)品的燧原科技。
燧原科技展臺

從千卡集群到萬卡集群

除了里程碑產(chǎn)品展示外,燧原科技今年在展臺重點展示了其落地標桿案例——宜昌點軍智算中心。根據(jù)燧原科技工作人員的介紹,當前燧原科技已在四川成都、湖北宜昌和甘肅慶陽展開了千卡規(guī)模智算中心的建設(shè),緊跟國家東數(shù)西算的大戰(zhàn)略。宜昌點軍智算中心是其中的代表,僅用1年時間完成了300P國產(chǎn)算力建設(shè)和交付,正式運行僅5個月,點軍智算中心就已經(jīng)滿載運行,300P算力被全部消納,客戶群體包括無問芯穹、愛奇藝、貝式計算、啟智社區(qū)等,這是燧原科技在智算中心建設(shè)新范式的一次成功探索
宜昌點軍智算中心落地成果展示

WAIC 2024期間,燧原科技也宣布了與清程極智的戰(zhàn)略合作。雙方致力于共同打造超大規(guī)模智算集群的訓(xùn)練方案,針對大模型實際應(yīng)用場景進行軟硬協(xié)同的開發(fā)與優(yōu)化。在滿足基礎(chǔ)大模型的預(yù)訓(xùn)練、行業(yè)大模型的微調(diào)和大模型推理部署等不同的應(yīng)用場景和多元的算力需求,提供更高性能、更高效率、更高性價比的萬卡集群算力方案。

打造更好的AIGC體驗

統(tǒng)計數(shù)據(jù)顯示,2024年我國AIGC的應(yīng)用市場規(guī)模達到200億;預(yù)計到2030年,我國AIGC應(yīng)用將成為萬億規(guī)模市場,五年(2024-2028年)里的年復(fù)合增長率超過30%。和去年的WAIC一樣,WAIC 2024期間燧原科技同樣在展臺展示了非常豐富的AIGC應(yīng)用案例,包括編程助手、AI視頻生成、3D生成等。

其中一款案例是由燧原科技和智譜AI合作的大模型編程助手一體機,基于云燧i20推理加速卡,能為軟件開發(fā)企業(yè)提供代碼生成、代碼翻譯、代碼注釋、代碼補全、智能問答等多種服務(wù)。AIGC智能編程作為一種利用人工智能技術(shù)提高軟件開發(fā)效率的方法,已經(jīng)在實際中得到了廣泛的應(yīng)用,這款大模型編程助手一體機的主要優(yōu)勢要體現(xiàn)在相關(guān)輸出的反應(yīng)速度,以及代碼的準確率等。

另一款案例是燧原科技與無問芯穹攜手帶來的游戲體驗項目,通過適配不同的大模型為用戶帶來流暢和趣味的體驗。

還有一款案例是燧原科技MaaS平臺服務(wù)產(chǎn)品“燧原曜圖”的升級版,WAIC 2024上,燧原科技展示的是“燧原曜圖”2.0版本。根據(jù)燧原科技工作人員的介紹,去年“燧原曜圖”主要展示文本生成圖像的能力,構(gòu)建了從算力到云服務(wù)、模型,再到用戶去使用的一體化流程。“燧原曜圖”2.0版本則帶來了更細分的功能,以及更好的用戶體驗?!办菰讏D”2.0版本支持文生圖、視頻生成、3D生成、自拍相機等多個子應(yīng)用。在視頻生成方面,“燧原曜圖”2.0版本提供獨特的文生圖片,然后圖生視頻的生成流程,讓用戶能夠在圖片階段自由調(diào)整,降低視頻修改的繁瑣性。

結(jié)語

燧原科技成立6年來,從千卡集群到萬卡集群,從算力基礎(chǔ)設(shè)施到AIGC,每一年的WAIC上,都能看到燧原科技的技術(shù)實力和商業(yè)落地能力不斷穩(wěn)健成長。隨著新一代推理加速產(chǎn)品的推出,相信燧原在在本土算力領(lǐng)域終將芯火燎原。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33026

    瀏覽量

    272970
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    1068

    瀏覽量

    15253
  • 燧原科技
    +關(guān)注

    關(guān)注

    0

    文章

    131

    瀏覽量

    8639
收藏 0人收藏

    評論

    相關(guān)推薦

    國產(chǎn)千卡GPU集群完成大模型訓(xùn)練測試,極具高兼容性和穩(wěn)定性

    集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個全國產(chǎn)千卡千億模型訓(xùn)練平臺“摩爾線程KUAE智中心”。摩爾線程相關(guān)負責人此前談到,百
    的頭像 發(fā)表于 06-11 07:50 ?3710次閱讀
    國產(chǎn)<b class='flag-5'>千卡</b>GPU<b class='flag-5'>集群</b>完成大模型訓(xùn)練測試,極具高兼容性和穩(wěn)定性

    千卡破局:科通技術(shù)以&quot;AI大模型+AI芯片&quot;重構(gòu)智底座

    “科通技術(shù)”)推出的“DeepSeek+AI芯片”全場景方案,在云AI領(lǐng)域取得重大突破。除了GPU的總量,云AI的一大挑戰(zhàn)來源于GPU
    的頭像 發(fā)表于 03-17 11:14 ?316次閱讀

    昆侖芯P800集群成功點亮,將進一步點亮3集群

    的。而24年9月升級的百度百舸AI異構(gòu)計算平臺4.0,圍繞落地大模型全旅程的需求,在集群創(chuàng)建、開發(fā)實驗、模型訓(xùn)練、模型推理四大方面,能為企業(yè)提供“多、快、穩(wěn)、省”的
    發(fā)表于 02-05 17:58 ?326次閱讀
    昆侖芯P800<b class='flag-5'>萬</b><b class='flag-5'>卡</b><b class='flag-5'>集群</b>成功點亮,將進一步點亮3<b class='flag-5'>萬</b><b class='flag-5'>卡</b><b class='flag-5'>集群</b>

    百度智能云點亮昆侖芯三代集群

    的人工智能需求。 昆侖芯三代作為百度自研的AI芯片,其性能卓越,能夠滿足復(fù)雜的人工智能任務(wù)需求。此次
    的頭像 發(fā)表于 02-05 14:58 ?413次閱讀

    天數(shù)智芯與無問芯穹合作突破千卡集群訓(xùn)練優(yōu)化

    近日,天數(shù)智芯與無問芯穹宣布達成深度合作,并在千卡集群訓(xùn)練優(yōu)化領(lǐng)域取得了重大技術(shù)突破。這一合作基于天數(shù)智芯的天垓150卓越計算能力和無問芯穹自主研發(fā)的大模型訓(xùn)練框架,共同推動了LLaMA千卡
    的頭像 發(fā)表于 01-21 14:31 ?548次閱讀

    弘信電子旗下安聯(lián)通加入集群服務(wù)推進方陣

    近日,中國信息通信研究院(以下簡稱“信通院”)在北京召開“集群服務(wù)推進方陣”首次工作部署會議。弘信電子集團旗下子公司安聯(lián)通受邀出席,展現(xiàn)了其在智
    的頭像 發(fā)表于 01-16 11:18 ?555次閱讀

    國產(chǎn)智集群黑馬!曦源一號SADA集群綜合評測表現(xiàn)優(yōu)異

    近日,加佳科技曦源一號SADA集群項目一期順利通過工信部中國軟件評測中心權(quán)威評測認證。本次測試涵蓋了項目一期已上線的1024張沐曦高性能GPU加速
    的頭像 發(fā)表于 12-25 11:16 ?621次閱讀
    國產(chǎn)智<b class='flag-5'>算</b><b class='flag-5'>集群</b>黑馬!曦源一號SADA<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>集群</b>綜合評測表現(xiàn)優(yōu)異

    性能提升近一倍!壁仞科技攜手無問芯穹,在千卡訓(xùn)練集群等領(lǐng)域取得技術(shù)新突破

    隨著智能需求的倍增,到2024年,千卡集群已成為國內(nèi)大模型訓(xùn)練的必備場景。壁仞科技,作為
    發(fā)表于 11-05 18:45 ?1291次閱讀
    性能提升近一倍!壁仞科技攜手無問芯穹,在<b class='flag-5'>千卡</b>訓(xùn)練<b class='flag-5'>集群</b>等領(lǐng)域取得技術(shù)新突破

    弘信電子集團子公司弘綠色與首都在線共建慶陽集群

    弘信電子旗下子公司甘肅弘綠色有限公司(以下簡稱“弘綠色”)與北京首都在線科技股份有限公司(以下簡稱“首都在線”)共同簽署《共建慶陽
    的頭像 發(fā)表于 09-20 10:47 ?737次閱讀

    弘華創(chuàng)助力慶陽構(gòu)建產(chǎn)業(yè)生態(tài)

    全國一體化網(wǎng)絡(luò)慶陽樞紐節(jié)點首批P成功上線,首個國產(chǎn)
    的頭像 發(fā)表于 09-20 10:38 ?728次閱讀

    集群解決大模型訓(xùn)需求,建設(shè)面臨哪些挑戰(zhàn)

    解決大模型訓(xùn)練對需求的巨大增長問題,尤其是現(xiàn)在模型參數(shù)量百億級、千億級邁向萬億級。 ? 國內(nèi)外企業(yè)積極構(gòu)建
    的頭像 發(fā)表于 06-02 06:18 ?5203次閱讀
    <b class='flag-5'>萬</b><b class='flag-5'>卡</b><b class='flag-5'>集群</b>解決大模型訓(xùn)<b class='flag-5'>算</b><b class='flag-5'>力</b>需求,建設(shè)面臨哪些挑戰(zhàn)

    國產(chǎn)GPU可替代!摩爾線程千卡集群點亮新成就

    摩爾線程、無問芯穹聯(lián)合宣布,雙方已經(jīng)正式完成MT-infini-3B 3B(30億參數(shù))規(guī)模大模型的實訓(xùn),基于摩爾線程國產(chǎn)全功能GPU MTT S4000組成的千卡集群,以及無問芯穹的AIStudio PaaS平臺。
    的頭像 發(fā)表于 05-29 11:27 ?985次閱讀
    國產(chǎn)GPU可替代!摩爾線程<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>點亮新成就

    摩爾線程千卡集群與滴普企業(yè)大模型已完成訓(xùn)練及推理適配

    近日,摩爾線程與國內(nèi)領(lǐng)先的數(shù)據(jù)智能服務(wù)商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡集群與滴普企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配。
    的頭像 發(fā)表于 05-29 10:28 ?594次閱讀
    摩爾線程<b class='flag-5'>千卡</b>智<b class='flag-5'>算</b><b class='flag-5'>集群</b>與滴普企業(yè)大模型已完成訓(xùn)練及推理適配

    摩爾線程、無問芯穹合作完成國產(chǎn)全功能GPU千卡集群

    據(jù)介紹,此項訓(xùn)練歷時13.2天,過程穩(wěn)定而有序,集群整體運行穩(wěn)定性達到了100%。相較于單機訓(xùn)練,千卡集群的擴展效率提升了超過90%。
    的頭像 發(fā)表于 05-27 14:40 ?790次閱讀

    摩爾線程與無問芯穹宣布完成基于GPU千卡集群的3B規(guī)模大模型實訓(xùn)

    摩爾線程聯(lián)合無問芯穹宣布,雙方已在本周正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實訓(xùn)。
    的頭像 發(fā)表于 05-27 10:44 ?621次閱讀
    摩爾線程與無問芯穹宣布完成基于GPU<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>的3B規(guī)模大模型實訓(xùn)

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學(xué)習(xí)
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品