橫空出世！容芯致遠(yuǎn)創(chuàng)新“智算整機(jī)架構(gòu)”融合DeepSeek應(yīng)用

DeepSeek火爆全球,并引發(fā)算力行業(yè)鏈?zhǔn)椒磻?yīng)。借助混合專家模型(MOE)架構(gòu)、多頭潛在注意力機(jī)制(MLA)等算法創(chuàng)新,DeepSeek顯著降低大模型計(jì)算成本,打破了業(yè)界對(duì)高算力GPU的路徑依賴,全面激活了各行業(yè)部署大模型應(yīng)用的需求。長(zhǎng)期受先進(jìn)制程工藝制約的國(guó)產(chǎn)GPU陣營(yíng)正在迎來新的發(fā)展機(jī)遇。

2月27日,在北京2025中國(guó)RISC-V生態(tài)大會(huì)上,容芯致遠(yuǎn),一家2024年剛成立,致力于創(chuàng)新計(jì)算機(jī)體系結(jié)構(gòu)的初創(chuàng)企業(yè),推出了全新的AGC智算架構(gòu)及其整機(jī)設(shè)計(jì)方案,并率先與百度AI技術(shù)生態(tài)達(dá)成合作,這或?qū)㈤_啟AI計(jì)算機(jī)系統(tǒng)架構(gòu)創(chuàng)新的范式變革。

這是容芯致遠(yuǎn)首次在全國(guó)性頂級(jí)行業(yè)技術(shù)大會(huì)上正式亮相,CTO石旭在主題演講中披露了他對(duì)MOE架構(gòu)下AI計(jì)算機(jī)體系結(jié)構(gòu)創(chuàng)新和變革方向的思考。在石旭看來,影響AI發(fā)展有三個(gè)關(guān)鍵要素:芯片、系統(tǒng)和算法。DeepSeek已成功證明中國(guó)在算法領(lǐng)域的領(lǐng)先優(yōu)勢(shì),GPU芯片迭代周期長(zhǎng),短期難以一蹴而就,系統(tǒng)結(jié)構(gòu)作為介于芯片與算法之間的重要環(huán)節(jié),對(duì)于進(jìn)一步發(fā)揮國(guó)產(chǎn)芯片有效算力,提升運(yùn)營(yíng)效率,降低運(yùn)營(yíng)成本,延長(zhǎng)設(shè)備壽命等,都具有極大的創(chuàng)新空間。

幾十年來,計(jì)算機(jī)系統(tǒng)一直是以CPU為核心進(jìn)行構(gòu)建,GPU顯卡、存儲(chǔ)等設(shè)備作為外設(shè)存在,所有外設(shè)之間的數(shù)據(jù)交換需要通過中央處理器即CPU來處理,使得CPU越來越成為AI時(shí)代的計(jì)算機(jī)系統(tǒng)瓶頸所在。對(duì)此,容芯致遠(yuǎn)的創(chuàng)業(yè)團(tuán)隊(duì)選擇了計(jì)算機(jī)體系結(jié)構(gòu)這一長(zhǎng)期被產(chǎn)業(yè)界忽視的方向,率先提出AGC(以GPU為核心)的AI計(jì)算機(jī)體系結(jié)構(gòu)。在石旭和他的技術(shù)團(tuán)隊(duì)看來,為更高效地支撐AI時(shí)代MOE模型訓(xùn)練推理,需要對(duì)計(jì)算機(jī)體系結(jié)構(gòu)進(jìn)行一次徹底的變革,即從傳統(tǒng)的ACC架構(gòu)(AI computer system with the CPU at its Core)轉(zhuǎn)向AGC架構(gòu)(AI computer system with the GPU at its Core),實(shí)現(xiàn)以GPU為核心設(shè)計(jì)AI計(jì)算機(jī)系統(tǒng)。只有在體系結(jié)構(gòu)層面進(jìn)行高維度的創(chuàng)新,才能打破成本、效率、靈活性“不可能三角”的魔咒,讓GPU與模型服務(wù)發(fā)揮更大算力效率,同時(shí)更具成本優(yōu)勢(shì)和靈活的適應(yīng)性。

在RISC-V生態(tài)大會(huì)的展示區(qū),容芯致遠(yuǎn)在現(xiàn)場(chǎng)展出了多款基于AGC架構(gòu)設(shè)計(jì)的AI服務(wù)器與AI Station整機(jī)方案。

與傳統(tǒng)服務(wù)器不同,采用AGC架構(gòu)的8卡GPU服務(wù)器,在一個(gè)4U機(jī)箱內(nèi)部署2顆國(guó)產(chǎn)CPU和8張國(guó)產(chǎn)GPU卡,且能支持不同廠商的GPU卡異構(gòu)混插,整機(jī)算力有效值(MFU)可從40%平均值提高到60%以上,并支持DeepSeek的高效推理。

圖:全國(guó)產(chǎn)AGC架構(gòu)MOE智算整機(jī)(8卡)

現(xiàn)場(chǎng)展出的AI Station適用于ToB辦公場(chǎng)景,也是基于AGC架構(gòu)設(shè)計(jì),模塊化、免主板、超靜音、內(nèi)置AIOS系統(tǒng),可插2塊全尺寸GPU卡,輕松跑通32B模型,可用于在辦公室環(huán)境搭建輕量便捷、低成本的DeepSeek推理平臺(tái)。

圖:基于AGC架構(gòu)的AI Station

值得關(guān)注的是,容芯致遠(yuǎn)預(yù)發(fā)布了一款20卡全信創(chuàng)AGC架構(gòu)服務(wù)器設(shè)計(jì)方案,更充分地體現(xiàn)“以GPU為核心構(gòu)建計(jì)算機(jī)系統(tǒng)”的設(shè)計(jì)理念,一些重要特征包括:20卡超高密度,使其不用量化即可完美兼容全尺寸DeepSeek大模型;支持“GPU暴力熱插拔”,當(dāng)某個(gè)GPU卡出現(xiàn)故障時(shí),無須將整個(gè)設(shè)備斷電即可更換GPU,使得維護(hù)周期從小時(shí)級(jí)直接降到分鐘級(jí);支持針對(duì)每顆GPU而不是整機(jī)進(jìn)行卡級(jí)精準(zhǔn)能耗控制,可根據(jù)負(fù)載需要開啟或關(guān)閉目標(biāo)GPU卡;全新的高速互聯(lián)特性支持在5秒內(nèi)喚醒加載大模型等。該款產(chǎn)品實(shí)現(xiàn)了業(yè)界首創(chuàng)、全球首創(chuàng)!

圖:已預(yù)發(fā)布的全國(guó)產(chǎn)AGC架構(gòu)MOE智算整機(jī)(20卡)關(guān)鍵特性

容芯致遠(yuǎn)COO王成江表示,盡管目前國(guó)內(nèi)已經(jīng)有很多整機(jī)廠商,但鮮有企業(yè)去做計(jì)算機(jī)體系結(jié)構(gòu)層面的創(chuàng)新,這在國(guó)內(nèi)是一個(gè)新的賽道,容芯致遠(yuǎn)將專注于研發(fā)推廣更加符合AI時(shí)代需要的新型計(jì)算機(jī)系統(tǒng)架構(gòu)方案,做智算體系結(jié)構(gòu)的領(lǐng)頭羊。目前,AGC智算架構(gòu)整機(jī)已適配幾乎所有國(guó)產(chǎn)GPU卡,包括天數(shù)智芯、寒武紀(jì)、燧原、登臨科技、墨芯、沐曦、希姆、海光DCU、摩爾線程等,同時(shí)也適配了DeepSeek、文心一言、Llama、Qwen、ChatGLM等主流大模型。而且,公司秉承開源開放策略,將相關(guān)AGC架構(gòu)知識(shí)產(chǎn)權(quán)通過RISC-V生態(tài)聯(lián)盟向內(nèi)部成員開放共享。

AGC智算架構(gòu)創(chuàng)新成果獲得了互聯(lián)網(wǎng)AI大廠的關(guān)注與重視。容芯致遠(yuǎn)已與百度AI技術(shù)團(tuán)隊(duì)達(dá)成生態(tài)合作,雙方將攜手推動(dòng)計(jì)算機(jī)體系結(jié)構(gòu)創(chuàng)新,優(yōu)化基于飛槳、文心大模型、AI生態(tài)應(yīng)用等系統(tǒng),降低AI應(yīng)用門檻,加速AI最后一公里落地。

容芯致遠(yuǎn),是一家致力于創(chuàng)新計(jì)算機(jī)體系結(jié)構(gòu)的高科技企業(yè)。公司擁有微電子、光子學(xué)、AI加速與體系結(jié)構(gòu)等眾多領(lǐng)域的專家團(tuán)隊(duì),構(gòu)建了一支跨學(xué)科、技術(shù)實(shí)力強(qiáng)大的技術(shù)團(tuán)隊(duì),為公司持續(xù)創(chuàng)新及產(chǎn)品開發(fā)奠定了堅(jiān)實(shí)而穩(wěn)固的基礎(chǔ)。憑借在底層技術(shù)創(chuàng)新領(lǐng)域的卓越實(shí)力,實(shí)現(xiàn)了對(duì)CPU/GPU的全面賦能加速,并推出了通算/智算加速單元及智算服務(wù)器等一系列產(chǎn)品?，F(xiàn)場(chǎng)許多專家和客戶都表示很期待看到一個(gè)創(chuàng)新的技術(shù)公司加速崛起。


審核編輯 黃宇