墨芯人工智能發(fā)布大模型算力方案的最新成果

7月6日，在世界人工智能大會(huì)WAIC上，墨芯人工智能發(fā)布了大模型算力方案的最新成果，宣告進(jìn)入“千億”時(shí)代：墨芯AI計(jì)算平臺(tái)率先支持高達(dá)千億參數(shù)的大語(yǔ)言模型，并在吞吐、延時(shí)等多項(xiàng)指標(biāo)上表現(xiàn)優(yōu)異，創(chuàng)下又一里程碑。

在活動(dòng)現(xiàn)場(chǎng)，墨芯展臺(tái)成為全場(chǎng)熱點(diǎn)：1760億參數(shù)的大語(yǔ)言模型Bloom在墨芯AI計(jì)算平臺(tái)的推理引擎支持下，能夠快速、流暢地回答各類問(wèn)題，并完成詩(shī)歌創(chuàng)作、文案撰寫等多項(xiàng)語(yǔ)言生成任務(wù)，贏得現(xiàn)場(chǎng)觀眾的關(guān)注與贊嘆。

墨芯在千億參數(shù)大模型上的卓越表現(xiàn)，不僅再次彰顯出眾的產(chǎn)品技術(shù)優(yōu)勢(shì)，更是意義重大的行業(yè)性突破：

當(dāng)前，算力瓶頸已成為大模型落地應(yīng)用的普遍痛點(diǎn)。墨芯針對(duì)大模型打造更高性能、更優(yōu)化的方案，緩解算力之困，為AIGC等大模型應(yīng)用釋放巨大空間，真正帶來(lái)“好用”、“用得起”的大模型算力方案。

千億參數(shù)大模型在墨芯AI計(jì)算平臺(tái)支持下的

推理效果

這對(duì)AIGC產(chǎn)業(yè)發(fā)展具有重要意義——

表明墨芯能夠?yàn)樾袠I(yè)帶來(lái)新的前景：為企業(yè)、科研機(jī)構(gòu)提供高效的算力支持，有力助推AIGC等大模型成果走向社會(huì)、走向更多行業(yè)；同時(shí)幫助AI企業(yè)建立先發(fā)優(yōu)勢(shì)，加入AIGC潮流。

一起來(lái)了解，墨芯的“千億時(shí)刻“，所包含的重要突破——

在WAIC現(xiàn)場(chǎng)，墨芯還展示了MLPerf冠軍產(chǎn)品——墨芯AI卡計(jì)算卡、AI集成架構(gòu)方案等眾多展品，吸引了眾多嘉賓、觀眾與媒體的好評(píng)。

墨芯在千億參數(shù)大模型上的突破，再次顯示出稀疏計(jì)算的巨大優(yōu)勢(shì)，有效解決算力資源不足、功耗等運(yùn)營(yíng)成本巨大等行業(yè)痛點(diǎn)。墨芯率先將稀疏化算法與硬件結(jié)合落地，深度挖掘與釋放了稀疏計(jì)算在大模型上的潛力與價(jià)值，為行業(yè)帶來(lái)大模型算力的“最佳實(shí)踐”。

這不僅為AI算力的未來(lái)發(fā)展帶來(lái)了可行的創(chuàng)新路徑，為將來(lái)更大模型、更復(fù)雜應(yīng)用的發(fā)展奠定基礎(chǔ)，更為AIGC等大模型應(yīng)用的廣泛落地打開了空間，為新一輪智能革命提供加速引擎，推動(dòng)AIGC的發(fā)展迎來(lái)新天地。