夯實(shí)算力基礎(chǔ) 賦能大模型創(chuàng)新發(fā)展

7月13-14日，第三屆中國集成電路設(shè)計(jì)創(chuàng)新大會(huì)暨無錫IC應(yīng)用博覽會(huì)（ICDIA 2023）在無錫舉行。天數(shù)智芯副總裁郭為受邀出席“AIoT與ChatGPT”分論壇并發(fā)表了題為《國產(chǎn)GPU的大模型實(shí)踐》的主題演講，全面介紹了天數(shù)智芯通用GPU產(chǎn)品特色以及在大模型上的應(yīng)用情況。

天數(shù)智芯副總裁郭為

郭為指出，算力關(guān)乎大模型產(chǎn)品的成敗。作為中國領(lǐng)先的通用GPU 高端芯片及超級(jí)算力系統(tǒng)提供商，天數(shù)智芯先后發(fā)布了訓(xùn)練產(chǎn)品天垓100、推理產(chǎn)品智鎧100，充分發(fā)揮產(chǎn)品自主可控、性能高、通用性強(qiáng)、靈活性高等特點(diǎn)，廣泛支持主流AI生態(tài)和國內(nèi)外開發(fā)框架，傾力打造了高性價(jià)比、廣通用的全棧式集群解決方案，為大模型提供了強(qiáng)大算力支撐。

郭為介紹，去年以來天數(shù)智芯在大模型訓(xùn)練、推理支持上取得了顯著進(jìn)展?；谔燠?00的自主算力集群已率先完成國內(nèi)70億參數(shù)大模型訓(xùn)練，200P規(guī)模算力集群正在開展650億參數(shù)大模型預(yù)訓(xùn)練。此外，天垓100正支持各垂直行業(yè)大模型訓(xùn)練微調(diào)，可支持全量參數(shù)微調(diào)、Lora快速微調(diào)、提示詞微調(diào)等所有訓(xùn)練微調(diào)方法。智鎧100支持千億級(jí)參數(shù)大模型推理，基于智鎧100的推理一體機(jī)已應(yīng)用于法律、金融等行業(yè)客戶大模型推理業(yè)務(wù)中，提供較國際主流產(chǎn)品更優(yōu)的性能、性價(jià)比及能耗。

郭為表示，天數(shù)智芯將始終以服務(wù)國家戰(zhàn)略為主線，持續(xù)推進(jìn)通用GPU核心技術(shù)創(chuàng)新突破，打造更可信、更高效、更綠色的世界一流算力引擎，賦能大模型創(chuàng)新發(fā)展。

作為國內(nèi)集成電路領(lǐng)域推動(dòng)“創(chuàng)新”與“應(yīng)用”的重要平臺(tái)，ICDIA致力于推動(dòng)IC設(shè)計(jì)與芯片應(yīng)用、促進(jìn)芯片與系統(tǒng)整機(jī)供需對(duì)接，實(shí)現(xiàn)芯片企業(yè)和整機(jī)企業(yè)的互惠發(fā)展。科技部重大專項(xiàng)司副司長邱鋼，江蘇省科技廳二級(jí)巡視員楊小平，無錫市副市長周文棟，國家01專項(xiàng)技術(shù)總師、中國集成電路設(shè)計(jì)創(chuàng)新聯(lián)盟理事長、清華大學(xué)教授魏少軍等出席了本屆會(huì)議。