天數(shù)智芯主導(dǎo)的DeepSpark開源社區(qū)發(fā)布百大應(yīng)用開放平臺24.06版本

近日，由上海天數(shù)智芯半導(dǎo)體有限公司（以下簡稱“天數(shù)智芯”）主導(dǎo)的DeepSpark開源社區(qū)正式發(fā)布了百大應(yīng)用開放平臺24.06版本。 百大應(yīng)用開放平臺作為國內(nèi)領(lǐng)先的AI和通用計(jì)算應(yīng)用開發(fā)及評測平臺，甄選上百個(gè)與行業(yè)應(yīng)用深度耦合的開源算法和模型，支持主流生態(tài)應(yīng)用框架，并針對行業(yè)需求構(gòu)建多維度評測體系，廣泛支持各類落地場景。

本次24.06版本首度上線了多維度評測系統(tǒng)社區(qū)版，旨在從速度、精度、顯存占用、功耗、線性度、穩(wěn)定性等多個(gè)維度來全面評價(jià)通用GPU加速卡在模型訓(xùn)練或推理中的綜合表現(xiàn)。多維度評測系統(tǒng)社區(qū)版首期支持的36個(gè)訓(xùn)練模型均來自DeepSparkHub百大訓(xùn)練模型庫，歡迎社區(qū)用戶使用體驗(yàn)。

同時(shí)，24.06版本繼續(xù)豐富DeepSparkHub百大模型訓(xùn)練庫和DeepSparkInference推理模型庫中的模型示例。

24.06版本在DeepSparkHub百大訓(xùn)練模型庫中新增了7個(gè)基于PyTorch框架的模型以及對OpenPCDet工具箱的支持，同時(shí)上線了8個(gè)基于DeepSpeed、Megatron-DeepSpeed和Firefly的大語言模型訓(xùn)練示例。迄今為止在DeepSparkHub百大訓(xùn)練模型庫累計(jì)開源上線的模型數(shù)量達(dá)到了276個(gè)。

24.06版本在DeepSparkInference推理模型庫中新增了基于天數(shù)智芯自研推理引擎IGIE和IxRT的31個(gè)推理模型示例，同時(shí)還新增了4個(gè)基于vLLM、TensorRT-LLM和Text Generation Inference的大語言模型推理示例。值得一提的是，今年6月天數(shù)智芯與啟智社區(qū)合作舉辦的芯動(dòng)開源首場-天數(shù)智芯專場活動(dòng)中全面采用了來自DeepSparkInference的推理模型，社區(qū)用戶累計(jì)完成了近300次推理模型執(zhí)行和結(jié)果提交，充分展現(xiàn)了智鎧100通用GPU推理加速卡的通用性。

隨著DeepSparkHub百大訓(xùn)練模型庫和DeepSparkInference推理模型庫的持續(xù)豐富，進(jìn)一步展示了天數(shù)智芯通用GPU產(chǎn)品天垓和智鎧的通用性和易用性。歡迎行業(yè)合作伙伴、社區(qū)用戶和開發(fā)者以任何形式參與DeepSpark開源社區(qū)。

審核編輯：彭菁