商湯大裝置萬象為大模型落地按下加速鍵

國際權(quán)威咨詢機構(gòu)IDC近日發(fā)布《中國模型即服務(wù)（MaaS）及AI大模型解決方案市場追蹤，2024H1》報告。

報告顯示，2024年上半年，商湯科技（商湯大裝置萬象）以14.8%的市場份額位居第二，領(lǐng)跑AI大模型解決方案行業(yè)第一梯隊。

報告預(yù)計，中國MaaS市場和AI大模型解決方案市場規(guī)模在2028年將分別達到38億和211億元人民幣，年均復(fù)合增長率分別高達64.8%和56.2%，將持續(xù)保持高速發(fā)展態(tài)勢。

一站式，搞定大模型和應(yīng)用開發(fā)

當前，大模型的實際落地，正面臨訓(xùn)練推理部署成本高、垂直場景應(yīng)用門檻高、安全保障標準高、模型評估調(diào)優(yōu)難度高等重重挑戰(zhàn)。

行業(yè)亟需能夠提供完備工具鏈和安全可控模型開發(fā)的平臺與服務(wù)。

“商湯大裝置萬象”應(yīng)運而生。

商湯大裝置萬象，包含模型開發(fā)平臺和應(yīng)用開發(fā)平臺，是基于商湯大裝置算力底座和日日新大模型，構(gòu)建面向企業(yè)與開發(fā)者的模型管理、模型推理、模型微調(diào)、數(shù)據(jù)管理，以及智能體應(yīng)用的一站式大模型服務(wù)平臺。

目前，商湯大裝置萬象已廣泛服務(wù)于央國企、運營商、金融、互聯(lián)網(wǎng)、汽車、泛科技等多個行業(yè)客戶，以高效的模型精調(diào)和推理部署，實現(xiàn)多種業(yè)務(wù)場景的提智增效。

多元異構(gòu)、萬卡互聯(lián)，

為大模型落地按下加速鍵

作為“商湯大裝置萬象”的算力底座，SenseCore商湯大裝置不僅算力規(guī)模達20,000 PetaFLOPS，軟件和平臺的創(chuàng)新力和服務(wù)能力亦備受各界認可。

在IDC此前發(fā)布的《中國智算服務(wù)市場（2023下半年）跟蹤》報告中，商湯在中國云計算基礎(chǔ)設(shè)施廠商中脫穎而出，與火山引擎、阿里巴巴共同躋身2023年下半年中國GenAI IaaS服務(wù)廠商TOP 3，以顯著的市場份額優(yōu)勢位居GenAI IaaS領(lǐng)域的第一梯隊。

領(lǐng)先的服務(wù)水平，得益于商湯大裝置面向大模型業(yè)務(wù)提供更全面的算力集群運維支持和超大集群保障能力。

同時，商湯大裝置已全面適配多元異構(gòu)芯片，并支持多元異構(gòu)萬卡的高效互聯(lián)和強大的異構(gòu)混訓(xùn)能力，通過通信庫創(chuàng)新與參數(shù)配置優(yōu)化實現(xiàn)95%以上的多元異構(gòu)混訓(xùn)效能，可充分發(fā)揮異構(gòu)芯?在不同場景下的優(yōu)勢，優(yōu)化整體能耗，降低運營成本。

商湯大裝置致力于打造高效易用的全棧大模型服務(wù)，無縫對接各類模型應(yīng)用場景，提升大模型技術(shù)的落地效率，更好地賦能千行百業(yè)。