商湯科技位列GenAI IaaS領域第一梯隊

國際權(quán)威咨詢機構(gòu)IDC近日發(fā)布《中國智算服務市場（2024上半年）跟蹤》報告。報告顯示，2024年上半年，商湯科技作為國內(nèi)領先的智算服務商，以13.3%的市場份額穩(wěn)居GenAI IaaS市場Top3，位列GenAI IaaS領域第一梯隊。

GenAI驅(qū)動，商湯站穩(wěn)智算市場頭部陣營 2024上半年中國智算服務整體市場同比增長79.6%，市場規(guī)模達到146.1億元人民幣。其中，GenAI IaaS市場高速增長，同比增長203.6%，市場規(guī)模達52.0億元人民幣，占比整體市場35.6%。

報告指出：“2024上半年，GenAI IaaS市場Top 5服務商市場份額合計占比達67.3%?！泵鎸Ω偁幦找婕ち业腉en AI市場，商湯作為最受矚目的新勢力服務商表現(xiàn)搶眼，商湯大裝置憑借豐沛的算力和卓越的超大集群運維保障能力，獲得行業(yè)一致認可，市場地位穩(wěn)固。

技術領先，是用戶提升效能的最佳選擇

截至2024年9月，商湯大裝置總算力規(guī)模突破20000P，上線GPU數(shù)量超54000張，達到了95%以上的多元異構(gòu)混訓效能，可滿足萬億參數(shù)大模型訓推需求，同時實現(xiàn)了分鐘級容錯，確保30天以上大規(guī)模訓練不間斷。

商湯大裝置還通過引入創(chuàng)新技術，提升硬件性能和資源利用率，成為了用戶的極致性價比選擇。通過實現(xiàn)訓推一體化，商湯打通了從訓練到推理的全鏈路，為開發(fā)者和企業(yè)提供一站式的高效解決方案，最大化硬件性能，顯著提升開發(fā)和部署效率。此外，應用算電協(xié)同技術，商湯在降低PUE的同時還幫助用戶提升算效，提升資源利用率。

商湯“日日新SenseNova”大模型體系也在“大裝置+大模型”的深度協(xié)同下快速迭代，目前已實現(xiàn)跨模態(tài)的深度融合。最近，日日新多模態(tài)大模型在OpenCompass多模態(tài)評測中領先GPT-4o、Claude 3.5 Sonnet等排名第一。

持續(xù)增長，有效推動應用落地與產(chǎn)業(yè)升級

根據(jù)IDC預測，中國智算服務市場2023-2028年復合增長率達56.2%，2028年整體市場規(guī)模達1825億人民幣。GenAI IaaS市場將以79.0%的復合增長率增長，預計2028年市場規(guī)模占整體市場比例達50%。

智算服務的高速增長，將有力推動大模型在各行業(yè)的應用增長和落地實踐。商湯大裝置正助力各行各業(yè)客戶實現(xiàn)降本增效和產(chǎn)業(yè)升級，例如，助力某電力客戶優(yōu)化電力生產(chǎn)和運維流程，降低生產(chǎn)成本和運維難度、提升電網(wǎng)運行效率和穩(wěn)定性，促進了新能源的集成和消納。

目前，商湯大裝置支持外部客戶進行大模型訓練和應用部署，其中國內(nèi)主流大模型客戶已超過30家。未來，商湯大裝置將深耕智算服務市場，持續(xù)為行業(yè)輸出高效、易用、普惠的智算服務，推動各行各業(yè)步入Gen AI繁榮發(fā)展的嶄新紀元，共同開創(chuàng)人工智能的美好未來。