簡述中軟國際模型工場服務(wù)場景

在大力發(fā)展新質(zhì)生產(chǎn)力背景下，人工智能正成為高質(zhì)量發(fā)展的最大增量。而大模型以其模型精度高、泛化能力強(qiáng)、支持多模態(tài)的特點(diǎn)，成為人工智能技術(shù)發(fā)展的核心方向。

當(dāng)下，大模型在企業(yè)數(shù)字化場景的落地中會遇到，場景選擇、數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、算力獲取、效率提升等諸多挑戰(zhàn)?；诖耍熊泧H在整合大模型應(yīng)用架構(gòu)各層能力和生態(tài)資源后，打造大模型開發(fā)和應(yīng)用服務(wù)的專業(yè)平臺--中軟國際模型工場，為政企客戶、模型供應(yīng)商、算力中心提供從規(guī)劃設(shè)計(jì)到應(yīng)用落地的一站式端到端大模型應(yīng)用開發(fā)服務(wù)。

▲中軟國際模型工場服務(wù)架構(gòu)

政企客戶服務(wù)場景

在面向政企客戶的大模型應(yīng)用開發(fā)場景時(shí)，模型工場基于主流大模型為底座，以咨詢引導(dǎo)、模型賦能、應(yīng)用落地，三個(gè)層次的服務(wù)架構(gòu)，采用咨詢導(dǎo)入、規(guī)劃設(shè)計(jì)、原型驗(yàn)證、模型微調(diào)/應(yīng)用開發(fā)、應(yīng)用集成、部署運(yùn)營的六步應(yīng)用開發(fā)工程法，為政企客戶提供從概念到部署的全周期服務(wù)。

模型供應(yīng)商服務(wù)場景

在面向模型供應(yīng)商的服務(wù)場景時(shí)，模型工場可提供模型場景調(diào)研分析及設(shè)計(jì)、數(shù)據(jù)標(biāo)注、Prompt撰寫及優(yōu)化、模型工程部署、AI應(yīng)用集成開發(fā)支持、模型遷移、模型開發(fā)和訓(xùn)練、模型運(yùn)維的八大服務(wù)。

模型場景調(diào)研分析及設(shè)計(jì)服務(wù)：根據(jù)客戶場景、數(shù)據(jù)的調(diào)研與分析，識別客戶業(yè)務(wù)中存在的痛點(diǎn)及需求，提供模型選型與落地實(shí)施方案。

▲模型場景調(diào)研分析及設(shè)計(jì)服務(wù)

數(shù)據(jù)標(biāo)注管理服務(wù)：為客戶提供數(shù)據(jù)采集與標(biāo)注服務(wù)，包括數(shù)據(jù)采集處理、標(biāo)注審核、質(zhì)檢評估及發(fā)布等服務(wù)，數(shù)據(jù)集版本管理，支撐模型數(shù)據(jù)訓(xùn)練和推理。

▲數(shù)據(jù)標(biāo)注管理服務(wù)

Prompt撰寫及優(yōu)化服務(wù)：結(jié)合客戶NLP任務(wù)目標(biāo)，以及數(shù)據(jù)分布和特征規(guī)律，編寫合適的Prompt，并進(jìn)行優(yōu)化調(diào)整。

▲Prompt撰寫及優(yōu)化服務(wù)

模型開發(fā)和訓(xùn)練服務(wù)：基于ModelArts平臺，構(gòu)建L2級AI模型開發(fā)工程，包括模型設(shè)計(jì)、特征工程、模型訓(xùn)練、驗(yàn)證融合等開發(fā)實(shí)施。

▲模型開發(fā)和訓(xùn)練服務(wù)

模型工程部署服務(wù)：把模型部署在生成環(huán)境，并實(shí)時(shí)進(jìn)行模型推斷，提升模型運(yùn)行效率。

▲模型工程部署服務(wù)

AI應(yīng)用集成開發(fā)支持服務(wù)：根據(jù)業(yè)務(wù)應(yīng)用需求，實(shí)現(xiàn)基于大模型進(jìn)行業(yè)務(wù)應(yīng)用開發(fā)和實(shí)施服務(wù)。

▲AI應(yīng)用集成開發(fā)支持服務(wù)

模型遷移服務(wù)：提供業(yè)務(wù)、應(yīng)用及模型、算法及算子的昇騰環(huán)境遷移，并提供調(diào)測及集成對接等服務(wù)。

▲模型遷移服務(wù)

模型運(yùn)維服務(wù)：針對私域模型的訓(xùn)練、推理和部署過程，提供有效管理和維護(hù)服務(wù)，保障模型穩(wěn)定高效運(yùn)行。

▲模型運(yùn)維服務(wù)

算力中心服務(wù)場景

在面向算力中心服務(wù)場景時(shí)，中軟國際自主研發(fā)了大模型運(yùn)營管理系統(tǒng)（LMBSS），全面提升算力中心在大模型運(yùn)營領(lǐng)域的核心競爭力。該系統(tǒng)可構(gòu)建多種大模型納管與商品化，支持大模型資源的全生命周期流程管理，提供大模型運(yùn)營業(yè)務(wù)中靈活的計(jì)量計(jì)費(fèi)，提供合同、折扣、營銷、發(fā)票、工單等運(yùn)營支撐服務(wù)能力，助力智算中心構(gòu)建一體化大模型服務(wù)平臺，推動客戶構(gòu)建大模型服務(wù)生態(tài)。

▲LMBSS大模型運(yùn)營管理系統(tǒng)

打通AI應(yīng)用最后一公里！中軟國際模型工場正成為推動千行百業(yè)智能化升級的重要力量，助力行業(yè)向更高效，更智能的未來邁進(jìn)，攜手客戶、伙伴共同探索大模型在企業(yè)服務(wù)的無限可能。