優(yōu)刻得 × 智譜AI，讓全球用戶暢享大模型智能生活

時(shí)光倒回到2021年的那個(gè)夜晚。一位媽媽靈感枯竭，無法繼續(xù)她的小說創(chuàng)作；一旁的爸爸正忙碌于代碼的世界，他想要在工作之余開發(fā)一款小游戲，卻困于代碼調(diào)試；而他們的孩子，正眉頭緊鎖地趴在書桌上，為一道奧數(shù)題苦思冥想。

2024年的今天，AI大模型的出現(xiàn)讓這一切發(fā)生改變。

在「智譜清言」的助力下，媽媽的小說創(chuàng)作煥發(fā)新生，她只需將自己的創(chuàng)意和構(gòu)思輸入給大模型，就可以生成自然生動(dòng)的故事情節(jié)和對(duì)話；爸爸用大模型進(jìn)行代碼編程和調(diào)試，通過分析代碼邏輯，大大減少了開發(fā)的繁瑣流程，減輕了一大半的?作量；大模型也成為了小朋友學(xué)習(xí)上的得力助手，不僅能進(jìn)行作業(yè)智能批改，還可以提供詳實(shí)的解題思路，大幅提升了學(xué)習(xí)效率。

大模型+算力

讓全球用戶暢享智能化生活

智譜AI致力于打造全球領(lǐng)先的認(rèn)知智能大模型，其新一代基座大模型GLM-4性能大幅提升，逼近GPT-4，展現(xiàn)了業(yè)界領(lǐng)先的多模態(tài)大語言模型能力。通過智譜大模型與優(yōu)刻得算力的強(qiáng)強(qiáng)結(jié)合，GLM-4穩(wěn)定、高效運(yùn)行于云端，并具備大規(guī)模實(shí)時(shí)推理能力，成功實(shí)現(xiàn)了成本效益與服務(wù)質(zhì)量的平衡。這一創(chuàng)新使得智譜大模型能夠深入理解用戶需求，快速作出響應(yīng)，讓全球用戶提前享受智能化生活的便利與高效。

早在2022年起，優(yōu)刻得就開始為智譜AI提供強(qiáng)大的底層算力支持。優(yōu)刻得低成本、高附加值的烏蘭察布智算中心，提供定制化高電機(jī)柜和充沛的GPU算力，能夠幫助智譜大模型迅速搭建并擴(kuò)大訓(xùn)練和推理集群的規(guī)模，提升模型研發(fā)效率，支持大模型應(yīng)用快速上線和對(duì)外服務(wù)。目前，優(yōu)刻得智算中心算力管理規(guī)模共計(jì)超過3000P。

優(yōu)刻得烏蘭察布智算中心

優(yōu)刻得助力智譜AI構(gòu)建超千卡規(guī)模推理集群

自「智譜清言」正式上線以來，每日吸引數(shù)百萬用戶訪問，面臨著在文本、圖片、視頻等多場(chǎng)景下的大規(guī)模實(shí)時(shí)推理需求。為了滿足激增的模型計(jì)算需求，需持續(xù)擴(kuò)展計(jì)算卡數(shù)量，構(gòu)建千卡級(jí)別的推理集群，以進(jìn)一步提升算力資源利用率和推理性能。

優(yōu)刻得推理服務(wù)平臺(tái)，提供超大規(guī)模融合算力，支持計(jì)算集群的統(tǒng)一調(diào)度和管理。目前，優(yōu)刻得已成功助力智譜AI構(gòu)建了超千卡規(guī)模的推理集群。同時(shí)，在優(yōu)刻得云互通產(chǎn)品的加持下，平臺(tái)還具備強(qiáng)大的“混合組網(wǎng)能力”，讓大模型得以實(shí)現(xiàn)訓(xùn)推一體化?；谌芷诘乃懔Y源管理，不僅確保了大模型的高效、穩(wěn)定運(yùn)行，使其能夠應(yīng)對(duì)各類復(fù)雜的推理任務(wù)，同時(shí)也為云上服務(wù)的實(shí)時(shí)響應(yīng)提供了堅(jiān)實(shí)的技術(shù)保障。

匹配全棧算力資源實(shí)現(xiàn)多樣化的推理場(chǎng)景覆蓋

智譜大模型廣泛應(yīng)用于智能編程、智能寫作等領(lǐng)域，為各行業(yè)的智能化升級(jí)提供強(qiáng)大的技術(shù)支持。無論是處理文本、圖像還是視頻等多模態(tài)數(shù)據(jù)，智譜大模型都能展現(xiàn)出卓越的性能和靈活性。

優(yōu)刻得推理服務(wù)平臺(tái)匹配全棧算力資源，兼容通用大模型和行業(yè)大模型等多樣化場(chǎng)景，面向文圖生成、代碼生成等各類模型提供彈性穩(wěn)定的推理服務(wù)，滿足各算力場(chǎng)景對(duì)大規(guī)模實(shí)時(shí)推理的需求。其中，「CodeGeeX」就是智譜AI在優(yōu)刻得彈性靈活的算力部署方案支撐下，所推出的一款基于大模型的智能編程助手，它可以實(shí)現(xiàn)代碼的生成與補(bǔ)全、自動(dòng)添加注釋、代碼翻譯，以及智能問答等功能，每天幫助程序員編寫2000萬行代碼，顯著提高工作效率。

除了公有云上的模型推理服務(wù)，優(yōu)刻得也支持大模型的私有化部署。優(yōu)刻得與智譜AI正探索以“大模型一體機(jī)”為載體的全新合作方式，聯(lián)合推出的行業(yè)大模型解決方案能夠更好地幫助金融、醫(yī)療、汽車、制造等行業(yè)快速落地大模型業(yè)務(wù)。當(dāng)下，優(yōu)刻得推理服務(wù)平臺(tái)已融合了豐富的行業(yè)模型資源，這些行業(yè)模型能夠針對(duì)不同行業(yè)需求進(jìn)行定制，提供了更加精準(zhǔn)和高效的推理能力。

大幅降低推理成本實(shí)現(xiàn)成本效益和服務(wù)質(zhì)量的平衡

隨著AIGC技術(shù)的持續(xù)演進(jìn)，其對(duì)GPU算力的依賴愈發(fā)明顯。大模型企業(yè)在追求卓越計(jì)算性能的同時(shí)，對(duì)推理算力的利用效率和成本要求也愈來愈重視。

目前，優(yōu)刻得引入了先進(jìn)的GPU資源管理和調(diào)度機(jī)制，為智譜大模型提供靈活可靠的性能支持。通過智能分配和動(dòng)態(tài)調(diào)整集群任務(wù)，有效降低了單個(gè)節(jié)點(diǎn)的負(fù)載壓力，同時(shí)避免算力資源的閑置和過度消耗。這種精細(xì)化的資源管理方式下，優(yōu)刻得助力智譜大模型的算力利用率顯著提升，帶來經(jīng)濟(jì)又高效的大模型推理體驗(yàn)。優(yōu)刻得的產(chǎn)品在推理成本方面顯著優(yōu)于同類競(jìng)爭(zhēng)對(duì)手，成功實(shí)現(xiàn)了成本效益與服務(wù)質(zhì)量的平衡。

優(yōu)刻得智算中心機(jī)房?jī)?nèi)景

同時(shí)，智譜AI使用了優(yōu)刻得自主研發(fā)的UPFS并行文件系統(tǒng)，來優(yōu)化模型推理性能。UPFS支持IB/RoCE網(wǎng)絡(luò)，提供對(duì)數(shù)據(jù)百微秒級(jí)的訪問和最高數(shù)百GB/s的讀寫吞吐，進(jìn)一步提高數(shù)據(jù)傳輸和通信的效率。

未來，優(yōu)刻得將與智譜AI攜手并進(jìn)，以更加靈活可靠的智算底座，推動(dòng)大模型技術(shù)的持續(xù)創(chuàng)新與應(yīng)用。相信通過雙方的緊密合作與不懈努力，大模型將在各個(gè)領(lǐng)域落地生根、全面融入生產(chǎn)和生活，更多用戶、更多家庭都能享受到智能、高效、便捷的人工智能體驗(yàn)。

審核編輯 黃宇