如何沖破大模型時(shí)代的算力關(guān)卡？天翼云給出答案

IDC最新發(fā)布的《中國(guó)智算服務(wù)市場(chǎng)（2023 下半年）跟蹤》報(bào)告顯示，2023 下半年中國(guó)智算服務(wù)市場(chǎng)整體規(guī)模達(dá)到 114.1 億元人民幣，同比增長(zhǎng) 85.8%；方正證券發(fā)布的《2023年AI算力行業(yè)報(bào)告》顯示，目前智能算力滲透率達(dá)到22.78%，而未來(lái)“天花板”有望超80%?？梢钥闯?，智算市場(chǎng)正處于加速增量階段，面向人工智能時(shí)代的智算需求也將迎來(lái)爆發(fā)增長(zhǎng)。

而無(wú)論是當(dāng)下炙手可熱的大模型技術(shù)，還是面向行業(yè)場(chǎng)景化的創(chuàng)新AI研發(fā)，都建立在一種資源的充分利用上，那就是算力。在復(fù)雜多樣的需求之下，不僅要求算力資源更加充沛和靈活，還要求算力基礎(chǔ)設(shè)施向智能和一體化的方向發(fā)展，以更高效率和性能來(lái)支持更大規(guī)模計(jì)算，助力我國(guó)智能產(chǎn)業(yè)加速“翱翔”。

那么，誰(shuí)來(lái)承擔(dān)這一使命呢？

勇?lián)?a target="_blank">科技自立自強(qiáng)的使命，正是天翼云的特點(diǎn)。

在不久前的2024世界人工智能大會(huì)上，天翼云科技有限公司董事長(zhǎng)、總經(jīng)理胡志強(qiáng)表示，天翼云作為國(guó)家云，已具備豐富的智算資源儲(chǔ)備、強(qiáng)大的智算平臺(tái)能力和開(kāi)放的模型應(yīng)用生態(tài)。面向人工智能新一輪科技革命浪潮，天翼云堅(jiān)持以科技創(chuàng)新驅(qū)動(dòng)高質(zhì)量發(fā)展，為數(shù)字經(jīng)濟(jì)發(fā)展注入新動(dòng)能。

擁抱人工智能技術(shù)趨勢(shì)、發(fā)揮云化算力底座作用，天翼云不僅自建了豐富的智算資源，同時(shí)匯聚了大量的社會(huì)智算資源，為千行百業(yè)向智發(fā)展，打造了堅(jiān)實(shí)的云化算力底座。

近年來(lái)，我國(guó)在多個(gè)戰(zhàn)略規(guī)劃中提到了算力建設(shè)的重要性，比如國(guó)務(wù)院印發(fā)的《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》提出，要系統(tǒng)優(yōu)化算力基礎(chǔ)設(shè)施布局，促進(jìn)東西部算力高效互補(bǔ)和協(xié)同聯(lián)動(dòng)，引導(dǎo)通用數(shù)據(jù)中心、超算中心、智能計(jì)算中心、邊緣數(shù)據(jù)中心等合理梯次布局。隨著當(dāng)下AI和大模型的行業(yè)滲透率不斷提高，對(duì)于多層次智算資源需求愈發(fā)凸顯。

要保障算力充沛供給與高效利用，我們還需要攻破這些關(guān)卡：

第一關(guān)是“智算資源的供給緊張”。針對(duì)大模型和AI任務(wù)的專項(xiàng)算力，供給持續(xù)緊缺，海外高端算力芯片供不應(yīng)求，供應(yīng)鏈風(fēng)險(xiǎn)也越來(lái)越大。面對(duì)海外算力封鎖的嚴(yán)峻形勢(shì)，我們必須構(gòu)建自主可控的算力資源體系，確保算力的安全性和穩(wěn)定性，為各行各業(yè)提供堅(jiān)實(shí)可靠的算力支撐。

第二關(guān)是“已有算力的利用率不高、區(qū)域算力差異大”。 在數(shù)字經(jīng)濟(jì)時(shí)代，算力水平制約產(chǎn)業(yè)和經(jīng)濟(jì)發(fā)展，很多地區(qū)、企業(yè)都開(kāi)始建設(shè)數(shù)據(jù)中心，算力總規(guī)模持續(xù)增長(zhǎng)，但不同地區(qū)、不同行業(yè)之間的算力資源分配也存在不均衡現(xiàn)象，已有算力資源的配置效率有待提升。

目前來(lái)看，通過(guò)云化的方式對(duì)算力資源進(jìn)行集中化和高效調(diào)度、促進(jìn)算力資源的跨地區(qū)跨行業(yè)共享，是提高算力利用率的可行方案，讓算力可以如同水、電等公共基礎(chǔ)設(shè)施一樣，被用戶便捷、低成本地獲取。

面向云智融合的時(shí)代趨勢(shì)，作為云服務(wù)國(guó)家隊(duì)的天翼云勇?lián)鷷r(shí)代重任，通過(guò)科技創(chuàng)新進(jìn)行攻關(guān)、進(jìn)行多層次的算力布局，實(shí)現(xiàn)了豐富的智算資源供給，為客戶提供強(qiáng)大的算力支持。

兵馬未動(dòng)，糧草先行。于AI產(chǎn)業(yè)而言，智算資源便是“糧草”。

面向智算，天翼云自建了大規(guī)模、多樣化的算力資源，可以滿足各個(gè)區(qū)域、各種行業(yè)場(chǎng)景的不同需求。目前，天翼云在全國(guó)范圍內(nèi)構(gòu)建了“2+4+31+X”的資源池，織就全國(guó)算力“一張網(wǎng)”，構(gòu)建了“中心－省－邊緣－端”的四級(jí)算力布局體系。通過(guò)針對(duì)性優(yōu)化，解決了AI在云上的大量工程化挑戰(zhàn)。

首先，針對(duì)性解決大模型訓(xùn)練推理需要大規(guī)模算力問(wèn)題。天翼云超前構(gòu)建智能算力布局，針對(duì) AI 產(chǎn)業(yè)集聚區(qū)，規(guī)劃建設(shè)了北京、上海、廣東、浙江、安徽人工智能公共算力中心，并先后在上海、北京建成萬(wàn)卡池，這也是全國(guó)最早建成并真正投產(chǎn)運(yùn)行的兩個(gè)國(guó)產(chǎn)化、全液冷、單集群萬(wàn)卡公共智算中心。

其次，針對(duì)能耗問(wèn)題打造綠色高效算力。計(jì)算也是耗能大頭，提高能效、節(jié)能減碳勢(shì)在必行。天翼云通過(guò)領(lǐng)先技術(shù)降低能耗，如在公共智算中心采用液冷技術(shù)，實(shí)現(xiàn)能效和算效“雙效合一”。此外還在內(nèi)蒙、貴州、寧夏等清潔能源集聚地建設(shè)智算中心，提供綠色低碳的算力。

再次，為了提高算力響應(yīng)速度和計(jì)算效率，天翼云已在31省預(yù)部署AI云電腦和推理池，在280多個(gè)地市的一城一池節(jié)點(diǎn)和1000多個(gè)邊緣節(jié)點(diǎn)，按需下沉AI云電腦算力和推理算力。

最后聚焦技術(shù)自主可控，天翼云支持“一云多態(tài)”，提供國(guó)內(nèi)外主流的GPU、NPU算力方案，面向不同場(chǎng)景為用戶提供公有云、私有云、邊緣云多種形態(tài)服務(wù)。

可用、可信、可持續(xù)的算力才能讓中國(guó)AI持續(xù)前行，天翼云通過(guò)“建內(nèi)功”，已儲(chǔ)備了分布廣泛、安全可靠、技術(shù)先進(jìn)、綠色節(jié)能的大規(guī)模智算“糧倉(cāng)”，并以云服務(wù)的形式，實(shí)現(xiàn)靈活便捷、低成本地獲取，為各行各業(yè)智能演進(jìn)提供充沛普惠的算力保障。

于智算資源而言，患寡亦患不均，有了算力糧儲(chǔ)，進(jìn)而要考慮高效調(diào)度分配。

為了保障我國(guó)算力資源高效運(yùn)營(yíng)，目前全國(guó)正加快形成一體化算力網(wǎng)絡(luò)。但多地多方的算力聯(lián)網(wǎng)，讓算力互聯(lián)、跨域調(diào)度管理等工作在實(shí)際運(yùn)行中面臨一系列挑戰(zhàn)，亟需一張“算力網(wǎng)”平衡區(qū)域資源、實(shí)現(xiàn)供需匹配。

為此，天翼云重點(diǎn)研發(fā)算力分發(fā)網(wǎng)絡(luò)平臺(tái)“息壤”，從算力統(tǒng)一接入、算數(shù)網(wǎng)一體化調(diào)度、算力簡(jiǎn)便易用三方面進(jìn)行技術(shù)突破：

在算力統(tǒng)一接入方面，“息壤”平臺(tái)預(yù)置了算力插件，可高效接入平臺(tái)化算力，此外還通過(guò)算力網(wǎng)關(guān)，將裸算力云化接入。

在算數(shù)網(wǎng)一體化調(diào)度方面，通過(guò)算數(shù)協(xié)同，實(shí)現(xiàn)數(shù)隨算走、算隨數(shù)動(dòng)，讓調(diào)度策略更全面，調(diào)度方案更精準(zhǔn)，同時(shí)構(gòu)建了多級(jí)算力互聯(lián)調(diào)度，讓調(diào)度區(qū)域更廣、算力更泛在。

在提升算力簡(jiǎn)便易用性上，“息壤”借助了大模型認(rèn)知能力，為行業(yè)與客戶智能匹配合適的算力選擇，讓應(yīng)用部署更簡(jiǎn)單。通過(guò)業(yè)務(wù)調(diào)度，還能實(shí)現(xiàn)跨地域跨服務(wù)商的故障自動(dòng)恢復(fù)和負(fù)載均衡，提升應(yīng)用可靠性。

天翼云通過(guò)“息壤”平臺(tái)，大規(guī)模匯聚社會(huì)各方算力，解決了跨域、跨服務(wù)商異構(gòu)算力的統(tǒng)一調(diào)度管理、并網(wǎng)交易等需求，實(shí)現(xiàn)促進(jìn)算力互聯(lián)互通、高效利用、供需匹配，也促進(jìn)全國(guó)一體化算力體系加速形成。目前，“息壤”主要服務(wù)于三大算力場(chǎng)景：

一是自營(yíng)的公共算力服務(wù)平臺(tái)。目前已接入多家算力伙伴，顯著擴(kuò)大了天翼云的算力規(guī)模和品類，滿足公有云客戶的多元算力需求。

二是行業(yè)算力互聯(lián)網(wǎng)。比如福建多所大學(xué)組成的高校算力聯(lián)盟，通過(guò)多方資源共享、優(yōu)勢(shì)互補(bǔ)，提升算力利用水平。

三是城市算力互聯(lián)網(wǎng)。通過(guò)整合區(qū)域內(nèi)多方算力，結(jié)合產(chǎn)業(yè)政策，一體化統(tǒng)籌調(diào)度算力，目前已在多個(gè)區(qū)域成功實(shí)踐。

通過(guò)技術(shù)創(chuàng)新與合作，天翼云以“息壤”為算力資源底座逐步推動(dòng)構(gòu)建起一張全國(guó)“算力網(wǎng)”，以多樣且靈活的算力調(diào)度能力，打破算力分布不均衡、已有算力資源利用率低的瓶頸。

AI的滲透率將持續(xù)增長(zhǎng)，重塑社會(huì)經(jīng)濟(jì)的每一個(gè)角落。隨著AI應(yīng)用場(chǎng)景的不斷拓展，算力需求也將呈現(xiàn)出多樣化的特點(diǎn)，算力基礎(chǔ)設(shè)施由通算向通智超一體化發(fā)展，算力建設(shè)也向更豐富、更多層次的智算發(fā)展。

無(wú)論需求如何變遷，天翼云始終勇立時(shí)代潮頭創(chuàng)新技術(shù)、演進(jìn)實(shí)力。我們可以看到“國(guó)云”的獨(dú)特氣質(zhì)：

縱向有高度。無(wú)論是全棧自研的萬(wàn)卡集群解決方案，還是跨域調(diào)度的“息壤”平臺(tái)，天翼云以極高的技術(shù)實(shí)力，創(chuàng)新性地解決智算供給難題。

橫向有廣度。作為“國(guó)家隊(duì)”，天翼云致力于推動(dòng)算力的普惠化，息壤平臺(tái)加快形成全國(guó)一體化算力體系，讓充沛、可靠、持續(xù)的算力成為千行百業(yè)用得到、用得起的資源。

站在AI黃金期的起點(diǎn)上，跨越算力瓶頸，天翼云給出的答案，是將自建算力和社會(huì)算力匯聚起來(lái)，AI將像水、電、網(wǎng)絡(luò)一樣無(wú)處不在，把普惠算力送往更加廣闊的天地，送到社會(huì)的每一個(gè)角落，為數(shù)字經(jīng)濟(jì)發(fā)展注入磅礴動(dòng)能。

既已越過(guò)了向智能云發(fā)展的拐點(diǎn)，便是開(kāi)啟新一輪智算征程。作為AI加速滲透的強(qiáng)大后盾，天翼云在智能時(shí)代的壯麗征程才剛剛拉開(kāi)序幕。