0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何沖破大模型時(shí)代的算力關(guān)卡?天翼云給出答案

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2024-07-18 09:13 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

wKgaomaXr3mAISqTAAkB2jLwekM045.jpg

IDC最新發(fā)布的《中國智算服務(wù)市場(chǎng)(2023 下半年)跟蹤》報(bào)告顯示,2023 下半年中國智算服務(wù)市場(chǎng)整體規(guī)模達(dá)到 114.1 億元人民幣,同比增長(zhǎng) 85.8%;方正證券發(fā)布的《2023年AI算力行業(yè)報(bào)告》顯示,目前智能算力滲透率達(dá)到22.78%,而未來“天花板”有望超80%??梢钥闯?,智算市場(chǎng)正處于加速增量階段,面向人工智能時(shí)代的智算需求也將迎來爆發(fā)增長(zhǎng)。

而無論是當(dāng)下炙手可熱的大模型技術(shù),還是面向行業(yè)場(chǎng)景化的創(chuàng)新AI研發(fā),都建立在一種資源的充分利用上,那就是算力。在復(fù)雜多樣的需求之下,不僅要求算力資源更加充沛和靈活,還要求算力基礎(chǔ)設(shè)施向智能和一體化的方向發(fā)展,以更高效率和性能來支持更大規(guī)模計(jì)算,助力我國智能產(chǎn)業(yè)加速“翱翔”。

那么,誰來承擔(dān)這一使命呢?

勇?lián)?a target="_blank">科技自立自強(qiáng)的使命,正是天翼云的特點(diǎn)。

在不久前的2024世界人工智能大會(huì)上,天翼云科技有限公司董事長(zhǎng)、總經(jīng)理胡志強(qiáng)表示,天翼云作為國家云,已具備豐富的智算資源儲(chǔ)備、強(qiáng)大的智算平臺(tái)能力和開放的模型應(yīng)用生態(tài)。面向人工智能新一輪科技革命浪潮,天翼云堅(jiān)持以科技創(chuàng)新驅(qū)動(dòng)高質(zhì)量發(fā)展,為數(shù)字經(jīng)濟(jì)發(fā)展注入新動(dòng)能。

擁抱人工智能技術(shù)趨勢(shì)、發(fā)揮云化算力底座作用,天翼云不僅自建了豐富的智算資源,同時(shí)匯聚了大量的社會(huì)智算資源,為千行百業(yè)向智發(fā)展,打造了堅(jiān)實(shí)的云化算力底座。

wKgaomaXr3qAVaxeAAHMTX6zvoY232.jpg

近年來,我國在多個(gè)戰(zhàn)略規(guī)劃中提到了算力建設(shè)的重要性,比如國務(wù)院印發(fā)的《數(shù)字中國建設(shè)整體布局規(guī)劃》提出,要系統(tǒng)優(yōu)化算力基礎(chǔ)設(shè)施布局,促進(jìn)東西部算力高效互補(bǔ)和協(xié)同聯(lián)動(dòng),引導(dǎo)通用數(shù)據(jù)中心、超算中心、智能計(jì)算中心、邊緣數(shù)據(jù)中心等合理梯次布局。隨著當(dāng)下AI和大模型的行業(yè)滲透率不斷提高,對(duì)于多層次智算資源需求愈發(fā)凸顯。

要保障算力充沛供給與高效利用,我們還需要攻破這些關(guān)卡:

第一關(guān)是“智算資源的供給緊張”。針對(duì)大模型和AI任務(wù)的專項(xiàng)算力,供給持續(xù)緊缺,海外高端算力芯片供不應(yīng)求,供應(yīng)鏈風(fēng)險(xiǎn)也越來越大。面對(duì)海外算力封鎖的嚴(yán)峻形勢(shì),我們必須構(gòu)建自主可控的算力資源體系,確保算力的安全性和穩(wěn)定性,為各行各業(yè)提供堅(jiān)實(shí)可靠的算力支撐。

第二關(guān)是“已有算力的利用率不高、區(qū)域算力差異大”。 在數(shù)字經(jīng)濟(jì)時(shí)代,算力水平制約產(chǎn)業(yè)和經(jīng)濟(jì)發(fā)展,很多地區(qū)、企業(yè)都開始建設(shè)數(shù)據(jù)中心,算力總規(guī)模持續(xù)增長(zhǎng),但不同地區(qū)、不同行業(yè)之間的算力資源分配也存在不均衡現(xiàn)象,已有算力資源的配置效率有待提升。

目前來看,通過云化的方式對(duì)算力資源進(jìn)行集中化和高效調(diào)度、促進(jìn)算力資源的跨地區(qū)跨行業(yè)共享,是提高算力利用率的可行方案,讓算力可以如同水、電等公共基礎(chǔ)設(shè)施一樣,被用戶便捷、低成本地獲取。

面向云智融合的時(shí)代趨勢(shì),作為云服務(wù)國家隊(duì)的天翼云勇?lián)鷷r(shí)代重任,通過科技創(chuàng)新進(jìn)行攻關(guān)、進(jìn)行多層次的算力布局,實(shí)現(xiàn)了豐富的智算資源供給,為客戶提供強(qiáng)大的算力支持。

wKgaomaXr3uAH49aAAHBkvzPR-I852.jpg

兵馬未動(dòng),糧草先行。于AI產(chǎn)業(yè)而言,智算資源便是“糧草”。

面向智算,天翼云自建了大規(guī)模、多樣化的算力資源,可以滿足各個(gè)區(qū)域、各種行業(yè)場(chǎng)景的不同需求。目前,天翼云在全國范圍內(nèi)構(gòu)建了“2+4+31+X”的資源池,織就全國算力“一張網(wǎng)”,構(gòu)建了“中心-省-邊緣-端”的四級(jí)算力布局體系。通過針對(duì)性優(yōu)化,解決了AI在云上的大量工程化挑戰(zhàn)。

首先,針對(duì)性解決大模型訓(xùn)練推理需要大規(guī)模算力問題。天翼云超前構(gòu)建智能算力布局,針對(duì) AI 產(chǎn)業(yè)集聚區(qū),規(guī)劃建設(shè)了北京、上海、廣東、浙江、安徽人工智能公共算力中心,并先后在上海、北京建成萬卡池,這也是全國最早建成并真正投產(chǎn)運(yùn)行的兩個(gè)國產(chǎn)化、全液冷、單集群萬卡公共智算中心。

其次,針對(duì)能耗問題打造綠色高效算力。計(jì)算也是耗能大頭,提高能效、節(jié)能減碳勢(shì)在必行。天翼云通過領(lǐng)先技術(shù)降低能耗,如在公共智算中心采用液冷技術(shù),實(shí)現(xiàn)能效和算效“雙效合一”。此外還在內(nèi)蒙、貴州、寧夏等清潔能源集聚地建設(shè)智算中心,提供綠色低碳的算力。

再次,為了提高算力響應(yīng)速度和計(jì)算效率,天翼云已在31省預(yù)部署AI云電腦和推理池,在280多個(gè)地市的一城一池節(jié)點(diǎn)和1000多個(gè)邊緣節(jié)點(diǎn),按需下沉AI云電腦算力和推理算力。

最后聚焦技術(shù)自主可控,天翼云支持“一云多態(tài)”,提供國內(nèi)外主流的GPU、NPU算力方案,面向不同場(chǎng)景為用戶提供公有云、私有云、邊緣云多種形態(tài)服務(wù)。

可用、可信、可持續(xù)的算力才能讓中國AI持續(xù)前行,天翼云通過“建內(nèi)功”,已儲(chǔ)備了分布廣泛、安全可靠、技術(shù)先進(jìn)、綠色節(jié)能的大規(guī)模智算“糧倉”,并以云服務(wù)的形式,實(shí)現(xiàn)靈活便捷、低成本地獲取,為各行各業(yè)智能演進(jìn)提供充沛普惠的算力保障。

wKgaomaXr32AC9d2AAHYUhp5uSs427.jpg

于智算資源而言,患寡亦患不均,有了算力糧儲(chǔ),進(jìn)而要考慮高效調(diào)度分配。

為了保障我國算力資源高效運(yùn)營,目前全國正加快形成一體化算力網(wǎng)絡(luò)。但多地多方的算力聯(lián)網(wǎng),讓算力互聯(lián)、跨域調(diào)度管理等工作在實(shí)際運(yùn)行中面臨一系列挑戰(zhàn),亟需一張“算力網(wǎng)”平衡區(qū)域資源、實(shí)現(xiàn)供需匹配。

為此,天翼云重點(diǎn)研發(fā)算力分發(fā)網(wǎng)絡(luò)平臺(tái)“息壤”,從算力統(tǒng)一接入、算數(shù)網(wǎng)一體化調(diào)度、算力簡(jiǎn)便易用三方面進(jìn)行技術(shù)突破:

在算力統(tǒng)一接入方面,“息壤”平臺(tái)預(yù)置了算力插件,可高效接入平臺(tái)化算力,此外還通過算力網(wǎng)關(guān),將裸算力云化接入。

在算數(shù)網(wǎng)一體化調(diào)度方面,通過算數(shù)協(xié)同,實(shí)現(xiàn)數(shù)隨算走、算隨數(shù)動(dòng),讓調(diào)度策略更全面,調(diào)度方案更精準(zhǔn),同時(shí)構(gòu)建了多級(jí)算力互聯(lián)調(diào)度,讓調(diào)度區(qū)域更廣、算力更泛在。

在提升算力簡(jiǎn)便易用性上,“息壤”借助了大模型認(rèn)知能力,為行業(yè)與客戶智能匹配合適的算力選擇,讓應(yīng)用部署更簡(jiǎn)單。通過業(yè)務(wù)調(diào)度,還能實(shí)現(xiàn)跨地域跨服務(wù)商的故障自動(dòng)恢復(fù)和負(fù)載均衡,提升應(yīng)用可靠性。

天翼云通過“息壤”平臺(tái),大規(guī)模匯聚社會(huì)各方算力,解決了跨域、跨服務(wù)商異構(gòu)算力的統(tǒng)一調(diào)度管理、并網(wǎng)交易等需求,實(shí)現(xiàn)促進(jìn)算力互聯(lián)互通、高效利用、供需匹配,也促進(jìn)全國一體化算力體系加速形成。目前,“息壤”主要服務(wù)于三大算力場(chǎng)景:

一是自營的公共算力服務(wù)平臺(tái)。目前已接入多家算力伙伴,顯著擴(kuò)大了天翼云的算力規(guī)模和品類,滿足公有云客戶的多元算力需求。

二是行業(yè)算力互聯(lián)網(wǎng)。比如福建多所大學(xué)組成的高校算力聯(lián)盟,通過多方資源共享、優(yōu)勢(shì)互補(bǔ),提升算力利用水平。

三是城市算力互聯(lián)網(wǎng)。通過整合區(qū)域內(nèi)多方算力,結(jié)合產(chǎn)業(yè)政策,一體化統(tǒng)籌調(diào)度算力,目前已在多個(gè)區(qū)域成功實(shí)踐。

通過技術(shù)創(chuàng)新與合作,天翼云以“息壤”為算力資源底座逐步推動(dòng)構(gòu)建起一張全國“算力網(wǎng)”,以多樣且靈活的算力調(diào)度能力,打破算力分布不均衡、已有算力資源利用率低的瓶頸。

wKgaomaXr36AAxnjAAG3FpXFPqw459.jpg

AI的滲透率將持續(xù)增長(zhǎng),重塑社會(huì)經(jīng)濟(jì)的每一個(gè)角落。隨著AI應(yīng)用場(chǎng)景的不斷拓展,算力需求也將呈現(xiàn)出多樣化的特點(diǎn),算力基礎(chǔ)設(shè)施由通算向通智超一體化發(fā)展,算力建設(shè)也向更豐富、更多層次的智算發(fā)展。

無論需求如何變遷,天翼云始終勇立時(shí)代潮頭創(chuàng)新技術(shù)、演進(jìn)實(shí)力。我們可以看到“國云”的獨(dú)特氣質(zhì):

縱向有高度。無論是全棧自研的萬卡集群解決方案,還是跨域調(diào)度的“息壤”平臺(tái),天翼云以極高的技術(shù)實(shí)力,創(chuàng)新性地解決智算供給難題。

橫向有廣度。作為“國家隊(duì)”,天翼云致力于推動(dòng)算力的普惠化,息壤平臺(tái)加快形成全國一體化算力體系,讓充沛、可靠、持續(xù)的算力成為千行百業(yè)用得到、用得起的資源。

站在AI黃金期的起點(diǎn)上,跨越算力瓶頸,天翼云給出的答案,是將自建算力和社會(huì)算力匯聚起來,AI將像水、電、網(wǎng)絡(luò)一樣無處不在,把普惠算力送往更加廣闊的天地,送到社會(huì)的每一個(gè)角落,為數(shù)字經(jīng)濟(jì)發(fā)展注入磅礴動(dòng)能。

既已越過了向智能云發(fā)展的拐點(diǎn),便是開啟新一輪智算征程。作為AI加速滲透的強(qiáng)大后盾,天翼云在智能時(shí)代的壯麗征程才剛剛拉開序幕。

wKgaomaXr3-ATxo-AAHAjCl-uFA699.jpg

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    34781

    瀏覽量

    277117
  • 算力
    +關(guān)注

    關(guān)注

    2

    文章

    1174

    瀏覽量

    15557
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3086

    瀏覽量

    3972
收藏 0人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    智能最具潛力的行業(yè)領(lǐng)域

    ?; 數(shù)據(jù)治理與聯(lián)合創(chuàng)新?:民生銀行與華為、阿里等共建AI實(shí)驗(yàn)室,通過“數(shù)據(jù)湖+模型體系”提升服務(wù)精準(zhǔn)度?; 需求驅(qū)動(dòng)?:金融大模型
    的頭像 發(fā)表于 04-11 08:20 ?313次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潛力的行業(yè)領(lǐng)域

    中科曙光助力天打造“政通”大模型一體機(jī)

    近來,DeepSeek系列模型在政務(wù)領(lǐng)域展現(xiàn)出強(qiáng)大的賦能潛力。選擇曙光AI解決方案,憑借內(nèi)置的DeepAI深智能引擎,完成軟硬件適配
    的頭像 發(fā)表于 03-13 11:35 ?847次閱讀

    DeepSeek風(fēng)起時(shí),讀懂的國擔(dān)當(dāng)

    智能化的時(shí)代之機(jī),的國擔(dān)當(dāng)
    的頭像 發(fā)表于 03-05 08:51 ?1887次閱讀
    DeepSeek風(fēng)起時(shí),讀懂<b class='flag-5'>天</b><b class='flag-5'>翼</b><b class='flag-5'>云</b>的國<b class='flag-5'>云</b>擔(dān)當(dāng)

    AI:智能時(shí)代的核心驅(qū)動(dòng)力

    引言在當(dāng)今數(shù)字化時(shí)代的重要性不言而喻。12月28日,央視和國務(wù)院國資委聯(lián)合制作的紀(jì)錄片《大國基石》第三期《引擎》中所強(qiáng)調(diào)的“
    的頭像 發(fā)表于 01-22 12:58 ?677次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>:智能<b class='flag-5'>時(shí)代</b>的核心驅(qū)動(dòng)力

    科技報(bào)到:要更要“利”,“精裝”觸發(fā)大模型產(chǎn)業(yè)新變局?

    科技報(bào)到:要更要“利”,“精裝”觸發(fā)大模型
    的頭像 發(fā)表于 01-16 10:24 ?426次閱讀

    華為征文 計(jì)算新紀(jì)元:Flexus 服務(wù)器 X 實(shí)例引領(lǐng)柔性時(shí)代,部署 Zabbix 運(yùn)維監(jiān)控

    Flexus 服務(wù)器 X 實(shí)例引領(lǐng)柔性時(shí)代 引言 隨著計(jì)算技術(shù)的飛速發(fā)展,企業(yè)對(duì)于
    的頭像 發(fā)表于 01-02 11:57 ?313次閱讀
    華為<b class='flag-5'>云</b>征文 <b class='flag-5'>云</b>計(jì)算新紀(jì)元:Flexus <b class='flag-5'>云</b>服務(wù)器 X 實(shí)例引領(lǐng)柔性<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>時(shí)代</b>,部署 Zabbix 運(yùn)維監(jiān)控

    息壤商用落地,智能生花

    “人工智能+”時(shí)代,展開新藍(lán)圖
    的頭像 發(fā)表于 12-10 09:22 ?3140次閱讀
    息壤商用落地,<b class='flag-5'>天</b><b class='flag-5'>翼</b><b class='flag-5'>云</b>智能生花

    AI時(shí)代的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    在AI時(shí)代,扮演著至關(guān)重要的角色。如果說數(shù)據(jù)是AI大模型的“燃料”,那么則是其強(qiáng)大的“動(dòng)
    的頭像 發(fā)表于 11-04 11:45 ?1104次閱讀

    【「大模型時(shí)代的基礎(chǔ)架構(gòu)」閱讀體驗(yàn)】+ 未知領(lǐng)域的感受

    國慶前就收到《大模型時(shí)代的基礎(chǔ)架構(gòu)》一書,感謝電子發(fā)燒友論壇。歡度國慶之余,今天才靜下心來體驗(yàn)此書,書不厚,200余頁,彩色圖例,印刷精美! 當(dāng)初申請(qǐng)此書,主要是看到副標(biāo)題“大模型
    發(fā)表于 10-08 10:40

    九章極DataCanvas公司「包」產(chǎn)品璀璨亮相2024中國大會(huì)!

    九章極DataCanvas公司技術(shù)專家向與會(huì)者詳細(xì)介紹包的產(chǎn)品能力和創(chuàng)新模式,收獲行業(yè)伙伴的高度認(rèn)可。力作為AI時(shí)代的數(shù)字能源,將在
    的頭像 發(fā)表于 09-29 14:44 ?1204次閱讀
    九章<b class='flag-5'>云</b>極DataCanvas公司「<b class='flag-5'>算</b><b class='flag-5'>力</b>包」產(chǎn)品璀璨亮相2024中國<b class='flag-5'>算</b><b class='flag-5'>力</b>大會(huì)!

    ,AI取經(jīng)路上的逐夢(mèng)人

    息壤一體化智服務(wù)平臺(tái)升級(jí),幫助AI天命人踏上取經(jīng)路
    的頭像 發(fā)表于 09-05 16:06 ?2729次閱讀
    <b class='flag-5'>天</b><b class='flag-5'>翼</b><b class='flag-5'>云</b>,AI取經(jīng)路上的逐夢(mèng)人

    模型時(shí)代需求

    現(xiàn)在AI已進(jìn)入大模型時(shí)代,各企業(yè)都爭(zhēng)相部署大模型,但如何保證大模型,以及相關(guān)的穩(wěn)定性和性能
    發(fā)表于 08-20 09:04

    DTCC2024前瞻:數(shù)據(jù)庫專家共話TeleDB發(fā)展藍(lán)圖

    數(shù)據(jù)庫是IT基礎(chǔ)設(shè)施領(lǐng)域重要的組成部分,緊跟數(shù)據(jù)庫行業(yè)技術(shù)方向與創(chuàng)新趨勢(shì),強(qiáng)化核心技術(shù)的自研實(shí)力,助力企業(yè)釋放數(shù)據(jù)價(jià)值。在8月22日-24日的第15屆中國數(shù)據(jù)庫技術(shù)大會(huì)(DTCC2024)上
    的頭像 發(fā)表于 08-19 14:53 ?745次閱讀
    DTCC2024前瞻:<b class='flag-5'>天</b><b class='flag-5'>翼</b><b class='flag-5'>云</b>數(shù)據(jù)庫專家共話TeleDB發(fā)展藍(lán)圖

    名單公布!【書籍評(píng)測(cè)活動(dòng)NO.41】大模型時(shí)代的基礎(chǔ)架構(gòu):大模型中心建設(shè)指南

    工作日內(nèi)未聯(lián)系,視為放棄本次試用評(píng)測(cè)資格! 書籍介紹 大模型是近年來引人注目的熱點(diǎn)之一。大模型蓬勃發(fā)展的基礎(chǔ),是針對(duì)其需求設(shè)計(jì)的及基礎(chǔ)架構(gòu)。本書針對(duì)如何為大
    發(fā)表于 08-16 18:33

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品