Scaling law信仰下，新華三網(wǎng)絡(luò)“越過山丘”

如果大模型有信仰，那一定是“Scaling Laws（規(guī)模法則）”。

所謂“Scaling Laws”，就是模型性能會隨著參數(shù)、算力、數(shù)據(jù)集的規(guī)模增加而提高。時(shí)間來到2024年，大模型領(lǐng)域依舊是“Scaling Laws”的統(tǒng)治區(qū)。

模型參數(shù)增長到萬億，訓(xùn)練集群從千卡到萬卡、五萬卡，前不久剛開源的一個(gè)高質(zhì)量通用數(shù)據(jù)集達(dá)到45T，讓開發(fā)者為了網(wǎng)絡(luò)帶寬而發(fā)愁……有人調(diào)侃：“在就近網(wǎng)絡(luò)服務(wù)區(qū)下載好，再把硬盤用高鐵飛機(jī)帶過來，都比直接下載省時(shí)省力。”

人工智能時(shí)代爆炸式的數(shù)據(jù)增長，傳統(tǒng)“馬拉肩扛”的傳輸方式，存在易損壞、丟失的風(fēng)險(xiǎn)，也無法支持實(shí)時(shí)數(shù)據(jù)更新和交互，會直接影響到中國AI產(chǎn)業(yè)的先進(jìn)性。對于攀爬Scaling law的中國AI產(chǎn)業(yè)來說，傳統(tǒng)網(wǎng)絡(luò)已經(jīng)捉襟見肘，必須全面升級和重塑，更有效地支持大模型時(shí)代的聯(lián)接需求。

近日，紫光股份旗下新華三集團(tuán)以“×AI”（乘AI）為主題舉辦2024媒體與分析師溝通會，全新升級智算版數(shù)字大腦，并以全棧領(lǐng)先的靈犀智算解決方案，充分發(fā)揮新華三在算力和聯(lián)接領(lǐng)域的核心優(yōu)勢，激發(fā)“算力×聯(lián)接”的乘數(shù)效應(yīng)，讓算力更快、更強(qiáng)、更澎湃。

理念聽起來很美好，具體怎么落地呢？網(wǎng)絡(luò)如何給算力做乘法？會后，腦極體采訪了新華三集團(tuán)高級副總裁、網(wǎng)絡(luò)產(chǎn)品線總裁曾富貴，就承載靈犀大模型落地的新華三AD-NET 7.0，及數(shù)據(jù)中心、園區(qū)、廣域三大場景的相關(guān)技術(shù)、產(chǎn)品與解決方案，展開了深度交流。在AI產(chǎn)業(yè)攀爬Scaling law的當(dāng)下，我們不妨來看看，新華三雙A驅(qū)動的網(wǎng)絡(luò)，是如何帶攀登者們越過山丘的。

新華三集團(tuán)高級副總裁、網(wǎng)絡(luò)產(chǎn)品線總裁 曾富貴

眺望Scaling Laws山峰，那是網(wǎng)絡(luò)升級的方向

數(shù)字化、智能化升級先升網(wǎng)，已經(jīng)是一個(gè)常識。問題在于，究竟什么是網(wǎng)絡(luò)的升級方向？

對此，曾富貴說過，網(wǎng)絡(luò)的先進(jìn)性是技術(shù)問題，但是先進(jìn)網(wǎng)絡(luò)的具體形態(tài)是用戶選擇的問題。

面向智算時(shí)代，AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化所需要的網(wǎng)絡(luò)形態(tài)，已經(jīng)被“Scaling Laws”法則所規(guī)定。

萬億參數(shù)，傳輸“費(fèi)時(shí)”。大模型的參數(shù)量巨大，需要傳輸大量的數(shù)據(jù)，傳統(tǒng)網(wǎng)絡(luò)無法滿足高帶寬需求，需要接入帶寬高達(dá)400G甚至達(dá)到800G的超大容量網(wǎng)絡(luò)。

萬卡集群，訓(xùn)練“費(fèi)力”。AI大模型并行計(jì)算模式，催生了新的大規(guī)模網(wǎng)絡(luò)架構(gòu)，從千卡到萬卡集群，未來更新的GPT模型可能需要十萬卡、幾十萬卡支撐起來。而AI計(jì)算集群規(guī)模越大，通信量和復(fù)雜度越大，網(wǎng)絡(luò)設(shè)備的規(guī)模、端口數(shù)、光模塊的數(shù)量指數(shù)上升，傳統(tǒng)網(wǎng)絡(luò)面臨越來越明顯的傳輸效率瓶頸，一次通信延誤，會拖慢整個(gè)訓(xùn)練過程，導(dǎo)致整體計(jì)算集群效能低下、成本高昂。

萬里部署，使用“費(fèi)心”。算力的分布式部署，全國一體化算網(wǎng)可以減少訓(xùn)練推理成本，解決算力緊缺、算力貴的問題。但跨東西部的算力流動與調(diào)度，會受限于“聯(lián)接瓶頸”，抖動、時(shí)延、較長的通信時(shí)間，都會讓用戶身心俱疲，寧可用硬盤坐高鐵送。

總而言之，在AI大模型場景和應(yīng)用中，讓模型供應(yīng)商、算力服務(wù)商、應(yīng)用開發(fā)者及用戶不頭疼，輕松翻越“Scaling Laws”的網(wǎng)絡(luò)，就是先進(jìn)網(wǎng)絡(luò)。幫助產(chǎn)業(yè)攀爬Scaling Laws，新華三全新升級的AD-NET 7.0，由Application+AI雙A驅(qū)動，如同一雙“風(fēng)火輪”，為AI大模型向前發(fā)展注入澎湃動力，成為一雙智算時(shí)代的“鞋履”。

攀登者之力，雙A驅(qū)動網(wǎng)絡(luò)釋放澎湃算力

神話故事中，哪吒踩著一雙“風(fēng)火輪”，獲得了高速移動、自由馳騁的能力，極大地提高了戰(zhàn)斗效率。對于攀爬Scaling Laws的AI產(chǎn)業(yè)者來說，新華三雙A驅(qū)動的網(wǎng)絡(luò)，正是一雙能夠釋放澎湃算力的加速“戰(zhàn)靴”。

全新升級的AD-NET 7.0，全面升級網(wǎng)絡(luò)聯(lián)接能力，構(gòu)筑行業(yè)智能底座，從三個(gè)方面，為智算時(shí)代提供有力支撐：

1.以網(wǎng)強(qiáng)算

AD-NET 7.0提供的網(wǎng)絡(luò)基礎(chǔ)設(shè)施，為AI模型的訓(xùn)練提供高效算力支持，為各種智能化服務(wù)提供按需的聯(lián)接服務(wù)保障。曾富貴強(qiáng)調(diào)，AI賦能的網(wǎng)絡(luò)，對數(shù)據(jù)中心，要充分釋放大規(guī)模算力集群的潛力，讓算力增效；對園區(qū)，要讓最終客戶能夠隨時(shí)隨地接入算力，方便使用算力，滿足各類業(yè)務(wù)對算力的智快至簡體驗(yàn)需求；對廣域網(wǎng)，要通過算力網(wǎng)絡(luò)不同規(guī)模、不同行業(yè)客戶都能享受算力建設(shè)帶來的數(shù)字紅利，實(shí)現(xiàn)業(yè)務(wù)智享的普惠型算力資源供給。

2.以算提智

新華三端到端智算能力，不僅解決了“算力焦渴”，還進(jìn)一步結(jié)合過去21年積累的ICT運(yùn)維領(lǐng)域知識和大量語料，融合打造出更懂行業(yè)運(yùn)維需求的AI私域大模型——靈犀大模型?；谛氯A三在ICT領(lǐng)域的知識語料積累和上萬名網(wǎng)絡(luò)專家的專業(yè)經(jīng)驗(yàn)，利用充足的算力訓(xùn)練和微調(diào)得到靈犀大模型，通過內(nèi)置靈犀大模型升級AD-NET解決方案。

3.以智增效

算力網(wǎng)絡(luò)變得復(fù)雜，靠人的普通管理是不行的，一定需要更強(qiáng)大、更高效的AI技術(shù)為網(wǎng)絡(luò)提供“導(dǎo)航”。為了提升網(wǎng)絡(luò)的智能化水平，AD-NET 7.0搭載了靈犀大模型，可以利用AI強(qiáng)大的創(chuàng)造力和交互能力，提升網(wǎng)絡(luò)管理效率。

曾富貴直言，很多東西說起來很容易，實(shí)現(xiàn)起來很難。我們希望通過靈犀大模型，加上硬件原生智能，讓整個(gè)網(wǎng)絡(luò)更高效。這個(gè)覆蓋面很大，目前我們在某些場景做了一些嘗試，取得突破。目前，新華三已經(jīng)探索出了大模型在數(shù)據(jù)通信領(lǐng)域落地的幾個(gè)典型場景。

AI可視：網(wǎng)絡(luò)設(shè)備與平臺協(xié)同計(jì)算，對設(shè)備日志、流量模型應(yīng)用等多維信息進(jìn)行AI分析，實(shí)現(xiàn)貫穿應(yīng)用和網(wǎng)絡(luò)基礎(chǔ)設(shè)施的信息洞察。

AI調(diào)優(yōu)：基于用戶業(yè)務(wù)提供最優(yōu)配置建議，持續(xù)學(xué)習(xí)網(wǎng)絡(luò)狀態(tài)，提供自進(jìn)化的有線無線網(wǎng)絡(luò)調(diào)優(yōu)功能，體驗(yàn)識別準(zhǔn)確度達(dá)92%。

AI排障：基于海量網(wǎng)絡(luò)設(shè)備數(shù)據(jù)訓(xùn)練結(jié)果，實(shí)現(xiàn)鏈路級、設(shè)備級、網(wǎng)絡(luò)級到應(yīng)用級快速排障，覆蓋90%以上的網(wǎng)絡(luò)。

AI安全：網(wǎng)安聯(lián)動，持續(xù)學(xué)習(xí)用戶網(wǎng)絡(luò)行為，精準(zhǔn)標(biāo)識可疑用戶及可疑行為，實(shí)現(xiàn)動態(tài)安全防護(hù)。

以應(yīng)用為牽引，以AI為抓手，“雙A驅(qū)動”的新華三網(wǎng)絡(luò)和AD-NET 7.0，成為千行百業(yè)加速智能化的一雙“戰(zhàn)靴”，提供澎湃的算力和動能。

越過山丘，從新華三網(wǎng)絡(luò)看見智能中國的少年心氣

數(shù)字化、智能化是中國乃至全球經(jīng)濟(jì)發(fā)展的重要趨勢，也是擺在中國社會面前的一道新題目。征服Scaling Laws的高峰，夯實(shí)智能中國的基礎(chǔ)，是一項(xiàng)龐大的系統(tǒng)工程，眾多ICT相關(guān)企業(yè)都參與其中。

作為數(shù)字化解決方案領(lǐng)導(dǎo)者，新華三躬身入局智能新時(shí)代，激活了一種勇往直前的少年氣。雙A驅(qū)動的網(wǎng)絡(luò)升級，就是這種氣質(zhì)的具象體現(xiàn)。

少年氣，就是天命在我，敢于擔(dān)起時(shí)代責(zé)任。

曾富貴提到，Application + Al Driven，既是趨勢也是使命。我們希望，新華三的網(wǎng)絡(luò)能夠?yàn)楹罄m(xù)算力的普惠化提供堅(jiān)實(shí)的基礎(chǔ)，這既是新華三的技術(shù)趨勢，也是網(wǎng)絡(luò)的使命。

少年氣，就是學(xué)習(xí)能力強(qiáng)，始終沒有停下進(jìn)步的腳步。

曾經(jīng)，新華三網(wǎng)絡(luò)以應(yīng)用（Application）為中心單輪驅(qū)動，在AI時(shí)代他們進(jìn)行了重新的賦能、升級和詮釋。經(jīng)由靈犀大模型的全面融合，新華三網(wǎng)絡(luò)擁有了全面智慧。

少年氣，就是懷抱理想，為護(hù)佑蒼生長出三頭六臂。

以對AI訓(xùn)練最為關(guān)鍵的智算中心為例，AD-NET 7.0引入了多種負(fù)載均衡技術(shù)。針對不同智算場景，提供最適合的負(fù)載均衡技術(shù)組合，讓每條鏈路都充分得到利用，提升智算中心算力規(guī)模和效率。

曾富貴介紹到，負(fù)載均衡之所以如此重要，是充分理解到傳統(tǒng)計(jì)算模型與智算的計(jì)算模型有巨大的差異， 智算中心的流量不同于互聯(lián)網(wǎng)流量，其存在單流流量大、整體流數(shù)量少、大量突發(fā)等特點(diǎn)，唯有通過智能化地負(fù)載均衡技術(shù)，將數(shù)據(jù)流量合理分散到不同鏈路上，才能保證無阻塞、不丟包，使智算中心得以順利完成計(jì)算需求。

此外，新華三通過多元的產(chǎn)品形態(tài)，支撐AI時(shí)代的網(wǎng)絡(luò)迭代。比如面向數(shù)據(jù)中心，提供了專為AI而生的S12500 AI系列產(chǎn)品，為AI模型的訓(xùn)練提供高效算力聯(lián)接支持。面向廣域網(wǎng)，升級400G端口能力、將算力因子納入路由計(jì)算算法，提供服務(wù)化算力專線等，實(shí)現(xiàn)廣域算力傳送的全面優(yōu)化。面向園區(qū)，全光+Wi-Fi 7，為基于AI的各種場景智慧化應(yīng)用提供了最后一跳的高質(zhì)量接入體驗(yàn)。

和新華三一樣，中國AI產(chǎn)業(yè)及千行萬企，也都勇敢踏上了智能時(shí)代的創(chuàng)新旅程?？v然攀爬Scaling Laws充滿艱難，但越過山丘后的智能中國，也格外讓人心馳神往。

對智能攀登者來說，新華三雙A驅(qū)動的網(wǎng)絡(luò)，是承載數(shù)據(jù)要素的路，是加速釋放算力價(jià)值的“風(fēng)火輪”，也是一同走過山高水遠(yuǎn)的同路人。

越過山丘的智能中國，恰似少年游。