高算力AI模組前沿應(yīng)用：基于ARM架構(gòu)的SoC陣列式服務(wù)器

本期我們帶來高算力AI模組前沿應(yīng)用，基于ARM架構(gòu)的SoC陣列式服務(wù)器相關(guān)內(nèi)容。澎湃算力、創(chuàng)新架構(gòu)、異構(gòu)計(jì)算，有望成為未來信息化社會(huì)的智能算力底座。

▌性能優(yōu)勢(shì)+AI驅(qū)動(dòng)，ARM架構(gòu)服務(wù)器加速滲透

一直以來，基于ARM架構(gòu)的各類處理器芯片，以其低功耗、高效能、高可靠性、成本優(yōu)勢(shì)等綜合特性，廣泛應(yīng)用于手機(jī)、平板電腦、物聯(lián)網(wǎng)終端設(shè)備等各類通信及電子產(chǎn)品領(lǐng)域，極大推動(dòng)了人類社會(huì)的信息化和智能化進(jìn)程。

而在服務(wù)器領(lǐng)域，之前一直是基于X86架構(gòu)的產(chǎn)品占據(jù)主導(dǎo)，近年來，隨著下游對(duì)于異構(gòu)算力、智能算力需求的不斷增長，以及類似于云游戲等安卓原生態(tài)應(yīng)用的大規(guī)模興起，越來越多的廠商開始將ARM架構(gòu)應(yīng)用于服務(wù)器領(lǐng)域，并推出了一系列相關(guān)產(chǎn)品。

去年以來，在智能算力需求的不斷增長，以及生成式AI對(duì)于異構(gòu)算力的龐大需求，ARM架構(gòu)服務(wù)器在云游戲、數(shù)字人等新興應(yīng)用市場展現(xiàn)出獨(dú)特優(yōu)勢(shì)，而對(duì)于傳統(tǒng)服務(wù)器領(lǐng)域的滲透，也有加速的跡象。

ARM架構(gòu)服務(wù)器的特點(diǎn)：

一、低功耗：ARM架構(gòu)具有低功耗優(yōu)勢(shì)，其采用的處理器芯片，與傳統(tǒng)X86架構(gòu)芯片相比功耗更低，且具有更高的能效比，在IDC架構(gòu)中集成ARM服務(wù)器，可以降低電費(fèi)支出、節(jié)約能源消耗。

二、高效能：ARM架構(gòu)具有更好的多核線程驅(qū)動(dòng)性能，能夠?qū)崿F(xiàn)更好的并行處理和任務(wù)處理能力。

三、成本低：ARM架構(gòu)處理器芯片，較X86架構(gòu)芯片的制造成本更低，ARM架構(gòu)服務(wù)器價(jià)格具有極高性價(jià)比，且開發(fā)成本更低。

四、高可靠性：具有更好的故障容忍性，可以提供更高的可靠性和穩(wěn)定性。

據(jù)了解，亞馬遜、浪潮、騰訊、百度、阿里等頭部企業(yè)，都推出了基于ARM架構(gòu)的服務(wù)器產(chǎn)品，因其低功耗、高性價(jià)比、高效能等優(yōu)勢(shì)、在云計(jì)算、物聯(lián)網(wǎng)、智能交通、醫(yī)療健康等領(lǐng)域有廣泛應(yīng)用。

據(jù)TrendForce集邦咨詢研究顯示，近年企業(yè)對(duì)于人工智能、高效能運(yùn)算等數(shù)字轉(zhuǎn)型需求加速，帶動(dòng)云端采用比例增加，全球主要云端服務(wù)業(yè)者為提升服務(wù)彈性，陸續(xù)導(dǎo)入ARM架構(gòu)服務(wù)器，預(yù)期至2025年ARM架構(gòu)在數(shù)據(jù)中心服務(wù)器滲透率將達(dá)22%。

▌基于ARM架構(gòu)的SoC陣列式服務(wù)器，智能算力領(lǐng)域的新興力量

以ARM架構(gòu)為基礎(chǔ)，創(chuàng)新性的采用SoC芯片作為算力來源，以靈活的陣列式架構(gòu)打造的SoC陣列式服務(wù)器，也逐步進(jìn)入企業(yè)級(jí)IDC以及各類邊緣計(jì)算場景。這是一種專門針對(duì)企業(yè)級(jí)數(shù)據(jù)中心和邊緣場景面臨的空間制約和節(jié)能要求而優(yōu)化設(shè)計(jì)的高密服務(wù)器，以高能效比、高性價(jià)比、高密度為設(shè)計(jì)原則，在一個(gè)機(jī)架式機(jī)箱內(nèi)集成多達(dá)40路、60路、80路等針對(duì)服務(wù)器場景專門定制的高算力模組或者算力板，可為各類行業(yè)客戶構(gòu)建適低成本、高密度、高并發(fā)、高性能的算力集群。

服務(wù)器內(nèi)布置的每個(gè)算力模組或者算力板都是一個(gè)可以獨(dú)立運(yùn)行的最小系統(tǒng)，包含CPU、GPU、NPU、存儲(chǔ)、網(wǎng)絡(luò)等。相關(guān)SoC陣列式服務(wù)器可根據(jù)客戶需求、定制多種算力節(jié)點(diǎn)、其內(nèi)部采用模塊化及熱插拔設(shè)計(jì)，可以實(shí)現(xiàn)不停機(jī)維護(hù)。在通信方面配置了10G/25G交換節(jié)點(diǎn)，支持SDN自動(dòng)化網(wǎng)絡(luò)部署，并且內(nèi)置了多維智能管理節(jié)點(diǎn)，可以進(jìn)行全方位遠(yuǎn)程運(yùn)維工作，有效減低運(yùn)維成本。

以云游戲場景為例，隨著《原神》、《崩壞》等爆款游戲的全球風(fēng)靡，除了游戲運(yùn)行向移動(dòng)端轉(zhuǎn)移外，也極大帶動(dòng)了云游戲市場的迅速擴(kuò)展。而傳統(tǒng)的通用型服務(wù)器，在支撐云游戲運(yùn)行上，存在兼容性差、成本高昂等問題，而ARM架構(gòu)的陣列式服務(wù)器，基于對(duì)安卓生態(tài)天然的兼容性，避免了服務(wù)器端到應(yīng)用端的軟件架構(gòu)轉(zhuǎn)換以及轉(zhuǎn)換過程中的性能損耗，近年來在云游戲場景，幾乎占據(jù)主導(dǎo)地位，目前正逐步向數(shù)字人、工業(yè)視覺、邊緣AI、云XR渲染等領(lǐng)域拓展。

▌美格高算力AI模組，為SoC陣列式服務(wù)器提供澎湃算力

美格智能作為行業(yè)內(nèi)最早推出高算力AI模組產(chǎn)品的企業(yè)，也不斷推動(dòng)AI模組產(chǎn)品在服務(wù)器、機(jī)器人、AI零售、無人機(jī)、云游戲、數(shù)字人、云桌面、云教育、工業(yè)AI檢測、云XR等各領(lǐng)域的深度應(yīng)用，從而真正讓產(chǎn)品的AI能力能夠助力行業(yè)。

美格智能助力客戶定制推出SoC陣列服務(wù)器產(chǎn)品，集成了CPU+GPU+NPU+TPU復(fù)合異構(gòu)算力集群，可以構(gòu)建大規(guī)模智能算力矩陣；每個(gè)算力節(jié)點(diǎn)采用刀片+陣列式設(shè)計(jì)，支持熱插拔，輕松維護(hù)；整機(jī)80GB帶寬，每個(gè)板卡滿負(fù)載1GB帶寬；內(nèi)置BMC多功能綜合監(jiān)控可視化管理系統(tǒng)，可輕松遠(yuǎn)程管理。

▲內(nèi)置美格智能高算力AI模組SNM970的陣列式服務(wù)器終端

該SoC陣列式服務(wù)器，采用美格智能為其專門定制的高算力AI模組SNM970，基于高通 QCS8550（8 Gen2）研發(fā)，支持16GB LPDDR5X + 256GB UFS 4.0內(nèi)存，服務(wù)器中最高可配置80路高算力AI模組，單顆模組內(nèi)部支持Android虛擬化，可虛擬出多路計(jì)算單元（如80路模組服務(wù)器，單顆模組根據(jù)下游算力需求，可以虛擬出多路虛擬機(jī)，比如虛擬出4路的情況下則可同時(shí)支撐320臺(tái)諸如手機(jī)等終端同時(shí)運(yùn)行云游戲），更好的進(jìn)行算力配置，充分發(fā)揮了高算力、高性價(jià)比、高能效比的優(yōu)勢(shì)，為實(shí)時(shí)互動(dòng)云計(jì)算、邊緣AI云計(jì)算、云渲染等業(yè)務(wù)場景提供最佳算力底座。

隨著各行各業(yè)對(duì)于算力需求的爆發(fā)式增長，以及新興應(yīng)用場景對(duì)于創(chuàng)新型服務(wù)器的迫切需求，美格智能也將加大力度推動(dòng)高算力AI模組在服務(wù)器領(lǐng)域的深度應(yīng)用。

目前，美格智能團(tuán)隊(duì)已經(jīng)與行業(yè)領(lǐng)先的SoC陣列式服務(wù)器客戶密切協(xié)作，陸續(xù)打造出了針對(duì)SoC陣列式服務(wù)器場景，基于高通驍龍865/SM8475/QCS8550三代SoC芯片的深度定制的算力模組，同時(shí)做到封裝兼容，更好助力客戶產(chǎn)品的算力提升和產(chǎn)品迭代，為相關(guān)產(chǎn)品后續(xù)在AIGC領(lǐng)域的應(yīng)用推廣，以及向傳統(tǒng)服務(wù)器市場的滲透，提供更好助力。

中國電信終端產(chǎn)業(yè)協(xié)會(huì)于2023年4月26日發(fā)布了《基于ARM架構(gòu)的SoC陣列服務(wù)器技術(shù)規(guī)范》，以團(tuán)體標(biāo)準(zhǔn)的形式明確了ARM架構(gòu)SoC陣列式服務(wù)器的通用技術(shù)要求，國內(nèi)相關(guān)廠商也在為下一代服務(wù)器的產(chǎn)品標(biāo)準(zhǔn)在開始探討，相關(guān)產(chǎn)品將逐步進(jìn)入發(fā)展快車道。