解讀基于Arm Neoverse V2平臺的Google Axion處理器

作者：Arm 基礎(chǔ)設(shè)施事業(yè)部服務(wù)器生態(tài)系統(tǒng)開發(fā)總監(jiān) Bhumik Patel

云計算需求在人工智能 (AI) 時代的爆發(fā)式增長，推動了開發(fā)者尋求性能優(yōu)化且高能效的解決方案，以降低總體擁有成本 (TCO)。Arm 致力于通過 Arm Neoverse 平臺滿足不斷變化的需求，Neoverse 也正因此迅速成為開發(fā)者作為構(gòu)建未來的云基礎(chǔ)設(shè)施的首選計算平臺。

Google Cloud 攜手 Arm，設(shè)計了針對實(shí)際性能進(jìn)行調(diào)優(yōu)的定制芯片。作為其首款基于 Neoverse 平臺的定制 CPU，Google Axion 的性能優(yōu)于傳統(tǒng)處理器，并具有更出色的性能、效率與擴(kuò)展性。雙方的合作為開發(fā)者帶來了更優(yōu)選擇，并共同推動了云計算創(chuàng)新。

在 Google Cloud 內(nèi)外均備受青睞

Google Axion 處理器基于 Arm Neoverse V2 平臺構(gòu)建，可為各種工作負(fù)載提供卓越性能和能效，包括云原生應(yīng)用、高要求的 AI 模型以及大量 Google Cloud 服務(wù)，例如 Compute Engine、Google Kubernetes Engine (GKE)、Batch、Dataproc 、Dataflow，以及目前處于預(yù)覽階段的 AlloyDB 和 Cloud SQL。

從內(nèi)容流媒體到企業(yè)級數(shù)據(jù)服務(wù)，各行業(yè)的企業(yè)都在使用基于 Arm 架構(gòu)的 Axion 處理器，并在計算效率、可擴(kuò)展性和 TCO 方面實(shí)現(xiàn)了顯著改進(jìn)。ClickHouse、Dailymotion、Databricks、Elastic、loveholidays、MongoDB、Palo Alto Networks、Paramount Global、Redis Labs 和 Starburst 等 Google Cloud 的客戶都已取得了變革性的成果。例如，Spotify 通過使用基于 Axion 的 C4A 虛擬機(jī)，使其性能提高了約 250%。

突破性能局限

Google Axion 處理器在 AI 推理工作負(fù)載和通用計算方面均有出色表現(xiàn)。針對 AI 推理，Axion 的專用優(yōu)化可顯著提高性能，使 AI 工作負(fù)載能夠更快、更高效地運(yùn)行。自然語言處理、計算機(jī)視覺和推薦系統(tǒng)等應(yīng)用均可得益于此。AI 開發(fā)者可以利用到 Arm Kleidi 的優(yōu)勢，這是一組輕量級、高性能的開源庫。Kleidi 通過與熱門框架集成，使得開發(fā)者無需額外的開發(fā)工作，即可顯著提升在 Arm 平臺上運(yùn)行的 AI 應(yīng)用的性能。

Axion 處理器利用 Arm 平臺的先進(jìn)架構(gòu)功能，使開發(fā)者能夠在不犧牲速度或性能的情況下規(guī)?；渴饛?fù)雜的 AI 模型。

例如，與基于 x86 架構(gòu)的方案相比，針對 Axion 的 MLPerf DLRMv2 基準(zhǔn)測試的全精度性能提高了三倍，展示了其在推薦系統(tǒng)中的卓越能力。許多用戶更青睞 FP32 精度，以避免因采用 INT8 等低精度格式而導(dǎo)致的準(zhǔn)確性問題，從而減少因這類問題引起的銷售損失、客戶滿意度降低以及品牌聲譽(yù)受損。

另一個示例則是，AI 聊天機(jī)器人有時會提供過時或不準(zhǔn)確的答案，檢索增強(qiáng)生成 (RAG) 方法提供了功能強(qiáng)大的解決方案來提高其準(zhǔn)確性和相關(guān)性。測試顯示，與 x86 架構(gòu)方案相比，當(dāng) RAG 應(yīng)用在 Axion 處理器上運(yùn)行時，其性能可最高提升 2.5 倍。（有關(guān)該示例的詳細(xì)內(nèi)容，敬請期待后續(xù)文章！）

從下圖可以看到，Axion 處理器使通用工作負(fù)載實(shí)現(xiàn)了顯著的性能提升。通過優(yōu)化高吞吐量和低延遲，Axion 處理器實(shí)現(xiàn)了更快的應(yīng)用響應(yīng)時間、增強(qiáng)用戶體驗，并提高資源利用率，是 Web 服務(wù)器、數(shù)據(jù)庫、分析和容器化微服務(wù)的理想選擇。

與此同時，得益于基于 Axion 的 C4A 虛擬機(jī)將原生 Neoverse 核心的性能與每個 vCPU 的充足內(nèi)存帶寬相結(jié)合，其特別適用于高性能計算 (HPC) 工作負(fù)載。HPC 開發(fā)者可以充分利用 Neoverse 平臺上所提供的開源及商用科學(xué)計算應(yīng)用和框架的豐富生態(tài)系統(tǒng)，包括 Arm Compiler for Linux 和 Arm Performance Libraries。Arm 在行業(yè)標(biāo)準(zhǔn)的碰撞和沖擊仿真應(yīng)用 Altair OpenRadioss 上的測試顯示，在基于 Axion 的 C4A 虛擬機(jī)上運(yùn)行具有顯著的性能優(yōu)勢。

加速云遷移進(jìn)程

為了支持和加速開發(fā)者在云端采用 Arm 架構(gòu)，Arm 近期發(fā)布了全面的云遷移資源。其核心是新的 Cloud Migration Resource Hub（云遷移資源中心），其中涵蓋了超過 100 個詳細(xì)的 Learning Path 教程，旨在指導(dǎo)開發(fā)者如何跨多個平臺無縫遷移常見工作負(fù)載。與此同時，支持 Axion 的獨(dú)立軟件供應(yīng)商 (ISV) 也在不斷增加，包括 Applause、Couchbase、Honeycomb、IBM Instana Observability、Verve 和 Viant 等知名企業(yè)。Arm Software Ecosystem Dashboard 可以讓開發(fā)者更易了解適用于 Neoverse 平臺的主要開源和商用軟件的可用版本和推薦版本。并在其軟件開發(fā)的伊始，便能確保軟件的兼容性和平穩(wěn)運(yùn)行。

這些資源使有興趣采用或遷移到基于 Axion 的 C4A 虛擬機(jī)的開發(fā)者能夠獲得 Arm 的社區(qū)支持，例如專為遷移而設(shè)的 GitHub 代碼倉庫等。Arm 的云遷移專家還可提供直接的工程協(xié)助和個性化支持，尤其是對于企業(yè)級遷移，以便助力遷移項目順利且成功的過渡到基于 Axion 的解決方案。

寫在最后

Google Cloud 推出 Axion 處理器意在為客戶提供更多樣化、更高性能的計算選擇。得益于 Arm 架構(gòu)和 Google 的定制芯片設(shè)計，Axion 可為從高要求的 AI 推理和 HPC 應(yīng)用到通用和云原生服務(wù)等各種工作負(fù)載提供卓越性能和效率，通過與 Arm 的云遷移資源和強(qiáng)大的軟件生態(tài)系統(tǒng)相結(jié)合，全方位賦能開發(fā)者在 Arm 平臺上構(gòu)建計算的未來！