全新AmpereOne系列處理器，一款192核的云原生CPU

日前，芯片初創(chuàng)企業(yè)Ampere Computing 對(duì)外發(fā)布了其全新 AmpereOne系列處理器。

據(jù)介紹，該處理器使用臺(tái)積電5nm工藝制造，擁有多達(dá) 192 個(gè)單線(xiàn)程 Ampere 核，內(nèi)核數(shù)量為業(yè)界最高。此外，該芯片還增加了 8 通道的 DDR5 內(nèi)存和128 通道的 PCIe Gen5 IO，搭配網(wǎng)格擁塞管理（Mesh Congestion Management）、細(xì)粒度電源管理（Fine Grained Power Management）和內(nèi)存標(biāo)簽（Memory Tagging）等功能，為高性能、高利用率的多用戶(hù)環(huán)境（如云）提高了性能一致性、可管理性和安全性。

Ampere首席產(chǎn)品官 Jeff Wittich透露：“AmpereOne 能為 Ampere 客戶(hù)的云原生工作負(fù)載提供最高的整體性能、可擴(kuò)展性和密度。此外，得益于低延遲和高吞吐量，Ampere 云原生處理器在 AI 推理方面較其他 CPU 有 2 倍以上的性能優(yōu)勢(shì)?！?/p>

在筆者看來(lái)，AmpereOne能獲得這樣的成就，除了上述配置拉滿(mǎn)的規(guī)格外，還與公司在這一代產(chǎn)品上采用了自研內(nèi)核以及Chiplet設(shè)計(jì)有著莫大的關(guān)系。

01

自研內(nèi)核加持

如下圖所示，外媒nextplatform之前根據(jù)公開(kāi)信息整理了Ampere Computing 的路線(xiàn)圖，我們可以看到，在AmpereOne之前，Ampere Computing公司打造的云原生處理都是直接采用的Arm公司內(nèi)核N1內(nèi)核。但來(lái)到了AmpereOne，公司則直接推出了自研的Ampere內(nèi)核。

“Ampere 的自研云原生核（Custom Cloud Native Core）是打破傳統(tǒng)計(jì)算限制的下一步，目前業(yè)內(nèi)沒(méi)有其他可以與之相匹敵的 CPU 產(chǎn)品，它可助力實(shí)現(xiàn)單機(jī)架性能最大化的云規(guī)模（Cloud Scale）?！盝eff Wittich強(qiáng)調(diào)。

他進(jìn)一步指出，這個(gè)基于自研內(nèi)核打造的產(chǎn)品與之前的產(chǎn)品不會(huì)存在任何的兼容問(wèn)題，因?yàn)锳mpereOne系列處理器和Ampere Altra系列的處理器都是基于ARM ISA的。換而言之，所有能夠在Ampere Altra系列處理器上運(yùn)行的代碼，在全新的AmpereOne系列處理器上運(yùn)行也沒(méi)有問(wèn)題，不需要任何改動(dòng)。

“我們甚至看到有很多的用戶(hù)在相同環(huán)境里同時(shí)運(yùn)行Ampere Altra系列處理器和 AmpereOne系列處理器，因?yàn)橥瑯拥拇a可以在兩個(gè)產(chǎn)品系列上面都能運(yùn)行，在Ampere Altra系列處理器執(zhí)行的工作也能夠在AmpereOne系列處理器上執(zhí)行?！盝eff Wittich接著說(shuō)。

從Ampere Computing 提供的數(shù)據(jù)我們可以看到，自定義的內(nèi)核依舊采用單線(xiàn)程的設(shè)計(jì)，這和公司一直堅(jiān)持的理念是一致的，那就是通過(guò)單線(xiàn)程提供確定性性能和絕對(duì)隔離。Jeff Wittich在回答問(wèn)題的時(shí)候也指出，采用單路的服務(wù)器，復(fù)雜程度降低了，性能卻提升了，性?xún)r(jià)比也更高，因此有越來(lái)越許多的用戶(hù)轉(zhuǎn)向擁抱單路服務(wù)器。

具體到每個(gè)核心的配置上，據(jù)介紹，該芯片每個(gè)核心都有 64 KB 的 L1 數(shù)據(jù)緩存和16 KB的 L1 指令緩存。此外，每個(gè)內(nèi)核都有一個(gè)專(zhuān)用的 2 MB L2 緩存，這個(gè)數(shù)據(jù)是之前 Ampere Altra 和 Ampere Altra Max CPU 中使用的 Neoverse N1 和 N1+ 內(nèi)核上的 L2 緩存的兩倍。按照這個(gè)數(shù)據(jù)，意味著AmpereOne系列處理器上擁有 384 MB 的二級(jí)緩存。

在Ampere Computing的介紹中，并沒(méi)有披露公司第一個(gè)自主研發(fā)內(nèi)核的每時(shí)鐘指令 (IPC) 增益，但強(qiáng)調(diào)了公司在這方面具有功率效率和面積效率方面的改進(jìn)。他們分享說(shuō)到，在云環(huán)境中運(yùn)行虛擬機(jī)（VM），與96核的AMD Genoa或者60核的英特爾Sapphire Rapids對(duì)比，AmpereOne每機(jī)架運(yùn)行的虛擬機(jī)數(shù)量是AMD Genoa的2.9倍，是英特爾Sapphire Rapids的4.3倍。

基于公司卓越的硬件設(shè)計(jì)團(tuán)隊(duì)，再借助對(duì)初創(chuàng)公司OnSpecta的收購(gòu)獲得的技術(shù)和人才，Ampere Computing這款全新產(chǎn)品在AI性能上的表現(xiàn)也很出色。據(jù)介紹，在生成式AI方面，相比AMD Genoa，AmpereOne可每秒多提供2.3倍的幀數(shù)（圖像），在運(yùn)行穩(wěn)定的擴(kuò)散模型中勝出。此外，在運(yùn)行DLRM模型的推薦系統(tǒng)中，通過(guò)AmpereOne響應(yīng)的查詢(xún)數(shù)量是AMD Genoa的每秒查詢(xún)數(shù)量的兩倍多。這足以證明該芯片在AI方面的實(shí)力。

“通過(guò)Ampere云原生處理器進(jìn)行AI推理，可獲得卓越的可擴(kuò)展性和性能，也打破了效率的瓶頸，這正是令云服務(wù)提供商（CSPs）困擾的問(wèn)題，因?yàn)槭褂?a href="http://wenjunhu.com/tags/gpu/" target="_blank">GPU會(huì)帶來(lái)極高的能耗，而且容量擴(kuò)展會(huì)受到制約，可部署的服務(wù)器數(shù)量也會(huì)受到限制。而Ampere的云原生處理器通過(guò)提供卓越的性能和能效，恰好能夠解決這些行業(yè)痛點(diǎn)，尤其是對(duì)于AI推理。”Jeff Wittich說(shuō)。

02

Chiplet設(shè)計(jì)助攻

對(duì)于AmpereOne處理器來(lái)說(shuō)，另一個(gè)值得關(guān)注的亮點(diǎn)在于其采用了Chiplet的設(shè)計(jì)。

眾所周知，在過(guò)去幾年里，因?yàn)槭艿街瞥坦に嚭统杀镜南拗疲笮托酒谶^(guò)去幾年逐漸從傳統(tǒng)的單芯片模式轉(zhuǎn)向了Chiplet模式，如AMD和Intel就是其中的佼佼者，就連一直被看作單芯片設(shè)計(jì)最堅(jiān)定的支持者英偉達(dá)，也傳言將要投身Chiplet設(shè)計(jì)，由此可見(jiàn)這個(gè)并不算新的技術(shù)在提高芯片性能中的重要性。

而在Jeff Wittich看來(lái)，Ampere在新芯片中為大量采用Chiplet設(shè)計(jì)，這帶來(lái)了多方面的優(yōu)勢(shì)，其中第一點(diǎn)就是能夠有更高的靈活度，第二點(diǎn)就是加快了整個(gè)芯片設(shè)計(jì)周期。

除了以上兩點(diǎn)外，在整個(gè)AmpereOne系列處理器中采用Chiplet的設(shè)計(jì)，其實(shí)是為了更好地服務(wù)我們的用戶(hù)。因?yàn)锳mpere在Chiplet設(shè)計(jì)中實(shí)現(xiàn)了特定的拓?fù)浣Y(jié)構(gòu)，以及單一的計(jì)算裸片（里邊分布著全部的內(nèi)核），同時(shí)還有單一大網(wǎng)格結(jié)構(gòu)，這樣就可以助力客戶(hù)提供平衡的高性能，反觀其他設(shè)計(jì)，則要求數(shù)據(jù)從一個(gè)計(jì)算的Chiplet傳輸?shù)搅硪粋€(gè)Chiplet，這樣就會(huì)帶來(lái)延遲的問(wèn)題。

Jeff Wittich舉例說(shuō)道，通過(guò)將System Level Cache放在了計(jì)算芯片（Compute Die）上，公司能夠幫助降低核與系統(tǒng)級(jí)緩存（System Level Cache，SLC）之間的延遲。這也是Ampere把極大的Mesh放在單個(gè)的計(jì)算芯片上的原因——可以幫忙避免造成訪(fǎng)問(wèn)時(shí)間（Access Time）和系統(tǒng)級(jí)緩存之間的不平衡，或者造成某些核無(wú)法訪(fǎng)問(wèn)系統(tǒng)級(jí)緩存。

“所以我們實(shí)現(xiàn)了最佳的Chiplet架構(gòu)之后，產(chǎn)品上市的速度就會(huì)更快。除此之外，我們的芯片還可以提供更高的可擴(kuò)展性，并提供人們所期待的現(xiàn)代云原生產(chǎn)品的最佳性能——也就是我們基于創(chuàng)新所打造出來(lái)的AmpereOne系列處理器?！盝eff Wittich說(shuō)。他進(jìn)一步出，Ampere已經(jīng)在高性能、高效率的云原生處理器中占領(lǐng)了一席之地，并一直引領(lǐng)市場(chǎng)，公司也相信會(huì)持續(xù)擴(kuò)大這方面的領(lǐng)先優(yōu)勢(shì)。

正如該公司創(chuàng)始人Renée James所說(shuō)：“我們的行業(yè)正在迎來(lái)一個(gè)全新的時(shí)刻，我們也應(yīng)當(dāng)擁抱變革。它將決定著行業(yè)未來(lái)的增長(zhǎng)。云技術(shù)開(kāi)創(chuàng)了一個(gè)全新的世界和新的軟件開(kāi)發(fā)方法。微處理器也該做同樣的事情。”

編輯：黃飛

?