0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

CXL.mem是什么?

安芯教育科技 ? 來源:安芯教育科技 ? 作者:安芯教育科技 ? 2022-11-02 09:45 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

3.3 CXL.mem

3.3.1 介紹

CXL內(nèi)存協(xié)議被稱作CXL.mem。CXL.mem定義了CPU和內(nèi)存之間的傳輸接口。該協(xié)議可用于多個不同的內(nèi)存連接選項,包括當(dāng)內(nèi)存控制器位于主機(jī)CPU中時,或當(dāng)內(nèi)存控制器位于加速器設(shè)備內(nèi)時,或當(dāng)內(nèi)存控制器移動到內(nèi)存緩沖芯片時。

CPU中的一致性引擎使用CXL.mem請求和響應(yīng)與內(nèi)存接口。在此配置中,CPU一致性引擎被視為CXL.mem主設(shè)備(Master),內(nèi)存設(shè)備被視為CXL.mem從設(shè)備(Subordinate)。主設(shè)備負(fù)責(zé)向從設(shè)備發(fā)起讀寫請求,從設(shè)備負(fù)責(zé)響應(yīng)主設(shè)備的讀寫請求。

當(dāng)從設(shè)備是一個加速器時,CXL.mem協(xié)議認(rèn)為設(shè)備內(nèi)部也有一個一致性引擎(Device Coherency Engine,簡稱DCOH)。

從Master到Subordinate的CXL.mem事務(wù)被稱作M2S;反過來,從Subordinate到Master的事務(wù)稱作S2M。

M2S事務(wù)只有兩種消息類型:

無數(shù)據(jù)的請求(Req)

有數(shù)據(jù)的請求(RwD)

對應(yīng)的,S2M事務(wù)也只有兩種類型:

無數(shù)據(jù)的響應(yīng)(NDR)

有數(shù)據(jù)的響應(yīng)(DRS)

3.3.2 內(nèi)存QoS遙測

內(nèi)存QoS遙測是內(nèi)存設(shè)備的一種機(jī)制,用于在CXL.mem請求的每個響應(yīng)消息中指示其當(dāng)前負(fù)載級別(DevLoad)。這使主機(jī)能夠根據(jù)負(fù)載級別來衡量對部分設(shè)備、單個設(shè)備或設(shè)備組的CXL.mem請求的速率,從而優(yōu)化這些內(nèi)存設(shè)備的性能,同時限制結(jié)構(gòu)擁塞。

插播一句,QoS是Quality of Service的縮寫,翻譯過來就是服務(wù)質(zhì)量。對于內(nèi)存系統(tǒng)而言,帶寬和延時受到一定的限制,如何向其它的模塊提供服務(wù)是一個系統(tǒng)問題。SoC有的模塊可能帶寬需求不大,但是對于延時要求很高,比如顯示模塊。而有的模塊對于帶寬要求很大,但是延時可以略高,比如數(shù)據(jù)處理器。如果對SoC所有模塊的內(nèi)存需求一視同仁,可能影響整個系統(tǒng)的運(yùn)行。利用QoS機(jī)制,可以對每個模塊的內(nèi)存訪問排列順序,達(dá)到內(nèi)存系統(tǒng)的最佳利用。

內(nèi)存QoS遙測內(nèi)容比較繞,我也沒看太懂,暫時略過,不影響CXL的學(xué)習(xí)。

3.3.3 M2S請求(Req)

Req消息是無數(shù)據(jù)請求,消息字段定義如下:

186a0bf4-5a4d-11ed-a3b6-dac502259ad0.png

各字段的編碼和詳細(xì)解釋就不貼圖了,如果有需要,大家可以去協(xié)議里面查找。

3.3.4 M2S帶數(shù)據(jù)請求(RwD)

RwD是有數(shù)據(jù)請求,消息字段定義如下:

18ac9eb0-5a4d-11ed-a3b6-dac502259ad0.png

3.3.5 S2M無數(shù)據(jù)響應(yīng)(NDR)

NDR消息類包含從Subordinate到Master的完成和指示,不帶數(shù)據(jù)。

1950206c-5a4d-11ed-a3b6-dac502259ad0.png

3.3.6 S2M數(shù)據(jù)響應(yīng)(DRS)

DRS消息類包含從Subordinate到Master讀取的內(nèi)存數(shù)據(jù)。

19752dbc-5a4d-11ed-a3b6-dac502259ad0.png

3.3.7 轉(zhuǎn)發(fā)和排序規(guī)則

在多跳互連網(wǎng)絡(luò)中,Req和RwD消息的每一跳都需要信用值

如果請求和MemRdFwd或MemWrFwd指向相同的緩存行地址,則M2S Req通道中的CXL.mem請求不能發(fā)送MemRdFwd或MemWrFwd

NDR和DRS消息需要在源位置預(yù)先分配

在CXL.mem上,只有在寫入完成后,寫入數(shù)據(jù)才能保證對以后的訪問可見

CXL.mem請求需要在設(shè)備上進(jìn)行轉(zhuǎn)發(fā),而不依賴于任何設(shè)備啟動請求

緩存行的M2S和S2M數(shù)據(jù)傳輸不能與其它緩存行交織

3.4 事務(wù)順序總結(jié)(Transaction Ordering Summary)

沒什么重要內(nèi)容,暫時略過。

3.5 到設(shè)備掛載內(nèi)存(DAM)的事務(wù)流

3.5.1 Type 1和Type 2的事務(wù)流

3.5.1.1 注釋和假設(shè)

下面的示意圖做了如下假設(shè):

設(shè)備內(nèi)部有一個設(shè)備一致性引擎,稱作DCOH

DCOH里包含一個監(jiān)聽過濾器,是用來追蹤監(jiān)聽設(shè)備的緩存

DCOH有一個偏置表查找機(jī)制,具體實現(xiàn)依賴于設(shè)備

設(shè)備特定的流程,如下圖紅色箭頭所示,不需要完全遵守下圖,具體實現(xiàn)取決于設(shè)備

197ecd04-5a4d-11ed-a3b6-dac502259ad0.png

3.5.1.2 主機(jī)請求

主機(jī)發(fā)起的可緩存讀(Cacheable read)示例如下圖。主機(jī)請求獲得一個緩存行的非獨(dú)占副本。主機(jī)發(fā)送MemRd,SnpData給設(shè)備,設(shè)備DCOH接收到SnpData,在偵聽過濾器中查找此緩存行。如果SF Hit(圖中綠色字體),設(shè)備將該緩存行狀態(tài)從Exclusive變?yōu)镾hared(圖中綠色字體)。隨后將數(shù)據(jù)和響應(yīng)發(fā)給DCOH,DCOH收到之后,回復(fù)Cmp-S給主機(jī),然后將數(shù)據(jù)通過MemData發(fā)送給主機(jī)。

1988022a-5a4d-11ed-a3b6-dac502259ad0.png

CXL協(xié)議中還給了好幾個示例,就不一一貼上了。

3.5.1.3 設(shè)備請求(主機(jī)偏向和設(shè)備偏向)

到設(shè)備掛載內(nèi)存的設(shè)備讀取示例如下圖,包含兩個流程分支。第一個,設(shè)備向設(shè)備掛載的內(nèi)存發(fā)起讀請求,由于配置成主機(jī)偏向(圖中的紫色字體),設(shè)備要向主機(jī)發(fā)送一致性請求。主機(jī)在解析完一致性后,在CXL.mem上發(fā)送MemRdFwd以完成事務(wù),此時設(shè)備可以在內(nèi)部完成讀取。第二個,配置成設(shè)備偏向,設(shè)備讀取可以在設(shè)備內(nèi)完成,不需要向主機(jī)發(fā)送請求。

19958670-5a4d-11ed-a3b6-dac502259ad0.png

同樣的,后面還有幾個流程示例,先不貼了。

3.5.2 Type2和Type 3的內(nèi)存流

為了支持節(jié)省延遲,CXL.mem包含一個推測性內(nèi)存讀取命令(MemSpecRd),用于在主代理解決一致性之前啟動內(nèi)存訪問。解決完一致性問題后,主機(jī)可能會發(fā)出請求讀取(MemRd,MemRdOwn),設(shè)備應(yīng)與較早的MemSpecRd合并以節(jié)省延遲,見下圖。為了避免性能影響,建議將MemSpecRd命令視為低優(yōu)先級,以避免其它正常請求訪問增加延遲。

19c0aa76-5a4d-11ed-a3b6-dac502259ad0.png

3.6 Type 3設(shè)備的事務(wù)流

Type 3設(shè)備是內(nèi)存擴(kuò)展器,它既不緩存主機(jī)內(nèi)存,也不需要主機(jī)主動管理設(shè)備緩存。因此,Type 3設(shè)備沒有DCOH代理。主機(jī)將這些設(shè)備視為分解的內(nèi)存控制器。到Type 3設(shè)備的事務(wù)流簡化為兩個類,即讀和寫。

M2S讀取Type 2設(shè)備與Type 3設(shè)備的關(guān)鍵區(qū)別在于,Type 3設(shè)備沒有S2M NDR響應(yīng)消息。與Type 2設(shè)備一樣,向Type 3設(shè)備的寫入完成也需要S2M NDR Cmp消息

19cdf474-5a4d-11ed-a3b6-dac502259ad0.png

19f6e924-5a4d-11ed-a3b6-dac502259ad0.png

本章總結(jié):這一章的內(nèi)容極多,很多地方看的也是暈頭轉(zhuǎn)向,先搭個架子在這,以后有需要或者有時間再來仔細(xì)研究。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11076

    瀏覽量

    216994
  • 內(nèi)存控制器
    +關(guān)注

    關(guān)注

    0

    文章

    40

    瀏覽量

    9185

原文標(biāo)題:技術(shù)分享 | CXL學(xué)習(xí)(五)

文章出處:【微信號:Ithingedu,微信公眾號:安芯教育科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    內(nèi)存擴(kuò)展CXL加速發(fā)展,繁榮AI存儲

    .cache和CXL.memory三個子協(xié)議,分別處理I/O、緩存一致性和內(nèi)存訪問。PCIe物理層為CXL高效的數(shù)據(jù)傳輸提供技術(shù)底座,CXL.cache和CXL.mem
    的頭像 發(fā)表于 08-18 00:02 ?5628次閱讀
    內(nèi)存擴(kuò)展<b class='flag-5'>CXL</b>加速發(fā)展,繁榮AI存儲

    第二代AMD Versal Premium系列SoC滿足各種CXL應(yīng)用需求

    第二代 AMD Versal Premium 系列自適應(yīng) SoC 是一款多功能且可配置的平臺,提供全面的 CXL 3.1 子系統(tǒng)。該系列自適應(yīng) SoC 旨在滿足從簡單到復(fù)雜的各種 CXL 應(yīng)用需求
    的頭像 發(fā)表于 04-24 14:52 ?493次閱讀
    第二代AMD Versal Premium系列SoC滿足各種<b class='flag-5'>CXL</b>應(yīng)用需求

    新思科技解讀CXL 3.1標(biāo)準(zhǔn)

    Compute Express Link(CXL)于2019年首次發(fā)布,是處理器與AI加速器、內(nèi)存緩沖區(qū)、智能網(wǎng)絡(luò)接口卡、持久性存儲器和固態(tài)驅(qū)動器等設(shè)備之間的開放式行業(yè)標(biāo)準(zhǔn)互連技術(shù)。作為一種行業(yè)標(biāo)準(zhǔn)
    的頭像 發(fā)表于 03-11 15:07 ?507次閱讀
    新思科技解讀<b class='flag-5'>CXL</b> 3.1標(biāo)準(zhǔn)

    SMART Modular CXL AIC內(nèi)存擴(kuò)充卡獲CXL聯(lián)盟認(rèn)證

    近日,全球領(lǐng)先的整合型內(nèi)存與儲存解決方案提供商SMART Modular世邁科技(隸屬于Penguin Solutions?集團(tuán))宣布,其4-DIMM和8-DIMM CXL?(Compute
    的頭像 發(fā)表于 02-14 10:15 ?444次閱讀

    SMART Modular世邁科技CXL內(nèi)存擴(kuò)充卡獲CXL聯(lián)盟認(rèn)證

    SMART Modular世邁科技近日宣布其4-DIMM和8-DIMM CXL?(Compute Express Link?)內(nèi)存擴(kuò)充卡已成功通過CXL 2.0認(rèn)證測試,并正式被列入CXL聯(lián)盟的整合
    的頭像 發(fā)表于 02-05 15:59 ?485次閱讀

    瀾起科技推出PCIe 6.x/CXL 3.x Retimer芯片

    瀾起科技今日宣布推出其最新研發(fā)的PCIe 6.x/CXL 3.x Retimer芯片,并已向客戶成功送樣,旨在為人工智能和云計算等應(yīng)用場景提供性能更卓越的PCIe互連解決方案。這是瀾起科技繼成功推出
    的頭像 發(fā)表于 01-22 10:51 ?566次閱讀

    瀾起科技CXL?內(nèi)存擴(kuò)展控制器芯片通過CXL 2.0合規(guī)性測試

    近日,瀾起科技在CXL(Compute Express Link)技術(shù)領(lǐng)域取得了又一重要里程碑。其自主研發(fā)的CXL?內(nèi)存擴(kuò)展控制器(MXC)芯片成功通過了CXL 2.0合規(guī)性測試,并被列入CX
    的頭像 發(fā)表于 01-21 14:44 ?949次閱讀

    瀾起科技MXC芯片列入首批CXL 2.0合規(guī)供應(yīng)商清單

    近日,瀾起科技研發(fā)的CXL內(nèi)存擴(kuò)展控制器(MXC)芯片成功通過了CXL 2.0合規(guī)性測試,列入CXL聯(lián)盟公布的首批CXL 2.0合規(guī)供應(yīng)商清單。這是繼2023年率先列入
    的頭像 發(fā)表于 01-21 10:32 ?525次閱讀
    瀾起科技MXC芯片列入首批<b class='flag-5'>CXL</b> 2.0合規(guī)供應(yīng)商清單

    韓國無晶圓廠初創(chuàng)公司Panmnesia展示第一個支持CXL的AI集群

    在2024?OCP全球峰會上,開發(fā)CXL交換機(jī)SoC和CXL IP的韓國無晶圓廠初創(chuàng)公司Panmnesia展示了第一個支持CXL的AI集群,該集群采用CXL 3.1交換機(jī)。 OCP全球
    的頭像 發(fā)表于 11-28 11:04 ?876次閱讀

    研華科技推出SQRAM CXL 2.0 Type 3內(nèi)存模塊SQR-CX5N

    10月15日最新消息,研華科技(Advantech)于昨日正式揭曉了其最新研發(fā)的SQRAM CXL 2.0 Type 3 內(nèi)存模塊——SQR-CX5N。該模塊遵循EDSFF E3.S 2T標(biāo)準(zhǔn),擁有
    的頭像 發(fā)表于 10-15 15:28 ?898次閱讀

    如何利用CXL協(xié)議實現(xiàn)高效能的計算架構(gòu)

    Using Compute Express Link》(文末附鏈接)。在這篇文章中,Debendra Das Sharma詳盡地闡述了如何利用CXL(Compute Express Link)技術(shù)
    的頭像 發(fā)表于 09-03 09:14 ?1378次閱讀
    如何利用<b class='flag-5'>CXL</b>協(xié)議實現(xiàn)高效能的計算架構(gòu)

    打造異構(gòu)計算新標(biāo)桿!國數(shù)集聯(lián)發(fā)布首款CXL混合資源池參考設(shè)計

    今日,領(lǐng)先的高速互聯(lián)芯片及方案設(shè)計廠商國數(shù)集聯(lián)發(fā)布業(yè)界首創(chuàng)的CXL混合資源池(Compute Express Link Hybrid Resource Pool ,以下簡稱“CHRP”)參考設(shè)計。該
    的頭像 發(fā)表于 08-06 14:19 ?669次閱讀
    打造異構(gòu)計算新標(biāo)桿!國數(shù)集聯(lián)發(fā)布首款<b class='flag-5'>CXL</b>混合資源池參考設(shè)計

    新思科技CXL 3.1驗證解決方案

    機(jī)器學(xué)習(xí)和人工智能日益普及,虛擬機(jī)和虛擬組件上的工作負(fù)載也隨之不斷增加。為此,行業(yè)急需能夠確定工作負(fù)載優(yōu)先次序并保障性能的機(jī)制。Compute Express Link(CXL)是處理器與加速器
    的頭像 發(fā)表于 08-02 14:43 ?1156次閱讀
    新思科技<b class='flag-5'>CXL</b> 3.1驗證解決方案

    國數(shù)集聯(lián)發(fā)布業(yè)界首款CXL多級網(wǎng)絡(luò)交換機(jī),IB時代的顛覆者

    今日,領(lǐng)先的高速互聯(lián)芯片及方案設(shè)計廠商國數(shù)集聯(lián)基于自主研發(fā)的CXL ( Compute Express Link )協(xié)議 IP,成功研發(fā)了業(yè)界第一款CXL多級網(wǎng)絡(luò)交換機(jī)(CXL
    的頭像 發(fā)表于 07-31 16:35 ?1457次閱讀
    國數(shù)集聯(lián)發(fā)布業(yè)界首款<b class='flag-5'>CXL</b>多級網(wǎng)絡(luò)交換機(jī),IB時代的顛覆者

    國數(shù)集聯(lián)研發(fā)出首款CXL多級網(wǎng)絡(luò)交換機(jī)

    今日,全球頂級高速互聯(lián)芯片及解決方案設(shè)計專家——國數(shù)集聯(lián)公司,憑借自主研發(fā)的CXL(Compute Express Link)協(xié)議IP,引領(lǐng)行業(yè)前沿,成功研發(fā)出全球首款CXL多級網(wǎng)絡(luò)交換機(jī)(又名CXL Multi-level N
    的頭像 發(fā)表于 07-31 13:04 ?1199次閱讀

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學(xué)習(xí)
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品