混合存儲介質能解決AI能源問題嗎

存儲器的未來是巨大的、多樣的，并且與處理緊密結合。這是最近在舊金山舉行的國際電子設備會議上的一個受邀演講所傳達的信息。斯坦福大學電氣工程師、臺積電前研究副總裁、目前仍是臺積電科學顧問的Philip Wong告訴與會的工程師們，現(xiàn)在是時候以新的方式思考內存和計算架構了。

當今計算問題的需求——尤其是AI——正迅速超過現(xiàn)有存儲系統(tǒng)和架構的能力。今天的軟件假定可以隨機訪問任何給定的內存位。將所有這些數(shù)據(jù)從內存來回移動到處理器會消耗大量的時間和能量。并不是所有的數(shù)據(jù)都是平等的，有些需要經常訪問，有些不需要。Wong認為，這個“內存墻”問題需要關注。

不幸的是，工程師們繼續(xù)關注的問題是，哪種新興技術將取代目前由SRAM、DRAM和Flash構成的傳統(tǒng)存儲器。每一種技術——以及它們潛在的替代品——都有利弊。有些提供更快的數(shù)據(jù)讀??；有些提供更快的寫入；有些更耐用；其它的則有較低的功耗。Wong認為，尋找一種新的存儲技術來統(tǒng)治所有這些技術是錯誤的做法。

“你找不到完美的存儲?！?/p>

相反，工程師應該看看他們的系統(tǒng)需求，然后挑選哪些組件組合將工作得最好。Wong主張從特定類型的軟件用例的需求開始。他說，選擇正確的存儲組合是“一個多維優(yōu)化問題”。

一種存儲不能滿足所有的需求

Wong表示，試圖讓一種存儲器在所有方面都做到最好——快速讀取、快速寫入、可靠性、保持時間、密度、能效等等——這讓工程師們“工作得太辛苦了”，并展示了一張幻燈片，上面是一名電氣工程師像西西弗斯一樣推著齒輪上山?！拔覀冊诓恢酪豁椉夹g將被用于什么的情況下，孤立地看待數(shù)字。這些數(shù)字可能無關緊要?！?/p>

例如，當設計一個需要頻繁地、可預測地讀取內存和不頻繁地寫入內存的系統(tǒng)時，MRAM、PCM和RRAM是不錯的選擇。對于將流式處理大量數(shù)據(jù)的系統(tǒng)，系統(tǒng)需要頻繁的寫入，很少的讀取，并且只需要較短的數(shù)據(jù)生命周期。因此，工程師可以在速度、密度和能耗之間進行權衡，選擇增益單元或FeRAM。

關于啟動核電站為AI數(shù)據(jù)中心提供燃料的討論，很明顯，該行業(yè)已經意識到自己的能源問題。

靈活性可以帶來很大的好處。作為一個例子，Wong指出了他在混合增益單元上的工作，它類似于DRAM，但每個存儲單元使用兩個晶體管，而不是一個晶體管和一個電容器。一個晶體管是硅的，提供快速讀出；另一種存儲數(shù)據(jù)而不需要刷新，并且基于氧化物半導體。當這些混合增益單元與RRAM結合用于AI/機器學習訓練和推理時，與傳統(tǒng)存儲系統(tǒng)相比，它們提供了9倍的能源使用優(yōu)勢。

Wong說，至關重要的是，這些不同的存儲器需要與計算更緊密地結合在一起。他主張將多個芯片集成在一個“系統(tǒng)”中，每個芯片都有自己的局部記憶，將每個芯片視為一個更大系統(tǒng)的一部分。在10月份發(fā)表的一篇論文中，Wong和其合作者提出了一種計算系統(tǒng)，該系統(tǒng)以硅CMOS芯片為基礎，分層使用由STT-MRAM組成的快速訪問致密存儲器，用于非易失性存儲器的金屬氧化物RRAM層，以及高速高密度增益單元層。他們稱之為MOSAIC（MOnolithic, Stacked, and Assembled IC）。為了節(jié)省能源，數(shù)據(jù)可以存儲在需要處理的地方附近，而堆棧中的芯片可以在不需要時關閉。

在提問環(huán)節(jié)，觀眾中的一名工程師表示，他喜歡這個想法，但他指出，所有這些不同的部件都是由不同的公司制造的，不能一起工作。Wong回答說，這就是為什么像IEDM這樣將所有人聚集在一起的會議很重要。關于啟動核電站為AI數(shù)據(jù)中心提供燃料的討論，很明顯，該行業(yè)已經意識到自己的能源問題?！靶枨笫前l(fā)明之母。”他補充說。

原文鏈接：

https://spectrum.ieee.org/memory-ai-energy