三星推出集成AI處理器的HBM2內存

三星宣布新的HBM2內存集成了AI處理器，最高可提供1.2 TFLOPS嵌入式計算能力，使內存芯片本身可以執(zhí)行CPU、GPU、ASIC或FPGA的操作。

據報道，新的HBM-PIM （processing-in-memory） 芯片在每個內存模塊內注入了一個AI處理器，從而將處理操作轉移到HBM本身。這種新型內存的設計是為了減輕內存與一般處理器之間轉移數據的負擔，因為實際應用中，這種負擔無論在功耗還是時間上，往往比真正的計算操作消耗更大。

三星表示，將這項技術應用到稱為Aquabolt的HBM2內存時，可以提供兩倍的性能，同時將功耗降低70%以上。三星還聲稱，使用這種新內存不需要任何軟件或硬件變化（包括內存控制器），從而可以被市場更快地采用。目前該方案可以在進行商業(yè)驗證，預計所有驗證將在今年上半年完成，這也標志著離實際應用已經不遠了。

在前一段時間舉行的國際固態(tài)電路虛擬會議（ISSCC）期間，三星展示了其新內存架構的更多細節(jié)。每個存儲器組都有一個嵌入式可編程計算單元（PCU），運行頻率為300MHz。該單元通過來自主機的常規(guī)存儲器命令進行控制，以實現in-DRAM處理，它可以執(zhí)行各種FP16計算。存儲器也可以在標準模式下工作，也就是說它可以像普通的HBM2一樣工作，或者在FIM模式下進行內存數據處理。

當然，為PCU單元騰出空間會降低內存容量 - 與標準的8Gb HBM2裸片相比，每個PCU配備的內存裸片只有一半的容量（4Gb）。為了幫助解決這個問題，三星采用了6GB堆棧，將4個帶有PCU的4Gb裸片與4個沒有PCU的8Gb裸片組合在一起（而不是普通HBM2的8GB堆棧）。

一般用戶想用上這種內存還需要一些時間，至少目前不會在最新的游戲GPU上使用它。三星指出，這種新的內存首先要滿足數據中心、HPC系統(tǒng)等大規(guī)模應用處理的需求。還有一個挑戰(zhàn)性的問題是內存芯片的散熱，特別是考慮到需要堆棧，不過三星暫時沒有解釋HBM-PIM芯片會如何解決。
責任編輯:tzh