ODCC 2024：AI存力挑戰(zhàn)，PTM商業(yè)模式助力企業(yè)級存儲創(chuàng)新實踐

9月3日至4日，2024開放數(shù)據(jù)中心大會（以下簡稱“ODCC”）在北京召開。江波龍企業(yè)級存儲事業(yè)部市場總監(jiān)曹潯峰受邀出席，并發(fā)表了題為《大模型AI應(yīng)用對存力挑戰(zhàn)與創(chuàng)新實踐》的精彩演講，深入剖析了當(dāng)前算力產(chǎn)業(yè)的發(fā)展趨勢及其創(chuàng)新應(yīng)用，并探討了在PTM（存儲產(chǎn)品技術(shù)制造）商業(yè)模式下如何有效滿足客戶需求的問題。

ODCC 2024

PTM商業(yè)模式

企業(yè)級存儲全棧定制

PTM商業(yè)模式

PTM商業(yè)模式的核心在于將公司的自研存儲控制芯片、自研固件和硬件以及自有的先進封測制造等技術(shù)優(yōu)勢進行無縫銜接，實現(xiàn)更靈活、高效的全棧式定制化服務(wù)和一站式交付。

存儲全棧式定制服務(wù)就像高級西裝的量身定制，每一細節(jié)都經(jīng)過一對一精心打造，確保每款產(chǎn)品方案“裁剪”出來都能貼合、匹配客戶的獨特需求。在提及江波龍最新提出的PTM商業(yè)模式時，曹潯峰表示，企業(yè)級存儲產(chǎn)品作為該模式下的重要組成部分，江波龍已經(jīng)成功打造了eSSD+RDIMM的全面產(chǎn)品矩陣，以滿足大模型AI應(yīng)用的存力需求。這包括一系列高性能的企業(yè)級PCIe 4.0 NVMe SSD、SATA SSD、DDR5/DDR4 RDIMM以及CXL 2.0內(nèi)存拓展模塊等標(biāo)準(zhǔn)產(chǎn)品。

在技術(shù)領(lǐng)域，江波龍擁有自主研發(fā)NAND Flash芯片、主控芯片、固件和硬件的能力，并采用多顆粒類型產(chǎn)品布局，能夠根據(jù)客戶的特定技術(shù)需求提供定制化的存儲解決方案。此外，江波龍匯聚了眾多行業(yè)資深專家，積累了豐富的技術(shù)經(jīng)驗，特別是在顆粒研究、測試算法和設(shè)備開發(fā)等方面，公司能夠深入分析NAND Flash和DRAM的特性，并與客戶預(yù)先確認技術(shù)需求。通過建立專業(yè)、專項的FAE+AE+R&D團隊，PTM商業(yè)模式能夠幫助企業(yè)級客戶高效實現(xiàn)產(chǎn)品創(chuàng)新和大幅成本優(yōu)化，從而提升客戶的業(yè)務(wù)競爭力。

在制造方面，江波龍通過在中山存儲產(chǎn)業(yè)園、蘇州和南美洲封裝測試基地的國內(nèi)、海外雙循環(huán)產(chǎn)業(yè)鏈布局，實現(xiàn)了從存儲芯片到模組產(chǎn)品的全鏈條覆蓋。公司不僅保證了業(yè)內(nèi)領(lǐng)先的企業(yè)級生產(chǎn)產(chǎn)能，還實現(xiàn)了高效的全站點追溯能力，如同餐廳的開放式廚房，確保每道工序都可視化、透明化，讓客戶對產(chǎn)品品質(zhì)和生產(chǎn)流程擁有更為清晰而直觀的了解。

以SATA SSD標(biāo)準(zhǔn)產(chǎn)品為例，如果客戶對其基本性能感到滿意，但需要更大容量的解決方案，并且希望在不犧牲產(chǎn)品特性的前提下實現(xiàn)成本效益，那么PTM（存儲產(chǎn)品技術(shù)制造）合作模式將是理想選擇。江波龍固件開發(fā)團隊能夠為客戶量身定制固件，以支持大容量規(guī)格和Wafer顆粒的導(dǎo)入。同時，封測制造基地也將按照具體要求進行Wafer的封裝，確保滿足工藝規(guī)格和顆粒特性指標(biāo)，為客戶提供個性化且高效的存儲解決方案。

通過綜合措施，PTM商業(yè)模式實現(xiàn)了從技術(shù)到制造，再到產(chǎn)品的全方位支持，為客戶提供全棧式服務(wù)和一站式交付。

AI存力挑戰(zhàn)

新技術(shù)探索實踐

曹潯峰在演講中強調(diào)，隨著人工智能技術(shù)的飛速發(fā)展，AI訓(xùn)練過程中對緩存存儲容量和性能的需求日益增長。他指出，盡管AI應(yīng)用日益復(fù)雜，但現(xiàn)有緩存硬件技術(shù)和產(chǎn)品的發(fā)展尚未跟上這一步伐，導(dǎo)致AI模型訓(xùn)練面臨性能瓶頸。對此，曹潯峰提出了一系列創(chuàng)新的解決方案，旨在突破數(shù)據(jù)緩存、傳輸和存儲的瓶頸。

在AI應(yīng)用實踐中，原始數(shù)據(jù)需經(jīng)過精細的清洗和預(yù)處理，轉(zhuǎn)化為高質(zhì)量的數(shù)據(jù)集，進而通過網(wǎng)絡(luò)傳輸至AI服務(wù)器的本地SSD存儲，并最終upload至GPU HBM緩存中進行訓(xùn)練。曹潯峰指出，隨著AI訓(xùn)練模型參數(shù)量的增長，現(xiàn)有HBM緩存和系統(tǒng)內(nèi)存RDIMM容量已難以滿足需求。他提出，采用高性能、大容量的CXL存儲器或8x GPU卡AI服務(wù)器，將是理想的緩存優(yōu)化解決方案。

江波龍正積極探索支持AIC和E3.S的JBOM系統(tǒng)，并結(jié)合即將到來的支持CXL2.0的服務(wù)器系統(tǒng)，為萬卡AI訓(xùn)練集群提供更具成本效益的內(nèi)存池化共享硬件解決方案。

曹潯峰還分享了對AI應(yīng)用數(shù)據(jù)存儲優(yōu)化的深刻見解。他提到，AI訓(xùn)練應(yīng)用主要涉及順序讀寫操作，QLC SSD在順序讀寫性能上與TLC相近，且成本更具優(yōu)勢。隨著PCIe Gen5帶寬的提升，QLC技術(shù)完全能夠滿足AI訓(xùn)練過程中Checkpoint數(shù)據(jù)存儲的高帶寬高并發(fā)需求，預(yù)示著QLC SSD有望成為大語言模型AI訓(xùn)練應(yīng)用的更優(yōu)選擇。

在演講的尾聲，曹潯峰展望了江波龍企業(yè)級存儲產(chǎn)品的未來發(fā)展方向，主要聚焦于擴大存儲容量、提升產(chǎn)品性能、引入QLC NAND Flash作為資源補充的發(fā)展趨勢，以滿足不同客戶的差異化需求，與產(chǎn)業(yè)鏈合作伙伴共同推動算力產(chǎn)業(yè)進步。

*上述產(chǎn)品數(shù)據(jù)均來源于江波龍內(nèi)部測試

實際性能因設(shè)備差異，可能有所不同