閃存破局“內(nèi)存焦慮”，AI微調(diào)訓(xùn)練增加閃存消耗

電子發(fā)燒友網(wǎng)報道（文/黃晶晶）面對蓬勃發(fā)展的AI，在MemoryS 2025上，群聯(lián)電子執(zhí)行長潘健成表示，面對AI服務(wù)器成本太高、數(shù)據(jù)上云端不安全等挑戰(zhàn)，在地端的AI微調(diào)訓(xùn)練對于解決問題而言是必須的。若一味增加GPU和內(nèi)存數(shù)量，無疑將導(dǎo)致本地AI訓(xùn)練的成本奇高，無法獲得普及效應(yīng)。

圖：群聯(lián)電子執(zhí)行長潘健成

群聯(lián)電子推出了獨(dú)家發(fā)明且也是全球第一家將NAND應(yīng)用于AI服務(wù)器中的滿血版AI訓(xùn)推一體機(jī)平價方案aiDAPTIV+。通過aiDAPTIV+，企業(yè)可以在本地邊緣環(huán)境中執(zhí)行AI模型后微調(diào)訓(xùn)練，確保數(shù)據(jù)安全的同時顯著降低AI訓(xùn)練成本。

群聯(lián)電子aiDAPTIV+ 技術(shù)通過動態(tài)緩存，結(jié)合基于NAND 閃存“aiDAPTIVCache”緩存技術(shù)，擴(kuò)展 HBM 和 GDDR 內(nèi)存，顯著提升性能。據(jù)悉，在 GTC 2025 大會上，群聯(lián)攜手 Maingear 公司推出了搭載 aiDAPTIV+ 技術(shù)的全球首款支援 LLMOps (Large Language Model Operations; 大型語言模型運(yùn)作) 的消費(fèi)級筆電，用戶將可使用自身企業(yè)或個人資料來微調(diào)(Post-training/Fine-tuning) 最多 80億 (8B) 參數(shù)的大型語言模型 (LLM)，讓預(yù)訓(xùn)練 (Pre-trained) 的AI模型能依據(jù)邊緣應(yīng)用場景與使用者需求進(jìn)行客制化 (Post-training)，以達(dá)到真正的AI落地普及化；此外，通過 aiDAPTIVLink 3.0 新版中間件 (Middleware)，負(fù)責(zé) SSD 的 NAND 和 GPU 之間的數(shù)據(jù)傳輸，提供更快的首個 Token 時間（TTFT）回調(diào)響應(yīng)，并支持更大的 LLM（大型語言模型）提示上下文。

“我們的地端AI模型微調(diào)方案aiDAPTIV+，與NVIDIA創(chuàng)辦人黃仁勛于CES演講中提及的地端推論 (Inference) 機(jī)器設(shè)備策略相呼應(yīng)，將為AI應(yīng)用的地端模型微調(diào)訓(xùn)練以及推論帶來更廣泛的應(yīng)用場景及SSD有很大幫助?！迸私〕烧f道，本地AI微調(diào)訓(xùn)練將進(jìn)一步增加英偉達(dá)GPU的銷量，也將為閃存產(chǎn)業(yè)鏈打開新的市場空間，尤其是企業(yè)級SSD需求將從云端下沉到邊緣端市場。

群聯(lián)電子2024年業(yè)績表現(xiàn)亮眼，總營收金額達(dá)新臺幣589.36億元，較2023年增長達(dá)22%，創(chuàng)下歷史第三高紀(jì)錄。潘健成表示，2024年雖然面臨全球消費(fèi)市場疲軟的挑戰(zhàn)，但群聯(lián)憑借堅(jiān)強(qiáng)的技術(shù)實(shí)力與多樣的產(chǎn)品布局，依舊在業(yè)界交出亮眼成績。我們的存儲解決方案在各大應(yīng)用領(lǐng)域持續(xù)受到市場肯定，展現(xiàn)出群聯(lián)的靈活應(yīng)對能力與市場競爭力。

潘健成在演講中指出，2024年群聯(lián)電子研發(fā)支出近30億元人民幣，巨額研發(fā)支出帶來了巨大壓力，同樣的，盈利難也導(dǎo)致NAND原廠資本支出開始放緩。

在他看來，若談NAND產(chǎn)業(yè)未來路在何方，如何協(xié)助NAND原廠創(chuàng)造價值是重要課題之一。渠道市場存儲產(chǎn)品需求快速下滑，“要能夠生存就要長進(jìn)”，系統(tǒng)整合廠要做NAND存儲差異化、要創(chuàng)造價值。如在PC應(yīng)用上，群聯(lián)開發(fā)了PQC防偽方案，安裝于PC的存儲，可辨識AI合成圖片、視頻、文件，強(qiáng)化PC資料防護(hù)，價值是原來SSD的3倍。

他進(jìn)一步認(rèn)為，電子產(chǎn)業(yè)經(jīng)歷三大周期，從90年代的PC、到2000年左右的智能手機(jī)，再到現(xiàn)在的AI走入端側(cè)，回看過去每一次的產(chǎn)業(yè)大爆發(fā)都帶動半導(dǎo)體產(chǎn)業(yè)鏈10多年的成長動能。而這一次AI的到來也將產(chǎn)生新的長周期的半導(dǎo)體繁榮。毋庸置疑，端側(cè)AI將帶給存儲巨大的機(jī)會。