0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

群聯(lián)電子:Home Computing助力平民化生成式AI

花茶晶晶 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2024-03-29 17:42 ? 次閱讀

生成式AI帶動以HBM為代表的內(nèi)存產(chǎn)業(yè)興盛起來,那么閃存如何助力生成式AI應(yīng)用的普及。群聯(lián)電子在去年整個存儲市場景氣度不足的情況下,依然大幅投入研發(fā)費用(約占去年營收的22%),并前瞻性地進行了AI與存儲解決方案的開發(fā)。在2024年中國閃存市場峰會期間,群聯(lián)電子執(zhí)行長潘健成向包括電子發(fā)燒友在內(nèi)的媒體表示,這將是一個極具創(chuàng)新的方案,我們不僅找到了閃存與生成式AI直接的關(guān)系,將閃存做了重新設(shè)計,帶令生成式AI訓(xùn)練設(shè)備的成本從幾百萬美元下降到幾萬美元。

Home computing方案


通常來說,AI訓(xùn)練對算力建設(shè)的投入巨大,只有頭部互聯(lián)網(wǎng)廠商、運營商等能夠承擔這樣的巨額開銷。對企業(yè)或個人而言考慮到數(shù)據(jù)安全等問題,或許并不愿意將數(shù)據(jù)放在云端去計算。潘健成說:“群聯(lián)電子提出Home Computing的概念是希望大家能夠買得起相對便宜點的設(shè)備,可搭配英偉達GPU以及群聯(lián)獨家設(shè)計的SSD以及軟件等,用于資料量不太大的AI訓(xùn)練?!?br />
在 GTC 2024 上,群聯(lián)電子和合作伙伴就展示了Home Computing的aiDAPTIV+技術(shù)方案。它是一種整合硬件和軟件的AI模型微調(diào)訓(xùn)練解決方案,可讓企業(yè)進行AI模型微調(diào)運算的過程中依舊保有數(shù)據(jù)的安全性與不外流,讓機器學(xué)習(xí) (Machine Learning) 更安全有保障。

AI模型的預(yù)訓(xùn)練 (Pre-trained) 可提供AI對語言或圖形等的通用理解,但群聯(lián)的aiDAPTIV+可賦能AI模型微調(diào)運算,將預(yù)訓(xùn)練 (Pre-trained) 的AI模型塑造成能夠理解特定領(lǐng)域的專業(yè)工具 (例如 符合律師、會計師、醫(yī)師、工程師等特殊領(lǐng)域的AI助理),以提供符合各種專業(yè)領(lǐng)域所需的精確服務(wù)。

通用型工作站硬件透過 aiDAPTIV+軟件Middleware和群聯(lián)獨家專利設(shè)計的aiDAPTIVCache系列ai100 SSD,將可讓現(xiàn)行的工作站計算機或是AI服務(wù)器訓(xùn)練更大的AI模型。

潘健成預(yù)計,基于這一Home Computing方案,未來五年內(nèi)全球?qū)τ谶@類生成式AI設(shè)備的需求至少2億臺。它將進一步創(chuàng)造閃存價值,挖掘閃存市場的商機。

群聯(lián)UFS主控全線出擊


智能手機的生成式AI應(yīng)用需求更高速率的閃存與之相匹配,這就加速了eMMC向UFS的遷移,以及UFS向更高規(guī)格迭代的進程。潘健成表示,客戶在從eMMC轉(zhuǎn)向UFS時需要更高性價比的主控。于是群聯(lián)發(fā)布了四顆針UFS主控芯片,旨在滿足從入門級到中高端再到旗艦手機等不同等級的應(yīng)用。

PS8327是一款22nm工藝的UFS 2.2主控芯片,主要面向入門級5G手機市場。其最大閃存容量可達256GB,并配備了第六代4KB LDPC ECC糾錯技術(shù),即使在單通道64GB的情況下,也能實現(xiàn)UFS 2.2規(guī)格的滿速1000MB/s傳輸。

PS8329主控芯片針對追求高性價比的中端手機市場。這款22nm UFS 3.1主控支持4KB LDPC糾錯,單通道下順序讀寫速度可達2000MB/s,計劃于今年6月開始提供樣品給合作伙伴。

PS8325主控芯片針對高端手機市場。這款12nm UFS 3.1主控采用雙通道設(shè)計,支持1Tb NAND顆粒,最大閃存容量高達1TB。同時,它還搭載了第六代4KB LDPC ECC糾錯技術(shù),預(yù)計將在本季度開始量產(chǎn),為高端手機提供更強大的存儲性能。

PS8361主控芯片針對旗艦手機市場。這款12nm UFS 4.0主控采用四通道設(shè)計,最大閃存容量同樣為1TB。它搭載了第六代LDPC+RAID ECC糾錯技術(shù),順序讀寫速度可超過4000MB/s,預(yù)計將在今年下半年開始出貨,為旗艦手機帶來極致的存儲體驗。

預(yù)計下半年閃存行情平穩(wěn),持續(xù)為客戶創(chuàng)造價值


潘健成預(yù)計,2024年上半年閃存漲價將告一段落,下半年應(yīng)該不會再漲,也不會再跌價。經(jīng)過去年的減產(chǎn)去庫存,市場需求合理的供應(yīng)環(huán)境,今年服務(wù)器、云端需求以及群聯(lián)主導(dǎo)的Home Computing方案,都有機會帶動閃存的成長,下半年會消化一些產(chǎn)能。整個供應(yīng)鏈將維持相對平穩(wěn)的狀態(tài)。

他進一步表示,存儲就像電子白米一樣不可或缺,過去一些模組廠商將閃存模塊裝進系統(tǒng)卻缺少質(zhì)量驗證,使得大量電子系統(tǒng)出現(xiàn)不良狀況。群聯(lián)電子對所有供應(yīng)商和客戶的承諾是持續(xù)進行技術(shù)創(chuàng)新。2024年群聯(lián)計劃其研發(fā)費用將較去年增加33%?!叭郝?lián)電子最大的價值是幫助客戶做客制化,讓客戶的方案針對自身的系統(tǒng)進行優(yōu)化,不再是me too,只有做出差異化,才能創(chuàng)造價值?!?br />

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 閃存
    +關(guān)注

    關(guān)注

    16

    文章

    1836

    瀏覽量

    115760
  • UFS
    UFS
    +關(guān)注

    關(guān)注

    6

    文章

    109

    瀏覽量

    24852
  • 群聯(lián)電子
    +關(guān)注

    關(guān)注

    1

    文章

    45

    瀏覽量

    13776
  • 生成式AI
    +關(guān)注

    關(guān)注

    0

    文章

    528

    瀏覽量

    713
收藏 0人收藏

    評論

    相關(guān)推薦
    熱點推薦

    SAP與亞馬遜云科技推出AI聯(lián)合創(chuàng)新計劃,打造生成AI解決方案,助力客戶應(yīng)對市場波動與供應(yīng)鏈復(fù)雜性

    北京 2025年5月26日 /美通社/ -- 在SAP藍寶石大會上,亞馬遜云科技與SAP宣布啟動全新的AI聯(lián)合創(chuàng)新計劃,幫助合作伙伴構(gòu)建生成AI應(yīng)用和智能體,
    的頭像 發(fā)表于 05-26 16:54 ?138次閱讀

    SAP與亞馬遜云科技推出AI聯(lián)合創(chuàng)新計劃,打造生成AI解決方案, 助力客戶應(yīng)對市場波動與供應(yīng)鏈復(fù)雜性

    北京 ——2025 年 5 月 26 日 在SAP藍寶石大會上,亞馬遜云科技與SAP宣布啟動全新的AI聯(lián)合創(chuàng)新計劃,幫助合作伙伴構(gòu)建生成AI應(yīng)用和智能體,
    發(fā)表于 05-26 11:44 ?821次閱讀

    聚云科技榮獲亞馬遜云科技生成AI能力認證

    助力企業(yè)加速生成AI應(yīng)用落地 北京2025年2月14日?/美通社/ -- 云管理服務(wù)提供商聚云科技獲得亞馬遜云科技生成
    的頭像 發(fā)表于 02-14 16:07 ?343次閱讀

    聚云科技榮獲亞馬遜云科技生成AI能力認證 助力企業(yè)加速生成AI應(yīng)用落地

    、數(shù)據(jù)處理、模型調(diào)優(yōu)到應(yīng)用集成與部署等方面,助力企業(yè)加速生成AI應(yīng)用落地。此外,聚云科技還基于亞馬遜云科技打造RAGPro企業(yè)知識庫、AI
    發(fā)表于 02-14 13:41 ?134次閱讀

    生成AI工具好用嗎

    當下,生成AI工具正以其強大的內(nèi)容生成能力,為用戶帶來了前所未有的便捷與創(chuàng)新。那么,生成
    的頭像 發(fā)表于 01-17 09:54 ?398次閱讀

    聯(lián)發(fā)科技攜手Cocos共建端側(cè)生成AI游戲開發(fā)生態(tài),推動行業(yè)升級

    捷更高效的應(yīng)用開發(fā)體驗,助力全球億萬用戶享受全新的智能互動體驗。 隨著智能終端性能的不斷提升,端側(cè)生成AI技術(shù)正成為推動游戲和應(yīng)用體驗變革的關(guān)鍵。此次合作,
    的頭像 發(fā)表于 01-10 09:24 ?401次閱讀

    大語言模型優(yōu)化生成管理方法

    大語言模型的優(yōu)化生成管理是一個系統(tǒng)工程,涉及模型架構(gòu)、數(shù)據(jù)處理、內(nèi)容控制、實時響應(yīng)以及倫理監(jiān)管等多個層面。以下,是對大語言模型優(yōu)化生成管理方法的梳理,由AI部落小編整理。
    的頭像 發(fā)表于 12-02 10:45 ?351次閱讀

    NVIDIA助力Amdocs打造生成AI智能體

    Amdocs 是一家為通信和媒體提供商提供軟件與服務(wù)的領(lǐng)先供應(yīng)商。該公司構(gòu)建的 amAIz 特定領(lǐng)域生成 AI 平臺幫助電信公司深入改變了客戶體驗,實現(xiàn)了流程自動化,并優(yōu)化了決策。Amdocs
    的頭像 發(fā)表于 11-19 14:48 ?803次閱讀

    生成AI工具作用

    生成AI工具是指那些能夠自動生成文本、圖像、音頻、視頻等多種類型數(shù)據(jù)的人工智能技術(shù)。在此,petacloud.ai小編為您整理
    的頭像 發(fā)表于 10-28 11:19 ?659次閱讀

    谷歌Vertex AI助力企業(yè)生成AI應(yīng)用

    過去的一段時間,我們看到了許多 Google Cloud 客戶對生成 AI 和 agent 的精彩應(yīng)用,令我們拍案叫絕。為了讓企業(yè)能夠更快推出功能強大的 AI agent,Googl
    的頭像 發(fā)表于 09-09 15:59 ?822次閱讀

    NVIDIA AI助力SAP生成AI助手Joule加速發(fā)展

    在美國佛羅里達州奧蘭多舉行的 SAP Sapphire 大會上,NVIDIA 與這家企業(yè)軟件公司公布了搭載NVIDIA AI Enterprise軟件的生成 AI 合作成果,其為 S
    的頭像 發(fā)表于 09-09 09:37 ?750次閱讀

    亞馬遜云科技助力Shulex打造生成AI應(yīng)用

    杭州數(shù)里行間科技有限公司(Shulex),作為全球領(lǐng)先的VOC(消費者洞察)市場AI SaaS解決方案提供商,攜手亞馬遜云科技,成功推出了基于生成AI的“
    的頭像 發(fā)表于 08-14 16:27 ?926次閱讀

    【HZHY-AI300G智能盒試用連載體驗】基建智慧工地物聯(lián)邊緣代理技術(shù)研究及應(yīng)用

    基建施工現(xiàn)場大量的感知層設(shè)備需要一種區(qū)域集中式、全網(wǎng)分布的網(wǎng)絡(luò)交互節(jié)點,實現(xiàn)企業(yè)級大數(shù)據(jù)的在線采集和反控,助力基建安全質(zhì)量管理工作。 【項目計劃】 1、在AI300G智能盒上安裝Ubuntu操作系統(tǒng)
    發(fā)表于 07-16 17:14

    HPE 攜手 NVIDIA 推出 NVIDIA AI Computing by HPE,加速生成 AI 變革

    by HPE 包含了可持續(xù)的加速計算產(chǎn)品組合以及全生命周期服務(wù),將簡化 AI 創(chuàng)造價值的過程,加速生成 AI 的發(fā)展步伐。 NVIDIA AI
    的頭像 發(fā)表于 06-21 14:39 ?608次閱讀

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 變革

    簡化 AI 創(chuàng)造價值的過程,加速生成 AI 的發(fā)展步伐。 NVIDIA AI Computing
    的頭像 發(fā)表于 06-20 17:36 ?989次閱讀

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學(xué)習(xí)
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品