0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

拋棄8GB內(nèi)存,端側(cè)AI大模型加速內(nèi)存升級(jí)

花茶晶晶 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2024-11-03 00:02 ? 次閱讀
電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)端側(cè)AI大模型的到來在存儲(chǔ)市場產(chǎn)生了最直接的反應(yīng)。年初在我們對(duì)旗艦智能手機(jī)的存儲(chǔ)容量統(tǒng)計(jì)中,16GB內(nèi)存+512GB存儲(chǔ)成為幾乎所有旗艦機(jī)型都提供的選擇。畢竟AI大模型的運(yùn)行以及相關(guān)應(yīng)用的激增都比較吃內(nèi)存和閃存。就在最近,連蘋果也開始淘汰8GB版本,逐步走向12GB、16GB內(nèi)存。智能終端對(duì)存儲(chǔ)容量的需求有增無減,同時(shí)也加速更先進(jìn)存儲(chǔ)規(guī)格的采用。

蘋果、小米紛紛砍掉8GB內(nèi)存版本

日前,蘋果宣布搭載M2和M3芯片的MacBook Air機(jī)型現(xiàn)標(biāo)配16GB內(nèi)存,相比此前翻倍,但起售價(jià)維持不變,分別仍為7999元和8999元。蘋果官網(wǎng)上13英寸M2 MacBook Air、13英寸M3 MacBook Air以及15英寸M3 MacBook Air均淘汰了8GB版本,標(biāo)配16GB內(nèi)存,固態(tài)硬盤是256GB起步。截至目前,蘋果新款MacBook Pro、Mac mini、iMac等設(shè)備全部都是16GB內(nèi)存起步。

近期,小米公司宣布了其旗艦產(chǎn)品小米15系列的內(nèi)存配置重要調(diào)整。小米董事長兼CEO雷軍表示,小米15將砍掉8GB內(nèi)存版本,標(biāo)準(zhǔn)版將從12GB起步。

雷軍表示,為了最大程度展現(xiàn)端側(cè) AI的能力,我們決定取消 8GB 版本。小米15系列,在設(shè)計(jì)工藝、性能功耗、續(xù)航表現(xiàn)和使用體驗(yàn)等方方面面都有巨大的提升。

10月28日,小米中國區(qū)市場部副總經(jīng)理、Redmi品牌總經(jīng)理王騰在社交平臺(tái)上解釋稱,這一決策(指取消8GB內(nèi)存,從12GB起步)主要是基于未來手機(jī)AI應(yīng)用的發(fā)展趨勢。隨著端側(cè)AI大模型對(duì)內(nèi)存需求的增加,8GB內(nèi)存已逐漸無法滿足高效運(yùn)行的需求。他建議,在資金允許的情況下,消費(fèi)者應(yīng)選擇更大內(nèi)存的版本,以確保手機(jī)能夠流暢運(yùn)行各類AI應(yīng)用。

另外,對(duì)于小米15系列的漲價(jià),雷軍表示,去年我跟大家說過,小米14首定是最后一次定價(jià)3999元。今年3nm工藝升級(jí),同時(shí)供應(yīng)鏈 RAMROM 成本漲幅很大,我們在研發(fā)上投入也非常大,小米15 確實(shí)需要漲價(jià)。我可以保證,即便漲價(jià),小米15 依舊日物超所值!相比往代同內(nèi)存版本的漲價(jià)幅度,也肯定讓大家覺得“貴得有理由”,謝謝大家理解!

端側(cè)AI大模型的內(nèi)存容量

由于端側(cè)AI大模型需要在內(nèi)存中加載,即便采用壓縮技術(shù),越大的模型越吃容量。一方面現(xiàn)在端側(cè)AI大模型有著輕量化的趨勢,另一方面足夠大容量和性能更高的內(nèi)存更能滿足端側(cè)AI的需求。

今年6月蘋果發(fā)布Apple Intelligence,將強(qiáng)大的生成模型置于 iPhone、iPad 和 Mac 的核心。它具有的數(shù)據(jù)處理和情境感知能力。它能夠深入理解設(shè)備中的各類數(shù)據(jù),包括照片、郵件、信息等,并據(jù)此為用戶提供個(gè)性化的智能服務(wù)。分析師郭明錤曾表示,Apple Intelligence采用端側(cè)3B LLM,經(jīng)過壓縮后,隨時(shí)需要預(yù)留約0.7-1.5GB DRAM來運(yùn)作Apple Intelligence的端側(cè)LLM。

在安卓陣營,早在去年,端側(cè)AI便成為各大手機(jī)終端廠商進(jìn)行手機(jī)創(chuàng)新的主航道,彼時(shí)大家都將AI端側(cè)大模型的參數(shù)集中于7B。然而參數(shù)越大所需的處理器、存儲(chǔ)等資源越多,輕量化小模型或許更適合于智能終端。

vivo繼去年帶來了三款端側(cè)大模型(自研十億、百億、千億三個(gè)參數(shù)量級(jí))之后,發(fā)布全新30億參數(shù)量級(jí)的藍(lán)心端側(cè)大模型3B。

在對(duì)話寫作、摘要總結(jié)、信息抽取等能力上,藍(lán)心3B可以越級(jí)比肩行業(yè)7B-9B模型。相比藍(lán)心7B,藍(lán)心 3B極致性能提升300%,平衡模式下功耗優(yōu)化達(dá)46%,極致出詞速度可以達(dá)到80字/s,系統(tǒng)功耗僅450mA,內(nèi)存占用僅1.4GB。藍(lán)心端側(cè)大模型3B真正打破了模型小、能力強(qiáng)、消耗低的“不可能三角定律”。

蘋果為了支持Apple Intelligence在手機(jī)端的應(yīng)用,將iPhone 16系列的四款機(jī)型全部升級(jí)到了8GB內(nèi)存。為何選定為8GB內(nèi)存,而不是更高?蘋果硬件技術(shù)高級(jí)副總裁Johny Srouji表示,Apple Intelligence是促使使用8GB內(nèi)存的一個(gè)主要原因。他還提到,軟硬件和產(chǎn)品的完全集成帶來了很多好處,蘋果軟件團(tuán)隊(duì)經(jīng)過多次的內(nèi)存優(yōu)化計(jì)算,避免內(nèi)存浪費(fèi),綜合考慮之后認(rèn)為8GB是最適合的選擇。

我們看到新發(fā)布的vivo X200系列和OPPO Find X8系列等手機(jī)都是直接從12GB版本起步。安卓陣營旗艦手機(jī)的內(nèi)存容量升級(jí)更加積極,蘋果反而顯得有點(diǎn)保守了。盡管蘋果有其軟硬件優(yōu)化的系統(tǒng)級(jí)優(yōu)勢,但相信8GB內(nèi)存的選擇,成本也是考慮因素之一。

內(nèi)存規(guī)格不斷提升

旗艦智能手機(jī)主要采用LPDDR5X內(nèi)存規(guī)格,LPDDR5X能夠更好地加速邊緣AI運(yùn)算,提供高存儲(chǔ)器頻寬和更佳的功耗效率。此前LPDDR5X速率達(dá)8.5Gbps,LPDDR5T速率達(dá)9.6Gbps的水平,而最近發(fā)布的新機(jī)甚至還采用了更高速率的LPDDR5X。

例如,OPPO Find X8 系列搭載潮汐引擎×天璣 9400,采用臺(tái)積電第二代3nm工藝與新一代ARM架構(gòu),搭配高速閃存UFS 4.0與LPDDR5X先進(jìn)內(nèi)存規(guī)格,帶來更強(qiáng)的性能和更均衡的功耗表現(xiàn)。其中,F(xiàn)ind X8 Pro采用LPDDR5X內(nèi)存,F(xiàn)ind X8 Pro 衛(wèi)星通信版采用了LPDDR5X 10667Mbps版內(nèi)存。在 vivo X200新機(jī)中,vivo X200 Pro 16GB + 1TB 衛(wèi)星通信版本搭載LPDDR5X Ultra Pro,同樣達(dá)到10667Mbps速度。

此前三星半導(dǎo)體就表示,已成功在聯(lián)發(fā)科下一代天璣旗艦移動(dòng)平臺(tái)(天璣9400)完成其最快的10.7千兆比特/秒(Gbps)LPDDR5X DRAM驗(yàn)證。成為當(dāng)今全球最快的手機(jī)內(nèi)存。

至于蘋果新一代新機(jī),iPhone 16采用6400Mbps的LPDDR5,蘋果iPhone 16 Pro和16 Pro Max版本都是采用的是LPDDR5X規(guī)格的內(nèi)存,7500Mbps速率。

LPDDR5標(biāo)準(zhǔn)于2019年2月發(fā)布,2021年7月JEDEC組織推出了升級(jí)版LPDDR5X。為了打造更高性能更能滿足端側(cè)AI大模型運(yùn)算的內(nèi)存,今年以來JEDEC組織正在積極制定新一代低功耗內(nèi)存LPDDR6標(biāo)準(zhǔn),該組織設(shè)定了 LPDDR6的速度范圍從 10.667Gbps到14.4Gbps??梢钥吹剑?0.7GbpsLPDDR5X DRAM已經(jīng)初步達(dá)到了該組織擬定的LPDDR6最低速度范圍要求。接下來,各大DRAM廠商勢必積極跟進(jìn)LPDD6的技術(shù)和產(chǎn)品,手機(jī)內(nèi)存也將上一個(gè)新的臺(tái)階。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 內(nèi)存
    +關(guān)注

    關(guān)注

    8

    文章

    3024

    瀏覽量

    74037
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30853

    瀏覽量

    269028
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2443

    瀏覽量

    2692
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    廣和通開啟側(cè)AI新時(shí)代

    AI發(fā)展正酣,隨著終端芯片算力越來越高、側(cè)模型能力越來越強(qiáng)、實(shí)時(shí)響應(yīng)及隱私保護(hù)的側(cè)應(yīng)用需求增
    的頭像 發(fā)表于 12-12 10:35 ?192次閱讀

    訊飛星火側(cè)模型發(fā)布

    參數(shù)量小、內(nèi)存占比小的側(cè)模型,正成為“兵家必爭之地”。
    的頭像 發(fā)表于 12-04 16:07 ?760次閱讀

    智譜推出四個(gè)全新側(cè)模型 攜英特爾按下AI普及加速

    隨著AI的發(fā)展,側(cè)AI模型越來越受到廣大客戶及廠商的關(guān)注,業(yè)界領(lǐng)先的大模型公司智譜于近日推出了
    的頭像 發(fā)表于 12-02 17:13 ?209次閱讀
    智譜推出四個(gè)全新<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>模型</b> 攜英特爾按下<b class='flag-5'>AI</b>普及<b class='flag-5'>加速</b>鍵

    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)側(cè)AI規(guī)?;卣?/a>

    將成為和系統(tǒng)同樣重要的存在,如果說電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。加速演進(jìn)大模型加速走向
    的頭像 發(fā)表于 11-26 01:00 ?149次閱讀
    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>規(guī)?;卣? />    </a>
</div>                            <div   id=

    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)側(cè)AI規(guī)模化拓展

    將成為和系統(tǒng)同樣重要的存在,如果說電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。 ?加速演進(jìn),大模型加速走向
    的頭像 發(fā)表于 11-25 16:45 ?248次閱讀
    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>規(guī)?;卣? />    </a>
</div>                            <div   id=

    英偉達(dá)加速認(rèn)證三星AI內(nèi)存芯片

    近日,英偉達(dá)公司正在積極推進(jìn)對(duì)三星AI內(nèi)存芯片的認(rèn)證工作。據(jù)英偉達(dá)CEO透露,他們正在不遺余力地加速這一進(jìn)程,旨在盡快將三星的內(nèi)存解決方案融入其產(chǎn)品中。 此次認(rèn)證工作的焦點(diǎn)在于三星的H
    的頭像 發(fā)表于 11-25 14:34 ?247次閱讀

    安卓旗艦手機(jī)告別8GB,轉(zhuǎn)向更高規(guī)格的內(nèi)存配置

    10月28日資訊,隨著人工智能大模型的普及應(yīng)用,安卓智能手機(jī)制造商正積極調(diào)整其旗艦機(jī)型的內(nèi)存配置策略。近期推出的多款安卓旗艦已悄然舍棄8GB內(nèi)存版本,轉(zhuǎn)而標(biāo)配更高容量的
    的頭像 發(fā)表于 10-28 15:34 ?451次閱讀

    迅為LPDDR5版本瑞芯微RK3588核心板8GB內(nèi)存32GB存儲(chǔ)升級(jí)版本

    ,主頻高達(dá)2.4GHZ,8GB內(nèi)存,32GB EMMC。 四核心架構(gòu)GPU--集成Mali G610 MP4四核GPU、支持OpenGLES 1.1、2.0、3.2OpenCL2.2和Vulkan1.2
    發(fā)表于 10-22 10:58

    三星開始量產(chǎn)其最薄LPDDR5X內(nèi)存產(chǎn)品,助力側(cè)AI應(yīng)用

    三星輕薄型LPDDR5X DRAM的封裝厚度僅0.65mm,散熱控制能力更強(qiáng),適合側(cè)AI在移動(dòng)的應(yīng)用 LPDDR封裝采用12納米級(jí)工藝,四層堆疊,在提升Die密度的同時(shí),減少厚度,
    的頭像 發(fā)表于 08-06 08:32 ?348次閱讀

    OPPO Reno 12配置曝光:安卓14系統(tǒng),8GB內(nèi)存,4880mAh電池

    根據(jù)GeekBench跑分?jǐn)?shù)據(jù)顯示,該款手機(jī)在6.3.0版下,其單核成績?yōu)?033分,而多核則達(dá)到了2750分。此外,該手機(jī)運(yùn)行Android 14操作系統(tǒng),內(nèi)建8GB內(nèi)存,預(yù)計(jì)未來還會(huì)推出更多內(nèi)存版本。
    的頭像 發(fā)表于 05-17 15:08 ?1543次閱讀

    樹莓派5最大的競爭對(duì)手OrangePi 5 Pro?,新增4GB/8GB版本

    OrangePi5Pro被稱為樹莓派5最大的競爭對(duì)手。繼OrangePi5Pro(16GB)版本發(fā)布一個(gè)月之后,香橙派近日再推出OrangePi5Pro4GB/8GB版本。除了在運(yùn)行內(nèi)存
    的頭像 發(fā)表于 05-07 10:00 ?749次閱讀
    樹莓派5最大的競爭對(duì)手OrangePi 5 Pro?,新增4<b class='flag-5'>GB</b>/<b class='flag-5'>8GB</b>版本

    三星Galaxy Z Flip6升級(jí)至12GB內(nèi)存,搭載驍龍8 Gen2處理器

    此前,三星國行GalaxyZFlip5手機(jī)在存儲(chǔ)空間上提供256GB與512GB兩個(gè)選項(xiàng),而常規(guī)配色(如冰薄荷、冰玫紫等)及三星商城限定色彩(如海浪藍(lán)、山林綠等)以及MaisonMargiela限量版(銀色)則均配備8GB
    的頭像 發(fā)表于 04-24 15:16 ?656次閱讀

    谷歌Pixel 8a手機(jī)預(yù)計(jì)將于今年面世,配置8GB內(nèi)存及降頻版Tensor G3處理器?

    此外,IT之家透露,谷歌預(yù)計(jì)在Pixel8a上沿用Pixel7a的8GB內(nèi)存配置,同時(shí)計(jì)劃在已有128GB容量的基礎(chǔ)上再增加256GB版本。
    的頭像 發(fā)表于 03-11 10:45 ?1193次閱讀

    iPhone 16 配備 8GB 內(nèi)存,支持 Wi-Fi 6E

    的6GB內(nèi)存有所提升;而在此之前,iPhone 15 Pro以及iPhone 15 Pro Max早已升級(jí)8GB運(yùn)行內(nèi)存。
    的頭像 發(fā)表于 01-16 13:40 ?731次閱讀

    AI模型側(cè)加速落地已成必然趨勢,芯片廠商提前布局!

    普遍認(rèn)為,2024年AI模型在商業(yè)應(yīng)用會(huì)有極大突破。 ? “AI模型側(cè)
    的頭像 發(fā)表于 12-29 00:47 ?2325次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>在<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>加速</b>落地已成必然趨勢,芯片廠商提前布局!