0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

解密PC的AI進(jìn)化:AI大模型如何“壓”進(jìn)PC?

知識酷Pro ? 來源:虎嗅APP ? 2024-01-16 15:40 ? 次閱讀

當(dāng)?shù)貢r間2024年1月9日,2024年國際消費(fèi)電子展(CES 2024)在美國拉斯維加斯舉辦。AI for All成為CES大會的關(guān)鍵議題之一。在眾多展品當(dāng)中,被視作個人大模型普惠第一終端的AI PC吸引眾多目光。全球最大的PC廠商聯(lián)想集團(tuán)更是推出了包括Yoga Pro 9i,ThinkBook Plus Gen 5 Hybrid、全球首款商務(wù)AI PC ThinkPad X1 Carbon AI、ThinkCentre neo Ultra在內(nèi)的一眾AI PC產(chǎn)品。那么這些初次登場的AI PC產(chǎn)品身上到底有什么黑科技呢?虎嗅與您一起走進(jìn)2024CES,為您揭開AI PC神秘的面紗。

奔馳、寶馬、大眾紛紛把大語言模型接入車機(jī)系統(tǒng),讓人能跟汽車自然對話。

三星給冰箱裝了個AI識別系統(tǒng),可以識別食物品種和新鮮度。

LG推出了會問候早安、歡迎回家的家庭AI機(jī)器人。

在2024年的CES展上, AI熱度仍在持續(xù),各家廠商都在喊AI for All,All in AI之類的口號。

然而對于普通的消費(fèi)電子用戶來說,更關(guān)注的似乎還是停留在手邊的設(shè)備,比如作為我們生產(chǎn)力工具的電腦。

AI PC是2024年CES展中最熱的詞之一,在數(shù)據(jù)中心業(yè)務(wù)上賺的盆滿缽滿的英偉達(dá),也在本次展會上推出了多款聚焦個人、商用電腦的AI硬件產(chǎn)品和應(yīng)用。包括RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super三款GPU,將大語言模型(LLM)的處理速度提升了5倍,將AI視頻生成速度提高了150%。

英偉達(dá)產(chǎn)品管理的高級總監(jiān)Justin Walker在新聞發(fā)布會上強(qiáng)調(diào):“我們已經(jīng)銷售了超過1億塊RTX GPU,這為運(yùn)行AI應(yīng)用的個人電腦提供了堅實(shí)的硬件基礎(chǔ)?!?/p>

在PC終端方面,微軟在CES大會之前,就宣布將在新款Windows 11電腦上配備Copilot按鈕,這是一個專門用于調(diào)用現(xiàn)已融入其操作系統(tǒng)人工智能聊天機(jī)器人的功能。配備Copilot按鈕的首批設(shè)備預(yù)計將在本月完成上市。值得注意的是,Windows PC鍵盤布局上次的重大變革還是在30年前。

不過,在AI PC方面走的最靠前的當(dāng)屬聯(lián)想。從2023年10月的全球TechWorld大會宣布了全線AI PC規(guī)劃后,僅幾個月時間,聯(lián)想就帶著多款A(yù)I Ready階段的AI PC產(chǎn)品亮相CES展。包括賦能創(chuàng)作過程的Yoga Pro 9i,全球第一臺可無縫切換筆記本電腦和平板電腦兩種模式的ThinkBook Plus Gen 5 Hybrid、全球首款商務(wù)AI PC ThinkPad X1 Carbon AI、新一代超小型ThinkCentre neo Ultra等。

無論是AI技術(shù)發(fā)展,還是PC市場趨勢,都預(yù)示著AI將會成為2024年的PC行業(yè)新的增長引擎。AI PC則成為了傳統(tǒng)PC廠商的新增長機(jī)會,甚至有可能打破依靠供應(yīng)鏈和渠道驅(qū)動的業(yè)務(wù)模式,創(chuàng)造出全新的PC市場趨勢和發(fā)展模式。

技術(shù)大揭秘:把AI裝進(jìn)PC

大模型的通用性、泛化能力都是來自于模型的參數(shù)量,從AI大模型熱潮爆發(fā)至今,模型的參數(shù)量不斷擴(kuò)大,對算力的需求也在直線上漲。由此AI需要云端算力,幾乎成了業(yè)界共識,很多人認(rèn)為脫離了云服務(wù)器的AI PC很難把模型的能力發(fā)揮好。

然而,對于個人和商業(yè)用戶來說,純粹的云端AI也并不是萬能的。隨著AI技術(shù)的發(fā)展和應(yīng)用場景的多樣化,依賴云端AI處理大量數(shù)據(jù)、提供服務(wù)的模式正逐步顯現(xiàn)出局限性。

目前的AI云服務(wù)主要面臨三個比較明顯的挑戰(zhàn):成本、安全和響應(yīng)速度。

而結(jié)合云端AI和AI PC類產(chǎn)品的優(yōu)勢,構(gòu)建的云端+本地的AI模式,很可能會成為未來AI的發(fā)展趨勢。通過這種模式,大型AI模型可以在云端進(jìn)行復(fù)雜的數(shù)據(jù)分析和學(xué)習(xí),而端側(cè)AI則負(fù)責(zé)實(shí)時、低延遲的任務(wù)處理。這種協(xié)同工作模式不僅能夠彌補(bǔ)單一模式的不足,還可以在保證處理效率的同時,確保用戶數(shù)據(jù)的隱私和安全。

那么,要把云端那些需要英偉達(dá)A100、H100顯卡才能跑起來的AI大模型,“拖到”小小的個人電腦中,應(yīng)該怎么做呢?

聯(lián)想的做法是對大模型進(jìn)行“壓縮”。

AI大模型通常涉及復(fù)雜的數(shù)據(jù)結(jié)構(gòu)(如神經(jīng)網(wǎng)絡(luò)的權(quán)重矩陣)。這些結(jié)構(gòu)需要頻繁地在計算過程中修改和訪問,所以在訓(xùn)練和推理過程中需要占用大量內(nèi)存空間。

以GPT-3為例,它有1750億個參數(shù)。通常情況下,這些參數(shù)以32位浮點(diǎn)數(shù)(即float32)的形式存儲。在32位浮點(diǎn)數(shù)中,每個參數(shù)需要4字節(jié)的存儲空間。換算成更常見的單位,這大概相當(dāng)于700GB。

目前參數(shù)量較小的主流AI大模型多位70億參數(shù)或130億參數(shù),這些“小”模型需要的存儲空間,大約也要20GB以上。個人、辦公電腦上要運(yùn)行這些模型,相當(dāng)困難。

“我們現(xiàn)在做的技術(shù)就是如何把這個存儲的這些空間降低之后,還能保持原有的模型性能?!甭?lián)想研究院研究員謝棟介紹說。

聯(lián)想基于阿里通義千問的7B模型重新做了一個新的模型,在參數(shù)量不變的情況下對模型的“體積“進(jìn)行了大幅度的壓縮,謝棟告訴虎嗅:”可能原來一個參數(shù)用兩個字節(jié)來存儲,經(jīng)過壓縮,一個參數(shù)只有半個字節(jié)就可以存儲?!?/p>

阿里通義千問7B模型的原始大小是14.4GB,在聯(lián)想的Lenovo AI now中運(yùn)行的模型則壓縮到了4GB。由此,AI大模型+電腦本身的緩存,大概只要5-6G內(nèi)存就能運(yùn)行起來。而目前,聯(lián)想的主流集成顯卡筆記本電腦內(nèi)存都在16G以上,獨(dú)立顯卡的游戲本、高性能本顯存都在8G以上,可以輕松運(yùn)行壓縮后的通義千問7B模型。

現(xiàn)在的AI與傳統(tǒng)的軟件不一樣,不是所有的芯片都能跑。AI與硬件之間還有一個中間層叫framework。目前,聯(lián)想的AI PC正在做的事就是定制自己的framework。

“中間層是決定他能在這樣的硬件基礎(chǔ)上跑的,第一要能跑,第二還要跑得好”聯(lián)想全球中小企業(yè)產(chǎn)品與解決方案總經(jīng)理鄭愛國告訴虎嗅,“目前我們的專家每天都在和AMDIntel的專家溝通,對他們最新的平臺和芯片一個一個地調(diào)優(yōu),是其能最大限度地適合AI PC的工作和任務(wù)?!?/p>

目前聯(lián)想研究院在這個“中間層”的研發(fā)工作中擔(dān)任重要角色,除此之外,聯(lián)想對AI PC的研發(fā)采用了多元化布局。目前最主要的研發(fā)任務(wù)主要集中在中國和美國。在日本、巴西,以及印度也都有研發(fā)分布。聯(lián)想集團(tuán)董事長兼CEO楊元慶表示:“創(chuàng)新還有研發(fā)一直以來都是聯(lián)想兩個重要的核心能力之一。我們的研發(fā)經(jīng)費(fèi)在過去幾年一直在提升,從不到3%到大概已經(jīng)4%以上?!?/p>

如何用AI PC打出區(qū)隔

正在拉斯維加斯舉辦的2024 CES展上,聯(lián)想展出了ThinkBook 16P、ThinkPad P1、ThinkPad P16、ThinkBook 13x等多款A(yù)I Ready的產(chǎn)品。這些產(chǎn)品的推出,不僅是技術(shù)進(jìn)步的展示,也是聯(lián)想在AI PC領(lǐng)域策略的體現(xiàn)。

聯(lián)想集團(tuán)執(zhí)行副總裁兼中國區(qū)總裁劉軍表示:“我們的AI PC目前處在AI Ready的階段,在2024年4月的聯(lián)想中國創(chuàng)新科技大會(TechWorld)上,我們將正式宣布我們的個人Agent?!边@一聲明表明,聯(lián)想正將AI PC技術(shù)與個人助理功能結(jié)合,推動AI技術(shù)在個人電腦領(lǐng)域的深入應(yīng)用。

在AI PC的硬件方面,聯(lián)想計劃推出CPU+GPU+NPU的混合AI模式,這種模式可以提高計算效率,優(yōu)化AI應(yīng)用的性能。NPU(神經(jīng)網(wǎng)絡(luò)計算單元)的引入是對傳統(tǒng)CPU和GPU功能的補(bǔ)充,能夠更加專注于處理AI相關(guān)的任務(wù)。這種混合硬件布局不僅適用于PC,也將應(yīng)用于手機(jī)、平板等多種設(shè)備,甚至擴(kuò)展到商業(yè)環(huán)境和AIOT(AI驅(qū)動的IoT)產(chǎn)品。

在軟件生態(tài)方面,聯(lián)想的戰(zhàn)略是改變傳統(tǒng)PC行業(yè)甚至是消費(fèi)電子產(chǎn)品的交互邏輯,從應(yīng)用交互轉(zhuǎn)向意圖交互。這一轉(zhuǎn)變預(yù)示著未來的交互方式將更加直觀和自然。用戶不再需要通過復(fù)雜的菜單和步驟來執(zhí)行任務(wù),而是可以直接通過意圖來與設(shè)備互動。這種基于意圖的交互方式能夠大大提高用戶體驗(yàn),使設(shè)備更加智能和易用。

在探索這些新領(lǐng)域的同時,對于其他廠商而言,如何在AI PC市場中尋找自己的定位和特色,是一個值得思考的問題。例如,其他廠商可能會在特定的垂直領(lǐng)域內(nèi)進(jìn)行深耕,如專注于創(chuàng)意工作的AI應(yīng)用,或者在安全性、隱私保護(hù)方面進(jìn)行創(chuàng)新。同時,不同廠商可能會選擇不同的技術(shù)路徑或合作伙伴,以尋找差異化的市場機(jī)會。

對于整個PC行業(yè)來說,AI PC的發(fā)展是一個多維度的過程,涉及硬件、軟件、用戶體驗(yàn)和生態(tài)系統(tǒng)等多個層面。聯(lián)想作為先行者,在AI PC方向上自然會占據(jù)一定的先發(fā)優(yōu)勢,不過在創(chuàng)新產(chǎn)品的開發(fā),以及AI技術(shù)的發(fā)展過程中,勢必也會遇到各種不確定的問題。

從行業(yè)趨勢來看,AI PC的未來可能不僅僅局限于個人電腦,而是會擴(kuò)展到整個智能終端生態(tài)系統(tǒng),包括智能家居、智能汽車等領(lǐng)域。這種趨勢下,廠商之間的競爭將不僅僅是硬件和軟件的競爭,更是對整個生態(tài)系統(tǒng)的理解和布局的競爭。

PC市場的拐點(diǎn)

IDC在2023年底發(fā)布的《全球季度個人計算設(shè)備跟蹤報告》指出,鑒于當(dāng)前的經(jīng)濟(jì)環(huán)境和市場狀況,對全球PC市場的預(yù)測被下調(diào)。預(yù)計2023年的出貨量將比2022年下降13.8%,而2022年的出貨量則比上年下降了16.6%。這種連續(xù)兩年的兩位數(shù)同比下降在個人電腦市場是前所未有的。不過這種“衰退”趨勢可能正在為市場的后續(xù)復(fù)蘇鋪平道路。

IDC認(rèn)為,疫情期間售出的PC產(chǎn)品大多將在2024年面臨Windows更新周期。此外,一些失去微軟服務(wù)支持的舊版Windows系統(tǒng),將面臨2024年升級至Windows 11的壓力。

這些因素在短期將會促進(jìn)2024年P(guān)C市場的增長。而從長遠(yuǎn)來看,PC市場更大的增長動力則很可能源自AI PC帶來的革命性升級。

聯(lián)想集團(tuán)執(zhí)行副總裁、智能設(shè)備業(yè)務(wù)集團(tuán)總裁Luca Rossi在CES期間接受采訪時表示:“2023年市場確實(shí)遭遇了一些壓力。對于2024年全球市場的趨勢我們保持謹(jǐn)慎樂觀的態(tài)度,預(yù)見會有少量的增長。我們也樂觀地認(rèn)為,在2024年下半年和2025年,AI PC將在消費(fèi)和商用市場掀起廣泛的換機(jī)潮。人工智能電腦將成為轉(zhuǎn)折點(diǎn),加速更換周期。”

雖然目前全球PC市場中,僅有聯(lián)想一家在大舉落地AI PC,但其它PC行業(yè)巨頭也都在對AI PC概念保持高度關(guān)注。HP和Dell的高管在近期的采訪中都表示AI PC必將大幅提升PC的升級換代潛力表示肯定,HP Personal Systems部門總裁Alex Cho認(rèn)為:AI PC或有望幫助PC行業(yè)增長率翻倍。

盡管面臨短期挑戰(zhàn),IDC預(yù)計2024年及以后的市場將會出現(xiàn)反彈。預(yù)計2024年P(guān)C市場總量將比2023年增長3.4%,這得益于AI PC對市場升級起到的催化作用。初步針對企業(yè)PC市場的某些細(xì)分市場,隨著用例的進(jìn)一步發(fā)展和成本的降低,AI PC可能會推動更廣泛的市場應(yīng)用。

同時,IDC認(rèn)為2024年將是PC市場的關(guān)鍵一年,為市場近期的挑戰(zhàn)提供了喘息機(jī)會。預(yù)計2024年之后,出貨量的增長將超過大流行前的水平,在2027年達(dá)到2.85億臺的峰值。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • PC
    PC
    +關(guān)注

    關(guān)注

    9

    文章

    2084

    瀏覽量

    154264
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    47314

    瀏覽量

    238656
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2465

    瀏覽量

    2764
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    316

    瀏覽量

    310

原文標(biāo)題:解密PC的AI進(jìn)化:AI大模型如何“壓”進(jìn)PC?

文章出處:【微信號:ZHISHIKU-Pro,微信公眾號:知識酷Pro】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    高通驍龍X Elite平臺引領(lǐng)AI PC發(fā)展

    隨著生成式AI的迅猛發(fā)展,人工智能技術(shù)正在賦能更豐富的用例,為各行各業(yè)的發(fā)展變革提供新思路。在這場數(shù)字化浪潮中,AI PC成為了PC行業(yè)的關(guān)鍵轉(zhuǎn)折點(diǎn)。面對全新的
    的頭像 發(fā)表于 12-18 15:09 ?294次閱讀

    AI PC的崛起

    的發(fā)展,市場趨于飽和。到2010年,大多數(shù)人都擁有臺式機(jī)、筆記本電腦或平板電腦。2015年前后,PC市場陷入停滯,全球PC銷量停滯不前。 到了2024年,在推出內(nèi)置AI PC的推
    的頭像 發(fā)表于 11-14 11:06 ?494次閱讀

    2026年AI PC市場將占Windows PC半壁江山

     根據(jù)最新市場研究機(jī)構(gòu)Canalys的權(quán)威預(yù)測,人工智能(AI)個人電腦(PC)在Windows PC市場的滲透率正經(jīng)歷前所未有的飛躍。該機(jī)構(gòu)預(yù)計,從當(dāng)前的不足10%起步,AI
    的頭像 發(fā)表于 09-06 16:09 ?838次閱讀

    AI PC:真正的AI PC,敢于下場

    在過去的半年里,我們無一不在聆聽關(guān)于人工智能(AIPC的種種聲音,然而當(dāng)步入現(xiàn)實(shí)生活時,恐怕仍有眾多讀者對此感到迷茫:這些AI PC究竟具有哪些A
    的頭像 發(fā)表于 06-11 15:02 ?710次閱讀

    實(shí)測NPU“空轉(zhuǎn)”,AI PC首個落地應(yīng)用只調(diào)用GPU?

    AI PC的一大特征是在傳統(tǒng)PC的CPU+GPU基礎(chǔ)上,增加NPU加強(qiáng)AI 算力。不過有意思的是,最近某品牌PC機(jī)型上的
    的頭像 發(fā)表于 05-22 00:16 ?3193次閱讀

    AI PC來了!YOGA AI PC系列新品亮相聯(lián)想創(chuàng)新科技大會

    應(yīng)用。個人智能體聯(lián)想小天正式亮相,同時被稱為AI新物種的搭載聯(lián)想小天的AI PC產(chǎn)品也同步發(fā)布,主要包括YOGA Book 9i AI元啟、YOGA Pro 16s
    的頭像 發(fā)表于 04-18 18:45 ?1221次閱讀
    真<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>來了!YOGA <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>系列新品亮相聯(lián)想創(chuàng)新科技大會

    聯(lián)想4月18日發(fā)布AI PC新品,引領(lǐng)AI PC時代

    聯(lián)想觀點(diǎn),適應(yīng)未來趨勢,PC產(chǎn)業(yè)即將步入基于大模型技術(shù)的AI PC階段,引領(lǐng)PC市場進(jìn)入第三個重要代際更迭。于是,
    的頭像 發(fā)表于 03-21 15:28 ?784次閱讀

    AI PC產(chǎn)品密集發(fā)布,預(yù)計2025年AI PC占全球PC出貨量40%

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)根據(jù)市場機(jī)構(gòu)Canalys近日發(fā)布的最新報告,2024年標(biāo)志著傳統(tǒng)PCAI PC的重大轉(zhuǎn)變,預(yù)估今年全球AI PC
    的頭像 發(fā)表于 03-20 01:15 ?3959次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>產(chǎn)品密集發(fā)布,預(yù)計2025年<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>占全球<b class='flag-5'>PC</b>出貨量40%

    AI PC的市場預(yù)測與發(fā)展趨勢

     為了滿足這一需求,當(dāng)前像英特爾這樣的廠商已經(jīng)推出配備了專用AI加速單元(如NPU)的PC處理器產(chǎn)品。他們期待AI PC能夠提升工作效率、提供個性化服務(wù)。
    的頭像 發(fā)表于 03-19 15:30 ?717次閱讀

    防止AI模型被黑客病毒入侵控制(原創(chuàng))聆思大模型AI開發(fā)套件評測4

    在設(shè)計防止AI模型被黑客病毒入侵時,需要考慮到復(fù)雜的加密和解密算法以及模型的實(shí)現(xiàn)細(xì)節(jié),首先需要了解模型的結(jié)構(gòu)和實(shí)現(xiàn)細(xì)節(jié)。 以下是我使用P
    發(fā)表于 03-19 11:18

    新火種AI|全網(wǎng)熱炒的“AI PC”,可能是個偽概念

    ,英特爾CEO帕特·基辛格在硅谷首次提出了AI PC的概念。 英特爾認(rèn)為,所謂AI PC,就是能玩轉(zhuǎn)AI功能的
    的頭像 發(fā)表于 02-18 14:25 ?527次閱讀
    新火種<b class='flag-5'>AI</b>|全網(wǎng)熱炒的“<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>”,可能是個偽概念

    扎堆AI PC戰(zhàn)場,2024年AI PC落地

    無論是傳統(tǒng)的PC制造商如戴爾、聯(lián)想、惠普,還是軟件和芯片巨頭如微軟、英特爾、AMD和英偉達(dá),都紛紛將AI PC作為展示的重點(diǎn),預(yù)示著這一領(lǐng)域即將迎來爆發(fā)式增長。
    的頭像 發(fā)表于 01-22 15:38 ?1485次閱讀

    AI PC時代正在向我們走來

    AI無處不在,充滿未知和期待的AI PC時代正在向我們走來,我們的生活和工作方式即將發(fā)生改變。
    的頭像 發(fā)表于 01-19 09:49 ?621次閱讀

    什么是AI PC、AI手機(jī)?AI PCAI手機(jī)出現(xiàn)的來龍去脈

    相信大家現(xiàn)在每天經(jīng)??梢栽趫笳旅襟w上看到“AI PC”、“AI 手機(jī)” 這兩個詞吧?特別是財經(jīng)新聞,這幾個月時不時就可以看見哪一只股票又因是AI P
    的頭像 發(fā)表于 01-18 10:43 ?1812次閱讀

    從CES 2024看AI PC江湖

    CES 2024有閉幕的一天,但這場名為AIPC產(chǎn)業(yè)協(xié)奏,才初試啼聲
    的頭像 發(fā)表于 01-13 14:53 ?1907次閱讀
    從CES 2024看<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>江湖