從Apple Intelligence到IoT Intelligence，端側(cè)生成式AI時(shí)代加速到來(lái)

9月10日凌晨1點(diǎn)，蘋(píng)果新品發(fā)布會(huì)如期舉行，全新iPhone16系列成為蘋(píng)果生態(tài)中真正意義上的第一款原生AI手機(jī)，在第二代3nm工藝A18和A18 Pro芯片的加持下，iPhone16系列能夠容納并快速運(yùn)行以Apple Intelligence為中心的生成式AI功能在手機(jī)端側(cè)運(yùn)行。用庫(kù)克的話(huà)說(shuō)：“新一代iPhone徹徹底底為Apple Intelligence打造”。

本次發(fā)布會(huì)的主要亮點(diǎn)除蘋(píng)果新增的相機(jī)控制按鈕外，主要集中在蘋(píng)果對(duì)AI生態(tài)的全面構(gòu)建方面。在理解蘋(píng)果發(fā)布會(huì)的新功能之前，先帶大家回顧一下蘋(píng)果在生成式AI方面的主要成果。

具體來(lái)說(shuō)，蘋(píng)果開(kāi)發(fā)了兩種全新基礎(chǔ)語(yǔ)言模型，構(gòu)成了蘋(píng)果Apple Intelligence的核心：一個(gè)是可以在蘋(píng)果云服務(wù)器中運(yùn)行的較大參數(shù)的大語(yǔ)言模型（LLM），稱(chēng)為AFM-server，專(zhuān)為密集型任務(wù)設(shè)計(jì)，并使用私人云計(jì)算（Private Cloud Compute）的系統(tǒng)來(lái)保護(hù)用戶(hù)數(shù)據(jù)；另一個(gè)是端側(cè)小語(yǔ)言模型（SLM）AFM-on-device，大約有30億參數(shù)，通過(guò)對(duì)大語(yǔ)言模型進(jìn)行剪枝、蒸餾，并通過(guò)精選的高質(zhì)量數(shù)據(jù)訓(xùn)練和架構(gòu)調(diào)整而來(lái)，優(yōu)化后可以在iPhone和其他終端設(shè)備上運(yùn)行，具備更高效率和響應(yīng)能力。

蘋(píng)果為何可以稱(chēng)為重新定義了AI手機(jī)？

蘋(píng)果的AI戰(zhàn)略通過(guò)整合操作系統(tǒng)、軟件、模型和數(shù)據(jù)，強(qiáng)化了對(duì)應(yīng)用場(chǎng)景的理解，訓(xùn)練出了能夠深刻洞察用戶(hù)需求并幫助用戶(hù)決策的AI Agent。

簡(jiǎn)單來(lái)講，相較于各類(lèi)傳統(tǒng)的生成式AI應(yīng)用工具，蘋(píng)果將AI功能融合到用戶(hù)使用手機(jī)的每一個(gè)環(huán)節(jié)，通過(guò)手機(jī)端側(cè)運(yùn)行的小語(yǔ)言模型能力讓智能手機(jī)真正成為日常生活、辦公、娛樂(lè)的私人管家，它會(huì)收集整理手機(jī)端本地的各類(lèi)信息，在用戶(hù)使用或有需要時(shí)主動(dòng)提供建議或直接幫助實(shí)現(xiàn)。

并且因?yàn)槠涠藗?cè)模型在本地運(yùn)行的特性，可以充分保護(hù)用戶(hù)的隱私信息安全、提升信息反饋效率?？梢哉f(shuō)每一個(gè)搭載了AI功能的蘋(píng)果手機(jī)都是一個(gè)獨(dú)立的個(gè)體。

為何大廠們最終選擇了端側(cè)AI賽道？

在大語(yǔ)言模型產(chǎn)品的實(shí)際應(yīng)用中，從業(yè)者們逐漸意識(shí)到大模型存在產(chǎn)品訓(xùn)練成本高、算力需求高、資源消耗大等難點(diǎn)，以及應(yīng)用適配性差、網(wǎng)絡(luò)傳輸不穩(wěn)定等缺點(diǎn)。在此背景下，AI模型的發(fā)展正在著力擺脫網(wǎng)絡(luò)、參數(shù)的多方限制，努力向更簡(jiǎn)單、更小體量，為應(yīng)用場(chǎng)景量身定制和跨應(yīng)用生態(tài)的智能化轉(zhuǎn)變。

在端側(cè)AI的實(shí)際應(yīng)用方面，2023年3月谷歌推出參數(shù)規(guī)模達(dá)5620億的PaLM-E的大模型，并在同年10月發(fā)布搭載Google AI基礎(chǔ)功能的Pixel 8系列手機(jī)。2023年11月，vivo發(fā)布1750億規(guī)模的自研藍(lán)心大模型，落地終端側(cè)70億參數(shù)大語(yǔ)言模型；2024年9月6日，榮耀CEO趙明在2024德國(guó)柏林消費(fèi)電子展IFA上面向全球推出行業(yè)首個(gè)跨應(yīng)用開(kāi)放生態(tài)AI Agent。

不難看出，端側(cè)小模型將成為未來(lái)智能手機(jī)乃至各類(lèi)智能終端的語(yǔ)言模型應(yīng)用樣本。IDC（國(guó)際數(shù)據(jù)公司）預(yù)計(jì)2024年全球新一代 AI 手機(jī)的出貨量將超過(guò)1.7億部，約占智能手機(jī)整體出貨量的15%，Counterpoint預(yù)計(jì)2027年出貨量達(dá)到5.22億部，滲透率達(dá)到40%。從大廠們的選擇不難看出，隨著端側(cè)算力的提升，端側(cè)AI成為大模型終端落地的最優(yōu)解，模型語(yǔ)言與應(yīng)用生態(tài)融合發(fā)展的AI Agent成為未來(lái)的趨勢(shì)。

隨著軟硬件技術(shù)的高速發(fā)展，相信除智能手機(jī)外，各類(lèi)IoT終端產(chǎn)品也將逐步落地端側(cè)AI，相關(guān)硬件算力和通信交互需求也將持續(xù)增長(zhǎng)。

美格智能持續(xù)加碼高算力AI模組研發(fā)

與行業(yè)伙伴共建端側(cè)AI新生態(tài)

洞察到端側(cè)AI的優(yōu)勢(shì)和廣闊前景，美格智能?chē)@高算力、大帶寬、低功耗、廣鏈接，打造多款高算力AI模組產(chǎn)品，為端側(cè)小語(yǔ)言模型落地提供12Tops~48Tops算力支持。

在模組強(qiáng)大算力的支持下，不僅能夠在模組上成功運(yùn)行Stable Diffusion、LLaMA-2、通義千問(wèn)Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna等大模型產(chǎn)品，展現(xiàn)出卓越的邊緣端大模型部署能力，同時(shí)模組產(chǎn)品豐富的外圍接口，能夠以AI模組的形式將語(yǔ)音識(shí)別、機(jī)器視覺(jué)、導(dǎo)航、定位、避障和多模態(tài)技術(shù)通過(guò)各種傳感器植入到終端側(cè)，幫助終端產(chǎn)品快速收集和整合信息，打造不斷學(xué)習(xí)進(jìn)步的智能“大腦”，助力客戶(hù)快速實(shí)現(xiàn)端側(cè)AI落地應(yīng)用，節(jié)約開(kāi)發(fā)成本。

同時(shí)，面對(duì)端側(cè)AI與物聯(lián)網(wǎng)生態(tài)融合發(fā)展的新趨勢(shì)，美格智能以智能車(chē)載為切入打造端云協(xié)作的智能物聯(lián)網(wǎng)解決方案。以美格智能在2023年即已發(fā)布的車(chē)規(guī)級(jí)5G R16/R17 + C-V2X系列模組為例，該模組具備的5G通信能力和高算力成為端側(cè)+云端結(jié)合的混合式AI的落地形式之一，可廣泛應(yīng)用于AI Agent智能座艙、高階輔助駕駛、無(wú)人駕駛、車(chē)路云一體化相關(guān)領(lǐng)域。

在通信方面，相關(guān)模組產(chǎn)品符合3GPP Release 16/17標(biāo)準(zhǔn)，支持5G NR 獨(dú)立組網(wǎng)（SA）和非獨(dú)立組網(wǎng)（NSA），兼容全球主流國(guó)家和地區(qū)的頻段，支持選配C-V2X功能，使用全球統(tǒng)一的ITS 5.9GHz頻段部署V2X應(yīng)用，可采用PC5 Mode4模式直連通信，內(nèi)置ECDSA硬件引擎，可實(shí)現(xiàn)高達(dá)6000次/秒的C-V2X驗(yàn)簽性能，具備在高速移動(dòng)環(huán)境中提供遠(yuǎn)距離傳輸、大帶寬、低延時(shí)連接的優(yōu)越性能；在算力方面，模組內(nèi)置多核心CPU處理器，最大支持22K的算力，在充足算力的支持下，車(chē)輛可基于C-V2X構(gòu)建網(wǎng)聯(lián)智能，實(shí)現(xiàn)由端側(cè)車(chē)載計(jì)算、路側(cè)邊緣計(jì)算和中心云計(jì)算構(gòu)成的分級(jí)、網(wǎng)絡(luò)化智能決策與控制，快速進(jìn)行如車(chē)輛碰撞預(yù)警、車(chē)速引導(dǎo)、紅綠燈信息獲取等應(yīng)用。

端側(cè)AI是大模型技術(shù)落地的最優(yōu)解，而端側(cè)AI與云側(cè)大模型協(xié)同的混合式AI被行業(yè)從業(yè)者稱(chēng)為“大模型時(shí)代的終極范式”，充分適配智能座艙、智能機(jī)器人、手持終端、AR/VR眼鏡等產(chǎn)品，成為人工智能落地應(yīng)用的新方向。同時(shí)混合式AI生態(tài)的發(fā)展又對(duì)終端的無(wú)線(xiàn)通信能力和算力提出了新的要求，集成了4G/5G 通信能力和高算力芯片以及眾多功能接口的智能模組和高算力AI模組，或?qū)⒊蔀橹悄芙K端廠商們的首選。

從蘋(píng)果的選擇來(lái)看，隨著端側(cè)算力的不斷增長(zhǎng)和大模型技術(shù)的持續(xù)演進(jìn)，終端側(cè)AI與混合式AI或許將成為大模型時(shí)代的最終選擇。美格智能也將持續(xù)不斷推出高算力模組和智能模組解決方案，以模組+解決方案雙輪驅(qū)動(dòng)，支持更廣泛的垂直領(lǐng)域和合作伙伴共同引領(lǐng)生態(tài)發(fā)展，以先進(jìn)的無(wú)線(xiàn)通信和AI技術(shù)加快實(shí)現(xiàn)萬(wàn)物智聯(lián)的美好愿景。