云天勵飛加速推動大模型行業(yè)落地

7月，由中國信息通信研究院承辦的WAIC 2024“邁向AGI：大模型煥新與產業(yè)賦能”論壇在上海成功召開。論壇深度聚焦大模型行業(yè)應用落地、終端智能、大模型安全等前沿熱點話題。云天勵飛董事長兼CEO陳寧博士受邀發(fā)表主題演講，首次展示云天勵飛邊緣AI的戰(zhàn)略全貌。

大模型落地的多重挑戰(zhàn) 邊緣AI提供解法

今年WAIC上，“大模型+行業(yè)”的應用落地成為關注熱點。

當前，云端大模型落地行業(yè)面臨許多挑戰(zhàn)：行業(yè)數據缺失，信息反饋緩慢，長尾場景無法覆蓋，模型幻覺等。大模型應用落地進入“深水區(qū)”，上述難點如何應對？云天勵飛的答案是：邊緣AI。

云天勵飛董事長兼CEO陳寧博士

邊緣AI具備三個特點：更低成本、更好的數據隱私保護以及更快的響應速度。

近年來，越來越多行業(yè)巨頭開始擁抱邊緣AI：一方面，谷歌、微軟、Meta包括云天勵飛都推出了輕量化大模型支撐邊緣AI的應用；另一方面，蘋果、英偉達等巨頭推出邊緣AI芯片，應用在AI 手機和機器人上，云天勵飛也在2022年底推出DeepEdge 10系列芯片，支撐邊緣端的大模型運行。 此外，邊緣AI讓物聯(lián)網升級成為AIoT，助力大模型落地。國泰君安證券研究所數據顯示，隨著AIOT的發(fā)展，未來3年邊緣智能硬件設備將保持50%以上的復合增長率。

從行業(yè)發(fā)展趨勢中可以看到，邊緣AI正在加速到來。

在應用落地層面，邊緣AI分為個人、家庭、城市三類場景： 在個人領域，搭載了邊緣AI的各種3C設備讓每個人都能擁有一個AI Copilot，AI服務隨手可得； 在家庭領域，邊緣AI讓以服務機器人為代表的各種智能終端主動完成家庭任務，成為每個家庭的生活助手； 在城市領域，邊緣AI賦能下的千行百業(yè)實現無數場景的價值閉環(huán)，如公共安全從“被動治理”到“主動預防”，城市治理實現從發(fā)現、分撥到處置、上報的整體閉環(huán)等。

未來，邊緣AI將滲透至物理世界的各個角落 在演講中，陳寧博士提到，邊緣AI的發(fā)展可以分為四個階段： 第一個階段是在邊緣設備上搭載小模型算法，讓邊緣設備具有處理簡單任務的能力，比如在攝像頭中加入車輛識別、人臉識別等算法; 第二階段是視覺語義大模型走向邊緣，代表的產品有AI手機、AI PC等，這也是我們當前所處的階段; 第三階段是端到端行為大模型走向邊緣，在這一階段，各類機器人、智能可穿戴設備將變得隨處可見; 第四階段是通用人工智能時代，屆時我們將進入萬物皆智能的世界。

云天勵飛邊緣AI布局全景

基于當前邊緣AI的發(fā)展趨勢和多年的技術積累，云天勵飛制定了"2+3+3"邊緣AI的戰(zhàn)略布局全景，即2個技術平臺——多模態(tài)大模型、NPU加速計算平臺；3類主營業(yè)務——智能硬件、智算運營、智慧行業(yè)；3個應用方向——個人Copilot、家庭Copilot、城市Copilot，助力邊緣AI滲透至物理世界的各個角落。

入選信通院2024大模型典型示范應用案例 數字政務大模型落地實踐

在本次論壇中，中國信息通信研究院發(fā)布了2024大模型示范應用案例，“云天天書”數字政務大模型榮列其中。

云天勵飛提出“E-MAGIC”政務大模型服務框架，集成數據交易平臺、AIGC內容生成平臺、數據加工及分析平臺、GPT大模型訓練中心、輸入提示工程中心和算力支持六大核心組件，利用前沿的AI技術和大數據處理能力，為政府部門提供高效的數據服務和智能化解決方案，提升日常辦公的效率及服務質量等。

云天勵飛“E-MAGIC”政府大模型平臺架構 此外，云天勵飛在某區(qū)全面落地的數字政府大模型，實現了基層工作“大減負”：比如在12345系統(tǒng)，過去人工根據權責清單進行點選和事件分撥最快也需要15秒，在應用大模型后3秒后即可實現智能分撥，無需人工參與，還能避免誤操作，效率提升達到80%。

在今年的WAIC上，“大模型+行業(yè)”成為趨勢，如何讓大模型作為新質生產力賦能千行百業(yè)是政府部門和企業(yè)都關心的問題。在這個過程中，云天勵飛將持續(xù)深耕，不斷創(chuàng)新，推動邊緣AI與物理世界的融合，加速推動大模型行業(yè)落地。

審核編輯：彭菁