探索終端操作系統(tǒng)領(lǐng)域AI大模型創(chuàng)新趨勢(shì) OpenHarmony技術(shù)大會(huì)OS原生智能分論壇召開(kāi)
點(diǎn)擊藍(lán)字 ╳ 關(guān)注我們
開(kāi)源項(xiàng)目 OpenHarmony是每個(gè)人的 OpenHarmony 11月4日，第二屆開(kāi)放原子開(kāi)源基金會(huì)OpenHarmony技術(shù)大會(huì)在北京圓滿(mǎn)舉辦。在下午舉辦的OS原生智能分論壇中，華為昇思MindSpore總架構(gòu)師金雪鋒擔(dān)任出品人，華為AI大模型應(yīng)用開(kāi)發(fā)平臺(tái)架構(gòu)師王磊擔(dān)任主持人，與來(lái)自華為、中軟國(guó)際有限公司、深圳市若芯科技有限公司等企業(yè)界技術(shù)領(lǐng)袖和來(lái)自清華大學(xué)、上海交通大學(xué)等學(xué)術(shù)界專(zhuān)家學(xué)者分享了各自領(lǐng)域在OpenHarmony生態(tài)中結(jié)合AI大模型相關(guān)技術(shù)如何進(jìn)行技術(shù)創(chuàng)新、突破技術(shù)難題，并共同探討了未來(lái)AI大模型與終端操作系統(tǒng)相結(jié)合的技術(shù)發(fā)展趨勢(shì)，為共建OpenHarmony繁榮生態(tài)貢獻(xiàn)力量。
?OS原生智能分論壇出品人華為昇思MindSpore總架構(gòu)師金雪鋒
?OS原生智能分論壇主持人華為AI大模型應(yīng)用開(kāi)發(fā)平臺(tái)架構(gòu)師王磊
首先，來(lái)自清華大學(xué)的助理研究員李元春就《大模型驅(qū)動(dòng)的終端智能代理》課題進(jìn)行了報(bào)告分享，介紹了一種大模型驅(qū)動(dòng)的智能個(gè)人代理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)，分享了如何通過(guò)對(duì)移動(dòng)應(yīng)用的自動(dòng)分析和大模型知識(shí)嵌入，將應(yīng)用內(nèi)部的領(lǐng)域知識(shí)與大模型的常識(shí)知識(shí)有機(jī)結(jié)合，實(shí)現(xiàn)更準(zhǔn)確高效的任務(wù)自動(dòng)化。李元春指出，智能個(gè)人代理一直是終端系統(tǒng)研究人員和開(kāi)發(fā)者關(guān)注的關(guān)鍵技術(shù)之一，然而由于用戶(hù)意圖理解、任務(wù)規(guī)劃、工具使用等能力的不足，目前智能個(gè)人代理的智能程度和可擴(kuò)展性仍有較大缺陷。大語(yǔ)言模型的出現(xiàn)則解決了這些難點(diǎn)，李元春表示：“以大語(yǔ)言模型為代表的大模型的出現(xiàn)為該領(lǐng)域的發(fā)展帶來(lái)了嶄新的機(jī)遇，有望通過(guò)強(qiáng)大的語(yǔ)義理解和常識(shí)推理能力大大提升智能個(gè)人代理支持功能的廣度和深度?！?/span>
?清華大學(xué)助理研究員李元春主題分享
中軟國(guó)際有限公司智能物聯(lián)網(wǎng)軍團(tuán)產(chǎn)品研發(fā)管理部總經(jīng)理、OpenHarmony項(xiàng)目群技術(shù)指導(dǎo)委員會(huì)委員張兆生基于自身在大模型及端邊協(xié)同領(lǐng)域的深厚洞察，帶來(lái)了題為《視覺(jué)大模型在OpenHarmony的端邊云側(cè)應(yīng)用》的報(bào)告。他指出，智能化時(shí)代，隨著大模型和算力底層技術(shù)的不斷完善，大模型部署在邊緣側(cè)與終端側(cè)成為必然趨勢(shì)。他高度肯定了OpenHarmony擔(dān)當(dāng)數(shù)字底座的價(jià)值與意義，“OpenHarmony作為萬(wàn)物互聯(lián)時(shí)代的技術(shù)底座，可以廣泛應(yīng)用于多種算力場(chǎng)景，滿(mǎn)足了多連接、高實(shí)時(shí)和海量異構(gòu)數(shù)據(jù)的業(yè)務(wù)需求，起到了向下發(fā)揮硬件算力，向上使能海量應(yīng)用的作用?！痹趶堈咨磥?lái)，以O(shè)penHarmony為根基融合邊端大模型能力，構(gòu)建端邊協(xié)同業(yè)務(wù)場(chǎng)景，可以為行業(yè)提供更有競(jìng)爭(zhēng)力的創(chuàng)新解決方案，加速拓展生態(tài)。
?中軟國(guó)際有限公司智能物聯(lián)網(wǎng)軍團(tuán)產(chǎn)品研發(fā)管理部總經(jīng)理、OpenHarmony項(xiàng)目群技術(shù)指導(dǎo)委員會(huì)委員張兆生主題分享
華為小藝架構(gòu)師周劍輝基于華為小藝在終端產(chǎn)品的智能化服務(wù)技術(shù)思考，帶來(lái)了《基于意圖框架的端側(cè)原生智能大模型生態(tài)建設(shè)探索》主題報(bào)告。這篇報(bào)告中提到，意圖框架是系統(tǒng)級(jí)的意圖標(biāo)準(zhǔn)體系，通過(guò)多維系統(tǒng)感知、大模型等能力構(gòu)建全局意圖范式，實(shí)現(xiàn)對(duì)用戶(hù)顯性與潛在意圖的理解，并及時(shí)、準(zhǔn)確地將用戶(hù)需求傳遞給生態(tài)伙伴，匹配合時(shí)宜的服務(wù)，為用戶(hù)提供多模態(tài)、個(gè)性化的進(jìn)階場(chǎng)景體驗(yàn)。
?華為小藝架構(gòu)師周劍輝主題分享
上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系副教授鄭文立聚焦于機(jī)器學(xué)習(xí)方法，帶來(lái)《端邊云協(xié)同推理中的深度神經(jīng)網(wǎng)絡(luò)動(dòng)態(tài)分割》的報(bào)告。在端邊云環(huán)境下，為了匹配網(wǎng)絡(luò)負(fù)載與服務(wù)器負(fù)載的動(dòng)態(tài)變化，鄭文立教授提出了基于機(jī)器學(xué)習(xí)的DNN分割優(yōu)化算法，并將其實(shí)現(xiàn)在昇思MindSpore上，使之能在執(zhí)行多種常見(jiàn)的CNN、RNN時(shí)自動(dòng)調(diào)整它們跨端、邊/云兩側(cè)的分布，從而保持最低的推理延遲。同時(shí)，他還指出，“資源限制是邊緣計(jì)算面臨的主要挑戰(zhàn)，設(shè)法突破資源限制才能最大化邊緣優(yōu)勢(shì)，使智能真正走進(jìn)每個(gè)人的生活。”
?上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系副教授鄭文立主題分享
來(lái)自華為諾亞方舟實(shí)驗(yàn)室的研究員侯璐則在現(xiàn)場(chǎng)分享了《大語(yǔ)言模型的壓縮加速和高效部署》，這一報(bào)告從架構(gòu)設(shè)計(jì)、成本、吞吐、時(shí)延、長(zhǎng)序列等方面介紹大語(yǔ)言模型在推理階段面臨的內(nèi)存、訪(fǎng)存和計(jì)算的挑戰(zhàn)，以及模型和KV cache量化壓縮、融合大算子和投機(jī)式推理在大語(yǔ)言模型高效推理帶來(lái)的收益。
?華為諾亞方舟實(shí)驗(yàn)室研究員侯璐主題分享
深圳市若芯科技有限公司CTO周芃帶來(lái)《無(wú)處不在的智能：端側(cè)類(lèi)腦大模型的應(yīng)用與解決方案》的演講，面向參會(huì)者介紹了面對(duì)大語(yǔ)言模型的算力開(kāi)銷(xiāo)問(wèn)題，以及如何采用類(lèi)人腦處理信息的方式對(duì)Transformer架構(gòu)進(jìn)行改進(jìn)。通過(guò)使用第三代神經(jīng)網(wǎng)絡(luò)SNN搭建神經(jīng)網(wǎng)絡(luò)，將網(wǎng)絡(luò)中的數(shù)據(jù)使用脈沖序列進(jìn)行存儲(chǔ)和傳輸，在不影響網(wǎng)絡(luò)智能程度的同時(shí)，極大降低了推理開(kāi)銷(xiāo)。周芃表示，“使用該項(xiàng)技術(shù)訓(xùn)練的大模型，不僅做到同參數(shù)級(jí)別能耗、延時(shí)、算力要求最優(yōu)，也成功具備了在消費(fèi)級(jí)設(shè)備本地部署運(yùn)行的能力。
?深圳市若芯科技有限公司CTO周芃主題分享
華為昇思MindSpore架構(gòu)師李政結(jié)合MindSpore框架技術(shù)探索及實(shí)踐經(jīng)驗(yàn)，分享了《MindSpore端側(cè)大模型部署助力OS智能化》的報(bào)告，講解如何解決AI大模型的部署與應(yīng)用挑戰(zhàn)。李政提到，“生成式AI大模型正悄然改變?nèi)藗児ぷ骱蜕睿珹I大模型與智能終端相結(jié)合勢(shì)必引發(fā)新的體驗(yàn)。然而受終端設(shè)備算力和存儲(chǔ)制約，AI大模型端側(cè)部署面臨諸多挑戰(zhàn)”。他在報(bào)告中介紹了MindSpore在大模型端側(cè)部署及推理加速已展開(kāi)的探索和相關(guān)技術(shù)思路，作為云端邊全場(chǎng)景訓(xùn)推一體開(kāi)源AI框架，MindSpore深度參與HarmonyOS AI智能業(yè)務(wù)場(chǎng)景的性能優(yōu)化，大量落地華為手機(jī)、平板、手表、筆記本、智慧屏、智能車(chē)等終端產(chǎn)品。
?華為昇思MindSpore架構(gòu)師李政主題分享
在OS原生智能分論壇的最后環(huán)節(jié)，由論壇主持人華為AI大模型應(yīng)用開(kāi)發(fā)平臺(tái)架構(gòu)師王磊、出品人華為昇思MindSpore總架構(gòu)師金雪鋒及演講嘉賓進(jìn)行了主題為“端側(cè)大模型及應(yīng)用的技術(shù)前沿挑戰(zhàn)及解決方案思路”的圓桌討論，進(jìn)一步深入探討了OS原生智能下的AI應(yīng)用架構(gòu)和框架、模型訓(xùn)推框架、模型架構(gòu)及算法方面的技術(shù)構(gòu)想和思路。
?OS原生智能分論壇圓桌討論：“端側(cè)大模型及應(yīng)用的技術(shù)前沿挑戰(zhàn)及解決方案思路”
至此，第二屆OpenHarmony技術(shù)大會(huì)OS原生智能分論壇圓滿(mǎn)落幕。各位技術(shù)專(zhuān)家與業(yè)界大咖的分享，展示了OpenHarmony在原生智能領(lǐng)域的技術(shù)潛力與應(yīng)用實(shí)踐，也展望了AI大模型與操作終端深度結(jié)合后，必將帶來(lái)大模型擴(kuò)展能力邊界、終端設(shè)備更加智能的“雙贏”前景。而隨著越來(lái)越多原生智能領(lǐng)域的技術(shù)專(zhuān)家和行業(yè)精英加入OpenHarmony社區(qū)，也必將推動(dòng)OpenHarmony生態(tài)枝繁葉茂。
原文標(biāo)題：探索終端操作系統(tǒng)領(lǐng)域AI大模型創(chuàng)新趨勢(shì) OpenHarmony技術(shù)大會(huì)OS原生智能分論壇召開(kāi)
文章出處：【微信公眾號(hào)：OpenAtom OpenHarmony】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
鴻蒙
+關(guān)注
關(guān)注
57文章
2386瀏覽量
42959 -
OpenHarmony
+關(guān)注
關(guān)注
25文章
3744瀏覽量
16466 -
AI大模型
+關(guān)注
關(guān)注
0文章
320瀏覽量
337
原文標(biāo)題：探索終端操作系統(tǒng)領(lǐng)域AI大模型創(chuàng)新趨勢(shì) OpenHarmony技術(shù)大會(huì)OS原生智能分論壇召開(kāi)
文章出處：【微信號(hào)：gh_e4f28cfa3159，微信公眾號(hào)：OpenAtom OpenHarmony】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
開(kāi)源鴻蒙榮獲開(kāi)放原子“2024年度操作系統(tǒng)領(lǐng)域國(guó)內(nèi)活躍開(kāi)源項(xiàng)目”
“開(kāi)源鴻蒙”或“OpenHarmony”）榮獲“2024年度操作系統(tǒng)領(lǐng)域國(guó)內(nèi)活躍開(kāi)源項(xiàng)目”。 活躍的開(kāi)源項(xiàng)目是開(kāi)源生態(tài)核心驅(qū)動(dòng)力，是匯聚各方智慧的結(jié)晶，開(kāi)發(fā)者則是項(xiàng)目發(fā)展的關(guān)鍵力量，推動(dòng)著技術(shù)創(chuàng)新與迭代，讓開(kāi)源生態(tài)充滿(mǎn)活力。開(kāi)源
【書(shū)籍評(píng)測(cè)活動(dòng)NO.53】鴻蒙操作系統(tǒng)設(shè)計(jì)原理與架構(gòu)
輸贏的無(wú)畏實(shí)干。
在這種形勢(shì)下，鴻蒙操作系統(tǒng)突破重圍，脫穎而出，面向智能終端這一新興領(lǐng)域，打造既不受制于人又面向未來(lái)技術(shù)發(fā)展趨勢(shì)，既能應(yīng)對(duì)復(fù)
發(fā)表于 12-16 15:10
世界互聯(lián)網(wǎng)大會(huì)聚焦：首屆AI OS烏鎮(zhèn)咖薈圓滿(mǎn)舉行，探討智能操作系統(tǒng)新未來(lái)
的前沿趨勢(shì)與創(chuàng)新，為全球科技領(lǐng)域帶來(lái)一場(chǎng)智慧交融的盛宴。會(huì)上，深開(kāi)鴻C(jī)EO王成錄做了題為《重塑智能時(shí)代操作系統(tǒng)價(jià)值--當(dāng)
OpenHarmony閃耀亮相CCF開(kāi)源大會(huì)
午，大會(huì)中的OpenHarmony分論壇圓滿(mǎn)舉辦。 11月10日上午，CCF開(kāi)源發(fā)展委員會(huì)常委、OpenHarmony項(xiàng)目群
OpenHarmony城市技術(shù)論壇第11期（香港站）【智能終端操作系統(tǒng)技術(shù)與國(guó)際化生態(tài)構(gòu)建】大咖齊聚
OpenHarmony城市技術(shù)論壇——第11期（香港站） 【主題：智能終端操作系統(tǒng)技術(shù)與國(guó)際化生
高燃回顧｜第三屆OpenHarmony技術(shù)大會(huì)精彩瞬間
卓越開(kāi)源人才
為全球操作系統(tǒng)的技術(shù)創(chuàng)新持續(xù)貢獻(xiàn)中國(guó)力量
立即點(diǎn)擊視頻回顧大會(huì)精彩瞬間
↓↓↓
技術(shù)引領(lǐng)筑生態(tài)，萬(wàn)物智聯(lián)創(chuàng)未來(lái)
讓我們期待下一次的相聚！
發(fā)表于 10-16 18:47
第三屆OpenHarmony技術(shù)大會(huì)在上海成功舉辦
成長(zhǎng)為全球最活躍的智能終端操作系統(tǒng)開(kāi)源社區(qū)之一。同時(shí)他指出OpenHarmony也是一個(gè)高校和企業(yè)、和全社會(huì)協(xié)作融合，以產(chǎn)學(xué)研高效協(xié)同的創(chuàng)新
發(fā)表于 10-13 11:14
開(kāi)啟全新AI時(shí)代 智能嵌入式系統(tǒng)快速發(fā)展——“第六屆國(guó)產(chǎn)嵌入式操作系統(tǒng)技術(shù)與產(chǎn)業(yè)發(fā)展論壇”圓滿(mǎn)結(jié)束
航空航天大學(xué)杭州創(chuàng)新研究院成功舉辦。本屆論壇有16位知名專(zhuān)家學(xué)者和120余位產(chǎn)學(xué)各界嘉賓參會(huì)，論壇圍繞“開(kāi)啟全新AI時(shí)代、智能嵌入式
發(fā)表于 08-30 17:24
第六屆國(guó)產(chǎn)嵌入式操作系統(tǒng)技術(shù)與產(chǎn)業(yè)發(fā)展論壇議程發(fā)布
每年一度的國(guó)產(chǎn)嵌入式操作系統(tǒng)論壇即將在杭州濱江舉辦，今年是第六屆了，又是中國(guó)嵌入式系統(tǒng)新朋老友相聚的時(shí)刻。大模型催生AI走人千家萬(wàn)戶(hù)、喚醒端側(cè)AI
發(fā)表于 07-26 10:54
HDC2024華為發(fā)布鴻蒙原生智能：AI與OS深度融合，開(kāi)啟全新的AI時(shí)代
6月21日，華為開(kāi)發(fā)者大會(huì)2024（HDC.2024）召開(kāi)。 HarmonyOS NEXT將AI與OS深度融合，構(gòu)筑全新鴻蒙原生
華為鴻蒙操作系統(tǒng),引領(lǐng)行業(yè)新篇章
在昨日舉辦的華為開(kāi)發(fā)者大會(huì)論壇上，華為終端BG軟件部總裁龔體發(fā)表了引人注目的演講，向全球開(kāi)發(fā)者及業(yè)界同仁詳細(xì)解讀了華為自主研發(fā)的鴻蒙操作系統(tǒng)（HarmonyOS）的最新進(jìn)展與成就。這場(chǎng)
OpenHarmony開(kāi)發(fā)者大會(huì)2024即將召開(kāi)
當(dāng)前，開(kāi)源技術(shù)已經(jīng)成為推動(dòng)科技創(chuàng)新的重要力量。在這一背景下，OpenAtom OpenHarmony（以下簡(jiǎn)稱(chēng)“OpenHarmony”）項(xiàng)目以其獨(dú)特的開(kāi)源理念和強(qiáng)大的生態(tài)吸引力，正逐
報(bào)名開(kāi)啟！第二屆OpenHarmony開(kāi)發(fā)者大會(huì)2024重磅來(lái)襲！
分論壇”為承載，聚焦OpenHarmony 技術(shù)革新，攜手百位技術(shù)專(zhuān)家共同交流開(kāi)發(fā)者關(guān)心的技術(shù)內(nèi)
發(fā)表于 05-14 15:23
中科創(chuàng)達(dá)全球首發(fā)面向中央計(jì)算的AI原生整車(chē)操作系統(tǒng)—滴水OS
2024年4月26日，作為全球領(lǐng)先的智能操作系統(tǒng)及端側(cè)智能產(chǎn)品和技術(shù)提供商，中科創(chuàng)達(dá)在北京國(guó)際車(chē)展上全球首發(fā)面向中央計(jì)算的AI
聯(lián)想今年將發(fā)布AI OS操作系統(tǒng)
聯(lián)想正式宣布，將把AI PC和個(gè)人Agent作為2024年的核心業(yè)務(wù)推進(jìn)重點(diǎn)，并計(jì)劃在今年內(nèi)推出全新的“AI OS操作系統(tǒng)”以及一系列搭載此系統(tǒng)
工商網(wǎng)監(jiān)
評(píng)論