高通WAIC展示兩大終端側(cè)生成式AI技術(shù) AI引擎獲獎

7月6日至8日，2023世界人工智能大會(WAIC)在上海舉行。本屆大會以“智聯(lián)世界 生成未來”為主題，聚焦AI前沿技術(shù)和產(chǎn)業(yè)發(fā)展。高通公司連續(xù)第六年參會，并參與多場論壇，從技術(shù)研究、應(yīng)用部署和產(chǎn)業(yè)賦能等多個角度，描繪了混合AI賦能的智能未來。同期，第二代驍龍8的高通AI引擎獲得大會最高獎項——SAIL獎(卓越人工智能引領(lǐng)者獎);高通還在現(xiàn)場帶來了其強大終端側(cè)AI賦能的生成式AI用例技術(shù)演示。

推動5G+AI邊緣側(cè)創(chuàng)新，夯實智能未來發(fā)展基礎(chǔ)

高通技術(shù)公司首席商務(wù)官Jim Cathey在大會首日全體會議——產(chǎn)業(yè)發(fā)展論壇上表示：“5G對于一個更加智能的世界至關(guān)重要。憑借卓越的性能、可靠性和容量，5G正在向智能手機之外的更多領(lǐng)域擴展，實現(xiàn)萬物互聯(lián)，成為數(shù)字經(jīng)濟的關(guān)鍵基礎(chǔ)設(shè)施。同時，5G還助力AI擴展至更多邊緣側(cè)終端，不僅推動了智能的規(guī)模化擴展，還能夠使在邊緣側(cè)生成的情境相關(guān)數(shù)據(jù)與云端近乎實時地共享。”

高通技術(shù)公司首席商務(wù)官Jim Cathey發(fā)表演講

作為終端側(cè)AI領(lǐng)導(dǎo)者，高通公司投入AI研發(fā)已超過15年，構(gòu)建了強大的邊緣側(cè)AI技術(shù)、布局和規(guī)?；瘍?yōu)勢。高通技術(shù)公司全球副總裁兼高通AI研究負責(zé)人侯紀(jì)磊博士表示：“憑借一系列基礎(chǔ)研究，以及跨AI應(yīng)用、模型、硬件與軟件的全棧終端側(cè)AI優(yōu)化，我們的持續(xù)創(chuàng)新讓公司始終處于終端側(cè)AI解決方案的最前沿。”

侯紀(jì)磊博士特別指出，高通的AI解決方案旨在提供最佳能效，讓AI無處不在。高通AI引擎作為公司多年全棧AI優(yōu)化的結(jié)晶，能夠以極低功耗提供業(yè)界領(lǐng)先的終端側(cè)AI性能，賦能當(dāng)前和未來的用例。此外，可擴展的技術(shù)架構(gòu)讓用戶能夠采用一個高度優(yōu)化的AI軟件棧，即可在不同終端和模型上進行工作，以強大的靈活性和穩(wěn)健性應(yīng)對未來的AI技術(shù)發(fā)展。

高通技術(shù)公司全球副總裁兼高通AI研究負責(zé)人侯紀(jì)磊博士發(fā)表演講

賦能生成式AI規(guī)模化擴展，混合AI是AI的未來

采用混合AI或僅在終端側(cè)運行AI，能夠在全球范圍帶來成本、能耗、性能、隱私、安全和個性化優(yōu)勢。隨著生成式AI的飛速普及和計算需求的日益增長，混合處理的重要性空前突顯。高通認為，要真正推動生成式AI成為主流，并發(fā)揮其最大潛能，必須采取混合AI架構(gòu)。近期，高通公司發(fā)布白皮書《混合AI是AI的未來》，詳細闡述了公司的混合AI愿景。

高通技術(shù)公司產(chǎn)品管理高級副總裁兼AI負責(zé)人Ziad Asghar在演講中表示：“為實現(xiàn)生成式AI的規(guī)?；瘮U展，AI處理的重心正在向邊緣轉(zhuǎn)移?；旌螦I架構(gòu)在云端和邊緣終端之間分配并協(xié)同處理AI工作負載，能夠?qū)崿F(xiàn)更強大、更高效且高度優(yōu)化的AI。我們正在引領(lǐng)混合AI愿景的實現(xiàn)，通過無線連接、高效計算和分布式AI融合云端和終端，釋放生成式AI的無限潛力。”

高通技術(shù)公司產(chǎn)品管理高級副總裁兼AI負責(zé)人Ziad Asghar發(fā)表演講

高通的AI能力已賦能一系列廣泛的產(chǎn)品，包括手機、汽車、XR、PC、物聯(lián)網(wǎng)設(shè)備等，搭載驍龍和高通平臺的已上市用戶終端數(shù)量已達到數(shù)十億臺。據(jù)Ziad介紹，高通正在將更多生成式AI用例向邊緣側(cè)遷移，目前，參數(shù)超過10億的AI模型已經(jīng)能夠在手機上運行，且性能和精度達到與云端相似的水平。不久的將來，擁有100億或更大參數(shù)的生成式AI模型將能夠在終端上運行，推動生成式AI的普及。

技術(shù)哺育行業(yè)生態(tài)，打造開放元宇宙未來

高通作為5G、AI、XR等創(chuàng)新技術(shù)的領(lǐng)導(dǎo)者，致力于以行業(yè)領(lǐng)先的軟硬件綜合解決方案，加速元宇宙和XR生態(tài)系統(tǒng)的發(fā)展。高通技術(shù)公司高級副總裁程立新在演講中表示：“5G、AI和XR，是構(gòu)建元宇宙的三大基礎(chǔ)技術(shù)。利用我們在5G和終端側(cè)AI領(lǐng)域的強大技術(shù)優(yōu)勢，高通公司正在加速5G、AI和XR技術(shù)的融合，構(gòu)建智能網(wǎng)聯(lián)邊緣，推動打造更沉浸、更智能的XR世界?！?/p>

高通技術(shù)公司高級副總裁程立新發(fā)表演講

生成式AI能為元宇宙內(nèi)容建設(shè)帶來巨大前景。生成式AI有潛力在未來普及3D內(nèi)容創(chuàng)作，比如賦能內(nèi)容創(chuàng)作者使用如文本、語音、圖像或視頻等各種類型的提示，生成3D物體和場景，并最終創(chuàng)造出完整的虛擬世界。此外，內(nèi)容創(chuàng)作者將能夠利用文本生成文本的大語言模型，生成類人對話，這些進步都將變革用戶在XR設(shè)備上創(chuàng)造和體驗沉浸式內(nèi)容的方式，構(gòu)建開放、個性化的元宇宙未來。

引領(lǐng)業(yè)界AI創(chuàng)新，樹立行業(yè)技術(shù)新標(biāo)桿

高通以開創(chuàng)性的技術(shù)創(chuàng)新，持續(xù)引領(lǐng)終端側(cè)智能體驗的發(fā)展。第二代驍龍8移動平臺的高通AI引擎，榮獲了世界人工智能大會最高獎項——SAIL獎(卓越人工智能引領(lǐng)者獎)。高通AI引擎能夠為終端側(cè)AI推理加速提供卓越性能和能效，并支持豐富AI用例創(chuàng)新，提升用戶體驗。高通AI引擎實現(xiàn)軟硬件一體，硬件側(cè)采用異構(gòu)計算架構(gòu)，其關(guān)鍵核心Hexagon處理器擁有一系列創(chuàng)新，如提供專用供電系統(tǒng)，支持微切片推理、INT4精度、transformer網(wǎng)絡(luò)加速等。

第二代驍龍8移動平臺的高通AI引擎榮獲SAIL獎(卓越人工智能引領(lǐng)者獎)

憑借高通AI引擎的全棧AI能力和優(yōu)化手段，高通已經(jīng)率先將生成式AI能力帶到了終端側(cè)，并在WAIC上進行了技術(shù)展示，讓廣大參會者見證了強大終端側(cè)AI將如何助力生成式AI在終端側(cè)實現(xiàn)無限潛力。

其中，全球首個運行在Android手機上的Stable Diffusion終端側(cè)演示，能夠在15秒內(nèi)執(zhí)行20步推理，完全在手機上處理超過10億參數(shù)模型。這是智能手機上最快的推理速度，媲美云端時延，且用戶文本輸入完全不受限制。目前，高通已經(jīng)將這一用例擴展至驍龍計算平臺賦能的PC產(chǎn)品。此外，高通還帶來了全球最快的手機上的ControlNet終端側(cè)演示，該模型擁有15億參數(shù)，在這項演示中，只用不到12秒即可在移動終端上生成AI圖像，無需訪問任何云端，便能提供高效、有趣、可靠且私密的交互式用戶體驗。