GTC23 | 作為支撐文心一言的深度學習平臺，百度飛槳將在 GTC 帶來哪些精彩分享？

3 月 16 日，百度在北京總部召開新聞發(fā)布會，主題圍繞新一代大語言模型、生成式 AI 產(chǎn)品文心一言。百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏及百度首席技術官王海峰出席，并展示了文心一言在文學創(chuàng)作、商業(yè)文案創(chuàng)作、數(shù)理推算、中文理解、多模態(tài)生成五個使用場景中的綜合能力。

目前，大語言模型和生成式 AI 代表了一個新技術范式，是全球每家企業(yè)都不可錯過的機會。百度憑借其在人工智能領域深耕多年的技術儲備發(fā)力，抓住此次生成式 AI 發(fā)展風口，文心一言顯示了其引領中國生成式 AI 產(chǎn)品發(fā)展的勢頭。

事實上，截至 2022 年 11月底，支撐文心一言的飛槳深度學習平臺已凝聚 535 萬開發(fā)者，創(chuàng)建了 67萬個 AI 模型，服務于 20萬家企事業(yè)單位，在工業(yè)、能源、交通、農(nóng)業(yè)等領域大放異彩，構建起一個繁榮的深度學習生態(tài)。

在下周舉行的 GTC 2023 春季大會上，百度飛槳又將帶來哪些精彩分享？

3 月 20-23 日 鎖定 GTC 2023！

面向全球 AI 開發(fā)者的 GTC 2023 將于 3 月 20-23 日在線上舉辦，這場被 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛描述為 “迄今為止最重要的一次 GTC”，將帶來 650 多場演講、專家座談會和特別活動，幾乎涵蓋了計算領域的所有熱門內(nèi)容，預計將有超過 25 萬人報名參加。

本次 GTC 大會上，來自百度的四位專家將帶來精彩的內(nèi)容分享。

其中，百度 AI 技術生態(tài)總經(jīng)理馬艷軍，將以《飛槳深度學習平臺高效支持大模型生產(chǎn)及應用》為題，分享飛槳和文心大模型的發(fā)展現(xiàn)狀，并詳細介紹飛槳框架的訓練和推理技術以及相關應用實踐。對文心一言底層技術支撐感興趣的朋友，請勿錯過！

此外，百度主任架構師、百度 MEG 商業(yè)模型中臺技術負責人焦學武，將介紹百度基于 GPU 的超大規(guī)模圖模型訓練框架 PGLBox。在 2023 年 1 月舉行的百度Create AI 開發(fā)者大會上，PGLBox 作為十大 “黑科技” 之一首次亮相。據(jù)悉，通過多種技術手段，PGLBox 已全面解決了圖模型訓練的性能問題、規(guī)模問題、建模問題，是業(yè)界首個同時支持復雜算法+超大圖+超大離散模型的大規(guī)模圖學習訓練技術。

如果說 AI for Science，能幫助未來的科研成果加速來到現(xiàn)實，那么 PGLBox 將在生活中幫助我們構建 “預知未來” 的能力引擎，有望大幅提升生活中所經(jīng)常需要的出行時間預測和信息推薦等服務的準確性。PGLBox 為百度業(yè)務創(chuàng)新提供了廣闊的空間，目前已經(jīng)在智能交通、信息推薦、搜索等標桿場景實現(xiàn)落地，大幅提升業(yè)務效率和用戶體驗。

除此以外，還有關于飛槳端到端大模型開發(fā)套件的介紹——百度資深工程師敖玉龍，將以《面向大模型的端到端套件 PaddleFleetX》為題，介紹依托于飛槳產(chǎn)業(yè)級深度學習平臺的大模型訓推一體開發(fā)套件 PaddleFleetX。百度飛槳高級產(chǎn)品經(jīng)理雷青，將介紹全場景、高性能的 AI 部署工具飛槳 FastDeploy。

以下為演講具體介紹。掃描二維碼，搜索會議代碼找到對應演講內(nèi)容，通過點擊“Add to Schedule”或點擊“星星”，將該演講內(nèi)容添加至您的日程，大會開始后登錄即可在線觀看。

飛槳深度學習平臺高效支持大模型生產(chǎn)及應用

會議代碼：[S52366]

演講時間：3 月 22 日 即可在線觀看

（自主點播形式）

演講嘉賓：

馬艷軍

百度 AI 技術生態(tài)總經(jīng)理

演講概要：

源于百度業(yè)務對人工智能技術的廣泛應用，飛槳深度學習平臺結合應用持續(xù)創(chuàng)新，研發(fā)了業(yè)界領先的大規(guī)模分布式訓練技術。飛槳先后發(fā)布了 4D 混合并行訓練、端到端自適應分布式訓練、超大規(guī)模圖訓練引擎等核心技術，并基于這些技術支持文心大模型的訓練和部署。目前，文心大模型已經(jīng)覆蓋基礎大模型、任務大模型、行業(yè)大模型的三級體系，飛槳+文心大模型賦能千行百業(yè)的智能化升級。

掃碼預約觀看本場演講

進入頁面后，

點擊會議標題右上角［五角星］

完成注冊并加入收藏

PGLBox：百度基于 GPU 的

超大規(guī)模圖模型訓練框架

會議代碼：[SE51302]

演講時間：3 月 22 日3:30 PM

演講嘉賓：

焦學武

百度主任架構師

百度 MEG 商業(yè)模型中臺技術負責人

演講概要：

PGLBox 是百度研發(fā)的基于 GPU 的大規(guī)模圖模型訓練框架，支持數(shù)百億節(jié)點和邊的圖模型全 GPU 訓練，已在百度廣泛部署。與傳統(tǒng)的基于 CPU 的分布式解決方案相比，PGLBox 可以在相同的成本下獲得 28 倍的訓練加速。相比業(yè)界主流的分布式 CPU 解決方案，PGLBox 具有超高性能、超大規(guī)模、算法豐富、靈活易用、落地廣泛等優(yōu)勢。

PGLBox 由以下主要組件組成：

1. 超高性能的分布式 GPU 圖學習訓練框架，圖存儲、深度行走、采樣和訓練全流程 GPU 化，通過使用 GPU 并行技術大大加快了圖模型的樣本生成和訓練。

2. 業(yè)界首個多級存儲圖引擎，對圖/屬性/模型差異化存儲構建多級存儲體系，能夠使用單臺 GPU 服務器訓練數(shù)百億節(jié)點和邊的圖模型。

3. 吞吐最大化的流水線架構，采樣、屬性拉取、參數(shù)拉取和模型訓練的流水線架構，高效進行端到端的圖模型訓練。

4. 預置豐富的圖表示學習算法，支持跨場景異構圖建模和復雜圖屬性建模，首次實現(xiàn) ERNIE-Sage + 大規(guī)模圖結構信息 + 大規(guī)模離散特征的統(tǒng)一建模。

掃碼預約觀看本場演講

進入頁面后，點擊［Add to Schedule］

完成注冊并添加至您的日程

面向大模型的端到端套件 PaddleFleetX

會議代碼：[S51309]

演講時間：3 月 23 日 10:00 AM

演講嘉賓：

敖玉龍

百度資深工程師

演講概要：

大規(guī)模預訓練技術已經(jīng)在多個領域表現(xiàn)出了優(yōu)秀效果，但是從應用和落地的角度來看，其門檻并不低。PaddleFleetX 是一款依托于飛槳深度學習平臺的面向大模型的端到端套件，涵蓋了開發(fā)、訓練、小型化、推理等全流程，具備簡單易用、性能領先、且功能強大等特色。本演講將介紹 PaddleFleetX 相關核心技術，包括全場景分布式并行策略、極致的分布式訓練優(yōu)化技術，豐富多樣的模型小型化能力和高效的大模型分布式推理與部署方案。

掃碼預約觀看本場演講

進入頁面后，點擊［Add to Schedule］

完成注冊并添加至您的日程

全場景高性能 AI 部署工具 FastDeploy

會議代碼：[S52367]

演講時間：3 月 23 日 2:00 PM

演講嘉賓：

雷青

百度飛槳高級產(chǎn)品經(jīng)理

演講概要：

FastDeploy 是一款全場景、極致高效、易用靈活的 AI 推理部署工具，支持云邊端部署。統(tǒng)一飛槳及生態(tài)的多端部署 API ，目前支持 Paddle Inference、Paddle Lite、TensorRT、ONNX Runtime、Poros等推理引擎，一行命令可靈活切換多個推理引擎后端；同時支持 Triton Inference Server，一款工具可實現(xiàn)快速的云邊端部署。

通過集成 CV-CUDA、FastTokenier、FlyCV 等 AI 加速庫，以及 PaddleSlim 自動壓縮工具，實現(xiàn) AI 模型端到端的性能優(yōu)化。FastDeploy 精心完成了部署 API 設計，確保不同語言的開發(fā)者能夠享受到統(tǒng)一的 API 體驗，不同語言只需要 3 行核心代碼，就可以實現(xiàn)預置模型的高性能推理；預置的 160+SOTA 產(chǎn)業(yè)模型的端到端示例 ，快速完成 AI 的產(chǎn)業(yè)落地。

掃碼預約觀看本場演講

進入頁面后，點擊［Add to Schedule］

完成注冊并添加至您的日程

預約觀看百度 GTC 2023 精彩演講

想要預約以上精彩內(nèi)容？掃描下方圖片二維碼 或 點擊 “閱讀原文”，即可搜索相關會議代碼找到對應演講內(nèi)容，通過點擊“Add to Schedule”或點擊“星星”，將該演講內(nèi)容添加至您的日程，大會開始后登錄即可在線觀看。

例如：搜索演講代碼 [SE51302]，點擊“Add to Schedule”，即可將該演講添加至您的日程。

例如：搜索演講代碼 [S52366]，發(fā)現(xiàn)沒有“Add to Schedule”按鈕，說明該演講為自主點播形式，從 3 月 22 日開始即可在線觀看。點擊右上方的星星，將該演講添加至您的日程。

如果尚未注冊，請點擊鏈接查看 GTC23 注冊教程。

請在 3 月 26 日前完成在線注冊，免費觀看以及回看GTC 2023 春季大會超過 650 場精彩內(nèi)容！

歡迎加入 GTC 2023，與全球 AI 者同行！

掃描下方海報二維碼，鎖定 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛的 GTC 主題演講！北京時間 3 月 21 日 23:00 全球首播，3 月 22 日 10:00 中國重播。深度解讀 NVIDIA 加速計算平臺如何推動人工智能、元宇宙、云技術和可持續(xù)計算的下一波浪潮。加入 GTC23，切勿錯過 AI 的決定性時刻！