0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

你想知道的都在這里 “百度Create 2018”圓滿落幕

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:工程師譚軍 ? 2018-07-09 17:29 ? 次閱讀

在“百度Create 2018”百度開(kāi)發(fā)者大會(huì)上,百度發(fā)布了升級(jí)版的開(kāi)源深度學(xué)習(xí)框架PaddlePaddle,可謂深度學(xué)習(xí)模型設(shè)計(jì)的利器,讓開(kāi)發(fā)者只需關(guān)注模型的高層結(jié)構(gòu),而無(wú)需擔(dān)心底層的搭建問(wèn)題。同時(shí),百度在2017年11月發(fā)布了以此框架為基礎(chǔ)的,定制化訓(xùn)練和服務(wù)平臺(tái)EasyDL,即使零機(jī)器學(xué)習(xí)算法基礎(chǔ),也能全程通過(guò)可視化操作獲取定制化AI服務(wù)。

百度作為全球人工智能核心技術(shù)和研究的領(lǐng)軍企業(yè),通過(guò)搭建AI開(kāi)放平臺(tái)(ai.baidu.com)和PaddlePaddle深度學(xué)習(xí)框架將百度大腦中領(lǐng)先的核心能力賦能到更為廣泛的行業(yè)生態(tài)、科研院所和開(kāi)發(fā)者社區(qū)中,提供了全球領(lǐng)先的AI服務(wù)基礎(chǔ)設(shè)施。在以平臺(tái)化開(kāi)放百度大腦中的核心基礎(chǔ)能力的同時(shí),百度也非常關(guān)注各個(gè)行業(yè)中對(duì)AI模型和服務(wù)的定制化需求。

百度AI開(kāi)放平臺(tái)團(tuán)隊(duì)基于PaddlePaddle打造了EasyDL這一全球領(lǐng)先的定制化模型訓(xùn)練和推理平臺(tái)。目前EasyDL已經(jīng)在圖像分類(Image Classification), 物體檢測(cè)(Object Detection)等方向支持零算法基礎(chǔ)的定制化模型訓(xùn)練與服務(wù)。除了云端服務(wù)(Cloud Computing),EasyDL還支持定制化模型在設(shè)備端的本地計(jì)算(Edge Computing),是一個(gè)端云一體的平臺(tái)。用戶通過(guò)將平臺(tái)的定制能力與行業(yè)場(chǎng)景結(jié)合,實(shí)現(xiàn)了大量人工智能創(chuàng)新。自2017年上線以來(lái),EasyDL已累計(jì)創(chuàng)建模型破萬(wàn),已覆蓋20多個(gè)行業(yè)。

在賦能行業(yè)的平臺(tái)的背后,EasyDL依托于NVIDIA的Tesla GPU深度學(xué)習(xí)平臺(tái),搭建了用于深度學(xué)習(xí)模型訓(xùn)練(Training)和服務(wù)(Inference)階段的GPU集群。該集群能支持高效的大規(guī)模深度神經(jīng)網(wǎng)絡(luò)模型并發(fā)訓(xùn)練,并大幅縮短模型訓(xùn)練周期,顯著減少定制服務(wù)調(diào)用階段的響應(yīng)時(shí)間,從而為EasyDL提供了堅(jiān)實(shí)的技術(shù)保障。

不同行業(yè)對(duì)人工智能的定制化需求是通用AI能力難以滿足的

行業(yè)AI定制化需求

對(duì)訓(xùn)練和推理算力提出高要求

滿足不同行業(yè)對(duì)AI的定制化需求,其實(shí)存在諸多業(yè)務(wù)和技術(shù)上的挑戰(zhàn)。首先,提出定制化AI需求的行業(yè)用戶雖然是各自行業(yè)的領(lǐng)域?qū)<业珜?duì)于人工智能及深度學(xué)習(xí)的技術(shù)知之甚少,要求他們直接通過(guò)深度學(xué)習(xí)框架訓(xùn)練得到定制化模型是不切實(shí)際的。其次,這些用戶也往往不具備用于模型訓(xùn)練和服務(wù)部署的大規(guī)模GPU集群,更沒(méi)有資源投入到長(zhǎng)期的服務(wù)升級(jí)和運(yùn)維工作中。更為重要的是,定制化模型的訓(xùn)練和基于推理的服務(wù)都必須足夠的快, 用戶才能及時(shí)得到反饋,調(diào)整訓(xùn)練數(shù)據(jù)和方案,優(yōu)化訓(xùn)練效果;才能在服務(wù)調(diào)用時(shí)滿足嚴(yán)苛的時(shí)效性要求;平臺(tái)才能實(shí)現(xiàn)大規(guī)模并發(fā)訓(xùn)練和并發(fā)服務(wù)請(qǐng)求。

EasyDL技術(shù)框圖,學(xué)習(xí)和服務(wù)環(huán)節(jié)依托大規(guī)模NVIDIA GPU集群

如上圖所示,百度基于其開(kāi)源深度學(xué)習(xí)框架PaddlePaddle實(shí)現(xiàn)EasyDL的核心訓(xùn)練和服務(wù)引擎,在計(jì)算視覺(jué)的圖像分類和物體檢測(cè)等定制化方向上,使用了基于Inception、SSD、ResNet、FasterRCNN等多個(gè)深度神經(jīng)網(wǎng)絡(luò)原型算法優(yōu)化的模型。模型的訓(xùn)練和服務(wù)階段采用了大規(guī)模的NVIDIA Tesla P4 為主的GPU集群,通過(guò)數(shù)據(jù)比對(duì)可以看到,基于GPU集群性能遠(yuǎn)超CPU集群。

大規(guī)模NVIDIA Tesla P4 GPU集群

加速AI訓(xùn)練與推理

目前,百度EasyDL團(tuán)隊(duì)基于單機(jī)4卡Tesla P4 GPU的服務(wù)器搭建了數(shù)十臺(tái)深度神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練和推理的GPU加速集群,能穩(wěn)定承載每天數(shù)百個(gè)并發(fā)訓(xùn)練任務(wù),以及數(shù)千個(gè)并發(fā)定制模型推理請(qǐng)求。

Tesla P4加速器的單精度浮點(diǎn)數(shù)(FP32)計(jì)算能力達(dá)到了5.5TFLOPS,集群?jiǎn)喂?jié)點(diǎn)GPU的單精度浮點(diǎn)計(jì)算能力可達(dá)到22TFLOPS。Tesla P4可將任何超大規(guī)?;A(chǔ)架構(gòu)的延遲降低 15 倍,并可以提供比 CPU 高 60 倍的能效,可助力實(shí)現(xiàn)許多過(guò)去由于延遲限制而無(wú)法實(shí)現(xiàn)的應(yīng)用。

在典型業(yè)務(wù)場(chǎng)景下,對(duì)集群?jiǎn)喂?jié)點(diǎn)的承載和時(shí)延性能進(jìn)行壓力測(cè)試,可以看到基于GPU集群的性能顯著優(yōu)于CPU集群。其中,圖像分類上單節(jié)點(diǎn)每秒并發(fā)承載能力(QueryPerSecond) GPU節(jié)點(diǎn)是CPU節(jié)點(diǎn)的6倍多,響應(yīng)時(shí)延則僅為CPU節(jié)點(diǎn)的58%左右;物體檢測(cè)中更為明顯,GPU單節(jié)點(diǎn)并發(fā)承載能力達(dá)到CPU節(jié)點(diǎn)的31倍,響應(yīng)時(shí)延則僅為CPU節(jié)點(diǎn)的25%。由于基于GPU集群的訓(xùn)練和服務(wù)都足夠快,因此,在用戶體驗(yàn)方面,EasyDL的用戶最快5分鐘即可完成定制模型的訓(xùn)練并獲得服務(wù),對(duì)比同類需求通常需要數(shù)天的訓(xùn)練周期大幅提升了效率。這解決了定制化模型訓(xùn)練和服務(wù)中的核心挑戰(zhàn)。同時(shí),為EasyDL場(chǎng)景和行業(yè)覆蓋的迅速規(guī)?;蛳铝嗽鷮?shí)的基礎(chǔ)。也確保了EasyDL更輕快、高精度等特性。

你想知道的都在這里 “百度Create 2018”圓滿落幕

真實(shí)業(yè)務(wù)場(chǎng)景數(shù)據(jù)并發(fā)和時(shí)延壓測(cè)比對(duì)

5分鐘完成定制模型訓(xùn)練與推理

零基礎(chǔ)也能快速上手

為降低行業(yè)用戶的使用門(mén)檻,實(shí)現(xiàn)零機(jī)器學(xué)習(xí)基礎(chǔ),零代碼獲得定制化深度學(xué)習(xí)模型及接口服務(wù),百度EasyDL提供了簡(jiǎn)單且完善的平臺(tái)業(yè)務(wù)系統(tǒng),用戶只需上傳數(shù)據(jù)、發(fā)起訓(xùn)練、驗(yàn)證效果、發(fā)布模型四個(gè)步驟,就能快速獲得定制化接口服務(wù)。

你想知道的都在這里 “百度Create 2018”圓滿落幕

極簡(jiǎn)業(yè)務(wù)流程使得EasyDL對(duì)普通用戶可即用

為了使得模型訓(xùn)練、部署和推理對(duì)用戶透明,百度EasyDL團(tuán)隊(duì)打造了結(jié)合大數(shù)據(jù)Spark系統(tǒng)和AI分布式訓(xùn)練Kubernetes工具的AI Workflow引擎,實(shí)現(xiàn)了從數(shù)據(jù)處理到推理上線的全自動(dòng)流程。如此一來(lái),就解決了業(yè)務(wù)人員不懂代碼,程序員不懂業(yè)務(wù)的痛點(diǎn)難點(diǎn),使得AI技術(shù)能夠迅速被業(yè)務(wù)人員學(xué)習(xí)和掌握,從而專注于精進(jìn)業(yè)務(wù)能力。

你想知道的都在這里 “百度Create 2018”圓滿落幕

全自動(dòng)AI Workflow引擎

圖像識(shí)別準(zhǔn)確率大幅提高

人力成本顯著降低

在NVIDIA Tesla P4加速器的強(qiáng)大算力助力下,百度EasyDL已經(jīng)在多個(gè)行業(yè)落地應(yīng)用。比如在制造業(yè)中,百度EasyDL平臺(tái)也在幫越來(lái)越多的企業(yè)提升效率并節(jié)約人力。比如蝶魚(yú)科技將百度EasyDL接口與工業(yè)攝像頭、工業(yè)光源、激光測(cè)距儀、PLC控制氣缸等設(shè)備組成綜合檢測(cè)系統(tǒng),在制造和組裝鍵盤(pán)流水線上,自動(dòng)識(shí)別鍵盤(pán)組裝后的合格性,包括缺件、錯(cuò)裝、正常三類,通過(guò)3000+張圖片的驗(yàn)證(每類1000張),識(shí)別準(zhǔn)確率99%以上,遠(yuǎn)超蝶魚(yú)科技的預(yù)期。同時(shí),每條生產(chǎn)流水線每年可以節(jié)省12萬(wàn)人工檢測(cè)員人力成本。

鍵盤(pán)組裝質(zhì)量檢測(cè)

在GPU 的助力下,包括百度EasyDL平臺(tái)在內(nèi)的諸多行業(yè)客戶,獲得了深度學(xué)習(xí)和推理應(yīng)用的能力和智慧,進(jìn)而定制出豐富、個(gè)性化、不斷動(dòng)態(tài)升級(jí)的AI行業(yè)解決方案,同時(shí)也對(duì)傳統(tǒng)的行業(yè)應(yīng)用提供了創(chuàng)新思路,隨著基于行業(yè)的AI生態(tài)不斷通過(guò)百度EasyDL這樣的平臺(tái)聚合與裂變,以AI為核心特征的新應(yīng)用大爆發(fā)時(shí)代已經(jīng)來(lái)臨。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31892

    瀏覽量

    270708
  • 百度
    +關(guān)注

    關(guān)注

    9

    文章

    2295

    瀏覽量

    90870
  • 人工智能
    +關(guān)注

    關(guān)注

    1797

    文章

    47900

    瀏覽量

    240918
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5521

    瀏覽量

    121672

原文標(biāo)題:GPU集群助力百度為行業(yè)提供高效定制化AI訓(xùn)練和推理平臺(tái)

文章出處:【微信號(hào):NVIDIA-Enterprise,微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    百度科啟動(dòng)“繁星計(jì)劃”

    近日,百度科攜手中國(guó)科協(xié)、中國(guó)科學(xué)院大學(xué)共同舉辦了史記2024·科學(xué)科100詞發(fā)布會(huì),并在此盛會(huì)上正式啟動(dòng)了“繁星計(jì)劃”。這一計(jì)劃的核心目標(biāo)在于利用前沿的AI技術(shù),包括數(shù)字人、智能體等,以及
    的頭像 發(fā)表于 12-31 10:26 ?254次閱讀

    百度正式回應(yīng)進(jìn)軍短劇領(lǐng)域

    近日,百度在線網(wǎng)絡(luò)技術(shù)(北京)有限公司在知識(shí)產(chǎn)權(quán)領(lǐng)域有了新的動(dòng)作,據(jù)天眼查信息顯示,該公司已申請(qǐng)注冊(cè)“百度短劇”商標(biāo),涵蓋網(wǎng)站服務(wù)、科學(xué)儀器、教育娛樂(lè)等多個(gè)國(guó)際分類,目前這些商標(biāo)均處于等待實(shí)質(zhì)審查
    的頭像 發(fā)表于 12-17 14:19 ?269次閱讀

    萬(wàn)字干貨!虹科CAN XL研討會(huì)問(wèn)答,你想知道都在這里!

    虹科CANXL國(guó)際研討會(huì)圓滿結(jié)束,感謝各位觀眾的熱情參與!虹科攜手多位CANXL創(chuàng)始成員及行業(yè)領(lǐng)袖,包括來(lái)自國(guó)際CiA協(xié)會(huì)、博世、英飛凌以及恩智浦等,帶來(lái)5場(chǎng)精彩紛呈的主題演講,讓我們共同見(jiàn)證了
    的頭像 發(fā)表于 11-16 01:00 ?556次閱讀
    萬(wàn)字干貨!虹科CAN XL研討會(huì)問(wèn)答,<b class='flag-5'>你想知道</b>的<b class='flag-5'>都在這里</b>!

    關(guān)于公路邊坡安全監(jiān)測(cè),你想知道都在這里!

    截至2023年底,全國(guó)公路里程543.68萬(wàn)公里。同時(shí),據(jù)估計(jì)公路邊坡有870余萬(wàn)座,但目前公路邊坡大多依賴人工檢測(cè),缺乏主動(dòng)預(yù)防和有效的智能化監(jiān)測(cè)手段,災(zāi)害隱蔽性強(qiáng),對(duì)公路基礎(chǔ)設(shè)施和過(guò)往人車(chē)安全威脅大,公路邊坡安全監(jiān)測(cè)智能化水平亟待提升。 2024年,交通行業(yè)聚焦高速公路防災(zāi)減災(zāi)工作。交通運(yùn)輸部、國(guó)家防災(zāi)減災(zāi)委員會(huì)等發(fā)布多個(gè)政策文件,針對(duì)公路邊坡滑坡、崩塌、沉陷和塌陷、水1.毀和泥石流等地質(zhì)災(zāi)害,全面開(kāi)展風(fēng)險(xiǎn)隱患排查處置,
    的頭像 發(fā)表于 10-09 15:30 ?307次閱讀
    關(guān)于公路邊坡安全監(jiān)測(cè),<b class='flag-5'>你想知道</b>的<b class='flag-5'>都在這里</b>!

    esp32在Arduino IDE中可以實(shí)現(xiàn)調(diào)用百度智能云接口嗎?

    esp32在Arduino IDE中可以實(shí)現(xiàn)調(diào)用百度智能云接口嗎?涉及到http協(xié)議,想知道能不能不用esp-idf
    發(fā)表于 06-28 06:52

    2024百度移動(dòng)生態(tài)萬(wàn)象大會(huì):百度新搜索11%內(nèi)容已AI生成

    2024百度移動(dòng)生態(tài)萬(wàn)象大會(huì):百度新搜索11%內(nèi)容已AI生成 今天2024百度移動(dòng)生態(tài)萬(wàn)象大會(huì)在江蘇蘇州舉辦,特別是AI搜索與百度文心一言的相關(guān)信息被市場(chǎng)極度關(guān)注,我們看到,在2024
    發(fā)表于 05-30 18:58 ?460次閱讀

    百度與特斯拉探討Robotaxi合作新機(jī)遇

    在特斯拉宣布計(jì)劃使用百度地圖提供的高精度地圖之后,百度與特斯拉之間的合作再度引起關(guān)注。百度自動(dòng)駕駛技術(shù)部總經(jīng)理徐寶強(qiáng)近日透露,百度正積極考慮與特斯拉在Robotaxi(共享出租車(chē))項(xiàng)目
    的頭像 發(fā)表于 05-24 10:20 ?506次閱讀

    1個(gè)基礎(chǔ)模型系列、3大AI開(kāi)發(fā)工具,Create2024重磅發(fā)布都在這里了!

    4月16日,百度舉辦了Create 2024百度AI開(kāi)發(fā)者大會(huì),包括百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏在內(nèi)的多位重磅嘉賓登臺(tái)演講,并與全球各地的開(kāi)發(fā)者們分享了
    的頭像 發(fā)表于 04-18 10:38 ?622次閱讀

    百度副總裁、小CEO李瑩正式發(fā)布了小新一代操作系統(tǒng)DuerOS X

    4月16日,以“創(chuàng)造未來(lái)”為主題的2024百度Create AI開(kāi)發(fā)者大會(huì)在深圳舉辦。百度集團(tuán)副總裁、小科技CEO李瑩正式發(fā)布了小新一代
    的頭像 發(fā)表于 04-18 09:27 ?804次閱讀
    <b class='flag-5'>百度</b>副總裁、小<b class='flag-5'>度</b>CEO李瑩正式發(fā)布了小<b class='flag-5'>度</b>新一代操作系統(tǒng)DuerOS X

    百度沈抖沈抖正式發(fā)布新一代智能計(jì)算操作系統(tǒng)—萬(wàn)源

    4月16日,Create 2024 百度AI開(kāi)發(fā)者大會(huì)在深圳召開(kāi)。期間,百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖正式發(fā)布新一代智能計(jì)算操作系統(tǒng)——萬(wàn)源,通過(guò)對(duì)AI原生時(shí)代的智能計(jì)算
    的頭像 發(fā)表于 04-18 09:22 ?482次閱讀
    <b class='flag-5'>百度</b>沈抖沈抖正式發(fā)布新一代智能計(jì)算操作系統(tǒng)—萬(wàn)源

    Create 2024百度AI開(kāi)發(fā)者大會(huì) 帶來(lái)了哪些新技術(shù)?

    在深圳寶安國(guó)際會(huì)展中心舉行的AI盛會(huì)“create 2024 百度開(kāi)發(fā)者大會(huì)”上,電子發(fā)燒友網(wǎng)作為AI應(yīng)用開(kāi)發(fā)者和硬件開(kāi)發(fā)的國(guó)內(nèi)頭部社區(qū),參與了現(xiàn)場(chǎng)的深度報(bào)道?;顒?dòng)上百度創(chuàng)始人、董事長(zhǎng)兼CEO李彥宏
    發(fā)表于 04-17 09:55 ?1463次閱讀
    <b class='flag-5'>Create</b> 2024<b class='flag-5'>百度</b>AI開(kāi)發(fā)者大會(huì) 帶來(lái)了哪些新技術(shù)?

    Create2024百度AI開(kāi)發(fā)者大會(huì)深圳開(kāi)幕

    Create2024百度AI開(kāi)發(fā)者大會(huì)深圳開(kāi)幕 4月16日至17日,以“創(chuàng)造未來(lái)(Create the Future)”為主題的百度Create
    的頭像 發(fā)表于 04-16 15:13 ?947次閱讀
    <b class='flag-5'>Create</b>2024<b class='flag-5'>百度</b>AI開(kāi)發(fā)者大會(huì)深圳開(kāi)幕

    2024百度Create AI開(kāi)發(fā)者大會(huì):李彥宏將展示“開(kāi)箱即用”的三大神器

    4月16日,備受矚目的2024百度Create AI開(kāi)發(fā)者大會(huì)將在深圳國(guó)際會(huì)展中心(寶安)召開(kāi),百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏將發(fā)表“人人都是創(chuàng)造者”的演講主題。
    的頭像 發(fā)表于 04-11 14:53 ?866次閱讀

    官網(wǎng)上線!4月16日-17日,揭秘百度Create大會(huì)“AI公開(kāi)課”

    3月5日,百度Create AI開(kāi)發(fā)者大會(huì)官方網(wǎng)站正式上線。本次大會(huì)將于2024年4月16日至17日在深圳國(guó)際會(huì)展中心(寶安)舉辦,屆時(shí)不僅會(huì)帶來(lái)AI技術(shù)的最新進(jìn)展,還將設(shè)置超30節(jié)“AI公開(kāi)課”,
    的頭像 發(fā)表于 03-06 15:30 ?992次閱讀

    全球頂尖AI大會(huì)—百度Create AI開(kāi)發(fā)者大會(huì)最新干貨曝光

    全球頂尖AI大會(huì)——百度Create AI開(kāi)發(fā)者大會(huì),定檔于2024年4月16日至17日在深圳國(guó)際會(huì)展中心(寶安)舉辦,大會(huì)主題為“創(chuàng)造未來(lái)(Create the Future)”。
    的頭像 發(fā)表于 02-22 14:35 ?870次閱讀

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品