0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Facebook研究開放新框架,讓深度學(xué)習(xí)更加容易

獨愛72H ? 來源:讀芯術(shù) ? 作者:讀芯術(shù) ? 2020-03-13 15:23 ? 次閱讀

(文章來源:讀芯術(shù))

FAIR一直是深度學(xué)習(xí)領(lǐng)域研究和開源框架的定期貢獻(xiàn)者。從PyTorch到ONNX, FAIR團(tuán)隊為實現(xiàn)深度學(xué)習(xí)應(yīng)用程序的簡化做出了不可思議的貢獻(xiàn)。在過去幾周里,F(xiàn)AIR增加了三個新的系列開源框架。Polygames是一個開源的研究框架,通過自我游戲的方式來訓(xùn)練深度學(xué)習(xí)網(wǎng)絡(luò)。Polygames基于著名的“零學(xué)習(xí)”概念,即允許代理無需進(jìn)行任何預(yù)先設(shè)定的訓(xùn)練,而是通過與環(huán)境交互來掌握環(huán)境。

乍看之下,Polygames似乎與Alpha Zero或ELF OpenGo等其他游戲?qū)W習(xí)框架類似,但FAIR堆棧也有自己的貢獻(xiàn)。對于初學(xué)者來說,Polygames支持更廣泛的戰(zhàn)略游戲列表,如Hex、Havannah、Minishogi、Connect6、Minesweeper、Mastermind、EinStein wurfelt nicht!、Nogo和Othello。他們?yōu)檠芯咳藛T提供了更廣泛的環(huán)境來測試深度學(xué)習(xí)網(wǎng)絡(luò)。

此外,Polygames還以一個巧妙的架構(gòu)擴(kuò)展了傳統(tǒng)的零學(xué)習(xí)概念,該架構(gòu)結(jié)合了深度神經(jīng)網(wǎng)絡(luò)和蒙特卡羅樹搜索方法。這種架構(gòu)允許網(wǎng)絡(luò)泛化到更多的任務(wù)和環(huán)境。Polygames框架的一個意想不到的好處是代理中神經(jīng)可塑性的創(chuàng)建。Polygames的模型是漸進(jìn)式的——框架帶有一個用于添加新層和通道或增加內(nèi)核寬度的腳本——它們能夠進(jìn)行熱啟動訓(xùn)練,允許神經(jīng)網(wǎng)絡(luò)隨訓(xùn)練成長。

編程模型的角度來看,Polygames提供了一個包含游戲的庫,以及一個實現(xiàn)游戲的單文件API。開發(fā)人員的經(jīng)驗是基于PyTorch的,因此易于上手。

FAIR團(tuán)隊在Polygames上取得了一些里程碑式的成績,包括在Hex19游戲中擊敗人類頂級玩家。該游戲由詩人、數(shù)學(xué)家皮特·海因(Piet Hein)、 約翰·納什(John Nash)和經(jīng)濟(jì)學(xué)家于20世紀(jì)40年代開發(fā),它挑戰(zhàn)了一些傳統(tǒng)的人類游戲思維過程。規(guī)則很簡單。黑色和白色依次填充一個空單元格。如果把北方和南方連接起來,黑人就贏了;如果把西方和東方連接起來,白人就贏了。餡餅規(guī)則使游戲更加公平:在第二次移動時,第二個玩家可以決定交換顏色。這款游戲之所以困難,是因為作為一款連接游戲,它的獎勵是基于全局而非局部的標(biāo)準(zhǔn)。

在一系列的實驗中,Polygames在Hex游戲中擊敗了人類中的頂尖玩家。結(jié)果如下圖所示,在圖中,人類玩家操縱白色棋子。第一個圖像表示Hex的開局。在游戲的第二階段,人類(白色)似乎贏了——兩個堅實的組分別連接到東和西,并互相互靠近連接。然而,Polygames能夠扭轉(zhuǎn)這種局面,創(chuàng)造了一個相當(dāng)復(fù)雜的中心位置。隨著Polygames使用兩個可能的路徑之一,它找到了一個成功的組合并展開了這個位置。

PyTorch3D是一個用于在3D環(huán)境中訓(xùn)練深度學(xué)習(xí)網(wǎng)絡(luò)的框架。盡管有大量的視覺智能系統(tǒng)需要在現(xiàn)實環(huán)境中運行,但在3D環(huán)境中訓(xùn)練這類智能體的工具和框架仍然受到高度限制。PyTorch3D是一個高度模塊化和優(yōu)化的庫,具有獨特的功能,旨在讓使用PyTorch的3D深度學(xué)習(xí)更容易。PyTorch3D為快速可微的3D數(shù)據(jù)提供了一組常用的3D操作符和損失函數(shù),以及一個模塊化可微繪制API,使研究人員能夠立即將這些函數(shù)導(dǎo)入當(dāng)前最先進(jìn)的深度學(xué)習(xí)系統(tǒng)。

PyTorch3D利用了最近在3D深度學(xué)習(xí)方面的幾個最新里程碑,如FAIR的MeshR-CNN,它實現(xiàn)了復(fù)雜室內(nèi)空間圖像的完整3D對象重建。該框架還使用Detectron2,這是一個高度優(yōu)化的2D識別庫,可以成功將對象理解推向第三維。PyTorch3D處理旋轉(zhuǎn)和3D轉(zhuǎn)換的功能也是創(chuàng)建C3DPO的核心,C3DPO是一種使用較少注釋的訓(xùn)練數(shù)據(jù)學(xué)習(xí)圖像和3D形狀之間關(guān)聯(lián)的新方法。

探索高維數(shù)據(jù)是深度學(xué)習(xí)應(yīng)用的挑戰(zhàn)之一。HiPlot是一個交互式可視化工具,它幫助人工智能研究人員發(fā)現(xiàn)高維數(shù)據(jù)中的相關(guān)性和模式,并使用平行圖和其他圖形方式來表示信息。HiPlot使用一種稱為平行圖的技術(shù),這是一種可視化和過濾高維數(shù)據(jù)的方便做法。

從功能的角度來看,HiPlot與其他可視化工具相比有以下幾個優(yōu)勢:交互性:在HiPlot中,平行圖是交互式的,這使得在不同的場景中可視化很容易。例如,你可以專注于沿著一個或多個軸獲取范圍或值,根據(jù)另一個軸設(shè)置配色方案,重新排序或刪除軸,或提取特定的數(shù)據(jù)選擇。簡潔性:使用Hiplot只需要幾行代碼。通過帶有“Hiplot”命令的服務(wù)器,就可以通過一個給定的URL訪問它,并使用它來可視化、管理和共享實驗?;诜N群的訓(xùn)練可視化:HiPlot提供了一種簡單的方法來可視化XY圖中基于種群的訓(xùn)練實驗,該圖中,不同數(shù)據(jù)點之間是有邊緣的。這種可視化在深度學(xué)習(xí)實驗中非常普遍。

在深度學(xué)習(xí)的幾個領(lǐng)域,F(xiàn)acebook的FAIR團(tuán)隊還在繼續(xù)創(chuàng)新,并積極為開源社區(qū)做出貢獻(xiàn)。PyTorch3D、Polygames和HiPlot是FAIR的最新貢獻(xiàn),旨在實現(xiàn)深度學(xué)習(xí)應(yīng)用程序的簡化。
(責(zé)任編輯:fqj)

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • Facebook
    +關(guān)注

    關(guān)注

    3

    文章

    1429

    瀏覽量

    54842
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5510

    瀏覽量

    121345
收藏 人收藏

    評論

    相關(guān)推薦

    卷積神經(jīng)網(wǎng)絡(luò)的實現(xiàn)工具與框架

    卷積神經(jīng)網(wǎng)絡(luò)因其在圖像和視頻處理任務(wù)中的卓越性能而廣受歡迎。隨著深度學(xué)習(xí)技術(shù)的快速發(fā)展,多種實現(xiàn)工具和框架應(yīng)運而生,為研究人員和開發(fā)者提供了強(qiáng)大的支持。 TensorFlow 概述
    的頭像 發(fā)表于 11-15 15:20 ?295次閱讀

    GPU深度學(xué)習(xí)應(yīng)用案例

    GPU在深度學(xué)習(xí)中的應(yīng)用廣泛且重要,以下是一些GPU深度學(xué)習(xí)應(yīng)用案例: 一、圖像識別 圖像識別是深度學(xué)習(xí)
    的頭像 發(fā)表于 10-27 11:13 ?440次閱讀

    FPGA加速深度學(xué)習(xí)模型的案例

    FPGA(現(xiàn)場可編程門陣列)加速深度學(xué)習(xí)模型是當(dāng)前硬件加速領(lǐng)域的一個熱門研究方向。以下是一些FPGA加速深度學(xué)習(xí)模型的案例: 一、基于FPG
    的頭像 發(fā)表于 10-25 09:22 ?288次閱讀

    FPGA做深度學(xué)習(xí)能走多遠(yuǎn)?

    ,F(xiàn)PGA 也需要不斷適應(yīng)和改進(jìn)。研究人員和開發(fā)者將致力于針對 FPGA 的特點對深度學(xué)習(xí)算法進(jìn)行優(yōu)化,例如探索更高效的模型壓縮方法、量化技術(shù)以及硬件友好的算法結(jié)構(gòu)等,以進(jìn)一步提高 FPGA 在
    發(fā)表于 09-27 20:53

    NVIDIA推出全新深度學(xué)習(xí)框架fVDB

    在 SIGGRAPH 上推出的全新深度學(xué)習(xí)框架可用于打造自動駕駛汽車、氣候科學(xué)和智慧城市的 AI 就緒型虛擬表示。
    的頭像 發(fā)表于 08-01 14:31 ?639次閱讀

    PyTorch深度學(xué)習(xí)開發(fā)環(huán)境搭建指南

    PyTorch作為一種流行的深度學(xué)習(xí)框架,其開發(fā)環(huán)境的搭建對于深度學(xué)習(xí)研究者和開發(fā)者來說至關(guān)重要
    的頭像 發(fā)表于 07-16 18:29 ?1163次閱讀

    深度學(xué)習(xí)中的時間序列分類方法

    的發(fā)展,基于深度學(xué)習(xí)的TSC方法逐漸展現(xiàn)出其強(qiáng)大的自動特征提取和分類能力。本文將從多個角度對深度學(xué)習(xí)在時間序列分類中的應(yīng)用進(jìn)行綜述,探討常用的深度
    的頭像 發(fā)表于 07-09 15:54 ?1072次閱讀

    深度學(xué)習(xí)與nlp的區(qū)別在哪

    深度學(xué)習(xí)和自然語言處理(NLP)是計算機(jī)科學(xué)領(lǐng)域中兩個非常重要的研究方向。它們之間既有聯(lián)系,也有區(qū)別。本文將介紹深度學(xué)習(xí)與NLP的區(qū)別。
    的頭像 發(fā)表于 07-05 09:47 ?1001次閱讀

    基于深度學(xué)習(xí)的小目標(biāo)檢測

    在計算機(jī)視覺領(lǐng)域,目標(biāo)檢測一直是研究的熱點和難點之一。特別是在小目標(biāo)檢測方面,由于小目標(biāo)在圖像中所占比例小、特征不明顯,使得檢測難度顯著增加。隨著深度學(xué)習(xí)技術(shù)的快速發(fā)展,尤其是卷積神經(jīng)網(wǎng)絡(luò)(CNN
    的頭像 發(fā)表于 07-04 17:25 ?990次閱讀

    深度學(xué)習(xí)常用的Python庫

    深度學(xué)習(xí)作為人工智能的一個重要分支,通過模擬人類大腦中的神經(jīng)網(wǎng)絡(luò)來解決復(fù)雜問題。Python作為一種流行的編程語言,憑借其簡潔的語法和豐富的庫支持,成為了深度學(xué)習(xí)
    的頭像 發(fā)表于 07-03 16:04 ?678次閱讀

    TensorFlow與PyTorch深度學(xué)習(xí)框架的比較與選擇

    深度學(xué)習(xí)作為人工智能領(lǐng)域的一個重要分支,在過去十年中取得了顯著的進(jìn)展。在構(gòu)建和訓(xùn)練深度學(xué)習(xí)模型的過程中,深度
    的頭像 發(fā)表于 07-02 14:04 ?1017次閱讀

    深度解析深度學(xué)習(xí)下的語義SLAM

    隨著深度學(xué)習(xí)技術(shù)的興起,計算機(jī)視覺的許多傳統(tǒng)領(lǐng)域都取得了突破性進(jìn)展,例如目標(biāo)的檢測、識別和分類等領(lǐng)域。近年來,研究人員開始在視覺SLAM算法中引入深度
    發(fā)表于 04-23 17:18 ?1340次閱讀
    <b class='flag-5'>深度</b>解析<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>下的語義SLAM

    FPGA在深度學(xué)習(xí)應(yīng)用中或?qū)⑷〈鶪PU

    基礎(chǔ)設(shè)施,人們?nèi)匀粵]有定論。如果 Mipsology 成功完成了研究實驗,許多正受 GPU 折磨的 AI 開發(fā)者將從中受益。 GPU 深度學(xué)習(xí)面臨的挑戰(zhàn) 三維圖形是 GPU 擁有如此大的內(nèi)存和計算能力
    發(fā)表于 03-21 15:19

    學(xué)習(xí)鴻蒙背后的價值?星河版開放如何學(xué)習(xí)?

    現(xiàn)在是2024年,華為在1月18開展了鴻蒙千帆起儀式發(fā)布會。宣布了鴻蒙星河版,并對開發(fā)者開放申請,此次發(fā)布會主要是說明了,鴻蒙已經(jīng)是全棧自研底座,鴻蒙星河版本的編程語言改為ArkTS/倉頡,內(nèi)核改為
    發(fā)表于 02-22 20:55

    【技術(shù)科普】主流的深度學(xué)習(xí)模型有哪些?AI開發(fā)工程師必備!

    深度學(xué)習(xí)在科學(xué)計算中獲得了廣泛的普及,其算法被廣泛用于解決復(fù)雜問題的行業(yè)。所有深度學(xué)習(xí)算法都使用不同類型的神經(jīng)網(wǎng)絡(luò)來執(zhí)行特定任務(wù)。 什么是深度
    的頭像 發(fā)表于 01-30 15:26 ?657次閱讀
    【技術(shù)科普】主流的<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>模型有哪些?AI開發(fā)工程師必備!