0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

模型驅動深度學習的標準流程與學習方法解析

mK5P_AItists ? 2018-01-24 11:30 ? 次閱讀

概要:近年來,深度學習人工智能領域一系列困難問題上取得了突破性成功應用。

模型驅動深度學習的標準流程與學習方法解析

模型驅動的深度學習方法

近年來,深度學習在人工智能領域一系列困難問題上取得了突破性成功應用。例如用于人臉識別已高于人的正確識別率、用于語音識別與機器翻譯已接近達到同聲翻譯和‵講完稿出'的水平、用于圍棋競賽已達到完勝人類世界冠軍的水平、用于一些疾病的診斷巳能與中、高級專業(yè)醫(yī)師水平匹敵。現(xiàn)在,深度學習技術在信息科學各領域已無處不在、并正成為各自領域的標準方法。

盡管深度學習取得重大進展,但人們對人工神經(jīng)網(wǎng)絡拓撲與性能的對應關系仍然缺少理論上的認知,網(wǎng)絡拓撲選擇目前還是一項工程技術而并沒有成為科學。這直接導致了現(xiàn)有深度學習多半是缺少理論基礎的啟發(fā)式方法。設計難、解釋難、結果不可預知已成為深度學習公認的缺撼。

《國家科學評論》最近發(fā)表了西安交通大學數(shù)學與統(tǒng)計學院徐宗本院士、孫劍教授撰寫的“Model-driven deep learning”的觀點文章(National Science Review, 2017,https://doi.org/10.1093/nsr/nwx099)。這篇文章嘗試解決深度學習的網(wǎng)絡拓撲選擇問題,目的是實現(xiàn)可設計、可解釋以及結果可預期的深度學習方法。文章提出一種模型驅動與數(shù)據(jù)驅動相結合深度學習方法。眾所周知,深度學習是一種標準的數(shù)據(jù)驅動型方法,它將深度網(wǎng)絡作為黑箱依賴于大量數(shù)據(jù)解決現(xiàn)實問題;而模型驅動方法則是從目標、機理、先驗出發(fā)首先形成學習的一個代價函數(shù),然后通過極小化代價函數(shù)來解決問題。模型驅動方法的最大優(yōu)點是只要模型足夠精確,解的質量可預期甚至能達到最優(yōu),而且求解方法是確定的,但模型驅動方法的缺陷是在應用中難能精確建模,而且對建模的精確性追求通常只能是一種奢望。

模型驅動深度學習方法有效結合了模型驅動和數(shù)據(jù)驅動方法的優(yōu)勢,文章中給出了模型驅動深度學習的標準流程:(1)根據(jù)問題,建立模型族(Family of Models);(2)根據(jù)模型族,設計算法族(Family of Algorithms)并建立算法族的收斂性理論;(3)將算法族展開(unfold)成深度網(wǎng)絡并實施深度學習。文中還介紹了課題組研究并實踐的一系列模型驅動與數(shù)據(jù)驅動結合的深度等習方法,展現(xiàn)了該方法在解決實際問題上的有效性。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1804

    文章

    48677

    瀏覽量

    246279
  • 模型驅動
    +關注

    關注

    0

    文章

    5

    瀏覽量

    7486
  • 深度學習
    +關注

    關注

    73

    文章

    5554

    瀏覽量

    122460

原文標題:展望:模型驅動的深度學習

文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。

收藏 0人收藏

    評論

    相關推薦
    熱點推薦

    AI工程師 10 個深度學習方法

    學到了大量關于深度學習的相關知識。在這里,我想分享人工智能工程師 10 個用于解決機器學習問題的強大的深度學習方法。但是,我們首先需要定義什
    發(fā)表于 03-07 20:17

    深度學習模型是如何創(chuàng)建的?

    具有深度學習模型的嵌入式系統(tǒng)應用程序帶來了巨大的好處。深度學習嵌入式系統(tǒng)已經(jīng)改變了各個行業(yè)的企業(yè)和組織。
    發(fā)表于 10-27 06:34

    深度學習技術的開發(fā)與應用

    2.算法設計 3.實驗結果高頻問題:如何將一個控制問題設計成馬爾可夫決策問題并使用強化學習算法進行訓練關鍵點:1.基于模型的離線強化學習方法 2.基于數(shù)據(jù)的在線強化學習方法實操
    發(fā)表于 04-21 14:57

    深度解析機器學習三類學習方法

    在機器學習(Machine learning)領域。主要有三類不同的學習方法:監(jiān)督學習(Supervised learning)、非監(jiān)督學習(Unsupervised learning
    發(fā)表于 05-07 09:09 ?1.5w次閱讀

    針對線性回歸模型深度學習模型,介紹了確定訓練數(shù)據(jù)集規(guī)模的方法

    學習模型的表現(xiàn)會按照冪定律持續(xù)提升。例如,有人曾用深度學習方法對三億張圖像進行分類,發(fā)現(xiàn)模型的表現(xiàn)隨著訓練數(shù)據(jù)規(guī)模的增長按對數(shù)關系提升。
    的頭像 發(fā)表于 05-05 11:03 ?6526次閱讀

    深度討論集成學習方法,解決AI實踐難題

    集成學習方法是一類先進的機器學習方法,這類方法訓練多個學習器并將它們結合起來解決一個問題,在實踐中獲得了巨大成功,并成為機器學習領域的“常青
    發(fā)表于 08-16 11:40 ?911次閱讀
    <b class='flag-5'>深度</b>討論集成<b class='flag-5'>學習方法</b>,解決AI實踐難題

    深度學習中圖像分割的方法和應用

    介紹使圖像分割的方法,包括傳統(tǒng)方法深度學習方法,以及應用場景。 基于人工智能和深度學習方法的現(xiàn)
    的頭像 發(fā)表于 11-27 10:29 ?3462次閱讀

    融合零樣本學習和小樣本學習的弱監(jiān)督學習方法綜述

    融合零樣本學習和小樣本學習的弱監(jiān)督學習方法綜述 來源:《系統(tǒng)工程與電子技術》,作者潘崇煜等 摘 要:?深度學習
    發(fā)表于 02-09 11:22 ?2612次閱讀
    融合零樣本<b class='flag-5'>學習</b>和小樣本<b class='flag-5'>學習</b>的弱監(jiān)督<b class='flag-5'>學習方法</b>綜述

    使用深度學習方法對音樂流派進行分類

    電子發(fā)燒友網(wǎng)站提供《使用深度學習方法對音樂流派進行分類.zip》資料免費下載
    發(fā)表于 02-08 10:02 ?1次下載
    使用<b class='flag-5'>深度</b><b class='flag-5'>學習方法</b>對音樂流派進行分類

    聯(lián)合學習在傳統(tǒng)機器學習方法中的應用

    聯(lián)合學習在傳統(tǒng)機器學習方法中的應用
    的頭像 發(fā)表于 07-05 16:30 ?957次閱讀
    聯(lián)合<b class='flag-5'>學習</b>在傳統(tǒng)機器<b class='flag-5'>學習方法</b>中的應用

    深度學習框架和深度學習算法教程

    基于神經(jīng)網(wǎng)絡的機器學習方法。 深度學習算法可以分為兩大類:監(jiān)督學習和無監(jiān)督學習。監(jiān)督學習的基本任
    的頭像 發(fā)表于 08-17 16:11 ?1368次閱讀

    梳理單片機學習方法、產(chǎn)品開發(fā)流程

    梳理單片機學習方法、產(chǎn)品開發(fā)流程
    的頭像 發(fā)表于 09-21 17:20 ?826次閱讀
    梳理單片機<b class='flag-5'>學習方法</b>、產(chǎn)品開發(fā)<b class='flag-5'>流程</b>

    深度學習的由來 深度學習的經(jīng)典算法有哪些

    深度學習作為機器學習的一個分支,其學習方法可以分為監(jiān)督學習和無監(jiān)督學習。兩種
    發(fā)表于 10-09 10:23 ?731次閱讀
    <b class='flag-5'>深度</b><b class='flag-5'>學習</b>的由來 <b class='flag-5'>深度</b><b class='flag-5'>學習</b>的經(jīng)典算法有哪些

    深度學習模型優(yōu)化與調(diào)試方法

    深度學習模型在訓練過程中,往往會遇到各種問題和挑戰(zhàn),如過擬合、欠擬合、梯度消失或爆炸等。因此,對深度學習
    的頭像 發(fā)表于 07-01 11:41 ?1571次閱讀

    深度學習中的無監(jiān)督學習方法綜述

    應用中往往難以實現(xiàn)。因此,無監(jiān)督學習深度學習中扮演著越來越重要的角色。本文旨在綜述深度學習中的無監(jiān)督
    的頭像 發(fā)表于 07-09 10:50 ?1516次閱讀

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品