概要:近年來,深度學習在人工智能領域一系列困難問題上取得了突破性成功應用。
模型驅動的深度學習方法
近年來,深度學習在人工智能領域一系列困難問題上取得了突破性成功應用。例如用于人臉識別已高于人的正確識別率、用于語音識別與機器翻譯已接近達到同聲翻譯和‵講完稿出'的水平、用于圍棋競賽已達到完勝人類世界冠軍的水平、用于一些疾病的診斷巳能與中、高級專業(yè)醫(yī)師水平匹敵。現(xiàn)在,深度學習技術在信息科學各領域已無處不在、并正成為各自領域的標準方法。
盡管深度學習取得重大進展,但人們對人工神經(jīng)網(wǎng)絡拓撲與性能的對應關系仍然缺少理論上的認知,網(wǎng)絡拓撲選擇目前還是一項工程技術而并沒有成為科學。這直接導致了現(xiàn)有深度學習多半是缺少理論基礎的啟發(fā)式方法。設計難、解釋難、結果不可預知已成為深度學習公認的缺撼。
《國家科學評論》最近發(fā)表了西安交通大學數(shù)學與統(tǒng)計學院徐宗本院士、孫劍教授撰寫的“Model-driven deep learning”的觀點文章(National Science Review, 2017,https://doi.org/10.1093/nsr/nwx099)。這篇文章嘗試解決深度學習的網(wǎng)絡拓撲選擇問題,目的是實現(xiàn)可設計、可解釋以及結果可預期的深度學習方法。文章提出一種模型驅動與數(shù)據(jù)驅動相結合深度學習方法。眾所周知,深度學習是一種標準的數(shù)據(jù)驅動型方法,它將深度網(wǎng)絡作為黑箱依賴于大量數(shù)據(jù)解決現(xiàn)實問題;而模型驅動方法則是從目標、機理、先驗出發(fā)首先形成學習的一個代價函數(shù),然后通過極小化代價函數(shù)來解決問題。模型驅動方法的最大優(yōu)點是只要模型足夠精確,解的質量可預期甚至能達到最優(yōu),而且求解方法是確定的,但模型驅動方法的缺陷是在應用中難能精確建模,而且對建模的精確性追求通常只能是一種奢望。
模型驅動深度學習方法有效結合了模型驅動和數(shù)據(jù)驅動方法的優(yōu)勢,文章中給出了模型驅動深度學習的標準流程:(1)根據(jù)問題,建立模型族(Family of Models);(2)根據(jù)模型族,設計算法族(Family of Algorithms)并建立算法族的收斂性理論;(3)將算法族展開(unfold)成深度網(wǎng)絡并實施深度學習。文中還介紹了課題組研究并實踐的一系列模型驅動與數(shù)據(jù)驅動結合的深度等習方法,展現(xiàn)了該方法在解決實際問題上的有效性。
-
人工智能
+關注
關注
1804文章
48677瀏覽量
246279 -
模型驅動
+關注
關注
0文章
5瀏覽量
7486 -
深度學習
+關注
關注
73文章
5554瀏覽量
122460
原文標題:展望:模型驅動的深度學習
文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
AI工程師 10 個深度學習方法
深度學習模型是如何創(chuàng)建的?
深度學習技術的開發(fā)與應用
深度解析機器學習三類學習方法
針對線性回歸模型和深度學習模型,介紹了確定訓練數(shù)據(jù)集規(guī)模的方法
深度討論集成學習方法,解決AI實踐難題

深度學習中圖像分割的方法和應用
融合零樣本學習和小樣本學習的弱監(jiān)督學習方法綜述

深度學習框架和深度學習算法教程
深度學習的由來 深度學習的經(jīng)典算法有哪些

評論