詳盡解釋GAN的發(fā)展脈絡(luò)和最新進展PPT

Sebastian Nowozin 在機器學(xué)習(xí)夏季課程（MLSS 2018 年 9 月）做了關(guān)于 GAN 的教學(xué)，153 頁 PPT 詳盡的解釋了 GAN 的發(fā)展脈絡(luò)和最新進展，此外他所提供原版大小為 286MB 的 pptx 中包含大量動畫效果，對課程的理解很有幫助。

Sebastian Nowozin 是微軟劍橋研究院首席研究院，專注于無監(jiān)督于表示學(xué)習(xí)。他在 GAN 領(lǐng)域做了大量的工作，同時也是著名的f-GAN的作者。

在訓(xùn)練 GAN 方面似乎有兩三個陣營：第一個當(dāng)然就是 GAN 的發(fā)明 Ian Goodfellow 以及他所供職的 OpenAI 和谷歌的一幫研究人員；第二個強大的陣營也就是以這篇教程作者 Sebastian Nowozin為代表的微軟陣營；第三就是其他了。

此次教程主要有以下幾個部分：

概率模型

GANs 的幾個示范應(yīng)用

評價原則

GAN 模型

差異性與 f-GAN 家族

基于積分概率度量 (IPM) 的 GAN: MMD

基于積分概率度量 (IPM) 的 GAN: Wasserstein GANs

問題與如何修正：模式崩潰 (modecollapse) 與不穩(wěn)定性（Instability）

隱式模型

開放性研究問題

GAN 網(wǎng)絡(luò)是近兩年深度學(xué)習(xí)領(lǐng)域的新秀，一時風(fēng)頭無兩。從計算機視覺頂會盛會 CVPR 2018 接受的論文統(tǒng)計就可見一斑：根據(jù) Google Research 的研究科學(xué)家 Jordi Pont-Tuset 做的一個統(tǒng)計，它通過查看這些論文的類型，看到了未來深度學(xué)習(xí)的發(fā)展趨勢。結(jié)果，他發(fā)現(xiàn)生成對抗網(wǎng)絡(luò)（GAN）強勢出擊，大有取代 “深度學(xué)習(xí)”（Deep Learning）之勢。

下面這張圖展示了 CVPR 2018 的論文題目中，關(guān)鍵詞 GAN、Deep，以及 LSTM 的對比：

在普通的 “深度學(xué)習(xí)” 走下坡路的同時，GAN 慢慢的成為新寵，統(tǒng)計顯示有 8% 的論文標(biāo)題中含有 GAN（這一數(shù)據(jù)相比 2017 年增長了 2 倍多）。

此外用盡字母表的各種 GAN 的變體 X-GAN 的論文數(shù)量也是急劇增加：

附 PPT 全文：