最新GAN教程,153PPT附代碼
新智元 AI WORLD 2018 世界人工智慧峰會
倒計時3天
新智元將於 9 月 20 日在北京國家會議中心舉辦AI WORLD 2018 世界人工智慧峰會,南京大學計算機系主任、人工智慧學院院長周志華教授屆時將親臨會場做《關於機器學習的一點思考》主題演講。周志華教授是 AI 領域會士 「大滿貫」 得主,AAAI 2019 程序主席、IJCAI 2021 程序主席,《機器學習》一書的作者。
活動行購票二維碼:
新智元報道
來源:專知(ID:Quan_Zhuanzhi)
【新智元導讀】Sebastian Nowozin 在機器學習夏季課程(MLSS 2018 年 9 月)做了關於 GAN 的教學,153 頁 PPT 詳盡的解釋了 GAN 的發展脈絡和最新進展,此外他所提供原版大小為 286MB 的 pptx 中包含大量動畫效果,對課程的理解很有幫助。
Sebastian Nowozin 是微軟劍橋研究院首席研究院,專註於無監督於表示學習。他在 GAN 領域做了大量的工作,同時也是著名的f-GAN的作者。
在訓練 GAN 方面似乎有兩三個陣營:第一個當然就是 GAN 的發明 Ian Goodfellow 以及他所供職的 OpenAI 和谷歌的一幫研究人員;第二個強大的陣營也就是以這篇教程作者 Sebastian Nowozin 為代表的微軟陣營;第三就是其他了。
此次教程主要有以下幾個部分:
概率模型
GANs 的幾個示範應用
評價原則
GAN 模型
差異性與 f-GAN 家族
基於積分概率度量 (IPM) 的 GAN: MMD
基於積分概率度量 (IPM) 的 GAN: Wasserstein GANs
問題與如何修正:模式崩潰 (modecollapse) 與不穩定性(Instability)
隱式模型
開放性研究問題
GAN 網路是近兩年深度學習領域的新秀,一時風頭無兩。從計算機視覺頂會盛會 CVPR 2018 接受的論文統計就可見一斑:根據 Google Research 的研究科學家 Jordi Pont-Tuset 做的一個統計,它通過查看這些論文的類型,看到了未來深度學習的發展趨勢。結果,他發現生成對抗網路(GAN)強勢出擊,大有取代 「深度學習」(Deep Learning)之勢。
下面這張圖展示了 CVPR 2018 的論文題目中,關鍵詞 GAN、Deep,以及 LSTM 的對比:
在普通的 「深度學習」 走下坡路的同時,GAN 慢慢的成為新寵,統計顯示有 8% 的論文標題中含有 GAN(這一數據相比 2017 年增長了 2 倍多)。
此外用盡字母表的各種 GAN 的變體 X-GAN 的論文數量也是急劇增加:
參考鏈接:
https://github.com/nowozin/mlss2018-madrid-gan
http://www.nowozin.net/sebastian/
附 PPT 全文:
※華為、蘋果爭「世界首款7納米」,台積電:穩了!
※深度教練:讓深度學習模擬人類教學過程,大幅減少訓練數據和時間!
TAG:新智元 |