MaskGAN:谷歌大腦讓AI學做完形填空的新嘗試
最新
01-28
又見一篇神標題論文。
來一起感受一下。
MaskGAN: Better Text Generation via Filling in the__
這又是什麼鬼?標題里竟然還有需要填空的地方?能給論文起出這種標題,通常都不是泛泛之輩。比如之前的attention is all you need。
往下一看作者,果然。又是谷歌大腦的團隊。三位作者有兩位算是大名鼎鼎:William Fedus、Ian Goodfellow、Andrew M. Dai。
寫GAN的論文,當然要有「好傢夥」的參與加持,而Dai之前跟Geoffrey Hinton等合作過多篇論文。至於一作,目前在MILA讀博,曾是谷歌大腦的實習生。
在這篇論文里,詳細討論了如何構建一個基於GAN的神經網路,來完成類似完形填空一樣的任務。包括期間的探索、嘗試、改進等等。
GAN最初設計用於輸出可微分的數值,所以離散的語言生成對這種模型來說非常具有挑戰性。為此作者引入了actor-critic架構。
論文也比對了不同方法的完形填空效果。最終他們給出結論:我們用定性和定量的方式表明,與最大似然訓練的模型相比,新方法能產生更真實的有條件和無條件文本樣本。
這篇論文目前已經提交ICLR 2018,在ICLR2018 Open Review Explorer上,對這篇論文的評分是「666」。僅供參考。
本文來自量子位,創業家系授權發布,略經編輯修改,版權歸作者所有,內容僅代表作者獨立觀點。[ 下載創業家APP,讀懂中國最賺錢的7000種生意 ]
TAG:創業家 |