DeepMind新論文:基於變分方法的自編碼生成對抗網路
王小新 編譯自 Arxiv
量子位 出品 | 公眾號 QbitAI
最近,DeepMind公司的Mihaela Rosca、Balaji Lakshminarayanan和David Warde-Farley等人寫了一篇題為「一種基於變分方法的自編碼生成對抗網路(Variational Approaches for Auto-Encoding Generative Adversarial Networks)」的論文。
這篇文章利用變分推理,提出了一種將自動編碼器和生成對抗網路融合起來的方法。
摘要
自動編碼生成對抗網路結合了標準形式的GAN演算法,通過自動編碼器給出的重建損失(construction loss)來區分原始數據和模型的生成數據。這種模型的目的是確保基於所有可用數據進行訓練,防止學習得到的生成模型出現模式崩潰問題。
在本文中,我們提出了一種規則,通過利用生成模型的層次結構,將自動編碼器結合到生成對抗網路中。由基本原理可表明,變分推理可作為網路學習的基本方法,但是要將隨機可能性替換為合成似然性,且將未知後驗分布替換為隱含分布。本文使用了鑒別器來學習網路中的合成似然性和隱含後驗分布。
於是,我們結合這兩種方法中的最優點,開發出一種結合變分自動編碼器和生成對抗網路的融合方法。我們設置了一個共同的優化目標,討論了引導學習的約束條件,與大量現有研究相聯繫,並使用了一系列實驗來系統地定量評估本文方法的效果。
更多實際性能及結果討論請看論文:https://arxiv.org/abs/1706.04987
P.S.
他們給自己的方法起名叫「α-GAN」,理由是:GAN太多,拉丁字母前綴不夠用了,只好用希臘字母了……
【完】
一則通知
量子位正在組建自動駕駛技術群,面向研究自動駕駛相關領域的在校學生或一線工程師。歡迎大家加量子位微信(qbitbot),備註「自動駕駛」申請加入哈~
招聘
量子位正在招募編輯記者、運營、產品等崗位,工作地點在北京中關村。相關細節,請在公眾號對話界面,回復:「招聘」。
掃碼強行關注『量子位』
追蹤人工智慧領域最勁內容
※Bengio創立的公司A輪融資1億美元,英偉達和英特爾攜手參投
※Facebook讓AI學會談判協商,能通過「說謊」達到目的
※DeepMind說機器推理水平能超人類,現在有人把代碼搞出來了
※影響無人駕駛技術未來發展的六大趨勢
※再次召喚靈魂畫手!這個AI把你信手塗鴉都變成人臉
TAG:量子位 |
※基於TensorFlow的變分自編碼器實現
※谷歌大腦Wasserstein自編碼器:新一代生成模型演算法
※【視頻編碼】Content Aware ABR技術
※Science immunology:編碼基孔肯亞病毒中和抗體的mRNA 為免疫治療帶來新策略
※TensorFlow 支持 Unicode 編碼
※Python判斷網頁編碼
※Python Unicode編碼混亂:來自大洋彼岸的怨念
※short數組保存unicode編碼和unicode編碼轉換成shrot數組
※Python 編碼規範(Google)
※Adv.Funct.Mater.:通過多肽噴墨列印為生物礦化結構編碼細胞微圖案
※Python Unicode編碼混亂 :來自大洋彼岸的怨念
※Oculus大更新包含5K視頻編碼支持和Oculus Home新功能
※Science:非編碼DNA變異也會增加自閉症風險
※Facebook新研究:一個編碼器hold住93種語言!跨語言遷移無需修改
※PEP8中文版:Python編碼風格指南
※重磅!《Science》子刊:非編碼DNA令新型腫瘤疫苗終於奏效!
※DeepMind提出空間語言集成模型SLIM,有效編碼自然語言的空間關係
※思科軟體再次發現硬編碼密碼;AR/VR 開發工具 Amazon Sumerian 正式上線
※Cell:神奇!非編碼DNA竟能修補前列腺癌治療bug!
※Nature子刊:非編碼RNA癌症藥物基因組圖譜新突破