2017年機器學習幾大主要進展匯總!
摘要:2017年註定是機器學習快速發展的一年,特別是機器學習商業化的成功是的更多的人積極的投入到機器學習的學習當中。機器學習一定會成為未來的技術,讓我們看看這項未來的技術現在發展到何種程度。
很難相信在人工智慧和機器學習領域裡這一年發生了那麼多的事情,很難做一個全面的系統的匯總。儘管如此,我還是嘗試性的去做了一個匯總,希望能夠幫助大家去回顧一下今天的科技到底發展到了何種程度。
1.Alpha Go Zero:創造者的興起
如果讓我必須選擇今年的主要亮點,那就是AlphaGo Zero(論文)。這種新方法不僅在一些最有希望的方向上有所改進(如深度強化學習),而且也證實了這種模式可以在沒有數據的情況下學習的範式轉變(譯者認為:這是思想的轉變,在商業上,給了那麼些沒有大量數據的創新者一個機會)。我們最近也看到了Alpha Go Zero正在推廣到象棋類的其他遊戲。
2.GAN:不要怕,就要GAN
最近的一項元研究(meta-study)發現在GAN相關研究論文的報告指標上存在系統性錯誤。儘管如此,不可否認的是,GAN繼續發揮著它的獨到之處,特別是當涉及到圖像空間的應用時(例如,漸進式GAN,pix2pix中的條件GANS或CycleGans)。
3.深度學習版的NLP:商業化的開端
今年的深度學習是NLP的天下,特別是翻譯,NLP讓我們感受到了翻譯正在變得簡單容易。Salesforce提供了一個有趣的非自回歸方法,可以處理完整的句子翻譯。也許更具開創性的是Facebook提供的無監督的方法UPV。深度學習也成功的幫助商家讓它們的推薦系統做的更佳的完美。然而,最近的一篇論文也對最近的一些進展提出了質疑,例如kNN與Deep Learning相比有多麼簡單。與GAN研究一樣,人工智慧研究的驚人速度也會導致科學嚴謹性的損失,這也不足為奇。雖然人工智慧的許多或大部分進展來自深度學習領域,但在AI和ML方面還有許多其他方面的不斷創新也應該是值得讓人關注的。
4.理論的問題:可解釋性和嚴密性
與上面提到的一些問題有些相關的是,許多人批評這種方法的理論基礎缺乏嚴密性和可解釋性。就在前不久,阿里·拉希米(Ali Rahimi)在他的NIPS 2017談話中將現代AI描述為「鍊金術」。Yann Lecun在一場不可能很快解決的辯論中迅速作出了回應。值得注意的是,今年在嘗試推進深度學習的基礎上,已經看到了很多的努力。例如,研究人員正在試圖了解神經網路如何深度泛化。Tishby的信息瓶頸理論也在今年作為對某些深度學習屬性的合理解釋進行了長時間的辯論。正在為今年的職業生涯慶祝的辛頓也一直在質疑諸如使用反向傳播的基本問題。佩德羅·多明戈斯(Pedro Domingos)等知名研究人員很快進入節奏,開發了使用不同優化技術的深度學習方法。Hinton提出的最後一個最近的根本性變化是使用(capsule)膠囊(見原文)作為卷積網路的替代品。
5.服務商的戰鬥:越來越好的開發體驗
如果我們看一下人工智慧的工程相關的成果,那麼一年來,Pytorch開始挑起熱潮,成為Tensorflow的真正挑戰,特別是在研究方面。Tensorflow通過在Tensorflow Fold中發布動態網路迅速作出反應。大玩家之間的「AI之戰」還有很多其他的戰鬥,其中最激烈的就是圍繞著雲。所有的主要供應商都已經加緊了,增加了他們在雲中的AI支持。亞馬遜已經呈現在他們的AWS,大創新,如他們最近的表現Sagemaker構建和部署ML車型。另外值得一提的是,更小的玩家也紛紛湧入.Nvidia最近推出了他們的GPU雲,這是訓練深度學習模式的另一個有趣的選擇。所有的這些戰鬥無疑在未來都將大力推動工業升級。另外,新的ONNX神經網路表示標準化是互操作性的重要和必要的一步。
6.始終有待解決的未來的社會問題
2017年,人工智慧方面的社會問題也得到了延續(升級)。伊隆·馬斯克(Elon Musk)繼續推動我們越來越接近殺手級AI的想法,令許多人感到沮喪。關於人工智慧在未來幾年會如何影響工作,也有很多討論。最後,我們看到更多的焦點放在AI演算法的可解釋性和偏見上。
7.新的戰場:機器學習+傳統行業
最近幾個月來,我一直在從事醫學和醫療方面的人工智慧方面的工作。我很高興地看到,像「醫療保健」這樣的「傳統」領域的創新速度正在被迅速提高。AI和ML已經應用於醫學多年,從60年代和70年代的專家系統和貝葉斯系統開始。不過,我經常發現自己引用了幾個月前的文章。今年提出的一些最近的創新包括使用Deep RL,GAN或自動編碼器來幫助患者診斷。最近人工智慧的許多進步還集中在精準醫學(高度個性化的醫療診斷和治療)和基因組學上。例如David Blei的最新文章通過使用貝葉斯推斷來預測個體是否具有對疾病的遺傳傾向,從而解決神經網路模型中的因果關係。所有的大公司都投資人工智慧在醫療保健領域。Google有幾個團隊,其中包括Deepmind Healthcare,他們在醫學人工智慧方面提出了一些非常有趣的進展,特別是在醫學影像自動化方面。另外,蘋果公司也在為蘋果手錶尋找醫療保健應用程序,而亞馬遜也「秘密」地投資於醫療保健。很明顯,創新的空間已經成熟。
Uber AI團隊在深度強化學習的背景下提出了使用遺傳演算法(GA)的非常有趣的想法。在這5篇論文中,團隊展示了GA如何成為SGD的一個競爭性替代方案。看到GA復出是件非常有趣的事情,我很高興看到在未來幾個月里它可以把我們帶到哪裡。
最後,我最近閱讀了關於Libratus如何在單挑無限撲克(這是IJCAI早期論文的一個版本)上擊敗專家的科學論文。而AlphaGo Zero確實是一個非常令人興奮的發展,事實上現實中的大多數問題可以更容易地被吸收到像Poker這樣的不完善的信息遊戲,而不是像Go或Chess這樣的完美信息遊戲。這就是為什麼在這個領域的工作是一個真正令人興奮的重要推動領域前進。除了上面提到科學論文之外,我還建議你去閱讀以下兩個:在不完全信息遊戲中自我玩的深度強化學習,以及DeepStack:專家級人工智慧在單挑無限制撲克中的應用。(來自:雲棲社區翻譯)
TAG:AI講堂 |