2018年深度學習領域的十大預測
來源:Medium
作者:Carlos E. Perez
智能觀 編譯
我有種不祥的預感, 2018年可能是發生戲劇性變化的一年。
我們在2017年看到的令人難以置信的突破將在2018年以非常有力的方式繼續下去。大量的研究成果將會被移植到日常軟體應用中。
以下是我對2018年深度學習領域的十大預測。
1.大多數硬體初創公司都會失敗
許多深度學習硬體初創企業,在2018年終於可以交付他們的晶元了。然而,這只是成功的一半,他們都忽視了提供良好的軟體來支持新解決方案。這些公司有資本、硬體。不幸的是,在DL領域,軟體同樣重要。這些創業公司大多不了解軟體,也不了解軟體開發的成本。他們可以提供晶元,但沒有東西能在上面運行。
英特爾的解決方案將繼續推遲,這可能很令人失望。該方案的記錄顯示,英特爾無法在2017年中期發布展示方案的任何產品。他們沒有取得人們期待的進步,我們不得不說這是英特爾的一大敗筆。
隨著TPU的發展,谷歌將繼續給世界帶來驚喜。也許谷歌還會將IP授權給其他半導體廠商,來發展硬體業務。如果他們繼續做英偉達之外的其他硬體廠商的合作夥伴,將是非常有意義的。
2. 元學習將成為新的SGD
2017年出現了大量關於元學習的強大研究。隨著對元學習的深入理解, 研究界將拋棄隨機梯度下降(SGD)舊的模式, 轉而採用一種將開發性搜索和探索性搜索相結合的更有效的方法。
無監督學習將漸進式發展,主要靠元學習演算法驅動。
3. 生成模型推動了一種新的建模方式
生成模型將會越來越成熟和完善。目前,生成模型的大多數研究都關注圖像和語音生成方面。然而, 我們將看到這種方法用於構建複雜系統。你將看到的更多活動的領域之一是深度學習在經濟建模中的應用。
4. 自我對弈是自動化知識創造方式
AlphaGo Zero和AlphaZero從零開始學習的自我發揮是一個巨大的飛躍。在我看來,它與深度學習的發現具有同樣的影響力。深度學習發現了通用函數逼近器,強化學習自我對弈發現了自動化的知識創造方式。
預計我們將會看到更多與此相關的內容。
5.直覺機器將彌合語義鴻溝
這是我最雄心勃勃的預測。直覺機器和理性機器之間的語義鴻溝將被彌合 (如果它還沒有被彌合)。雙過程理論 (兩種認知機制的概念, 一個是無模型的, 另一個是基於模型的)將成為建立新AI的流行概念。在 2018年,人工直覺將不再是一個邊緣化的概念,而是一個更普遍被人們接受的概念。
6. 可解釋性是無法實現的
可解釋性有兩個問題。其中一個比較常見的是,過多的規則是人類無法解釋的。第二個不太為人所知的問題是,機器創造的概念是完全陌生和無法解釋的。我們已經在AlphaGo Zero和AlphaZero的策略中看到了這一點。人類能夠發現某個舉動是非常規的,然而他們可能無法理解這一舉動背後的邏輯。
我認為這是無法解決的問題。同時,機器正變得非常擅長「偽裝」。大多數情況下,人類完全無法給出一個完整的解釋。
7.深度學習研究信息泛濫
2017年對於從事深度學習研究的人來說已經很疲憊了。ICLR舉辦的2018年會議收到的論文數量約為4000份。為了趕上這次會議,研究人員一天要寫10篇論文。
這一現象還會更加嚴重,因為理論框架正緊鑼密鼓地建立。為了在理論空間取得進步,我們需要運用更高級的數學知識,以獲得更好的洞察力。但這只是一個簡單的過程,因為大多數深度學習的研究者不需要太深的數學背景來理解這些系統的複雜性。深度學習需要更多能夠構建複雜理論的研究者,然而這類研究人員卻太少了。
過於泛濫的論文和糟糕的理論,像鍊金術一樣使研究領域陷入窘境。
同樣缺少的還有AGI(通用人工智慧)發展的通用路線圖。這個理論很弱,因此我們能做的最好的事情就是指出發展的方向,以及創建一條與人類認知相適應的道路。而我們現在只有來自認知心理學的推測理論的框架。這是一種糟糕的情況,因為來自這些領域的經驗證據是不可靠的。
深度學習研究論文在2018年可能會翻三番或四番。
8.通過教學環境實現產業化
深度學習系統更可行的以及可大力發展的條件是開發出具體的教學環境。關於這個問題,我在我的《Embodied Learning is Essential to Artificial Intelligence》和《Deep Teaching: The Sexiest Job of the Future》兩篇文章中都有詳細的講解。如果你想找到粗糙點的教學方法,那麼只需要看看深度學習網路的訓練過程。我們在這方面取得了很多進展。
期待更多的公司展示他們的內部實力,看他們是如何組織大規模的深度學習的。
9. AGI新的認知方式
我們衡量AGI的進展的方式是過時的,而需要一種新的方式,這種新方式會解決現實世界的動態(即非平穩)複雜性。我們將在2018年看到更多關於這個新領域的報道。我將在阿姆斯特丹(3月1 - 2日,信息能源2018年會議)討論這種新的認知方式。
10. 人工智慧的倫理應用
人們越來越希望人工智慧可以更合乎道德地使用。現在, 人們逐漸意識到自動化失控帶來的災難性影響。我們通過 Facebook、Twitter、谷歌、亞馬遜等,已經發現了簡單的自動化給人類社會帶來的不必要的影響。
我們需要了解並部署機器的道德規範。面部識別就是機器一項非常危險的能力,它的演算法能否準確識別現實情況而不產生歧視?我們需要迅速攻克這一難關, 讓 AI為整個人類社會的利益服務, 而不是成為導致不平等的工具。
※卡內基梅隆最新研究,安全認證的未來是你的聲音
※想要學習人工智慧?這裡有一條完整路徑
※科技大佬眼中的2017年AI大事件
※TEDx:誰在害怕人工智慧?
※2018年人工智慧趨勢的五大預測
TAG:智能觀 |