深度學習和神經網路的6大發展趨勢，值得關注！

神經網路的基本思想是模擬計算機「大腦」中的多個相互關聯的細胞，這樣它就可以從環境中學習、識別不同的模式，並做出與人類相似的決定。

一個基本的神經網路包含大約數百萬的人工神經元，稱為單元（unit）。這些單元按層排列，每一層連接到另一側。這些單元劃分如下：

1. 輸入單元-旨在從外部環境接收信息。

2. 隱藏單元-最終輸入到輸出單位，每個隱藏單元都是其輸入的壓縮線性函數。

3. 輸出單元-這些信號網路應該如何響應最近獲取的信息。

大多數的神經網路是「全連通「的。這意味著每個隱藏單元和每個輸出單元都連接到該層另一側的每個單元。每個單元之間的聯繫稱為「權重」。權重可以是正的，也可以是負的，這取決於它對另一個單位的影響程度。

當神經網路被訓練時，不同的輸入單元將不同的信息模式饋送到網路中。這些會觸發之後到達輸出單元的隱藏層。這被稱為前饋網路是常用的設計之一。在你使用不同的學習示例對神經網路進行充分訓練之後，它就會到達一個階段，在該階段可以呈現一組全新的輸入，這些輸入在訓練階段沒有遇到，並且它可以預測出令人滿意的輸出。

以下是神經網路和深度學習的一些重要趨勢。

膠囊網路

膠囊網路是一種新興的深層神經網路形式。它們以類似於人腦的方式處理信息。這實質上意味著膠囊網路可以維持層次關係。

這與卷積神經網路形成對比。儘管卷積神經網路是迄今為止最廣泛使用的神經網路之一，但它們未能考慮簡單和複雜對象之間存在的關鍵空間層次結構。這導致錯誤分類和更高的錯誤率。

在進行簡單的識別任務時，膠囊網路提供更高的準確度，同時減少錯誤數量。並且他們也不需要大量的培訓模型數據。

深度強化學習(DRL)

深度強化學習是神經網路的一種形式，它通過觀察、行動和獎勵與環境交流來學習。DRL已經被成功地用於確定遊戲策略，比如Atari和Go。著名的AlphaGo項目被用來擊敗人類冠軍，而且也取得了成功。

DRL是必不可少的，因為它是你可以用於開發業務應用程序的最通用的學習技術之一。培訓模式所需的數據也要少得多。另一個優點是你可以通過模擬來訓練它。這完全消除了標記數據的需要。

增強學習

到目前為止，機器學習的最大障礙，尤其是深度學習，是用於訓練神經模型的大量標記數據的可用性。有兩種技術可以幫助解決這一問題-合成新數據並將任務A的訓練模型轉移到任務B。

轉移學習（將學習從一個任務轉移到另一個任務）或一次性學習（只用一個或沒有相關示例進行學習）等技術使它們成為精益數據學習技術。類似地，當使用插值或模擬來合成新數據時，它有助於獲得更多訓練數據。 ML專家通常將此稱為增強現有數據以改善學習。

諸如此類的技術可用於解決更廣泛的問題，尤其是在存在較少歷史數據的情況下。

監督模型

監督模型是一種學習形式，它從以前標記的訓練數據中推斷出特定的功能。它使用一種有監督的學習演算法，該演算法包含一組具有相應標記的正確輸出的輸入。

將標記輸入與標記輸出進行比較。鑒於兩者之間的差異，您可以計算錯誤值，然後使用演算法來學習輸入和輸出之間的映射。

最終目標是近似映射函數，如果接收到新的輸入數據，則可以預測精確的輸出數據。類似於教師監督學習過程的情況，當演算法達到令人滿意的性能或準確性時，學習過程停止。

帶記憶模型的網路

區分人類和機器的一個重要方面是工作和思考的能力。毫無疑問，計算機可以預先編程，以極高的精度完成一項特定的任務。但是，當你需要它們在不同的環境中工作時，就會出現問題。

為了使機器能夠適應現實世界的環境，神經網路必須能夠在不遺忘的情況下學習順序任務。神經網路需要藉助多種強大的體系結構來克服遺忘。這些可以包括：

1.長期內存網路，可以處理和預測時間序列

2.彈性權重合併演算法，可以根據先前完成的任務定義的優先順序減慢學習速度

3.不受遺忘影響的漸進式神經網路，能夠從已經學過的網路中提取有用的特徵，以用於新的任務。

混合學習模型

各種類型的深度神經網路，包括GANs和DRL，在性能方面表現出了很大的潛力，並在不同類型的數據中得到了廣泛的應用。也就是說，深度學習模型無法以貝葉斯或概率方法的方式對不確定性進行建模。

混合學習模型可以將這兩種方法結合起來，並利用這兩種方法的優點。這種混合模型的一些例子包括貝葉斯GANs和貝葉斯條件GANs。

混合學習模型允許擴展可解決的業務問題範圍，包括具有不確定性的深度學習。這將允許更高的性能以及模型的可解釋性，這可以鼓勵更廣泛的採用。

概要

人工智慧為新時代奠定了基礎，許多技術上的突破都是建立在這一基礎之上的。在這篇文章中，我們已經介紹了深度學習和神經網路的一些顯著趨勢。自動駕駛汽車結合使用多種模型，如深度加強學習和卷積神經網路，進行視覺識別。

我們可能錯過了許多其他值得注意的趨勢。你認為深度學習和神經網路的顯著趨勢是什麼？請在評論區分享你的觀點。

原文標題《Top 6 Notable Trends in Deep Learning and Neural Networks》

作者：Manjunath M

譯者：lemon

本文為譯文，不代表雲加社區觀點。

—— 完 ——

關注云加社區，回復3加讀者群

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！