深度學習與神經網路概述

人工智慧（Artificial Intelligence）

1956年，幾個計算機科學家相聚在達特茅斯會議，提出了「人工智慧」的概念，夢想著用當時剛剛出現的計算機來構造複雜的、擁有與人類智慧同樣本質特性的機器。其後，人工智慧就一直縈繞於人們的腦海之中，並在科研實驗室中慢慢孵化。之後的幾十年，人工智慧一直在兩極反轉，或被稱作人類文明耀眼未來的預言，或被當成技術瘋子的狂想扔到垃圾堆里。直到2012年之前，這兩種聲音還在同時存在。

2012年以後，得益於數據量的上漲（亮點是ImageNet）、運算力的提升（NVIDIA家的GPU）和機器學習新演算法（深度學習）的出現，人工智慧開始大爆發。

目前的科研工作都集中在弱人工智慧這部分，並很有希望在近期取得重大突破，電影里的人工智慧多半都是在描繪強人工智慧，而這部分在目前的現實世界裡難以真正實現（通常將人工智慧分為弱人工智慧和強人工智慧，前者讓機器具備觀察和感知的能力，可以做到一定程度的理解和推理，而強人工智慧讓機器獲得自適應能力，解決一些之前沒有遇到過的問題）。

弱人工智慧有希望取得突破，是如何實現的，「智能」又從何而來呢？這主要歸功於一種實現人工智慧的方法——機器學習。

機器學習最基本的做法，是使用演算法來解析數據、從中學習，然後對真實世界中的事件做出決策和預測。與傳統的為解決特定任務、硬編碼的軟體程序不同，機器學習是用大量的數據來「訓練」，通過各種演算法從數據中學習如何完成任務。

舉個簡單的例子，當我們瀏覽網上商城時，經常會出現商品推薦的信息。這是商城根據你往期的購物記錄和冗長的收藏清單，識別出這其中哪些是你真正感興趣，並且願意購買的產品。這樣的決策模型，可以幫助商城為客戶提供建議並鼓勵產品消費。

機器學習直接來源於早期的人工智慧領域，傳統的演算法包括決策樹、聚類、貝葉斯分類、支持向量機SVM、EM、Adaboost等等。從學習方法上來分，機器學習演算法可以分為監督學習（如分類問題）、無監督學習（如聚類問題）、半監督學習、集成學習、深度學習和強化學習。

傳統的機器學習演算法在指紋識別、基於Haar的人臉檢測、基於HOG特徵和SVM的車輛檢測等領域的應用基本達到了商業化的要求或者特定場景的商業化水平，但每前進一步都異常艱難（因為隨著數據量增大，但效率得不到明顯提高），直到深度學習（Deep Learning）演算法的出現。

深度學習本來並不是一種獨立的學習方法，其本身也會用到有監督和無監督的學習方法來訓練深度神經網路。但由於近幾年該領域發展迅猛，一些特有的學習手段相繼被提出（如殘差網路ResNet），因此越來越多的人將其單獨看作一種學習的方法。

最初的深度學習是利用深度神經網路來解決特徵表達的一種學習過程。深度神經網路本身並不是一個全新的概念，可大致理解為包含多個隱含層的神經網路結構。為了提高深層神經網路的訓練效果，人們對神經元的連接方法和激活函數等方面做出相應的調整。其實有不少想法早年間也曾有過，但由於當時訓練數據量不足、計算能力落後，因此最終的效果不盡如人意。

如今隨著數據量的增大，計算能力的增強，深度學習迅速席捲實現了很多領域，使得似乎所有的機器輔助功能都變為可能。無人駕駛汽車，預防性醫療保健，甚至是更好的電影推薦，都近在眼前，或者即將實現。

機器學習是一種實現人工智慧的方法，深度學習是一種實現機器學習的技術。我們就用最簡單的方法——同心圓，可視化地展現出它們三者的關係。