Science重磅！用光速實現深度學習，跟GPU說再見

新智元AI WORLD 2018世界人工智慧峰會

倒計時12天

新智元將於9月20日在北京國家會議中心舉辦AI WORLD 2018世界人工智慧峰會，CMU機器學習系創始人、教科書Machine Learning作者、被譽為「機器學習教父」的Tom Mitchell將親臨會場做《人工智慧與我們的未來》主題演講。Mithcell教授表示，這將是一場融入深度思考與偏技術討論的報告。

活動行購票二維碼：

新智元報道

來源：photonics、newatlas

編輯：大明、肖琴

【新智元導讀】UCLA研究人員利用3D列印打造「全光學深度衍射神經網路」，利用光的衍射路徑識別目標，可實現實時的目標識別和分類任務，而且準確率相當高，網路構建成本不足50美元。

如果說GPU養大了深度學習，那麼如今深度學習的胃口早已經超越了GPU。

當然，GPU在不斷發展，也出現了TPU、IPU、MLU來滿足這頭巨獸。

深度學習對算力的需求沒有止境，但受制於能耗和物理極限，基於硅基的電子元件雖然現在還能支撐，但遠處那堵幾乎不可逾越的高牆已然顯現。

怎麼辦？

光速深度學習！

今天，Science發表了加州大學洛杉磯分校（UCLA）研究人員的最新研究：All-optical machine learning using diffractive deep neural networks，他們使用 3D 列印打造了一套 「全光學」 人工神經網路，可以分析大量數據並以光速識別目標。

論文地址：http://science.sciencemag.org/content/361/6406/1004

這項技術名為衍射深度神經網路（diffractive deep neural network，D2NN），它使用來自物體的光散射來識別目標。該技術基於深度學習的被動衍射層設計。

研究團隊先用計算機進行模擬，然後用 3D 印表機打造出 8 平方厘米的聚合物層。每個晶圓表面都是不平整的，目的是為了衍射來自目標的光線。

衍射深度神經網路由一系列聚合物層組成，每層大約 8 平方厘米。利用網路區域內的光的衍射傳播路徑來識別目標。

研究人員使用 THz 級頻率的光穿透 3D 列印的網路層。每一層網路由數萬個像素組成，光可以通過這些像素傳播。

研究人員為每類的目標分配像素，來自目標的光被衍射到已分配給該目標類型的像素上。這樣，衍射深度神經網路就能夠識別目標，其耗時與計算機 「看到」 目標所花費的時間相仿。

的。

D2NN: 光速實時學習，成本不到 50 美元

而隨著來自不同目標的光通過 D2NN, 研究人員利用深度學習訓練神經網路，以學習每個目標產生的衍射光圖案。

「我們使用逐層製造的無源元件，並通過光的衍射將這些層相互連接起來，打造一個獨特的全光平台，可以以光速執行機器學習任務。」 該研究團隊負責人，加州大學洛杉磯分校教授 Aydogan Ozcan 表示。

「這就像一個由玻璃和鏡子構成的複雜迷宮。光進入衍射網路，並在迷宮周圍反射，直到其離開該區域為止。系統能夠根據某目標產生的大部分光最終離開迷宮的路徑，確定究竟是哪個目標。」Ozcan 說。

在實驗中，研究人員將圖像放在 THz 級頻率的光源前。 D2NN 通過光學衍射對圖像進行觀察。研究人員發現，該設備可以準確識別手寫的數字和衣服，這兩類對象都是人工智慧研究中的常用目標。

圖為 D2NN 設備識別文本

在訓練中，研究人員還該將設備作為成像的鏡頭，就像一般的相機鏡頭一樣。

由於 D2NN 的組成可以由 3D 列印製造，成本低廉，可以構建規模更大、數量更多的層，製造出包含數億個人工神經元（像素）的設備。規模較大的設備可以同時識別更多的目標，執行更複雜的數據分析。

D2NN 的組件成本低廉。研究人員表示，他們使用的 D2NN 設備成本不到 50 美元。

雖然這項研究使用的是 Thz 級光譜中的光，但 Ozcan 表示，也可以打造使用可見光、紅外線或其他頻率光譜的神經網路。他表示，除 3D 列印外，D2NN 也可以使用光刻或其他印刷技術打造。

全光學衍射深度神經網路（D2NN）的 3D 列印衍射板

D2NN的設計和性能：MNIST分類準確率達到91.75%

在論文中，研究人員介紹了D2NN框架的技術細節、實驗和測試性能。

在D2NN全光學深度學習框架中，神經網路物理上由多層衍射表面（diffractive surfaces）形成，這些衍射表面協同工作以光學地執行網路可以統計學習的任意功能。雖然這個物理網路的推理和預測機制都是光學的，但其學習部分是通過計算機完成的。

研究者將這個框架稱為衍射深度神經網路（ diffractive deep neural network，D2NN），並通過模擬和實驗證明了其推理能力。D2NN可以通過使用幾個透射和/或反射層進行物理創建，其中給定層上的每個點都傳輸或反射進來的光波，每個點代表一個人工神經元，通過光學衍射連接到後續的層。如圖1A所示。

圖1：衍射深度神經網路D2NN

D2NN 中的人工神經元通過由通過振幅和相位調製的次級波連接到下一層的其他神經元。圖1D是標準深度神經網路的一個類比，可以將每個點或神經元的傳輸或反射係數視為一個「bias」項，這是一個可學習的網路參數，在訓練過程中使用誤差反向傳播方法進行迭代調整。

經過這一數值訓練階段， D2NN的設計就固定了，並且確定了各層神經元的傳輸或反射係數。這種 D2NN設計可以以光速執行所訓練的特定任務，僅使用光學衍射和無源光學器件（passive optical components）或無需功率的層，從而創建一種高效、快速的方式來實現機器學習任務。

一般來說，每個神經元的相位和振幅可以是可學習的參數，在每一層提供復值調製（complex-valued modulation），這改善了衍射網路的推理性能。 對於phase-only調製的同調傳輸網路，每層可以近似為一個薄的光學元件（圖1）。通過深度學習，在輸入層饋送訓練數據並通過光學衍射計算網路輸出，每一層的神經元的phase value迭代調整（訓練）來執行一個特定的函數。

在計算目標輸出誤差的基礎上，通過誤差反向傳播演算法優化網路結構及其神經元相位值。誤差反向傳播演算法基於傳統深度學習中的隨機梯度下降法。

D2NN性能：MNIST手寫數字數據集

為了演示 D2NN框架的性能，我們首先將其訓練成一個數字分類器，對從0到9的手寫數字進行自動分類(圖1B)。

為了完成這項任務，我們設計了一個五層的D2NN，其中包含來自MNIST手寫數字數據集的5.5萬張圖像(5000張驗證圖像)。我們將輸入數字編碼到D2NN輸入域的幅值中，訓練衍射網路將輸入數字映射到10個檢測器區域，每個檢測器區域對應一個數字。分類標準是尋找具有最大光信號的檢測器，相當於網路訓練過程中的損失函數。

在訓練之後，使用來自MNIST測試數據集的10000個圖像（未用作訓練或驗證圖像集）對D2NN數字分類器進行數值測試，並且實現了91.75％的分類精度（圖3C）。

根據這些數值結果，我們將這個5層的D2NN 設計3D列印出來（下圖），每一層的面積為8cm×8cm，然後在衍射網路的輸出平面定義10個檢測器區域（圖1B）。

圖2：3D列印的D2NN的實驗測試

然後，我們使用0.4 THz的連續波光照來測試網路的推理性能（圖2，C和D）。

每一層神經元的相位值用3D列印神經元的相對厚度進行物理編碼。對這個5層的D2NN設計的數值測試顯示，在 ~10000幅測試圖像中，分類準確率達到91.75%（圖3C）。

圖3： D2NN手寫數字識別器的性能

D2NN性能：Fashion-MNIST數據集

接下來，為了測試D2NN框架的分類性能，研究者使用了一個更複雜的圖像數據集——Fashion-MNIST數據集，其中包含10個類別的時尚產品。

D2NN對Fashion-MNIST數據集的分類結果如下圖所示。具有N = 5個衍射層的phase-only和complex valued的D2NN的分類精度分別達到81.13%和86.33％。

通過將衍射層的數量增加到N = 10，並將神經元的總數增加到40萬，D2NN的分類精度提高到86.60％。對比而言，在已有研究中，基於卷積神經網路的標準深度學習，使用~890萬可學習參數和~250萬個神經元，Fashion-MNIST分類準確度的最高性能為96.7％。

光學神經網路的應用

光學電路深度學習是一項重大突破，而且其現實應用已經逐漸

根據光學領域權威期刊Optica的報道，美國斯坦福大學的研究人員已經證明，可以直接在光學晶元上訓練人工神經網路。這一重大突破表明，光學電路可以實現基於電子的人工神經網路的關鍵功能，從而可以以更便宜、更快速和更節能的方式執行語音識別、圖像識別等複雜任務。

不僅如此，斯坦福的另一組研究人員還研究出一套小型AI成像系統，採用雙層光學-電子混合計算技術，成像精度和速度均達到電子計算處理器水平。具體說，研究人員在電子計算之前加上一層光學計算，這種AI成像系統在低光照條件下具備更強的成像能力，每個立體像素上的光電子密度最高可達幾十個，同時節約了大量本該用於計算的時間和成本。

具體到這項研究，UCLA的研究團隊表示，他們的 D2NN 設備可用於全光學圖像分析、特徵檢測和對象分類任務，還可以實現使用 D2NN 執行任務的新相機設計和光學組件。

例如，使用該技術的無人駕駛汽車可以立即對停車標誌作出反應，一旦收到從標誌衍射來的光，D2NN 就可以讀取標誌信息。該技術還可用於對大量目標的分類任務，比如在數百萬細胞樣本中尋找疾病的跡象。

「這項研究為基於人工智慧的被動設備提供了新機會，可以對數據和圖像進行實時分析，並對目標進行分類。」Ozcan 說。「這種光學人工神經網路設備直觀地模擬了大腦處理信息的方式，具備很高的可擴展性，可以應用到新的相機設計和獨特的光學組件設計中，也可用於醫療技術、機器人、安全等領域。」

論文：

http://science.sciencemag.org/content/361/6406/1004

參考鏈接：

https://www.photonics.com/Articles/All-Optical_Diffractive_Deep_Neural_Network_Is/a63751

https://newatlas.com/diffractive-deep-neural-network-uses-light-to-learn/55718/

新智元AI WORLD 2018世界人工智慧峰會

倒計時12天

門票已開售！

新智元將於9月20日在北京國家會議中心舉辦AI WORLD 2018世界人工智慧峰會，邀請機器學習教父、CMU教授 Tom Mitchell，邁克思·泰格馬克，周志華，陶大程，陳怡然等AI領袖一起關注機器智能與人類命運。

大會官網：

http://www.aiworld2018.com/

活動行購票鏈接：

http://www.huodongxing.com/event/6449053775000

活動行購票二維碼：

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！