DeepMind 創始人 Cell 評論:通用人工智需要怎樣的學習系統?
1新智元編譯
來源:Cell Press
譯者:聞菲
【新智元導讀】谷歌 DeepMind 創始人 Demis Hassabis 等人近日在細胞出版社期刊發表評論,拓展輔助學習系統(CLS)理論,為研究通用人工智慧提供了框架。CLS理論認為,哺乳動物學習需要兩個系統:一個緩慢學習結構化知識,一個快速存取信息,這些快速存取的信息能夠回放,最終整合進入第一個系統。玩遊戲達到人類水平的人工神經網路也含有類似結構。通過研究人類如何學習,我們或能開發更加智能的機器。
點擊播放 GIF/58K
據 ScienceDaily 報道,谷歌 DeepMind 創始人 Demis Hassabis 等人在細胞出版社旗下期刊Trends in Cognitive Sciences發表評論,更新了人類和其他哺乳動物學習知識的有關理論,對人工智慧 Agent 發展有重要指導意義。
該評論題為《智能體需要怎樣的學習系統?再談輔助學習系統理論》(WhatLearning Systems do Intelligent Agents Need? Complementary Learning Systems Theory Updated)。
輔助學習系統(Complementary Learning Systems,CLS)理論於 1995 年提出,以英國計算神經科學家 David Marr 早先關於新皮質的理論和海馬體的理論為基礎,結合當時剛剛發現的神經網路學習方法發展而來。
CLS理論認為,學習是兩個互補學習系統的產物:第一個系統從接觸到的經驗中逐漸吸取知識和技巧,第二個系統則存儲具體經驗;這些經驗能夠在腦中不斷回放(replay),從而有效整合進入第一個系統。
學習是兩個互補系統的產物
CSL理論中,第一個系統位於大腦皮層,和如今的深度網路一樣,這類系統在輸入和輸出之間也含有數層神經元,而網路中的知識就在神經元的連接當中。隨著經驗積累,各個神經元連接會形成迴路,於是生命體就有了識別物體、感知言語、理解併產生語言的能力,再到後來可以在博弈中選擇最優決策,根據所學做出智能的判斷。
但是,如果短時間內網路中新加入的信息量太大,神經元連接的結構發生巨大變化,就會大幅扭曲原先存儲在這些連接里的知識。
為了解決這個問題,科學家提出了輔助學習系統理論。在人類和其他哺乳動物的腦中,輔助學習系統位於海馬體。有了新的體驗後,信息會先存儲在海馬體,供人直接使用。此外,我們也會把這些信息拿出來,不斷回放給大腦皮層,使這些信息與其他相關經歷在腦中形成的既有信息相結合。
這樣,輔助學習系統實現了即時學習,並使信息能夠逐漸整合進入大腦新皮層的結構化知識表徵。
CLS理論示意圖
上圖中間和右邊兩塊深黃色區域表示初級感覺和運動皮層,灰色虛線標出了內側顳葉的位置,海馬體在內側顳葉內部,用深灰色區域表示。
各色箭頭表示神經元連接。其中,綠色箭頭代表新皮質聯合區神經連接。藍色箭頭代表新皮質區和內側顳葉間的神經連接。根據CLS理論,藍綠箭頭都屬於新皮質學習系統,受神經連接結構影響。
深紅色箭頭是海馬體內部的神經連接。這些連接的神經突觸可塑性極強,便於快速將信息整合進入海馬體知識表徵。當海馬體回放記憶時,信息經由藍色箭頭傳遍新皮質各區,再由圖中綠色箭頭可知,沒有新信息輸入時,新皮質系統內部就能發生學習的過程。
斯坦福大學心理學教授 James McClelland 參與提出了CLS理論,他同時也是這次新發表評論的一位作者。McClelland 認為,有充分證據表明大腦中含有這兩種學習系統,而CLS理論很好地闡釋了這兩種系統如何通過互補,有力解決大腦關於學習的一個關鍵問題。
通用人工智慧需要怎樣的學習系統?
新發表的這篇評論文章則拓展了CLS理論,尤其是CLS理論中海馬體的作用。
論文第一作者、DeepMind 認知神經科學家 Dharshan Kumaran 表示,玩各種電腦遊戲達到人類水平的神經網路架構,其組件都受輔助學習系統啟發而來。
類似新皮質系統的人工神經網路
Kumaran 表示,就像CLS理論說的那樣,這些神經網路利用一個類似海馬體的內存緩衝區存儲近期遊戲情節,並交錯式地回放這些記憶。這樣,實際玩遊戲的經歷對學習起到的作用得到了極大發揮,同時也避免了某個局部運行的經歷主導整個學習系統的趨勢。
DeepMind 創始人 Demis Hassabis 也是論文作者。Hassabis 表示,拓展後的CLS理論或將繼續為未來神經科學研究和開發通用人工智慧提供框架。
「開發通用人工智慧是谷歌 DeepMind 的目標。」Hassabis 在細胞出版社新聞通稿中說。
信息來源:Cell Press,How insights into human learning can foster smarter artificial intelligence,Science Daily
*****
摘要
我們更新了輔助學習系統(CLS)理論。輔助學習系統理論認為,智能體必須擁有兩個學習系統,分別位於哺乳動物腦部的新皮質和海馬體。第一個系統逐漸獲取結構化的知識表徵,第二個系統快速學習個體經驗的細微問題。本文拓展了CLS理論中海馬體學習系統的回放功能,認為正是回放讓基於目標依賴的經驗統計加權成為可能。我們還討論了CLS理論近期面臨的一些問題,論證了反覆激活海馬體記憶痕迹能支持某些形式的泛化,當信息與已知結構相一致時,新皮質學習速度極快,由此拓展了CLS理論。最後,我們指出設計人工智慧代理與該理論的關聯,尤其是神經科學和機器學習之間的聯繫。
微軟CEO演講關鍵詞:雲計算、人工智慧、混合現實
※亞馬遜機器學習總監Alex Smola:TensorFlow、Caffe等已經存在,為何還需要MXNet?
※Cell Stem Cell:發動造血幹細胞的增殖「引擎」需要一關鍵分子
※Phil Spencer 認為某些 Xbox 遊戲需要 Netflix 風格的訂閱模式
※Phil Spencer認為某些Xbox遊戲需要Netflix風格的訂閱模式
※練Keep,你需要特別補充蛋白質嗎?| Keep Talking
※Mol Cell:科學家發現不需要E3連接酶的泛素化過程
※史上最年輕Chanel代言人,Lily Rose開掛的人生不需要理由
※「Today at Apple」新活動:你還需要了解什麼
※你需要知道的關於Fritz Leiber的一些事
※armadillo認為G-Shock需要一個套才能滿足!
※為什麼冬天需要一雙stuart weitzman
※HoloLens|每個人都需要面對節後綜合症嗎?
※Katy Perry表示願意和Taylor Swift合作 但是霉霉需要先道歉 兩人恩怨情仇大回顧!
※iPhone需要貼膜嗎?
※不需要墨水的攜帶型印表機:Droprinter
※蘋果iPhone 8需要哪些創新才能擊敗三星Galaxy S8?
※宇博Chiara Ferragni告訴你,做博主到底需要多少個包?
※宇博Chiara Ferragni 告訴你,做博主到底需要多少個包?
※Google Map制霸的時代,我們需要怎樣的紙本地圖?