DeepMind發最新研究：人類認知心理學開啟AI「黑盒子」

知識 06-30

深度神經網路已經掌握了解決各種問題的方法——從識別、推理圖像中的物體，到成為「圍棋上帝」。隨著這些任務變得越來越複雜，神經網路摸索出來的解決方法也變得越來越繁瑣。

因為這個系統太複雜了，即使是設計該系統的工程師可能也無法分析出它發出某一指令的原因。當然，你也不能強求這個神經網路能夠給出它下達每一個指令的原因：目前為止還沒有一套能夠讓 AI 自己解釋自己行為的系統。

實際上，這就是人工智慧領域著名的「黑盒子」問題，隨著神經網路在現實世界中的應用越來越廣泛，對這一問題的研究也開始變得無比重要。對此，《麻省理工科技評論》曾以「人工智慧核心地帶的黑暗秘密」為題刊發專題文章，來深入探討神經網路的不可解釋性問題。

圖丨《麻省理工科技評論》關於人工智慧的「黑盒子」問題的封面文章

作為人工智慧研究領域的先鋒，DeepMind對「黑盒子」問題也在持續關注——目前，該團隊正著手開發更多的工具，用於解釋人工智慧系統。6 月 26 日，在最新發布的一篇論文中，DeepMind提出了一種基於認知心理學來研究深度神經網路的新方法。

那麼，什麼是認知心理學？一般而言，該學科通過評估行為來推測認知機制，並涵蓋了大量與認知機制相關的細節，同時還設計了很多實驗來證明這些機制。隨著神經網路在解決某些具體問題上的能力已經達到或超越人類水平，認知心理學的研究方法將與人工智慧的黑盒子問題愈發相關。

為了證明這一點，DeepMind設計了一個實驗來解釋人類認知，從而幫助人類進一步了解深度神經網路是如何解決圖像分類問題。

實驗結果顯示，認知心理學家觀察到的人類行為，在深度網路中也有類似的體現。總體上說，實驗的成功也證明，認知心理學完全可以用來幫助人們更好地理解深度學習系統。

在 DeepMind 的案例研究中，甚至考慮到了孩子們是如何辨識物體的，這是認知心理學的一大研究領域。

通常而言，孩子們從單個例子中猜測詞語意思的能力，被稱為「單次語義學習」（one-shot word learning）——這種認知能力看起來非常自然，會讓人們覺得，這一過程其實沒什麼太複雜的機制。

然而，美國著名哲學家威拉德·奧曼·奎因多年前設計的一個經典思想實驗，卻向人們展示了這一過程到底有多複雜：

一個語言學家要去一個地方，但那裡的語言和這個語言學家所使用的完全不一樣。於是，這位語言學家想找一位當地人來學習一些本地語言中的辭彙。這時，正巧有一隻兔子從他們身邊跑過，當地人脫口而出「gavagai」，於是語言學家就開始推測這個詞的意思。

圖丨「gavagai」到底指的是什麼？

當然，這個詞可能表示很多意思，可以是「兔子」、「白色的東西」，甚至指兔子身上的某一部位。

那麼，面對這麼多的可能性，人類如何去選擇哪個正確的意思？

時至今日，我們在使用深度神經網路進行單次語義學習時也會遇到了同樣的問題，而 DeepMind 團隊所開發的名為「匹配網路」（Matching Network）的新型神經網路模型或許可以解決這些問題。

實際上，匹配網路憑藉著在關注度和記憶方面的進步，完全可以做到僅憑一個案例就對ImageNet圖像識別資料庫中的海量數據進行分類篩選，而且表現絕對是無可爭辯的。

為了闡明這一點，研究團隊參照了認知心理學家的研究結果——他們發現，孩子們往往是通過歸納出偏好來消除許多錯誤推論，從而得出正確推論。這些典型的偏好包括：

整體偏好（whole object bias）：孩子們會更傾向於認為一個詞指代的是整個物體，而不是它的組成部分（兔子未被關注的部分）；

類別偏好（taxonomic bias）：將一類物體歸於類別中的某一種物體（所有動物都可能被當做「兔子」）；

形狀偏好（shape bias）：孩子們往往會根據事物的形狀，而不是顏色或條紋來描述一個物體。（所有白色的東西都可能被歸類為「兔子」）。

在上面三種偏好中，DeepMind的研究團隊選擇了「形狀偏好」作為檢測神經網路的切入點，這是因為「形狀偏好」在人類偏好研究中佔據了很大的比重。

圖丨從左至右：原物體、形狀匹配物體、顏色匹配物體

更為關鍵的是，在接下來的試驗中，DeepMind 研究團隊向深度神經網路展示三個物體的圖像——原物體、形狀匹配物體（形狀相似但顏色不同的參照物體）以及顏色匹配物體（顏色相似但形狀不同的參照物體）。同時，研究團隊記錄了原物體和形狀匹配物體被歸為一類的次數，以及原物體和顏色匹配物體被歸到一類的次數。

在對上述歸類次數進行比對後，研究人員發現，正如人類一樣，該網路對形狀的感知有著超過對顏色和材質的偏好——也就是說，神經網路也有著「形狀偏好」。