突破！DeepMind成功使用認識心理學解釋深度神經網路黑盒！

科技 07-02

導讀：DeepMind最近通過認識心理學研究深度神經網路案例：我們從發展心理學中選擇了一個完善的分析，解釋了兒童如何學習對象的單詞標籤，並將該分析應用於DNN。使用由原始認知心理學實驗啟發的刺激數據集，我們發現在ImageNet上訓練的最先進的一次學習模型顯示出與人類觀察到的相似的偏好：他們更喜歡根據形狀而不是顏色對對象進行分類。這些結果證明了認知心理學工具能夠揭示DNN的隱藏計算屬性，同時為人類學習提供了一個計算模型。

深層神經網路已經學會了一系列驚人的任務，從識別和推理圖像中的對象到玩Atari and Go的超人等級。隨著這些任務和網路架構變得越來越複雜，神經網路學習的解決方案變得越來越難以理解。

這被稱為「黑匣子」問題，隨著神經網路在越來越多的現實世界應用中的使用，打開黑盒了解其原理就越來越重要。

在DeepMind，我們正在努力尋找用於理解和解釋這些系統的工具。在我們最近發表在ICML的最新文章中，我們提出了一種採用認知心理學方法來理解深度神經網路的這個問題的新方法。認知心理學測量行為來推斷認知機制，並包含詳細描述這種機制的大量文獻，以及驗證這些機制的實驗。隨著我們的神經網路在特定任務上接近人類的表現，認知心理學的方法正越來越與黑匣子問題相關。

「黑盒子」信用：Shutterstock

為了證明這一點，我們的文章報告了一個研究案例：我們使用一個旨在闡明人類認知的實驗來幫助我們了解深層網路如何解決圖像分類任務。

研究結果表明，認知心理學家在人類中觀察到的行為也被這些深度網路所顯示。此外，結果揭示了網路如何解決分類任務的有用和令人驚訝的見解。準確說，案例研究的成功證明了使用認知心理學了解深度學習系統的潛力。

測量一次性學習模型中的形狀偏差

在我們的案例研究中，我們考慮了孩子如何識別和標註物體 - 發展認知心理學的豐富學習領域。孩子們從一個例子中猜出一個單詞的意思的能力 - 所謂的「一鍵式單詞學習」 - 輕而易舉地認為這是一個簡單的過程。然而，哲學家Willard Van Orman Quine的經典思想實驗說明了這這裡面的複雜性：

一個領域的語言學家去到另一種文化環境，其語言完全不同於我們自己的文化。語言學家正在嘗試從一個有用的母語者那裡學習一些話，當一隻兔子出現的時候。母語者聲明「gavagai」，語言學家可以推斷出這個新詞的含義。語言學家面臨著大量可能的推論，其中包括「gavagai」是指兔子，動物，白色的東西，特定的兔子，或「未被取出的部分兔子」。有無限可能的推論。人們如何選擇正確的那個？

「Gavagai」信用：「Misha Shiyanov / Shutterstock」

五十年後，我們面臨著同樣的問題，即可以進行一次性學習的深度神經網路。考慮我們在DeepMind的同事開發的神經網路匹配網路。該模型使用最近在注意力和記憶力方面的進步來實現使用類中唯一示例的ImageNet圖像的最先進的性能。但是，我們並不知道網路對這些圖像進行分類的假設。

為了闡明這一點，我們考察了發展心理學家（1）的工作，他們發現證據表明兒童通過應用歸納偏差來消除許多不正確的推論，找出正確的推論。這種偏見包括：

整個對象的偏見，孩子們認為一個詞是指整個對象，而不是它的組成部分（消除了Quine』s 對未被取消的兔子部分的關注）

孩子們認為一個單詞是指一個對象所屬的基本類別（排除Quine』s 恐懼所有動物可能被選為「兔子」）的分類學偏好）

外形偏差，由於孩子區分名詞的意思是基於物體的形狀，而不是顏色或紋理（緩解Quine』s 的焦慮，所有白色的東西可能會被指定為「兔子」的意思）

選擇測量我們神經網路的形狀偏差，因為在人類學習這種偏見的研究中，有一個特別大的研究對象。

我們用來測量我們深度網路中的形狀偏差的認知心理學刺激的例子。這些圖像由印第安納大學認知發展實驗室的琳達·史密斯提供。

我們採用的經典形狀偏差實驗如下：我們向深度網路呈現三個對象的圖像：探針對象，形狀匹配對象（相同形狀，不同顏色）和顏色 - 匹配對象（相同顏色，不同形狀）。然後，我們測量形狀偏好作為探測圖像被分配與形狀匹配圖像相同的標籤而不是顏色匹配圖像的時間的比例。

我們在印第安納大學認知發展實驗室中使用人體實驗中使用的對象圖像。

我們與匹配網路的認知心理學實驗示意圖。匹配網路將探測圖像（左）與圖像 A （頂部，中間）或圖像 B （頂部，右側）匹配。輸出（右下）取決於匹配網路中形狀偏差的強度。

我們使用我們的深度網路（匹配網路和初始基線模型）嘗試了這個實驗，發現像人類一樣，我們的網路對對象形狀而不是顏色或紋理有很強的偏好。換句話說，它們具有「形狀偏好」。

這表明匹配網路和Inception分類器使用歸一化偏差來消除不正確的假設，從而使我們能夠清楚地了解這些網路如何解決一鍵式單詞學習問題。

觀察形狀偏好不是我們唯一有趣的發現：

我們觀察到，在我們網路的早期訓練過程中，形狀偏好逐漸出現。這讓人聯想到人類形狀偏好的出現：心理學家已經觀察到，幼兒的形狀偏好比年齡較大的孩子小，成年人顯示出最大的偏好。

我們發現，根據用於初始化和訓練的隨機種子，我們的網路有不同的偏好水平。這告訴我們，在深入學習系統進行實驗時，我們必須使用大量訓練有素的模型來得出有效的結論，正如心理學家已經學會了根據單個主題得出結論一樣。

我們發現，即使形狀偏好差異很大，網路也實現了相同的單次學習，表明不同的網路可以為複雜的問題找到各種同等有效的解決方案。

在標準神經網路架構中發現這種以前無法識別的偏見說明了使用人工認知心理學解釋神經網路解決方案的潛力。在其他領域，情景記憶文學的見解可能對於了解情景記憶體結構是有用的，並且來自語義認知文獻的技術可能有助於理解最近的概念形成模型。其他領域的豐富心理學文獻，有可能給我們強大的新工具來解決「黑匣子」問題，更深入地了解神經網路的行為。

附：論文的主要介紹＋圖表＋結論截圖：