從Model S 車禍事件說起，智能機器與可理解的機器差別究竟在哪裡？

電腦是如何做出選擇的呢？

這個問題需要分兩種情況回答。從過去的眼光來看，電腦所做的選擇都是程序員寫程序時事先編寫好的，當電腦遇到問題時，只需按照事先編寫好的程序進行選擇就行。不過，隨著人工智慧的崛起，深度學習技術開始佔了上風，現在電腦做選擇可沒有過去那麼非黑即白了。但是，技術人員開發程序時大多數不會考慮這一點，他們大多只是選擇一個能產出正確結果的演算法而已，沒人會在乎這個結果是如何得來的。

當然，這也不能全怪技術人員，畢竟當程序的準確率達到99%時，還有誰會在乎其深層內涵呢？不過，既然一個馬蹄鐵就能毀掉一場戰爭，那麼我們就不得不注意到那剩下的1%。如果這不起眼的1%會涉及到生死抉擇，那麼搞清楚電腦如何思考就變成了重中之重。

從特斯拉致命事故說起

就拿最近鬧的沸沸揚揚的特斯拉Model S致死事故來說，為什麼這輛車的自動駕駛系統沒能識別前方的拖掛卡車呢？眼下，我們大致知道了原因（那天天氣晴朗陽光充足，拖挂車漆成了白色，電腦沒能將其與天空區分開），但我們卻不了解電腦做決定的過程，或者說如何在未來避免這種情況再次發生。「我想，特斯拉的工作人員肯定也在想著同樣的問題：這種情況到底是怎麼發生的呢？那麼大一輛車，為什麼電腦就沒能識別出來呢？」Dhruv Batra教授說道，他是弗吉尼亞理工大學的機器感知專家。「如果只是靠車上的『黑匣子』來分析事故，我們永遠也找不到答案。」

此外，Batra教授認為讓AI的決策透明化與選擇一種合適的教育方式同樣重要。一個差老師只知道要學生死記硬背，靠記憶力應付考試，而好老師則注重方法的傳授，他會讓學生解釋自己得出答案的全過程。對待電腦，人類也要當個好老師，讓它們將自己的思考過程娓娓道來。

只讓AI死記硬背各種數據的人類不是好老師

近日，Batra教授的兩個學生Abhishek Das和Harsh Agrawal針對該問題進行了一番研究。他們讓兩個人和兩台專攻物品識別的神經網路機器進行圖像識別比賽，隨後在比賽中觀察他們眼神的落點，並對比人與機器在選擇過程中的不同。因此，當聽到「圖中男人的鞋是什麼顏色？」的問題時，你可能覺得人和機器的眼睛都會齊刷刷的望向圖片底部。不過，Das和Agrawal發現，現實與你的想像有所不同。

為了對比人與機器的不同，研究人員打造了「注意力」熱度圖，熱度圖可以疊加觀察。如果結果完全無重疊，參數為0；如果完全重疊，參數則為1。結果顯示，人類的熱度圖參數為0.63，而機器則只有0.26（注意力跑偏了）。

要解釋這一差別其實很難。舉例來說，當要求人和機器回答「遮擋窗戶的是什麼？」（百葉窗）的時候，人的眼神會直接聚焦在窗戶上，而機器卻謎一般的將精力集中在了床上。

Batra教授認為，這一異常現象的出現，是神經網路的訓練方法所致。由於英文的特殊性，在向神經網路展示卧室（bedroom）圖片時，它們會首先注意到「bed」（床）這個詞，因此在聽到問題後演算法會首先將注意力集中在床上。「它們回答問題時首先會向自己的資料庫求證，而不像人類一樣注重實踐。」Batra教授說道。

這樣的誤差在解決一些小問題時絕對無傷大雅，但如果機器學習演算法未來想擔起大任，研究人員就要搞清楚它們是如何做出抉擇的。

人類要充分理解AI的「小心思」

在談到如何發展負責任的AI時，微軟CEO列出了6點關鍵目標，其中透明度就排在第二。「我們需要的不只是智能的機器（intelligent machines），而是可理解的機器（intelligible machines）；不只是人工智慧（artificial intelligence），還要是共生智能（symbiotic intelligence）。納德拉說道。「技術要能理解人類，而人類也必須要了解機器。人類應該明白技術是怎樣「看」這個世界、「分析」這個世界的，這樣能讓道德和設計攜手並進。」

Batra教授認為，這些步驟雖然麻煩，但他是人類通往未來的必經之路。「如果我們要將AI引入日常生活，它們就要學會與人類溝通，但前提是人類要建立起對它們的信任。」他說道。「到時，一定有人會問AI『你為什麼要說這些啊？』機器人則需要給出一個令人信服的答案。」未來，人工智慧的訓練主要還是靠資料庫，但研究人員也應及時將其行為與人類做對比，找出差別之處來進行針對性的修正。

雖說這樣會增大訓練深度學習和神經網路系統的成本和時間，但Batra教授相信這些花費是必要的。「這有利於人與機器之間信任的建立，」他說道。「同時我們還能增進人與機器之間的相互理解，提高人工智慧的表現。」

請您繼續閱讀更多來自 搜狐新聞 的精彩文章:

TAG:搜狐新聞 |

※比iPhone X的解鎖更主流，它才是智能手機的未來
※Tipron智能投影機器人，想看片召喚它就好了
※LG智能機器人Airbot，機場里會賣萌的好幫手
※iPhone X：可能真的是智能手機的未來
※如何選擇你的智能手機？從iPhone改變世界說起
※怕寵物走丟？不如給它們配台Trackums智能手機吧
※Google 想要讓「智能手機」告別「手機」
※竟然比Siri還會聊天 這款智能機器人讓孩子開始「嫌棄」我
※比iPhone X的臉部識別更進一步，用「心」解鎖智能手機
※未來智能手機無需光學攝像頭，iPhone相機終於可以做平了？
※讓iPhone也能變成智能遙控器
※用過Moto Z之後，才會明白什麼是真正的智能手機
※究竟何為機器人？AI時代下的智能機器人又會是什麼樣子？
※蘋果 AirPods 之後，大家對智能耳機還有什麼想像？
※Google 聯合 Levi s 做的這款智能夾克，讓你只用手勢就能控制手機
※Sandman Doopler，多功能智能鬧鐘是否能吸引你使用呢？
※這才是世界上最小的 4G Android 智能手機，但你還需要一款小屏手機嗎？
※iphone8或取消實體按鍵，這可能是未來智能手機的常態
※蘋果智能音箱Home Pod怎麼樣？你會為它埋單嗎