谷歌總結5項技術挑戰，旨在理性面對家用AI的潛在危險

DeepTech深科技麻省理工科技評論傾力打造

谷歌羅列了5項技術挑戰。解決這些技術挑戰將確保家用機器人的安全性。

機器人是否會變得如此聰明和強大，以至於對人類產生威脅？這個問題近年來在矽谷激起了熱烈的討論。當然，討論歸討論，簡單機器人和AI助手的應用在今天已經非常普及。一些AI專家認為，過分誇大強人工智慧的危害將阻礙AI的發展。

人工智慧巨頭谷歌試圖用理性的方法來處理AI危險性的爭論。今天谷歌發表的一篇文章總結了AI研究人員應當考慮的5個問題，對這些問題的解決可以確保AI更加安全，至少，谷歌研究員克里斯·歐拉（Chris Olah）在文章中是這麼認為的。

他寫到：「之前關於AI安全性的討論大多基於不太實際的假設和推理。我們相信，從機器學習的實質出發來建立AI工程的安全原則才是正確的道路。」

歐拉以清潔機器人為例來說明他提出的5點技術挑戰。

第1個技術挑戰是防止機器人欺詐人類。比如，掃地機器人可能會發現，把灰塵藏起來要比費勁打掃乾淨更省事，只要人類不發現。

第2個技術挑戰是確保機器人在嘗試新方法時的安全性。例如，清潔機器人應該能夠嘗試新的，更有效的清潔方式，但絕不應該嘗試用濕抹布來擦插線板。

第3個技術挑戰是要確保機器人明白什麼是負面影響，比如如果打翻一個花瓶，就能更加迅速地完成清潔的話，這樣的選擇要不要做。

第4個技術挑戰是如何有效地進行監督，比如如何去識別房間的里的物體是否是屬於人的，因為這些物品是不能被清掃掉的。

第5個技術挑戰則是對環境的識別，因為清潔機器人如果從工廠車間學習到了某種打掃方式，用在辦公室或者家裡可能就是非常危險的。

歐拉與2名谷歌研究員，以及來自斯坦福大學、加州伯克利分校和OpenAI研究所的研究人員聯名發布了這篇文章。伊隆·馬斯克是OpenAI的聯合創始人，也是投資人之一。馬斯克出於對AI失控的擔憂，資助建立了OpenAI研究所，並將AI的安全化作為其主要研究方向之一。

谷歌認為，還需要確保AI軟體的操作不能產生意料之外的結果。谷歌在AI安全領域的第1篇論文於本月由DeepMind團隊在倫敦發布。DeepMind團隊負責人丹尼斯·哈薩比斯（Demis Hassabis）也總結了一套AI應該服從的道德規範，儘管團隊其他成員並未就此達成一致意見。

奧倫·伊茲托尼，阿蘭AI研究所CEO，對谷歌提出的AI安全5大問題表示歡迎。他之前表示，目前關於AI危險性的討論太過於模糊，沒法給科研人員提供什麼指導。但是谷歌提出的5大安全問題已經可以指導AI安全研究，儘管這些研究能否有用還是未知數。

伊茲托尼說：「聰明的人總能問到點子上。當你問對了問題，遲早會得到正確的答案。」

翻譯：離子心

深科技招聘外腦團隊，還科技內容應有的價值

MIT Technology Review 中國唯一版權合作方，任何機構及個人未經許可，不得擅自轉載及翻譯。

分享至朋友圈才是義舉

DeepTech深科技

ID：mit-tr

請您繼續閱讀更多來自 DeepTech深科技 的精彩文章:

TAG:DeepTech深科技 |

※轉基因技術——理性客觀對待
※商務部：非理性對外投資得到有效遏制 行業結構優化
※對量子科技最理性的分析！盲目迷信新技術將帶來苦果
※辦公室戀情在工作中的利弊 權衡理性對待最重要
※凝智科技：充電樁發展趨於理性 技術、服務、行業都要升級
※TED|非理性決策背後的心理學
※追求公平競技體驗 使命召喚OL精英排位賽的理性設定
※對戰爭問題的系統的理性認識是十分必要的
※理性對待徒手訓練，完全力竭恐發生意外
※HUAWEI P9《理性與感性的不期而遇》
※非理性中的理性——德生科技
※AMG GT是賓士更加理性和深刻理解市場之後的產品，SLS的定位一直比較尷尬
※面對歷史我們是理性的嗎？
※P2P平台資金存管扎堆暴漲，狂熱中須理性應對
※感性戰勝理性，理性糾於感性
※康德「理性建築術」的兩種模型
※理性討論我凱的實力，位列火影體術巔峰
※AI 面前，人類不只需要理性
※下周理性對待MSCI