令人恐懼：AI發展出了自己的語言，人類無法理解；不得不進行人工干預
網易科技訊 6月19日消息據《大西洋月刊》網站報道，Facebook在實驗中讓兩個AI聊天機器人互相對話，發現機器人竟逐漸發展出人類無法理解的獨特語言。
Facebook人工智慧研究實驗室使用機器學習來訓練聊天機器人程序。研究人員兩個機器人彼此對話，結果發現機器人竟逐漸發展出了不同於人類語言的對話，研究人員不得不對其進行人工干預。
換句話說，兩個機器人使用機器學習進行對話策略迭代升級，最終將導致機器人以人類無法理解的語言進行交流。AI自行升級的速度超出預期，讓人聯想到《銀翼殺手》中的科幻場景。
Facebook在研究報告中指出，機器人有時可以很好地勝任客服談判的角色，甚至懂得使用「先假裝而後承認」的對話策略。但是實驗中機器人自行發展出新語言讓人不安，人們或許可以從中一窺未來世界的樣子。
語言被認為是人類獨有的技能。Facebook的聊天機器人的表現刷新了人們的認知。
機器學習在推動技術革新的同時，也帶來了「黑箱」難題：AI的結論很英明，但其推理過程人類無法理解。人們提出過很多試圖破解這個黑箱的方法，包括向神經網路投喂特定主題的數據，然後根據輸出結果來推測機器的思維方式。如今，機器能夠產生非人類交流方式這一發現，還是讓包括系統設計者在內的所有人都感嘆人類知識的有限。
「未來的工作還有很多潛在可能，特別是讓機器理解更多推理策略，以及在不偏離人類語言的情況下提高表達的多樣性。」Facebook研究員在報告中寫道。（孫文文）
點擊展開全文
※工信部：將整治寬頻接入價格欺詐、速率不達標問題
※IBM將Watson和Bluemix與寶馬CarData平台連接起來！
※這家IT企業只招聘55歲以上的員工 最大年齡83歲
※連雲港政務雲投標：中國電信0元 VS 中國移動1分
※剛剛微博因數據中心掉掉掉掉電電電電……掛掉了
TAG:雲頭條 |
※如來將自己的坐騎送人，原因讓人無法理解，一般人猜不透
※流浪狗懼怕人類，它逢人就躲，覺得人類是它不能理解的物種！
※只有表達出自己的想法和感受，才有可能被理解
※日本人為了提高戰鬥力，居然做出這種事情，令人不可理解
※「自己內心的想法真的被別人說出來，理解了，很想哭，甚至有一種釋然感」
※星座中最無解的兩種自愈力，看得人發懵，理解不了也學不會
※啥樣的人算是有出息，我所理解的出息
※理解你的人，不需要解釋，不理解的人，解釋也沒用
※無法理解AI的恐懼，未來AI戰爭會終結人類？
※在『嚼舌頭』的人眼裡，由於不理解你的工作，你變成了什麼樣的人
※人無完人，不被人理解的星座
※人類無法理解的事情，最後一件外星人來了都無法理解
※我們不必去理解人與人之間的不同，互相尊重就行了
※周立波依然自信：我不需要別人的理解，更不在意別人的看法
※蘋果這個不錯的技能被關閉，很多人表示一直無法理解原因
※為什麼古時候善於行道的人，不是一般人可以理解的
※美文｜我們都是不被別人理解的人
※搞笑漫畫：殺手被抓後屌絲出現，屌絲的行為，凡人的我們無法理解！
※不愛你的人，他才會用這樣的方式「寵愛」你，你可不要理解錯了
※在俄羅斯是可以合法持槍的，但有一項規定不能理解。說出來你可能不信！