人工智慧發展出了自己的語言 要造反？還遠遠不能

6月15日，據科技博客Techcrunch報道，Facebook人工智慧研究所（Facebook Artificial Intelligence Research，簡稱FAIR）的研究人員已經創建了人工智慧模型，它們被賦予了與人類談判的能力，可以與人討價還價。

我媽聽說了這個消息感到很心痛，認為連「討價還價」都可以讓人工智慧來的話，極大地剝奪了她去菜場買菜的樂趣。

FAIR的報告中，還提到，他們有一次不得不更換了模型，原因是「代理人已發展了自己的協商語言」。

（圖片來源於網路）

不少媒體以「人工智慧發展出了自己的語言」這樣的標題報道了這一研究中的插曲。

那麼，人工智慧真的發展出了自己的語言嗎？發展出自己的語言是不是很快就可以說點人類都聽不懂的悄悄話，開始造反啦？

人工智慧領域專家，科大訊飛研究院北京分院副院長付瑞吉，為我們解答了這些疑惑。

問：

付老師您好，不管是Siri，還是微軟小冰，不少朋友已經習慣人工智慧可以聊天，還可以假裝手機里有個男/女朋友。那麼這次人工智慧會「談判」為何能獲得這麼高的關注度？「談判」和「聊天」有何不同？

答：

最大的不同在於，談判需要和「對手」博弈，從而達到「自己」利益的最大化，此前的聊天功能並無這個特點，機器人可以順著用戶的話說，或者和用戶一起協作完成某項任務（比如：訂機票、查詢信息等）。

問：

那麼是否可以理解成，聊天是無關決策的消遣，而談判是要對情境進行分析、判斷並做決定？

答：

閑聊是漫無目的的，開發AI和人閑聊，其目標是希望AI儘可能具備「像人一樣」思維和語言能力，微軟小冰是一個典型的例子；實際上，聊天並不都是漫無目的的閑聊，很大一部分聊天是為了完成特定的任務的，比如蘋果的Siri可以幫用戶完成手機操作、信息查詢等指令，像一個小秘書，當然Siri也有部分閑聊的功能，但並非其主要功能。國內科大訊飛的靈犀也有類似的功能，可以完成天氣、餐館、酒店、景點等信息搜索，以及車票/機票預訂、口語翻譯等任務。那麼，談判實際上也是一種特殊的任務，目的是談判成功並使自己的利益最大化。只不過，談判任務需要和「對手」博弈，這點和以往的任務不同。

至於是否需要對情境進行分析、判斷，並根據分析判斷結果決定「說」什麼，不管是閑聊還是面向特定任務的聊天，都是需要的。

問：

從研發的難度來說，談判是不是更難一些？

答：

只要問題定義好，任務目標能夠很好地用數學函數表示出來，那麼機器就可以學習起來。因此在我看來，這個談判任務並不比在此之前的其他「聊天」任務更難。

問：

談判功能的產生，對人工智慧的發展意味著什麼？

答：

談判這個任務的設定比較巧妙，以往的研究大多是針對「人機」對話，而談判這個任務可以讓兩個AI進行「機機」對話，是比較讓人眼前一亮的。但就它能對人工智慧領域的影響，我覺得並沒有外界想像的那麼大，而是否能由此為起點引發一些變革，也不得而知。

問：

目前有新聞指出，Facebook的研究人員表示，有一次他們不得不更換了其中一個模型，因為如果不這樣做，機器人之間的對話「就會和人類語言產生差異，因為代理人已發展了自己的協商語言」。

這是否意味著人工智慧的發展有可能失控？這個事件有什麼意義？是否是人工智慧產生「自我」的開始？

答：

語言是一種通訊的符號，如果不以人類的自然語言來約束機器人，那麼他們之間通過相互訓練可能發生漂移，而產生人類看不懂的「符號」，姑且可以叫做滿足特定任務的「語言」。

但這並不能說明人工智慧產生了「自我」，只說明機器人用一種特殊的符號串進行信息傳遞而已。事實上，Facebook的談判機器人的「慾望」都是數據集中人工設定好的。

比如：書、帽子、球對於不同機器人的有不同的價值。並不是機器人有了「自我」意識而產生的。

至於說談判過程中產生的「撒謊」行為，那只是對於人類行為的模仿，都是從訓練數據中學到的。

問：

能否整體評價一下這一進展？

答：

Facebook的這個工作很有趣，將談判任務轉換為可計算的目標，然後兩個Agent「談判切磋」，利用強化學習（reinforcement learning）演算法來學習談判的過程，類似於Alphago的自我對弈。就這個任務本身來說，還是非常限定性的。我們可以考慮將現實中的問題想辦法轉換為這種形式，採用類似的形式進行求解。

看來，目前還不用擔心人工智慧造反的問題。反倒是這項有趣的研究，為我們利用人工智慧來解決現實問題，提供了參考。

出品：科普中國

製作：SELF格致論道 付瑞吉

監製：中國科學院計算機網路信息中心

「科普中國」是中國科協攜同社會各方利用信息化手段開展科學傳播的科學權威品牌。

本文由科普中國融合創作出品，轉載請註明出處。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！