Facebook對話AI發展出人類無法理解語言，肇因兩個智能體參數跑偏

新智元編譯

對話智能體能夠「說謊」來達成協定，但這還不是最驚人的

日前，Facebook 人工智慧研究所（FAIR）使用機器學習方法，對兩個聊天機器人進行對話策略迭代升級，結果發現它們竟自行發展出了人類無法理解的獨特語言。研究者不得不對其進行了人工干預。

AI 自我升級的速度如此之快，讓人隱約看到了未來的景象。

在名為 Dealor No Deal? End-to-End Learning for Negotiation Dialogues 的研究報告中，Facebook 描述了使用機器學習訓練「對話智能體」的過程。在這一過程中，這個「對話智能體」展現出了良好的談判技巧。

然而就在訓練過程中，研究者寫道，他們一度不得不調整他們的模型，否則智能體就會「偏離人類語言，轉而用一種獨特的語言來對話」。研究人員不得不用修正後的監督模型來替代。

這篇研究報告的主旨是說機器人可以成為不錯的談判者——他們甚至會假裝對某件沒有價值的東西感興趣，然後在談判過程中犧牲掉它，好像做出了讓步。而關於對話智能體發展出自我語言的部分，在研究報告中確實只是一鱗半爪，但卻引發了大家的關注。

評論者認為，「當我們讓 AI 互相交談時，它們發現了比英語更好的選擇，這裡面透露出了未來的景象。」

《大西洋月刊》第一時間對此進行了報道。不過，它也指出，「明確一點，Facebook的聊天機器人並不是奇點到來的證據。還差得遠呢。但它們確實展現了機器是如何刷新人類認知的——語言曾被認為是人類獨有的技能。」

機器學習研究中著名的「黑箱」難題。我們向神經網路輸入大量的數據，再考量其輸出，希望能理解機器是如何「思考」的。但機器一次又一次地提醒人類，我們對它們的了解是多麼的少，即使我們是它們的設計者。

「未來還有很多工作要做。」Facebook 的研究者在研究報告中寫道，「尤其是在探索其他推理策略，以及在提高 AI 表述多樣性的同時又不偏離人類語言方面。」

當兩個智能體的參數同時被調整時，它們就會發展出自己的語言

對話智能體發展出自己的語言出現在強化學習的過程中。FAIR 團隊首先使用監督學習使智能體學習語言和語義之間的映射方式，然後用強化學習的方法來讓智能體選擇如何表達。

在強化學習過程中，兩個智能體會根據彼此的話語來改善其參數。實際上，其中一個智能體可以替換為人類。FAIR 也確實這麼做了。

為了評估該對話智能體的語言能力，FAIR 讓人類扮演其中一個對話者。此前大多數研究都沒有與真人進行對話，或局限於難度較小的領域，因為學習回應各種語言的模型很有難度。

有意思的是，在 FAIR 的實驗中，大多數人沒有發現對方是機器人。而智能體自然也不會考慮與其交談的是否是人類。它只是根據其語言表現調整其參數。

然而就在同時調整兩個智能體的參數時，問題出現了。當兩個智能體的參數同時被調整時，它們就會偏離人類語言，而發展出自己的對話語言。

FAIR 為此不得不使用了一個模擬人類的固定監督模型，該模型接受了生成人類語言的訓練。

我們和您一樣，對於那種智能體自我發展出的、「偏離人類語言」的神秘語言，也非常好奇。但是很遺憾，Facebook 並沒有公布這種語言是什麼樣的。

對於這種神秘的語言，有評論者指出：

「這個『語言』並不是說的『一套獨立的規則和語義的符號語音系統』......(出現這種情況)很正常，數學上來講，人類語言這個符號語音系統能定義出一個巨大的狀態空間，而人類使用的語言內容只佔用了這個狀態空間中的部分區域，而機器通過自己迭代，100%可能探索到這個狀態空間其它部分。」

我們認為這也許更接近事情的真相。這種 AI 之間的所謂「語言」只是語音的組合，而並不是語音和語義的結合體，因此也就很難被看作是「語言」這一符號系統。但如果在這兩個對話智能體的溝通過程中，確實通過這種「語言」最終達成了溝通的「目標」，那麼也可能它們之間這一語音組合的交流方式是有「意義」的——同樣，這再次超出了人類的理解。

原文地址：1.https://www.theatlantic.com/technology/archive/2017/06/artificial-intelligence-develops-its-own-non-human-language/530436/?href=&single_page=true

2.https://code.facebook.com/posts/1686672014972296

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！