facebook人工智慧用人類不理解的語音交流，嚇壞研究人員

最近在Facebook人工智慧研究實驗室發生了一件意想不到的事情，研究人員一直在訓練機器人與對方進行談判，他們意識到，這些機器人，留給自己的設備，開始用一種非人類語言進行交流。

為了真正理解機器人的說法，研究人員不得不調整他們的模型，將機器限制在人類能夠理解的對話中。(他們希望機器人能堅持人類語言，因為最終他們希望這些機器人能夠與人類Facebook用戶交流。)當我上周寫這一切的時候，很多人都有某種程度上的驚訝。當然，機器製造自己的語言確實很酷，但它不是很可怕嗎?

還有:這門語言到底是什麼樣子的?下面是Facebook觀察到的機器人談判的一個例子:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

我可以。我可以。。。。。。。。。。。。。。。。。。。。。。

愛麗絲:球對我來說是零，對我來說，對我，對我，對我來說

鮑勃:你我什麼都是。。。。。。。。。。。。。。。。。

愛麗絲:球對我來說是一個球，我對我，對我，對我，對我

我可以。我可以。我可以。。。。。。。。。。。。。。。。。。。。。。

鮑勃:我。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。

愛麗絲:球對我來說是零，對我來說，對我，對我，對我來說

鮑勃:你是我，我是我的一切。。。。。。。。。。。。。。。

愛麗絲:球對我來說是0，對我，對我，對我，對我來說

鮑勃:你我，我的一切。。。。。。。。。。。。。。。。。

愛麗絲:球對我來說是零，對我來說，對我，對我，對我來說

這不僅看起來毫無意義，而且在談判過程中，機器人似乎並沒有取得任何進展。無論如何，愛麗絲並沒有從她最初的位置上挪出位置。「奇怪的是，Facebook的數據顯示，像這樣的對話有時還是會導致機器人最終成功的談判，」人工智慧實驗室的一名發言人告訴我。(在其他情況下，研究人員調整了他們的模型，機器人會制定出糟糕的談判策略，即使他們的談話仍以人類的標準來解釋。)

一種考慮這一切的方法是考慮隱語症，這是雙胞胎組成他們自己的秘密語言的原因，這是他們唯一可以理解的。或許你還記得2011年YouTube上的一段視頻，視頻中兩個精力充沛的孩子來回地聊天，聽起來像是一場生動而又神秘的對話。

關於這種雙胞胎語言究竟是一種語言，還是僅僅是一種令人愉悅的模仿語言的語言，這一說法存在爭議。許多語言學家說，YouTube的孩子們在社交，但可能不會說任何有特定含義的東西。

然而，Facebook的研究人員表示，在Facebook的機器人程序中，似乎出現了更多類似於語言的東西。其他人工智慧研究人員也表示，他們已經觀察到能夠開發自己的語言的機器，包括具有連貫結構的語言，以及定義的辭彙和語法，但並不總是以人類的標準來衡量。

在今年早些時候的一個預印紙添加研究庫arXiv一對非營利人工智慧的計算機科學家研究公司OpenAI寫機器人學會了如何用一個抽象的語言交流這些機器人轉向非語言交流,相當於人類的手勢或指向,當語言交際是不可用的。(機器人不需要用身體的形式來進行非語言交流;他們只是參與了所謂的視覺感官模式。)最近的另一個預印紙,來自喬治亞理工學院的研究人員,卡內基梅隆大學和弗吉尼亞理工大學,記述了一個實驗,讓兩個機器人發明自己的通信協議通過討論和賦值的顏色和形狀,換句話說,研究人員寫道,他們目睹了「自動出現接地語言交流…沒有人監督!」

這類工作的含義令人眼花繚亂。研究人員不僅開始看到機器人之間如何相互交流，而且可能還在研究人類最初的語法和結構結構是如何形成的。

但是讓我們後退一步。這些機器人中有什麼是真正的語言嗎?「我們必須首先承認它不是由語言學家決定如何使用「語言」這個詞,但語言學家肯定意見和爭論的人類語言的本質,和自然類的邊界,」Mark Liberman說,賓夕法尼亞大學的一位語言學教授。

因此，Facebook的機器人是否真正構成了自己的語言，這取決於我們所說的「語言」。例如，語言學家傾向於認為手語和方言是「資本l語言」，就像Liberman所說的那樣，而不僅僅是對實際語言的近似，無論這是什麼。他們也傾向於認為「身體語言」和像Python和JavaScript這樣的計算機語言並不是真正的語言，儘管我們稱之為「語言」。

所以，Liberman提出的問題是:Facebook的機器人語言，Facebook，他會把它稱為一種新的、持久的語言嗎?

他說:「可能沒有，儘管沒有足夠的信息可以告訴我們。」「首先，它完全是基於文本的，而人類語言基本上都是口頭或手勢，而文本則是人為的疊加。」

他說，更重要的一點是，Facebook的機器人在我們思考人類智能的方式上並不像智能機器人那樣智能。(這也是「人工智慧」這個詞可能具有誤導性的部分原因。)

Liberman說:「20世紀70年代的「專家系統」式的人工智慧程序，充其量是一種歷史上的好奇心，就像17世紀的發條自動裝置一樣。「我們可以很肯定的是，在幾十年里，今天的機器學習技術將會顯得同樣古怪。」

Liberman說，建立一個由神秘的演算法實體所組成的人工世界已經很容易了，這些程序「通過隨機的漂移、社會融合和優化選擇的組合來進化」。「就像我們很容易就能造出一個能演奏鍵盤的發條雕像。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！