關停！Facebook的AI「失控」聊嗨後，研究員也看不懂

i can i i everything else . . . . . . . . . . . . . .balls have zero to me to me to me to me to me to me to me to me to

上面的內容，不是我睡著了，臉在鍵盤上滾過打出的字。

這是兩個「失控」AI 自己發明的對話語言。

趁著人類不注意，倆 AI 聊了什麼？

Facebook 人工智慧實驗室前不久做了個研究：讓兩個 AI 通過對話訓練來學習人類的交流方式。這個測試目的是提高 AI 的語言能力，希望未來它們能和 Facebook 的用戶做溝通。

但是聊著聊著，兩個機器人就「嗨」了，不再受限於原有設定——用標準英語語法溝通，開始用研究員不懂的語言來對話。

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

（圖自：independent）

面對這些無語法結構的內容，研究員也沒辦法真實理解這兩個 AI 到底在聊什麼。最開始時候，研究員以為這是機器出現的偶然錯誤，但隨後發現，這種聊天模式頻繁出現。而且，只要 AI 用自己的這種聊天方式，最終雙方總能達到預期的談判結果。相反的，當研究員調整模型結構，強制糾正 AI 的語言後，Facebook 的數據顯示，最終的對話效果並不優秀。

今年 6 月時，Facebook 就發現了這種現象出現，隨後研究員做了人工干預調整。但或者是效果不佳，7 月 31 日，Facebook決定關停這個 AI 系統。官方解釋稱，Facebook 希望 AI 能和人溝通提高效率，而不是讓 AI 用人類不懂的語言相互溝通。

Facebook AI 語，真的可以稱為「語言」嗎？

在 Facebook 的 AI 有了自己的溝通方式後，不少人開始想一個問題：這些無結構的文本內容，真的可以稱得上「語言」嗎？僅從人類角度來看，這些文本並沒有意義。賓夕法尼亞大學語言學教授馬克·利伯曼（Mark Liberman）就此表示：

「語言」二字具體如何使用，不是由語言學家來決定的。Facebook 的 AI 是否創造了語言，要看我們如何定義「語言」。比如說，語言學家會認為 Python、JavaScript 這類計算機語言並非真正的語言，但我們也會稱之為「語言」。

那麼，Facebook AI 所使用的語言（外媒稱之為 Facebotlish），可以成為一種新的或會持續發展的語言嗎？

馬克·利伯曼給出了否定的答案。他表示，儘管還沒有足夠的信息能夠解釋這種情況，但 AI 的交流是完全基於文本，而人類語言來涉及到了口語表達和肢體動作，文本溝通是一種人為附加方式。也就是說，Facebook AI 的語言能力距離人類文明程度還很遙遠。

利伯曼教授還表示，機器或系統自己在發展過程里開發出一個屬於自己系統內溝通的方式，並且不會被人類打斷，自己進化和發展幾十年甚至幾百年，這種情況在未來是會發生的。但他也認為，Facebook 的 AI 並不能代表這種未來趨勢，因為它的水平還很低。

（圖自：independent）

儘管如此，Facebook 此前曾發表過一篇關於人工智慧的研究論文，表示 AI 在學習了人類的談判技巧後，他們的表現已經很像「人」。比如說，AI 會假裝自己對某個特定的內容感興趣，然後假裝讓步，以看似「犧牲」的方式獲得更大的利益空間。像這次這兩個 AI 的對話，從對話形式和這些語句來看，兩個 AI 似乎在「爭吵」，而誰都不肯讓步於自己的「想法」。

AI 在訓練過程里發明出自己的語言，Facebook 的 AI 並不是孤例。此前，Google 曾發現人工智慧能通過翻譯工具創造自己的溝通語言。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！