Facebook關閉「失控」 AI 項目：它發展出人類無法理解的語言

Facebook在意識到機器人程序（bot）已經開發出自己的語言來相互溝通後，被迫停掉了其中一個人工智慧實驗項目。溝通雙方一開始交流的是正常的英文句子，但最終開發出了人類無法理解的一種簡略語言。

對於害怕人工智慧敵意接管的任何人來說，這相當令人不安。研究人員在過去曾注意到這種流氓行為，但目前似乎還不是問題。這個話題仍有待爭論；一些人認為應該允許機器發展出自己的語言，獨立於複雜的人類語言，從而提高處理任務的效率。

其他人不認為讓人工智慧在對於彼此溝通的內容方面毫無頭緒的情況下進行對話是個好主意。以Facebook的情況為例，兩個人工智慧代理應該進行洽談，以便在速度最快、效率最高的情況下獲得幾個球。

然而，它們最終開始吐出這樣的句子，比如「I can can I I everything else」和「Balls have zero to me to me to me to me to me to me to me to me to.」。這對人類來說不可理解，但是這對於負責在最短時間內達成最佳交易的非人類人工智慧來說完全有意義。

畢竟，人們傾向於另外造出不符合正常英語規則的語言。Facebook最終意識到，它還沒有為兩個代理編寫一套獎勵體系，以便彼此向對方說易於理解的英語。它最終決定強制終結這個，而不是任由初步的人工智慧語言繁衍起來。

Facebook的主要目的是讓機器人程序能夠與人對話，所以讓人工智慧系統造出一種全新的語言毫無意義。不過，任何走這條路的公司最終有可能開發出一套錯綜複雜的人工智慧和應用程序，它們不需要人類的任何干預，就可以彼此通話。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！