臉書和Google用深度強化學習研究自然語言現象
過去語言的演進是相當複雜的一門學問,研究人員也還在探索中,近日臉書和Google的AI研究團隊共同發布了用深度強化學習探索自然語言現象的論文,研究團隊打造了一個語言框架,利用交互遊戲的方式,搭配深度強化學習來訓練程序代理人溝通,實驗結果顯示了一些自然語言的現象。
研究團隊首先將程序代理人分群,組成多個社群,並在模擬的環境中,賦給程序溝通能力,模擬的環境包含簡單到較為複雜的環境,像是深度神經網路,程序代理人玩的交互遊戲有3項關鍵特徵,第一是交互遊戲的設計都是對稱的,代理人可以同時是發言者和傾聽者,第二則是讓代理人討論自身以外的事,像是在環境中的所有感知,最後則是採用部分可觀測系統,通過溝通來解決遊戲中的任務。
在第一個實驗中,團隊為了要研究2個代理人是否足夠發展出公用溝通協議,測試了代理人溝通後完成遊戲的成功率,結果顯示2個代理人交互後,成功完成的遊戲機率很高,但是代理人若獨自玩遊戲,成功率大概下降了約10%,研究團隊認為,這樣的結果顯示,只有在2個以上的用戶使用該語言,才會出現一個公用的語言,一個代理人發展出自己的協議後,其他的代理人就會去適應該溝通協議。
在接下來的實驗中,研究團隊使兩個不同的語言代理人社群接觸,也就是讓發展出不同溝通工具的代理人社群交互,結果顯示,所有的程序代理人都會學習另一個社群的語言,甚至,特定的代理人還會發展出新的溝通協議,讓溝通變得更快速有效率。
而在最後的實驗中,研究團隊創建由相同數量代理人組成的社群串列,進行溝通,每個社群由5個程序代理人組成,研究發現,越相鄰的社群代理人,越能夠溝通,但是溝通的能力會隨著社群距離增加而降低,串列中第一個社群和最後一個社群的代理人,完全無法理解雙方的溝通協議。
根據研究的實驗結果,研究團隊認為,語言演化的複雜特性,並不一定要依賴演複雜的語言能力,可能通過具有感知能力的代理人在玩溝通遊戲時,利用簡單的社交交流行為而產生。
※思科披露強化供應鏈信息安全的機制
※由2萬個WordPress網站組成的殭屍網路正在殘害手足
TAG:十輪網 |