打臉霍金？谷歌發布AI五定律

科技 06-25

我們列出了我們認為在一般情況下對AI而言非常重要的五個問題——都是一些比較前衛的思考和長期的研究方向。在目前來看它們的意義比較小，但是在未來的系統中它們會發揮重要作用。

·避免負面影響：我們如何避免AI在試圖達到目標時對環境做出有負面影響的舉動？比如避免掃地機器人為了更快的打掃地面而徑直推翻（而不是繞過去）一個花瓶。

·避免對獎勵條件的非法解讀：我們如何避免AI通過篡改測量值等手段在獎勵函數上玩花樣？比如我們不希望這個掃地機器人只是找個東西把髒東西蓋起來讓自己看不見它，就認為自己已經掃乾淨了地面。

·可擴展的監管：我們如何有效保證AI系統對那些在系統中不方便太過頻繁的評估的物體做出適當的反應？比如，如果機器人需要從人那裡獲得訓練結果的反饋，那它就需要有有效的利用這條反饋的能力（而不能像普通的訓練那樣不停的核對訓練結果），因為不停的問一個人問題是很煩人的。

·環境探索的安全性：我們如何有效的保證AI系統評估環境的時候不會造成太過負面的影響？比如，一個掃地機器人可能會需要進行建立拖地策略的實驗來作為以後工作的依據。但是很顯然它無論怎麼實驗無論如何也不應該嘗試把濕拖把插進插座中。

·分配轉變的魯莽性：我們如何保證AI系統處在與其訓練環境完全不同的環境時認知和行為的穩定性？比如，啟發式演算法讓機器在工廠中學到的行為可能在一個辦公室中就會顯得不那麼安全。

打臉霍金？谷歌發布AI五定律

此次谷歌等團隊提出的這五條限定條件將目前AI開發中需要注意的事項作了一個概括性的總結，與早前的阿西莫夫寬泛而缺乏可操作性的機器人三定律相比顯得更加實用。該論文中也提到了更詳細的實現方法。

極智相信，當這五大定律真正應用在人工智慧領域的時候，AI的威脅論也就不攻自破，人類將會因此而受益。

請您繼續閱讀更多來自 搜狐新聞 的精彩文章:

您可能感興趣