霍金、馬斯克領銜制定人工智慧23條原則，人類會被機器終結嗎？

著名科幻作家阿西莫夫在其作品中為機器人制定了三大法則，已經超越科幻成為人們心目中機器人應該遵守的不二法則。隨著人工智慧的迅猛發展，機器在未來幾十年內可能會達到人類的智能水平，已被許多科學家認為是不可避免的趨勢。一旦達到這一點，機器人就可以改造自己，並創建其它同類，甚至製造出被稱為超級智能的更強大AI。如何確保機器人為人類利益服務，而不是像電影《終結者》里一樣，將人類文明終結，已經不再是科幻作品裡的紙上談兵，而是必須納入議事日程的重要課題。

2017年1月，在加利福尼亞州阿西洛馬舉行的Beneficial AI會議上，特斯拉CEO埃隆·馬斯克、DeepMind創始人戴米斯·哈薩比斯以及近千名人工智慧和機器人領域的專家，聯合簽署了阿西洛馬人工智慧23條原則，呼籲全世界在發展人工智慧的同時嚴格遵守這些原則，共同保障人類未來的利益和安全。著名物理學家霍金和馬斯克在本周公開聲明支持這一系列原則，以確保擁有自主意識的機器保持安全，並以人類的最佳利益行事。

阿西洛馬AI原則分為三大類23條。第一類為科研問題，共5條，包括研究目標、經費、政策、文化及競爭等；第二類為倫理價值，共13條，包括AI開發中的安全、責任、價值觀等；第三類為長期問題，共5條，旨在應對AI造成的災難性風險。

對比阿西莫夫的機器人三大法則：第一法則，機器人不得傷害人類，或因不作為使人類受到傷害；第二法則，除非違背第一法則，機器人必須服從人類的命令；第三法則，在不違背第一及第二法則下，機器人必須保護自己。我們可以發現，雖然阿西洛馬AI23原則沒有阿西莫夫機器人三原則簡潔明了，但它是人類進入人工智慧時代的重要宣言，是指導人類開發安全AI的重要指南，受到了AI行業和公共知識分子的廣泛支持。

但危機仍然存在，未來仍不確定，馬斯克在會議發言中說，我們正在走向超級智能，也有可能終結人類文明。當計算機開始自己做決定，我們如何才能確保它們與人類的價值觀相一致？此前我們已經看到了機器在學習中的偏見，微軟的聊天機器人chatbot曾發表種族言論，特斯拉的汽車AI造成致命事故。墨菲定律說，任何一個事件，只要具有大於零的概率，它就必定會發生。我們或許也可以說，一個受控制的系統，不管如何控制，最後終會崩潰。人工智慧會是這樣嗎？天網已經啟動了嗎？文明終將面臨最後的裁決，勝，則榮，敗，則滅！在卡達爾肖夫的宇宙文明等級理論中，人類一旦發展到II類文明，就沒有任何災難能造成文明的滅絕，希望我們可以通過阿西洛馬AI23原則，迎來人類文明發展的終極勝利。

阿西洛馬人工智慧原則原文：https://futureoflife.org/ai-principles/

黑洞視界，宇宙視界，思想和知識也有視界。請訂閱微信公眾號：徐德文，以文學語言深度解析最新前沿尖深科學話題，通俗易懂，幽默有趣，一起學習和拓展思想知識視界。