一瓶酒「助攻」的地球流浪

　　來源：中科院之聲

　　一、從看完《流浪地球》說起

　　大東：小白，新年假期過的怎麼樣呀？

　　小白：東哥，一句話給你概括下我覺得假期里蠻好玩的一件事！「道路千萬條，安全第一條。行車不規範，親人兩行淚。」

　　大東：哈哈，《流浪地球》確實是新年電影的一匹黑馬啊，是大家熱議的焦點。不知小白在看完電影有什麼收穫呢？

　　小白：東哥，不瞞您說，電影的後半程，我一直忙著在哭誒。雖然我是個理科生，但裡面涉及到的很多物理天文知識我都不太懂，還是出了電影院，廣大網友們幫我普及的知識呢。風靡全網的咱們中科院計算所王元卓老師給女兒手繪的講解圖更是幫我解開了好多的謎團。真的是通俗易懂，形象生動。

其中一張手繪講解圖

　　小白：東哥，電影里除了帥氣的小哥哥，我對其中一個角色最感興趣！而且，對他還充滿了疑問呢。

　　大東：我猜你說的是空間站中的人工智慧管家「莫斯」吧。

　　小白：東哥，懂我。

　　大東：我不算是人工智慧領域的專家，也不敢隨意去揣測導演和編劇的科幻設計。從一個還算厲害的觀眾角度，我可以試著給幫你解答一下關於「莫斯」疑問，不過最重要的還是討論討論由「莫斯」引發的在網路安全領域的一些思考。

　　二、「莫斯」

　　小白：在最後的危機時刻，莫斯否定了男主人公的設想，認為點燃木星是一個不可能完成的任務，在聯合政府有關負責人已經想要配合嘗試的時候，還是拒絕配合指令。莫斯是想保護自己或者說他已經擁有了一些自己的思想嗎？

電影中的「莫斯」

　　大東：人工智慧和機器人的出現本就帶有不確定性。影片中，我們可以看出機器人莫斯的系統中有兩條底層命令：第一條是保護地球，第二條是保護空間站。你覺得這兩個命令對於莫斯來說哪個更重要？

　　小白：莫斯選擇帶著空間站「叛逃」，我覺得「保護空間站」這條命令的級別要比「保護地球」更高，因為空間站備份了整個人類的文明檔案，還有足夠多的人類受精卵，在地球遇到毀滅性打擊的時候，莫斯帶著它們逃出生天是最高級別的命令，也是最好的選擇。莫斯也可以更好的保護他自己。

　　大東：說的不錯，這也是為什麼早先以色列科學家提出相同想法時，機器人通過計算噴射距離判定成功率是零。最後的成功結局是男主犧牲自己和整個空間站才換取得來的。機器人這種技術的不確定性，引起了很多人的警覺，為了保護人類，早在1940年著名科幻作家阿西莫夫提出了最經典的機器人三原則，如果你感興趣可以去查找看看哦。

　　小白：沒想到東哥在科幻領域還有很深的研究啊。仔細想來，整個影片還是蠻有邏輯性的。

　　大東：還記得男主是如何讓莫斯乖乖聽話，拿回人工控制權的嗎？

　　小白：當然記得，一瓶「違規」的加加林呀，破壞了整個莫斯才實現的。東哥，我似乎懂你的意思啦。我們關於劇情的討論就到這裡，開啟安全領域的討論吧。

　　大東：你個小機靈鬼。

　　三、由「莫斯」引發的思考

　　小白：在我看來啊，人工智慧是個很好的網路安全工具，但也是一把雙刃劍。

　　大東：搶我台詞了。那我就借用一位專家在演講中的一句話來說吧。當一個新技術用於安全時，會存在兩種情況：一種是用新技術支撐安全，當然它可以做攻擊，也可以做防禦；第二種是一個新技術本身就會帶來一個新的安全問題。

機器人

　　小白：說起人工智慧用來幫助安全工作人員做防禦，不知道我這樣理解是不是對的呢？比如，如果一名工作人員通常在北京工作，突然有一天早上從紐約登錄，這是一種反常現象——人工智慧可以看出這是一種反常現象。

　　大東：理解的很對，但其實遠遠不止這麼簡單。人工智慧可以幫安全很多很多的忙，可以自動評估開源代碼的潛在缺陷，可以識別密碼的泄露或者誤用，分析潛在的安全行為路徑等等等等。但同時也是「攻擊者」的寶藏。

　　小白：說起攻擊，就有點怕怕了。感覺還可以大大提高攻擊的效率呢，不敢想不敢想。

　　大東：網路犯罪分子利用人工智慧中的技術，它可以被用於各種惡意的任務。比如對開放的、易受攻擊的埠進行的掃描，或者是電子郵件的自動組合，甚至實現被24小時竊聽。再例如，使用魚叉式網路釣魚的自動化，利用實時語音合成來模擬攻擊和欺詐，或者在規模上進行像包嗅探和漏洞攻擊這樣的活動。

　　小白：面對科技真的要雙向去看待呀。

　　大東：我們還有一個角度沒有討論哦，人工智慧本身是否存在一些安全問題呢？

　　小白：（假裝聽不見）。

　　大東：人工智慧自身存在著一些脆弱性。比如，在擁堵的北京三環路上，自動駕駛的汽車是否能順利的從正確的出口行駛出來呢？人工智慧它一定要保護一個安全距離，但人卻是會打心理戰的。人工智慧甚至可能出現威脅人類的潛在風險。

　　小白：任何技術都會存在潛在的安全問題，我們不能因為這個就判斷這項技術是不是好的，而是要理性的判斷，通過一些手段來讓技術更好的為我們服務，而不是成為犯罪份子的機會，你說是不是，東哥？

　　大東：誒嘿，你這是在教育我嗎？你別跑。你給我回來！給你留個作業，好好想想我剛才提到的經典的機器人三原則，寫個讀後感！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！