AI研究者切勿心太寬：戒慎戒懼以免貽害人間

一項最新報告突顯了人工智慧的風險，比如居心險惡的自動駕駛汽車，或是機器人刺客。

2012年，機器學習領域取得突破，激起了一股人工智慧投資熱潮。時至今日，投資熱度仍在持續，我們的生活也更便利了。比如大部分時候，語音識別都很管用，再比如新款iPhone的刷臉解鎖功能。

從中斬獲頗豐的，是掌握相應技能、能構建這類系統的人——他們是最受器重的科技工作者。但最近，一份圍繞AI進步黑暗面的報告向這些人發出警示：對於相伴而生的沉甸甸的道德負擔，他們不能掉以輕心。

這份文件共99頁，列出了人工智慧技術的一長串邪惡用途，有的還有些聳人聽聞。它呼籲人們儘快圍繞AI技術的濫用展開積極討論。報告所舉的例子有：清潔機器人被用來刺殺政治人物；犯罪分子發起高度個性化的自動釣魚攻擊。

針對此類情境，報告提議的防禦措施之一是：AI研究人員寧可偏執一點，不要太過開放。該報告稱，不論是個人還是企業，AI工作者都應考慮在自己的技術中置入針對犯罪分子或攻擊者的安全防範措施——甚至捂住某些概念或工具，不對公眾發布。

該報告的作者有二十多人，他們隸屬的機構從牛津和劍橋大學、伊隆·馬斯克（Elon Musk）出資的研究所OpenAI、數字維權組織電子前線基金會（EFF）、計算機安全公司Endgame，到智庫新美國安全中心（Center for a New American Security）等等。

近一年來，倫理成為機器學習領域的主要議題。這場討論的一個起因是政府使用演算法作出影響公民（如刑事被告人）的決策，而在一些情況下，機器學習系統暴露出偏見。最近，微軟和IBM的商用面部分析服務就出現問題，不得不回爐再造，因為在識別深色膚色的人時，它們的準確率會嚴重降低。

該報告還指出，隨著AI軟體日益強大、普遍，它還可能造成更加切身的傷害，比如在自動駕駛汽車裡，或是將複雜的辦公任務自動化的軟體。報告警示我們，這些系統很容易被纂改，轉而用於犯罪甚至奪人性命。

例如，一台自動駕駛汽車可能被攻陷，成為爆炸物的運送車，或有意撞車。五角大樓曾經資助開發攻擊其他軟體的軟體，而這可能會助犯罪分子一臂之力，幫他們部署更加強大、適應性更好的惡意軟體。

有什麼辦法可以應對呢？

該報告最主要的建議是：圍繞安全與安保問題，AI技術的開發人員或公司應展開更加積極、開放的討論，包括與政策制定者進行討論。人工智慧研究人員還應具備更加「疑神疑鬼」的心態，在自己的技術發布前考慮一下：它可能以何種形式，被敵方或攻擊者利用？

異乎尋常的開放性已經成為AI研究的標誌。亞馬遜、微軟、谷歌通常都守口如瓶，但為了爭奪人才，它們紛紛公開發表研究，將內部工具開源。而上述建議則會扼殺這種開放性。

劍橋大學「存在風險研究中心」（Center for the Study of Existential Risk）研究員沙哈爾·艾文（Shahar Avin）是該報告主要作者之一。他說，這種天真的態度已經過時，而其得以形成是由於前面幾十年的AI研究總是期望過高但往往未能實現。「在AI領域，人們信口開河，結果實現不了，如此反覆，」他說。「現在不一樣了，你已經不能視而不見了。」

該報告承認，哪些該發布、哪些不該發布，這個界限不好劃分。但報告也宣稱，計算機安全、生物技術和國防社群已經證明，開發並實施相應的規範，以負責任的態度披露危險的概念和工具，這是可以做到的。

艾文認為，某些情況下，AI社群已經瀕臨越界。他舉了個例子，即谷歌圍繞人工合成高模擬人聲的研究。他說，有鑒於俄羅斯特工試圖操縱2016年美國總統大選，在研究可能有助於製造假新聞的工具的同時，還應當討論能夠對此起到防護作用的工具。艾文說，這可能包括檢測人工合成的音頻或視頻並予以標記的辦法。谷歌並未回應置評請求。

Reddit等互聯網公司都在打擊經過篡改的視頻：不法分子利用開源機器學習軟體Deepfakes將色情視頻的主角纂改為明星。

一些AI工作者——以及未來的AI專家——已經開始直面這個問題，思索自己的產品可能有哪些有害用途。加州大學伯克利分校的教授伊昂·斯托伊卡（Ion Stoica）並未參與此項報告的撰寫。他說，他正在和計算機安全領域的同事積極協作，並思索公共政策。最近一項有關AI技術挑戰的調查發現，安全與安保問題是主要研究課題，也是一大顧慮。斯托伊卡是這項調查的主要作者。

斯托伊卡也試圖讓湧向AI和機器學習課程的本科生和研究生了解這樣的狀況。他樂觀地認為，這個領域必能借鑒商用與消費者科技產品、橋樑和飛機建造的最佳實踐。「我們正試著把機器學習變成一門更偏工程學的學科，」斯托伊卡說。「這中間還有一段距離，但我覺得，這個距離正在縮小。」

翻譯：雁行

審校：李莉

編輯：漫倩

來源：Wired

造就，劇院式演講，發現創造力

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！