防範人工智慧的不利一

我們這個時代的一個重要問題是：我們如何將人工智慧毋庸置疑的好處最大化，同時限制它的壞處呢？這是一項艱巨的挑戰。所有的技術都具有兩面性，人工智慧尤其如此，因為它能夠極大地擴大惡意行為的規模和危害，同時降低成本。

有關人工智慧潛在惡意用途的最新報告由來自OpenAI、牛津大學(Oxford)、劍橋大學(Cambridge)以及Electronic Frontier Foundation等幾家機構的26名研究員撰寫。儘管可怕，但報告頗有意義地警示了流氓政府、犯罪分子和恐怖分子濫用強大技術而帶來的威脅。報告在提出可能的解決方案方面則不那麼令人信服。

公眾對於人工智慧的擔憂在很大程度上聚焦於超級智能出現的威脅以及人類的大規模滅絕。毫無疑問，如何「控制」人工通用智能的問題是一場有趣且有意義的辯論。但用一位人工智慧專家的話來說，這可能是「21世紀後半葉的問題」。

這份最新報告強調了我們現在就應該如何擔心相對狹義的人工智慧的濫用。在可預見的將來，與某個無所不能、無所不知的《終結者》(Terminator)式的天網(Skynet)相比，人類罪惡、無能和糟糕設計是更嚴重的威脅。

人工智慧

夏季達沃斯側記：人工智慧的「魅力」

在現實中激烈「巷戰」的摩拜和ofo，創始人雙雙來到達沃斯，前一秒鐘還在微笑同框，後一秒鐘便開始以人工智慧為武器隔空「秀肌肉」。

人工智慧學者領導了一場值得稱讚的運動，強調所謂的致命自動武器系統的危險。聯合國(UN)現在正努力將這項倡議轉化為可行的全球協議。

一些感興趣的慈善家，包括埃隆?馬斯克(Elon Musk)和山姆?奧爾特曼(Sam Altman)，已將資金投入專註人工智慧安全的研究機構，包括一家聯合撰寫這份報告的機構。通常，對於呼籲擴大研究經費的研究人員，應該報以一定懷疑。但據估計，在西方世界，只有100名研究人員在應對這個問題。鑒於這項挑戰的規模，這個數字似乎太小。

各國政府需要提升他們在這個領域的認識。在美國，創建一個聯邦機器人委員會發展相關政府專業技能將是個好辦法。英國政府正明智地擴大圖靈研究所(Alan Turing Institute)的職權範圍，將人工智慧囊括在內。

一些科技公司已讓公眾參與到與人工智慧相關的道德問題，其他公司也應被鼓勵這麼做。可以說，它們還應對它們的人工智慧產品的不當使用負責，就像製藥企業對藥物的有害副作用負責一樣。

最後，我們應現實一點，要限制人工智慧的濫用，我們能做的只有這麼多。流氓政權將不可避免地將其用於罪惡的目的。我們不能消滅科學發現。但至少，我們應盡我們所能限制其最直接、最明顯的缺點。

如涉及版權等問題，請及時與我們聯繫，我們將在第一時間處理。

中華機器人超市-線上線下一體化機器人交易平台，提供機器人廠商、產品、展會、招商、人才、投融資等全方位的服務。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！