「為我的公民建立起對AI的信任」，馬克龍如是定義法國AI政策成功標準

雷鋒網AI科技評論按：上周四，法國總統埃馬紐埃爾·馬克龍做了一場演講，闡述了法國新的國家人工智慧戰略，法國政府將在五年內花費 15 億歐元（18.5 億美元）支持人工智慧的研究、鼓勵創業公司、並收集可供工程師們使用和分享的數據，其最終目標是趕上美國和中國，並確保 AI 領域的人才能夠選擇巴黎而不是矽谷。

在他演講結束後，馬克龍針對為何他對人工智慧抱有如此高漲的熱情這一話題，接受了《連線》總編 Nicholas Thompson 的專訪。

在採訪中，馬克龍總統從政治層面闡述了在歐洲發展人工智慧的特質。他認為問責和民主將成為歐洲人工智慧（異於美國和中國）的一大特點，如何讓演算法透明，如何讓法國的民眾與人工智慧企業之間建立信任，如何能夠讓法國人民擁抱人工智慧的改革而不是被恐懼所阻止，將成為他判斷自己以及他所領導的法國政府成敗的標準。

下面為美國《連線》專訪原文，雷鋒網做了不改變原意的編譯。

NT：Nicholas Thompson ； EM：Emmanuel Macron

EM：我想應該是醫療保健方面，這方面現在已經有個性化的預防藥物和治療。我多次看到在醫學領域出現許多創新成果，它們能夠通過更好的分析來預測人們未來可能會出現的疾病並加以預防。幾年前，我曾參加過 CES 大會，當時有不少醫療保健方面的企業給我留下很深刻的印象，有來自法國的，也有許多來自美國、以色列以及其他國家的，它們在醫療保健領域做出顛覆性的創新成果：以新的方式進行治療和預防各類疾病，並降低潛在的醫療風險。

另外一個可能是汽車方面。我們法國在這方面有一些做的很好的車企，美國也有許多公司在這領域表現出色。我認為這兩個領域，即醫療保健和汽車行業，確實給我很深刻的印象並覺得很有希望。當你看到這些公司時，你可能很難不認為，當下世界正在發生巨變，你原本以為會在十年後才發生的事情現在已經發生。

NT：看起來你關注 AI 的部分原因是為了法國的國家利益。但是在您的演講中，似乎您認為法國或歐洲的價值觀能夠幫助塑造人工智慧的發展，是嗎？這些價值觀是指什麼？

EM：我認為人工智慧會徹底顛覆所有行業的商業模式，而且很快就將來臨。我希望法國能夠參與其中，不然當行業發生巨變時法國會因為沒有創造出一些新的工作崗位而處於被動地位。這就是為什麼我們要這麼做的原因。當然就像在別的領域一樣，在這個領域要想贏就得去推動它，並為它準備贏者所需要的一切。所以這也是為什麼我在教育、培訓、研究以及創建初創企業等方面的第一個目標就是簡化許多事情，例如擁有合適的管理體系、合適的融資體系、合適的規章制度等，以此來培育優秀的企業或者吸引優秀的企業過來。

不過你說的沒錯，AI 在倫理、政治等方面也帶來了大量的問題，它對我們的民主和集體偏好提出了挑戰。舉例來說，在醫療保健領域，如果你擁有大量數據，你就完全可以將醫療健康變得更有預測性和個性化。我們法國將開放我們的數據，我在今天下午也宣布了這件事情。但是伴隨著數據的公開，我們同時也打開了一個潘多拉盒。這些數據可以用來更好地治療患者或者監控患者健康狀況，但也可以出售給保險公司，保險公司的人以此來獲利。因此，利用這些數據來進行商業活動時，機遇與風險同在。這使我得出您剛才提到的結論：這場巨大的技術革命實際上也是一場政治革命。

我們看現在世界範圍內人工智慧領域的兩個領導者，美國和中國。在美國，人工智慧完全是由私營部門、大公司以及一些初創企業推動，他們做的所有選擇都是與集體價值相關的私人選擇。正因為這樣，Facebook 與 Cambridge Analytica，以及自動駕駛技術才會引發一系列問題。另一方面，中國企業收集的大量數據主要由政府主導，他們的原則和價值觀念和我們不同。

而我們歐洲在集體偏好上與美國或中國並不完全相同。如果我們想捍衛我們處理隱私的方式、我們對個人自由 vs 技術進步的集體偏好、我們人類和人類 DNA 的完整性；如果我們想要管理我們的社交選擇甚至文明選擇，那麼我們就必須成為這場技術革命的一部分。這是在設計和定義人工智慧規則方面掌握話語權的前提條件。這也是我想要成為這場變革中的一部分甚至成為其領導者的一個主要原因。我希望的是在全球範圍內構建這個話題。

關鍵的驅動力不僅應該是技術進步，還應該是人類的進步。這是一個很大的問題。我堅信，歐洲是一個能夠維護集體偏好並闡釋普世價值的地方。我的意思是，歐洲是民主 DNA 的誕生地，因此我認為歐洲必須抓住對民主制度構成巨大挑戰的問題。

NT：所以您是認為，未來的風險不僅僅是法國的經濟增長，更是如何將整個價值體系納入到全球技術變革當中。所以您要確保您自己、法國甚至整個歐洲大陸的價值觀都參與其中，是嗎？

EM：當然。直白地說，我想為法國創造人工智慧的優勢。這也是為什麼 Facebook、Google、三星、IBM、DeepMind、富士通等大型企業都宣布要在巴黎創建 AI 實驗室或研究中心。其次，我希望法國能夠成為人工智慧在汽車、能源、國防、金融、醫療保健等領域引發革命的一部分，因為它也會創造價值。第三，我希望人工智慧能夠全是實現聯邦化。為什麼呢？因為 AI 就是變革和處理變革本身。例如，這種變革會讓大量工作崗位變得不再必要，這就需要重新培訓人員。但是人工智慧也可能成為更好地培訓這些人並幫助他們找到新工作的解決方案之一，這對我們國家非常有好處，也非常重要。

我也希望法國能夠基於 AI 在跨學科上有更多的建樹，例如數學、社會科學、技術和哲學。這對我們發展人工智慧來說是關鍵的。因為如果在起點上我們沒有關注這些創新方向，那麼以後可能就會有許多糟糕的問題逼著你去面對這些。我一直認為長久以來隱私都是美國忽視的一個話題，現在就因 Facebook 的事件浮上了水面。自動駕駛的安全問題也是如此，現在也因 Uber 事件而浮上了水面。所以如果你不想阻礙創新，最好在倫理和哲學的框架內將它設計好。所以我認為，我們除了在國家層次促進 AI 產業外，也應當同樣地去促進跨學科創新研究。

不過我同樣也認為 AI 完全可能會危害民主。例如我們正在用人工智慧技術幫助大學來錄取學生，這意味著演算法承擔著很大的責任。很多人認為這些演算法是一個黑匣子，因為他們不明白學生錄取的過程是怎麼進行的。所以在我們開始依賴這些演算法之前，我們必須對其公平性和透明性創造條件。我必須對我的人民有信心，確保在他們構建的演算法中沒有偏見，至少沒有不公平的偏見。我必須告訴法國公民：「我鼓勵這種創新，因為它會給大家帶來新的服務，它會改善大家的生活。」但是我也必須保證在性別、年齡或者其他方面不存在偏見，除非這是我代表他們決定的。在鼓勵人工智慧創新的同時如何確保不危害民主，這是一個需要解決的大問題。如果在起步階段沒有處理它，或者認為它沒有技術創新重要，那麼在未來某個時間點它就會阻礙我們的發展。到時候人們會因為危害到民主，而拒絕這些技術創新。

EM：是的。

EM：我們將通過提升社會集體壓力來促進演算法的透明性。我們將公開從政府資助項目中獲得的數據，任何人都可以免費訪問；我們也鼓勵私營企業參與到公開與透明的進程當中。很顯然，他們之中會有人說，我的演算法存在商業價值，我不想讓它透明。但我認為我們需要在服務提供商和消費者之間進行公平的討論。消費者是我們的公民，他們會說：「我必須要更好地理解你的演算法，確保它是可信的。」消費社會的力量是非常強大的，人們通過他們的 app、電腦等創造了大量的個人信息，人工智慧技術可以結合這些信息來為人們提供更好的服務。但是在某些時候，作為公民，人們會說：「我需要確保我的所有個人信息不會被用來對付我，要符合道德標準，而且需要受到監控。我想了解演算法在我的生活中到底扮演著一個什麼樣的角色。」我想在未來會有許多初創公司、實驗室或企業會出現這樣的舉措，並向用戶保證：「你可以來了解我們使用的演算法，看它是否存在偏見。」我確信 AI 的下一波浪潮中，用戶想要了解背後演算法的需求將是一個需要著重考量的問題。

NT：當你談論 AI 如何改變民主時，你有沒有想像過這個場景？當你要做決策時，某個基於AI演算法的系統便給你推薦了一個勞動改革方案，然後你不假思索地就接受了。

EM：在決策這方面，我認為它確實能幫助我們，但它絕不會取代我們做決定的方式。當人們做決定時，這其實是一系列交叉檢驗的結果。

人工智慧在這方面可以輔助我們。有時候我們做一項改革的時候，事實上並不完全清楚直接或間接的潛在影響，人工智慧能夠幫助我們考慮到更多因素，因此能夠確保我們做出更加正確的決定。演算法其實就是一個相關的公式，例如在經濟和社會改革中，它能夠讓我們對那些直接或間接可衡量的影響能夠有更清晰的認識。但更重要的是，在做政治決策時，我們需要有個人判斷——這是決策者的個人特質，人工智慧是取代不了的。

另外有一個 AI 無法取代的就是：義務和責任。作為一個政治領導人，決定是他做出的，那麼他就將為此承擔責任，他永遠都不能說：「哦，抱歉，這個決策確實很糟糕，不過它是演算法給的。」

EM：我認為在我們這個國家有一個爭議的傳統。我以前發起過一系列的改革，很多人也曾認為這些改革在法國不可能實施下去。但我認為只要你耐心向人們解釋，並且有能力和決心，這些改革的通過是可能的。面對人工智慧的改革，我同樣也有決心。

作為消費者，法國的人民已經是人工智慧的熱門粉絲，也對創新解決方案有極大的興趣。所有的技術人員都會告訴你，法國市場是一個很好的市場。在這裡人們熱愛科技。我想這也是為什麼從一開始我就堅持這樣的總體理念：阻止變革並專註於保護就業機會並不是正確的選擇。你需要保護的是人民。你需要給他們機會，讓他們通過培訓或者再培訓來獲得新的工作。不要試圖去阻止變化，因為它已經來臨，人們會接受它。我們要做的是，努力走到變革的最前沿，更好地理解變革，應對變革。變革可能在短期內摧毀就業機會，但同時也會在其他領域創造新的就業機會。

就我的看法，人工智慧的一個關鍵之處在於，它可以大大地減少人類活動中的重複勞動。這就需要我們同時考慮低、中、高層次的人群，為他們提供一系列新的工作機會。我們社會面臨的一個巨大的風險是只為高層次和低層次的人群提供機會，很少關注中間層次的公民；現在我們需要特別關心的正是這部分人，因為他們可能是受到影響最為嚴重的群體。舉例來說，如計程車司機或者其他從事高度重複性工作的人群，我們就必須對他們進行重新培訓，要麼讓他們切換到別的工作領域，要麼讓他們學會如何使用機器。我們需要會使用機器的人。

個人來說，我不相信自動駕駛汽車完全不需要駕駛員。對我來說，這完全是想像。我們在技術上已經有完全自動化的程序來駕駛飛機，但是我們仍然在每架飛機上配置兩名駕駛員，這是因為我們需要承擔責任。我們採用自動駕駛汽車減少的是風險的數量，是司機長時間開車的痛苦；但是我們仍然需要人類在關鍵時刻做出關鍵選擇。我對此非常肯定。所以人工智慧會改變我們如何開車，但是它不會取代掉運輸工作。

最後，我的觀點是：我可以說服我的國家接受這種變化，因為我已經擁抱它了。我的角色不是阻止這種變化，而是對人民進行培訓或者再培訓，以便讓他們在新世界中能夠獲得更多機會。

EM：我堅決反對。我認為我們需要責任以及確定由誰來擔負責任。技術上來講，在某些情況下，人們可以擁有一些自動化的武器。但是正是因為自動化或者機械化，會導致責任缺失。對我而言，責任是一個關鍵的問題。所以讓機器自己做出殺人決定是絕對不允許的。這也是需要人工確認的原因。在某些時間點上，機器可以提前準備好所有的工作來減少不確定性；但最終的決定仍然需要由人來負責。

EM：我認為會變得非常緊張；但我不會那麼悲觀，因為我認為人工智慧的核心基礎是研究，而研究是全球性的。所以我認為人工智慧永遠都是合作與競爭同在的。所以，如果想要有競爭力，你就需要有一個開放的環境和大量的合作；而同時在某些關鍵的點上，你又需要競爭。這就不得不去重新思考主動權的問題了。我在今天的演講中也提到了這點。

人工智慧是一個全球的創新方案，在這個方案中，美國擁有大型私有企業，中國擁有政府管控的大量數據；而我的目標，剛才也告訴你了，就是去創造歐洲在人工智慧方面的主動權，尤其是在管理方面。每個國家都在試圖捍衛它們的集體選擇，所以在管理方面會有一場主動權的戰爭。同樣在貿易以及創新上也將會有同樣的競爭。但是我不認為會嚴重到如 Musk 說的那樣，因為在人工智慧方面若想進步，開放創新模式將是必然的選擇。

EM：我認為完全相反。現在在人工智慧方面，我們非常歡迎 Google、Facebook 這樣的企業。大多數人都非常喜歡它們，這些公司也都在法國進行投資，招募人才，以及發展它們的業務。所以它們是我們生態系統的一部分。不過這些大企業也有幾個問題不得不解決。

首先，它們體量太大，壟斷是它們一直以來都存在的問題。在未來某個時候（我認為這將是美國的一個問題，而不是歐洲的問題），你們的政府和人民會說：「醒醒吧，它們太龐大了」。不是因為太大而不會失敗，而是太大而難以治理。在這點上，你們可以選擇將之拆解成很多小公司，這也是石油行業初期的應對方式。這是一個競爭問題。

其次，由於他們完全是數字化企業，就給我們帶來一個領土問題，他們打亂了傳統的經濟模式。在某些方面，這可能是好的，因為他們可以提供新的解決方案。但是針對這些解決方案，我們需要去培訓我們的人民，這需要政府支付這筆費用，而這些公司不會。現在，GAFA（Google、Apple、Facebook、Amazon）甚至不支付他們在歐洲所有應該繳納的稅，他們也不會去處理由它們造成的負面影響，反而是讓那些受到它們影響的行業去支付這筆費用，因為這些傳統的行業需要支付增值稅、企業所得稅等。這種現象是不可持續的。

第三，當涉及到隱私規則的時候，人們應該擁有主動權。法國和歐洲在這方面有自己的偏好，以這種方式或那種方式。但是美國沒有相同的規則。所以我們怎麼才能夠向法國人民保證美國的企業能夠尊重我們的規則？所以在某個時間點上，他們將不得不建立一個實際的法律機構，並將其納入到歐洲的規則當中。這意味著他們需要（也確實需要）一個更加歐洲的或者歐洲國家的組織來處理信息、管理自己等。

這反過來也意味著在一個更加分散的世界中，它們需要重組自己的架構。這也許是必然的，因為問責和民主只是在國家和地區的層面上發生，而不是全球範圍內發生。如果不這樣做，我就無法保護法國公民以及他們的權利。同樣如果不這樣做，我也不能保證法國公司能夠受到公平的待遇。

今天我談到 GAFA，我非常歡迎他們能夠加入到我們的生態系統中，但他們沒有像其他數字或傳統經濟的企業那樣在同一水平線上參與競爭。從長遠來看，由於美國的管理體系與歐洲不同，如果任由這些公司來主導，我將不能向我的公民保證他們的集體偏好。我所知道的是，如果我沒有在某個時間點上對此進行討論並加以管理，那麼我將不可能再擁有主動權。

EM：不。我首先想到的是，我們不僅僅有 GAFA，我們還有其他許多企業、初創公司等。我想，即使包括它們，也會發現它們在一個國家也必須尊重這個國家的民主和政治問題。

EM：是的。我想強調的是公平。AI 發展的早期階段已經結束了，一個沒有任何監管的階段結束了，它們處在一個必須制定所有規則的時期。現在它們將不得不與政府打交道——我希望能夠以合作的方式進行，而不是說「我再不想要這些傢伙了」。恰恰相反，我希望有一個永久的對話，但我希望它們能夠理解和尊重我的約束。我希望他們成為我的想法的一部分，並同時考慮他們自己的想法。我希望他們更夠更好地理解到，建立一個沒有任何責任和明確的民主問責制的世界是不可行的。

EM：首先，我認為這個問題很難回答，因為嚴格地來說，我不清楚五年後人工智慧會發生什麼情況。但是我會說，如果我能夠建立起一個非常強健、穩定的生態系統，在汽車、國防、醫療保健、金融科技等的人工智慧方面能夠堪稱歐洲第一，那麼我認為這將是一個成功。對我自己而言，如果大多數法國人民能夠理解並認可這一個改革，這也將是一個成功。

如果我們被恐懼籠罩，因恐慌而阻止這一改革，這將是失敗。我還擔心，從創新到落地，再到消化進我們的民主中，這之間會存在脫節。我必須為研究人員、私人企業、初創公司以及我的公民建立起互惠互利的信任關係。如果我能夠讓第一階梯的人相信國家是與他們相關的生態系統，如果我能夠為我的公民建立起對 AI 的信任，那麼我就成功了。如果我沒有在他們之間建立信任，我就失敗了。

via wired，雷鋒網AI科技評論編譯

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！