谷歌首次出現集體請辭 抗議軍方合作項目，300多名學者發聯名信

新智元 2018-05-15

作者 新智元

新智元報道

來源：Gizmodo等

編輯：克雷格、肖琴

【新智元導讀】谷歌與軍方合作的Maven項目持續發酵，繼數月前谷歌3000多名員工內部上書之後，十幾名谷歌員工正在集體請辭以示抗議。同時，國際機器人武器控制委員會（ICRAC）也向佩奇、Pichai、Diane Greene和李飛飛發出了一封公開信，呼籲谷歌退出軍方項目，並承諾不將其技術武器化。

谷歌首次迎來大規模辭職潮。

Gizmodo周一報道，有十幾名谷歌員工正在辭職，以抗議公司繼續參與軍方的Maven項目。

同時，國際機器人武器控制委員會（ICRAC）也向Alphabet CEO拉里·佩奇、谷歌CEO Pichai、谷歌雲CEO Diane Greene和李飛飛發出了一封公開信，呼籲谷歌退出軍方項目，並承諾不將其技術武器化。

谷歌促進了一種開放的文化，鼓勵員工挑戰和討論產品決策。但一些辭職的員工表示，高管們對有爭議的商業決策的態度已經變得不那麼透明了，他們似乎不太願意聽取員工的反對意見。

在「不作惡」和「做正確的事」之間，谷歌遇到了道德困境。

Maven項目仍在繼續，谷歌第一次出現抗議引發的離職潮

三個月前，近4000名谷歌員工發出一份內部請願書，呼籲谷歌停止跟軍方合作的Maven項目。

Maven項目是使用機器學習來識別無人機鏡頭中的車輛和其他物體，從而減輕分析人員的負擔。

根據五角大樓的說法，Maven最初的目標是為軍方提供先進的計算機視覺，能夠自動檢測和識別無人機全動態攝像機捕獲的多達38種物體。Maven能提供跟蹤來自不同地點的能力。

這個項目曝光後，谷歌發言人在一份聲明中說，它向國防部提供用於機器學習應用的TensorFlow API，以幫助軍事分析人員檢測圖像中的物體。同時也承認使用機器學慣用于軍事目的的爭議性。該發言人表示，該公司正在圍繞其使用開展「制定政策和保障措施」。

然而，來自近4000名員工的壓力似乎沒有影響谷歌的決定，谷歌聲稱它只向Maven項目提供開源軟體，並且，「制定政策和保障措施」到現在也沒看到進展。

更重要的是，五角大樓另一項價值上百億美元的雲計算JEDI項目（the Joint Enterprise Defense Infrastructure，聯合企業國防基建項目）正在競標，IBM和微軟證實了他們對JEDI合同有興趣，谷歌員工擔心谷歌會參與項目招標。

谷歌遭集體反對的情況並不多，距離上次出現大規模反對或抗議的事件發生在2015年。

當時谷歌博客Blogger發布禁令，把所有含色情內容的博客強制轉為私密狀態。此舉隨後遭到大量用戶的反對。最終，谷歌撤回了對Blogger色情禁令，決定只對「商業化」的情色內容進行限制。

這次十幾名員工辭職，Gizmodo稱是谷歌出現的第一次大規模離職潮，一些正在離職的員工表示，管理層對於有爭議的業務決策變得不那麼透明，並且似乎不像以前那樣傾聽員工的反對意見。

從歷史上看，谷歌在內部推廣了一種鼓勵員工挑戰和討論產品決策的開放文化。但是一些員工認為他們的領導不再關心他們的擔憂，而讓他們直接面對後果。「在過去的幾個月里，我對這種回應以及處理方式越來越失望。」一位辭職的員工說。

給佩奇、Pichai、Diane Greene和李飛飛的公開信：結束Maven項目，支持禁止自主武器系統的國際條約

今天，國際機器人武器控制委員會（ICRAC）發布一封聯名公開信，超過300位人工智慧、倫理學和計算機科學等領域的學者公開呼籲，要求Google結束Maven項目的工作並支持禁止自主武器系統的國際條約。

這封公開信的兩位發起人Peter Asaro和Lucy Suchman已經在聯合國面前聽證了自動武器報告; 第三位發起人Lilly Irani是位科學教授，同時也是谷歌前僱員。

Suchman告訴Gizmodo，谷歌參與Maven項目可能會加速完全自主武器的開發。她說，儘管谷歌位於美國，但它有義務保護其全球用戶群，這比任何單一國家的軍隊都重要。

以下是公開信全文：

致

Alphabet CEO拉里·佩奇

谷歌CEO Sundar Pichai

谷歌雲CEO Diane Greene

谷歌雲首席科學家、副總裁李飛飛：

作為學習、研究、教授和發展信息技術的學者，我們團結一致地支持3100多名谷歌員工以及其他反對谷歌參與Maven項目的技術人員。我們全力支持他們要求谷歌終止與國防部的合同，並且要求谷歌及其母公司Alphabet承諾不開發軍事技術、不將收集的個人數據用于軍事目的。軍事資金對計算機研究和發展的驅動力不應該決定該領域的前進方向。我們還敦促谷歌和Alphabet的高管加入其他人工智慧和機器人技術研究人員和技術高管的行列，一起呼籲簽署一項禁止自主武器系統的國際條約。

長期以來，谷歌一直致力於組織和提高世界信息的有效性。除了在互聯網上提供搜索相關的網頁，谷歌還負責編輯我們的電子郵件、視頻、日曆和照片，並引導我們到到達目的地。和許多其他數字技術公司一樣，谷歌收集了大量關於用戶行為、活動和興趣的數據。谷歌不能僅利用這些數據改進自己的技術和擴大業務，還應該造福社會。公司的座右銘是「不作惡」，這是眾所周知的責任。

Maven是美國的一個軍事項目，目的是利用機器學習來分析大量的無人機監控錄像，並為人類分析員提供感興趣的對象。谷歌不僅提供了開源的「深度學習」技術，還提供了工程專業知識和對國防部的幫助。

據防務周刊報道，聯合特種作戰部隊「在中東」進行了初步試驗，使用了一架小型掃描鷹偵察機的視頻片段。該項目計劃在明年夏天之前擴展到「更大、中等高度的Predator 和Reaper無人機中」，並最終應用到Gorgon Stare項目中，這是「一個複雜的高科技系列相機……可以俯瞰整個城鎮。」通過Maven項目，谷歌與有受爭議的、有針對性的殺戮行為有牽連。這包括所謂的「簽名罷工」和「生活模式」攻擊，目標人群不是基於已知的活動，而是基於從遠程監控錄像中得出的概率。這些行動的合法性受到國際和美國法律的質疑。同時，這些行動也暴露了在目標識別和罷工分析中，關於種族和性別偏見的重大問題（最臭名昭著的是，將成年男性作為激進分子的籠統分類）。這些問題不能依靠圖像分析演算法的準確性，只能通過對國際機構的問責和加深對實地地緣政治局勢的了解來解決。

雖然目前關於項目Maven的報告強調了人類分析人員的作用，但這些技術將成為自動目標識別和自動武器系統的基礎。當軍事指揮官們認為目標識別演算法是可靠的，它將會削弱甚至消除對這些系統的人類審查和監督。根據國防部的說法，國防部已經計劃在無人機上安裝圖像分析技術，包括武裝無人機。因此，我們距離授權自動無人機自主殺戮，而不需要人工監控，只需要一小步。

如果對科技公司而言，其道德行為需要考慮誰可以從技術中受益，誰可能受到損害，那麼我們可以肯定地說，這個話題值得更冷靜的反思——沒有比目的是在遠方瞄準、殺人，而且不受公共問責制約的技術風險更高。

我們還深切關注谷歌可能將人們日常生活的數據與軍事監控數據結合，並將其聯合應用於有針對性的殺戮。谷歌已經進入了軍事領域，沒有在國內或國際上進行公開辯論或審議。雖然谷歌經常在沒有民主的公眾參與之下決定技術的未來，但它加入軍事技術這一行為更加凸顯了信息基礎設施的隱私控制問題。

如果谷歌決定將全球互聯網用戶的個人數據用于軍事目的，那麼它將侵犯公眾的信任，因為它將用戶的生命和人權置於危險之中。像谷歌這樣跨國公司的責任必須與他們的用戶的跨國化相匹配。根據谷歌所考慮的國防部合同，以及微軟和亞馬遜已經實施的類似合同，這樣的做法標誌著擁有大量全球敏感私人數據的科技公司與一個國家軍隊的危險聯盟。它們還表明，谷歌未能與全球公民社會和外交機構進行接觸，這些機構已經強調這些技術的道德風險。

我們正處於關鍵時刻。劍橋分析公司(Cambridge Analytica)的醜聞表明，公眾越來越擔心科技行業將擁有如此大的權力。這使得信息技術基礎設施的風險越來越高，以及當前國家和國際治理框架不足以維護公眾的信任。這種情況比從事裁決生命和死亡的系統更為真實。

因此，我們要求谷歌及其母公司Alphabet：

終止與國防部的Maven項目合同。

承諾不開發軍事技術，也不允許其收集的個人數據用于軍事行動。

承諾不參與或支持發展、製造、貿易或使用自主武器；並支持禁止自主武器。

公開信地址：

https://www.icrac.net/open-letter-in-support-of-google-employees-and-tech-workers/

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！