谷歌內部之爭：AI技術是否可以賣給軍隊？

2017年7月，13名美國陸軍指揮官和技術主管在五角大樓的矽谷前哨碰面，共同商討如何將技術應用於實戰的問題。這是16年五角大樓與谷歌成立該諮詢委員會以來，雙方舉行的第二次會晤。谷歌副總裁Milo Medin將雙方的談話內容轉移到了使用AI作戰的主題上來。谷歌前東家Eric Schmidt也隨即提議使用AI技術來制定未來20年里和中國對峙的策略。

幾個月後，美國國防部聘請谷歌雲技術部門研究Maven項目，旨在通過技術手段提升機器學習在思考和觀察方面的能力，增強無人機的性能。這對谷歌的母公司Alphabet來講絕對是一筆大生意，不用和其它巨頭競爭，每年輕鬆獲得政府數百萬的資金，何樂而不為？不過公司的員工並不這麼認為，在這個自由派盛行的灣區地帶，接受國防部的一紙合約無異於和特朗普當上美國總統一樣惹人爭議，大約4000名谷歌員工在一封信上聯合署名，要求谷歌CEO取消Maven項目，並中止公司一切與戰爭有關的業務。他們以谷歌過去「不碰軍事類項目」的歷史和「不作惡」的口號來作為理由，不斷對谷歌高層施加壓力。Alphabet旗下的一間AI實驗室甚至主動和該項目撇清了關係。還有大概12名員工正試圖以辭職的方式抗議谷歌仍然和Maven項目有所往來。很多人之所以反對這筆交易，是因為他們認為這會成為谷歌幫助五角大樓製造自動殺人武器的第一步。

由Maven項目引發的內部騷亂加之最近爆發的矽谷如何使用數據和技術的爭議，促使谷歌的CEO Pichai不得不行動起來。據知情人士透露，Pichai以及他的助手們正在制定道德原則，目的是為谷歌今後部署強大的AI技術提供指導。當下谷歌正和其他對手爭奪五角大樓高達10億美元的雲技術合約，當被問及這場內部爭議是否會影響谷歌與五角大樓的關係時，谷歌發言人暫時拒絕發表評論。

谷歌員工對將AI應用於戰爭的厭惡由來已久。

在前不久剛剛舉辦的谷歌開發者大會上，谷歌AI主管Jeff Dean就曾對記者透露，他曾在2015年的時候寫過一封公開信，表達了自己對使用AI製造自動化武器的反對。軍方使用帶有AI功能的Gmail並沒什麼問題，但放在在其他案例中情況就不一樣了。去年，包括Demis Hassabis、Mustafa Suleyman在內的幾名主管，和AI領域著名研究專家Geoffrey Hinton向聯合國共同簽署了一封信，信中表達了他們對AI作為軍事用途的擔心。「具有殺傷力的自動化武器會在很大程度上擴大衝突的規模，衝突的時間跨度也會大大縮短」。

AI系統目前並不完善，很多bug會導致很嚴重的後果。比如前不久兩名半島電視台的記者就向法院提交了訴訟申請，理由是由美國政府的天網監測系統管理的無人機曾將兩人錯誤地列入「刺殺名單」中，險些釀成事故。數字權利基金會主管Nighat Dad曾就此事向谷歌CEO致信，要求停止Maven項目合約，不過對方尚未就此事作出回復。

不過在一些AI專家看來，最讓他們擔憂的是當前的技術手段還不可靠，可能會被黑客劫持做一些不適當的戰場決策。紐約大學AI研究員Gary Marcus稱「在對一些比較重要的事做決定時，我絕不會相信任何軟體」。

在他看來，由於公眾並不清楚軟體是如何被使用的，所以Maven項目正在道德的灰色地帶遊走。「如果谷歌想要為軍隊做一些機密的事情，那麼公眾就有權利了解谷歌正在往什麼方向發展」。目前谷歌的雲技術部門並未獲得從事保密項目的允許，至於公司是否會徵求有關部門的許可，谷歌發言人暫時拒絕回答。

谷歌與美國政府的過往

多年以來，谷歌一直都在試圖避免和政府部門打交道。許多和政府有關聯的公司被谷歌收購後，其與政府簽署的合約一般都會中止，這已成為定律。2011年，面部識別技術公司Pittsburgh Pattern Recognition被谷歌收購，其當年從政府那裡獲得的收入為679,910美元，到了第二年，谷歌從政府那裡得到的總收入都比這個數目低。Boston Dynamics在成立的13年內從政府那兒拿到的合同總值超過1.5億美元，被谷歌收購後的第二年該公司便中止了與政府的合約。然而，谷歌內部也有一批人對與政府合作十分嚮往。

要說谷歌內部誰最支持和政府合作，負責雲技術的主管Diane Greene當屬頭一個。而且，自Greene15年走馬上任擔綱雲技術部門主管以來，谷歌在為政府工作這件事上也變得不再那麼反感了。在今年三月份的一次採訪中，Greene極力為五角大樓辯護，認為將Maven項目視為谷歌業務的拐點是錯誤的判斷，「谷歌已經和政府部門合作很長時間了」。五角大樓在一年前開啟了Maven項目，目的是對大量的監測數據進行分析。她的部門在該項目中只承擔了很小的一部分工作，比如瀏覽無人機拍攝地雷的畫面，標記後通知陸軍人員。設計相關軟體並不是為了識別目標或是下達攻擊指令，而是為了「拯救生命」。

不過，真正促使Greene決心和政府合作的根本原因恐怕還是因為一個錢字。去年，聯邦機構在未加密的雲技術合約上面的預算超過了60億美元，其中三分之一的訂單需求都來自於國防部。現如今，亞馬遜、微軟和Oracle這些巨頭都已成為政府部門的重要合作夥伴，僅亞馬遜一家公司的雲服務就讓中情局總共掏了6億美元。Greene決心和這些對手展開競爭，「我們和政府合作是因為政府需要大量的數字技術，而我們目前正在討論的就是AI」。

在AI領域深耕10幾年的谷歌目前正急於將AI和雲計算業務加以整合。而對雲計算需求最高的政府部門莫過於軍隊了。Medin和Alphabet總監Schmidt都是五角大樓國防創新委員會的成員，二人一直在極力撮合谷歌和政府合作，為後者在打擊恐怖主義、網路安全、電信等方面提供幫助。為了在雲計算業務領域獨佔頭把交椅，同時實現Pichai把谷歌打造成「第一AI公司」的願望，谷歌似乎除了介入戰爭生意並沒其它選擇。

另外，來自政府方面的友好信號也是促進雙方進一步達成合作意向的重要原因。為了面對來自中國和俄羅斯方面的競爭威脅，特朗普政府對AI技術的態度開始由之前的搖擺不定轉為積極擁抱。4月2日，Maven項目再次獲得一億美元的政府資金。很多軍方官員都將該項目視為減少耗時任務和提升作戰效率的關鍵方式。

美國國防部發言人哈里斯稱「我們能確認的是，Maven項目將會和很多供應商建立合作關係，國防部代表會定期和多家公司負責人會面，共同商討現有項目的進程」「由於內部討論的都是很隱私的內容，所以現在不方便提供更多細節」。

寫在最後

斯諾登事件發生後，美國國家安全局曾被指利用谷歌網路秘密監督用戶行為，谷歌方面對此予以駁斥。之後雙方的關係一直都很僵硬，所以部分谷歌高管會認為這是與美國政府重歸於好的好機會。但是員工的情緒又如何安撫呢？這才是谷歌要解決的大問題，畢竟一句「就算我們不做，其他人也會做」這樣的說辭是很難讓所有人都心服口服的。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！