最新Nature評論文章：人們必須保留自動駕駛汽車的控制權

上個月，發生了第一次行人在自動駕駛汽車中喪生的事故。一輛由自主演算法控制的汽車撞向了亞利桑那州坦佩市橫過馬路的女子。車內的安全駕駛員沒有能阻止事故的發生。

雖然這種事故很少發生，但是隨著越來越多的車輛在沒有人為干預的情況下駕駛，在公共道路上進行測試，其發生率可能會上升。在過去的一年中，一些國家通過法律為路測鋪平了道路。例如，新加坡修改了「道路交通法」，允許自動駕駛汽車在指定地區行駛。瑞典運輸署允許無人駕駛巴士在斯德哥爾摩北部運行。在美國，眾議院通過了自動駕駛法案（SELF DRIVE Act）來協調各州的法律。美國參議院正在籌備類似的政策，票選支持AV START法案來進一步放寬對無人駕駛車輛的審判。

政策制定者們熱衷於通過藉助自動駕駛汽車的潛力，來減少道路擁堵，空氣污染和道路交通事故1，2。便宜的乘車服務也可以減少私人擁有的汽車數量。機器智能可以使駕駛更省油，同時減少排放。自動駕駛汽車可以幫助拯救世界上每年因碰撞事故而喪失的125萬人的生命3，這些事故許多是由於人為錯誤造成的。

政府希望通過法律來實現自動駕駛（參見「Road to autonomy」）。他們通過暫時釋放滿足某些符合運輸安全規則的自動駕駛汽車開發者來進行路測。這些規則包括要求操作人員在車內，車輛具有方向盤，制動器和反光鏡等安全特徵，並且這些特徵始終能夠正常工作。一些開發者正在維護這些方面，但他們並沒有義務這沒做。因為無法確保自動駕駛車輛符合當前汽車的安全標準。

同時，更廣泛的政策影響沒有得到解決1，2。由於個人汽車擁有率下降，政府將損失數十億美元的稅收。數以百萬計的計程車，卡車和公車司機將失去工作2。自動駕駛汽車所依賴的機器學習演算法遠遠不夠發達，無法做出可能意味著行人或司機生死的選擇。

政策制定者需要與學術界和製造商密切合作，設計適當的法規。這是非常具有挑戰性的，因為這項研究涉及許多學科。

在這裡，我們強調需要緊急關注的兩個方面——責任和安全。

責任

與其他生產商一樣，自動駕駛汽車的開發商也承擔法律責任，賠償由於其產品缺陷設計，製造和銷售而造成的損失。潛在的責任風險對於無人駕駛汽車來說很好，因為複雜的系統總會以意想不到的方式產生相互作用。

製造商如果希望減少對他們提出的責任索賠金額4。一種方法是通過教育消費者如何運作並提醒他們注意安全，來減少產品被誤用的可能性。例如，藥物開發者提供劑量和副作用的信息；電子製造商發布指示和警告。這種指導塑造了消費者的期望同時也促進了滿意度。然而，就像智能手機一樣，自動駕駛汽車也由複雜的技術支撐，這些技術一般難以解釋或被理解。

相反，開發人員正在設計這些產品以便於使用5。人們更有可能購買一種看似簡單的產品，並且可以很快做出複雜的事情，從而提高效用。但是，用戶無法預測底層系統如何工作，或識別問題並修復問題。例如，很少有智能車的司機知道發動機是如何校準的5。同樣，自動駕駛汽車中的乘客也不會知道為什麼車輛在道路上選擇急轉向，或者為什麼不趕超慢行車輛。

更糟的是，深度學習演算法本質上是不可預測的。它們建立在由以往經驗所塑造的不透明決策過程之上。每輛車都會受到不同的訓練。沒有人（即使演算法設計師）也無法確切知道自動駕駛汽車在各種情況下的表現。

沒有法律規定汽車可以被視為安全之前需要多少深度學習的訓練，也沒有規定訓練有何標準。來自不同製造商的汽車在緊急情況下可以採取不同的反應方式。有的可能會繞過障礙物轉彎，而還有的可能會踩剎車。罕見的交通事件，例如卡車在風中翻倒，尤其令人擔憂，並且讓無人駕駛汽車的訓練變得困難。

高級介面需要被用來告知用戶自動駕駛汽車的行為是否與往常相同。今天的儀錶盤傳達了關於汽車速度和剩餘燃料量的信息。明天的展示必須展示車輛的「意圖」和控制它們的邏輯；例如，他們可能會告訴乘客，由於只有10％的成功可能性，因此車輛不會超車。對應該傳遞的數據類型以及人們將如何解釋它們知之甚少。

用戶經常忽視信息，即使它被清晰地表達出來，其後果可能是生死攸關的問題。例如，幾乎有70％的航空公司乘客在航班6之前不會檢查安全卡，儘管被問到。然而，這些卡片以簡單的方式和單頁，可以傳達重要信息，包括如何放置氧氣面罩並打開緊急出口。

自動駕駛車輛需要傳遞更複雜的信息。他們的感測器和演算法必須了解行人的行為，區分駕駛風格和適應照明變化。當他們不能時，用戶必須知道如何回應。

研究如何有效地呈現這些信息是至關重要的，同樣確保自動駕駛汽車用戶熟練使用該技術是立法需要努力的事情。

安全

自動駕駛汽車的安全和效率優勢依賴於計算機比人們做出更好，更快的決策。用戶輸入他們想要的目的地，然後將控制權交給計算機。完全自動駕駛尚未在交通中採用。人們仍然認為人們比機器更具靈活性，適應性和創造性，並能更好地應對變化或無法預料的情況7。因此，飛行員能夠在關鍵的計算機發生故障時通過線控飛行技術中掌握控制權。

公眾有權對全自動化保持謹慎。製造商需要解釋在關鍵系統失效時汽車如何保護乘客。無人駕駛汽車必須能夠安全停車，避免其危險，避免演算法發生故障，其攝像機斷線或其內部地圖死亡。但是這很難設計：例如，沒有攝像頭，這樣的車就看不到它要去的地方。

我們認為，總是需要某種形式的人為干預。無人駕駛汽車應該像飛機一樣對待，儘管這些系統是高度自動化的，但仍需要人員參與。自主車輛的當前測試要遵循這一原則。即使開發人員和監管機構協商通過了全自動駕駛，安全駕駛員仍然應該有。

儘管如此，讓人們參與其中還是會帶來安全問題。自動駕駛汽車應始終要求用戶具備最低水平的技能，並且對於一些人來說永遠不會容易操作。例如，認知障礙患者可能會發現很難運用這些技術並忽略控制。然而這個群體包括那些從自動駕駛車輛中獲益很多的人。例如，日益增加的老齡化人口8，發生事故的風險升高，因為認知能力下降與年齡有關9，10。例如，為大量老年人提供出行是自動駕駛技術在日本投資的巨大動力。

遠程監管可以監督無人駕駛汽車，就像空中交通管制員可以為飛機做這些事情一樣。但是需要多少監管人員才能保證這些車輛的網路安全？監管人員太少也可能會造成事故11。例如，在1991年，加利福尼亞州洛杉磯的一名不堪重負的空中交通管制員錯誤地將飛機降落在另一架飛機上。去年，醫生在香港發生一連串醫療失誤，導致病人不堪重負。

政策差距

目前和計劃中的立法都未能解決這些問題。豁免開發人員由於安全規則帶來風險。開發者並不總是需要報告系統故障或為車輛操作員建立能力標準。這種豁免也錯誤地認為人類的參與最終是不必要的。偏袒行業的用戶將削弱對已經懷疑的公眾的技術支持。

目前的立法迴避了消費者的教育。美國的行為僅僅要求用戶在使用之前被告知該技術。沒有提到用戶的能力標準和定期的能力測試。沒有標準，很難判斷消費者教育是否足夠。沒有測試，事件的風險可能會增加。

向前進

我們呼籲決策者重新思考他們對自動駕駛汽車進行管理的方法，並在起草立法時考慮以下六點。

無人駕駛並不意味著不需要人類操作員。監管機構和製造商必須承認，自動化會改變人們從事的工作的性質7。

用戶需要有關自動駕駛如何工作的信息。製造商必須研究對安全至關重要的設備（包括照相機，激光器和雷達）的限制和可靠性。如果可能，他們應該以可理解的形式向車輛操作員提供這些設備的數據。

運營商必須證明其能力。開發人員，研究人員和監管機構需要為自動駕駛汽車用戶達成一致的標準。勝任能力應由發證機構進行測試，並應補充現有駕駛許可證。特殊用戶應該對這些車輛有使用限制，就像在夜間禁止色盲駕駛員飛行一樣。

對用戶能力的定期檢查應是強制性的。監管機構，製造商和研究人員必須確定測試之間合適的時間間隔，以便隨著認知能力的變化和技術的發展，熟練程度得以保持。

應建立遠程監控網路。製造商，研究人員和立法者需要為自動駕駛車輛建立監督系統。研究人員應有主管對一定數量的車輛進行安全監控與指導，以及允許這種監測的條件。例如，在惡劣的天氣條件下需要更多的主管。

應該定義遠程主管的工作限制。專家必須澄清主管是否應該遵守現行的工作時間規定。例如，空中交通管制員的工作時間有限。

走向自動駕駛的道路遠非如此。仍然有許多挑戰需要解決。

參考文獻

1. Fagnant, D. J. & Kockelman, K. Transport. Res.Part A Policy Pract. 77, 167–181 (2015).

2. Anderson, J. M. et al. Autonomous VehicleTechnology: A Guide for Policymakers (RandCorporation, 2016).

3. World Health Organization. Global Status Reporton Road Safety: Time for Action (WHO, 2015).

4. Henderson, J. A. Jr. Ariz. State Law J. 47,1145–1180 (2015).

5. Frazzini, R. IEEE Control Systems 21, 8–12 (2001).

6. National Transportation Safety Board. EmergencyEvacuation of Commercial Airplanes. Safety StudyNTSB/SS-00/01 (NTSB, 2000).

7. Parasuraman, R. & Riley, V. Hum. Factors 39,230–253 (1997).

8. Christensen, K., Doblhammer, G., Rau, R. &Vaupel, J. W. Lancet 374, 1196–1208 (2009).

9. National Highway Traffic Safety Administration.Traffic Safety Facts: Older Population. Report No.DOT HS 812 005 (NHTSA, 2012).

10.Owsley, C. et al. JAMA 279, 1083–1038 (1998).

11.Kahneman, D. Attention and Effort Ch. 9,136–155 (Prentice Hall, 1973).

作者：Ashley Nunes, Bryan Reimer andJoseph F. Coughlin

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！