半自動駕駛就安全?人類的"完全信任"是最大隱患

國外媒體Vox發布資深撰稿人蒂莫西·李（Timothy B. Lee）的文章稱，提供各種先進的駕駛輔助功能，逐漸過渡到無人駕駛，還是直奔全自動駕駛？這是涉足無人駕駛的各家公司要抉擇的一個問題。全自動駕駛的實現尚需時日，而半自動駕駛汽車則存在一大隱患：消費者很快就相信該類技術，自動駕駛過程中完全放鬆警覺。Vox下是文章主要內容：

圍繞無人駕駛汽車的討論很重要的一個時刻出現在2016年5月7日，當日約書亞·布朗（Joshua Brown）在他駕駛的特斯拉汽車撞向一輛拖車式卡車後身亡。布朗啟用了特斯拉的Autopilot自動駕駛模式，該軟體沒能在日照下檢測到卡車的白色邊緣。他的車全速（時速74英里）猛烈撞向該輛卡車——撞掉了車頂，同時也導致布朗身亡。

該事故被很多人定性為無人駕駛汽車的第一起事故，它引起了美國國家運輸安全委員會（NTSB）的注意。上個月，該委員會就該事故公布了數百頁的新細節報告。

但試圖讓無人駕駛變成現實的汽車行業並不認同這種定性。特斯拉稱，Autopilot並不是無人駕駛技術，而是更類似於一種先進的巡航控制形式。該公司指出，在啟用Autopilot模式後，駕駛者需要全程將雙手放在駕駛盤上，同時眼睛要保持盯著前方道路。NTSB上個月公布的計算機日誌顯示，布朗的車子曾7次警告他要將雙手放在駕駛盤上。每一次，布朗都是將手放在駕駛盤上面幾秒鐘長——放幾秒鐘足夠讓警告消失——之後又將手離開駕駛盤。

1月，美國國家公路交通安全管理局對捲入該案件的特斯拉表示支持，總結稱Autopilot系統並無缺陷。「並不是所有系統都是萬能的，」該機構的發言人布萊恩·托馬斯（Bryan Thomas）表示，「有些駕駛場景自動化緊急制動系統是無法應對的。」

不過，布朗的死亡還是汽車廠商們在將無人駕駛汽車推向市場的征程中將面臨的最大挑戰之一。大多數的汽車公司都打算逐步實現無人駕駛功能：未來幾年出售配備越來越先進的駕駛輔助功能的汽車，最終才推出沒有踏板或者駕駛盤的全自動化駕駛汽車。

然而，那樣的發展策略有一隱患：人們會很快就相信無人駕駛技術，就像布朗那樣。經過數百甚至數千英里毫無差錯的駕駛後，人們可能會變得不再留心路況，這會帶來致命的危險。是什麼讓無人駕駛汽車變得更加安全呢？業界的回答揭示了很多我們的駕駛習慣方面的信息——同時也揭示我們很容易就會變得依賴於新的技術。

半自動駕駛汽車會不斷提醒司機

特斯拉當前對於無人駕駛的處理方式是，讓帶有半自動化駕駛功能的汽車提醒駕駛者注意路況。自布朗身亡以來，該公司加倍投入發展該類技術。

本月早些時候，我去拜訪了特斯拉位於帕洛阿爾托的總部，親自試駕Model S。在我獲准獨自駕駛該款汽車之前，一位特斯拉員工向我指導了一番，期間她強調稱Autopilot並不是全自動化駕駛系統。她指出，在第一次啟動Autopilot功能之前，司機必須要閱讀和同意顯示在位於特斯拉中控台的17英寸屏幕上的免責聲明。該免責聲明強調需要全程將雙手放在駕駛盤上。

這並不只是隨便的建議。Model S配備感測器來檢測我的雙手是否放在駕駛盤上。如果檢測到我沒有那麼做，那儀錶盤最終會開始閃光，直到我將手放回在駕駛盤上為止。

約書亞·布朗的特斯拉汽車也警告過他——警告了7次——但他沒有足夠重視。自該事故以後，特斯拉制定了更加嚴格的「三振出局」規定：如果司機連續三次忽視警告，那在剩餘的行程中他就不再能夠使用Autopilot功能。如果該司機還是沒有握住駕駛盤，那該汽車就會假定他不能行動，然後慢慢停車，同時打開危險報警閃光燈。

其它的汽車公司正在開發類似的技術。例如，奧迪不久之後將會推出一款名為「交通堵塞領航員」的產品，讓司機可以在高速公路上免手以最高為每小時35英里的速度行駛（奧迪稱，距離實現高速公路全速駕駛還有四五年時間。）在最近試駕期間，奧迪工程師考希克·拉古（Kaushik Raghu）告訴我，交通堵塞領航員技術將包括一個「司機可得性監控系統」，以便確保司機沒有持續打瞌睡或者往後看。

卡迪拉克最近公布的高速公路駕駛技術Super Cruise也提供類似的功能。駕駛盤上安裝的紅外攝像機能夠判斷司機是否在看著前方的公路，有沒有低頭看手機。如果司機的雙眼太長時間沒盯著前方道路，那汽車就會開始發出提示音，直到司機重新往公路看為止。

在造訪正在開發先進司機監控技術的創業公司Nauto的時候，我明白了Super Cruise大概是怎麼運作的。Nauto生產的裝在擋風玻璃上的設備會監視著司機，會判斷司機有沒有在看路。如果整合到無人駕駛汽車——又或者普通的汽車——這類技術有望防止大量的分心駕駛和高速公路死亡事故。

為什麼幾乎完美的自動駕駛系統也有風險

在曾領導谷歌無人駕駛汽車工程師團隊的克里斯·厄姆森（Chris Urmson）看來，決定為司機提供駕駛輔助，還是將司機完全剔除出駕駛的過程，是「行業最大的公開討論話題之一。」厄姆森於去年離開谷歌，創辦屬於自己的創業公司。

谷歌這些年來一直在思考該問題。它近期將旗下無人駕駛汽車項目更名為Waymo。早在2014年，谷歌無人駕駛汽車工程師納撒尼爾·費爾菲爾德（Nathaniel Fairfield）在一個計算機視覺大會上發表演講，描述了谷歌為高速公路駕駛打造無人駕駛技術，但後來認定該計劃太過危險的歷程。Waymo客戶將永遠都不被允許去觸碰其汽車的駕駛盤。

谷歌無人駕駛汽車技術的早期版本跟特斯拉的Autopilot或者我幾周前試駕的奧迪原型車非常相似。司機負責在行程開始和結束階段的街道行駛，但在高速公路上可以啟動無人駕駛模式。標記明確的道路以及沒有行人和其它的障礙，讓高速公路上的無人駕駛成了一個相對簡單的計算機科學問題。

費爾菲爾德指出，問題在於，人們太快開始相信那個系統了。「人們一開始覺得不切實際，接著又覺得半信半疑，最後變得過於信任。」他說。在看到谷歌的高速公路駕駛技術連續幾個小時都毫無差錯以後，人們就變得「完完全全信任」它的有效性了。

「車內的攝像頭記錄到，在汽車行駛期間，員工們爬到后座去，伸出車窗外，甚至摟抱接吻。」約翰·馬爾科夫（John Markoff）在《紐約時報》報道稱。

即使一項技術能夠完美無瑕地駕駛100甚至1000英里，也有可能偶爾出現災難性的錯誤。但經過一英里又一英里毫無差錯的自動駕駛以後，司機不大可能會去密切留意路況。這意味著，要是汽車突然遇到一個它無法應對的問題，那將汽車的控制權移交給人類司機可能反而會讓事情變得更加糟糕。

這是航空業數十年來一直在努力克服的一個問題。2009年，法國航空447號班機在從里約熱內盧飛往巴黎的途中墜入汪洋大海。該事故的起因是：飛機的感測器上的冰塊導致自動駕駛功能停止運行。由於缺乏在沒有計算機輔助的情況下處理飛機問題的經驗，飛行員恰恰犯下了錯誤：本應降低機頭，但他卻拉高機頭。飛機因此失速，之後墜入海洋，機上的228人全部遇難。

「很顯然，自動化技術在該事故中要負上責任，但它要負多大的責任則存在一些爭議。」知名網路雜誌《Slate》2015年的一篇文章在談到該事故時指出，「也許，系統設計得很不好，讓飛行員覺得迷惑，又或者可能由於多年來一直依靠自動化技術，讓飛行員措手不及，不懂得如何接管飛機的駕駛。」

這是自動化系統的矛盾之處：自動駕駛系統做得越出色，人類就會越依賴於它，要是突然之間他們不得不去接管飛機的駕駛，他們就會措手不及。

不難想像，無人駕駛汽車也有可能會發生類似的事情——年輕一代的司機尤其容易出現問題。隨著駕駛輔助技術變得越來越普及，未來將會有越來越多從未在沒有計算機輔助的情況下駕駛的青少年司機。但如果這些汽車被設計得會在遇到意想不到的情況時將駕駛任務交還給人類司機，那麼人類司機可能會措手不及，在生死攸關的關頭恰恰出錯。

無人駕駛汽車越是接近全自動化，就越難讓司機保持警惕。如果連續數千英里司機都不必作出任何的駕駛決策，即使汽車能夠迫使他們將雙手一直放在駕駛盤上，同時一直注意看路，那他們也有可能會犯渾。達到特定技術水平以後，讓汽車自己猜該如何做，可能都比讓可能頭腦一片混亂或者缺乏實踐的司機接管駕駛盤來得安全。

Waymo要直奔全自動駕駛

谷歌最終得出結論：半自動化駕駛的汽車在技術上是個死胡同。相反，該公司給自己設定了打造全自動化駕駛汽車的目標——一種非常可靠，永遠都不需要人類司機干預的全自動化駕駛汽車。

前谷歌工程師厄姆森認為，駕駛輔助和全自動化駕駛「實際上是兩項截然不同的技術。」

「在駕駛輔助系統中，大多時候，那些輔助功能不用好過用。」厄姆森4月在演講時指出，「只有在你有百分百的把握你不會遭遇事故的時候，你才應該啟用該系統。它會指引你選擇使用各種技術，但它們會制約你應對意外情況的能力。」

與之相反，Waymo正嘗試打造永遠都不將駕駛盤交給人類乘客的汽車。那意味著它的軟體不管在什麼可想到的情形都必須能夠選擇合理而安全的應對方式。這意味著要部署備用系統，以確保即使有重要部件失靈，汽車都能夠從容不迫地作出應對。

「我們的無人駕駛汽車每一輛都配有應急的輔助計算機，預防主計算機離線的小概率事件。」谷歌在2016年的報告中寫道，「它唯一的責任就是監控主計算機，需要的話，它會安全地將汽車開到路邊，或者完全停下來。它甚至能夠搞清楚像不停在十字路口中間，避免給其它司機帶來危險這樣的事情。」

相比開發指望人來處理棘手情況的駕駛輔助技術，開發能夠從容處理任何意外情況的軟體——以及備用的防彈硬體——可以說是一項要困難得多的技術難題。但它也有一個很大的優勢：如果汽車決不將控制權交給人類司機，那它就完全不必擔心司機是否會措手不及的問題。

目前，Waymo倒還讓司機坐在駕駛盤後，但這些司機是接受過特殊的無人駕駛汽車處理訓練的Waymo員工。不管有多無聊乏味，他們都要持續注意路況。他們也應該能夠從這份差事中獲得報酬。最近幾個月，這項工作可以說變得極其無聊了。根據監管文件，Waymo無人駕駛汽車在加州已經行駛了超過60萬英里，期間將控制權交給人類司機的次數只有124次。

那相當於是每行駛5000英里才「自駕脫離」（disengagement，司機因為汽車的自動化駕駛軟體出問題或者出於安全原因而不得不接管汽車）一次，比2015年提升了4倍之多，且是目前為止各家公司在加州公路上的無人駕駛汽車測試的最佳表現。按照該進步速度，Waymo再過幾年就將能夠超過人類的駕駛安全性。如果說那些加州數據有什麼啟示的話，那就是像通用汽車、福特、寶馬和賓士這樣的競爭對手還得追趕很長一段路。

Waymo目前似乎是無人駕駛汽車領域明顯的領跑者，但試圖直接奔向全自動化駕駛技術的策略，讓該公司承受了很大的風險。要達到更高的可靠性水平——比如，從99.99%可靠到99.9999%可靠——可能要花費數年時間。在此期間，採取漸進式策略的公司可能會逐步進佔市場。

漸進式策略的一大優勢在於，它可讓汽車公司收集到大量的數據，許多專家認為坐擁大量數據對於無人駕駛汽車的開發成敗至關重要。Waymo的汽車在公路上的行駛里程已經超過300萬英里，這為它帶來了可用於完善其軟體演算法的原始數據。相比之下，特斯拉已經從客戶的汽車收集了超過10億英里的真實感測器數據。所有的那些額外數據都有利於特斯拉取得更多的進展來實現全自動化，進而最終趕上並超越具有先發優勢的Waymo。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！