自動駕駛系統為什麼不安全 它有一個非左即右的選擇

6月1日消息，據國外媒體報道，最新發布的Uber自動駕駛車禍初步報告表明，雖然工程師力求自動駕駛汽車系統能夠不犯錯誤，但事實上自動駕駛系統是在虛警和漏警兩種狀態下不斷權衡。

無論是醫療測試系統，安檢設備或者能夠讓自動駕駛汽車感知和評估周圍環境的軟體，任何檢測系統在開發時都極力避免假陰或假陽的問題。但是規避這種問題的困難在於，越是遠離一方，就越接近另一方。

今年3月份Uber旗下自動駕駛汽車發生了致命車禍，該事件的新細節不僅凸顯了這個問題的難度，還表明了它的核心地位。

根據美國國家運輸安全委員會上周發布的初步報告，Uber汽車上的自動駕駛系統在發生車禍前6秒鐘就發現了涉事行人伊萊恩·赫茨伯格(Elaine Herzberg)。自動駕駛系統最初將其識別為一個未知對象，然後是一輛車，最後是一輛自行車。（她正在推著一輛自行車橫穿馬路。）大約在車禍發生前一秒，系統確定需要猛踩剎車。但是Uber的自動駕駛系統並沒有也不會執行這個決定， NTSB在報告中解釋道。Uber的工程師之所以阻止汽車自動急剎是「為了減少車輛在行駛過程中不穩定的可能性」。（而公司依靠安全員來避免碰撞，這是另外一個問題。）

Uber的工程師之所以決定不讓汽車自動剎車，因為他們擔心系統會對那些不重要或根本不存在的事情反應過度。換句話說，他們非常擔心誤報。

眾所周知，自動駕駛汽車感測器會將蒸汽，汽車尾氣或紙板碎片曲解為類似於混凝土之類的障礙物。它們也會把一個站在人行道上的人誤認為準備跳到馬路中央的人。錯誤的判斷不僅會讓汽車頻頻急剎，也會讓乘客感到不安。

自動駕駛巴士公司May Mobility創始人埃德·奧爾森（Ed Olson）表示：「誤報是非常危險的。一輛突然剎車的汽車很可能會失控。」

但是開發人員若刻意避免誤報，無意中也會讓開發的軟體過濾掉很多重要的數據。特斯拉的輔助駕駛系統Autopilot就是如此，其能夠讓特斯拉電動汽車保持在車道上行駛並自動遠離其他車輛。為了避免車載雷達感測器每次發現公路標誌或廢棄輪轂蓋時就會採取制動措施（誤報），Autopilot系統會自動過濾掉任何不動的物體。這就是為什麼輔助駕駛系統看不到停止的消防車。在過去幾個月中，特斯拉電動汽車在Autopilot系統下行駛時先後兩次高速撞上停在路邊的車輛。這恰恰是自動駕駛汽車系統的假陰性問題。

正確或錯誤

在忽略無關緊要的事物和抓住關鍵點之間取得平衡，就能夠認識到如何調整自動駕駛軟體演算法的「旋鈕」。你可以調整系統如何對檢測到的內容進行分類和作出響應，並根據所收集的數據進行重新測試。

像任何工程問題一樣，這是兩者相權取其輕的問題。 「你不得不做出妥協，」奧爾森說。對於許多自動駕駛汽車的開發者來說，答案是讓汽車更加謹慎一些。相比於16歲孩子獲得的賽車禮物，坐在卡迪拉克豪華轎車上的老年人要更多。

但一輛過於謹慎的汽車也會讓人感到沮喪。他們可能想要加速，在乘坐過程中會感覺不耐煩。此外，自動駕駛汽車過於謹慎也極不方便且代價高昂：其很可能會一旦有發生碰撞的微弱可能性就去猛踩剎車，反而會導致更多追尾。

每當開發人員擺弄這些旋鈕時，他們都必須重新測試系統，以確保自己對結果感到滿意。 「這是你在每個開發周期中都想看到的東西，」Edge Case Research的聯合創始人兼首席執行官邁克爾·瓦格納（Michael Wagner）說，該公司幫助機器人公司開發更強大的軟體，這非常耗時。

所以，如果你在前行和踩下剎車之間不斷徘徊，並想知道你的自動駕駛汽車到底在幹什麼時，需要清楚它自己也處於兩種情況的中間狀態。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！