自動駕駛重塑未來：三個維度的監管問題
Robert P. Merges教授是美國密歇根州自動駕駛汽車法律協會（autonomous vehicle law association）主席，他也是加利福尼亞州大學伯克利分校法學院的法律與科技教授，伯克利法學院知識產權法項目的負責人。
在過去13年中，Merges教授負責的伯克利法學院知識產權法項目有12年被美國新聞評為全美第一。
整理：
曹建峰 騰訊研究院高級研究員
張嫣紅 騰訊研究院助理研究員
付一方 騰訊研究院助理研究員
隨著行業內外對自動駕駛的關注度逐漸提高，騰訊研究院「外國專家面對面」系列活動近期邀請美國密歇根州自動駕駛汽車法律協會（autonomous vehicle law association）主席Robert P. Merges教授以《中美自動駕駛汽車監管》（Autonomous vehicle regulation: US and China）為主題進行分享。
Merges教授認為，自動駕駛汽車監管存在三個維度。
第一個維度是安全與責任，美國各有分工的多層監管給安全和責任問題帶來複雜性；
第二個維度是涉及車輛協同、知識產權、系統的開放和封閉等問題，目前並未引起足夠重視；
第三個維度是自動駕駛對就業的影響，政府、企業等需要消除公眾恐慌，培育公眾對技術的信任。
最後，對於大家討論熱烈的倫理問題，Merges教授認為這個問題在哲學上將是無解的，但系統設計者可以從避免任何碰撞和死亡出發不斷提升自動駕駛的安全性能，而非將其描述為一種涉及倫理道德的事先編程選擇。
1
自動駕駛技術的一代問題：
安全與責任
1. 美國自動駕駛立法的三個層次帶來法律監管的複雜性
美國加利佛尼亞州在2012年就對自動駕駛技術進行了定義：自動駕駛技術是指在沒有人類駕駛員主動操控或監測的情況下駕駛車輛的技術。該定義也可以用來解釋加州自動駕駛汽車的保險政策。
所以從一開始，加州往往是最先對自動駕駛技術進行推廣並出台立法進行規制的州。相比之下，華盛頓州的自動駕駛政策就出台得比較晚，而且迄今為止還不那麼直接。而到目前為止，聯邦政策層面更多的是一些指導性原則，對各州立法提出建議。
所以，從這個層面上來說，在美國，對自動駕駛汽車真正具有約束力的立法大多在州層面。
而且，各州的監管制度也存在差異。比如，有許多州並沒有自動駕駛汽車相關的立法。這就解釋了我們可能看到的一些現象——為何自動駕駛汽車在一個州進行測試而未在另一個州進行測試。
因為在這一些州中自動駕駛汽車的狀況是非常不明朗的，對於什麼是合法的，什麼是非法的，缺少法律指引，所以運營（operate）自動駕駛汽車是具有風險的。因此對自動駕駛汽車的研究往往集中在一些已經通過相關法律或法規的一些州。
另外，在事故發生後，州與州之間的法律也存在不同。例如，當一輛自動駕駛汽車從加利佛尼亞州行駛到俄勒岡州，所面臨的法律狀況就是不確定的，因此人們也就很難進行預測。
這既帶來了挑戰，也意味著機遇。因為如果企業準備在美國測試自動駕駛汽車的話，他可以選擇在對自己最有利的地方進行測試。這是積極的方面。
除了國家和州層面，還有第三個層次，即市政府層面的立法監管。通常情況下，州政府負責制定有關責任和保險方面的要求，而市政府更多地負責道路交通規則以及一些地方性規則的制訂，例如行人規則、交通指示燈規則，以及一些特別的規則，比如涉及自行車車道以及與殘疾人有關的規則。
因為三個層面政府的監管之間會相互作用，當某些地方出現問題時，通常會有三個級別的政府對事故或問題進行審查。這就是美國法律系統的一個特點，它產生了一些複雜性。
包括Waymo在內的一些公司都會選擇到亞利桑那州進行自動駕駛測試。但是，最近在亞利桑那州出現了自動駕駛汽車交通事故致行人死亡的事件。所以，可以預料到，這將會引起許多關注。
有時事故的發生可能會導致立法和技術推廣的擱置。比如有時候州政府會暫停自動駕駛汽車的測試，直到研究清楚事故發生的情況和原因。在美國，由於對事故與責任的監管許可權屬於州政府，所以就很難積累必要的知識庫，來對自動駕駛汽車與傳統汽車之間的安全性能進行比較。
應該大多數人都知道，迄今為止，「黃金標準」（Gold Standard）是傳統駕駛死亡率的長期平均值。所以，在美國的安全計劃中，我們的目標是開發足夠的數據來比較自動駕駛汽車和傳統汽車的安全性能。但是由於自動駕駛汽車的事故率是非常低的，因此積累的數據比較少，而且由於迄今為止自動駕駛系統有很大的差異，所以我們的研究還處於起步階段。
在美國，亞利桑那州會對該州自動駕駛汽車的里程數進行追蹤，其他州如加利佛尼亞州、紐約州、華盛頓州等也是如此。我們需要協調各州的安全數據，因此有必要建立一個國家資料庫，以便比較傳統的人類駕駛的「黃金標準」與自動駕駛汽車死亡率。
但是，通過對美國監管制度的了解可知，如果從州層面進行監管，將很難在全部州之間進行安全數據的比較。所以聯邦系統面臨的挑戰是州與州之間的協調。
2. 對自動駕駛事故的應對：像心理學家一樣思考，而非像工程師一樣思考
可以肯定，自動駕駛汽車的死亡率將會更加顯眼，也會引起更多的關注。所以任何監管政策和企業的應對措施都應該考慮到這樣一個事實——自動駕駛技術對普通消費者來說是一種新技術，這意味著他們可能感到有些恐懼，而且媒體可能將之放大。
所以對事故特別是死亡事故的應對必須考慮到消費者的這種恐懼心理。儘管從總體上來說，自動駕駛汽車的事故率比傳統汽車要低得多，但是自動駕駛汽車的事故還是會引起人們的格外關注。因此自動駕駛汽車企業必須對消費者的反應非常敏感。
作為技術人員，往往會對每一起事故進行分析，思考如何防止事故的發生。但是為了維護公共關係和提高消費者接受度，對負面事件的應對是非常重要的，因為這一新技術對人們來說往往是更加可怕的。所以我們需要像心理學家一樣思考，而不是像工程師一樣思考。
3. 自動駕駛汽車的聯邦調控規則
接下來是美國的聯邦調控規則，這是美國監管結構中與中國最為相似的地方，因為聯邦政府通過自上而下的指令的方式進行調控。
美國聯邦政府主要負責安全標準的制定，而將其他的監管職責留給州政府來行使。州政府則保留著其傳統的職責，如車輛牌照的發放和註冊，交通法規的制定和執行以及保險和責任框架的制定。美國的國家公路交通安全管理局(NHTSA)作為交通部的一部分，負責為自動駕駛汽車制定安全標準。
但是，聯邦和州之間監管許可權的分配可能導致分歧，比如聯邦政府要求在一定情況下安全氣囊必須以一定的速度打開，以及保險杠必須經受住某種力量的衝擊，而在涉及到相關事故賠償的時候，依照的卻是州法律，這就導致問題的複雜性。
還有一點，遵守聯邦安全標準並不能保證你可以不對交通事故負責。因為州層面的保險和責任規則往往會高於聯邦安全標準。
雖然聯邦政府已經開始引入關於自動駕駛汽車的責任與保險規則，但這是非強制性的。它只是提供了一些基本的規定。比如你想知道在亞利桑那州測試自動駕駛汽車需要繳納多少保費，這個問題就應該由亞利桑那州的律師而不是聯邦的律師來回答。
4. 安全與責任問題：以亞拉巴馬州為例
在美國自動駕駛汽車發展的早期，許多州要求汽車具有輔助泊車功能，因此L3和L4級別的自動駕駛技術得到批准。在大多數的州完全的自動駕駛汽車（或L5級別的自動駕駛汽車）尚處於測試階段，且不準在公共道路上行駛。
這些被限制的L5級別的自動駕駛汽車在一些地方進行測試時，需要配備駕駛員或對自動駕駛汽車進行遠程監控。
一些州對自動駕駛汽車的監管已經超越了簡單的第一代階段，並開始著手解決更為複雜的問題。比如，美國有一些州正在討論V2V通信技術，以及如何在州的法律框架下解決這個問題。這是自動駕駛汽車和行業未來的發展目標。
美國的亞拉巴馬州參議院提出了一項立法（Alabama Senate Bill 125），該立法對卡車排（truck platoon）進行了定義，其目的是為了確定針對自動駕駛汽車的高速公路交通安全規則的豁免或例外。
在聯邦政府的指引以及州政府的安全規則之下，汽車行駛必須保持安全跟車距離。因此警方在跟車距離太近的時候將將會開具罰單。而上述法案則對卡車排規定了豁免制度，認為安全距離可以更短。
根據法案規定，如果卡車排在從事電子制動協調或者滿足交通部規定的其他要求，則不受國家規定的卡車排最短跟車距離的約束。這意味著當卡車排違反了最短跟車距離的時候，警方無權開具罰單。
我們會看到大量類似的例子，因為傳統的駕駛規則是針對人類駕駛員設計的。所以對於自動駕駛汽車而言，也將會有更多的豁免或是對現有規則的改變。
在技術發展的早期，美國各州之間的法律有很大的差異和變化，對於技術研發者來說，困難就在於在目前的法律體制下及時追蹤各州的法律，以使設計的系統符合要求。
在以上情況下，對規則進行遵守有兩種可能，其中一種可能是，採用最低共同標準策略（the lowest common denominator）。
比如如果科羅拉多州規定卡車排的最短跟車距離為8英尺，但在亞拉巴馬州的規定為10英尺，那麼按照最低共同標準戰略，可以在設計自動駕駛系統時在美國全境內採取10英尺的安全跟車距離，儘管其他州的要求可能更短。
另一種可能的方法就是設計一種能夠感知到所在的地區，並根據地方規定進行調整的自動駕駛系統。要使卡車能夠感知到所在的地區，並在穿過州邊界的時候調整跟車距離，需要非常複雜的網路系統。這就相當於自動駕駛系統的「本地化」。
從系統設計的層面看，如果考慮在美國進行測試，將不得不考慮以上問題並將之納入到系統的設計之中。測試者既可以選擇最低共同標準策略，也可以在系統設計中納入一種州際感知系統，以實現本地化。
這是美國監管體制所獨有的特徵。對於各州規定的參差不齊，聯邦政府可能會認為現行規則過於混亂，因此出台規則取代州的規定，比如規定最短安全距離是8英尺，而這一規定對所有的州都適用。這就是聯邦專有權（federal preemption）原則。
這是在技術層面之外，對美國複雜的監管環境進行應對的另一個方法。所以交通安全部門可能會建議國會通過一項國家層面的安全跟車距離標準，這就提供了第三種政策層面的解決方法。當然，這只是一個例子，美國的監管體制將會影響到自動駕駛汽車的設計和發展，而美國的公司則需要妥善應對這一點。
當然，在國際層面，還存在國際協調的問題。如果在中國、德國和巴西都有安全跟車距離的規定，就會面臨同樣的問題。
另外，亞拉巴馬對卡車排的豁免也會牽涉到責任問題。如果一組卡車排中的卡車是由不同的公司所有，而且發生了故障。在大多數州的責任體制之下，如果卡車排遵守了安全跟車距離，這將成為減輕責任的一個因素。
所以，安全跟車距離不僅會影響到車輛免受罰單，也會影響到在發生交通事故時責任的認定標準。因此，遵守州公路法可以幫助降低事故的成本，因為這表明你遵從了最佳實踐。
5. 中國的監管體制更利於部門之間的協調
中國更具有集中的、自上而下的監管特點。中國國家發展與改革委員會於2017年12月公布了一項為期三年的計劃，使自動駕駛技術成為國家優先發展的領域。
2018年1月，國家發展改革委組織研究起草了《智能汽車創新發展戰略》，指出到2020年，中國標準智能汽車的技術創新、產業生態、路網設施、法規標準、產品監管和信息安全體系框架基本形成。智能汽車新車佔比達到50%。智能道路交通系統建設取得積極進展，大城市、高速公路的車用無線通信網路（LTE-V2X）覆蓋率達到90%，北斗高精度時空服務實現全覆蓋。
到2025年，中國標準智能汽車的技術創新、產業生態、路網設施、法規標準、產品監管和信息安全體系全面形成。
在中國，促進經濟發展和監管的聯繫更為緊密，而且確定是否符合監管規定時，只需參考統一的規範。而在美國，國家安全部門更關心的則是降低事故和保障司機安全，這一職能往往與美國商務部、交通部等部門相分離，所以在美國有許多相分離的職能部門。
中國集中的監管體制的優點在於，不同職能部門之間可以實現更好的協調。而在美國則缺少協調，如在網路設施和安全標準方面就是如此。在美國，網路設施可能會跟隨自動駕駛汽車發展，而不是引領其發展。這將意味著一些車輛將不得不在沒有基礎網路設施的情況下運行。
當它進入一個啟用網路設施的區域時，它必須能夠感知到。在美國公路的管理上有責任的劃分，地方公路通常由市鎮政府進行管理，而州公路和和聯邦公路則分別由州政府和聯邦政府進行管理。因此，在政府層面上，在所有的公路上推行一套網路會有點複雜。
這也就是為什麼在美國所有的感測器網路都是由私企進行投資建立的，因為他們不能等待政府來協調。
2
自動駕駛技術的二代問題：
車輛協同、知識產權布局、系統的開放和封閉問題
自動駕駛汽車的二代問題在美國的討論更多。自動駕駛技術帶來的主要的好處是車輛之間的協調以及車輛與道路系統的交互，協調駕駛節省了大量的資源。就燃油率來說，估計與卡車司機相比，卡車排可能會節省25%的燃料成本。
在數億萬的行駛里程中，燃料成本的節省將是很可觀的。但是我們也需要促進創新。現在，在車輛協同中的知識產權問題和系統的開放和封閉問題還沒有得到足夠的考慮。
1. 自動駕駛汽車的協同涉及知識產權問題以及系統的開放和封閉問題
對於封閉系統和開放通信系統之間的關係，人們思考得並不多。自動駕駛汽車的功能為內部功能和外部功能。
內部功能包括汽車的感知（sensing）、處理（processing）、決策（decision-making）功能，內部功能可以使自動駕駛汽車進行自主決策；外部功能是指自動駕駛汽車與其他汽車或者公共基礎設施的交互功能，這可以使自動駕駛汽車實現協調和遵守監管規則。
為了實現外部功能，就必須有一個開放組件模塊。一個完全開放的平台意味著車輛的所有功能都是以公開可用的代碼編寫的，這不利於企業保持競爭優勢。
因此如果一項技術對自動駕駛汽車的功能起決定性作用，比如對於諸如感知路徑預測以及車輛自主決策等方面的功能，企業可能不願意將之公開。
以激光雷達探測系統（LIDAR）為例，其中包含許多的組件，這也是Waymo和Uber商業秘密池中顯著的一塊，同樣也是企業研究的重點領域。企業想通過對LIDAR系統研發上的領先地位來保持競爭優勢。
所以對於車輛系統中這部分，不需要免費公開。但是另一方面，在車輛中需要有一些模塊用來實現與其他車輛或者基礎設施的通信。這也是自動駕駛系統設計的優點之一。因此，問題就在於，為了維護自動駕駛系統的專屬特徵，如何確定內部功能與外部功能的界限。
車輛在行駛的過程中，必須根據其他車輛或者是公共系統來調整自身的參數。公共系統必須能夠在有緊急情況的時候發出中斷信號。汽車需要做出決策，然後將決策結果傳送給公共系統，兩者進行交互。
關於如何在保持系統技術專有性的同時將感知數據和智能系統的決策傳送給外部系統，是人們考慮得不多的一個問題。
對此，公共協議和內部專有特性之間的聯繫是非常重要的。在車輛與車輛以及與公共設施的交互的設計方面，可能需要一些公共標準。有了這個公開的標準，各地的車輛才都能進行交互。因此需要一些原則，以明確哪些部分應該是專有的，這是非常重要的。
2. 內部專有系統——以黑匣子為例
在事故責任方面，自動駕駛系統的黑匣子會涉及到專有部分的問題。黑匣子需要對所有內部感知數據和決策進行非常詳細的記錄。
但一般來說，黑匣子只有在事故發生時才可用。因此，大多數航空黑匣子都設計成只能在發生事故時被拆解和分析。在自動駕駛系統中也需要黑匣子，以記錄感知和決策的細節。
但是，對黑匣子的訪問應該受到限制，一般不能提供給公眾，以確保專有演算法不會披露給公眾，除非自動駕駛專有演算法造成了事故。所以證明車輛運行安全的黑匣子數據應該被調查機關認定為專有數據。
3. 開放協議可以使企業在維持專有技術的同時實現對外交互
從知識產權的角度來分析，企業希望其研究人員開發出一種具有競爭優勢的工具，希望其銷售的汽車更加安全和高效。企業需要保持競爭優勢，但是車輛需要與其他與之競爭的企業的車輛和公共設施通信。
開放模式意味著企業將把技術奉獻給社會公眾，並放棄專利權。所以在保持競爭優勢和促進協調之間找到一種平衡，是一個重要的問題。
有一個更好的方法可以讓企業保持一些專有的技術而不用將之共享出去，那就是公共協議。在公共技術和專有技術之間的協調是複雜的。比如自動駕駛汽車進行協調的好處之一在於，在未來，我們可以利用基礎設施根據公共利益準則來管制道路阻塞、分配高速公路通道。
舉個例子，如果我們像俄羅斯那樣有一個交通繁忙時期，而且我們有一個專門的自動駕駛汽車通道，那麼我們有幾種方法來對通道的開放進行調節。
一個是類似於實時搜索廣告系統的拍賣系統。因此，在這種情況下，車輛會互相競爭，看誰願意支付更高的收費，或者根據貨物的價值或者乘客的重要性來決定對車輛的授權，這樣車輛的專有方面可能就不那麼重要了。重要的是，投標協議與基礎設施是一致的。這樣所有的車輛就都可以進行投標。
然而，還有另一種方式進行調節。比如可以根據耗油率或車內乘客的數量進行來對道路的開放進行管控。
所以我們有一些數據必須從車內傳達給基礎設施。同樣，數據必須從一個專有的組件中傳遞。如果你的汽車的耗油率非常有優勢，為了將這些數據傳送給公共通信系統，就必須訪問汽車中的專有部分。
所以需要一個交互系統，使得數據安全地從內部系統傳送到外部系統以實現協調。所以在保持專有性的同時實現車輛協同的好處是一個關鍵的問題。
4. 自動駕駛技術的知識產權布局
企業對自動駕駛汽車的知識產權布局目前還不是很多，但這一點很重要。通過知識產權布局，可以深入了解競爭對手所擁有的專利組合。但是企業不僅需要關注中國企業的專利布局，也要追蹤美歐等國家的模式，因為國外也在對此進行研究。
目前最重要的數據就是公開的專利申請，因為這些信息在研究的早期就可以獲得。專利的授權則需要更長的時間以及具有滯後性。這一點，中國同樣具有優勢。
在中國，實用新型不需要經過專利局的實質審查，因此授權更加快速和容易，可以幫助企業強化知識產權。而且，實用新型專利同樣可轉換為發明專利。當然，這些只是一些基礎性的研究。專利池可能是另一種值得研究的類型。
此外，企業可以追蹤個人發明者，以及他們如何在公司內部研發團隊中流動；同時，如果看到發明者的組合時，則可能表明兩個具有不同專業能力的團隊被分配到一起工作。
所以如果人工智慧團隊正在與定位小組合作時，則表明他們正在嘗試將複雜的地理位置融入人工智慧系統。從熱點地圖（hot map）中，可以了解到每個發明家的積極性。在研究模式矩陣中，有許多分解數據的方法。
另外，企業可以對競爭對手申請專利的區域進行追蹤，如果企業開始在不同的國家申請一項專利，這可能意味著他們覺得這項研究更有價值。
以上是專利分析團隊需要做的事情。
當企業以一種複雜的方式來進行專利布局的時候，可以構建一個專利藍圖。企業可以創建一個很大的資料庫，以顯示所有的自動駕駛類別的專利。這可以讓企業清楚地看到其研究的重點，以及與其他公司相比，其專利布局的優勢和漏洞在哪裡。
在現在的研發階段，這些漏洞的影響不大。但是當自動駕駛汽車的商業化成為現實時，則可能會引發訴訟。因此，專利藍圖可以讓企業了解其在那些方面可能受到攻擊，並開發出一種專利戰略來解決這個問題。
一種常見的戰略是，如果在專利藍圖中發現空白，可以追蹤那些普經失敗的初創公司，他們在經營過程中有著大量的專利，此時企業可以制定一個收購戰略來收購那些失敗公司的專利組合，以填補自己公司專利藍圖中的空白。
這將對以後很有幫助，而且此時專利的銷售價值與他們的研發價值相比也可能會便宜得多。有時候發現一個有價值的團隊，而不是僅僅發現專利，企業可以買下這個團隊，將他們加入到企業的研發團隊中。
3
自動駕駛技術的三代問題：
技術發展對就業的影響
1. 技術發展在短期內會產生替代效應，但從長期來看還是會促進就業
中國的經濟增長和就業機會的創造在過去二三十年一直非常強勁。但在西方國家，經濟增長和就業增長都比較緩慢，自動駕駛技術對勞動和就業的影響將是一個非常重要的問題。
因此現在有一些研究試圖評估人工智慧的總體效果以及機器人和自動駕駛汽車對發展比較成熟的西方國家就業的影響。
當自動駕駛汽車商業化的時候，可能會遇到些阻力，或者在勞動和就業領域受到公共政策上的關注。傳統上在一個中等增長的經濟中，新技術總是會產生替代效應，造成大量的人失業。
所以，人工智慧對人類的取代從短期來看，會引起一些公共政策的抵制。但是從長遠來看，由於經濟增長總是會促進就業，所以人們總會找到工作。
在一項在2005年開始的對於工廠機器人的研究中，可以看到，經濟增長總是會創造就業機會。但是，在短期內，會產生一種替代效應，工作技能水平會降低。簡單來說，自動駕駛系統取代卡車司機，那麼他們最終可能會去加油站、汽車零部件銷售店或者咖啡店工作。
但是，這並不意味著企業不能推出新技術，但是從社會影響的角度來看，企業需要理解會產生這樣的反應。企業並不需要改變正在做的事情，它只需要對此做更多的準備。
2. 需要向人們解釋技術發展帶來的積極影響
對企業來說，自動駕駛技術必須面對第三代社會影響。解決這一問題的典型方法是企業可以贊助一些就業替代方面的研究，試著在成本和收益之間找到一種平衡。
人們需要了解科技發展帶來的積極方面。比如自動駕駛技術在帶來客車司機失業的同時也會使很多中等收入的員工住得離矽谷、谷歌等更近，因為通勤範圍會增加。人們可以去到一些更遠的地方工作，或者在上下班的路上工作，但是可以在離工作地點比較遠的地方購買房屋。
人們往往更容易感受到技術發展帶來的損失，但對於帶來的好處卻不太能想像得到，這與事故問題是一樣的。因此，需要對其進行解釋。對此一個很好的例子就是商業航空行業。
現在商業航空已經比開車安全多了，但是如果往前回顧四五十年，就會有許多人擔心飛機失事。對此，這個行業做得很好，首先，他們提升了安全性；其次，他們很好地向人們做出了解釋。所以現在看來航空是一項新的技術而且會使人們害怕似乎是很久之前的事了。
將來人們對白動駕駛技術的看法也會發生變化，但是現在還在發展的早期，所以企業需要對人們的心理變化保持敏感。
4
自動駕駛技術面臨的倫理問題：
「電車難題」是有解的嗎？
電車難題有很多種版本，但其最基本的假設是，有一輛有軌電車在軌道上行駛，前方軌道有分叉，兩邊的軌道上都有人。你控制著電車的開關，此時你需要選擇電車該駛向哪條軌道。
對於電車難題，已經有很多著作進行研究，但對其解決方法尚未達成共識。功利主義者可能會認為應該保全收入能力高的人而去殺死其他的人，而康德主義者則可能會認為只要你拉動了開關，就已經是錯誤的了，正確的方法是不要觸碰開關，也即人類介入而導致死亡是錯誤的。
從一些調查數據來看，一個有趣的現象是，在電車難題的調查結果中，顯現出一些文化上的差異。所以基於一些文化價值可能做出一種選擇，而基於其他文化價值則可能做出另一種選擇。
比如，有一些文化更加偏向於功利主義，而一些則更加傾向於康德主義。所以對這個問題並沒有一個世界公認的答案。對電車難題達成的共識會因文化而不同，有時候甚至在不同的年齡和教育水平的群體之間也會產生差別。
此外，還有一種解決方案，那就是在自動駕駛汽車中設置一個旋轉目錄，當汽車駛來的時候，由它隨機選擇一個方案，但這種方案同樣也會引發爭議。
因此，對於自動駕駛汽車來說，電車難題將是會一直有爭議的，因為必須做出明確的選擇並將之編成代碼。所以在這個問題上，自動駕駛技術總是會受到批評，因為工程師們在將道德準則寫入代碼中。
對於安全設計的權衡，有許多的研究。比如出於保險精算的目的，對人類生命是怎樣進行衡量的？這些數據可以提供參考。
在系統設計上，對於這種成本效益的分析有一些共識。但即便如此，還是有一些哲學家會認為對生命進行估值的做法是錯誤的。所以只要做出了選擇，就總是會受到批評。
所以自動駕駛系統的設計者們不可能在這個問題上獲勝。因此，可以換一個角度來解決這個問題。如果你設計了一種系統，不要說你不可避免地選擇撞到兩個人當中的一個人，而是描述為設計一種能夠計算不殺死任何人的可能性的系統。
所以即使你知道在一些情況下會導致死亡，也不要將演算法描述為選擇在兩個人中選擇殺死一個人，而將其描述為選擇一種不會造成任何死亡的最佳做法。這種做法可能不會那麼具有爭議。但是，如果將這個問題交由哲學家來討論的話，可能是永遠得不到答案的。
TAG:騰訊研究院 |