如何為人工智慧立法？
如何為人工智慧立法？
文 | 鄭戈
（上海交通大學凱原法學院教授）
本文原載於《檢察風雲》2018年第7期（總第555期），2018年4月1日出版，第16-17頁。
人工智慧是一種正在給人類社會帶來全方位的深刻變革的技術，正像所有的技術一樣，它服務於特定的人類目的。但機器學習（尤其是無監督學習）結果的不可控性又使得人工智慧不同於以往的技術，其中蘊涵著更大的風險和不確定性。法律應當如何規制人工智慧，從而在鼓勵創新的同時保護人類社會的基本價值並將風險保持在可控範圍之內？這是一個已經引起廣泛討論和立法回應的問題。
必須指出的是，由於人工智慧是一種通用技術，可以應用到從農業、製造業到法律、醫療、金融服務業的各種人類活動場景之中，而它本身正處在高速發展階段，因此，制定一部總括性的「人工智慧法」在目前這個階段時機尚不成熟。實際上，是否有必要制定這樣一種法律也是一個問題。最接近於這樣一種一般性人工智慧法的立法嘗試是2016年歐洲議會向歐盟委員會提出的「機器人法」立法建議報告，但這份報告所建議的立法只針對有形的「智能機器」，包括機器人、智能家電和自動駕駛汽車等等。而對於人工智慧的「智能」所在，也就是演算法，其中並未提出相關的規則。其中所體現的思路與規制食品安全、環境和產品責任的既有思路並無二致。比如，首先是設立一個專門的規制機構，這份報告提議設立一個「歐洲機器人和人工智慧局」來統籌該領域的規則、標準制定和日常行政管理。
其次，鑒於人工智慧可能在無人監管的情況做出「決策「並自主執行這樣的」決策「，該報告在第50（f）項建議：「從長遠來看要創設機器人的特殊法律地位，以確保至少最複雜的自動化機器人可以被確認為享有電子人（electronic persons）的法律地位，有責任彌補自己所造成的任何損害，並且可能在機器人作出自主決策或以其他方式與第三人獨立交往的案件中適用電子人格（electronic personality）。」與此相類似，沙烏地阿拉伯在2017年授予一家香港公司生產的機器人索菲亞以公民身份並向「她」發放了護照。其中的作秀色彩多於實際意義。
實際上，在如何落實這種「法律人格」所必然帶來的民事行為能力和責任能力時，歐洲議會報告並沒有提出具體的方案。如果機器人對人造成了損害，無論是適用羅馬法中的「繳出賠償」（noxoe deditio）原則（即把機器人交給受害者或其家屬處置），還是讓機器人支付賠償金或坐牢，最終承擔責任的始終是機器人的「主人」，因為機器人不可能有獨立的收入，限制它的「自由」則等於剝奪了其「主人」的財產權。由此可見，機器人無論以何種方式承擔責任，最終的責任承擔者都是人，這使得它的「法律人格」顯得多餘和毫無必要。實際上，這份報告在具體的規則設計部分也自動放棄了適用機器人「法律人格」的努力，比如，它提議製造商為他們的機器人購買強制性保險。此外，還要設立專門的基金來補充保險機制，主要的出資人也是製造商、經銷商和其他利益相關者。這套保險機制的覆蓋範圍不僅是機器人，還包括機器管家、無人駕駛汽車和無人機等等。
更審慎、務實的立法嘗試是針對人工智慧的具體應用場景進行立法。目前，這樣的立法主要針對的是自動駕駛。2017年5月，德國聯邦議會和參議院通過了一部法案，對《道路交通法》進行了修改。它允許高度自動化和完全自動化的汽車作為交通工具上路。但為了符合1968年《維也納道路交通公約》第八條「每一部車輛在行駛時都必須有駕駛員在位」的規定，它沒有允許自動駕駛汽車變成「無人駕駛」汽車。它規定，當自動駕駛系統啟動之後，司機可以轉移注意力，比如去讀書或上網，但她必須保持足夠的警覺，以便在系統發出請求時恢復人工控制。它還要求高度或完全自動化汽車安裝紀錄駕駛過程的黑匣子，在沒有捲入交通事故的情況下，黑匣子信息必須保存半年。如果自動駕駛模式正在運行過程中發生了事故，責任在於汽車製造商。但如果自動駕駛系統已經發出了請求人工控制的信號，責任便轉移到了汽車上的駕駛人員身上。
德國的這部法律受到業界的猛烈批評。有人指出，在新法下，司機不知道該怎樣做才能避免法律責任，自動駕駛汽車無法實現真正的「無人駕駛」，也就是車上只有乘客而沒有駕駛員，阻礙了自動駕駛汽車的商業化發展。試想，如果一個花比傳統汽車貴的多的價錢購買了自動駕駛汽車，卻時刻必須保持警覺，而且要在自動駕駛系統控制汽車操作一段時間後瞬間介入，應付緊急情況，這實際上對駕駛員提出了更高的要求。新法把自動駕駛汽車造成人身傷亡的最高賠償額度提高到1000萬歐元，比原來的最高賠償額度增加了一倍。雖然這筆賠償在多數情況下將由保險公司支付，但保險公司無疑會提高保費，這也增加了自動駕駛汽車車主的負擔。此外，黑匣子信息保留半年的規定也增加了個人數據和隱私被濫用的風險，因為自動駕駛汽車上遍布的感測器和攝像頭會記錄下非常多的個人私密信息。
與德國立法模式相對照，2017年9月在美國眾議院通過的《自動駕駛法》（Self Drive Act）則採取了一種完全不同的思路。它沒有改變現有的道路交通規則和與事故責任相關的侵權法規則，而是用憲法和行政法的思維方式劃分了聯邦與各州之間在規制自動駕駛汽車方面的責任，明確了交通部在確立自動駕駛汽車硬體安全標準、網路安全標準、公眾知情標準等方面的具體義務和履行時間表。其中第12條強化了隱私權保護，要求製造商和經銷商只有在提出了滿足一系列具體要求的「隱私權保障計劃」的前提下才可以供應、銷售或進口自動駕駛汽車。這些要求旨在確保自動駕駛汽車的車主和使用者對自己的個人數據和隱私有充分的控制能力，不至於在自己不知情的情況下任由製造商或程序設計者使用自己的個人數據。
我國目前也正在進行自動駕駛車輛測試方面的管理規範。2017年9月，工業和信息化部開始就《智能網聯汽車公共道路適應性驗證管理規範（試行）》初稿組織業界和專家討論。2017年12月，北京市交通委、公安交管局和經濟信息化委三部門聯合發布了《北京市關於加快推進自動駕駛車輛道路測試有關工作的指導意見（試行）》和《北京市自動駕駛車輛道路測試管理實施細則（試行）》，設立了北京市自動駕駛測試的管理機構，即北京市自動駕駛測試管理聯席工作小組，明確了測試主體、測試車輛和測試駕駛員應當具備的條件，並且規定了測試申請程序和違規操作責任。
與此同時，在我國的許多地方，自動駕駛車輛正在無法可依的情況下上路，有時甚至是高調上路。比如，2017年12月2日，四輛裝備著華為開發的「阿爾法巴－智能駕駛公交系統」的無人駕駛公交車在深圳福田保稅區正式上路，這是世界首例在開放道路上行駛的無人駕駛公交車。這並不是深圳獨有的現象。由於業界普遍預測自動駕駛汽車是未來汽車業的總體趨勢，能夠帶來萬億級的利潤，所以一國之內各個地方之間以及各國之間有時會以寬鬆的法律環境（即允許自動駕駛汽車上路而又不去立法進行規制）來吸引相關投資或測試。比較明顯的例子包括美國的亞利桑那州和英國。2016年5月18日，英國女王伊麗莎白二世在英國議會年度開幕大典上發表演說：「議會將通過新的立法來提升英國的競爭力，使英國成為數字經濟時代的世界領導者。我的大臣們將確保英國在新式交通科技、包括自動駕駛汽車和電動汽車方面處在世界前沿。」在此之前，英國交通部研究了自動駕駛汽車在英國上路可能遇到的法律障礙，並在其報告《通往無人駕駛汽車之路》上宣稱：英國法律中不存在禁止自動駕駛汽車上路的因素；英國沒有簽署《維也納道路交通公約》，因此不存在直接讓自動化程度最高的無人駕駛汽車上路的法律障礙。
我國在人工智慧方面的總體政策在國務院於2017年7月發布的《新一代人工智慧發展規劃》中得到了系統表述。該文件一開始便強調製定規劃的目的在於「搶抓人工智慧發展的重大戰略機遇，構築我國人工智慧發展的先發優勢」，明確了發展為主、控制潛在風險為輔的戰略布局。在「分三步走」的循序漸進實現具體戰略目標的安排中，到2020年為止的第一步主要側重於理論和技術發展、確保人工智慧產業競爭力進入國際第一方陣和人才培養，而對人工智慧倫理規範和政策法規的要求只是在部分領域初步建立。在2021－2025年的第二階段，??智能法律法規、倫理規範和政策才將有體系化的建構，但這個體系也只是「初步建立」。在2026－2030年的第三階段，方才可能「建成更加完善的??智能法律法規、倫理規範和政策體系」。由此可見，在目前這個階段，我國不會針對人工智慧進行體系化的立法，試圖為技術發展留下足夠廣闊的想像力空間。只有在自動駕駛等技術發展已經相對成熟、產品亟待進入市場的應用領域，才會嘗試進行地方性、試驗性的立法。
微信編輯：美郡
TAG:規制與公法 |