人工智慧的立法考量

資料圖。

對於人工智慧立法，張平認為基本的考慮還是要對人工智慧技術進行一些限制，要慎重運用，歐美等發達國家早就提出過人工智慧的倫理公約，這是共識

法治周末記者 陳霄

關於人工智慧的立法，在AlphaGo(阿爾法狗)完勝世界頂級圍棋手李世石之前，似乎還是一個遙不可及的話題，儘管在最受互聯網企業和汽車廠商關注的無人駕駛領域，同樣的話題早已炙手可熱。

8月27日上午，在北京召開的世界機器人大會上，針對人工智慧法律與政策的專題研討再次成為主題，然而，這仍是未決的議題。

無論是在那些積極開拓並布局的新興產業，還是在那些看似消極被動的傳統領域，已經全面進軍的人工智慧都很難被忽視。與此密切相關的問題擺在了面前：立法將如何去考量這一新興事物？

中國科技法學會人工智慧法專委會主任張平教授認為，對於不同階段的人工智慧，應該有不同的立法考量，儘管政策上鼓勵，法律上也應慎重，當前尤其要關注到人工智慧發展下的個人信息保護問題。

產業需求

人工智慧的產業話題，目前最受關注的是無人駕駛。

最近的一起進入公眾視野的事件恰好也與法律相關。在上個月百度召開AI(人工智慧——記者注)大會時，百度CEO李彥宏乘坐無人駕駛汽車經五環抵達現場，隨後百度公司被北京交警部門約談。

百度專利事務部總經理秦健在人工智慧法律與政策論壇上也提到，目前歐美日等發達國家紛紛在政策立法上對無人駕駛進行布局，中國要實現無人駕駛上路，同樣需要克服一系列的制度障礙。

例如，由工信系統主管的硬體、軟體、信息、安全、數據等相關標準的出台，由公安系統主管的安全檢測、駕駛資質等的完善，由交通運輸系統主管的載客載貨場景的完成，等等。

曾在奧迪中國合規部深度介入自動駕駛研究的北京律師何姍姍當天也提到自動駕駛目前在中國實現的障礙，包括涉及多個部門的協調、無測試方面的法律、與部分現行法律相衝突和無安全標準等。

實際上，在2016年全國兩會上，同為全國政協委員的李彥宏和吉利集團董事長李書福都提出了加快自動駕駛、無人駕駛法律法規建設的提案。

為多家科技公司擔任法律顧問的北京律師王新銳，在論壇上提到了在金融和醫療行業人工智慧產品可能涉及的法律風險。雖然目前人工智慧技術或產品本身並無行政許可和准入限制，但應用到具體行業時，則有可能涉及資質或牌照取得的問題。

王新銳以目前最受熱議的「智能投顧」(即機器人理財)舉例說，國內的這類平台開展業務實際上會涉及投資諮詢和資產管理兩大方向，前者按規定需取得證監會頒發的證券投資諮詢從業資格證，後者則需要根據產品類型取得相關許可，否則可能陷入刑事法律風險，但目前實踐中出現了打著智能投顧幌子行非法薦股和無牌照代銷的現象。

「如何建立一個既能鼓勵人工智慧技術發展，又能合理分配風險的監管制度，是個值得探討的問題。」王新銳說。

職業危機

在一年多前美國多倫多大學發明的ROSS機器人脫穎而出，被一家全球十大律師事務收購之後，對於人工智慧或將取代法律人的擔憂明顯增加了。

2015年，美國斯坦福大學在校大學生Joshua Browder創建了世界上第一個機器人律師DoNotPay(不花錢)，發布的這兩年來幫助人們處理了大約37.5萬起停車罰單上訴案件。

「人工智慧的發展意味著未來有相當多的律師，特別是初級律師會失去工作。」華東政法大學政治學研究院院長高奇琦在當天的論壇上說。

受到影響的當然不僅僅是律師，不少觀點認為，甚至法官也是可以被人工智慧取代的。

西北大學法學院講師黃菁茹就認為，隨著不斷細化的分析維度和不斷增加的司法裁判樣本，公正是可以被量化的，未來機器人法官將成就真正的判例法。

當然，上述觀點長期以來一直是存有爭議的，即便在當天的研討會上，關於人工智慧的終極發展預估，對峙也是鮮明的。但目前比較一致的看法是，人工智慧肯定會削減一定數量的司法從業人員，但在這一領域機器完全替代人類還為時尚早。

因此，對於這方面的立法考量則沒有細緻的規則設計，而更多的是對一種未來趨勢的擔憂。

上海大學法學院講師岳林認為，未來真正有效的司法知識，會被隱藏到人工智慧的演算法「黑箱」中去，僅僅被少部分掌握人工智慧控制權的當權者掌握。「因此，由誰來設計司法人工智慧，以及如何來使用、控制和改造機器人法官，也就成了更為根本的問題。」

高奇琦也提到，應當警惕人工智慧演算法的獨裁和偏誤，由於演算法要依賴於編程人員的判斷與選擇，受限於他們的知識結構，規則的數字化和代碼化可能導致不透明、不準確和不公平。

因此，很多學者、甚至是對人工智慧非常樂觀的學者也同意，人工智慧只作為判斷的輔助，判斷的權力始終把握在人類手中。

法律挑戰

「對於人工智慧的立法，到底是應該鼓勵還是控制？」張平教授提出了關鍵之問。

在她看來，在人工智慧的不同階段，立法考量也不同。過去所有的技術進步，法律都持鼓勵態度，但到生物技術之後這種考量就不一樣了，包括後來的大數據開發應用，政策上當然是鼓勵的，但法律上還是慎重的，再到現在的人工智慧，則應比生物技術、大數據應用更為謹慎。

很多與會者都提到了人工智慧時代個人信息的保護問題。

王新銳分享了Facebook當年的案例。

2011年，Facebook因人臉識別和標記功能未按地方法律要求告知用戶被訴，隨後又因採集面部特徵前未能明確提醒並徵求用戶同意而受到德國和愛爾蘭相關部門的調查。

儘管Facebook辯稱默認開啟這一功能是因為用戶通常不會拒絕人臉識別並且用戶有權隨時取消，但仍被德國當局認定其違反了數據保護法。

最終，Facebook被迫在歐洲地區關閉了人臉識別功能，並刪除了針對歐洲用戶建立的人臉資料庫。

張平將個人信息的保護視為人工智慧面臨的兩大突出問題之一。她認為，在人工智慧時代，人身權不受侵害、敏感信息無害傳播是個人隱私保護的最低原則，未來個人信息的收集是無法避免的，但一定要堅守這一底線。

王新銳給客戶的建議通常是，人工智慧開發者在收集、使用數據的過程中，還要遵守安全保障原則，採取適當的、與個人信息遭受損害的可能性和嚴重性相適應的管理措施和技術手段，保護個人信息安全，防止未經授權的檢索、披露及丟失、泄露、損毀和篡改個人信息。

張平同時呼籲，人工智慧時代應重視未成年人保護。她提到了美國的「橡皮擦法案」，即2015年在美國加州開始實施的該項法令規定，針對未成年人在社交網站上公布的內容，包括圖片、消息或博文，如果未成年人要求刪除，則社交網站應當刪除指定信息，而且社交網站負有向未成年人提示此項權利的義務。該法旨在避免未成年人因其年少無知的行為而對未來的工作生活帶來不利影響。

當然，隨著對人工智慧發展的預期，許多人也提到了將來可能出現的電子人格對現行民法提出的挑戰：現在已經廣泛出現的如人工智慧大量產生自己的作品，誰才是作品的權利人？未來機器人應該享有哪些權利？

高奇琦認為，基於便利性的考慮，未來機器人應該會被賦予某種電子人格，這就會在權利的法典上增添一種新的各類。

張平將此提煉為這一新興領域的基本問題：人工智慧，到底是主體還是客體？

總體上，對於人工智慧立法，張平認為基本的考慮還是要對人工智慧技術進行一些限制，要慎重運用，歐美等發達國家早就提出過人工智慧的倫理公約，這是共識。

責任編輯：高恆濤

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！