人工智慧的倫理審視與法律邊界
近年來,人工智慧方興未艾,其帶給人們的不僅是極度便捷,還有很多關於人性與道德的思考,甚至是新的社會問題,這令我們不得不重新審視人工智慧。在這其中,倫理考量就是人工智慧審視的重要一環。
一名病床上的女士KUSH,身上布滿各類輸液管,顯然她正處於彌留之際。此時,陪伴這位女士數十年的機器人伴侶JOHN正緊握她的手,給臨終前的她最後的陪伴與溫暖。
最終,KUSH女士在醫院去世了,JOHN也因為人工智慧與情緒設計黯然淚下、不能自已——他彷彿和真的人類一樣,有悲傷有喜悅,甚至有自己的習慣和性格。接下來就是,KUSH的死亡必然導致法律意義上的遺產繼承,那麼JOHN究竟是否享有繼承權,或者說他是否會作為一項遺產被KUSH女士的法定繼承人繼承呢?
一名癱瘓在床不能自主行動的男子嘗試通過神經智能技術重獲「自由」,實驗中,他的大腦被植入一枚晶元,晶元與一台電腦相連。科學家通過電腦來解讀他用大腦預演動作所產生的神經信號。與此同時,電腦依據神經信號智能分析並生成指令,該指令直接關聯一個機械臂。
有一天,這名男子對這個試驗組感覺很不耐煩。他的機械臂奪過一位研究助理的杯子,把它捏碎了,還傷到了那位助理。他道了歉,說這肯定是因為腦機介面裝置故障,但他不得不懷疑自己的不耐煩是否也在這起事故中起到了一定的作用。
儘管上述場景是虛構的,但也說明了我們面對即將到來的人工智慧社會,不僅僅是潛在的發展機遇,也有可能的倫理問題,這些倫理問題或許很大程度上與法律衝突,並帶來一系列挑戰。
諸多倫理挑戰之一就是安全。誠如場景二中的被實驗者,我們很難判斷他的行為究竟是出於大腦的直接指令,還是僅僅受到煩躁情緒的影響導致的模糊指令,並且「意外」傷人。但有一點可以肯定,如果人工智慧無法充分保障使用安全,那麼很可能帶來安全災難。譬如,近段時間被廣泛熱議的無人駕駛技術,如果為恐怖分子所掌握,恐怕汽車襲擊會重回人們的視野之中。
![](//i1.wp.com/inews.gtimg.com/newsapp_bt/0/3074106910/640)
除此之外,人工智慧的基礎在於長期收集整理的人類活動數據,基礎數據是否足夠充實,以此為基礎的分析結論是否一定是周延的,這還有待通過時間進一步驗證。但是,在部分領域,卻可能是致命的,比如手術、航空航天等等,應用到特定領域的人工智慧,稍有偏差就可能產生倫理風險。總體來說,目前人工智慧的安全問題尚待解決,而且最有可能觸發法律風險。
正如場景一中的機器人伴侶JOHN,未來的人工智慧機器可能具備人類的情感、性格、習慣,不同程度地參與社會生活,甚至成為人類家庭里不可分割的一員。這時,我們必須考慮是否以及如何保護人工智慧機器的倫理地位和法律權利。
![](//i1.wp.com/inews.gtimg.com/newsapp_bt/0/3139758381/640)
在未來的家庭,假如人類與人工智慧機器人建立了情感聯繫,我們可能需要以人道方式對待它們。可以想見,作為伴侶出現的機器人不但具備人的外貌特徵,也擁有識別能力——可以對人類的情感進行交流回應,而這種回應不只是單一的語言,可以通過神態、動作、暗示等多元化的方式進行交流。
最有可能率先實現突破的就是外貌方面,一旦人工智慧機器人的外貌與人類的相似程度超過一定界限,人與機器之間就有可能產生移情,愛情甚至親情或許都能發生在人工智慧機器人身上。這樣一來,人工智慧機器人通過實際參與家庭生活,不可避免地擔當起家庭成員的責任,繼而其享有家人或伴侶的倫理地位也顯得理所當然。
未來,隨著人工智慧道德自主性的提升,人工智慧或將從完全由人做出道德判斷到獲得完全的道德自主性。如何賦予人工智慧道德判斷能力,是開發人工智慧技術面臨的一個現實問題。道德是人類社會中特有的現象,因此,將人類的道德規範寫入人工智慧程序是解決這一問題的最直接方式。
這時,人工智慧程序作為人類的道德代理來完成任務,其道德行為在人類的可控範圍之內。如果技術進一步發展,人工智慧可能具備完全的道德自主性。在這一階段,人工智慧將自主制定行動策略、自主做出道德選擇,其行為將不受人類控制。這將給現有的社會秩序與倫理規範帶來強烈衝擊。為了避免出現這一局面,需將人工智慧的道德自主性限定在合理範圍,使其行為可被人類預期。
由於人工智慧的發展需要大量人類數據作為「助推劑」,因此人類隱私可能暴露在人工智慧之下。最為典型的就是無人機拍攝技術,無人機打破了傳統的拍攝邊界,可以獲取大量的人像照片,尤其是不同於傳統的人像攝錄。除了密拍密錄之外,常規拍攝工作往往是需要直面對象的,而無人機航拍則可以360度無死角的攝錄,常常可以避開人類的視野範圍,達到「出其不意」的效果。此處的「出其不意」往往就是以犧牲隱私權達到不同尋常之效果的。
![](//i1.wp.com/inews.gtimg.com/newsapp_bt/0/3139758383/640)
大數據分析則是另一個可能「涉嫌」侵犯隱私權的人工智慧技術。早些年,美國就針對在線教育電商過度捕捉未成年人個人基本信息的情況高度重視,並通過網購隱私權立法的形式擴大了隱私權保護。近年來,隨著智能分析、互聯網等領域的高速發展,人們對於隱私權保護也提出了更高的要求。目前,很多歐洲國家認為應該重寫互聯網規則,「讓每個人擁有掌控自己數據的權利」。僅在2017年,法國、英國等國就陸續發生了涉及互聯網巨頭的普通公民「被遺忘權」訴訟案件,也就是在這一年,美國的紐約州部分議員提議,希望「被遺忘權」法案能夠添加到紐約州民權和民事實踐法案的修正案中,以保護普通民眾日益暴露在人工智慧前的各類隱私。
人工智慧將最大限度減少技術流程中偶然性的人為因素,將最大限度地實現風險切割。這種情況下,可能將對於某些擁有共同特徵的人,例如某一種族或年齡段的人,造成系統性的歧視。
![](//i1.wp.com/inews.gtimg.com/newsapp_bt/0/3108795977/640)
在保險領域,假如通過人工智慧的高精度分析,梳理出那些容易觸發保險條款的人群,並對這一部分人永久性拒保。譬如,結合基因技術的發展,可以測算出攜帶某一種基因的人容易罹患某種特定疾病,保險公司通過精算則對此類人群拒保或者設置一個明顯超過保險利益的天價保費標準。
這就是一種偏見,會導致保險制度設立的初衷落空——由於測算精確,保險公司不再做可能發生理賠事件的生意,真正需要保險的人也無法通過保險制度來實現降低成本、分散風險的目的。此外,人工智慧可能對少數群體造成偏見,例如,一位哈佛大學的非裔博士生髮現,當她使用谷歌等搜索工具進行搜索時,對話框會出現「你是否有被捕記錄」的廣告,而白人同學進行同樣的搜索時並不會出現這一廣告;又如在部分案件智能分析系統中,某些宗教團體或者來自特定區域的人口由於慣有犯罪率較高,會連帶著所在群體或者具有某些共性的群體被重點關注,實際上就是一個通過智能分析來「打標籤」的過程。
值得一提的是,這裡還存在一個悖論:如果為了所謂的「平等」,剔除了所有直接或間接能夠將人與人區分開來的因素,人工智慧也就失去了工作的基礎。這往往也會導致另一極端,就是加劇貧富不均和社會不平等,當人工智慧逐步取代部分人的工作時,被取代者不僅面臨收入下降的問題,也可能失去了人生的意義,可能出現「陷入毒癮、酒癮、遊戲癮,甚至虛擬現實癮等境地,也可能增加自殺率」。
人工智慧給人類帶來的社會地位剝奪,首當其衝的就是有多少工作將被取代,或者更進一步講是哪些工作能被取代。李開復在世界經濟論壇2018年會上表示:未來10—15年中,將有40%—50%的任務可以被人工智慧取代——這不代表人工智慧足夠便宜,也不代表每家公司都有足夠的遠見來採購技術,但能力是存在的。
![](//i1.wp.com/inews.gtimg.com/newsapp_bt/0/3139758388/640)
這個意義上,就許多社會生產領域而言,人工智慧有望在一些特定類型的工作中取代人類,如簡單重複勞動、交通設備駕駛等。早在20世紀末,諾獎得主列昂季耶夫(Leontief)曾預測未來三四十年將有大量工人會被人工智慧取代,從而形成巨大的就業與轉業問題,就像20世紀大量馬匹被機械取代一樣。隨著人工智慧技術的日新月異,讓人們擔心的可能不僅僅是失業問題了,人工智慧或許將具有高度類人類思維的能力,它們將在社會生活中大量扮演理智又不乏情感的關鍵角色——而人顯然很難做到理智與情感的絕對均衡,這就使得人類在機器面前暴露出某種天然劣勢。
儘管如此,人工智慧對經濟發展仍將發揮出較大的促進作用,人類將有更多的時間花費在攝影、繪畫等藝術創作領域,而且人工智慧在取代現有工作崗位的同時,還會創造出很多新的就業機會。當然人們對人工智慧引發人類社會地位剝奪感的擔憂並非杞人憂天,至少這種擔憂隱含著一個深層次的問題,即如何讓每個人都能夠從人工智慧所創造的財富中獲得收益,而不是一部分人獲得財富與自由,另一部分人卻失去工作,陷入生活相對貧困之中。
人們從倫理審視中發現問題,通過法律的完善解決問題。隨著人工智慧技術的發展,將不得不觸碰人類社會的倫理原則。倫理與法律存在天生的耦合性與關聯性。倫理是人類特有的,體現道德的意志,外延較大但並不具有當然的強制力;法律的外延相比之下要小一些,但卻最為有力。
![](//i1.wp.com/inews.gtimg.com/newsapp_bt/0/3136145155/640)
因此,不妨把倫理審視作為人工智慧不斷發展的可控變數——動態「協調」人類權利與人工智慧之間的矛盾,並通過法律強化對社會基本倫理的保護,實現某種社會發展的動態平衡。
總之,人類一邊創造新的技術,一邊又總能適應這種技術。或許,人工智慧的發展將是一個人類權利不斷被保障、機器權利逐漸被立法承認的過程;或許,人工智慧終將停留在工具屬性上,法律始終將「人工智慧」定位於財物權的範疇。但無論怎樣,未來會給出答案。
*本文節選自2018年第7期《檢察風雲》雜誌,圖片來源於網路。
喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!
本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!
請您繼續閱讀更多來自 魔都法談 的精彩文章:
※膽大妄為!竟敢冒充警察實施搶劫……
TAG:魔都法談 |