用人臉識別軟體來判斷罪犯，是不是太不靠譜了？

你的臉會告訴別人什麼信息呢？人臉識別技術可以識別出你的年齡、性別以及情緒。現在，有兩名科學家稱你的臉甚至還可以告訴人們你有沒有犯罪。他們聲稱已經開發出一種系統，這種系統可以從幾千張從未見過的人臉中識別出誰是罪犯。

但另一些研究人員對該系統的功能進行了批判，他們認為這可能會使人臉識別技術在應用過程中產生道德問題。

研究的參與者，來自加拿大哈密爾頓麥克馬斯特大學的Xiaolin Wu說道，這個問題過於主觀了，他和他的同事，來自中國上海交通大學的Xi Zhang已經準備開始反駁那些反對者的觀點。Wu說：「我們對這個結果感到很吃驚。」

研究人員充分開發機器的學習能力，要求面部識別軟體判斷身份信息系統中的照片的主人是否是罪犯，最後得到一個正確的反饋。機器在這個過程中將學會如何分辨，要求最終結果的準確率到達90%。

然而其他的面部識別專家對他們的開發方法提出了質疑。其中有一個問題：罪犯的圖像來自於中國身份證照片的資料庫，而無犯罪人員的照片則來自於中國公民在網路上發布的照片，這就意味著這套系統識別的是照片的不同來源而不是人臉。

Wu和Zhang試圖將照片標準化，例如調整它們的大小和亮度。但來自麻省理工學院的Jonathan Frankle認為這還不夠，他說：「圖片來源不同是這套系統的根本缺陷。」

來自谷歌的研究人員Francois Chollet稱，這個問題不足以引起爭議，但整個程序需要好好的開發。他說：「這不是道德問題影響技術的辯題。」

來自英國法爾茅斯大學的Mike Cook說，這種研究似乎讓機器學習變成「21世紀骨相學」——通過人的頭骨推斷出一個人的特徵。看似公正的計算機程序給出了不準確或者有爭議的結果。

相同的偏差
事實上，這些系統都不客觀，往往和人類一樣帶有偏見。Cook說：「它們是用我們相信的結果而製造出來的工具。」

這並不是說電腦無法準確完成人臉識別，它們有時完成的比人類還出色。人臉識別軟體已經可以輕鬆的識別出人鼻子的形狀並且判斷出他是否在笑。來自紐約羅切斯特大學的研究人員稱，他們已經開發出一種演算法能夠識別出中國人臉、韓國人臉和日本人臉，準確率達到75%。

聽起來似乎挺科學，但應用在實際情況中時常常會出現道德問題。識別出人的種族，這雖然可以有其他更好的用處，但可能被用來進行人種歧視。

去年微軟開發了一款軟體，通過照片來判斷人的年齡。他們本來的目的是想開發出一款有趣的應用，但之後一些英國報紙試圖用這款軟體將本該給予兒童的優惠給了成年人，這迫使微軟不得不做出解釋：這款軟體無法對年齡做出準確的評估。

在遇到比鼻子形狀和年齡更加複雜和抽象的問題時，了解技術的極限便成了十分重要的事。來自普林斯頓大學的Alexander Todorov說，你無法從一個人的照片中了解他的個性和行為習慣，但卻超級容易看出一個人因為缺乏睡眠蒼白的臉色和下垂的眼袋，他說這可以用來防止人們在從事一些需要注意力高度集中的任務例如操作危險的機器，但用它來推測人的外貌和個性，這是錯誤的。

研究人員常常無法控制他們的研究成果如何被人們使用。像Wu和Zhang一樣將自己的成果公開後這就意味著任何人都可以檢測它的正確性。Frankle說：「讓我感到更可怕的事情是，如果一家私人公司開發出了這樣一套系統，並將它賣給了警察局，那麼誰也不知道將會發生什麼。」

今年早些時候，Frankle和他的同事發現，美國警察部門使用的面部識別軟體的準確率還算高。但隨著隨著該技術的使用範圍更加廣泛，權衡其是否符合道德規範就更加緊迫了。

Chollet說，計算機科學在人們的生活在扮演著越來越重要的角色，但卻沒有相應的道德標準來規範它，這是我們必須要解決的事。

[island via newscientist]