許可：演算法的規制

許可

對外經濟貿易大學數字經濟與法律創新研究中心執行主任

討論演算法問題，必須要首先明確：何為演算法？

在我看來，演算法是一系列用於描述一個問題解決方案的步驟，它是與具體實現相互獨立的抽象計算步驟。

這與之前所言的「代碼」形成了鮮明的對比。

簡單地說，代碼是數學的，演算法是工程學的；代碼是具體的，演算法是抽象的；代碼是確定的，演算法是不確定的。

因此，如果代碼就是法律，挑戰的是法律的權威地位的話，那麼演算法挑戰的是立法者的權威定位。因為在很多情況下，演算法（尤其是深度學習演算法）超出了人的預設、理解和決定。

對演算法的規制沒有一個統一的模式，我們必須從場景出發，case by case的處理。我大致將演算法問題分為三個前後相繼的場景。

首先是根據演算法提供個性化的產品、服務或信息，比如今日頭條的推送；

其次是根據演算法對產品、服務或信息進行個性化定價；

最後，根據演算法對個人進行評價並作出自動化決策。、

第一個場景涉及演算法的自主性問題，即究竟是誰在選擇？是人，還是機器？第二個場景涉及演算法透明性問題，即個人應當知道我被算計了。第三個場景涉及演算法公平問題，即是否存在歧視和不公平對待。

三個不同的場景面對三種不同的問題。

那麼有沒有一個基本共同的解決思路？我的不成熟想法是：一方面要控制輸入。

我們都知道演算法是要靠數據餵養，我們可以在在輸入端上控制，以解決演算法公平問題。例如，GDPR明確規定個人特殊信息不能作為自動化決策的輸入內容。

另一方面要是控制輸出。

因為黑箱的存在，很難按照民法中的過錯原則去判斷演算法的過錯，可以回到之前通過對code writer的規制方式，即向演算法的提供者施加嚴格責任，即過錯推定。為了防止責任過重阻礙創新，可以通過法定賠償限額、保險市場來進行責任分擔。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！