推薦演算法有倫理責任嗎？
今天這個題目似乎相當標題黨。
在報紙作為主要信息傳播模式的時代，信息傳播是中心化的，大眾能看到什麼信息，取決於媒體的編輯。而在智能手機普及的今天，大眾獲得信息的來源已經從報紙，電視轉移到了手機上。
在移動互聯網的時代中，大眾獲得信息的方式，主要是通過新聞資訊類的應用軟體。
目前市場上一些知名的應用軟體，比如今日頭條，一點諮詢，UC等，出於用戶習慣，大部分用戶也只會裝一個此類軟體。
2017年12月用戶安裝新聞類應用數量分布
為了提升用戶粘性，打開頻次以及每天的使用時長，實際上所有的應用軟體都會使用個性化演算法來為用戶推薦資訊。
以目前佔有率最好的今日頭條來說，平均的使用時長已經達到了1.5小時，加上頭條系的其他應用，基本佔用了一個人的幾乎全部休閑時間。
當用戶開始使用的時候，應用軟體會採集用戶的各種信息，比如點擊的新聞類型，瀏覽的時長，甚至是在某一個廣告圖片上停留的時間等各種數據。
通過這些信息，就能知道用戶喜歡什麼信息，也就能更好的給用戶推薦用戶「感興趣」的信息。這類技術細節其實已經很成熟，各家都有自己的團隊在做相應的研究。
那麼問題就來了：
只推薦感興趣的信息符合倫理嗎？
如果用戶將自己的時間和閱讀渠道都全部交給了一個應用，那麼這個應用應當負責一些信息傳播的倫理責任嗎？
向壞的方向想，如果用戶持續的在閱讀一些導向性很強的文章，比如「讀書無用論」，「各種偏方秘方」，此時的推薦演算法實際上會給用戶推薦更多這樣的內容，從而將用戶代入一個更偏執的信息環境中。
普通的閱讀與推薦演算法下的信息獲取
這是很可怕的，用戶會認為自己身邊的人都和自己一樣，認為「讀書無用」，甚至會產生一些反社會的想法。
在正常的環境中，用戶會接觸到一些其他的信息來源，通過信息的比對，可以建立一個相對立體全面的認知。但在推薦演算法的情景下，用戶只能獲得更多，甚至更強烈的同質化信息，這會加劇用戶認知的片面程度。
為了解決這個問題，不少應用程序也給出了自己的一些解決方案，比如調整推薦的評估指標，將新鮮度加入到推薦的目標中。
樸素評估目標和加入新鮮度的評估目標
這樣可以有效的增加用戶的關注點，變相的降低了信息環境的偏執程度。但如圖中所示，用戶依舊很難看到與自己感興趣的信息相悖的信息，而只是更多感興趣的點而已。
當然更有效的措施，就是過濾與審核（畢竟有知名演算法大廠招了2000個人員來審核內容的傳奇事迹在）。
過濾審核是信息傳播中遇到的老問題了，一旦通過過濾，可以極大程度的減少一些負面信息（這些信息是一些有社會共識的負面信息，比如邪教之類的）。
但誰來控制這個尺度，誰來控制那些信息應當被審核呢？亦或者說，是否有人能通過推薦演算法決定大眾應當獲取到什麼信息？
拋棄掉上面這個不能問的問題，回到推薦演算法的本質上。
我們還是在已有信息的基礎上，找出了用戶「可能」喜歡的信息。這個過程無論如何都會造成信息量的大量衰減，在這個過程中，用戶獲得信息量的範圍註定是會壓縮的。
這樣的技術在一些其他的領域，比如知識圖譜，信息檢索方面可以顯著的提高人獲得有效信息的速度。
但在新聞資訊這個方向，應用這類技術一定會遇到這個信息傳播中的倫理問題。
畢竟推薦演算法並不能像圖像演算法中的一些插幀技術或者圖像補全技術，來「製造」一些新的信息出來，補全原來信息中的不足。
畢竟我們不能閱讀一些「機器製造」出來的信息，對吧？
不，沒準我們只是沒有感知出來而已。
TAG:無聊小賣鋪 |