切爾西·曼寧：軟體開發者也應當擁有一套道德準則

擁有告密者、活動家、參議員候選人多重身份的切爾西·曼寧日前在SXSW上就未經核查的數據收集和對演算法錯位信任的危險性展開討論。「我在伊拉克參與開發的演算法已經找到了它們進入監管的方法，還有大公司的運作方式，無論是你的信用報告還是廣告數據。」

資料圖

在與《Vogue》Sally Singer的對話中，曼寧談到了自己十年前在軍隊的預測分析工作以及對現代程序員已經接近AI的擔憂。她表示，雖然開發更好、更精確的演算法這個初衷很好，但當它們被加上人類的偏見之後一切就將發生變味。

曼寧認為應當建立一套規範軟體開發者的道德框架，「我們這些技術人員、開發人員，特別是在開發會影響到上千萬人系統的我們--好吧，我想我是在說Twitter的演算法、Google的演算法以及預測警務--我們需要知道我們正在做什麼。就像醫生有道德規範一樣，軟體開發人員也應該有它的道德規範。」

曼寧指出，問題的部分原因在於收集了大量日後可以再度被利用的數據。「我對安全級別有著偏執。我建議人們最多的就是：對你放出的信息要有自我意識。」這包括技術上的自願，像允許手機應用程序進行位置追蹤、很難保持私密的數據以及被賣給廣告商的購物記錄等等。

與此同時，她對人們缺乏行動感到不安。曼寧指出，雖然人們知道政府的監控項目已經有四五年的時間，但他們卻未曾採取實質行動而總是盼望著其他人來做點什麼。

儘管曼寧自稱信息偏執狂，但她在Twitter卻保持著活躍的公眾形象，不過按照她自己的說法，她只在「安全的筆記本」使用Twitter。

而科技屆對AI表示擔憂的絕非只有曼寧一人，像特斯拉CEO馬斯克就曾多次公開表達了對AI的態度，日前他又在SXSW上重申了「AI遠比核武器危險」的觀點。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！