追蹤自殺欺凌關鍵詞 美國學校開始用這個辦法監控學生一舉一動

這個月底，超過5000萬的美國K-12學生將重返校園，開啟新一季的學習。對大多數使用學校電腦的他們來說，他們在網上輸入的每一個單詞，都將被校方跟蹤記錄。（K-12是美國基礎教育的統稱，是指從幼兒園到12年級的教育。其中K代表的是幼兒園，12代表的是12年級，相當於中國高三。）

據美國財經網站Quartz報道，根據美國《兒童互聯網保護法》（簡稱CIPA），任何由聯邦供資的美國學校都被要求制定互聯網安全政策。而隨著學校發放的平板電腦及Chromebook筆記本電腦變得越來越普及，為保障學生的安全，學校必須安裝一定的技術保護裝置。

對部分學校來說，這很簡單，只需阻止學生訪問不合適的網站即可。然而，其他學校則因此求助於一些科技公司，將潛在的令人不安的交流信息，上報給校方管理人員。

美國媒體稱，K-12學校將使用AI監控學生網上一舉一動 圖據Quartz網站

美國一個學生一台電腦

意味著巨大的監控市場

據報道，這些安全管理平台（SMPs）使用人工智慧系統中的自然語言處理技術，掃描學校電腦中輸入的數百萬計的單詞。如果有一個單詞或短語和欺凌或自我傷害類行為相關，這些單詞或短語就會浮出表面，供專門的人工團隊複審。

在大規模槍擊案和學生自殺案件不斷增多的美國當下，SMPs在預防傷害事件發生上，的確起到了重要作用。每一家這樣的公司都有案例研究，證明攔截信息真正幫助拯救了人們的性命。但這類軟體同時也引發了道德上的擔憂，事關如何在保護學生安全和他們的隱私間做到平衡。

「對學生出自善意的監控會不斷上升標準，直到教室里達到某種監視狀態。」呼籲推動兒童互聯網安全教育的非盈利機構Common Sense Media總監吉拉德·凱利說道，「現在學校已經不僅僅是金屬探測器和攝像頭了，就連他們的學習目標和郵件，都要受到追蹤和監控。」

不論是保護學校，還是保護數據，這兩大主題都深深牽扯到美國人的神經，而關於SMPs的討論恰好建立在這兩大主題的交匯之處。

如今，美國越來越多的學校正在實現給每位學生分配屬於自己的一台電腦的目標，保護學生網上生活的需求只會與日俱增。據美國Freckle教育公司2017年的一份調查顯示，50%以上的教師稱，他們所在的學校已經實現一名學生一台電腦的配置，這意味著這裡面有巨大的市場。

據《華盛頓郵報》的統計數據顯示，70%的學校槍擊事件中，槍手的年齡都在18歲以下 圖據《華盛頓郵報》

AI技術掃描篩選關鍵辭彙

發現尋找可疑跡象

據悉，這些最受歡迎的SMPs工作原理大同小異，只有略微的差別。比如Gaggle，每位學生每年的收費大約為5美元，是一款安裝在類似Google Docs和Gmail上的過濾器。當Gaggle的智能演算法將一個短語或單詞浮出水面，比如像提到毒品或有網上欺凌跡象的辭彙等，這起「事件」會立即呈報至人工評審員那裡進行審核，隨後才會傳至學校。

Securly則超過了教室內教學用工具的範疇，可以讓學校對學生的公開社交媒體發文進行情緒分析。運用AI人工智慧技術，這一軟體能夠對學生成千上萬的網路發文以及狀態更新等內容進行處理，尋找可疑的傷害跡象。

凱利認為，這些安全管理平台可幫助正常化對低齡兒童的監控措施，教會學生保護自己網上數據安全的重要性。

斯坦福大學網路與社會中心主任達芙妮·凱勒則認為，「對於這類軟體該如何運作，應該有一整套分級標準。」她認為，「我們應該在保證安全和監視之間做出好的平衡，選擇介於兩者之間的某種方式，而非迫使孩子們在毫無控制的情況下暴露他們所有的數據。」

值得肯定的是，學校有義務和責任保護學生們的安全，但保護孩子們的個人隱私，同樣是他們安全的一部分。

Securly公司CEO維納伊（Vinay Mahadik）稱，「並非所有人都感到高興，因為我們談論的是如何監控孩子。但從整體來看，每個人都贊同必須想出一個辦法來保障學生們的安全。這正是我們所選擇走的道路。」

擔心出現「寒蟬效應」

最大的擔憂是犧牲學生個人隱私

凱勒對此表示批評，她認為網上監視可能會對學生們產生「寒蟬效應」。如果學生們知道他們被監視，他們可能會審查自己，不願說出心中所想。當然，這種情況只會發生在學生知道他們被監視了。

雖然大多數學校會要求家長簽署知情同意書，允許他們在教室里使用相關科技，但部分學校認為，如果學生對此不知情，他們就能得到一張更具代表性的學生行為全貌圖。換言之，部分學校根本不會讓學生知道他們被網上追蹤和監視了。

「對這類服務和平台的兜售者來說，家長的知情同意書，無異成為他們的免除牢獄之災卡。」為學校提供諮詢服務的技術總監比爾·費茨吉拉德說道，「只要家長在開學季的時候簽署同意書，第三方機構就可以運作了。」

SMPs賴以生存的市場，正是基於家長們和學校們的最大擔憂。Securly網站上指出，「只要能避免一起年輕人傷害自己或他人的事件，就值得上（該平台）數千倍的訂購價格。」

Gaggle公司對此做得更為深遠。它不僅能讓學校監控學生，同樣的軟體還可以用於監控老師。「想想此前發生在西維吉尼亞州的教師罷工事件吧，」一位網友在Gaggle公司的博客中暗示道，「如果校方領導要求按照『醫療保險』或『罷工』等字眼，在一個月前就在網上對此展開搜索，那麼事情是否會變得截然不同？」

避免負面輿論和阻止教師罷工，和保護學生安全毫無關係，但這條博客傳遞出來的信息是：Gaggle的客戶是校方管理人員，並非學生或老師。

而最大的擔憂，還是對學生的保護是以犧牲他們的隱私為代價，學生需要更為安全的網上空間去探索他們的認知。

紅星新聞記者丨王雅林 編譯報道

編輯丨平靜

對於此事，你怎麼看？

本文為紅星新聞（微信號：cdsbnc）原創

如果您發現本新聞有虛假不實等問題

歡迎向我們後台留言舉報

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！