中美對話：當課堂遇上AI面部識別，學生數據如何保護? | 矽谷最新

更多精彩，敬請關注矽谷洞察官方網站（http://www.svinsight.com）

矽谷洞察此前在《2018年AI+教育美國創投趨勢報告》中指出，面對著教育這個龐大的領域、市場，中國在教育創新和教育科技領域的投資總額約是美國的三倍。中國的教育市場體量也是巨大的，僅在線教育市場就高達2000億。

即使如此，美國作為世界一流強國，其持續不斷吸引著世界頂尖的人才，背後教育體系功不可沒。

因此，無論中美，在人工智慧時代，教育科技所面臨的三大核心問題需要所有關注教育行業的人思考：

1. 如何定義真正的AI+教育企業？
2. 人工智慧時代，教育領域將面臨什麼樣的倫理挑戰，我們該如何應對？
3. 中美兩國分別有哪些政策和努力來約束和推動教育科技市場的發展？

4月12日，在矽谷由 RoboTerra 與 WISE（世界教育創新峰會）聯合舉辦的 「人工智慧x教育：創造之旅」 峰會上，矽谷洞察合伙人兼研究主管倪松，與來自美國哥倫比亞大學、弗吉尼亞理工大學、乂學教育松鼠AI、芥末堆等學術界、科技教育界的專家代表們，一起就上述問題進行了深入討論。

小探帶你來看，現場專家們都引發了哪些激烈討論！

真正的AI+教育企業是什麼？

科技已經被廣泛應用到了教育領域。例如，學生們可以用手機照相，把作業拍下來，然後讓AI來回答。VR技術也已被運用在課堂教學上。學生可以在歷史課上重回古代羅馬的城市，這有助於吸引學生更投入的學習。

面部識別這樣的技術也已經被應用。比如通過學生憤怒、沉悶、無聊等表情，來衡量學生的壓力、心跳等多個指標。也可以加上一定時間序列的觀察，比如腦電波分析等，把腦電波跟背後的意圖相連。這些都可以說是AI具體的應用場景。

但是，隨著號稱AI+教育的公司越來越多，我們不可迴避一個問題：到底什麼才是真正的AI+教育企業？

人工智慧和認知科學背景的 KP Thai 博士表示，有沒有運用深度學習、機器學習演算法等，是作為判斷一個是否為經典 AI 企業的一些標準。如果運用到教育領域的話，則需要通過機器學習、數據等方式，去判斷學生的需求、對知識的理解程度，然後機器再基於此，給出學生明智的指導建議。也可以像通過 AI 演算法，給學生提供適當其個性的學習路徑等。

除了技術給學生提供幫助之外，矽谷洞察在《2018年AI+教育美國創投趨勢報告》中也指出，從服務對象來看，AI+教育的初創公司面向教師的比例也很高，比如矽谷一家初創公司Gradescope就使用AI技術幫助教師打分，為教師節省時間。

其次，AI+教育類的初創公司還包括像協助學校管理、為教育信息化企業提供AI模塊（toB類型）的公司等。

AI+教育時代：收集數據的倫理問題

教育的接受者，很多時候並非成年人。因此，這是否會使倫理問題對於教育科技行業來說更為關鍵。倪松提出，矽谷洞察非常關注這個議題， 因為孩童並沒有能力對於自己的哪些數據應該被搜集和分析做出決策，尤其是幼兒園、小學階段。那麼一旦這種情況出現時，誰來決定到底孩子的什麼數據被送給機器去分析呢？

首先，這個現象已經開始出現。正如芥末堆合伙人 Sophie Chen 所分享，如今在中國，已有遠程教學課堂應用面部識別技術，辨別哪些學生是快樂的，哪些學生是認真的、分心的等等。

（圖片來自杭州某學校的智慧課堂行為管理系統，可以識別學生的面部情緒）

而目前真正缺失的是，數據的獲取和運用沒有透明性，根本不知道身邊這些 AI 到底都在做什麼。KP Thai 博士認為，從長遠來看，這種現狀將是無法被公眾接受的，也將潛在製造很多問題。

IEEE 標準委員會副主席、弗吉尼亞理工大學公共行政與政策中心（CPAP）教授 Sara Jordan 博士也分享到，遠程教學也在香港大學、澳門、深圳等一些高校中加以運用。

（左二為Sara Jordan博士，Panel現場，圖自Angela Shen）

如果成人以某種方式在收集學生的數據，但學生們卻沒有辦法阻止，這便產生了倫理問題。如果真的要收集兒童數據，就應該關注這些數據是否對他們有一個長時間的影響，是否未來會影響他們做其他決定的能力。

誰來監管學生數據？中美都有待加強

既然存在透明度、數據現金化等可能存在並引發道德問題的現象，中美兩國政府在這一塊有什麼作為呢？

Sara Jordan 博士指出，遺憾的是，即使是美國，也沒有專門機構會對教育數據的收集進行監管，不像醫療數據的監管有 FDA（美國食品藥品監督管理局）這樣明確的監管機構來進行。

不過，矽谷洞察發現，儘管美國當前沒有專門的機構進行監管，但是從2013年起，美國39個州頒布了120多項法律，規範學校及其服務提供者如何收集、使用和保護學生數據。這些法律大多涵蓋小學、初中和高中學生信息的收集。其中也有 35 項法律規定了私立和公立高等教育機構如何使用學生數據。

（數據來自The Education Privacy Resource Center，版權屬於原作者）

在這些法律中，僅有4項法律禁止學院出售學生信息或向學生索取社交媒體帳戶信息。禁止出售，也就意味著學生的信息將無法被用來賺錢。矽谷所在的加州也是其中一個立法州。

加州在 2014 年通過的這條州法顯示，禁止 K-12 網站/應用程序供應商出於教育目的以外的任何目的使用、共享、披露或編譯學生信息並改進其服務；如果學校或學區要求他們不能出售信息的話，還必須刪除信息。這裡面對信息的定義，就包括生物信息（biometric information）。但此條法案僅針對 K-12 階段。學前階段，以及高等教育階段不涵蓋在內。

也就是說，美國現今的法律系統有開始圍繞學生數據方面進行立法保護，但是，監管機構的缺失問題依舊存在。Thai 博士認為，美國政府對 AI 的關注太少了，因為美國盛行的還是自由市場思維，對AI沒有足夠的注意力。

那麼在中國呢？中國在AI時代對學生數據的監管同樣有待提高。

今年1月2日，教育部官網公布《關於嚴禁有害APP進入中小學校園的通知》，學習類App中色情暴力、網路遊戲、商業廣告、抄作業、搞題海、公布成績排名等行為，遭到教育部嚴令禁止。學校與教育主管部門將建立「雙審查」的監督制度，進入中小學的教育類App必須受到嚴格審查。

但是，圍繞面部識別等搜集的學生數據可能存在的泄露和監管問題，當前最主要的還是《消費者權益保護法》、《未成年人保護法》以及《網路安全法》等通用型的法律在監管，並沒有專門法律。

曾在國內有著豐富田野調查經驗的哥倫比亞大學教師 Henan Cheng 博士認為，中國當前尚未形成足夠的公眾意識，即自己有權利來保護自己的數據的意識。Cheng 博士回憶，曾在調查時希望所有受訪者都要簽署同意書，享有知情權，但受訪者甚至不覺得需要簽署同意書。

「政府需要投入努力，讓公眾這樣意識到這樣的權利」，Cheng 博士表示。

回歸本源，Cheng 博士認為，教育者也需要思考，因為當教育者需要使用某些技術時，就應該思考為什麼要設計這個工具，到底真正想要學生從中學到什麼，避免設計出來的產品被用在錯誤的地方。

專家建議：關注教育內容進步而非技術

討論最後，倪松希望各位嘉賓預測一下，在這樣的技術背景下，五年後中國教育市場會發生何種變化，會取得何種進步。

（右一為矽谷洞察合伙人倪松發言，圖自矽谷洞察）

芥末堆合伙人 Sophie Chen 認為，過去五年一個明顯趨勢是：從線下變成線上。未來三五年的話，更多的學習行為會變成線上進行，那就意味著數據可以被收集，機器會做出更多有條理的分析，從而給出學生更多積極的建議。

KP Thai 博士則認為，如今教育科技在整個教育市場大概所佔比例是10%左右。預計五年內，會有更多針對學生個性化能力的指導、提升的工具。但她也一再強調，科技只是一個工具，無論 AI 多好，都要關注學習的內容，因為這才是教育的根本。因此 Thai 博士希望，會有更多關於教育內容本身方面 —— 比如教育方法 —— 的進步，而不僅僅是 AI 技術的進步。

更多精彩，敬請關注矽谷洞察官方網站（http://www.svinsight.com）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！