小心!別讓AI演算法偷偷養育你的孩子
AI(人工智慧)的演算法萬能,但你知道嗎? AI正在悄悄的代替老師或家長教育我們的下一代!
透過機器學習等技術,演算法可以分析網路上、或是孩子過去使用的狀況,自動推薦個人化的名單。例如,建議閱讀或購買的書、在線學習軟體的下一堂課、下一個題目、要買什麼文具或禮物、下一部影片、吃喝玩樂該選什麼……
看起來很輕鬆、精準、省事,不用在茫茫網海中自己挑選。但就像計算機處理的諺語「輸入沒用的東西,就產生沒用的結果」(garbage in, garbage out),演算法還有「輸入偏誤的資料,就產生偏誤的結果」(bias in, bias out)的問題,可能演算基礎根本是錯的,反而用人工智慧把孩子導錯了方向。
隨著資料分析與科技運用愈來愈普遍,我們很多日常的決定都被演算法制約了,孩子也一樣。英國倫敦大學學院(University College of London)的研究員、庫瑟克瓦(Natalia Kucirkova)博士就在歐盟的科技與教育單位《DigiLitEY》出版的報告中,提出4個迷思,提醒大家。
1. 資料庫的資料有限,且易以偏概全
很多人以為,用人工智慧運算,可以找到更合適的素材,增進學習的效果。但事實是,資料庫的資料其實常常很有限,甚至只是根據幾千個人的狀況、或是孩子過去的學習,就要推論到所有人、決定孩子接下來應該學什麼,很可能以偏概全,其實可能還不如根據老師和家長對孩子的了解,為他們選擇。
2. 演算法根據過去的選擇推出建議,不能引導未來走向
有些在線學習網站或軟體主張,可以根據孩子的學習與答題狀況,找到由簡而難、循序漸進的學習。這在孩子學到特別簡單、或特別難的程度時,可能很有幫助。不過,這仍然要仰賴足夠的資料庫,才能精準的判斷,找到適合孩子的素材。庫瑟克瓦強調,演算法是在因應孩子過去的選擇而跟著產出建議,並不是指導孩子未來往哪裡走的專家。
3. 演算法常被廣告、營銷所用
演算法常被用在廣告、營銷商品,所以太依賴這些推薦,很可能只是被引導到付費的廠商。如果人們擔心,AI會不會控制了人的選擇,更精確的說,在這種情況下,是AI背後的公司控制了人的選擇。
4. 演算法不會保護孩子隱私
孩子在有這些演算法的網站時,也要注意他們的安全。例如,演算法可能沒有考慮孩子的年齡,而推播了不適合他們的內容。即使有些標榜專為兒童設計的網站,也很難有人敢打包票可以精準的過濾內容,更何況網路上的創作百花齊放,還有人刻意散播假消息、有害的內容。
如果要輸入孩子的很多個人信息,以便讓演算更精準,也要多留意在使用網站、學習軟體時,孩子的個資等隱私有沒有被保護。
庫瑟克瓦提醒,回歸教養的本質,應該鼓勵孩子廣泛探索,更要嘗試沒有接觸過、原來不一定喜歡的事物。但是演算法用孩子過去的經驗、或是別人的習慣,限制了孩子的視野,甚至也把他們鎖在同溫層,小小年紀就以井窺天。
老師跟家長還是要讓孩子多讀、多學、多想不一樣的東西,別被機器控制了學習的胃口與未來。