學校利用人工智能監控學生 私人對話誤判笑話釀拘捕事件
Lesley Mathis的13歲女兒因在網上與同學聊天時開了一個冒犯性笑話，結果被學校的監控軟件誤判為威脅，最終在田納西州被捕。當天早上，她的朋友們曾取笑她膚色較深，稱她為「墨西哥人」（實際上她並非墨西哥人），當有同學問她周四計劃時，她回覆：「周四我們殺光所有墨西哥人」。雖然Mathis媽媽認為這些言論「錯誤」和「愚蠢」，但從語境來看並非真正威脅。她感嘆，這種冷冰冰的科技監控只會挑出隨機詞語，完全無視對話背景，令她懷疑現今美國的社會狀況。
美國多個學區採用如Gaggle和Lightspeed Alert等監控軟件，利用人工智能實時監控學生在校內電子郵件和設備上的言論，旨在及早發現自傷或暴力傾向，並通知校方及執法機關。教育界認為這技術挽救了生命，但批評者擔心它會將學生因言語不慎而刑事化。民主與科技中心主任Elizabeth Laird指出，這種監控系統使執法機構無所不在，甚至延伸到學生家中。
美國部分州份因應校園槍擊事件頻發，制定更嚴厲的零容忍法律。例如田納西州2023年通過法律，要求任何針對學校的暴力威脅必須立即報警。該13歲女生因在Fairview中學的學校郵箱聊天功能發言被Gaggle系統檢測到，隨後被拘捕並接受審訊和搜身，父母亦被拒絕當天探視。法院判處她八周軟禁、心理評估及20日替代學校學習。Gaggle執行長Jeff Patterson表示，學校誤用軟件，原意是預警介入，而非直接走法律程序。
不少學生誤以為私人聊天不受監控，實則被AI監察。佛羅里達州一名學生曾在Snapchat私密故事中開玩笑提及校園槍擊，該平台自動檢測後報告聯邦調查局，學生隨即被校方拘捕。16歲Alexa Manganiotis分享，校內Lightspeed Alert系統曾偵測兩名學生在校電腦上打出威脅老師的字句，並迅速介入處理。她指出，青少年因言論面臨的後果遠比成年人嚴重，成年人即使發表種族歧視言論，刪除後通常不會被捕。
Lightspeed Systems的Amy Bennett強調，軟件幫助人手不足的學校主動識別欺凌、自殘、暴力或虐待的早期徵兆，減少事後懲罰。但在佛羅里達波爾克縣，Gaggle系統四年內發出近500次警報，導致72宗強制精神健康檢查，許多學生回憶過程創傷深刻。南方貧困法律中心律師Sam Boyd批評，這並非真正幫助學生的心理健康。
監控軟件的誤報率極高，數據多由公司保密，學校未必公開。堪薩斯州勞倫斯學區10個月內接獲超過1200宗Gaggle警報，但近六成被認定為無害，包括200多宗學生作業誤報。學生曾因被誤判照片含裸露部分而被召見校長，後來因照片已自動刪除且學生備有備份證明無問題，學區調整了軟件設置以減少誤報。2024年畢業的Natasha Torkzaban曾被標記為編輯朋友含「心理健康」字眼的文章，現與同校學生聯名控告學區侵犯憲法權利。
學校官員承認Gaggle監控存在問題，但強調該技術曾成功偵測多宗自殺及暴力即時威脅。教育局成員Anne Costello表示，有時必須為了更大利益作出取捨。事件發生兩年後，Mathis表示女兒情況有所好轉，但仍害怕遇到當年拘捕她的警官。她感慨，老師們在替代學校展現同理心，讓學生自由表達情緒，這是少有的亮點。她說：「我們好像只想孩子們變成小士兵，但他們只是普通人。」
—
評論與啟示
這篇報道揭示了人工智能監控技術在校園中的兩面性：一方面，它的確提升了對潛在自傷或暴力行為的預警能力，有助保障學生安全；但另一方面，過度依賴機器判斷而忽略語境，導致無辜學生被誤捕、甚至承受心理創傷，令人深思。
隨着AI技術滲透校園管理，教育機構和開發商必須正視誤報率和監控侵犯隱私的問題。監控系統不應成為校方和執法機關「零容忍」政策的工具，而應融入人性化、教育性介入，避免將青少年推向刑事化的邊緣。此外，家長和學生對監控範圍及其後果的認知普遍不足，亟需加強透明度和溝通。
香港及其他地區在引進類似技術時，可借鑒美國經驗，制定明確規範，確保監控既有效又不失公平，並設立申訴和審核機制。否則，AI監控可能淪為「數碼獵巫」，對學生的心理健康和自由言論權造成長遠傷害。未來教育監管應將科技與人文關懷結合，切勿單靠冷冰冰的算法判斷，真正做到「守護」而非「監控」。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
