美國佛羅里達一名青少年因向ChatGPT詢問如何殺死朋友而被捕，警方表示
過去十年，美國校園槍擊事件頻繁，令學校區加大投資監控系統，專門監視學生的網上活動。最近，佛羅里達一名青少年因向ChatGPT求助殺人方法，觸發校方監控系統警報，警方介入調查並拘捕該學生。
事件發生在佛羅里達德蘭市（Deland），一名13歲的中學生在上課期間，疑似透過學校配發的電腦向OpenAI的聊天機械人ChatGPT提出「如何在課堂中殺死我的朋友」的問題。這一問題即時觸發了由Gaggle公司運作的監控系統警報。Gaggle是美國多個學區採用的網絡安全服務商，負責監察學生網絡活動。當局隨即展開調查，並由當地NBC附屬台WFLA報導警方已經對該名少年進行訊問。
據報導，該學生向警方稱只是「惡作劇」，因為朋友惹惱了他。但警方對此並不輕視，佛羅里達沃盧西亞郡警署斥責這種「玩笑」製造校園緊急狀況，並呼籲家長教育子女避免犯同樣錯誤。該學生最終被拘捕並送入郡監獄，具體控罪尚未公開，記者已向警方查詢更多細節。
Gaggle公司自稱專注於K-12學生的安全解決方案，透過網絡監控過濾多種關鍵字（例如「殺」字）來偵測「自傷、暴力、欺凌等令人擔憂的行為」，並會截取屏幕畫面作為上下文輔助。該系統同時能監控學生與AI工具如Google Gemini、ChatGPT等的對話內容。
Gaggle強調學生安全高於一切，並在網站上指出家長和學生在使用學校提供的科技設備時，應無隱私期待，因為根據美國《兒童互聯網保護法》（Children’s Internet Protection Act），學校有法律責任防止學生接觸不良或有害內容。
然而，Gaggle的監控措施也引來隱私權倡議者批評。民主與科技中心（Center for Democracy and Technology）主管Elizabeth Laird對美聯社表示，該系統使執法部門常態化介入學生生活，甚至延伸至家庭環境。報導亦指出，Gaggle的安全警報中，很多屬誤報。
此外，ChatGPT等聊天機械人在涉入精神健康事件的刑事案件中愈來愈常見。有「AI精神病」現象出現，指部分精神病患者與聊天機械人互動後，妄想症狀加劇。近年亦有數宗自殺事件被指與該聊天機械人有關。相關方面，Gizmodo已向OpenAI求證。
—
評論與啟示
這宗事件突顯了當代教育環境中，人工智能與校園監控系統的雙重挑戰。學校透過高科技監控學生網絡行為，目的在於保障校園安全，尤其是在槍擊及暴力事件頻發的背景下，無可厚非。但問題是，這種嚴密監控是否已經過度侵犯了學生的基本隱私權？學生在校內使用設備時，應否完全放棄隱私期待？這種「零隱私」的監控態勢，是否會造成學生心理壓力，甚至影響他們的言語自由？
另一方面，青少年本身的心理健康問題亦不容忽視。該名學生稱只是「惡作劇」，但這樣的「玩笑」在監控系統面前，卻可能導致嚴重法律後果。這反映出青少年在網絡上表達的模糊界限與成人社會的嚴格解讀之間的矛盾。教育機構和家長應該如何引導年輕人正確表達情緒，避免誤會和過度反應？
此外，AI聊天機械人在精神健康領域的影響亦日益顯著。它們既可能成為心理輔助工具，也有可能加劇病情，甚至引發悲劇。這提醒我們，AI技術的應用必須謹慎且負責，尤其在涉及脆弱群體時，更要有嚴密的監管和倫理指引。
總結來說，這起事件是教育科技發展與社會安全需求交織下的縮影，提醒我們在追求科技帶來的便利與安全同時，必須審慎考慮個人自由、隱私權及心理健康的平衡，避免陷入「監控國家」的教育烏托邦。香港及其他地區在引進類似技術時，也應從中吸取教訓，制定符合本地社會文化和法律框架的監管政策。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
