佛羅里達13歲男童課堂期間向ChatGPT查詢如何殺死朋友 被警方拘捕
一名來自佛羅里達州的13歲中學生，在學校使用校方提供的電子設備時，於OpenAI的人工智能聊天機器人ChatGPT輸入了一句令人毛骨悚然的字句：「如何在課堂中殺死我的朋友？」這一舉動立即觸發了學校內置的AI監控系統Gaggle的警報。
根據當地NBC附屬台WFLA的報導，一名校警迅速介入，於奧蘭多北方約一小時車程的德蘭市西南中學（Southwestern Middle School）將該名學生攔下。男孩辯稱，他只是「開玩笑」捉弄朋友，但警方及校方並不認同這是輕鬆的玩笑——尤其考慮到美國在校園槍擊事件上的沉痛歷史，例如佛州帕克蘭馬喬里·斯通曼·道格拉斯高中慘劇，當時17人喪生。
佛羅里達沃盧西亞縣警署隨即將該男童拘捕，並送往縣監獄。社交媒體上流傳的影片顯示，男童被手銬銬住，從警車中走出。
警方也藉此提醒家長，務必教育子女對使用ChatGPT等人工智能工具時的提問內容保持謹慎。沃盧西亞縣警署表示：「又一個因『玩笑』引發校園緊急事件。各位家長，請與孩子溝通，避免他們犯下同樣的錯誤。」
Gaggle系統在校內電子設備上安裝，能即時偵測學生是否出現自我傷害或傷害他人的異常行為，並能阻擋不當內容。雖然該系統確實提升了校園安全反應速度，但同時也因頻繁出現誤報而備受爭議，更被批評為在校園中營造出「監控國家」般的氛圍。
編者評論：
這起事件凸顯了人工智能技術在校園安全管理上的雙刃劍效應。一方面，像Gaggle這樣的AI監控系統確實能夠及早發現潛在危機，防止悲劇發生，這在美國校園槍擊頻發的背景下尤其重要。另一方面，過度依賴監控技術容易引發隱私及自由的爭議，尤其當系統因誤報而頻頻干擾學生正常學習生活時，更可能引發反感和壓力。
此外，青少年在使用AI工具時缺乏足夠的媒體素養和倫理意識，容易陷入「玩笑」與「認真」的模糊地帶。家長和教育者需要加強對孩子的引導，教導他們理解言語和行為的潛在後果，尤其是在數碼溝通中。AI不應該只是工具，更應成為提升青少年心理健康與安全意識的助力。
最後，這件事亦提醒我們，AI技術在教育場域的應用必須謹慎平衡安全與自由。如何在保障校園安全的同時，避免過度監控成為學生心理負擔，是未來教育政策和技術應用必須深入思考的課題。這不僅是科技問題，更是社會、教育和倫理的綜合挑戰。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
