AI 聊天機器人能緩解高中輔導員短缺，但對學生是否有害？
面對輔導員短缺，加州學校正向更多學生提供 AI 聊天機器人，並為他們提供大學和職業選擇的建議。
在疫情期間，灣區的資深大學與職業輔導員 Jon Siapno 開始開發一款可以回答高中生有關未來教育選擇的聊天機器人。他當時使用 IBM 的問答系統——ChatGPT 的前身 Watson，但隨著生成式人工智能的出現，他知道這將是一個重大變革。
“我以為我們可能需要兩年的時間來建立問題和答案，”Siapno 說。“那時候你必須預先編寫所有內容。”
這款基於 AI 的聊天機器人，經過關於大學和職業的資訊訓練，旨在模仿人類的語言，讓位於里士滿的 Making Waves Academy 特許學校的學生可以隨時發送信息給 AI Copilot，討論他們的未來。這樣的設計使學生在與像 Siapno 這樣的輔導員進行更具針對性的對話之前，可以先解決一些基本問題。
根據最新的聯邦數據，在 2021-22 學年，幾乎四分之一的美國學校沒有一位輔導員。加州的高中情況稍好，但當 ChatGPT 在次年推出時，該州的學生與輔導員比例仍然為 464:1，與美國學校輔導協會建議的 250:1 相差甚遠。
Siapno 並不是唯一看到生成式 AI 在輔導方面潛力的人。在過去兩年中，許多旨在幫助人們導航其大學和職業選擇的機器人應運而生，這些機器人通常有著聽起來像人的名字，如 Ava、Kelly、Oli、Ethan 和 Coco。目前尚不清楚加州有多少所高中告訴學生使用這些工具，但生成式 AI 的潛力以及年輕人在個人生活中轉向聊天機器人的規模，讓一些人開始感到擔憂。
克萊頓·克里斯滕森研究所的教育主任 Julia Freeland Fisher 最近對讓學生與基於 AI 的大學和職業輔導員建立關係的後果發出了警告。
“看這些機器人似乎很誘人，”Freeland Fisher 說。“‘它們不會威脅到真正的關係。’‘這只是一次性聊天。’但我們從社會學中知道，這些一次性聊天實際上是很大的機會。”
社會學家提到的「社會資本」是指人與人之間的聯繫，這些聯繫促進了他們的成功。在這些聯繫中，我們有「強聯繫」，例如親密朋友、家人和同事，他們提供日常支持；還有「弱聯繫」，即我們不那麼經常見面的熟人。長期以來，人們認為弱聯繫不那麼重要，但斯坦福大學社會學家馬克·格拉諾維特於 1973 年撰寫的「弱聯繫的力量」一文，以及隨後的大量研究，證實了這些較遠熟人的重要性，無論是在求職還是情感支持方面。
隨著加州考慮對年輕人的 AI 伴侶進行監管，政策制定者、科技公司和學校必須考慮到，快速增長的 AI 驅動的大學和職業指導市場可能無意中成為新問題的根源。
“我們正在創造一支自助機器人隊伍，幫助學生在學校和職場上前進，”Freeland Fisher 說，“但這些機器人可能會侵蝕幫助學生建立網絡的機會，這些網絡最終幫助他們進入這些工作。”
「口袋裡的導師」
Making Waves Academy 確保所有畢業生都符合加州四年制公立大學的最低入學要求。九成的畢業生會選擇繼續高等教育，在此期間，Making Waves 教育基金會的工作人員提供一對一的輔導、獎學金、預算規劃和職業規劃，以幫助他們按時畢業，並不背負債務地獲得工作邀約。
Making Waves 的 CEO Patrick O’Donnell 表示，鑑於學校輔導員的稀缺，他的團隊多年来一直在思考如何擴大他們提供的支持。
“即使輔導員想確保他們支持學生探索大學和職業選擇，這幾乎是不可能做到的，並且提供真正個性化的指導，”O’Donnell 說。
Making Waves AI CoPilot 的早期使用者是 9 年級和 10 年級的學生，他們渴望獲取資訊，但被排除在專注於幫助高年級生計劃下一步的輔導會議之外。
CareerVillage 是另一個專注於擴大良好大學和職業建議的加州非營利組織。自 2011 年以來，CareerVillage.org 一直在聚合群眾來源的問題和專家回答，幫助人們導航通往良好職業的道路。
當 ChatGPT 問世時，聯合創始人兼執行董事 Jared Chung 立刻看到了潛力。到 2023 年夏季，他的團隊已經完成了 AI 職業教練的完整版本，這得益於 20 家其他非營利組織和教育機構的支持。現在，“教練”可以在線免費提供給個人，並且全國各地的高中和大學也開始將其嵌入到自己的輔導中。
在佛羅里達大學護理學院，一個更專業的版本“護理教練”為用戶提供全天候的職業探索支持。護理學院院長 Shakira Henderson 表示，這個教練是該學院其他職業輔導的“有價值補充”。
護理教練根據用戶的職業階段、興趣和目標個性化其對話和建議。它載有地理特定的當前勞動市場資訊，讓人們可以詢問特定工作在特定縣的收入情況。教練還可以幫助人們體驗模擬護理情境，並提供幫助用戶探索不同職業路徑的基於聊天的活動和測驗。
不過，Henderson 清楚地指出這個工具的局限性：“AI 無法完全取代人類導師和職業顧問提供的細緻、同理心的指導，”她說。人們可以評估一名有志護理人員的軟技能，幫助他們考慮最喜歡的醫院類型或最適合的工作環境。“與該學生合作的人類顧問將能識別並建立的聯繫遠超過 AI 工具，”她補充道。
當然，這需要學生有可用的人類顧問。支持全州導師計劃的非營利組織 MENTOR California 的執行董事 Marcus Strother 表示，教練比沒有任何支持要好得多。
“我們的大多數年輕人，特別是低收入地區的有色人種年輕人，”Strother 說，“他們沒有機會接觸到能夠給他們提供聯繫的人。”
相比之下，他表示，教練是“像口袋裡的導師”。
「監管沙漠」
上個月，加州州參議員 Steve Padilla（聖地亞哥民主黨）提出了一項立法，以保護兒童不受聊天機器人的影響。參議院法案 243 將限制公司設計鼓勵用戶更頻繁參與、回應更快或聊天更長時間的聊天機器人。這些設計元素利用心理技巧來讓用戶在平台上花費更多時間，研究表明這可能會造成上癮，讓人們無法參與其他健康活動，或導致他們對機器人形成不健康的情感依附。
某些應用的上癮性長期以來一直是對社交媒體的批評，尤其是在年輕人中。在 Freeland Fisher 的研究中，她引用了 CollegeVine 的聯合創始人 Vinay Bhaskara 的一段評論，該公司於 2023 年為高中生推出了一個名為 Ivy 的免費 AI 輔導員。
“我見過聊天記錄，學生說，‘Ivy，謝謝你。你就像我最好的朋友，’這既令人感到溫暖，但又有點可怕。這有點兩者兼具，”報告引用他所說的。
“我們正在創造一支自助機器人隊伍，幫助學生在學校和職場上前進，但這些機器人可能會侵蝕幫助學生建立網絡的機會，這些網絡最終幫助他們進入這些工作。”
當被電話聯繫時，Bhaskara 表示，他公司設計的工具旨在友好和對話，以便學生感到舒適。數百萬學生已在 CollegeVine 的網站上免費使用了這個聊天機器人，加州和全國超過 150 所大學已為自己的學生提供了這項技術。在看到有數百萬封電子郵件、簡訊和在線聊天在正常工作時間之外發生後，Bhaskara 現在認為學生從聊天機器人獲得的見解和支持超過了風險。
在宣布 Padilla 的法案時，他的辦公室提到了幾個案例，其中聊天機器人引導對其產生依賴的兒童做出危險行為。在最極端的情況下，一名佛羅里達青少年在與一個他產生浪漫情感的 Character.AI 聊天機器人互動後， reportedly encouraged him to “come home to me” 而自殺。Padilla 表示，他的法案不會阻止年輕人從聊天機器人獲得大學和職業建議的好處，而是提供合理的指導來解決嚴重需求。
“這是一片監管沙漠，”Padilla 說。“在這方面幾乎沒有真正的護欄。”
Freeland Fisher 表示，年輕人轉向的 AI 伴侶，無論是用於友誼還是浪漫關係，都比 AI 驅動的大學和職業顧問帶來更大的風險。但她表示，學校和科技開發者在尋求 AI 解決方案以應對輔導員短缺時仍需謹慎。
目前唯一的危險可能是取代與學校顧問的對話。然而，隨著更複雜的工具在追求填補更大需求的過程中，可能會最終取代與生活中其他成人的對話。
“這些其他支持在未來是重要的，”Freeland Fisher 說。當學生花更多時間與聊天機器人互動，實際上學會偏好與機器人的互動而非與人類的互動時，這會導致社會孤立，限制年輕人積累至關重要的社會資本。“這是我們在這項研究中試圖傳達的警告，”Freeland Fisher 說。“並不是說‘不要使用機器人。’而是要有更全面的視角，了解潛在的成本。”
就他們而言，Making Waves 和 CareerVillage 也在承擔聊天機器人所帶來的風險。Making Waves 實際上將在今年夏天停用 AI Copilot，因為該基金會正在轉變其使命，尋找使用科技幫助孩子建立社會資本的方法，而不僅僅是獲得有關大學和職業的問題的答案。CareerVillage 已經採取了一些保障措施，以應對 Padilla 的一些擔憂。
雖然教練告訴用戶，他們與聊天機器人的互動越多，推薦就會越個性化，但執行董事 Chung 表示，教練僅設計用於討論職業發展。“如果你試圖進行一場與此無關的長時間對話，教練將會拒絕，”Chung 說。他描述了一系列的護欄和安全過程，以確保用戶不會對聊天機器人產生情感依附。
“這是一項工作，”Chung 說，“但我誠實地告訴你，這並不是不可能的工作。”
這篇文章的報導還有數據記者 Erica Yee 的貢獻。
—
在這篇文章中，探討了 AI 聊天機器人在當前輔導員短缺的背景下對學生可能造成的影響。雖然這些工具能為學生提供即時的資訊和建議，卻也可能削弱他們與人類建立真實關係的機會。弱聯繫的重要性在於，它們能在職業生涯中提供意想不到的支持和機會。政策制定者和教育工作者必須謹慎考量 AI 對學生社交技能和心理健康的影響，以免在追求便利的同時忽視了人際關係的價值。
在未來，如何平衡 AI 技術與人類輔導的角色將是教育領域的一大挑戰。建立適當的監管框架，保障學生在使用這些科技時能得到必要的支持和引導，將是非常重要的。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
