教育改革報告推廣AI倫理惹爭議 被揭含虛假來源疑涉AI濫用
生成式人工智能（Generative AI）因經常產生看似可信但實為虛假的引文而聲名狼藉——這個問題在學術和法律領域屢見不鮮。像ChatGPT、Gemini和Claude背後的語言模型能生成合乎邏輯的文本，但其中可能包含捏造的參考資料。這些錯誤輕易通過審核，令外界對AI輔助文件的可靠性感到憂慮。
一份旨在指導加拿大紐芬蘭與拉布拉多省未來十年教育改革的報告，近日因被發現至少有15個虛假引文而遭到質疑，外界更懷疑是否涉及人工智能的介入。加拿大廣播公司（CBC）報道，這份418頁的文件於8月28日由紀念大學教育學院的聯合主席Anne Burke和Karen Goodnough，以及教育部長Bernard Davis共同發佈，內容提出110項行動建議，旨在改善該省的公立學校及高等教育機構。不過，仔細審視其引用資料後，卻發現多處令人不安的矛盾。
舉例而言，報告中引用了一部標為2008年國家電影局製作的名為《Schoolyard Games》的電影，但該片實際並不存在。國家電影局發言人證實，從未有人製作過這部電影。該虛假引文與維多利亞大學風格指引中的示範條目一模一樣，原本是用來示範書目格式範例，但不知何故被誤植為真實來源。
曾仔細研究該報告的教育專家擔心，這些虛假來源不只是普通人為錯誤，有人猜測報告可能是由AI生成。紀念大學助理教授Aaron Tucker專門研究加拿大AI歷史，他向CBC表示，自己在紀念大學圖書館、訂閱資料庫甚至Google上都找不到報告中引用的許多來源。
「是否來自AI，我不確定，但捏造來源是人工智能的典型特徵。」他說。
政治學教授Sarah Martin同樣花了數天時間審查報告後得出相似結論。
「對於那些我找不到的參考文獻，我無法想像有其他合理解釋。」她補充，報告用來制定教育政策，卻充斥不存在的引用，令人尤其擔憂。
紀念大學教授兼前教職員會主席Josh Lepawsky去年一月已因抗議報告製作過程「深具缺陷」而辭去諮詢委員會職務。
他對CBC表示：「錯誤可以理解，但捏造引用完全是另一回事，這等於徹底摧毀了材料的可信度。」
報告聯合主席自被質疑以來拒絕接受採訪。Goodnough在電郵中回覆CBC稱，工作人員正調查這些引用，暫時不能多作評論。教育部長Davis亦拒絕接受採訪。
教育及幼兒發展部發言人Lynn Robinson表示，部門已知悉引用問題，正進行審查，並計劃在未來幾天內更新網上報告，以修正錯誤。
報告中有一項建議尤為引人關注：建議省政府確保教育者和學生掌握基礎AI技能，包括倫理、數據私隱及負責任使用技術。學者指出，若AI在此背景被誤用，將侵蝕信任，損害本應引領教育改革的進程。
—
評論與觀點：AI倫理教育報告自毀信譽 反映出AI監管與應用的雙重挑戰
這件事暴露了當前AI技術的兩大矛盾：一方面，我們亟需推動AI教育，讓未來一代懂得如何負責任地使用AI；另一方面，AI本身在產出內容時仍存在嚴重的虛假信息問題，甚至可能被用於製造帶有誤導性的政策文件。這不但削弱了公眾對教育改革的信心，也反映出監管和審查機制的不足。
令人諷刺的是，這份報告正是要推動AI倫理教育，卻疑似在編寫過程中誤用或依賴AI生成內容，導致虛假引用的大量出現。這種「言行不一」的狀況，無疑讓人質疑相關負責人對AI技術的理解和監控能力。
從更宏觀角度看，這起事件提醒我們，AI技術雖強大，但在重要政策文件和學術研究中，仍須保持嚴格的人工審核和倫理標準。否則，技術的便利反而可能成為誤導和信任危機的根源。
未來，政府和學術機構應該加強對AI內容生成的透明度和責任追究，並建立更完善的驗證機制，確保AI輔助的決策過程可靠且可追溯。只有這樣，才能真正實現AI技術與倫理教育的雙贏，為社會帶來正面影響。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
