唔好完全信人工智能作重大決定,當佢係一個實習生咁用
全球法官而家面對一個愈來愈嚴重嘅問題:有啲法律文件係透過人工智能(AI)生成,但當中出現錯誤,例如引用咗根本不存在嘅案例,律師同法庭文件都指出咗呢啲問題。
呢個現象對於想喺工作上用AI嘅人嚟講係一個警示。好多僱主想搵識用AI幫手做研究、草擬報告嘅員工。教師、會計師、營銷人員等開始用AI聊天機械人同助手嚟激發創意、提升效率,但同時都發現呢啲程式會犯錯。
一位法國數據科學家兼律師Damien Charlotin,喺過去六個月內已經收集到至少490宗法庭文件出現「幻覺」嘅例子,即係AI生成嘅回應中包含錯誤或誤導性資料。隨住使用AI嘅人愈來愈多,呢個問題加劇。
「就算係比較專業嘅用家都會遇到呢啲問題,」Charlotin話,「AI係好幫手,好神奇,但同時都有陷阱。」
Charlotin係法國巴黎近郊HEC商學院嘅高級研究員,佢建立咗一個數據庫,追蹤法官判決中涉及AI生成嘅虛構案例法同錯誤引用。
大部分判決都係美國個案,當中好多係原告自己無律師代表。雖然大部分法官都對錯誤發出警告,但亦有部分判決罰款。
甚至有知名公司都提交過有問題嘅法律文件。科羅拉多一位聯邦法官判定MyPillow公司嘅律師喺一宗誹謗案中提交嘅法律摘要,包含近30個錯誤引用。
唔止法律界,AI喺網絡搜尋結果上方嘅簡介亦經常有錯誤。
AI工具同時帶嚟私隱風險。唔同行業嘅員工都要小心唔好將機密資料輸入AI,以保障僱主同客戶嘅私隱。
法律同職場專家分享咗佢哋對AI錯誤嘅經驗,並提醒大家要避開風險。
將AI當成助手使用
唔好完全信AI作出重大決定。有啲用家會將AI當成實習生,交代任務後再自行檢查完成嘅工作。
「將AI視為增強工作流程嘅工具,」Jobs for the Future非牟利機構CEO Maria Flynn話。AI可以幫忙草擬電郵或研究旅行行程,但唔好以為佢可以完全代替人手。
Flynn分享,佢曾用內部AI工具,要求佢根據一篇文章提出會議問題,雖然初步問題唔完全適合機構,但經過反饋後,AI提出咗五條深思熟慮嘅問題。
核實資訊準確性
Flynn亦發現AI輸出有問題,例如有次佢叫AI整理機構喺不同州嘅工作,結果AI將完成嘅工作同資助提案混淆。
幸好佢有機構內部知識識別錯誤。「如果你係新加入機構,最好問同事結果是否合理,」Flynn建議。
AI雖然幫到腦力激盪,但如果完全依賴AI提供事實性資訊係風險。即使好想省時間,都要花時間核實AI生成嘅資料。
律師Justin Daniels話:「因為啲資料聽落合理又方便,好多人就認為啱。但我睇合約AI幫我總結完,我都要返去睇合約原文。雖然麻煩,但係必要嘅。」
使用AI做會議記錄要小心
用AI做會議記錄好吸引,有啲工具可以幫忙整理摘要、列出要做事項。
但好多地方都規定錄音或記錄對話前要取得參與者同意。喺用AI做筆記前,應該考慮對話是否應該保密,律師 Danielle Kays提醒。
佢建議喺進行高風險情況下(例如調查、工作表現評估或法律策略討論)前,先同法律或人力資源部門商量。
「用AI涉及唔同層次嘅同意,呢個問題正喺法庭審理中,公司應該持續留意,」Kays話。
保護機密資料
如果用免費AI工具寫備忘錄或市場推廣計劃,唔好輸入任何識別資料或公司秘密。因為一旦輸入,其他用家可能會透過同一工具找到呢啲資訊。
Flynn解釋,AI喺回答問題時會搜索可用資訊,包括你之前輸入嘅資料,佢唔會判斷資料係公開定私隱。
積極學習AI技能
如果公司冇提供AI培訓,可以試用免費工具如ChatGPT或Microsoft Copilot。有啲大學同科技公司都有課程幫助大家了解AI運作同用法。
學習點樣寫好AI提示語(prompt)或者實操課程都好有用,Flynn話。
雖然AI工具有問題,但學識點用佢係好有益,因為AI已經無處不在。
「最大嘅風險係唔學點用AI,」Flynn話,「我哋都要變得精通AI,建立熟悉度、識字能力同舒適度,呢啲係好重要嘅第一步。」
—
評論與啟示
呢篇報道深入剖析咗AI喺職場,尤其係法律範疇出現嘅問題,提醒我哋AI唔係全能神器,而係一把雙刃劍。AI嘅「幻覺」現象,亦即生成錯誤或虛構資訊,喺法律文件中尤其危險,因為法律文件嘅準確性直接影響司法公正。
香港作為一個國際金融與法律中心,AI嘅應用同挑戰同樣重要。香港企業同律師事務所應該借鑑外國經驗,建立嚴謹嘅AI使用守則,強調人類最終審核嘅必要性。AI可以提升工作效率,但唔能代替人類判斷。
此外,報道提出私隱保護嘅疑慮,係香港AI應用中不可忽視嘅問題。政府及業界應該加強對AI數據安全嘅監管,防止機密資料外洩。
最重要嘅係,教育同培訓必須跟上AI發展步伐。香港嘅教育機構同企業應該推動AI識字教育,助員工建立正確使用AI嘅態度同技能,避免盲目依賴。
總括而言,AI係工作嘅強大助手,但用得好先係關鍵。將AI當成「實習生」而非「主管」,同時保持警覺同批判精神,先能真正發揮AI嘅潛力,避免誤用帶嚟嘅風險。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。


