法官斥律師靠AI造假研究遭罰三萬一千美元

法官嚴厲批評律師使用虛假AI生成研究資料

加州法官Michael Wilner近日對兩間律師行因未披露使用人工智能（AI）而發出嚴厲批評。法官在收到一份補充法律意見書後，發現當中包含「大量虛假、不準確及誤導性的法律引用和引述」。他於上星期的裁決中，對涉及的律師行處以3.1萬美元罰款，並強調「任何有合理能力的律師都不應該將法律研究和寫作工作外判給AI」。

Wilner法官表示：「我閱讀了他們的意見書，起初被他們引用的法例說服（或至少引起興趣），但當我查閱那些判決時，竟然發現它們根本不存在。這情況令人擔憂，幾乎導致我在司法命令中引用這些虛假的材料，這對我而言更是可怕的結果。」

根據法庭文件，一名原告律師為針對State Farm的民事訴訟撰寫補充意見書時，使用AI生成了一份大綱，但該大綱包含了「虛假的AI研究資料」，後來該資料被另一間律師行K&L Gates採用並加入意見書。Wilner法官指出，兩間律師行的律師或職員似乎都未有核實這些研究內容便提交了意見書。

當法官仔細審查該意見書時，發現至少兩項引用的法律權威根本不存在。法官要求K&L Gates澄清後，他們重新提交了意見書，但法官發現「除最初兩個錯誤外，還有更多虛構的引用和引述」。他隨後發出「說明原因令」，律師們被要求作出宣誓陳述，並承認確實使用了AI。當中一名律師承認使用Google Gemini以及Westlaw Precision的AI法律研究工具CoCounsel。

這並非律師首次因使用AI而惹上麻煩。前特朗普律師Michael Cohen曾誤將Google Gemini（當時名為Bard）視為「超強搜尋引擎」，結果在法律文件中引用了虛假的法庭案件。另一宗案件中，控告哥倫比亞航空公司的律師團隊亦被發現其意見書內充斥由ChatGPT生成的虛假案例。

Wilner法官嚴厲指出：「最初未披露使用AI來生成意見書初稿的行為完全錯誤，將這些材料轉交給其他律師而不披露其可疑的AI來源，實際上是將那些專業人士置於風險之中。」

—

評論與啟示

這宗案件揭示了AI技術在法律界應用中的嚴重風險與挑戰。AI雖然能大幅提升效率，但其生成內容的真實性和準確性卻難以保證，尤其是在法律這種高度依賴精確引用和權威資料的領域。律師作為法律專業人士，理應對所引用的資料負全責，絕不能輕率地將研究工作交由AI自動生成後便直接採用。

此案亦反映出法律界對AI的監管和倫理規範尚未完善。律師行應建立嚴格的審核程序，確保AI輔助的研究成果經過人工嚴格核查，避免虛假資料流入司法程序，損害司法公正和法律信譽。

此外，法官的裁決強調，法律專業的基本職責是維護法律的嚴謹性和權威性，不能因科技便利而降低專業標準。這對香港法律界同樣具警示作用，隨著AI技術日益普及，如何平衡效率與準確性、創新與倫理，將是未來法律實務必須面對的重要課題。

最後，這件事提醒所有專業人士，AI雖然強大，但絕非萬能。依賴AI生成內容前，必須謹慎評估其可靠性，堅守專業操守，才能真正發揮AI的助力作用，避免成為「假資料」的幫兇，損害自身及行業的聲譽。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。