達拉斯律師引用上訴法官未曾聽過的案例 AI是否捏造了這些案例？
一位企業律師表示，自己並沒有上訴法經驗，卻因谷歌搜尋而在提交給德州第五區上訴法院的法律簡報中引用了假的案例。
海蒂·哈弗（Heidi Hafer）去年五月向德州第五區上訴法院提交了一份近50頁的陳述書，當時她對上訴法庭並不熟悉。她作為一名企業律師，試圖推翻一項判決，該判決要求她交出價值百萬美元的珠寶，這些珠寶她堅稱是用來償還家族債務的禮物。
為支持其論點，哈弗引用了31個法院判決，包括1979年來自泰勒法院的“Macy’s Texas, Inc. vs. D.A. Adams & Co.”、1958年的“Stephens vs. Beard”、1896年的“Gaston vs. Monroe”，以及1996年聖安東尼奧的“Estate of Malpass vs. Malpass”。
然而，無論是達拉斯上訴法院、債權人律師還是哈弗本人，都找不到這四個案件，因為它們根本不存在。
哈弗目前面臨可能的制裁，原因是她涉嫌使用生成式人工智能（AI）來準備這份法庭文件。上個月，她向上訴法院提交了一份四頁的報告，對這些錯誤負全部責任。
在週四上午的聽證會上，當被問及為何沒有立即處理關於案例是虛假的指控時，哈弗表示：“這是我第一次寫簡報，我真的不知道該如何處理，所以我盡力而為。”
哈弗自1999年起成為德州執業律師，並未受到州律師公會的紀律處分。她還被列為一家位於達拉斯、從事人工智能業務公司的首席法律顧問。
代表哈弗出庭的前上訴法官、德州律師公會負責AI法律責任的工作組主席約翰·布朗寧（John Browning）表示，哈弗並未試圖掩蓋錯誤，也沒有“推卸責任”。
布朗寧對三位法官表示，哈弗已完全承擔責任，“她承認這是她職業生涯中的尷尬一章，並表達了我所期望的悔意，且已採取補救措施提升自身能力，避免未來重蹈覆轍。”
目前尚不清楚哈弗是否無意中使用了生成式AI。她告訴法官，她是通過谷歌搜索普通法上的贈與相關內容，並不記得使用過其他AI工具。谷歌本身擁有AI聊天機器人，有時會在搜索結果中展示AI生成的摘要。
布朗寧在庭外接受《達拉斯晨報》訪問時說：“人工智能無處不在……很多人沒有意識到AI在我們生活中的普及程度。”
哈弗及債權人JGB Collateral, LLC的律師均拒絕置評。
美國律師協會最近發布了關於AI的指導意見，德州律師公會也出台了相關框架，提醒律師核實AI生成內容的準確性。北德州至少有三位聯邦法官要求律師確認AI草擬的法律語句經過核實。類似政策也已在從貝克縣到威奇托縣的州地方法院實施。
北德州大學達拉斯法學院教授科林·蒙斯特曼（Korin Munsterman）表示：“律師有能力義務，包括技術能力……律師必須依賴自身專業知識，而不是盲目相信AI的輸出。”
AI為律師提供了簡化複雜或繁瑣法律工作的方式，可能減少計費工時。根據2024年一項調查，68%的律師事務所專業人士每週至少使用一次生成式AI。但AI的主要缺點是容易產生錯誤或誤導性信息。史丹福大學的研究顯示，旨在協助律師的AI工具有17%至34%的時間會產生錯誤信息。
這並非首次有律師因AI誤導而陷入困境：曾有律師在德州布拉佐斯縣利用AI挑戰保釋案；紐約和科羅拉多的律師或事務所也因使用由ChatGPT等生成的虛假司法案例被譴責。前特朗普律師麥可·科恩也曾錯誤使用AI生成的案例，但未受懲罰。
布朗寧主張哈弗不應被進一步懲罰，稱這是“誠實的錯誤”。他解釋：“哈弗並無意誤導法庭，有效的案例法確實支持她的論點，她只是引用了不存在的案例。”
目前尚不清楚法官何時會作出裁決。
—
評論與啟示
這宗案件揭示了當前法律界與生成式人工智能技術結合時，所面臨的嚴峻挑戰與倫理風險。律師作為法律專業人士，理應具備嚴謹的求證態度和審慎精神，但AI的“幻覺”現象（即生成虛假信息）卻可能讓缺乏經驗或疏忽的律師誤入歧途。
哈弗的案例既反映了新技術帶來的便利，也暴露了依賴AI的危險。她的辯護律師強調這是“誠實的錯誤”，但無論如何，法律文件中出現不存在的案例，對司法系統的公信力是一大衝擊。
這也提醒法律界必須加強對AI工具的認識與管控，建立嚴格的核查機制，確保AI生成的內容經過專業人員的仔細審核。律師的“技術能力義務”不應僅停留於口頭，而須實際落實於工作流程中。
此外，這個事件反映出AI普及速度快於監管與教育的現實。律師、法官乃至整個司法體系，都需與時俱進，制定明確指引，避免AI成為誤導和濫用的工具。
最後，這個案例也提醒公眾，AI並非萬能，“機器生成”不等於“真實可靠”。在追求效率的同時，法律這類關乎權益和公正的領域，更需謹慎對待每一份資料的真偽。律師和法官的專業判斷，依然是法律正義的重要保障。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
