聯邦公設辯護人提交了不存在的引用，顯然拒絕在聽證會上向法官承認這一點
這不是幻覺，而是掩蓋。
一段來自上周由加州地區法官Chi Soo Kim裁定的近10,000字意見的摘錄，案件為美國訴海耶斯：
法院認為，弗朗西斯科先生在2024年11月21日提交的解除密封的書面動議中，引用了一個虛構或不存在的案件和引文；在2024年12月5日對政府反對意見的書面回覆中，故意做出了不準確和誤導性的陳述，並在2024年12月9日的聽證會上故意做出了不準確和誤導性的陳述。
法院進一步認為，弗朗西斯科先生的不準確和誤導性陳述並非如其所稱的偶然，而是故意且出於惡意。儘管有多次機會誠實地承認並修正他的錯誤，但不幸的是，弗朗西斯科未能做到這一點……
在他的解除密封動議中，弗朗西斯科引用了八個案件，其中六個幾乎是串聯引用。弗朗西斯科所依賴的主要案件——分析、引用、描述地方法院的分析，並在動議的兩個不同地方提及——是“美國訴哈里斯，761 F. Supp. 409, 414 (D.D.C. 1991)”。
不幸的是，“美國訴哈里斯，761 F. Supp. 409, 414 (D.D.C. 1991)”並不是一個真實的案件。這一引用顯示出由生成性人工智能（AI）工具如ChatGPT和Google Bard創造的虛構案件的所有特徵，這些工具已被各法院討論，並被全國新聞媒體報導。與其他由生成性AI工具創造的虛構案件引用類似，虛構的“美國訴哈里斯”案件看起來像是一個真實案件，包含案件名稱；對聯邦補充報告的引用，該報告發布來自聯邦地區法院的意見；確定的地區法院；以及裁決年份……
與其他案件不同的是，律師和訴訟人有時雖然不情願，但仍承認虛構的引用和引文是由生成性AI創造的，而弗朗西斯科卻聲稱他“沒有使用過，也從未使用過AI（人工智能）來起草我的任何動議。”相反，弗朗西斯科表示，他“匆忙”起草了其動議中討論18 U.S.C. § 3509(d)立法歷史的部分，該部分包括虛構的案件和引文。關於他對虛構的美國訴哈里斯案件的引用，他表示：“我無法說明這個名字的來源，首先是這是一個不存在的案件名稱，其次是與引用的卷和頁不匹配的地區和年份，第三，這甚至沒有涉及動議的問題。這是一個我無法解釋的偶然起草錯誤。”
法院認為這一回應不充分且不可信。儘管弗朗西斯科承認他起草了包含虛構案件和引文的文件，但他未能解釋他是在哪裡或如何找到或創建這個虛構的案件和引文。無論虛構的案件和引文的來源如何，作為一位擁有近六年經驗的律師，案件引用對他來說是“第二天性”，他知道如何進行法律研究、檢索案件並準確引用這些案件。法院無需對弗朗西斯科是否實際使用生成性AI來起草其動議和回覆的任何部分（包括虛構的案件和引文）做出任何裁定。
法院最終認為，弗朗西斯科故意並蓄意做出誤導性陳述，目的是誤導法院，這違反了專業行為標準，包括對法院的誠實義務。弗朗西斯科首次有機會誠實地承認並修正虛構的案件和引文是在他對政府反對意見的書面回覆中，該回覆直接提到了虛構的案件和引文。但弗朗西斯科並沒有誠實地承認和修正他的錯誤，而是在他的書面回覆中提交了以下兩句話的附註：“辯護律師承認政府觀察到美國訴哈里斯並未討論18 U.S.C. § 3509(d)的立法歷史，並澄清美國訴布魯薩德，767 F. Supp. 1536, 1542 (D. Or. 1991)是引用這些材料的地方法院案件。這一偶然的引用錯誤並不影響辯方的立場，即立法歷史支持對§ 3509(d)的解釋要比政府所主張的狹窄得多。”
這一回應不準確且具有誤導性。它未能承認美國訴哈里斯案件是虛構的，未能承認實際案件是哈里斯訴穆雷案（該案件出現在引用的卷和頁碼中），也未能承認該引文並非來自任何案件。相反，弗朗西斯科在其回覆中聲稱他犯了一個“偶然的引用錯誤”，且該引文來自另一個案件，即美國訴布魯薩德，767 F. Supp. 1536, 1542 (D. Or. 1991)。這同樣具有誤導性，因為弗朗西斯科所引用的語言並未出現在布魯薩德案中。
儘管弗朗西斯科在提交解除密封動議之前多次審閱過布魯薩德，包括在2024年10月26日、11月13日和11月14日，他在解除密封動議中並未提及或引用布魯薩德。這可能是有充分理由的。布魯薩德並不支持弗朗西斯科在其強制動議中提到的八個字，這些字描述了受害者1與被告海耶斯的關係和受害者1的性別，這些字已被克萊爾法官適當地刪除。在弗朗西斯科對顯示原因的回應中，他承認布魯薩德並不支持他的解除密封動議的論點。這削弱了他其他事後陳述的可信性，即他實際上是打算引用並依賴美國訴布魯薩德，而不是虛構的美國訴哈里斯案件。因此，這些陳述不被認可。
法院還認為，後來提交的更正文件不充分，弗朗西斯科關於他知道什麼以及何時知道的後續陳述並不誠實。討論內容冗長且相當詳細，但以下摘錄應能提供其風格的概覽：
在2024年12月9日的聽證會上，弗朗西斯科有第二次機會誠實地承認並修正他的錯誤。不幸的是，弗朗西斯科堅持他的誤導性陳述，並使情況變得更糟。對於法庭的問題，弗朗西斯科繼續聲稱該引文來自布魯薩德。在法庭提供給弗朗西斯科一份布魯薩德的紙質副本後，弗朗西斯科未能找到該引文，他建議該引文來自第二個布魯薩德案件。不幸的是，對於弗朗西斯科來說，法庭在聽證會之前也已審查了這第二個布魯薩德案件，即美國訴布魯薩德，767 F. Supp. 1545 (D. Or. 1991)（“布魯薩德二”），並告知弗朗西斯科該案件中並不包含該引文……
在聽證會上，法庭隨即詢問弗朗西斯科，如何能將他對“美國訴哈里斯”的陳述視為“偶然的引用錯誤”……而弗朗西斯科則未能誠實地承認美國訴哈里斯是一個不存在的案件，反而繼續暗示美國訴哈里斯是一個真實的案件，並不準確地辯稱該立法歷史“絕對支持辯方的立場”……
弗朗西斯科不僅未能在聽證會上承認並修正他的錯誤，還通過反復拒絕承認美國訴哈里斯是不存在的案件而使情況變得更糟。法庭給予弗朗西斯科多次機會在聽證會上告訴真相，提供了五個不同的機會來回應法庭的直接問題，但他每次都故意堅持其對法庭的誤導性陳述。
在他的顯示原因回應中，弗朗西斯科承認他在12月3日審查了真實的哈里斯訴穆雷案，在審查了政府的反對意見中提出的虛構的美國訴哈里斯案件和引文後，並且在12月9日聽證會時，“他當時意識到[美國訴]哈里斯是一個不正確的引用，並不支持我的論點。”
法院只能得出結論，弗朗西斯科在2024年12月9日聽證會上的陳述是故意的，目的是誤導法院，並構成了惡意的證據……
法院命令弗朗西斯科支付1,500美元，並要求書記官將該命令的副本送交加州和華盛頓特區的律師協會，以及“本地區所有的地區法官和地方法官”。
這一事件凸顯了法律界對於虛構案件引用的嚴重性，尤其是在當今生成性AI技術日益普及的背景下。律師的誠實與專業道德不僅關乎個人信譽，更關乎法律體系的公正性。面對技術的進步，法律界必須加強對引用準確性的關注，否則將面臨更大的挑戰和風險。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
