法官嚴厲譴責史丹福大學虛假信息專家使用ChatGPT撰寫證詞
一位聯邦地區法官對一位史丹福大學的虛假信息專家發出嚴厲譴責，並駁回了他在明尼蘇達州選舉法案件中提交的證詞，該證詞涉嫌虛假陳述，並在宣誓下提交。
Jeff Hancock專門研究人們如何利用技術進行欺騙，他被明尼蘇達州檢察長Keith Ellison的辦公室聘用，以提交專家證詞，為明尼蘇達州2023年通過的新法律辯護，該法律禁止選舉中的深度偽造技術。
去年11月，在Hancock提交書面證詞後，原告Mary Franson（共和黨，亞歷山德里亞）和YouTuber Christopher Kohls的律師注意到該文件中引用了幾篇並不存在的學術文章。
原告隨即要求駁回該證詞，而Hancock隨後提交了一份文件，承認他使用了一個版本的ChatGPT來撰寫證詞，該證詞包含了被AI研究人員稱為「AI幻想」的虛假引用。檢察長辦公室辯稱，Hancock應該被允許提交一份修訂的聲明，包含正確的、未經幻想的引用。
然而，在1月10日的裁決中，美國地區法官Laura Provinzino強烈反對此觀點。
Provinzino寫道，Hancock引用虛假來源「摧毀了他在本法庭的可信度」。她承認人工智能軟件在法律環境中可能有有效的用途，但她得出結論，「當律師和專家放棄他們的獨立判斷和批判性思維，轉而依賴現成的AI生成答案時，我們的法律職業和法院的決策過程質量都會受到損害。」
法官重申了Hancock在宣誓下提交原始文件的事實。她寫道，「在宣誓下簽署聲明並非僅僅是一種形式，而是對『承擔的嚴重性』的認可，以及確保『真實性和可靠性』以及信任的一種機制。」
她補充道，「這種信任在這裡被破壞了。考慮到Hancock聲明中的錯誤損害了其能力和可信度，法院將在決定原告的臨時禁令動議時不考慮Hancock教授的專家證詞。」
Provinzino還提醒檢察長辦公室，他們有責任「驗證提交文件的真實性和法律合理性」，並建議未來應詢問證人是否使用AI來生成其材料。
根據Reformer在數據利用法案下獲得的合同副本，Hancock向檢察長辦公室收取每小時600美元的服務費，並設有49,000美元的上限。
檢察長辦公室並未提供有關該合同目前已支付多少的資訊，或是否事先知道Hancock會使用AI來撰寫他的聲明。
Provinzino寫道，「作為一名對AI和虛假信息危險的有資質專家的Hancock，卻在一個圍繞AI危險的案件中，成為了過度依賴AI的受害者。這是多麼諷刺。」
—
這篇報導揭示了一個重要的議題：在法律和公共政策的制定過程中，專家的誠信和專業性至關重要。Hancock的案例不僅反映了AI在當今社會中日益增長的影響力，也凸顯了對於AI生成內容的監管和使用的必要性。法官的裁決強調了在法律文件中，真實性和可靠性的重要性，這對於維護法律體系的完整性至關重要。
此外，這也引發了對於法律專業未來的思考：隨著AI技術的發展，法律界如何平衡技術進步與專業道德之間的矛盾？未來的法律專業人員需要具備什麼樣的技能和素養，以應對這些挑戰？這些問題值得我們深入探討，並對法律界的未來發展提出反思。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
