斯坦福教授疑似在法庭提交中使用AI聊天機器人，律師指控其聲明含虛假信息
一位斯坦福大學教授在一宗有關人工智能創造的虛假內容的聯邦法庭訴訟中，提交了一份包含虛假信息的宣誓聲明，該聲明很可能是由AI聊天機器人生成的，根據法律文件的指控。
根據原告在11月16日提交的文件，擔任專家的杰夫·漢考克（Jeff Hancock）教授，作為斯坦福社交媒體實驗室的創始主任，聲明中“引用了一項並不存在的研究”。該文件指出，“這項研究很可能是由類似ChatGPT的AI大型語言模型生成的‘幻覺’。”
漢考克和斯坦福大學目前尚未對此事做出回應。
這宗訴訟在明尼蘇達州地區法院提起，原告包括一位州立法委員和一位諷刺類YouTuber，他們尋求法院命令宣告一項將選舉相關的AI生成“深度偽造”照片、視頻和聲音定為違憲的州法。
根據周六提交的法庭文件，漢考克是明尼蘇達州檢察總長的專家證人，該檢察總長是此案的被告。
立法委員和YouTuber的文件質疑漢考克作為專家證人的可靠性，並主張他的報告應被駁回，因為可能還存在更多未被發現的AI虛構內容。
在他向法庭提交的12頁文件中，漢考克表示他研究“社交媒體和人工智能技術對虛假信息和信任的影響”。
法庭記錄顯示，漢考克的報告中附有他的“引用參考文獻”清單。其中一個參考文獻——由黃、張和王三位作者撰寫的研究，引起了州代表瑪麗·法蘭森（Mary Franson）和YouTuber克里斯托弗·科爾斯（Christopher Kohls）律師的注意。科爾斯也在起訴加州檢察總長羅伯·邦塔（Rob Bonta）有關一項允許因選舉深度偽造而尋求損害賠償的法律。
漢考克引用了這項研究，聲稱其出現在《信息技術與政治雜誌》中，以支持他在法庭上關於深度偽造技術複雜性的論點。雜誌是真實存在的，但律師們指出，這項研究是“虛構的”。
根據律師的文件，漢考克引用的雜誌卷數和文章頁碼並未涉及深度偽造，而是討論了總統候選人對氣候變化的在線討論以及社交媒體帖子對選舉結果的影響。
這樣的引用，配合一個看似合理的標題及其在真實雜誌中的出版，正是人工智能“幻覺”的特徵，學術研究者已經對此發出警告，律師們在文件中指出。
漢考克在宣誓聲明中聲稱他“已確認在其專家提交中引用的學術、科學及其他材料”。文件中提到，雖然存在被告法律團隊插入虛假信息的可能性，但“漢考克仍然提交了一份聲明，錯誤地表示他已審閱所引用的材料”。
去年，律師史蒂芬·A·施瓦茨（Steven A. Schwartz）和彼得·洛杜卡（Peter LoDuca）因在紐約的聯邦法庭提交一份包含由ChatGPT編造的虛假過去法庭案件的個人傷害訴訟文件而各被罰款5,000美元。
施瓦茨告訴法官：“我沒有理解ChatGPT會編造案件。”
這一事件引起了對學術界與法律界如何應對AI生成內容的深刻思考。隨著人工智能技術的不斷進步，專家在法庭上引用的資料的真實性和可靠性將面臨前所未有的挑戰。這也促使我們反思，如何在法律和學術界建立有效的檢查機制，以確保信息的真實性，避免因AI的誤用而導致的不必要法律糾紛。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
