斯坦福大學AI專家聲明中出現AI虛假信息，律師聲稱
一名斯坦福大學教授在一宗有關人工智能造假（fakery）的聯邦法庭訴訟中，提交的宣誓聲明中可能包含由AI聊天機器人編造的虛假信息，法律文件指出。
根據原告在11月16日的法庭文件，這名教授是溝通學教授兼斯坦福社交媒體實驗室的創始主任杰夫·漢考克（Jeff Hancock），他“引用了一項不存在的研究”。文件指稱，“該研究很可能是由像ChatGPT這樣的AI大型語言模型所產生的‘幻覺’”。
漢考克及斯坦福大學暫時未對此事作出回應。
這宗訴訟在明尼蘇達州地區法院提起，原告包括一名州立法者和一位諷刺性YouTuber，他們尋求法院裁定一項將選舉相關的AI生成“深度偽造”照片、視頻和聲音定為違憲的州法律。
根據法庭文件，漢考克是由明尼蘇達州檢察總長引入的專家，而該檢察總長是本案的被告之一。
立法者和YouTuber的法律文件質疑漢考克作為專家證人的可靠性，並辯稱他的報告應被駁回，因為它可能還包含更多未被發現的AI虛假信息。
在他提交法庭的12頁報告中，漢考克表示他研究“社交媒體和人工智能技術對錯誤信息和信任的影響”。
法庭記錄顯示，漢考克的報告中附上了一份“引用參考文獻”的清單。其中一項參考文獻——由名為黃、張和王的作者撰寫的研究，引起了州代表瑪麗·弗蘭森（Mary Franson）和YouTuber克里斯托弗·科爾斯（Christopher Kohls）律師的注意，他們也在起訴加州檢察總長羅布·邦塔（Rob Bonta）針對一項允許針對選舉深度偽造提出索賠訴訟的法律。
漢考克引用了這項研究，聲稱該研究出現在《信息技術與政治期刊》（Journal of Information Technology & Politics）上，以支持他在法庭提交中的一個觀點，即深度偽造技術的複雜性。該期刊是真實存在的，但律師們聲稱該研究是“虛構的”。
律師們指出，漢考克所引用的期刊卷號和文章頁碼並未涉及深度偽造，而是關於總統候選人對氣候變化的網上討論，以及社交媒體帖子對選舉結果的影響。
律師文件中指出，這樣的引用，雖然有合理的標題，且聲稱發表於真實的期刊，“是人工智能‘幻覺’的特徵，學術研究者已經對同事發出警告”。
根據文件，漢考克曾在受伪證罪的懲罰下宣稱他“已識別出在其專家提交中引用的學術、科學及其他材料”。
該文件提出，所謂的AI虛假信息可能是被被告的法律團隊插入的，但也補充道，“漢考克仍然提交了一份聲明，錯誤地表示他已審查所引用的材料”。
去年，律師史蒂文·施瓦茨（Steven A. Schwartz）和彼得·洛杜卡（Peter LoDuca）在紐約的聯邦法庭中因提交的個人傷害訴訟文件中包含由ChatGPT編造的虛假過去法庭案例而被罰款各5,000美元。
施瓦茨告訴法官：“我未能理解ChatGPT可以編造案例。”
這個事件不僅引發了對專家的質疑，也讓人再次審視AI在法律和學術界的應用。隨著AI技術的發展，專家和學者使用這些工具時必須更加謹慎，以免在不知情的情況下推廣錯誤的信息。這也提醒了我們，法律界需建立更嚴格的標準來驗證專家證言的真實性，以維護司法公正與透明。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
