史丹福教授被指控利用人工智能偽造證詞
一位史丹福大學的「錯誤信息專家」被指控使用人工智能（AI）來撰寫證詞，該證詞後來被明尼蘇達州檢察總長基斯·艾利森（Keith Ellison）在一宗政治爭議案件中使用。
這位名為傑夫·漢考克（Jeff Hancock）的傳播學教授，還是該校社交媒體實驗室的創始人，他在一宗涉及保守派YouTuber克里斯多福·科爾斯（Christopher Kohls）的案件中提供了專家聲明。此案件關於明尼蘇達州最近對政治深度偽造技術的禁令，原告認為這是對言論自由的攻擊。
艾利森向法庭提交了漢考克的證詞，並支持這項法律。根據史丹福大學的網站，漢考克因其在如何使用科技進行欺騙的研究而聞名，這些研究涵蓋了從發送短信和電子郵件到檢測假在線評論等方方面面。
然而，原告的律師要求明尼蘇達聯邦法官駁回該證詞，指控漢考克引用了一項虛假的研究。
虛假研究的指控
原告律師在最近的一份36頁的備忘錄中指出，「漢考克教授的聲明引用了一項不存在的研究。」他們強調，「沒有任何以此標題的文章存在。」
這項所謂的「研究」名為《深度偽造視頻對政治態度和行為的影響》，據稱發表在《信息技術與政治期刊》（Journal of Information Technology & Politics）上。11月16日的文件指出，雖然該期刊是真實存在的，但從未發表過該名稱的研究。
律師們指出，「該期刊存在，但引用的頁面屬於無關的文章。很可能，這項研究是由類似ChatGPT的AI大型語言模型生成的‘幻覺’。」
文件還質疑艾利森，指出「艾利森所依賴的結論缺乏方法論支持，完全是專家的主觀說法。」
律師們補充道，「漢考克本可以引用一項與第21段中的主張相似的真實研究，但他（或他的助手）甚至連點擊查找虛假引用的存在都沒有，這質疑了整個聲明的質量和真實性。」
法律的信任危機
備忘錄還強調，該引用是虛假的，律師們進行了多次搜索以嘗試找到這項研究。「所謂文章的標題，甚至其片段，在Google和Bing等最常用的搜索引擎上都無法找到。」文件指出，「在學術論文和專利出版物的專用搜索引擎Google Scholar中，沒有任何符合‘黃’（所謂作者）這一名字的文章包含‘深度偽造’這一術語。」
「或許這只是一起複製粘貼錯誤？並非如此。」該文件後來明確指出，「該文章根本不存在。」
律師們總結道，如果該聲明部分是捏造的，那它完全不可靠，應該被法庭排除考慮。「漢考克教授的聲明應完全排除，因為至少其中一些內容基於可能是AI模型生成的虛構材料，這質疑了其結論性主張的可信性。」文件最後指出，「法庭可能會調查這些虛構材料的來源，並可能需要採取進一步行動。」
評論
這一事件揭示了當前學術界和法律界在面對人工智能技術所帶來的挑戰時所面臨的重大信任危機。隨著AI技術的進步，如何確保引用資料的真實性變得尤為重要。學術界應加強對資料來源的核實，而法律界則必須更加謹慎地依賴專家證詞，這不僅影響到個別案件的公正性，更是整體法律體系信任的基石。這也提醒了我們，在數位時代，信息的真實性和準確性比以往任何時候都更為重要。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
