如何防止深偽技術誤導陪審團？
法官和法律學者擔心，AI生成的證據或關於AI生成證據的虛假聲明，將會影響案件的進行並延長審理時間。
亞利桑那州的高級法院法官帕梅拉·蓋茨（Pamela Gates）在回顧她的法庭上出現的證據時表示，她越來越不確定普通人是否能夠辨別真相。
例如，若一名受害者提交了一張顯示其手臂有瘀傷的照片，而被告則辯稱這些傷痕是數位添加到圖片上的。又或者，一名原告提交了一段有罪的錄音，被告則抗辯說雖然聲音聽起來與他們相同，但他們從未說過那些話。
在這個任何人都可以使用免費生成AI工具製作令人信服的圖像、視頻和音頻的時代，像蓋茨這樣的法官越來越擔心法院無法區分真實材料和深偽技術製作的內容。
“過去，你可以憑藉常識、情境的整體性以及通過觀察來驗證真實性來更好地評估證據，”蓋茨說，她正在主持一個亞利桑那州法院的工作小組，研究如何處理AI生成的證據。“這種根據觀察來判斷的能力已經消失了。”
隨著廉價生成AI系統的激增，一些知名法律學者呼籲對50年來規範美國法院證據的規則進行修改。他們的提議，包括幾項本月早些時候由聯邦法院諮詢委員會審查的建議，將證據的真實性判斷責任從陪審團轉移到法官身上，讓法官在審判開始之前就能分辨事實與虛構。
“現在的規則運作方式是，如果對證據的真實性有疑問，則應將其提交給陪審團，”計算機科學和法律教授毛拉·格羅斯曼（Maura Grossman）說，她與前聯邦法官保羅·格里姆（Paul Grimm）共同撰寫了數項針對深偽技術的美國聯邦證據規則的修改建議。“我們的立場是，等一下，我們知道這些東西對陪審團的影響有多大，他們不能就此將其抹去，因此應給法院更多的權力。這是一個重大變更。”
困惑與混亂
陪審團發現視聽證據令人信服且難以忘記。
洛約拉法學院的副院長及法律教授瑞貝卡·德爾菲諾（Rebecca Delfino）提出自己的證據規則修改建議，指出研究表明，接觸到偽造視頻會使人們對所見事件作出虛假證詞，而看到視頻證據的陪審團比僅聽口頭證詞的陪審團更有可能保留信息，比例高達六倍。
法官已經具備排除潛在虛假證據的權力，但當事方必須滿足的標準相對較低。根據現行的聯邦規則，如果一方聲稱錄音不是他們的聲音，對方僅需調用一位熟悉其聲音的證人證明其相似性。在大多數情況下，這樣就能滿足將錄音提交給陪審團的舉證責任，格羅斯曼表示。
考慮到當前深偽音頻和圖像的質量——詐騙者已證明可以欺騙父母相信自己聽到或看到的是他們的孩子——新規則的支持者表示，AI製作的內容將輕易通過這一低門檻。
他們還希望保護陪審團免受相反問題的困擾：訴訟方聲稱合法證據是虛假的。他們擔心，網上充斥的AI生成內容會使陪審團傾向於相信這些虛假指控，學者們稱之為“說謊者的紅利”。
一些被告已經在高調案件中嘗試這一論點。2021年1月6日襲擊美國國會大廈的騷亂者的律師辯稱，審判中的關鍵視頻證據可能是偽造的。在涉及特斯拉致命事故的民事審判中，埃隆·馬斯克的律師暗示，馬斯克炫耀其品牌自動駕駛功能安全性的視頻可能是AI生成的。
“每當在審判中出現視聽影像時，這是最常見的證據類型，就有可能有人提出這樣的主張，”德爾菲諾說。“有真實風險的是，這不僅會延長和拖延審判，還會徹底困惑陪審團。而且，有聰明的律師會利用這點去混淆陪審團，直到他們無奈地說‘我不知道’。”
提案
在11月8日，聯邦證據規則諮詢委員會審查了格羅斯曼和格里姆提出的最新規則提案，該提案將授予法官對證據施加更強的把關角色。
根據他們的新規則，挑戰證據真實性的訴訟方必須提供足夠的證據說服法官，陪審團“合理可能會認為”該證據已被篡改或偽造。然後，舉證責任將轉回給尋求引入爭議證據的一方，要求其提供證明信息。最後，將由法官在審前聽證中決定該證據的證明價值——即該證據對案件的啟示與陪審團看到該證據可能造成的偏見或潛在損害之間的權衡。
德爾菲諾的提案，她在一系列法律期刊文章中提出，但尚未正式提交給委員會，將深偽的問題完全排除在陪審團的考量之外。
她的第一條規則要求聲稱某項證據是AI生成的當事方，在審判開始之前必須獲得法醫專家的意見。法官將審查該報告及其他提出的論點，並根據證據的優勢來決定該音頻或影像是否真實，從而是否可採納。在審判過程中，法官將指示陪審團將該證據視為真實。
此外，德爾菲諾還提議，提出深偽指控的當事方應負擔法醫專家的費用——這將使虛假指控深偽的成本變得高昂——除非法官認為該當事方的財力不足以支付專家費用，則由另一方支付。
沒有快速解決方案
對聯邦證據規則的任何變更都需要數年時間才能最終確定，並且首先需要經過多個委員會的批准，最終還需獲得最高法院的批准。
到目前為止，證據規則諮詢委員會選擇不推進任何針對深偽的提案。福特漢姆法學院教授丹尼爾·卡普拉（Daniel Capra）負責調查委員會的證據問題，他表示，可能明智的是先觀察法官在現有規則下如何處理深偽案件，然後再進行改變。但在他最近的報告中，他補充說，“一項[新]規則可能是必要的，因為深偽可能會呈現出真正的分水嶺時刻。”
在亞利桑那州，蓋茨的AI生成證據委員會正在考慮是否有技術解決方案可以快速實施，以應對深偽問題。
學術研究者、政府法醫專家和大型科技公司正在與生成AI開發者展開競爭，試圖開發可以檢測虛假內容或在創建時添加數位水印的工具。
“我認為他們中的任何一個都還沒有準備好在法庭上使用，”蓋茨說，談及她所見的AI檢測工具。
西北大學的計算機科學教授及深偽專家V.S.蘇布拉哈曼（V.S. Subrahmanian）及其同事最近測試了四種知名的深偽檢測器的性能。結果並不樂觀：這些工具將71%到99%的虛假視頻標記為真實。
蘇布拉哈曼表示，至少在不久的將來，他不期望水印技術能夠廣泛或可靠地解決這一問題。“無論保護措施是什麼，總會有人想辦法去剝奪它。”
獲得司法的途徑
到目前為止，法院面對深偽或證據是AI生成的指控的公開案件寥寥無幾。
除了1月6日的騷亂者審判和馬斯克的民事訴訟外，2021年，賓夕法尼亞州檢方指控拉法埃拉·斯波恩（Raffaela Spone）以刑事騷擾其女兒的啦啦隊成員，聲稱她分享了深偽視頻，顯示女孩們喝酒、抽煙和違反隊規。斯波恩否認這些視頻是深偽的，但根據她的律師所述，她並沒有財力聘請法醫專家。然而，在她的案件引起全國新聞後，一組法醫專家自願檢查證據，並確定視頻是真實的。檢方最終撤回了與深偽有關的騷擾指控。
並非每個人都會這麼幸運。與《Gizmodo》交談的法官和法律學者表示，他們最擔心的是那些不太可能成為頭條新聞的案件，特別是在家庭法院中，訴訟方往往沒有律師或財力聘請專家證人。
“現在假如家庭法院的法官在法庭上，我進來說，‘我丈夫威脅我和孩子……我有他威脅我們的錄音。’”格羅斯曼說。“在這種情況下，法官應該怎麼做？他們現在沒有任何工具。”
這一問題的複雜性不僅在於法律的演變，還在於社會對於深偽技術的認知與應對。隨著技術的快速發展，我們的法律體系需要迅速適應，以維護公正和正義。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
