法官阻止加州新AI法案，涉及卡馬拉·哈里斯的深偽案
麥斯威爾·澤夫
2024年10月2日
一名聯邦法官於星期三阻止了加州的一項新AI法案，這項法案在簽署後不到兩周便被加州州長加文·紐瑟姆簽署。就在簽署AB 2839號法案後不久，紐瑟姆曾表示該法案可以用來迫使伊隆·馬斯克撤下他轉發的副總統卡馬拉·哈里斯的AI深偽影片（這引發了一場兩人之間的網上爭執）。然而，一名加州法官剛剛裁定，該州目前不能強迫人們撤下選舉深偽影片——至少現在還不行。
AB 2839號法案針對社交媒體上的AI深偽內容發布者，特別是如果發布的內容與政治候選人相似且發布者知道這是假冒內容，可能會混淆選民。該法案的獨特之處在於，它並不針對AI深偽內容出現的平台，而是針對那些傳播這些內容的人。AB 2839號法案賦予加州法官下令AI深偽內容發布者撤下這些內容或面臨金錢處罰的權力。
或許並不意外的是，該AI深偽內容的原發布者——一名名為克里斯托弗·科爾斯的用戶——在法案簽署後的一天便提起訴訟，稱加州的新法案違憲。科爾斯的律師在訴狀中寫道，卡馬拉·哈里斯的深偽影片是應該受到第一修正案保護的諷刺作品。
星期三，美國地方法官約翰·門德斯站在科爾斯一方。門德斯下令初步禁制令，暫時阻止加州檢察長對科爾斯或其他任何人執行該新法案，音頻信息除外，這些信息屬於AB 2839號法案的範疇。
閱讀門德斯法官在裁決中的話：
“幾乎任何數字化修改的內容，如果由互聯網上的任意個人決定，都可能被認為是有害的。例如，AI生成的選民投票率近似數字可能會被認為是假內容，合理地削弱了對選舉結果的信心。另一方面，當‘有害’的描繪被展示給各種個體時，可能最終不會影響選舉前景或削弱對選舉的信心。原告有說服力地指出，AB 2839號法案‘依賴於各種主觀術語和尷尬措辭的犯罪意圖’，這會影響大量政治和憲法保護的言論…
雖然對數字化操縱的媒體環境的合理恐懼是有道理的，但這種恐懼並不能給立法者無限制地踐踏受第一修正案保護的批評、諷刺和模仿的悠久傳統的權力。YouTube視頻、Facebook帖子和X推文是今天的報紙廣告和政治漫畫，第一修正案保護個人發表言論的權利，無論這些批評以何種新媒介形式出現。其他法定訴訟原因如隱私侵權、版權侵權或誹謗已經為那些可能因網上諷刺者或機會主義者傳播的人工修改描述而受損的公眾人物或私人個體提供了救濟…
記錄顯示，加州有強烈的利益需要維護選舉的完整性並處理人工操縱內容。然而，加州的利益和州面臨的困難在與第一修正案價值的嚴重性和原告及其他類似內容創作者在其言論受壓制時所經歷的持續憲法侵犯相比時，顯得微不足道。”
總而言之，他裁定該法案過於寬泛，可能導致州當局在允許何種言論方面嚴重越權。
由於這是一項初步禁制令，我們將不得不等待，看這項加州法律是否會被永久阻止，但無論如何，這不太可能對下個月的選舉產生多大影響。AB 2839號法案是紐瑟姆在過去一個月內簽署的18項與AI相關的新法律之一。
對於伊隆·馬斯克的言論自由支持者來說，這無疑是一個重大勝利。在紐瑟姆簽署AB 2839號法案後的幾天內，馬斯克和他的一些盟友發布了一系列AI深偽內容，測試加州的新法案。
評論
這次裁決凸顯了在數字時代，言論自由與信息操縱之間的微妙平衡。門德斯法官的裁決表明，即使是看似有害的數字內容，也不能簡單地被法律禁止，因為這可能會危及憲法賦予的基本權利。這提醒我們，在制定針對數字內容的法律時，必須謹慎行事，避免過於廣泛或模糊，從而可能對合法的言論造成寒蟬效應。
這一事件也揭示了AI技術在現代社會中的雙刃劍特性。一方面，AI深偽技術可以用於娛樂和創意表達，另一方面，它也可能被用來誤導和操縱公眾。立法者和技術專家需要共同努力，找到一個既能保護言論自由又能防止信息操縱的平衡點。
對於香港的讀者來說，這一事件也具有借鑒意義。我們如何在保護公眾免受虛假信息影響的同時，不損害言論自由？這是一個值得深思和討論的課題。
以上文章由特價GPT API KEY所翻譯
