明尼蘇達擬禁AI「除衫App」？性影像威脅，點樣保障私隱？

明尼蘇達州考慮封鎖使用AI生成色情圖片的應用程式

明尼蘇達州聖保羅（AP）— 莫莉·凱利（Molly Kelly）在六月時驚訝地發現，她的家庭照片被某人利用廣泛可用的“去衣化”技術製作成高度寫實及色情的視頻和圖片。

“當我得知同一個人還針對了約80至85名其他女性時，我的初步震驚變成了恐懼。這些女性大多住在明尼蘇達州，有些我還認識，所有人都與這名犯罪者有某種聯繫，”凱利說。

在她的證詞支持下，明尼蘇達州正在考慮一項新的打擊深偽色情的策略。一項獲得兩黨支持的法案將針對運營網站和應用程式的公司，這些公司允許用戶上傳照片，然後將其轉換為色情圖片或視頻。

全國各州和國會正在考慮規範人工智能的策略。大多數州已禁止傳播無同意的深偽色情或報復色情，無論這些內容是否由AI生成。明尼蘇達州的立法想法是防止這些材料的產生——在它們在線傳播之前。

AI法律專家警告說，這項提案可能在言論自由的基礎上違憲。

為何支持者認為該法案是必要的

該法案的主要發起人、民主黨參議員艾琳·梅伊·奎德（Erin Maye Quade）表示，隨著AI技術的快速發展，額外的限制是必需的。她的法案要求“去衣化”網站和應用程式的運營商將其對明尼蘇達州用戶關閉，否則將面臨每次非法訪問、下載或使用高達50萬美元的民事罰款。開發者需要想辦法排除明尼蘇達州的用戶。

她表示，這些影像的存在本身對受害者造成的傷害並不僅僅在於傳播。

凱利上個月告訴記者，任何人都可以在幾分鐘內快速創建“超寫實的裸體圖片或色情視頻”。

到目前為止，大多數執法機構的關注點主要集中在分發和擁有上。

國會、各州和城市也在嘗試其他策略

今年八月，舊金山對幾個廣受歡迎的“去衣化”網站提起了首宗訴訟，指控它們違反州法律，包括詐騙商業行為、無同意色情和對兒童的性虐待。該案件仍在待審中。

上個月，美國參議院一致通過了由明尼蘇達州民主黨人艾米·克洛布查（Amy Klobuchar）和德克薩斯州共和黨人泰德·克魯茲（Ted Cruz）提出的法案，將發布無同意性影像（包括AI生成的深偽作品）定為聯邦犯罪。社交媒體平台必須在收到受害者的通知後48小時內刪除這些內容。梅蘭妮亞·特朗普（Melania Trump）上週一在成為第一夫人後首次單獨出現，呼籲共和黨控制的眾議院通過該法案，目前該法案正在審議中。

堪薩斯州眾議院上個月通過了一項法案，擴大了非法性剝削兒童的定義，包括擁有AI生成的圖片，如果這些圖片“與真實兒童無法區分，或是從真實兒童的影像變形而來，或是未經任何實際兒童參與生成的”。

佛羅里達州立法機構提出的一項法案為使用技術（例如AI）生成裸體圖片的人創造了一項新的重罪，並對擁有由此生成的兒童性虐待圖片進行刑事化。根據美聯社的分析，類似的法案也在伊利諾伊州、蒙大拿州、新澤西州、紐約州、北達科他州、俄勒岡州、羅德島州、南卡羅來納州和德克薩斯州提出。

梅伊·奎德表示，她將與其他州的立法者分享她的提案，因為很少有人意識到這項技術如此容易獲得。

“如果我們無法讓國會採取行動，那麼我們可以讓盡可能多的州採取行動，”梅伊·奎德說。

受害者講述他們的故事

受害者權益組織RAINN（強姦、虐待和亂倫國家網絡）高級立法政策顧問桑迪·約翰遜（Sandi Johnson）表示，明尼蘇達州的法案將使網站負責任。

“一旦這些圖片被創建，它們可以匿名發布，或迅速廣泛傳播，幾乎無法刪除，”她最近在聽證會上作證時說。

梅根·哈利（Megan Hurley）也感到震驚，因為有人利用“去衣化”網站生成了她的色情圖片和視頻。她表示，因為自己是一名按摩治療師，這讓她感到特別羞辱，因為這個職業在某些人的心中已經被性化。

“對一個人來說，使用手機或電腦創建你、你的家人和朋友、你的孩子和孫子的逼真合成親密影像是太容易了。我不明白為什麼這項技術會存在，我覺得有公司以這種方式賺錢是令人厭惡的。”哈利說。

AI專家呼籲謹慎對待

然而，兩位AI法律專家——昆尼皮亞克大學法學院的韋恩·昂格（Wayne Unger）和斯坦福大學人本中心人工智能研究所的里安娜·費弗科恩（Riana Pfefferkorn）——表示，明尼蘇達州的法案過於寬泛，可能無法在法庭挑戰中生存。

費弗科恩表示，僅限於真實兒童的影像可能有助於使其在第一修正案挑戰中站得住腳，因為這些影像通常不受保護。但她表示，這仍可能與一項聯邦法律相抵觸，該法律規定你不能因用戶生成的內容起訴網站。

“如果明尼蘇達州想朝這個方向發展，他們需要對法案增加更多的清晰度，”昂格說。“他們需要縮小對去衣化和去衣化的定義。”

但梅伊·奎德表示，她認為她的立法在憲法上是穩固的，因為它是在規範行為，而不是言論。

“這種情況不能再繼續下去了，”她說。“這些科技公司不能繼續將這些技術無限制地投放到世界中而不承擔後果。這本身就是有害的。”

—

這篇文章引發了我對技術進步及其道德後果的深思。隨著AI技術的迅速發展，社會必須更加關注其潛在的負面影響，尤其是在個人隱私和尊嚴方面。立法者需要在促進技術創新與保護公民權益之間找到平衡，以確保不會因為科技的便利而犧牲個人的基本權利。這不僅是法律的挑戰，更是社會道德的考驗。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。