青少年受害者促請國會通過“拿下它法案”以應對AI生成的“深偽色情”
作者：Jim Axelrod
2024年12月18日 / 美國東部時間晚上7:47 / CBS新聞
法案針對AI生成的“深偽色情”內容
安娜·麥卡達姆斯（Anna McAdams）一直密切關注她15歲女兒艾利斯頓·貝瑞（Elliston Berry）的網上生活。因此，當15個月前，在德克薩斯州阿萊多的返校舞會後的那個星期一早上發生的事情時，她難以接受。
一位同學從艾利斯頓的Instagram上拿了一張照片，然後利用人工智能程序將她的衣服“去掉”，並將這張經過數位處理的圖片在Snapchat上傳播。
“她走進我們的臥室哭著說，‘媽媽，你不會相信剛剛發生了什麼’，”麥卡達姆斯說。
去年，網上出現了超過21,000個深偽色情視頻，比前一年增長了460%以上。這些經過操控的內容在互聯網上迅速蔓延，許多網站提供令人不安的服務，比如某個網站詢問：“想讓人脫衣服嗎？”
“我當時正在準備PSAT考試和排球比賽，最不想擔心的就是我的假裸體在學校流傳。那些圖片在Snapchat上流傳了九個月，”艾利斯頓說。
在舊金山，首席副市檢察官伊冯·梅爾（Yvonne Mere）開始聽到與艾利斯頓類似的故事，這讓她深有感觸。
“這可能就是我的女兒，”梅爾說。
舊金山市檢察官辦公室目前正在起訴16個創建“深偽裸體”網站的擁有者，這些網站利用人工智能將成年人和兒童的非露骨照片轉變為色情內容。
“這個案件不是關於科技，也不是關於人工智能，而是性虐待，”梅爾強調。
根據起訴書，這16個網站在僅僅六個月內就收到了2億次訪問。
市檢察官大衛·趙（David Chiu）表示，這16個網站只是開始。
“我們知道至少還有90個這樣的網站。因此，這是一個龐大的範疇，必須加以制止，”趙說。
德克薩斯州共和黨參議員泰德·克魯茲（Ted Cruz）與明尼蘇達州民主黨參議員艾米·克洛布查（Amy Klobuchar）共同支持另一項攻擊措施——“拿下它法案”。該法案要求社交媒體公司和網站刪除非自願的、由AI生成的色情圖片。
“這對任何科技平台來說都構成法律義務——你必須立即刪除這些內容，”克魯茲說。
該法案本月已在參議院通過，並附加在一項更大的政府撥款法案上，等待眾議院投票。
Snap的一位發言人對CBS新聞表示：“我們非常關心社區的安全和福祉。分享裸體圖片，包括未成年人的圖片，無論是真實的還是AI生成的，都是我們社區準則的明確違規行為。我們有有效的機制來報告此類內容，因此我們對聽到家庭的故事感到非常失望，他們覺得自己的擔憂沒有得到重視。我們對此類內容採取零容忍政策，並且正如我們最新的透明報告所示，一旦報告，我們會迅速採取行動。”
艾利斯頓表示，她現在專注於當下，並呼籲國會通過這項法案。
“我無法回到過去改變他所做的事情，但我可以防止這種事發生在其他人身上，”艾利斯頓說。
評論
這篇報導揭示了當前網絡環境中，青少年面臨的潛在危險，特別是在社交媒體和AI技術日益盛行的背景下。深偽技術的濫用不僅侵犯了個人的隱私權，更對年輕人的心理健康造成嚴重影響。艾利斯頓的故事是許多家庭的縮影，反映出社會對於這一問題的關注和無力感。
國會推動的“拿下它法案”是朝著正確方向邁出的一步，但其能否有效執行仍然是個疑問。面對這樣的挑戰，社會各界，包括科技公司、立法者和教育機構，必須攜手合作，建立更安全的網絡環境，保護年輕一代免受數位世界的侵害。這不僅僅是法律的問題，更是道德的責任。我們需要更深入的討論和行動，以確保未來的網絡空間不再成為侵害和剝削的溫床。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
