加州新法下，警方逮捕著名漫畫家因AI生成的兒童性虐待影像
去年年底，加州通過了一項針對擁有或分發由人工智能生成的兒童性虐待材料（CSAM）的法律。該法律於1月1日生效，薩克拉門托警方昨日宣布已經逮捕了首名嫌疑人——一位49歲的普利策獎得主漫畫家達林·貝爾（Darrin Bell）。
這項新法律明確指出，AI生成的CSAM是有害的，即使沒有實際受害者。法律部分指出，這是因為各類CSAM可能被用來引導兒童認為與成年人進行性行為是正常的。然而，該法律特別批評AI生成的CSAM，因為生成式AI系統的運作方式。
法律中提到：“利用AI創作CSAM本質上對兒童有害，因為AI所使用的機器學習模型是基於包含成千上萬名已知CSAM受害者的數據集進行訓練的，這樣會對這些真實的孩子造成再次受害，因為他們的肖像被用來生成AI CSAM影像，這一過程將無限延續。”
法律將“人工智能”定義為“一種工程或基於機器的系統，根據其自主程度的不同，能夠從接收的輸入中推斷出生成輸出以影響物理或虛擬環境的明確或隱含目標。”
在接到全國失踪和被剝削兒童中心的舉報後，薩克拉門托谷地互聯網針對兒童犯罪（ICAC）工作組最近對18個在線分享的CSAM文件展開調查。進一步調查顯示，分享者實際上提供了134個CSAM視頻，警方聲稱能夠追溯這些文件至當地居民、知名漫畫家達林·貝爾的帳號。
本週三，警方在貝爾的家中執行了搜索令；他們聲稱已經恢復了“與案件相關的證據，以及計算機生成的/AI CSAM”。貝爾被逮捕，保釋金為100萬美元。警方在聲明中指出，“這起案件是薩克拉門托谷地ICAC第一次以擁有計算機生成的/AI CSAM控告嫌疑人。”
貝爾長期以來一直是一名漫畫家，2019年因其“美麗而大膽的社論漫畫，直面影響被剝奪權益社區的問題，揭露特朗普政府周圍的謊言、虛偽和欺詐”而獲得普利策獎。
根據當地NBC的報導，貝爾“表示他的工作目標是讓人們更加尊重人類尊嚴。”
這起事件引發了對於法律如何適應技術迅速發展的思考。隨著AI技術的進步，許多法律框架可能無法跟上其變化的速度，尤其是在涉及道德和倫理的問題上。AI生成的內容不僅挑戰了法律的界限，也引發了關於創作自由與保護社會弱勢群體之間的激烈辯論。這一案件可能會成為未來法律發展的指標，促使社會重新審視如何有效地管理和規範新技術的使用。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
