美國學校面臨新威脅：AI生成的“裸體”網站
在去年十月，一名14歲的女孩弗朗西斯卡·馬尼（Francesca Mani）在她的高中歷史課上，聽到了有些男孩擁有女性同學的裸體照片的傳聞。她很快發現，她的照片也在其中，但這些圖像是經過處理的——是利用所謂的“nudify”網站或應用程序，以人工智能技術將穿著完整衣物的真實照片轉換為看起來真實的裸體照片。在過去20個月裡，我們在美國的學校發現了近30起類似事件，全球範圍內的情況更是層出不窮。我們希望警告大家，部分內容可能會讓人感到不安，但我們認為揭露這些“nudify”網站是非常重要的。因為它們並不隱藏在黑暗網絡上，而是公開宣傳，易於使用，正如弗朗西斯卡·馬尼所發現的，對於阻止這些網站的行為並沒有太多實質性的措施。
安德森·庫珀（Anderson Cooper）：當你第一次聽到這個傳聞時，你不知道有照片——或者是你的照片嗎？
弗朗西斯卡·馬尼：不，我們不知道。我覺得那是我見過的最混亂的一天。
安德森·庫珀：在學校裡，當有人聽到一些風聲時，消息就會迅速傳開。
弗朗西斯卡·馬尼：就像是急速傳遞一樣。當有人聽到這件事時，大家都在想，“等等，AI？”沒有人會想到這會發生在自己身上。
當她發現自己和其他幾位女生在新澤西州的西菲爾德高中被針對時，弗朗西斯卡對“nudify”網站一無所知。根據後來由其他女孩的父母提起的訴訟，一名男孩將Instagram上的照片上傳到一個名為Clothoff的網站。我們提及這個網站是為了提高大家對其潛在危險的警覺。
目前有超過一百個這樣的“nudify”網站，只需簡單搜索即可找到。根據社交網絡分析公司Graphika的數據，Clothoff是最受歡迎的網站之一，上個月的訪問量超過300萬次。該網站現在也提供男性裸體的“nudify”服務，但女性裸體更受歡迎。Clothoff的網站問道：“想讓某人脫衣服嗎？”用戶可以上傳照片，或者獲得免費演示，畫面中一名女性的衣物在幾秒鐘內消失。我們將其模糊處理，但結果看起來非常真實。
弗朗西斯卡從未看到過她的照片被處理的樣子，但根據訴訟記載，至少有一名女孩的AI裸體照片是在Snapchat上分享，並被多名同學看到。更糟糕的是，弗朗西斯卡表示，她和其他女孩發現自己是受害者的時候，是在學校的公共廣播系統中被叫到校長辦公室。
弗朗西斯卡·馬尼：我覺得這是對我們隱私的一次重大侵犯，而那些壞人卻是私下被帶離課堂。當我離開校長辦公室時，我在走廊上看到一群男孩在嘲笑一群哭泣的女孩。那時我意識到，我應該停止哭泣，變得生氣，因為這是不可接受的。
當天下午，西菲爾德的校長向所有高中家長發送了一封電子郵件，告知他們“我們的一些學生利用人工智能從原始照片創造了色情圖像。”校長還表示，學校正在調查，“目前我們相信所有創建的圖像都已被刪除，並未被傳播。”
弗朗西斯卡的母親多羅塔（Dorota）也是一名教育工作者，對此並不信服。
安德森·庫珀：你覺得他們做得夠嗎？
多羅塔·馬尼：嗯，我不知道，安德森。你在電視行業工作。數位世界裡有什麼東西是能夠真正刪除的嗎？
安德森·庫珀：你覺得即使有人在某個地方刪除了東西，這些圖像也可能會在其他地方存在？
多羅塔·馬尼：誰打印過？誰截圖過？誰下載過？你真的無法完全消除它。
多羅塔表示她報警了，但並沒有提出任何指控。她對學校處理整個事件的方式感到震驚。
多羅塔·馬尼：校長告訴我，一名男孩只受到一天的停學處分，就這樣了。所以我問她這是否就是全部。還會有其他後果嗎？她說：“不，這是目前唯一的處理方式。”
學校區不會確認有關照片、涉事學生或任何紀律處分的細節。在給《60分鐘》節目的聲明中，學校總監表示，學區已修訂其騷擾、恐嚇和欺凌政策，以納入AI內容——這是馬尼一家花了幾個月時間促使學校官員採取的措施。
安德森·庫珀：你覺得女孩們最終付出了更大的代價嗎——
弗朗西斯卡·馬尼：是的，她們確實付出了。
安德森·庫珀：比起那個男孩或參與者——
弗朗西斯卡·馬尼：是的。
安德森·庫珀：——所付出的代價？
弗朗西斯卡·馬尼：因為她們只能生活在知道自己可能的圖像在互聯網上漂浮的現實中。她們只能面對男孩們所做的事情。
科琳娜·科爾泰（Kolina Koltai）已經研究Clothoff和其他“nudify”網站超過一年。她是國際調查組織Bellingcat的高級研究員，專注於AI的濫用問題。
科琳娜·科爾泰：這個網站一進去就說，你必須年滿18歲才能使用該網站。你不能在未經他人許可的情況下使用他們的照片。你不能使用未滿18歲人的照片。他們有沒有任何方法來實際檢查你是否——
科琳娜·科爾泰：沒有。
安德森·庫珀：——未滿18歲或年滿18歲？
科琳娜·科爾泰：你會看到，當我們點擊接受時，並沒有任何驗證。然後我們已經在這裡了。
安德森·庫珀：而且立刻就會出現非常露骨的照片。
科琳娜·科爾泰：然後他們有一個姿勢功能，這是他們的新設置之一，提供不同性別的姿勢，這是付費功能。
安德森·庫珀：哇。這太驚人了。
科琳娜·科爾泰：這是預覽。我們還沒…
Clothoff和其他“nudify”網站鼓勵客戶在社交媒體上推廣其服務，並且用戶經常展示他們最喜愛的AI裸體的前後對比照片。
科琳娜·科爾泰：我甚至在社交媒體平台上看到人們展示的前後照片，顯然是高中女孩的照片。我已經反向搜索過原始照片，這些照片是某位高中女孩的游泳比賽。你會看到，這些顯然是未成年人，而成人內容卻是在沒有同意的情況下製作的，並且還被發布在社交媒體上。
安德森·庫珀：我想很多父母會驚訝地發現，如果你在Instagram上發布了你孩子的照片——你的孩子可能會——一張裸體照片會出現在那裡。
科琳娜·科爾泰：是的。所以你有一個註冊…
在Clothoff上“nudify”一張照片是免費的……第一次。之後的費用從2美元到40美元不等。支付選項經常變化，但總有很多選擇。
科琳娜·科爾泰：它提供了從加密貨幣到多種信用卡的支付方式。我們這裡有PayPal。還有Google Pay。
安德森·庫珀：我想，這些公司不會高興看到他們的服務被這些網站使用。
科琳娜·科爾泰：是的，而且在許多情況下，這直接違反了他們的政策。
為了欺騙在線支付服務，科琳娜·科爾泰表示，Clothoff和其他“nudify”網站會將客戶的支付重定向到像這樣假裝出售花卉和攝影課程的虛假網站。
科琳娜·科爾泰：例如，如果你想通過PayPal支付。我們點擊這個，它會花一點時間。所以現在它正在重定向你。
安德森·庫珀：它是通過一個假網站進行重定向的——
科琳娜·科爾泰：一個假網站。
安德森·庫珀：——網站。
科琳娜·科爾泰：這樣一來，在PayPal那邊，它看起來像你可能正在購買任何東西，從摩托車到養蜂課程，或者滑輪溜冰課程。現在我們到了PayPal的界面，但我們可以看到這裡寫著，“取消並返回到innernookdesigns.motorcycles”。
安德森·庫珀：所以這就是PayPal被告知的請求收費的網站。
科琳娜·科爾泰：是的。
PayPal告訴我們，去年已經禁止Clothoff在其平台上運營，並在發現這些重定向網站後關閉其賬戶。問題是Clothoff經常會創建新的賬戶。
而且這並不是它依賴的唯一欺騙手段。該網站列出了一個名稱Grupo Digital，以及一個位於阿根廷布宜諾斯艾利斯的地址，這暗示Clothoff的所在地，但當我們派攝影機去時，發現那裡並沒有Grupo Digital。實際上這是個政治類YouTube頻道的辦公室，當我們敲門時……
……接待的員工表示她從未聽說過Clothoff。
接待員（西班牙語）：不，不，不，我們不這樣做，我們不是那家公司。
根據科琳娜·科爾泰的說法，Clothoff還編造了一位假首席執行官，還附上她所說的AI生成的頭像。
科琳娜·科爾泰：這裡面存在著非常不透明的問題。他們對於擁有者的身份並不透明，顯然是在掩飾他們的支付方式。但你看看這些大型網站的複雜程度，完全不同於某個人在地下室裡試圖自己設置的網站。這些網站的推出方式，以及過去一年以來的發展，並不是某人第一次嘗試這樣做。這並不是他們第一次設置一個複雜的網絡。
Clothoff在其網站上聲稱：“處理未成年人是不可行的。”我們向該網站所聲稱的新聞聯絡人發送了電子郵件，要求提供任何證據並回應一系列其他問題，但我們沒有得到回覆。
伊奧塔·索拉斯（Yiota Souras）：很多人可能會說，“這些圖像是假的。”但我們知道受害者會遭受——羞辱。他們會遭受——心理健康困擾和——名譽損害。在學校環境中這種影響會被放大，因為是他們的同齡人創造了這些圖像。因此會造成信心的喪失，信任的喪失。
伊奧塔·索拉斯是全國失踪與被剝削兒童中心的首席法律官。她的組織定期與科技公司合作，標記其網站上的不當內容。
安德森·庫珀：在至少三個案例中，Snapchat被報導用於傳播這些照片。在一個案例中，一位家長告訴我們，花了超過八個月的時間才將分享這些圖像的帳戶關閉。
伊奧塔·索拉斯：他們對受害者的響應，是我們在科技公司中看到的重複問題。
安德森·庫珀：所以這並不是一個父母——
伊奧塔·索拉斯：不。
安德森·庫珀：——通過Snapchat發送一條信息，“嘿——這正在發生。我孩子受到剝削了。”
伊奧塔·索拉斯：不。這完全不清楚為什麼這不是一個更快的過程。我們其實可以通知科技公司，並請他們將該內容刪除。
安德森·庫珀：根據你的經驗，他們會這樣做嗎？
伊奧塔·索拉斯：比個人打電話快得多。是的。這不應該是這樣，對吧？我的孩子在網上有剝削性或兒童色情圖像，父母不應該依賴於聯繫第三方，然後讓他們去聯繫科技公司。科技公司應該立即承擔責任，刪除該內容。
安德森·庫珀：為什麼他們不這樣做？
伊奧塔·索拉斯：因為我認為他們不這樣做沒有後果。
社交媒體公司因用戶上傳的照片而受到法律保護，這是伊奧塔·索拉斯所認為的過時法律。
伊奧塔·索拉斯：根據1996年的《通信體面法》第230條，當時的世界與現在截然不同。網絡平台對於用戶在其系統上發布的內容幾乎完全免責。第230條的保護實際上使得這種“nudify”應用程序和網站的鬆散生態系統得以存在，對兒童造成傷害。
我們詢問了Snapchat，關於那位家長告訴我們公司八個月未回應的情況。Snapchat的一位發言人告訴我們，他們無法找到她的請求，並表示：“我們有高效的機制來報告這類內容，”並補充說：“我們對這類內容零容忍”以及“…一旦報告，會迅速處理。”
根據司法部的說法，如果AI生成的未成年人裸體圖像描繪了被定義為“性暗示行為”的內容，那麼這些圖像在聯邦兒童色情法下是非法的。但索拉斯擔心，某些由“nudify”網站創建的圖像可能不符合該定義。
伊奧塔·索拉斯：目前，未滿18歲兒童的裸體圖像，如果不包含性暗示行為，是不違法的。這是一個亟需關閉的法律漏洞。
安德森·庫珀：法律上有哪些漏洞？
伊奧塔·索拉斯：目前，未滿18歲的裸體圖像如果不包含性暗示行為是合法的。這對於真實的兒童，特別是那些通過“nudify”應用生成的裸體圖像來說，是一個嚴重的漏洞。
在弗朗西斯卡·馬尼發現自己成為目標的一年後，她和她的母親敦促學校實施有關AI的政策，並與國會成員合作，試圖通過一些聯邦法案。
《Take It Down Act》由參議員特德·克魯茲和艾米·克洛布查共同發起，這個月已通過參議院，並正等待眾議院投票。該法案將對分享AI裸體圖像的行為設立刑事處罰，並要求社交媒體公司在收到請求後48小時內刪除照片。
安德森·庫珀：學校並不知道如何處理這個問題。警方在許多情況下也不會採取行動。而這些網站，我想，它們可能賺取了數百萬美元。因此，這能夠解決嗎？
伊奧塔·索拉斯：絕對能夠。如果我們有適當的法律，我們就能夠設立刑事後果，首先是對違法者的威懾，然後如果他們仍在使用這些應用程序，將會承擔法律責任。我們將為受害者提供民事救濟。學校將會擁有應對的流程。調查員和執法部門將會有調查的路線圖，知道該提出什麼指控。但我們還有很長的路要走。我們只需要法律到位，其他一切都會隨之而來。
如果你或你認識的人需要幫助，請聯繫全國失踪與被剝削兒童中心，電話：1-800-THE-LOST或訪問www.ncmec.org。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
