學校面臨新威脅：使用AI創建的“脫衣”網站造成真實傷害
作者：安德森·庫珀
在去年十月，一名14歲的女孩弗朗西斯卡·馬尼在她的高中歷史課上聽到謠言，說一些男孩擁有女同學的裸體照片。她很快發現自己的照片也在其中，但這些圖片是經過處理的——使用人工智能創建的“脫衣”網站或應用，將某人的全身衣著照片轉變為看起來非常真實的裸體照片。過去20個月內，我們在美國的學校中發現了近30起類似事件，世界各地還有更多。我們想警告大家，您將聽到和看到的某些內容令人不安，但我們認為揭露這些“脫衣”網站是重要的，因為它們並不隱藏在暗網中，而是公開廣告，易於使用，正如弗朗西斯卡·馬尼所發現的，對於制止它們的行為幾乎沒有什麼措施。
安德森·庫珀：當你第一次聽到這個謠言時，你不知道有照片——或者你自己的照片？
弗朗西斯卡·馬尼：不。我們不知道。我覺得那是我見過的最混亂的一天。
安德森·庫珀：在學校裡，有人聽到了一些信息，它就像野火一樣蔓延。
弗朗西斯卡·馬尼：就像快速發射一樣。它迅速傳遍每個人。因此當有人聽到——聽到這個時候，就會想，“等等。像是AI？”沒有人會想這會發生在自己身上。
弗朗西斯卡·馬尼在發現自己和新澤西州西菲爾德高中其他幾名女孩成為目標時，對“脫衣”網站一無所知。根據後來由其中一名女孩通過她的父母提起的訴訟，一名男孩將Instagram上的照片上傳到一個名為Clothoff的網站。我們公開這個網站的名稱是為了提高對其潛在危險的認識。
目前有超過一百個這樣的“脫衣”網站——只需快速搜索即可找到它們。Clothoff是最受歡迎的網站之一，根據社交網絡分析公司Graphika的數據，上個月訪問量超過300萬次。該網站現在也提供“脫衣”男性的服務，但女性裸體的需求遠遠更高。Clothoff的網站上問道：“有需要脫衣服的人嗎？”用戶可以上傳照片——或者獲得免費演示，其中一名女性的圖片顯示穿著衣服，然後幾秒鐘後，她的衣服就消失了。我們將其模糊處理，但結果看起來非常真實。
弗朗西斯卡·馬尼從未看到過對她照片的處理，但根據該訴訟，至少有一名女孩的AI裸體照片在Snapchat上分享，並被多名學生看到。更糟糕的是，弗朗西斯卡說，她和其他女孩在學校的公共廣播系統上被叫到校長辦公室時才發現自己是受害者。
弗朗西斯卡·馬尼：我覺得這是對我們隱私的重大侵犯，而壞人卻被私下帶出課堂。當我走出校長辦公室時，我經過一個走廊，看見一群男孩在嘲笑一群哭泣的女孩。那時我意識到我應該停止哭泣，變得憤怒，因為這是不可接受的。
那天下午，西菲爾德的校長發送了一封電子郵件給所有高中家長，告知他們“我們的一些學生使用人工智能從原始照片創建了色情圖片。”校長還表示，學校正在調查，“目前我們相信所有創建的圖片都已被刪除，並未被傳播。”
弗朗西斯卡的媽媽多羅塔也是一名教育工作者，對此並不信服。
安德森·庫珀：你覺得他們做得夠嗎？
多羅塔·馬尼：我不知道，安德森。你在電視上工作，數位世界裡有什麼東西是被刪除的嗎？
安德森·庫珀：你覺得即使有人在某處刪除東西，誰知道這些圖片可能在哪裡？
多羅塔·馬尼：誰打印了？誰截圖了？誰下載了？你真的無法完全抹去它。
多羅塔表示她報告了警方，但沒有提出任何指控。她對學校對整個事件的處理感到震驚。
多羅塔·馬尼：校長告訴我，一名男孩只被停課一天，僅此而已。所以我問她這是否就是全部。會有其他後果嗎？她說：“不，這是目前所有的處理。”
學區不會確認有關照片、涉事學生或任何紀律處分的具體細節。在給《60分鐘》的聲明中，學區超級intendent表示，該學區已修訂其騷擾、恐嚇和欺凌政策，以納入AI內容，而馬尼一家表示他們已經花了幾個月的時間敦促學校官員這樣做。
安德森·庫珀：你覺得女孩們最終付出的代價更大嗎？
弗朗西斯卡·馬尼：是的，她們付出的代價更大。
安德森·庫珀：比起這名男孩或參與者？
弗朗西斯卡·馬尼：是的。
安德森·庫珀：她們必須面對這種可能的情況，自己的圖片在互聯網上流傳。她們只能承擔男孩們所做的事情。
科琳娜·科爾泰已經對Clothoff和其他“脫衣”網站進行了超過一年的調查。她是Bellingcat的一名高級研究員，專門研究AI的濫用。
科琳娜·科爾泰：這個網站，您一到這裡，就會看到，必須年滿18歲才能使用該網站。您不能在未經他人允許的情況下使用他們的照片。您不能使用未滿18歲的人的照片。他們有什麼方法可以實際檢查您是否年滿18歲？
科琳娜·科爾泰：沒有。
安德森·庫珀：您會看到當我們點擊接受時，沒有驗證。現在我們已經在這裡了。
安德森·庫珀：而且立刻，您就會看到非常明確的照片。
科琳娜·科爾泰：然後他們有姿勢功能，這是他們的新設置之一，提供不同性別的姿勢，這是高級功能。
安德森·庫珀：哇。
科琳娜·科爾泰：這是預覽。我們還沒有……
Clothoff和其他“脫衣”網站鼓勵客戶在社交媒體上推廣他們的服務，用戶經常在社交媒體上展示他們喜愛的AI裸體照片的前後對比。
科琳娜·科爾泰：我甚至在社交媒體平台上看到人們展示明顯是高中女孩的前後照片。我已經進行了反向圖像搜索，這些照片顯然是某位高中女孩的游泳比賽。您會看到這些明顯是未成年人，並且成人內容在未經同意的情況下被製作出來，然後也被發布在社交媒體上。
安德森·庫珀：我想很多父母會驚訝地發現，如果您在Instagram帳戶上發布孩子的照片——您的孩子可能會出現在那裡——您孩子的裸體照片。
科琳娜·科爾泰：是的。而且您有一個註冊……
在Clothoff上“脫衣”一張照片是免費的……第一次。之後的費用從2美元到40美元不等。支付選項經常變化，但總有很多選擇。
科琳娜·科爾泰：它給我提供的支付方式包括使用信用卡的加密貨幣、各種不同的信用卡。我們還有PayPal。Google Pay。
安德森·庫珀：我想，一些這些公司可能對他們的服務被這些網站使用並不高興。
科琳娜·科爾泰：是的。在許多情況下，這直接違反了他們的政策。
為了欺騙在線支付服務，科琳娜·科爾泰表示，Clothoff和其他“脫衣”網站會將客戶的支付重定向到假網站，這些假網站假裝在出售花卉和攝影課程。
科琳娜·科爾泰：例如，您想通過PayPal付款。因此我們點擊這個，這需要一秒鐘。現在它正在重定向您。
安德森·庫珀：它是通過假網站重定向的。
科琳娜·科爾泰：一個假網站。
安德森·庫珀：所以在PayPal那一端，看起來您可能在購買任何東西，從摩托車到養蜂課程或滑輪溜冰課程。現在我們已經到達了PayPal的屏幕。但我們可以在這裡看到，它顯示“取消並返回innernookdesigns.motorcycles”。
安德森·庫珀：所以這是PayPal被告知的請求收費的網站。
科琳娜·科爾泰：是的。
PayPal告訴我們，它在一年前禁止了Clothoff使用其平台，並在找到這些重定向網站時關閉其帳戶。問題是Clothoff經常會創建新的。
而且這並不是它依賴的唯一欺騙。它的網站列出了一個名為Grupo Digital的名稱，並提供了一個位於阿根廷布宜諾斯艾利斯的地址，暗示Clothoff的根據地，但當我們派出攝影機時，並沒有Grupo Digital的存在。結果發現這是個政治類YouTube頻道的辦公室，當我們敲門時……
……回答的員工表示她從未聽說過Clothoff。
員工（用西班牙語）：不，不，不，我們不這樣做，我們不是那家公司。
根據科琳娜·科爾泰的說法，Clothoff還虛構了一名假CEO，並提供了一張她所說的AI生成的頭像。
科琳娜·科爾泰：這裡面有一種固有的陰暗性。他們對擁有者的透明度不高。他們顯然在掩蓋他們的支付方式。但是如果你看看這些大型網站的複雜性，這完全不同於某個人在地下室設置的網站，這是他第一次嘗試。當這些網站啟動，以及在過去一年中的發展方式，這並不是某個人第一次嘗試。這並不是他第一次設置一個複雜的網絡。
Clothoff在其網站上聲稱：“處理未成年人是不可能的。”我們通過電子郵件聯繫了該網站所稱的新聞聯絡人，詢問有關此事的任何證據並回應其他問題，但沒有得到回覆。
伊奧塔·索拉斯：很多人可能會說，“這些圖片是假的。”但我們知道受害者會遭受——羞辱。他們會遭受——你知道，心理健康困擾和——名譽損害。在學校環境中，這種情況被放大，因為這些圖像是由他們的同齡人創造的。因此，信心的喪失，信任的喪失。
伊奧塔·索拉斯是全國失踪和被剝削兒童中心的首席法律官。她的組織定期與科技公司合作，標記其網站上的不當內容。
安德森·庫珀：至少在三個案例中，Snapchat被報導用於傳播這些照片。在一個案例中，一位家長告訴我們，花了超過八個月才讓分享圖片的帳戶被關閉。
伊奧塔·索拉斯：他們對受害者的反應，這是我們在科技公司中經常看到的重複問題。
安德森·庫珀：所以這對於一位父母來說並不容易——
伊奧塔·索拉斯：不。
安德森·庫珀：——發送一個請求給Snapchat，“嘿——這正在發生。我的孩子被剝削了。”
伊奧塔·索拉斯：不。這完全不清楚為什麼這不是一個更快的過程。我們實際上可以通知科技公司，並要求他們刪除該內容。
安德森·庫珀：根據你的經驗，他們會這樣做嗎？
伊奧塔·索拉斯：比起個人報告要快得多。是的。這不是應有的情況。對於一位孩子在網上出現剝削性或兒童色情圖片的父母來說，他們不應該依賴第三方來聯系科技公司。科技公司應該立即負責刪除該內容。
安德森·庫珀：為什麼他們不這樣做？
伊奧塔·索拉斯：因為我認為他們沒有承擔責任。
社交媒體公司因為用戶在其平台上發布的照片而受到法律保護，這是伊奧塔·索拉斯所認為的過時法律的結果。
伊奧塔·索拉斯：根據1996年的《通信品德法》第230條，當時的世界非常不同。線上平台對用戶在其系統上發布的內容幾乎完全免責。第230條的保護實際上使得這一非常寬鬆的生態系統得以存在，這使得“脫衣”應用和網站對兒童造成傷害。
我們詢問了Snapchat關於那位家長的情況，她告訴我們該公司在八個月內沒有回應。Snapchat的發言人告訴我們，他們無法找到她的請求，並表示：“我們有高效的機制來報告這種內容”，並補充道：“我們對這種內容有零容忍政策”，“……一旦報告，我們會迅速處理。”
根據美國司法部的說法，未成年人AI裸體照片在聯邦兒童色情法下是非法的，若其描繪的內容被定義為“性明示行為”。但索拉斯擔心，某些由“脫衣”網站創建的圖片可能不符合該定義。
伊奧塔·索拉斯：目前，未滿18歲的孩子的裸體圖片如果不包含性明示行為是合法的。這對於真正的孩子來說是一個嚴重的法律漏洞，對於由“脫衣”應用創建的裸體孩子圖片來說也是如此。
弗朗西斯卡·馬尼在發現自己成為目標的一年裡，她和她的母親一直在敦促學校制定有關AI的政策，並與國會成員合作，試圖推動多項聯邦法案的通過。
由參議員特德·克魯茲和艾米·克洛布查共同發起的《刪除法案》本月在參議院通過，目前正在等待眾議院投票。該法案將對分享AI裸體圖片的行為設立刑事處罰，並要求社交媒體公司在收到請求後48小時內刪除圖片。
安德森·庫珀：學校真的不知道如何處理這個問題。警方在許多情況下也沒有做太多。而這些網站，我想，賺取了數百萬美元。所以這能解決嗎？
伊奧塔·索拉斯：絕對可以。如果我們有適當的法律，我們將會有刑事後果，首先是對違法者的威懾，然後如果他們仍在使用這些應用程序，則會承擔責任。我們會有民事救濟給受害者。學校會有應對程序。調查人員和執法部門會有調查的路線圖，知道應該提出什麼指控。但我們還有很長的路要走。我們只需要法律到位，其他一切都會隨之而來。
如果您或您認識的人需要幫助，請聯繫全國失踪和被剝削兒童中心，電話：1-800-THE-LOST或訪問www.ncmec.org。
—
這篇報導揭示了現今社會中AI技術的濫用問題，尤其是對青少年造成的傷害。隨著科技的進步，這類“脫衣”網站的興起不僅使得青少年面臨隱私侵犯的風險，也引發了社會對於法律和道德的深刻反思。學校、家長以及社會各界需要更加重視這一問題，加強對青少年的教育和保護，並促進法律的完善，以確保未來不再出現類似的悲劇。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
