TikTok上AI生成的性暗示兒童影片獲得數百萬點讚，研究揭露平台執法漏洞
據非牟利組織Maldita.es最新研究發現，TikTok上有多個帳戶發布AI生成的影片，內容顯示疑似未成年少女穿著性暗示性服裝或擺出挑逗姿勢，這些影片累積了數百萬次點讚，儘管TikTok明文禁止此類內容。該組織指出，這些帳戶擁有數十萬粉絲，並且許多影片下的留言中包含引導用戶加入Telegram私密群組的連結，這些群組涉嫌販售兒童色情內容。
Maldita.es助理主任兼公共政策主管Carlos Hernández-Echevarría表示，截至12月10日，該組織利用TikTok舉報工具標記了15個相關帳戶，但其中13個帳戶仍活躍。TikTok回應指，14個帳戶未違反平台規定，僅限制了一個帳戶。該組織對此提出申訴後，TikTok在短短30分鐘內維持原判。對於被舉報的60條影片，TikTok最初只刪除了14條，之後研究人員申訴再多刪除3條，其他影片依舊存在，包括一些AI生成的年輕女孩身穿泳衣或內衣、甚至在淋浴間的影片。
Maldita.es指出，有些帳戶在個人簡介自稱是「美味高中女生」或「青少年模特兒」，影片即使是較為含蓄，如年輕女孩舔冰淇淋，也充斥粗俗的性暗示留言。部分影片利用TikTok的「AI Alive」功能將靜態AI圖像動畫化，其他則是用外部AI工具製作。
該組織發現，留言中有連結指向Telegram私密聊天群，販售價格從50至150歐元不等的AI生成兒童色情影片和圖片。Maldita.es已將相關網站和Telegram帳戶通報西班牙警方。Telegram方面回應，平台嚴格執行零容忍政策，會掃描公開媒體防止兒童性虐待材料（CSAM）擴散，並移除超過90萬個相關公開群組和頻道，但對於加密私密群組無法主動監控，會接受全球非政府組織的舉報進行執法。
TikTok方面則表示，平台對涉及青少年的性虐待或剝削內容採取零容忍政策，社群規範明確禁止展示或暗示未成年人性行為的內容，包括AI生成的影像及性化未成年身體的任何表現。公司表示，結合視覺、音頻和文字工具與人工審核，2025年4月至6月期間已主動刪除超過1.89億條影片，封禁超過1.08億個帳戶，並且99%涉及裸體及未成年暴露的違規內容均被主動移除，AI生成內容違規影片則有97%被主動刪除。
然而，Maldita.es的報告凸顯TikTok在執行規範方面存在明顯漏洞，尤其是對AI生成的性暗示未成年內容未能有效過濾。Hernández-Echevarría批評：「沒有人會覺得這些影片不噁心，大家都想看到它們被移除。」
此外，這份報告發表前不久，英國非牟利組織Global Witness亦披露TikTok曾向13歲以下用戶推送高度性化的搜尋建議，令平台保護未成年用戶的能力再度備受質疑。
—
評論與啟示
這份報告揭示了AI技術在內容創作上的雙刃劍效應──一方面帶來創新與娛樂，另一方面卻成為兒童性剝削的新溫床。TikTok作為全球最受青少年歡迎的社交平台之一，面對AI生成內容的監管挑戰，顯然尚未建立起足夠嚴密和敏捷的過濾機制。平台的「零容忍」政策在實際執行中顯得力不從心，且申訴程序似乎缺乏透明度和公正性，令不法內容得以長時間存在。
更令人擔憂的是，這類內容不僅在TikTok內流傳，留言區還引導用戶進入Telegram等私密社交空間，形成跨平台的兒童剝削網絡，增加執法難度。這反映出單靠平台自律已無法應對日益複雜的網絡安全問題，亟需政府、科技公司及非政府組織協作，建立跨平台、跨國界的監管與打擊機制。
此外，AI工具的普及令製作此類非法內容門檻大幅降低，未來監管政策必須同步跟進技術發展，制定具體而明確的AI內容規範及審查標準。教育層面亦不可忽視，應加強青少年及家長對網絡風險的認知，提升防範能力。
總括而言，這起事件是警鐘，提醒我們在享受AI帶來便利的同時，不能忽視其潛在的社會負面影響。科技創新必須伴隨嚴謹的倫理審視和法律監管，才能真正保障未成年人的安全與權益。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
