報告揭露TikTok上出現數千段AI生成性化未成年少女影片
西班牙事實核查組織Maldita最近發表報告，指出TikTok平台上有超過20個帳號，發布了超過5,200段展示年輕女孩穿著比堅尼、校服或緊身衣服的AI生成影片，這些影片違反TikTok禁止的內容政策，但仍然獲得數百萬的點讚和分享。這些帳號合計擁有超過55萬粉絲，影片總點讚數接近600萬。
報告指出，這些影片下方的留言區常附有指向Telegram平台的連結，該平台上存在販賣兒童色情內容的群組。Maldita已向西班牙警方舉報了12個相關的Telegram群組。這些TikTok帳號更透過訂閱服務販售AI生成的影片和圖片，從中獲利，而TikTok則抽取約五成收益。
此報告發表之際，全球多國如澳洲、丹麥及歐盟正陸續推行或討論針對16歲以下用戶的社交媒體限制，意在保護青少年網絡安全。
TikTok規定內容創作者須標示影片是否使用AI技術製作，且若內容被認定「對個人有害」可被平台移除。惟Maldita發現大部分涉事影片未有任何AI標記，只有部分帶有TikTok自動生成的「AI Alive」浮水印，該功能會將靜態圖像轉為影片。
Telegram及TikTok均回應，強調致力打擊兒童性虐待內容。Telegram表示會掃描公開媒體與已移除的兒童性虐待資料比對，防止再度擴散，並於2025年已刪除超過90.9萬個含此類內容的群組及頻道。TikTok則聲稱99%的有害未成年人內容可自動移除，且97%的涉AI違規內容能主動刪除，並會即時封禁分享兒童性剝削內容的帳號，並向美國國家失蹤及被剝削兒童中心報告。據TikTok透露，2025年4至6月期間已刪除逾1.89億段影片及封禁逾1.08億帳號。
—
評論與啟發
這則報告揭示了AI技術在社交媒體上被濫用的嚴峻問題，尤其是涉及未成年人的性化內容，這不僅觸及法律底線，更對社會道德及兒童保護提出重大挑戰。TikTok作為全球最大短影片平台之一，面對海量用戶生成內容，如何有效辨識並剔除這類AI生成的有害影片，是其技術與管理能力的試金石。
值得注意的是，這些影片往往缺乏AI標示，顯示現有的監管機制尚未完善，且利用訂閱機制牟利的現象，反映平台商業模式存在漏洞，可能助長非法內容的傳播及盈利。Telegram等通訊應用雖然加強監控，但私密群組的存在仍為執法帶來難度。
此問題亦凸顯全球對青少年網絡保護規範的必要性與緊迫性。除了技術層面，法律、政策與社會教育應同步進行，加強跨國合作及數位素養教育，才能從根本上減少未成年人遭受這類內容侵害的風險。
香港作為國際都會，亦應密切關注類似問題，推動完善網絡安全及兒童保護政策，並督促本地社交媒體平台加強監管措施，保障青少年健康成長的網絡環境。用戶教育方面亦不可忽視，提升公眾識辨虛假及有害內容的能力，是防範網絡風險的重要一環。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
