
十萬人使用Telegram機械人製作AI射精影片,隨意生成任何人非自願色情內容
一個能夠生成AI影片的開放模型,上月推出後迅速被數以萬計用戶利用,製作非自願的真人人物色情影片。
這個Telegram機械人專門生成男性射精於女性面部的AI短片,現時每月活躍用戶超過十萬人。雖然Telegram上有不少製作非自願色情內容的機械人,但這個機械人因在短短數星期內吸引了115,016名用戶而引起關注,更因為它讓尖端的AI影片生成技術變得廉價且容易被用於惡意用途。它的流行亦反映出科技巨頭釋出的「開放」AI工具,如何快速被濫用。
這個機械人的龐大用戶群和迅速增長速度,顯示這類濫用工具正迅速在Telegram及相關社群中蔓延。儘管這類內容違反Telegram的服務條款,但Telegram依然是此類濫用行為的主要平台之一。
我在另一個專門製作及分享AI生成非自願色情內容的Telegram頻道中發現這個機械人的推廣,該頻道約有五萬名成員。正如我早前報導,二月底中國科技巨頭阿里巴巴發布了一款名為Wan 2.1的開放式AI影片生成模型,隨即被迅速改裝成多款專門用於製作色情影片的AI模型。阿里巴巴發布Wan 2.1後24小時內,這些色情AI模型便開始出現在Civitai這個分享修改AI模型的網站上,而多次調查亦揭露該平台被廣泛用於非自願內容的製作。
正如我三月報導,Telegram頻道用戶自2024年起一直分享利用多款蘋果App Store上的應用程式製作的非自願AI影片,但自Wan 2.1發布後,越來越多用戶分享他們聲稱使用改裝版Wan 2.1模型(在Civitai分享)的非自願AI影片。
在該Telegram頻道中,AI生成的男性射精於名人女性面部的影片尤其受歡迎,原因在於這類影片較易製作且更具說服力。根據頻道內多位用戶分享的製作教學,過程涉及使用Civitai的圖像轉影片AI模型,於本地或雲端運行。這類模型允許用戶輸入單張靜態圖像,再透過文字提示,將圖像動畫化。
四月中,類似的AI生成影片開始在該Telegram頻道大量流傳,並帶有一個4月18日註冊的網址水印,該網址指向擁有115,016用戶的Telegram機械人。另一個名稱及標誌幾乎相同的Telegram頻道在四月曾被封鎖,原因是違反服務條款,但該機械人當時仍在運作。
加入該機械人頻道的用戶可獲得一個免費點數,用以生成一條影片。用戶只需上傳一張靜態圖像,機械人便會在數分鐘內完成影片製作。測試時,我排隊號碼為172,機械人花了約20分鐘生成影片。用戶亦可購買額外點數,購買量越大單價越便宜,例如4個點數售4.6美元,240個點數售195美元。若以加密貨幣付款,更可享八折優惠。
這類AI射精機械人是「tributes」文化的進化版,後者指的是有人實際在女性照片上射精,並分享相關影片。被此類「tributes」針對的女性曾表示,這種行為最輕微令人不安,最嚴重則屬嚴重騷擾甚至威脅暴力與強姦。
我不清楚該機械人如何在短時間內迅速擴張,但值得注意的是,它的用戶規模已接近我最初發現它的Telegram頻道的兩倍。我亦發現帶有其水印的影片被上傳至色情影片網站,點擊量達數千次,還有另一個專門製作韓國流行歌手非自願AI色情影片的Telegram頻道。一名用戶甚至將這些影片標註為「高中暗戀對象」,並透露裡面是他現實生活中認識的女性,甚至在影片描述中指示如何找到這些女性的真實Instagram帳號。
儘管非自願AI生成的成人內容違反Telegram政策,且該公司曾對相關頻道及機械人採取行動,但此類內容在平台上依然普遍存在。我在研究此文時,快速搜尋發現多個此類機械人,包括一個以「脫衣」為名的機械人,月活躍用戶超過17萬。
Telegram和阿里巴巴均未回應置評請求。
—
評論與啟示
這起事件揭示了AI技術在開放共享與濫用之間的巨大矛盾。阿里巴巴發布的開放式AI模型本意在於技術創新和推廣,但其迅速被改造用於製作非自願色情影片,暴露了監管和倫理規範的嚴重缺失。Telegram作為一個去中心化且相對寬鬆的通訊平台,成為這類非法內容的溫床,反映出平台在內容管控上的無力與矛盾。
更令人擔憂的是,這些AI影片不僅侵犯受害者的隱私和人格尊嚴,還可能引發更廣泛的社會問題,如性騷擾威脅和群體暴力。AI生成技術的便捷與低成本,使得這種侵害行為易於大規模擴散,給受害者帶來前所未有的心理創傷和社會壓力。
這提醒我們,隨著AI技術飛速發展,相關的法律、平台規範及社會倫理必須同步跟進。平台應加強技術手段以辨識和封鎖此類濫用內容,同時政府需制定更具約束力的法律來懲治非自願色情內容的製作與散播。此外,公眾教育也不可忽視,增強大眾對AI濫用風險的認知,共同抵制這種以科技為工具的性暴力。
香港作為一個高度資訊發達的社會,亦應關注此類問題的本地風險,並推動建立更完善的防護機制,保障市民免受類似侵害。AI本應為人類帶來便利與進步,但若監管不力,技術反而可能成為加劇社會不公和人權侵犯的利器。如何平衡技術創新與倫理監管,將是未來AI發展不可回避的重大課題。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。