數百萬人正在Telegram上使用虐待性的AI“脫衣”機器人
在2020年初，深偽專家Henry Ajder揭露了首批使用人工智能“脫衣”照片的Telegram機器人之一。當時，Ajder回憶說，這個機器人已經被使用來生成超過10萬張露骨照片，包括兒童的照片，這標誌著深偽技術帶來的恐怖時刻。自那時以來，深偽技術變得更加普遍、更具破壞性且更容易製作。
現在，《WIRED》對涉及非自願露骨內容的Telegram社區進行的審查發現，至少有50個機器人聲稱能夠只需幾次點擊就創建露骨照片或視頻。這些機器人的功能各不相同，有許多聲稱能夠從照片中“移除衣服”，而其他一些則聲稱可以創建描繪人們進行各種性行為的圖像。
根據《WIRED》對每個機器人提供的統計數據的審查，這50個機器人總共列出了超過400萬的“月活躍用戶”。其中兩個機器人各自列出了超過40萬的月活躍用戶，而另有14個機器人列出了超過10萬的成員。這些發現顯示了露骨深偽創建工具的普及程度，並強化了Telegram作為其中一個最顯著的平台。然而，這個快照主要涵蓋了英語機器人，可能只是一小部分Telegram上的深偽機器人。
Ajder表示：“我們談論的是使用和創建這種內容的人數顯著增加，這真的令人擔憂，這些工具正在毀掉年輕女孩和女性的生活，並且它們在世界上最大的應用程序之一上仍然如此容易獲得和查找。”
自2017年底首次出現以來，非自願露骨深偽內容（通常稱為非自願親密影像濫用，NCII）激增，生成式AI的進步幫助了近期的增長。在互聯網上，一堆“脫衣”和“脫衣”網站與更先進的工具和Telegram機器人並存，並被用來針對世界各地數以千計的女性和女孩，從意大利總理到南韓的學校女孩。在最近的一項調查中，報告稱有40%的美國學生在過去一年中知道與他們的K-12學校相關的深偽。
《WIRED》識別的Telegram機器人由至少25個相關的Telegram頻道支持，這些頻道共有超過300萬成員。這些Telegram頻道通知人們有關機器人的新功能和可以購買的“代幣”的特別優惠，並且經常作為人們在機器人被Telegram移除後找到新機器人的地方。
在《WIRED》聯繫Telegram詢問其是否允許在其平台上創建露骨深偽內容後，該公司刪除了《WIRED》識別的75個機器人和頻道。該公司沒有回應一系列問題，也沒有評論為何刪除這些頻道。
後來由《WIRED》識別的其他非自願深偽Telegram頻道和機器人顯示了問題的規模。幾個頻道的擁有者發布消息稱，他們的機器人被移除，其中一個說：“我們明天會再做一個機器人。”這些賬號後來也被刪除。
隱藏在明處
Telegram機器人本質上是運行在Telegram內的小應用程序。它們與應用程序的頻道並排存在，這些頻道可以向無限數量的訂閱者廣播消息；群組最多可容納20萬人互動；以及一對一消息。開發者創建了人們可以參加知識問答、翻譯消息、創建警報或開始Zoom會議的機器人。他們也被用於創建虐待性的深偽。
由於深偽工具的有害性，《WIRED》沒有測試Telegram機器人，也沒有命名具體的機器人或頻道。根據Telegram的統計數據，雖然這些機器人每月有數百萬用戶，但尚不清楚這些機器人可能被用來創建了多少圖像。一些用戶可能在多個頻道和機器人中，可能創建了零圖像；其他人可能創建了數百張。
《WIRED》查看的許多深偽機器人都明確表明它們的用途。機器人的名稱和描述提到裸露和移除女性的衣服。“我可以做你想要的任何關於你給我的照片的臉或衣服的事情，”一個機器人的創建者寫道。“體驗AI帶來的震撼，”另一個說。Telegram還可以在其推薦工具中顯示“類似頻道”，幫助潛在用戶在頻道和機器人之間跳轉。
幾乎所有的機器人都需要人們購買“代幣”來創建圖像，尚不清楚它們是否按聲稱的方式運作。隨著深偽生成的生態系統在近年來蓬勃發展，它已成為那些創建網站、應用程序和機器人的潛在收入來源。由於太多人試圖使用“脫衣”網站，根據404Media的報導，俄羅斯網絡犯罪分子已經開始創建假網站來感染人們的惡意軟件。
雖然幾年前識別的首批Telegram機器人相對簡單，但創建更現實的AI生成圖像所需的技術已經改進，一些機器人正隱藏在明處。
一個擁有超過30萬月活躍用戶的機器人，在其名稱或登陸頁面中沒有提及任何露骨材料。然而，一旦用戶點擊使用該機器人，它聲稱擁有超過40種選項的圖像，其中許多是高度性化的。該機器人還有一個用戶指南，託管在Telegram之外的網頁上，描述如何創建最高質量的圖像。機器人開發者可以要求用戶接受服務條款，這些條款可能禁止用戶上傳未經圖像中人物同意的圖像或兒童的圖像，但似乎很少或根本沒有執行這些規則。
另一個擁有超過3.8萬用戶的機器人聲稱人們可以發送同一男子或女子的六張照片，這是少數聲稱可以創建男性圖像的機器人之一，以“訓練”AI模型，然後可以創建該個人的新深偽圖像。一旦用戶加入一個機器人，它會呈現一個包含11個“其他機器人”的菜單，可能是為了保持系統在線並試圖避免被移除。
英國最大的家庭暴力組織Refuge的技術促進虐待和經濟賦權負責人Emma Pickering說：“這些假圖像可能會通過造成心理創傷和屈辱、恐懼、尷尬和羞恥感來損害一個人的健康和福祉。” “雖然這種形式的濫用很常見，但加害者很少受到追究，我們知道這種濫用在親密伴侶關係中變得越來越普遍。”
隨著露骨深偽變得更容易創建和更普遍，立法者和科技公司遲遲未能遏制這股潮流。在美國，23個州已經通過了針對非自願深偽的法律，科技公司也加強了一些政策。然而，可以創建露骨深偽的應用程序已經在Apple和Google的應用商店中被發現，泰勒·斯威夫特的露骨深偽在一月份在X上廣泛分享，而大型科技公司的登錄基礎設施允許人們輕鬆創建深偽網站的賬號。
民主與技術中心的自由表達項目主任Kate Ruane說，大多數主要技術平台現在都有禁止非自願分發親密圖像的政策，許多最大的公司同意了應對深偽的原則。 “我會說，實際上不清楚Telegram的服務條款是否禁止非自願親密圖像的創建或分發，”Ruane說，Telegram的服務條款不如其他主要技術平台詳細。
Telegram長期以來因其移除有害內容的方法而受到民間社會團體的批評，該平台歷來托管詐騙者、極右翼團體和恐怖主義相關內容。自Telegram首席執行官兼創始人Pavel Durov在8月因一系列潛在罪行在法國被捕並被起訴以來，Telegram開始對其服務條款進行一些更改，並向執法機構提供數據。該公司沒有回應《WIRED》關於其是否特別禁止露骨深偽的問題。
執行傷害
四年前發現深偽Telegram機器人的研究員Ajder說，這款應用幾乎是深偽濫用的獨特位置。“Telegram為您提供了搜索功能，允許您識別社區、聊天和機器人，”Ajder說。 “它提供了機器人托管功能，所以它在某種程度上提供了工具。然後它也是你可以分享和實際執行傷害的地方，這是最終結果。”
在9月底，一些深偽頻道開始發布消息稱Telegram已刪除了他們的機器人。不清楚是什麼促使了這些刪除。9月30日，一個擁有29.5萬訂閱者的頻道發布消息稱Telegram已“禁止”其機器人，但它發布了一個新的機器人鏈接供用戶使用。（在《WIRED》向Telegram發送問題後，該頻道被刪除。）
“像Telegram這樣的應用程序令人擔憂的一點是，從倖存者的角度來看，跟踪和監控它們非常困難，”#NotYourPorn的聯合創始人兼主任Elena Michael說，該運動組織致力於保護人們免受基於圖像的性虐待。
Michael說，與Telegram討論安全問題“非常困難”，但指出該公司近年來取得了一些進展。然而，她認為該公司應該在主動監控和篩選內容方面做得更多。
Michael說：“想像一下，如果你是一個倖存者，不得不自己做這些事情，這個負擔不應該落在個人身上。” “這個負擔應該落在公司身上，公司應該主動而不是被動地採取措施。”
編輯評論
這篇文章揭示了Telegram平台上AI生成的深偽虐待工具的廣泛使用和其帶來的嚴重後果。儘管科技進步帶來了便利，但同時也暴露了監管和道德漏洞。這種技術的濫用對個人尤其是女性和年輕女孩造成了深遠的心理和社會影響，這是我們不能忽視的問題。
從另一個角度看，這個問題也反映了科技公司在面對新興技術帶來的挑戰時的反應速度和責任感。Telegram作為一個全球性平台，應該承擔更多責任，主動監控和移除有害內容，而不是依賴外部壓力來做出反應。
此外，這也提醒我們，立法和政策需要迅速跟上技術的發展，保護個人隱私和安全。這不僅僅是科技公司的責任，也是立法者和整個社會的共同責任。
總的來說，這篇文章提供了一個重要的警示，即便在科技進步的同時，我們必須保持警惕，確保這些進步不會被濫用來傷害無辜的人。
以上文章由特價GPT API KEY所翻譯
