數百萬人正在使用Telegram上的AI「脫衣」機器人進行濫用
在2020年初，深偽專家Henry Ajder揭露了首批使用人工智能來「脫衣」女性照片的Telegram機器人之一。Ajder回憶稱，當時這個機器人已經被用來生成超過10萬張露骨照片，其中包括兒童的照片，這標誌著深偽技術能夠帶來的恐怖效果的「分水嶺」時刻。自那時以來，深偽技術變得越來越普遍，破壞性也越來越大，製作起來也更加容易。
現在，《WIRED》對涉及這些非自願露骨內容的Telegram社區進行審查，發現至少有50個機器人聲稱可以僅需幾次點擊就創建露骨照片或視頻。這些機器人的功能有所不同，許多機器人聲稱可以從照片中「移除衣服」，而其他機器人則聲稱可以創建描繪人們進行各種性行為的圖像。
根據各個機器人提供的統計數據，《WIRED》的審查顯示，這50個機器人每月總共擁有超過400萬的「活躍用戶」。其中兩個機器人每月活躍用戶數量超過40萬，而另外14個機器人每月活躍用戶數量超過10萬。這些發現說明了露骨深偽創作工具的普及程度，並強調了Telegram作為這些工具主要平台之一的地位。然而，這些主要涵蓋英語機器人的快照可能僅僅是Telegram上所有深偽機器人的一小部分。
Ajder說：「我們談論的是使用和創建這類內容的人數顯著增加，這些工具真的在毀掉人們的生活，尤其是年輕女孩和女性的生活，這些工具仍然如此容易訪問和在全球最大的應用程序之一上找到，這非常令人擔憂。」
自2017年底首次出現以來，非自願露骨深偽內容（通常被稱為非自願親密圖像濫用，NCII）已經激增，生成性AI的進步推動了最近的增長。在互聯網上，各種「脫衣」和「脫光」網站與更先進的工具和Telegram機器人並存，並被用來針對全球數千名女性和女孩，從意大利總理到韓國的女學生。在最近的一項調查中，報告顯示40%的美國學生在過去一年中知道與他們的K-12學校相關的深偽。
《WIRED》識別的Telegram機器人由至少25個相關的Telegram頻道支持，這些頻道擁有超過300萬的總會員數。這些Telegram頻道會通知人們機器人提供的新功能和特殊的「代幣」優惠，這些代幣可以購買來操作機器人，並且經常作為使用機器人的人們可以找到新機器人鏈接的地方，如果它們被Telegram移除的話。
在《WIRED》向Telegram詢問是否允許其平台上創建露骨深偽內容後，該公司刪除了《WIRED》識別的75個機器人和頻道。該公司沒有回應一系列問題，也沒有評論為何刪除了這些頻道。
《WIRED》後來識別的其他非自願深偽Telegram頻道和機器人顯示了問題的規模。幾個頻道的擁有者發布了他們的機器人已被刪除，其中一個說：「我們明天會製作另一個機器人。」這些帳戶後來也被刪除。
隱藏在明處
Telegram機器人本質上是運行在Telegram內的小應用程序。它們與應用程序的頻道並列，這些頻道可以向無限數量的訂閱者廣播消息；最多可容納20萬人的群組；以及一對一消息。開發者創建了人們可以進行測驗、翻譯消息、創建警報或開始Zoom會議的機器人。它們也被用來創建濫用的深偽。
由於深偽工具的有害性質，《WIRED》沒有測試這些Telegram機器人，也沒有提及具體的機器人或頻道。雖然根據Telegram的統計數據，這些機器人每月擁有數百萬的活躍用戶，但不清楚這些機器人可能被用來創建了多少圖像。一些用戶可能在多個頻道和機器人中，可能創建了零張圖像；其他用戶可能創建了數百張。
《WIRED》查看的許多深偽機器人明確表示它們是為了做什麼而創建的。這些機器人的名字和描述提到裸露和移除女性衣服。「我可以對你給我的照片的面部或衣服做任何你想要的事情」，一個機器人的創建者寫道。「體驗AI帶來的震撼」，另一個說。Telegram還可以在其推薦工具中顯示「類似頻道」，幫助潛在用戶在頻道和機器人之間跳轉。
幾乎所有的機器人都要求人們購買「代幣」來創建圖像，並且不清楚它們是否按其聲稱的方式運作。隨著深偽生成的生態系統在近年來蓬勃發展，這已成為那些創建網站、應用程序和機器人的人們潛在的有利可圖的收入來源。據404Media報導，許多人試圖使用「脫衣」網站，以至於俄羅斯網絡犯罪分子開始創建假網站來感染人們的惡意軟件。
雖然幾年前識別的首批Telegram機器人相對初級，但創建更真實的AI生成圖像所需的技術已經改進，並且一些機器人隱藏在明處。
一個擁有超過30萬月活躍用戶的機器人在其名字或登陸頁面中沒有提及任何露骨材料。然而，一旦用戶點擊使用該機器人，它聲稱它有超過40個選項，許多選項具有高度性質。該機器人還有一個用戶指南，託管在Telegram外的網站上，描述如何創建最高質量的圖像。機器人開發者可以要求用戶接受服務條款，這些條款可能禁止用戶上傳未經描繪者同意的圖像或兒童的圖像，但似乎對這些規則的執行很少或沒有。
另一個擁有超過3.8萬用戶的機器人聲稱人們可以發送同一男性或女性的六張照片，它是少數聲稱可以創建男性圖像的機器人之一，來「訓練」AI模型，該模型可以創建該個人的新深偽圖像。一旦用戶加入一個機器人，它會提供一個創建者的11個「其他機器人」的菜單，可能是為了保持系統在線並試圖避免被刪除。
英國最大的家庭暴力組織Refuge的技術輔助濫用和經濟賦權主管Emma Pickering說：「這類假圖像可能會對一個人的健康和福祉造成傷害，導致心理創傷和羞辱、恐懼、尷尬和羞恥感。雖然這種形式的濫用很常見，但肇事者很少被追究責任，我們知道這種類型的濫用在親密伴侶關係中越來越普遍。」
隨著露骨深偽變得更容易創建和更普遍，立法者和科技公司一直在緩慢地阻止這一潮流。在美國，全國有23個州通過了針對非自願深偽的法律，科技公司也加強了一些政策。然而，能夠創建露骨深偽的應用程序已經在Apple和Google的應用商店中被發現，泰勒·斯威夫特的露骨深偽在今年1月被廣泛分享在X平台上，大型科技公司的登錄基礎設施使人們能夠輕鬆在深偽網站上創建帳戶。
民主與技術中心自由表達項目主任Kate Ruane說：「我會說，實際上不清楚非自願親密圖像的創建或分發是否在平台上被禁止。」她提到Telegram的服務條款比其他主要技術平台的條款更不詳細。
Telegram的有害內容移除做法長期以來受到民間社會團體的批評，該平台歷來托管騙子、極右翼團體和恐怖主義相關內容。自Telegram首席執行官兼創始人Pavel Durov在8月因一系列潛在罪行在法國被捕並被起訴以來，Telegram已經開始對其服務條款做出一些改變，並向執法機構提供數據。該公司沒有回應《WIRED》關於是否具體禁止露骨深偽的問題。
執行傷害
四年前發現深偽Telegram機器人的研究員Ajder說，該應用程序幾乎是專門為深偽濫用而設計的。「Telegram為你提供了搜索功能，讓你能夠識別社區、聊天和機器人」，Ajder說。「它提供了機器人托管功能，所以它實際上提供了工具。然後，它也是你可以分享和實際執行傷害的地方，這就是最終結果。」
在9月下旬，幾個深偽頻道開始發布Telegram已經刪除了他們的機器人。刪除的原因尚不清楚。9月30日，一個擁有29.5萬訂閱者的頻道發布消息稱，Telegram已經「禁止」了他們的機器人，但它發布了一個新的機器人鏈接供用戶使用。（該頻道在《WIRED》向Telegram發送問題後被刪除。）
「對於像Telegram這樣的應用程序來說，令人擔憂的一點是，從受害者的角度來看，它們非常難以追蹤和監控」，#NotYourPorn的聯合創始人兼主任Elena Michael說，該組織致力於保護人們免受基於圖像的性濫用。
Michael說，與Telegram討論安全問題「出了名的困難」，但指出近年來該公司在這方面取得了一些進展。然而，她表示，該公司應該更加積極主動地進行內容的審核和過濾。
「想象一下，如果你是一個必須自己做這些事情的受害者，這個負擔不應該由個人來承擔」，Michael說。「負擔應該由公司來承擔，應該有一些積極的措施，而不是被動的。」
評論
這篇文章揭示了當前技術和社交媒體平台如何被濫用，特別是在創建和分發非自願露骨深偽內容方面。這不僅是對技術本身的批判，更是對社會和法律體系在應對這種新型威脅時的反應速度和有效性的反思。
首先，這些機器人的普及和易訪問性令人震驚。即使Telegram在《WIRED》聯繫後刪除了部分機器人和頻道，但這只是治標不治本。這些工具的開發者可以迅速創建新的機器人來替代被刪除的，這顯示了平台治理的挑戰和漏洞。
其次，這篇文章還提出了一個令人擔憂的道德問題：技術應用的邊界應該在哪裡？人工智能的進步無疑帶來了許多積極的應用，但同時也需要我們更加謹慎地考慮其潛在的負面影響。科技公司和立法者需要更緊密合作，制定嚴格的規範和法律來保護個人隱私和尊嚴。
最後，這篇文章強調了社會對於這類濫用行為的認識和教育的重要性。只有提高公眾的認識，讓更多的人了解這些技術的危害，才能有效地減少這類行為的發生。
總的來說，這篇文章不僅揭露了問題的嚴重性，更呼籲社會各界共同努力，採取有效措施來應對這一挑戰。這不僅是技術問題，更是涉及倫理、法律和社會責任的綜合性問題。
以上文章由特價GPT API KEY所翻譯
