恐怖組織網絡滲透Reddit：數據污染、審查異己、散播恐怖主義宣傳

恐怖分子宣傳與Reddit的管道

一個極左網絡如何劫持一些最大的非政治性子版塊以審查其意識形態敵人——並分發恐怖主義宣傳

隨著數字宣傳在21世紀的戰爭中扮演越來越重要的角色，對此的理解卻仍然不夠全面。在人們熱議TikTok與北京的關係時，卻很少有人注意到由伊朗和卡塔爾資助的恐怖組織，以及與之相關的極具影響力的宣傳網絡，這些網絡遍佈各大社交媒體和信息平台。

自10月7日以來，一個在線網絡出現，將來自美國指定的伊斯蘭恐怖組織（包括哈馬斯、真主黨、巴勒斯坦伊斯蘭聖戰組織及胡塞運動）的內容通過Reddit、Discord、X（前Twitter）、TikTok、Instagram、Quora和Wikipedia等平台進行分發。該網絡意識到其操控最終會流入通用平台，如Google搜尋和ChatGPT中。

該網絡的核心是一個擁有27萬成員的子版塊r/Palestine。名為r/Palestine的Discord伺服器作為該網絡的指揮中心，並在子版塊中顯著推廣。在Discord中，新成員必須通過一個意識形態純潔性測試，該測試包括關於以色列、猶太復國主義和10月7日事件的問題。一個“Reddit工作小組”頻道協調在Reddit上的發帖，識別“需要更多支持巴勒斯坦評論的留言區”，大量給反以色列帖子點讚，並對親以色列帖子進行反對（這種做法被稱為“投票操控”）。該Discord還有針對Quora、TikTok、Instagram、X和Wikipedia的單獨工作小組。

在Reddit上，該網絡由不低於110個子版塊組成，約30名核心版主控制著這些版塊。其核心子版塊——包括r/Palestine、r/IsraelCrimes和r/ApartheidIsrael——主題相關，圍繞著反猶太復國主義、反資本主義、激進馬克思主義、伊斯蘭主義以及反西方和親伊朗政權的情緒。網絡中的其他核心子版塊包括r/Panarab、r/fight_disinformation、r/Global_News_Hub和r/suppressed_news。

然而，該網絡尤其有效的，是其入侵並控制的一些與中東或政治無關的擁有百萬成員的子版塊。這些版塊的存在顯示出一種非同尋常的假象草根運動，旨在讓毫無防備的用戶相信網上存在著一種廣泛的反以色列、反西方、馬克思主義的運動。這些子版塊包括但不限於：r/Documentaries（2000萬成員）、r/therewasanattempt（720萬）、r/PublicFreakout（470萬）、r/Fauxmoi（430萬）和r/iamatotalpieceofshit（210萬）。

該網絡利用指揮和控制機制，通過利用這些平台提供的開放性和自由性，以及這些平台在信任和安全操作中的漏洞，來進行信息的激進化和去中心化。這些漏洞主要是因為平台的信任和安全操作已經在很大程度上外包給了用戶社區（而不是訓練有素的版主）。

該網絡還利用Reddit和Wikipedia在搜尋引擎和大型語言模型（LLMs）中的獨特地位，將宣傳推廣得更廣泛。

數據污染：大型語言模型和搜尋

去年，Reddit和Google簽署了一項6000萬美元的內容授權協議，使Google能夠訪問Reddit的API以進行大型語言模型的訓練和搜尋目的。OpenAI在去年5月也宣布了一項類似的合作夥伴關係（Google與Wikipedia也有類似協議）。然而，Reddit的意義遠不止於此，特別是對於OpenAI而言，該公司在其關於GPT-3的白皮書中披露，WebText 2——其用於訓練模型的抓取互聯網內容數據集——由Reddit帖子中獲得三個或以上點讚（“karma”）的網頁組成。更重要的是，OpenAI還將WebText 2作為從公開互聯網抓取內容質量的評判標準。實際上，Reddit成為了OpenAI篩選優質內容的工具（ChatGPT現在也爬取開放網絡，這為這種數據污染提供了更多機會）。

在搜尋引擎上，尤其是Google上，也存在類似的現象，Google經常將Reddit帖子作為主題搜尋的第一結果——這正是r/Palestine網絡反向工程的成果。例如，如果你在Google上搜尋“人質拼貼”（指的是哈馬斯所挾持的以色列人質的照片網格），當我們查看時，排名靠前的一個結果是一則來自r/Palestine的帖子：“有人注意到以色列在國際法院上展示的人質拼貼中有重複的圖片嗎？”Google還經常顯示來自其他平台的虛假信息。儘管Wikipedia的文章經常受到壞行為者的影響，但這些文章每年在數十億次搜尋中都能出現在頂部。而YouTube則經常使用Wikipedia作為“主題背景”提供給“與易受虛假信息影響的主題相關的視頻”，儘管這些文章可以被操控並實時影響用戶。

這本身是高度問題化的，儘管可以合理地將其視為合法言論自由和大型語言模型訓練及搜尋算法的無意後果。然而，改變這一局面的，是該網絡的核心是專門從事秘密散播美國指定恐怖組織宣傳的行為。r/Palestine網絡經常這樣做：它從像Resistance News Network（RNN）這樣的宣傳聚合網站獲取內容，然後將其放到Reddit上進行投票操控。

Resistance News Network如何洗白恐怖分子宣傳

我獲得的截圖顯示，RNN從一個由美國指定外國恐怖組織運營的彩色編碼的Telegram頻道列表中提取內容。由於美國對與恐怖主義相關內容的限制，許多這些頻道在美國無法訪問，因此RNN對內容的翻譯和重新發布代表了對美國恐怖法的有效——雖然是非法的——變通。

雖然RNN並不是唯一的外國恐怖組織內容分發者，但它是主要的分發者。它聚合並分發來自以色列和巴勒斯坦的美國指定組織的內容，包括在10月7日發動襲擊的哈馬斯，該組織的武裝分子故意殺害兒童，並因此被人權觀察指控犯下戰爭罪；參與10月7日襲擊的巴勒斯坦伊斯蘭聖戰組織，以其對以色列平民的無差別火箭攻擊而聞名；以及參與10月7日襲擊的人民解放陣線（PFLP）武裝分支的烈士阿布·穆斯塔法旅等。在伊拉克，RNN從十幾個頻道中提取內容，包括卡塔伊布·真主黨，該組織對美國在該地區的基地和資產發動了持續的火箭和無人機攻擊，還有聖城旅，該旅是伊拉克伊斯蘭抵抗組織的一部分。在也門，RNN聚合了至少六個主要恐怖組織的頻道，包括胡塞武裝。

在RNN的一個內容聚合示例中，RNN發布了哈馬斯的阿爾卡薩姆旅（哈馬斯的軍事部門；在10月7日扮演了主導角色）的一條戰場消息的英文翻譯：“我們的戰士……在約旦河西岸與敵軍士兵在市中心的主要街道上展開激烈衝突。”在另一個例子中，RNN翻譯並發布了阿爾阿克薩烈士旅的一條消息，該旅參與了10月7日的襲擊，並被美國、歐盟、加拿大、日本、新西蘭和以色列指定為恐怖組織，因其參與自殺炸彈襲擊、槍擊和針對以色列平民的火箭攻擊：“我們正在與突入城市的猶太復國主義敵軍展開激烈衝突，使用機槍。”

RNN與美國政府將其列為恐怖實體的Samidoun關係特別緊密，美國財政部稱其為“虛假慈善機構，作為PFLP的國際籌款者”（PFLP的高級領導人哈立德·巴拉卡特於2011年共同創立了Samidoun）。去年8月，RNN的Telegram賬號在歐盟被禁後，Samidoun在幫助他們重建方面發揮了重要作用，發布了RNN的聲明並指導用戶前往該組織的鏡像頻道。Samidoun試圖在禁令後恢復RNN的努力顯示出它與RNN之間的深厚聯繫，甚至可能是依賴於RNN。

恐怖分子宣傳與Reddit的管道

在Reddit上，RNN聚合的恐怖組織宣傳能夠穿透Telegram的圍牆，潛入公共辯論的地下水。在r/israelexposed（68000成員）中，一位用戶發表了一條關於一名巴勒斯坦男孩被拘留的引用，標題為“以色列士兵綁架並毆打兒童”。該帖子直接引用了RNN，並被引用為來源。相同的文本和視頻也在r/IsraelCrimes（54000成員）中發布，該版塊同樣由網絡控制。雖然該片段的內容可以有不同的解釋，但這個帖子是r/Palestine網絡如何將RNN的內容引入Reddit的眾多示例之一。

在r/TrueAnon子版塊（60000成員）中，該組織控制的用戶發布了一條來自胡塞運動領導人的Telegram頻道的截圖：“我呼籲美國發送更多MQ9無人機，因為也門的空中防禦系統享受著燒烤它們的快感。”同一賬號此前發布了一條“巴勒斯坦抵抗組織指南”，其中包含了對哈馬斯的阿爾卡薩姆旅的解釋截圖，該旅在10月7日的暴行中發揮了主導作用，並分為幾個部分：“他們是誰？”、“知名人物”、“他們最活躍的地區”和他們的“武器庫”。該帖子的最後一行，直接來自RNN，寫道：“我們一起團結，直到解放。”

該網絡的活動不僅限於在線發布內容。事實上，該網絡經常在Reddit上推廣由美國指定恐怖組織組織的示威和集會。去年12月，在Samidoun被指定為恐怖實體後，與該網絡有關的一個賬號發布了一張來自巴西的Samidoun組織的集會圖片，標題為“自由巴勒斯坦！”並附上標題“今天在聖保羅巴西。”這樣的帖子如果不是因為Samidoun是PFLP的幌子組織，旨在從西方觀眾中籌款，通常會被視為明確的言論自由的例子。在另一個例子中，該網絡的一個影響力極大的版主u/Sabbah直接引用了Samidoun關於其在紐約市組織的示威的內容，並在r/Palestine中發布。

在Reddit上推廣外國恐怖組織的內容，包括由高級版主發布的內容，帶來了嚴重的法律擔憂。美國的“物質支持”法律禁止援助恐怖實體，包括散播宣傳、培訓指南或招募工具——這些言論不受第一修正案的保護。（《通信體面法》第230條也不會在此類情況下為平台提供刑事責任的保護。）

這對Reddit構成了重大風險。儘管如此，直接知情的消息來源告訴我，Reddit的信任和安全高管多次未能充分解決此問題，儘管他們已經意識到這一點。這些消息來源告訴我，數十次試圖提醒該公司有關此管道的行為均遭到系統性忽視和邊緣化。有一次，我被告知，Reddit的高級信任和安全團隊成員——包括數據科學和安全副總裁——對他們提出的問題公開嘲笑。

該網絡的運作方式

r/Palestine網絡的基礎是一群控制著數十個重疊子版塊的版主，以r/Palestine作為核心樞紐。這些用戶共同管理一組核心意識形態子版塊，如r/IsraelCrimes、r/palestinenews和r/ApartheidIsrael，這些版塊的內容專注於強烈和持續的反以色列宣傳。

版主網絡是關鍵，因為Reddit的版主對其社區擁有廣泛的權限，能夠刪除帖子、禁止用戶、規定討論規則，並通過固定帖子和自動過濾器控制可見性。他們可以通過批准或壓制內容來塑造敘事，通過帳戶年齡和karma要求限制參與，甚至使用Automoderator預先審查話題。

該網絡的影響力在於那些名義上與以色列無關的熱門子版塊。例如，前面提到的網絡中非常有影響力的成員u/Sabbah，管理著與以色列有關的子版塊，如r/Palestine、r/IsraelCrimes、r/Palestinians、r/palestinenews、r/ApartheidIsrael和r/Panarab。然而，Sabbah還管理著r/Documentaries、r/therewasanattempt、r/PublicFreakout、r/IRLEasterEggs、r/ToiletPaperUSA、r/Thatsactuallyverycool和r/boringdystopia等一系列與主題無關的大型子版塊，這些子版塊已經被該網絡控制。

該網絡的版主包括BlueberryBubblyBuzz（他還運營網絡中的另一個賬號Kumquat_conniption）、ohhyouknow、PlenitudeOpulence、Falafel1998、_makoccino_等數十人，許多人也同時管理r/Palestine的Discord伺服器。作為版主的集聚使該組織有效控制網站上一些最大的子版塊。截止目前：

在r/therewasanattempt（720萬成員）中，Sabbah、Kumquat_conniption、ohhyouknow、BlueberryBubblyBuzz、PlenitudeOpulence和usernameoverloaded是一些最活躍的人工（即非機器人）版主。
r/PublicFreakout（470萬成員）由Sabbah、–intifada–、PlenitudeOpulence、ohhyouknow、Kumquat_conniption和BlueberryBubblyBuzz管理，前兩者擁有“所有權限”的管理權限。
在r/MorbidReality（110萬成員）中，Sabbah、Kumquat_conniption、BlueberryBubblyBuzz、PlenitudeOpulence和ohhyouknow占據了該子版塊的大部分人工版主。
r/ToiletPaperUSA（44萬成員）由Sabbah、Kumquat_conniption和BlueberryBubblyBuzz管理，所有人都擁有“管理員”級別的管理權限。
r/Thatsactuallyverycool（27.7萬成員）由Sabbah、Kumquat_conniption、BlueberryBubblyBuzz、Falafel1998和PlenitudeOpulence管理，所有人都擁有“管理員”級別的管理權限。
在r/ENLIGHTENEDCENTRISM（18.4萬成員）中，Sabbah、Kumquat_conniption、BlueberryBubblyBuzz、PlenitudeOpulence和Falafel1998是版主，他們的權限級別是“所有權限”。
r/boringdystopia（9.4萬成員）由Sabbah、Kumquat_conniption、BlueberryBubblyBuzz、_makoccino_、Falafel1988和ohhyouknow管理，所有人都擁有“管理員”級別的管理權限。
原本旨在分享搞笑失敗內容的r/therewasanattempt，擁有超過720萬成員，其主標題是一個以巴勒斯坦國旗顏色為背景的箭靶，上面寫著“自由巴勒斯坦”，以以色列為靶心。該子版塊的圖標也是這個靶子，靶心為以色列。該子版塊的主標題曾經顯示的短語是“從河流到海，巴勒斯坦將會自由”。該子版塊的側邊欄推薦了由網絡控制的r/Palestine、r/PublicFreakout、r/boringdystopia等。

r/therewasanattempt的帖子數量之多掩蓋了持續的反以色列內容的穩定節奏。例如，最近的一條帖子標題為“[有一次嘗試]支持巴勒斯坦”，附有一段視頻，顯示在最後一場超級碗中場秀上揮舞巴勒斯坦國旗的抗議者，標題為“無畏的抗議者在超級碗中場秀上衝入場地揮舞巴勒斯坦國旗”。兩天前，則有一條標題為“[有一次嘗試]看起來像世界上最強大的國家”的帖子，展示特朗普為內塔尼亞胡拉椅子的圖片。前一天則有一條標題為“[有一次嘗試]爭辯反對種族清洗使你變得反猶太”的帖子。

該網絡控制的其他子版塊的程度如此明顯的假草根現象，如果不是因為版主們利用這些平台分發恐怖分子的宣傳，這本來會是非常好笑的。標題為“我們是一個支持巴勒斯坦的左翼子版塊！”的版主公告被固定在r/ToiletPaperUSA的頂部；r/PublicFreakout的每一個帖子幾乎都是抗議的視頻；r/boringdystopia的固定帖子則是一個捐款給巴勒斯坦的方式清單（其中包括指向r/Palestine的籌款頁面的鏈接），而它推薦的子版塊包括r/Palestine、r/IsraelCrimes和其他由網絡控制的子版塊。

該網絡控制的最大的非相關子版塊之一——同時也是網站上最受歡迎的子版塊之一——是r/Documentaries。該子版塊由Sabbah、Kumquat_conniption、BlueberryBubblyBuzz、Falafel1998、ohhyouknow、PlenitudeOpulence和網絡中的另一名成員PalRep共同管理，該子版塊的版主中有八位來自r/Palestine網絡。

查看r/Documentaries的內容顯示出你所想的：鏈接到紀錄片，主要來自YouTube。然而，在這些視頻中交織著的是對反以色列或支持巴勒斯坦的宣傳的穩定關注，這種關注的頻率幾乎是每隔幾天——在某些情況下，甚至沒有超過一天。r/Documentaries上沒有其他主題或主題會受到如此持續和強烈的關注。

例如，像《巴勒斯坦人》，該片中亞西爾·阿拉法特聲稱，以色列—巴勒斯坦衝突的唯一解決方案是“消滅”以色列；《這就是加沙》，突顯了加沙地帶巴勒斯坦人的苦難；《種族清洗如何創造以色列》；《神聖救贖：偷取巴勒斯坦土地》；《如何從猶太復國主義中解放：為正義發聲的猶太人》；《德國對以色列的盲目支持》（標題：“揭示這一種族滅絕背後的主要行為者”）以及《加沙戰爭如何造就巨額利潤》。

考慮到以色列/加沙在新聞中的突出地位，你可能會認為r/Documentaries上的內容是有機的。但事實並非如此。Sabbah——r/Palestine子版塊、Discord伺服器和多個網絡節點的主要版主之一——為包含反以色列視頻的帖子的點讚進行操控，以確保這些帖子能夠獲得顯著的曝光率。

在r/Documentaries的Discord上進行投票操控的情況

而r/Documentaries推薦的六個子版塊完全由該網絡控制，這也暗示著明顯的假草根運動，並有效地使r/Documentaries成為一個多步驟的漏斗，將用戶引向越來越多的主題網絡子版塊，這些子版塊中包含著愈來愈多來自恐怖組織的宣傳。

r/Documentaries推薦稍小的r/therewasanattempt →
r/therewasanattempt推薦r/BoringDystopia（和r/Palestine） →
r/BoringDystopia推薦r/Palestine和r/palestinenews，等等
通常，這一模式在網絡的所有子版塊中重複出現：擁有大量成員的子版塊將用戶引導至——並加速一系列越來越極端的子版塊，這些子版塊始終指向該組織的一個核心子版塊，如r/Palestine、r/IsraelCrimes等。

Sabbah——以及其他屬於r/Palestine宣傳網絡的關鍵版主——是第一個在10月7日後加入r/Documentaries的網絡成員。在他的案例中，Sabbah是在幾週後加入的。ohhyouknow、Kumquat_conniption和PlenitudeOpulence則在四天後加入。其他r/Palestine網絡成員在隨後的幾週和幾個月中加入。r/Documentaries的唯一非r/Palestine網絡的版主在2015年和2016年之間加入。

儘管在r/Documentaries中擁有的資歷比之前的版主少近十年，Sabbah卻被任命為該子版塊的首位版主（在版主側邊欄中列出的第一位）。這賦予了他一系列權力，包括能夠將其他所有版主從該子版塊中移除。

這一網絡的活動遠不止於Reddit。關鍵成員充當著將網絡活動在Reddit、X、Discord和Quora之間連接的橋樑。

其中包括Zei_Squirrel，一個與哈馬斯有關的激進賬號，在X上擁有27.2萬粉絲，活躍於Discord、Reddit和Instagram。Zei_Squirrel——我之前已經將其確定為在一個名為Tech For Palestine的Discord伺服器上參與Wikipedia操控的重要角色——在r/NewsandPolitics（隸屬於r/Palestine網絡的一個子版塊）中擔任版主，並被批准在X上創建社區筆記。Zei_Squirrel活躍於r/Palestine的Discord伺服器，協調網絡的其他成員通過讓他們評價潛在的筆記為“有幫助”或“無幫助”來操控社區筆記。

r/Palestine Discord群組操控社區筆記

r/Palestine網絡在Quora上也進行類似的活動。在那裡，一名r/Palestine的行動者，名為Handala的Quora權威用戶，其內容獲得了約700萬次觀看，回答了類似“每個巴勒斯坦人需要認識的巴勒斯坦歷史是什麼？”的問題。

根據r/Palestine組織的Quora AMA，Handala創建了約1300篇文章，觸及了5800萬人，這些文章在Quora、X和Reddit上均有發布。他的個人資料中包含指向“X上的巴勒斯坦社區”的鏈接，該社區由r/Palestine網絡組織和運營。

該網絡通過推廣帖子來提升他在Reddit上的形象和活動，此外還為他籌款。由於將他視為一個有價值的資產，r/Palestine提供了後勤支持，例如將Handala的Quora文章轉移到Reddit和X上的巴勒斯坦社區。該組織還使用r/Palestine的Discord來協調對Handala在Quora上文章的點讚，並且在至少一個實例中聲稱已將Handala的文章大量複製到Wikipedia，以確保進一步的影響力。

r/Palestine網絡不僅取得了成功，而且正在迅速增長。它運行的將恐怖組織宣傳轉化為互聯網公共討論的管道表明，該網絡的運作幾乎沒有任何有機成分。而這正是塑造一種對某一問題以特定方式思考和表達的廣泛民意的假象。

有效的宣傳有著多樣的目標和標準。在某些情況下，它的目的是播下足夠的懷疑以創造分歧。在其他情況下，目的是說服或使對立面沉默。r/Palestine的獨特之處在於，它可能是第一個利用數字平台和能力的主要宣傳運動，從Telegram等消息應用到Reddit的論壇形式、Discord的群組討論，以及X和Quora等附屬網絡的擴大。

事實是，該網絡正在做到宣傳的目的——在不知不覺中影響大眾。它在掩蓋網絡的成功體現在Reddit繼續否認這是一個問題。然而，這只會使其更具有效性，賦予它一種操作自由，這是過去的宣傳者所夢寐以求的。

雖然在更高層的某處可能存在某種自上而下的控制，但該網絡成功地將有意的控制與劫持現有網絡的能力相結合。這是一種共生的方式，劫持了言論和表達空間中嵌入的民主動態——所有這一切都在為那些尋求對我們的思維和思考內容進行全面控制的激進意識形態服務。

——阿什利·林德斯伯格

Reddit未對此事作出回應。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。