激進組織嘗試運用人工智能，風險持續升高
華盛頓（美聯社）——當全球各地爭相利用人工智能（AI）技術的力量時，激進組織亦開始試驗這項科技，儘管他們未必完全掌握如何運用。
國家安全專家及情報機構警告，對極端組織而言，人工智能可能成為招募新成員、製造逼真的深偽影片，以及提升網絡攻擊能力的強大工具。
上月，一名支持伊斯蘭國（IS）的用戶在親IS網站發帖，鼓勵其他支持者將AI納入行動中，並稱：「AI最棒的地方在於使用容易。」他用英文寫道：「有情報機關擔心AI會助長招募，所以就讓他們的惡夢成真吧。」
IS曾經在數年前控制伊拉克及敘利亞部分地區，現在則是一個分散式的激進組織聯盟，這些團體共享暴力意識形態。國家安全專家指出，IS早就明白社交媒體是招募和散布錯誤資訊的強大利器，因此該組織積極嘗試運用AI也就不足為奇。
對於資源有限、組織鬆散的極端團體，甚至是單一透過網絡連結的個別惡意行為者，AI可以用來大規模製造宣傳或深偽內容，擴大其影響力。
前美國國家安全局漏洞研究員、現任網絡安全公司ClearVector執行長John Laliberte表示：「對任何敵對勢力來說，AI確實大大降低了行動難度。即使是小規模、資金不足的團體，也能藉此造成影響。」
激進組織如何使用AI
自ChatGPT等生成式AI平台普及以來，激進組織便開始利用這些工具。近年，他們越來越多地運用AI生成逼真的照片和影片。
當這些假內容配合社交媒體的演算法推廣時，能夠招募新成員、混淆或恐嚇敵人，並以幾年前難以想像的規模散布宣傳。
兩年前，中東地區的暴力團體利用AI製作了以色列-哈馬斯戰爭中血跡斑斑、被遺棄嬰兒的假照片。這些圖片激起公眾憤怒和分裂，也掩蓋了戰爭的真實慘況。美國及其他地區的反猶太仇恨組織也利用這些圖片招募新成員。
去年，與IS有關聯的團體宣稱在俄羅斯一場音樂會的襲擊造成近140人死亡。事發後數日，AI製作的宣傳影片在討論區和社交媒體廣泛流傳，目標是招募新信徒。
根據追蹤極端活動的SITE情報集團研究報告，IS還利用AI生成自己領導人朗誦經文的深偽音頻，並快速將訊息翻譯成多種語言。
目前仍屬「理想」階段
前中央情報局特工、現任與聯邦政府合作的網絡安全公司Darktrace Federal執行長Marcus Fowler表示，這些組織在使用AI的成熟度上遠落後於中國、俄羅斯或伊朗，將較複雜的AI應用視為「理想目標」。
不過，他認為隨著便宜且強大的AI技術普及，風險不容忽視，且將持續增加。
駭客已開始利用合成音視頻進行網絡釣魚攻擊，冒充高層商業或政府領袖，以獲取敏感網絡存取權限。AI亦可用來撰寫惡意軟件代碼，甚至自動化部分網絡攻擊流程。
更令人憂慮的是，激進組織可能嘗試利用AI協助製造生物或化學武器，彌補技術不足。這一風險已被美國國土安全部今年更新的《國土威脅評估》中指出。
Fowler說：「IS早期就利用Twitter等社交媒體，並不斷尋找新的武器加入其武庫。」
應對日益嚴峻的威脅
多名立法者提出建議，強調必須盡快採取行動。
維吉尼亞州參議員、參議院情報委員會首席民主黨人Mark Warner指出，美國必須讓AI開發商更容易分享產品被惡意使用的資訊，無論是極端分子、犯罪駭客還是外國間諜。
他表示：「自2022年底ChatGPT公開以來，公眾對生成式AI的熱衷與嘗試，同樣也吸引了各種惡意行為者。」
在最近一次針對極端威脅的聽證會中，眾議院議員得知IS和基地組織曾舉辦培訓班，教導支持者如何使用AI。
上月通過的眾議院法案將要求國土安全官員每年評估這類組織利用AI帶來的風險。
德州共和黨眾議員、該法案提案人August Pfluger表示，防範AI被惡意利用，與準備應對傳統攻擊沒有不同，「我們的政策和能力必須跟上未來威脅的步伐。」
—
評論與啟示
這篇報道揭示了一個不容忽視的安全隱憂：激進組織在人工智能領域的探索與應用。AI技術的普及和易用性，使得原本資源匱乏的極端分子，能夠製造出高仿真度的宣傳材料，甚至進行複雜的網絡攻擊，這對全球安全構成了新挑戰。
值得注意的是，這種趨勢反映出科技雙刃劍的本質：同一技術既可用於提升社會福祉，也可被濫用於危害公共安全。對於香港乃至全球的網絡安全防護，政府和企業必須加強對AI技術的監管和風險評估，並推動跨境合作，及時分享情報與防禦策略。
此外，社交媒體平台在AI生成內容的審核上肩負重大責任。假訊息和深偽影片不僅能夠操控輿論，還可能激化社會矛盾，甚至煽動暴力。如何在保障言論自由與防止錯誤資訊擴散之間取得平衡，是未來的重要課題。
從政策層面看，報道中提及的美國立法動向可作為參考範例。香港在推動AI發展的同時，也應考慮建立法律框架，規範技術使用，防止被不法分子利用。
最後，這提醒我們，面對日益智能化的威脅，傳統的安全策略必須更新升級，結合技術、法律與教育，形成全方位的防禦體系。公眾教育亦不可忽視，提高民眾對AI假訊息的辨識能力，是抵禦虛假宣傳的第一道防線。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
