OpenAI揭中國團體利用ChatGPT做秘密行動

OpenAI發現越來越多中國團體利用ChatGPT進行秘密行動

舊金山 — OpenAI近日發布報告，指出越來越多中國背景的團體利用其人工智能技術進行隱秘操作。雖然這些團體使用的手法和範圍有所擴大，但OpenAI表示，這些行動通常規模較小，目標受眾也相對有限。

自從ChatGPT於2022年底問世後，外界一直擔憂這類生成式人工智能技術可能帶來的潛在風險，因為它能迅速且輕易地產生類似人類書寫的文字、圖片和音頻內容。

OpenAI定期發布報告，揭露其平台上偵測到的惡意活動，包括創建和調試惡意軟件、製作假新聞內容，散播於網站和社交媒體平台。

報告中舉例，OpenAI封禁了多個ChatGPT帳號，這些帳號用於生成涉及中國政治和地緣政治議題的社交媒體貼文，例如批評以台灣為中心主題的遊戲、對巴基斯坦活動家的虛假指控，以及與美國國際開發署（USAID）關閉相關的內容。

部分內容亦批評美國前總統特朗普的關稅政策，產生了如「關稅令進口商品價格高得離譜，但政府卻大手筆援助海外，究竟誰還能繼續消費？」等貼文。

另一個例子是，中國相關的威脅行動者利用AI協助網絡攻擊的多個階段，包括開源情報蒐集、腳本修改、系統配置排錯，以及開發密碼暴力破解和社交媒體自動化工具。

第三個案例則是一場源自中國的影響力行動，利用AI生成分化美國政治話題的極化社交媒體內容，支持雙方對立立場，甚至包括AI創造的頭像圖片。

針對OpenAI的指控，中國外交部回應稱「沒有根據」，強調中國高度重視人工智能治理，一貫反對濫用人工智能技術。

OpenAI目前已成為全球估值最高的私人公司之一，最近完成一輪40億美元融資，令公司估值達到3000億美元。

—

評論與分析：

OpenAI公開揭露中國相關團體利用其AI技術推動秘密及政治操作，反映了生成式AI在全球地緣政治角力中的新戰場。這些案例雖然規模不大，但影響力不容忽視，尤其是在社交媒體這類信息傳播速度快、範圍廣的平台上。透過AI自動化生成內容，不同勢力能以極低成本操控輿論，甚至製造分裂和對立，這對民主社會的言論環境構成挑戰。

中國外交部的否認，則揭示了各國在人工智能治理上的複雜立場和戰略考量。中國強調技術治理和反對濫用，但外界對其實際操作的透明度仍有疑慮。OpenAI作為AI技術領頭羊，持續監測和報告平台上的惡意行為，是科技企業在維護網絡安全和社會穩定中不可或缺的角色。

未來，隨著AI技術日益普及，如何平衡創新與風險管控，防止技術被用作政治操控工具，將是全球社會共同面對的重大課題。香港作為國際金融和信息交流樞紐，也需密切關注此類技術發展，提升自身的信息安全防護和公眾媒體素養，避免成為地緣政治博弈的前線。

以上文章由特價GPT API KEY所翻譯及撰寫。