
🎬 YouTube Premium 家庭 Plan成員一位 只需
HK$148/年!
不用提供密碼、不用VPN、無需轉區
直接升級你的香港帳號 ➜ 即享 YouTube + YouTube Music 無廣告播放
OpenAI發現越來越多中國團體利用ChatGPT進行隱蔽行動
舊金山 — OpenAI於星期四發佈報告,指越來越多中國團體利用其人工智能技術進行隱蔽操作。這家ChatGPT的開發商表示,雖然這些團體的行動範圍及策略有所擴大,但所偵測到的操作規模普遍較小,且針對的受眾有限。
自2022年底ChatGPT問世以來,外界一直關注生成式人工智能技術帶來的潛在風險。這類技術能迅速且輕鬆地產生類似人類的文字、圖像及音頻內容。
OpenAI定期發布有關其平台上惡意活動的報告,內容涵蓋利用AI創建及調試惡意軟件,或為網站及社交媒體平台生成虛假內容等行為。
舉例來說,OpenAI曾封禁多個利用ChatGPT發佈與中國相關政治和地緣政治話題的社交媒體帳號,內容包括批評以台灣為主題的電子遊戲、對巴基斯坦活動人士的虛假指控,以及涉及美國國際開發署(USAID)關閉的資訊。
部分內容亦針對美國前總統特朗普推行的廣泛關稅政策提出批評,於X(前Twitter)平台發布相關言論,例如「關稅令進口商品價格高昂,但政府卻大肆撥款海外援助,究竟誰來承擔這些費用?」
另一個案例中,與中國有關的威脅行動者利用AI支援其網絡攻擊的不同階段,包括開源情報搜集、腳本修改、系統配置故障排除,以及開發用於密碼暴力破解和社交媒體自動化的工具。
OpenAI還發現一宗源自中國的影響力行動,透過生成兩極化的社交媒體內容,支持美國政治爭議中的雙方立場,內容涵蓋文字和AI生成的個人資料圖片。
中國外交部對OpenAI的發現暫未作出回應。
OpenAI憑藉最新一輪40億美元的融資,令公司估值達到3,000億美元,鞏固了其作為全球最具價值私營企業之一的地位。
—
編輯評論:
OpenAI報告揭示了生成式人工智能技術在國際政治及網絡安全領域的複雜影響,尤其是被用於隱蔽且具策略性的資訊操作。雖然目前這些活動規模不大,但利用AI工具進行政治宣傳、輿論操控和網絡攻擊的趨勢明顯,凸顯了科技發展與地緣政治交織的風險。
這反映出AI技術不僅是推動創新和便捷的工具,同時也可能成為國際間資訊戰的新武器。OpenAI作為技術開發者,積極監控並阻止此類濫用行為,展現了企業在科技倫理和社會責任上的努力,但這仍不足以根本解決問題。
未來,監管機構和技術公司需加強合作,制定更全面的防範措施,並提升公眾對AI生成內容的識別能力。同時,使用AI技術的透明度和問責制也應成為全球討論的重點,以防止技術被惡意利用破壞民主和社會穩定。
此事件亦提醒我們,科技發展與國家利益緊密相連,資訊安全和政治穩定已成為AI時代不可忽視的新挑戰。香港作為國際都市,更應關注這些技術如何影響本地及區域的網絡安全及言論環境。
以上文章由特價GPT API KEY所翻譯及撰寫。