OpenAI揭露中國利用人工智能的監控工具
OpenAI於星期五表示，發現了一個中國安全行動所建造的人工智能驅動的監控工具，該工具旨在即時收集西方國家社交媒體上反中國的帖子報告。
該公司的研究人員表示，他們之所以能識別這個新運動，稱之為「同行評審」（Peer Review），是因為一名正在開發該工具的人使用了OpenAI的技術來調試其底層計算機代碼。
OpenAI的首席研究員Ben Nimmo指出，這是該公司首次揭露這種類型的人工智能監控工具。他表示：「威脅行為者有時會因為使用我們的人工智能模型而讓我們窺見他們在互聯網其他地方的所作所為。」
隨著對人工智能被用於監控、電腦黑客、虛假信息運動和其他惡意用途的擔憂日益加劇，像Nimmo這樣的研究人員認為，儘管這項技術確實能促進這些活動，但人工智能也能幫助識別和阻止此類行為。
Nimmo和他的團隊相信，這個中國監控工具是基於Meta開發的Llama人工智能技術，Meta已將其技術開源，這意味著它與全球的軟件開發者共享其成果。
在一份關於人工智能用於惡意和欺騙性目的的詳細報告中，OpenAI還表示發現了一個名為「贊助不滿」（Sponsored Discontent）的中國運動，該運動利用OpenAI的技術生成批評中國異議者的英語帖子。
OpenAI表示，同一組織還利用該公司的技術將文章翻譯成西班牙語，並在拉丁美洲發佈，這些文章批評美國社會和政治。
此外，OpenAI的研究人員還識別出一個被認為位於柬埔寨的運動，該運動使用公司的技術生成和翻譯社交媒體評論，幫助推動一種名為「豬肉屠宰」（pig butchering）的詐騙行為。這些人工智能生成的評論被用來吸引網絡上的男性，並將他們捲入一個投資計劃。
（《紐約時報》已對OpenAI和微軟因侵犯與人工智能系統相關的新聞內容的版權提起訴訟，OpenAI和微軟否認這些指控。）
在這篇報導中，我們看到人工智能的雙刃劍特性。雖然這項技術可以被用來推動監控和操控，但同時也可以成為揭露這些行為的有力工具。這對於政府和企業在使用人工智能時，必須加強道德和法律的約束，以防止其被濫用，顯得尤為重要。隨著技術的進步，如何平衡創新與風險，將是未來科技發展中需要面對的重大挑戰。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
