OpenAI揭露中國監控工具的證據
OpenAI於上週五表示，他們發現一個中國安全行動組織建立了一個以人工智能為驅動的監控工具，旨在即時收集西方國家社交媒體上有關反中國言論的報告。
該公司的研究人員表示，他們之所以能夠識別這個新行動，稱之為「同行評審」，是因為有一位正在開發該工具的人使用了OpenAI的技術來調試其計算機代碼。
OpenAI的首席研究員Ben Nimmo表示，這是該公司首次發現這種類型的人工智能驅動監控工具。他指出：「威脅行為者有時會因為他們使用我們的人工智能模型的方式，讓我們窺見他們在互聯網其他地方的行為。」
隨著對人工智能可能被用於監控、電腦駭客、虛假信息運動及其他惡意目的的擔憂日益增加，Nimmo等研究人員指出，儘管這項技術確實可以促進這類活動，但人工智能也能幫助識別和制止這些行為。
Nimmo及其團隊認為，這個中國監控工具是基於Meta公司開發的Llama人工智能技術，該技術已經開源，意味著它與全球的軟件開發者分享了其成果。
在一份有關人工智能被用於惡意和欺騙性目的的詳細報告中，OpenAI還揭露了另一個名為「贊助不滿」的中國行動，該行動利用OpenAI的技術生成批評中國持不同政見者的英語帖子。
OpenAI指出，這個同一組織還利用該公司的技術將文章翻譯成西班牙語，然後在拉丁美洲分發，這些文章批評美國的社會和政治。
此外，OpenAI的研究人員還識別出一個可能位於柬埔寨的行動，該行動利用公司的技術生成和翻譯社交媒體評論，幫助推動一種名為「豬肉屠宰」的詐騙行為。這些人工智能生成的評論被用來吸引網上的男性並將他們捲入一個投資計劃。
這份報告的揭露引發了對人工智能在全球範圍內被濫用的憂慮，特別是在某些國家，政府可以利用這些技術來進行大規模監控和信息操控。這不僅是對科技公司道德責任的挑戰，也引發了對信息自由和個人隱私的擔憂。
在這樣的背景下，OpenAI的發現提醒我們，人工智能的發展必須伴隨著強有力的監管和道德指導，以確保這些技術不會被用於打壓言論自由或進行其他形式的社會控制。這也強調了國際社會需要共同努力，防止這些技術被用於惡意目的，並保障每個人的基本權利。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
