OpenAI揭露中國利用人工智能的監控工具
OpenAI於上周五表示，該公司發現中國安全機構建造了一款利用人工智能的監控工具，旨在收集有關在西方國家的社交媒體上反華帖文的即時報告。
該公司的研究人員表示，他們識別出這一新的行動，稱之為“同行評審”，因為有一名參與該工具開發的人員使用了OpenAI的技術來調試其底層的計算機代碼。
OpenAI的首席調查員本·尼莫（Ben Nimmo）表示，這是該公司首次發現這類利用人工智能的監控工具。他指出：“威脅行為者有時會因為使用我們的AI模型而讓我們窺見他們在互聯網其他地方的行為。”
隨著對人工智能在監控、電腦駭客、虛假信息活動及其他惡意用途中的使用的擔憂日益增長，尼莫等研究人員表示，儘管這項技術確實能促成這些活動，但人工智能同樣可以幫助識別和制止此類行為。
尼莫和他的團隊相信這款中國監控工具是基於Meta開發的Llama技術，而Meta已將其技術開源，這意味著它向全球的軟件開發者分享了其成果。
在一份有關人工智能被用於惡意和欺騙性目的的詳細報告中，OpenAI還提到發現了另一個中國行動，名為“贊助的不滿”，該行動利用OpenAI的技術生成批評中國異議人士的英語帖文。
OpenAI表示，同一組織還使用該公司的技術將文章翻譯成西班牙語，然後在拉丁美洲進行分發，這些文章批評美國的社會與政治。
此外，OpenAI的研究人員還識別出一個据信位於柬埔寨的行動，該行動利用公司的技術生成和翻譯社交媒體評論，以推動一種名為“豬肉屠宰”的詐騙計劃。這些由人工智能生成的評論用來吸引網上的男性，並讓他們陷入一個投資計劃中。
這一發現再次引發了對人工智能技術的道德和法律問題的討論，尤其是在它被用於監控和操控個人言論的背景下。OpenAI的研究不僅揭露了這些行為的存在，也提醒我們在推動科技進步的同時，必須對其潛在的濫用保持警惕，並尋求有效的解決方案來保護公民的言論自由和隱私權。這樣的情況也促使我們重新思考科技公司在道德責任和社會影響方面的角色，尤其是在全球化和信息化的當今社會中。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
