OpenAI揭露中國人工智能監控工具的證據
OpenAI於周五表示，他們發現了一個中國安全行動所建造的人工智能驅動的監控工具，旨在收集西方國家社交媒體上反中言論的實時報告。
該公司的研究人員指出，他們之所以能夠識別這個名為“同行評審”的新行動，是因為有人在調試這個工具的計算機代碼時使用了OpenAI的技術。
OpenAI的首席研究員Ben Nimmo表示，這是該公司首次揭露這類人工智能驅動的監控工具。他提到：“威脅行為者有時會因為使用我們的人工智能模型而讓我們窺見他們在互聯網其他部分的活動。”
隨著對人工智能用於監控、電腦黑客、虛假信息運動及其他惡意用途的擔憂日益增長，Nimmo等研究人員指出，雖然技術確實能促使這些活動，但人工智能同樣可以幫助識別和阻止這些行為。
Nimmo和他的團隊相信，這個中國監控工具是基於Meta開發的Llama人工智能技術，而Meta則將其技術開源，意味著它與全球的軟件開發者分享其成果。
在一份詳細報告中，OpenAI還提到了一個名為“贊助不滿”的中國行動，該行動利用OpenAI的技術生成批評中國持不同政見者的英語帖子。OpenAI表示，同一組別還利用公司的技術將文章翻譯成西班牙語，然後在拉丁美洲散發，這些文章批評美國社會和政治。
另外，OpenAI的研究人員還識別出一個被認為位於柬埔寨的行動，該行動利用公司的技術生成和翻譯社交媒體評論，以促進一種稱為“豬宰殺”的詐騙計劃。這些人工智能生成的評論被用來吸引互聯網上的男性，並將他們捲入一個投資計劃。
（《紐約時報》已對OpenAI和微軟提起訴訟，指控其侵犯與人工智能系統相關的新聞內容的版權。OpenAI和微軟均否認這些指控。）
—
這篇報道揭示了人工智能在當今社會中所面臨的道德和法律挑戰，特別是在監控和信息操控方面。OpenAI的研究顯示，技術的開放性可能同時成為雙刃劍，既能促進創新，也可能被不法分子利用來達成其目的。這不僅反映了對人工智能技術的擔憂，更引發了對如何在全球範圍內規範和管理這類技術的深思。
隨著人工智能技術的快速發展，社會各界必須加強對這些技術的監管，確保其不被用於侵害個人隱私或操控公共輿論的行為。這不僅是對技術開發者的呼籲，也是對立法者和政策制定者的一種警示，必須建立相應的法律框架來應對這些新興挑戰，從而保護個人自由和社會公正。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
