OpenAI 揭露中國監控工具的證據
OpenAI 於星期五表示，他們發現了一個中國安全行動所建造的人工智能驅動的監控工具，該工具旨在收集有關西方國家社交媒體上反中言論的即時報告。
該公司的研究人員指出，他們識別出這一新活動，名為「同行評審」，因為在開發這個工具的過程中，有人使用了 OpenAI 的技術來除錯其計算機代碼。
OpenAI 的首席研究員 Ben Nimmo 表示，這是公司首次揭露這種人工智能驅動的監控工具。他說：「威脅行為者有時會因為使用我們的人工智能模型而讓我們窺見他們在互聯網其他地方的行為。」
隨著人工智能被用於監控、計算機黑客、虛假信息運動及其他惡意目的的擔憂日益加劇，Nimmo 及其團隊認為這項技術確實能夠促進這些活動，但他們同時指出，人工智能也可以幫助識別和阻止這些行為。
Nimmo 及其團隊相信，中國的監控工具是基於 Meta 開發的 Llama 人工智能技術，該技術已開源，意味著它與全球的軟件開發者分享了其成果。
在一份關於人工智能在惡意和欺騙性目的上使用的詳細報告中，OpenAI 還發現了一個名為「贊助不滿」的中國運動，該運動使用 OpenAI 的技術生成英語帖子，批評中國的異議人士。
OpenAI 表示，同一組織還利用公司的技術將文章翻譯成西班牙語，然後在拉丁美洲發佈，這些文章批評美國社會和政治。
此外，OpenAI 的研究人員還識別出一個被認為位於柬埔寨的運動，該運動使用公司的技術生成和翻譯社交媒體評論，以推動一種名為「豬肉屠宰」的詐騙行為。這些人工智能生成的評論被用來在互聯網上吸引男性，並將他們捲入投資詐騙中。
（《紐約時報》已對 OpenAI 和微軟提起訴訟，指控其侵犯與人工智能系統相關的新聞內容的版權。OpenAI 和微軟否認這些指控。）
—
評論：
這篇報導揭示了人工智能技術在全球政治與社會動態中的潛在影響，特別是其在監控和信息操控方面的應用。隨著技術的進步，政府和組織利用這些工具進行信息監控的情況越來越普遍，這不僅引發了對數據隱私的擔憂，也使得信息的真實性受到挑戰。
值得注意的是，OpenAI 在報告中強調了人工智能的雙重性質：一方面，它可以被用來進行惡意行為，另一方面，它也具備識別和阻止這些行為的潛力。這種二元性提醒我們，技術本身並不是罪魁禍首，關鍵在於人類如何使用它。未來，社會需要更深入的討論與規範，以確保這些技術能夠被用於促進透明度和公正，而非加深分歧和對立。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
