OpenAI揭發中國人工智能監控工具的證據
OpenAI於周五表示，該公司發現了一個中國安全行動所建立的人工智能監控工具，旨在收集有關反中國言論的實時報告，主要針對西方國家的社交媒體服務。
該公司的研究人員指出，他們之所以能夠識別這一新活動，稱之為「同行評審」（Peer Review），是因為有一位參與該工具開發的人員使用了OpenAI的技術來調試其底層的計算機代碼。
OpenAI的首席研究員Ben Nimmo表示，這是該公司首次揭露此類人工智能驅動的監控工具。他指出：「威脅行為者有時會因為使用我們的人工智能模型而讓我們瞥見他們在互聯網其他地方的行為。」
隨著對人工智能被用於監控、電腦駭客攻擊、虛假信息活動和其他惡意用途的擔憂日益增加，Nimmo等研究人員認為，儘管這項技術確實能促進這些行為，但人工智能同樣能夠幫助識別並制止此類行為。
Nimmo和他的團隊認為，這個中國監控工具是基於Meta開發的Llama人工智能技術。Meta將其技術開源，這意味著它與全球的軟件開發者分享其成果。
在關於人工智能在惡意和欺騙性用途中的使用的詳細報告中，OpenAI還提到了一個名為「贊助不滿」（Sponsored Discontent）的中國行動，該行動利用OpenAI的技術生成批評中國異議人士的英文帖子。
OpenAI表示，這個同一組織還使用該公司的技術將文章翻譯成西班牙語，然後在拉丁美洲發佈，這些文章批評美國社會和政治。
此外，OpenAI的研究人員還識別出一個被認為位於柬埔寨的行動，該行動利用公司的技術生成和翻譯社交媒體評論，幫助推動一種被稱為「豬肉屠宰」（pig butchering）的詐騙行為。這些人工智能生成的評論被用來吸引網上的男性，並將他們捲入一個投資計劃。
對於這些發現，我認為OpenAI的研究揭示了當前人工智能技術在全球範圍內的濫用情況，尤其是在監控和信息操縱方面。這不僅僅是對技術本身的警示，更是對我們社會的反思：在追求技術進步的同時，我們是否也在無意中為這些不當行為提供了助力？這些監控工具的存在，不僅影響了個人隱私，還可能進一步加劇國際間的緊張關係。未來，如何平衡技術發展與道德責任，將是我們必須面對的重要課題。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
