OpenAI揭露中國監控工具的證據
OpenAI於周五表示，發現了一項中國安全行動建造的人工智能驅動的監控工具，該工具旨在收集有關在西方國家社交媒體上反對中國的帖子即時報告。
該公司的研究人員表示，他們識別了這一新活動，稱之為「同行評審」，因為在開發該工具的人員使用了OpenAI的技術來調試其計算機代碼。
OpenAI的首席研究員Ben Nimmo表示，這是該公司首次揭露這種類型的人工智能驅動的監控工具。
「威脅行為者有時會因為使用我們的人工智能模型而讓我們窺見他們在互聯網其他地方的行為，」Nimmo先生說。
對於人工智能被用於監控、電腦駭客、虛假信息運動和其他惡意目的的擔憂日益加劇。儘管像Nimmo先生這樣的研究人員表示，這項技術確實可以促成這些活動，但他們也補充道，人工智能同樣可以幫助識別並制止這些行為。
Nimmo先生和他的團隊相信，該中國監控工具是基於Meta所開發的Llama人工智能技術，Meta已經開源了其技術，這意味著它將其工作分享給全球的軟件開發人員。
在一份有關人工智能用於惡意和欺騙目的的詳細報告中，OpenAI還表示，發現了一個名為「贊助不滿」的中國活動，該活動使用OpenAI的技術生成批評中國異議人士的英語帖子。
OpenAI表示，同一組織還利用該公司的技術將文章翻譯成西班牙語，然後在拉丁美洲分發，這些文章批評美國社會和政治。
另外，OpenAI的研究人員識別出一個被認為位於柬埔寨的活動，該活動利用公司的技術生成和翻譯社交媒體評論，幫助推動一種名為「豬肉屠宰」的詐騙行為，報告指出。這些人工智能生成的評論被用來吸引互聯網上的男性，並使他們陷入一個投資計劃。
（《紐約時報》已對OpenAI和微軟提起訴訟，指控其侵犯與人工智能系統相關的新聞內容的版權。OpenAI和微軟否認這些指控。）
—
這篇報導揭示了人工智能技術在全球政治中越來越複雜的角色，特別是在監控和信息操控方面。隨著科技的進步，國家或組織利用人工智能來增強其監控能力，這不僅引發了對隱私的擔憂，更讓我們思考如何在科技發展與人權之間找到平衡。
這種情況尤其令人擔憂，因為它展示了技術如何被用作政治武器，特別是在言論自由受到壓制的地區。對於OpenAI這樣的技術公司而言，如何確保其技術不被惡意使用，並同時促進其正面影響，將是一個重要的挑戰。這提醒我們，科技的進步必須伴隨著道德和法律的反思，以確保它不會成為壓迫的工具。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
