OpenAI揭露中國監控工具的證據
OpenAI於週五表示，他們發現了一個中國安全行動所建立的人工智能驅動的監控工具，旨在收集西方國家社交媒體上有關中國的反對言論的即時報告。
該公司的研究人員表示，他們識別了這一新活動，稱之為「同行評審」，因為在開發該工具的過程中，有人使用了OpenAI的技術來調試其基礎的電腦代碼。
OpenAI的首席研究員Ben Nimmo表示，這是該公司首次揭露此類人工智能驅動的監控工具。「威脅行為者有時會因為使用我們的人工智能模型，而讓我們窺見他們在互聯網其他地方的行為，」Nimmo先生說。
隨著人們對人工智能可能被用作監控、電腦黑客、虛假信息活動及其他惡意目的的擔憂日益加劇，Nimmo等研究人員指出，雖然這項技術確實可以促成這些活動，但人工智能同時也可以幫助識別和阻止這些行為。
Nimmo先生和他的團隊相信，這個中國監控工具是基於Meta開發的Llama人工智能技術，後者將其技術開源，這意味著它向全球的軟件開發者分享了其研究成果。
在一份有關人工智能用於惡意和欺騙目的的詳細報告中，OpenAI還提到他們發現了一個名為「贊助不滿」的中國活動，該活動使用OpenAI的技術生成批評中國異議人士的英語帖子。
OpenAI表示，同一組織還利用該公司的技術將文章翻譯成西班牙語，然後在拉丁美洲發佈，這些文章批評美國的社會和政治情況。
另外，OpenAI的研究人員還確定了一個據信位於柬埔寨的活動，該活動使用公司的技術生成和翻譯社交媒體評論，以推動一種被稱為「豬肉屠宰」的詐騙行為。這些人工智能生成的評論用來吸引網上的男性，並使他們捲入一個投資計劃。
（《紐約時報》已對OpenAI和微軟提起訴訟，控告他們侵犯與人工智能系統相關的新聞內容的版權。OpenAI和微軟否認這些指控。）
—
這篇報道揭示了人工智能在現代監控和信息控制中的潛在用途，特別是在政治敏感的環境中。可以看出，這不僅是技術的進步，更是國家間信息戰的新前沿。OpenAI的發現令人警醒，顯示出科技公司在防止其技術被濫用方面的責任與挑戰。
我們必須反思，當技術被惡意使用時，如何制定有效的規範來保護個人自由和隱私？此外，這也引發了對開源技術的討論，它雖然促進了創新，但同時也可能成為不法分子工具的溫床。未來，我們需要在推動科技進步與維護社會道德之間找到一個平衡點。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
