OpenAI揭露中國監控工具的證據
OpenAI於上週五表示，他們發現了一項中國安全行動所建立的人工智能驅動的監控工具，該工具旨在收集有關反中國社交媒體帖子的實時報告，主要針對西方國家的社交媒體服務。
該公司的研究人員指出，他們之所以能夠識別這一新的行動，稱之為「同行評審」（Peer Review），是因為在開發該工具的過程中，有人使用了OpenAI的技術來調試其底層的計算機代碼。
OpenAI的首席研究員Ben Nimmo表示，這是該公司首次發現這種類型的人工智能驅動的監控工具。他提到：「威脅行為者有時會因為使用我們的人工智能模型而讓我們窺見他們在互聯網其他部分的行為。」
隨著對人工智能可能被用於監控、電腦黑客、虛假信息運動及其他惡意目的的擔憂日益加劇，Nimmo和他的團隊認為，這項技術確實能夠促進這些活動，但同時也能幫助識別和阻止此類行為。
Nimmo及其團隊相信，中國的這個監控工具是基於Meta開發的Llama人工智能技術，該技術已開源，這意味著它與全球的軟件開發者共享了其技術。
在一份關於人工智能被用於惡意和欺騙目的的詳細報告中，OpenAI還揭露了一個名為「贊助不滿」（Sponsored Discontent）的中國行動，該行動利用OpenAI的技術生成英文帖子，批評中國的異議人士。
OpenAI指出，同一組織還利用公司的技術將文章翻譯成西班牙語，然後在拉丁美洲發佈，這些文章批評美國的社會和政治。
另外，OpenAI的研究人員還識別出一個被認為位於柬埔寨的行動，該行動利用公司的技術生成和翻譯社交媒體評論，以推動一個名為「豬肉屠宰」（pig butchering）的詐騙計劃，這些人工智能生成的評論被用來吸引網上的男性並將他們捲入投資計劃中。
這篇報告引發了對人工智能技術使用的深思。隨著技術的迅速發展，我們必須認清其可能帶來的雙刃劍效應。一方面，人工智能能夠為我們提供無數便利和創新，但另一方面，惡意使用這些技術的風險也在增加。這不僅是技術開發者的責任，也是全球社會需要共同面對的挑戰。我們如何在促進技術進步的同時，防範其被濫用的風險，將成為未來重要的議題。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
