OpenAI揭露中國監控工具的證據
OpenAI在週五表示，他們發現了一個中國安全機構開發的人工智能驅動的監控工具，該工具用於收集西方國家社交媒體上反華貼文的即時報告。
該公司的研究人員表示，他們識別了這一新運動，稱之為「同行評審」，因為一名在該工具上工作的人使用了OpenAI的技術來調試其核心計算機代碼。
OpenAI的首席研究員Ben Nimmo表示，這是該公司首次發現這種類型的人工智能驅動的監控工具。他說：「威脅行為者有時會因為使用我們的人工智能模型而讓我們窺見他們在互聯網其他地方的行為。」
對於人工智能被用於監控、電腦駭客、假資訊活動及其他惡意用途的擔憂日益增加。雖然像Nimmo這樣的研究人員指出，這項技術確實可以促成這類活動，但他們補充道，人工智能也可以幫助識別和阻止這種行為。
Nimmo和他的團隊相信，這個中國監控工具是基於Meta開發的Llama人工智能技術，因為Meta將其技術開源，這意味著它與全球的軟件開發者分享了其工作成果。
在一份有關人工智能用於惡意和欺騙性目的的詳細報告中，OpenAI還表示，他們發現了一個名為「贊助不滿」的中國活動，該活動利用OpenAI的技術生成批評中國異議人士的英文貼文。
OpenAI指出，同一組織還利用公司的技術將文章翻譯成西班牙語，然後在拉丁美洲分發，這些文章批評美國社會和政治。
此外，OpenAI的研究人員還識別了一個被認為位於柬埔寨的活動，該活動使用公司的技術生成和翻譯社交媒體評論，幫助推動一種名為「豬肉屠宰」的詐騙活動，報告指出。這些人工智能生成的評論被用來吸引網上的男性，並將他們捲入一個投資計劃中。
在此背景下，我們不禁要思考，人工智能的發展究竟會帶來什麼樣的道德和倫理挑戰。雖然技術本身無罪，但其應用卻可能成為侵犯隱私和自由的工具。OpenAI的發現提醒我們，面對日益普及的人工智能技術，社會必須建立更為嚴格的監管框架，以防技術被濫用。在這個數位化的時代，我們需要更具前瞻性的思維來保護個人權益，確保技術的進步能夠真正造福人類，而不是成為壓迫的工具。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
