打不贏就加入？
五角大樓計劃用假AI人充斥社交媒體
五角大樓可能即將在你常上的網絡論壇中推出由AI驅動的虛假人物。
據《The Intercept》報道，美國國防部（DoD）內一個秘密反恐小組——聯合特種作戰司令部（JSOC）提出了一個願望清單，顯示該機構有意使用生成式AI創造虛假的網絡用戶。
儘管美國政府一再警告，深度偽造和其他AI生成內容將加深虛假信息危機，並使資訊生態更加混亂，但JSOC在文件中解釋，他們正在尋求能在社交媒體、社交網絡和其他網絡內容上生成逼真網絡人物的技術，供特種作戰部隊使用。這個「解決方案」還應包括面部和背景圖像、面部和背景視頻，以及音頻層。
根據願望清單，JSOC希望特種作戰部隊成員能使用這項技術從公共網絡論壇中收集信息。
換言之，JSOC希望為其特種作戰團隊提供技術，創造出能夠說服社交媒體用戶的高端AI深度偽造，以便進行信息收集。
AI影響力
一方面，情報人員早已活躍於網絡留言板和社交媒體頻道。五角大樓對外部網絡影響活動也並不陌生。
但國防部持續專注於利用AI提升其數字監控和影響力的努力，標誌著其在線情報操作方法的一個顯著發展。
正如《The Intercept》去年報道，五角大樓曾表示有興趣利用深度偽造技術改進和擴大由特種作戰司令部（SOCOM）運行的影響力活動，並在2023年的採購中寫道，它尋求「更全面、更具顛覆性」的技術，規模要比當前工具大。
隨著選舉日臨近，值得注意的是，根據多位特朗普親信起草的《2025計劃》，其中對利用AI擴大監控和間諜活動的前景充滿期待。
然而，隨著五角大樓競相使用AI加強其不透明的數字活動，專家警告，美國國防部門對這項技術的接受將為全球各國採取類似欺騙手段開綠燈。
「這只會鼓勵其他軍隊或對手效仿，」AI Now Institute的首席AI科學家Heidy Khlaaf告訴《The Intercept》，「導致社會越來越難以辨別真偽，並使地緣政治局勢更加混亂。」
編輯評論
這篇文章揭示了五角大樓對AI技術在信息戰中的潛在運用，這無疑引起對國際安全和倫理的關注。隨著技術的進步，信息的真實性變得愈發難以辨別，這種趨勢可能會對全球的政治和社會穩定造成影響。
從技術角度來看，AI生成的虛假人物可能會在未來的網絡空間中佔有一席之地，進一步模糊虛擬和現實的界限。然而，這樣的技術若被濫用，可能會助長信息操控和虛假宣傳的風險，對社會信任構成威脅。
這不僅僅是技術問題，還涉及道德和法律的挑戰。各國政府和科技公司需要共同制定規範，以確保AI技術的負責任使用，並保護公眾免受潛在的欺詐和操控。
總體來看，這篇文章提醒我們，在追求技術進步的同時，也要深思其對人類社會的長遠影響，並在必要時設置合理的約束和監管。
以上文章由特價GPT API KEY所翻譯
