AI生成影像與深偽技術對2024年選舉影響微乎其微
最近的研究顯示，生成式AI和深偽技術對2024年美國選舉的影響幾乎可以忽略不計，因為目前的技術尚未達到足夠的真實感。
在過去一年中，對於生成式AI可能對2024年選舉造成破壞的擔憂相當普遍。為了應對這些恐懼，加州通過了一項法律，禁止與2024年選舉相關的深偽內容，這是美國對政治AI生成內容最嚴格的法律。
同時，在2024年美國總統選舉前的那個月，OpenAI也阻止了數十萬個生成候選人DALL-E影像的請求。
然而，根據《金融時報》的報導，最近的多項研究表明，AI生成的虛假資訊對今年的全球選舉影響微乎其微，對深偽技術的恐懼被過度誇大。這主要是因為技術尚未成熟，AI生成的影像與真實照片相比，真實感仍然不足。
實際上，社交媒體用戶更可能錯誤地將真實照片誤認為AI生成的影像，而不是相反。
根據報導，艾倫·圖靈研究所發現，在今年夏季的英國、法國和歐盟選舉中，僅有27個AI生成的內容在社交媒體上病毒式傳播。另一項研究則顯示，只有五分之一的英國人能識別出任何與選舉相關的熱門政治深偽影像。
在美國，新聞素養項目記錄了將近1,000個與總統選舉有關的虛假資訊例子，但只有6%與生成式AI有關。根據TikTok的報導，隨著投票日的臨近，AI生成內容的刪除並沒有明顯增加。
《金融時報》的分析發現，社交媒體上對於“深偽”或“AI生成”等術語的提及，與新影像生成模型的發布相關性更高，而非與重大選舉相關。
有趣的是，戰略對話研究所的分析顯示，社交媒體用戶更可能錯誤地認為真實影像是AI生成的，而不是相反。整體上，使用者表現出健康的懷疑態度，而虛假媒體仍然可以通過谷歌反向影像搜索或官方通訊進行駁斥。
牛津大學路透新聞研究所的研究員Felix Simon對《金融時報》表示：「我們已經有Photoshop很久了，但我們仍然在很大程度上信任照片。」
這項研究顯示，儘管對於AI生成內容的擔憂廣泛存在，但事實上，這些技術目前的發展水平尚未對選舉結果造成實質影響。這不僅反映出社會對於科技的懷疑，也顯示出人們對於真假資訊的敏感度和識別能力。未來，隨著技術的進步，我們可能需要更嚴格的監管和更有效的工具來對抗虛假資訊，確保民主過程的透明和公正。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
