AI影響選舉：虛假與現實的模糊界線

zero comment

選舉中AI的足跡

深偽技術和假消息並非主要問題

作者：Matteo Wong

隨著11月5日的到來，選舉前的幾天裡，各種圖像和視頻無法忽視。唐納德·特朗普像超人一樣肌肉發達，懸浮在一排摩天大樓上；特朗普和卡馬拉·哈里斯穿著鮮紅色的制服（特朗普的服裝上有麥當勞的標誌，哈里斯則是鐮刀與鎚子的徽章）。顯然，這些圖像是用AI創作的——無論是為了表達對候選人的支持，還是為了嘲弄對手。但這些圖像在特朗普當選後並未停止。投票結束的第二天，自由女神像哭泣著捂住臉，周圍下著小雨；特朗普和埃隆·馬斯克穿著太空服，站在火星表面；幾小時後，特朗普出現在白宮門口，向哈里斯揮手告別，哈里斯手裡則抱著一個裝滿旗幟的紙箱。

自2018年以來的每一次聯邦選舉都伴隨著對AI可能造成干擾的擔憂。或許一段電腦生成的喬·拜登錄音會改變一個關鍵的縣，或是經過處理的視頻顯示一名選舉工作人員在燒毀選票，會引發騷亂。這些預測從未實現，但許多預測是在ChatGPT、DALL-E等進階、便宜且易於使用的生成式AI模型出現之前提出的——這些技術看起來比以往任何時候都更具威脅性。在ChatGPT於2022年底推出不到一年後，生成式AI程序便開始針對特朗普、艾馬紐·馬克龍、拜登及其他政治領袖進行攻擊。2023年5月，一張AI生成的五角大樓冒煙的圖片引發了美國股市的短暫下跌。幾週後，羅恩·德桑蒂斯的總統初選運動似乎也使用了這項技術來製作廣告。

因此，普渡大學的三位政治學家決定提前追踪生成式AI可能對2024年選舉周期的影響。2023年6月，克里斯蒂娜·沃克、丹尼爾·希夫和凱琳·傑克遜·希夫開始在美國追踪政治AI生成的圖像和視頻。他們的研究集中在兩個特定類別：深偽技術，即用AI製作的媒體，以及“廉價偽造”，即使用更傳統的編輯軟件（如Photoshop）製作的媒體。現在，距離投票結束已經過去一週，他們的數據庫，加上其他研究者的工作，描繪了一幅驚人的畫面：AI實際上是如何影響這次選舉的——這一影響比以往的恐懼預測要複雜得多。

這次選舉中最明顯的生成媒體並未真正植入令人信服的虛假敘事或欺騙美國公民。相反，AI生成的媒體主要用於透明的宣傳、諷刺和情感的宣洩：特朗普在湖中，抱著一隻鴨子和一隻貓（“保護我們在俄亥俄州的鴨子和小貓！”）；哈里斯則身披銅藍色長袍，在自由女神像前炫耀，舉起一根配色的火炬。8月，特朗普發布了一段他與馬斯克一起做同步TikTok舞的AI生成視頻；一位追隨者則回應了一張兩人騎著龍的AI圖像。這些圖片固然是假，但並非假裝成其他事物。在普渡大學團隊對選舉周AI圖像的分析中，他們發現這些帖子更常被用於諷刺或娛樂，而非直接傳遞虛假信息。特朗普和馬斯克分享的政治AI插圖獲得了數億次的觀看。達特茅斯大學的政治學家布倫登·尼漢告訴我，他看到的AI圖像“顯然是用AI生成的，並未被視為字面上的真相或某種證據。它們被視為某個更大觀點的視覺插圖。”而這種用法並不新鮮：在普渡團隊的整個虛假政治圖像數據庫中，包括數百條記錄，諷刺和娛樂是兩個最常見的目的。

這並不意味著這些圖像和視頻僅僅是遊戲或無害的。畢竟，誇張和虛假的宣傳長期以來一直是傳播政治信息和激起支持者情緒的有效方式。歷史上最有效的宣傳運動之一就是基於那些簡單地展示一位領導者或一個國家的力量的圖像。生成式AI提供了一種低成本且簡便的工具，用於生產大量量身定制的圖像，正是這樣的圖像加強了既有情感並引導它們朝特定目的發展。

這類AI生成的卡通和激進宣傳很可能影響了那些尚未決定的選民，推動了投票率，激發了“停止盜竊”的計劃，或驅動了對選舉官員或少數族裔的騷擾。一幅特朗普穿著橙色連身衣的插圖強調了特朗普的刑事定罪和對職位的認知不適合，而一張哈里斯在紅色旗幟的海洋中演講的圖像，背景是一個巨大的鐮刀與鎚子，則將她抹黑為“覺醒”和“共產主義者”。一張修改過的圖片顯示哈里斯打扮成莉亞公主，跪在投票機前，並配上“幫我，德莫寧。你是我唯一的希望”（這句話改編自著名的《星際大戰》台詞），引發了對選舉欺詐的陰謀論。“即使我們注意到許多深偽技術看起來很傻，或者只是簡單的政治卡通或迷因，但它們仍可能對我們的政治觀念產生重大影響，”凱琳·傑克遜·希夫告訴我。很容易想象某人的思考過程：那張“共產黨卡馬拉”的圖片是用AI生成的，但她仍然是共產主義者。那段人們撕毀選票的動畫視頻是經過處理的，但他們仍然在撕毀選票。那張特朗普抱著貓的卡通圖片，但移民真的在吃寵物。觀眾，尤其是那些已經傾向於尋找和相信極端或煽動性內容的人，可能會進一步激進化並被孤立。尤其是那些寫實的宣傳，甚至可能會誤導某人，如果被轉發的次數足夠多，沃克告訴我。

當然，還有許多假圖片和視頻旨在直接改變人們的態度和行為。FBI已經識別出幾段假視頻，旨在對選舉程序產生懷疑，例如在賓夕法尼亞州有人撕毀選票的虛假畫面。“我們的外國對手顯然在使用AI”來推動虛假故事，布倫南正義中心選舉與政府項目副總裁勞倫斯·諾登告訴我。他並未看到任何“超創新”的AI使用，但表示這項技術增強了現有策略，例如創建假新聞網站、故事和社交媒體賬戶，以及幫助計劃和執行網絡攻擊。然而，完全解析這項技術對2024年選舉的直接影響需要幾個月或幾年的時間。地方選舉中的虛假信息更難以追踪，因為它們的曝光率較低。諾登說，加密群組中的深偽技術也難以追踪。專家們還曾擔心，是否會利用AI創建高度寫實的虛假視頻來展示選民欺詐，這可能會被用來抹黑特朗普的敗選。這一情景尚未被驗證。

雖然看起來AI並未直接影響上週的選舉結果，但這項技術已經侵蝕了美國人對信息和彼此的信任能力——它並不只是欺騙人們相信某個特定的事實，而是推進了一種全國範圍內對任何事物都不再相信的衰退。根據戰略對話研究所對美國選舉周期中AI生成媒體的新分析，X、YouTube和Reddit上的用戶約有一半的時間錯誤評估內容的真實性，並且更常認為真實內容是AI生成的，而不是相反。在如此多的不確定性中，利用AI說服人們接受替代事實似乎是一種浪費時間——更有用的是利用這項技術直接而強烈地傳遞一個有動力的信息。或許這就是為什麼，普渡團隊分析的選舉周AI生成媒體中，支持特朗普和反對哈里斯的內容最為常見。

在特朗普勝選一週後，利用AI進行諷刺、娛樂和激進主義的行為並未停止。馬斯克即將共同領導一個新的非政府組織，並經常分享這類內容。11月6日早上，唐納德·特朗普小孩發起了一個徵集迷因的號召，隨之而來的是各種AI生成的圖像。生成式AI確實改變了證據的本質，但也改變了交流的方式——提供了一種新的、有力的媒介，通過這種媒介來展示情感和信念，並廣播它們，進一步聚集更多志同道合的人。與其發送一個全大寫的帖子，不如分享一個詳細而個性化的視覺偶像。這些AI生成的圖像和視頻瞬間可讀，並且通過明確針對情感而非信息，消除了虛假化或批判性思考的必要。無需駁斥，甚至不必考慮不同的觀點——只需對其製作一個憤怒的迷因。無需說服任何人你對J.D. Vance的崇拜——只需用AI使他看起來更具吸引力。事實變得無關緊要，這使得這項技術成為全國最顯著的政治表達方式。在一個事實從無關緊要變得可憎的國家裡，深偽技術——由深度學習算法製作的假新聞——根本不重要；對於越來越多的人而言，除了他們已經知道的，或者說，感受到的，所有東西都是假的。

在這篇文章中，我們看到生成式AI在政治選舉中的雙面性。它能夠迅速創造出引人注目的視覺內容，吸引觀眾的注意力，卻同時也可能助長虛假信息的傳播。這一現象引發我們對於未來政治環境的擔憂：在一個充斥著假消息的時代，真實性是否仍然具有價值？我們的社會是否會因為缺乏對信息真實性的信任而變得更加極端？這是值得我們深思的問題，尤其是在面對即將到來的選舉時，能否找到一種有效的方式來辨識和對抗這些虛假信息，將成為未來政治交流的重要挑戰。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。