2024選舉面臨AI深度偽造風暴

Ai

FBI揭露2024選舉最後時刻的欺騙性AI深偽影像

華盛頓 — 隨著競爭聲音在我們的屏幕上交錯,情勢越來越緊張,但我們還只看到了冰山一角。

選舉專家和科技公司正為2024年選舉的最後時刻做好準備,預計將出現大量由人工智能驅動的深偽影像,還有大量傳統的錯誤和虛假信息。微軟總裁布拉德·史密斯(Brad Smith)在今年秋季的一次聽證會上警告參議院情報委員會:“我認為最危險的時刻將是在選舉前48小時。”

在那次聽證會之後,國會整個十月都沒有開會,卻對這場逐漸升級的風暴視而不見,這其中還包括外國勢力的干預,意圖在美國的選舉中製造分裂。“人們認為這是候選人之間的鬥爭,但不一定是這樣,”明尼蘇達州參議員艾米·克洛布查(Amy Klobuchar)告訴Raw Story。“可能是外國實體在作祟。”

由於缺乏聯邦層面的防範措施來打擊深偽影像和聊天機器人軍隊,聯邦官員在選舉的最後幾天依賴私營部門和各州來對抗這些AI製作的假消息和誤導信息。專家們警告選民要保持警惕,對網上看到的所有信息提出質疑。

假影像四起

上週末,FBI發出警告,指出兩段假視頻在網上流傳;其中一段是虛假的FBI特工逮捕涉嫌選票詐騙的視頻,另一段則錯誤地顯示FBI表示不會調查副總統卡馬拉·哈里斯的丈夫道格·埃莫夫(Doug Emhoff)干預選舉的情況。FBI周六發表聲明稱:“FBI知道有兩段假視頻錯誤聲稱與選舉安全有關,其中一段聲稱FBI已逮捕與選票詐騙有關的團體,另一段涉及第二位紳士。這些視頻不是真實的,並非來自FBI,所描繪的情況都是錯誤的。”

在一段假冒喬·拜登總統的自動撥號錄音中,數千名新罕布什爾州居民被呼籲不要在該州的初選中投票之後,聯邦通信委員會(FCC)將使用AI生成的假聲音進行自動撥號的行為定為非法。儘管國會知道這只是杯水車薪,但FCC的行動在國會山上獲得了讚譽。

在沒有國會行動的情況下,官員們幾乎沒有新的工具來應對選民面臨的下一代假消息——無論是可信的深偽視頻,還是AI在社交媒體上放大陰謀論的情況。專家們預測,2024年,深偽技術將與傳統的虛假信息活動融合在一起。

在喬治亞州,國務卿布拉德·拉芬斯伯格(Brad Raffensperger)也在對抗由共和黨人如馬喬里·泰勒·格林(Marjorie Taylor Greene)散播的謊言,這些謊言宣稱投票機會改變選民的選票。“這個說法在2020年就是謊言,現在也是謊言,”拉芬斯伯格表示。

外國干預的溫床

這種國內的虛假信息環境使得今年的選舉成為外國干預的沃土。九月,司法部對俄羅斯國有媒體RT的員工提出指控,指控他們進行外國選舉干預,聲稱他們在不知情的右翼影響者身上花費了1000萬美元,這些影響者隨後在約2000部YouTube視頻中散播克里姆林宮的謊言、虛假信息和宣傳,這些視頻的觀看次數超過1600萬。

隨後一周,財政部指控俄羅斯非營利組織ANO Dialog及其子組織利用“深偽內容發展俄羅斯的虛假信息運動”,這些運動包括在社交媒體賬戶上發佈“假在線帖子……這些帖子會由假文件等材料組成,以引發觀眾的情感反應。”

其他國家也在利用AI聊天機器人來影響選舉。根據參議院情報委員會主席馬克·華納(Mark Warner)的說法,中國正在活躍地針對那些對中國持強硬態度的候選人進行“下游選舉”的攻擊。

伊朗的干預則更加精細和精確,利用AI幫助構建針對特定社區的現實假網站,包括針對退伍軍人和在役軍人的“不是我們的戰爭”網站、針對黑人社區的“非洲多數”網站和針對喬治亞州保守派的“薩凡納時間”網站。

在2024年選舉的最後時刻,專家們預計將出現一波由AI驅動的聊天機器人,這些機器人將引發恐懼、憤怒和不信任,同時推出假視頻和製造的音頻,針對易受影響的選民。

立法措施旨在標記深偽影像、提高AI透明度並保護記者、藝術家和演員的作品及肖像不被用於生成AI內容,或許讓一些不法分子卻步,但在沒有國會行動的情況下,專家們預測將面臨來自外國和國內勢力的假消息洪流。

我們只是寄希望於最好

“AI和深偽影像到底發生了什麼?”Raw Story在今年秋季問道。

“顯然我們只是寄希望於最好,”密蘇里州參議員喬什·霍利(Josh Hawley)——國會中呼籲AI防範的較為響亮的聲音之一——告訴Raw Story。“我認為這很危險。”

霍利與克洛布查合作,努力對抗深偽影像。他對他們的兩黨合作未能在參議院取得進展感到沮喪,即使在對人工智能的興奮之後。

去年,參議院多數領袖查克·舒默(Chuck Schumer)和一組兩黨參議員舉辦了九場閉門的AI見解論壇,但自那以後,參議院每週只在華盛頓開會約三天,針對AI的選舉措施從未在參議院表決。

“你怪舒默沒有撥出時間來嗎?”Raw Story問道。

“是的,”霍利回答。“但我認為這可能是整體領導的問題。”

“兩邊都是嗎?”Raw Story問。

“我認為是的,”霍利在批評這些停滯不前的措施時提到了參議院少數黨領袖米奇·麥康奈爾(Mitch McConnell)。

根據舒默的AI盟友南達科他州參議員邁克·朗茲(Mike Rounds)的說法,事情並不那麼簡單,他幫助推動了去年參議院的私密AI教程。

朗茲表示,未來不會有一項全面的人工智能法案,而是預計每一項從國會通過的主要法案都會包含AI相關的措施。

“並不是說會有一個總法案,”朗茲告訴Raw Story。“我認為未來不會有任何一項重大的立法通過參議院,沒有與AI問題的修改有關。”

例如,朗茲提到的人工智能措施被納入年度撥款法案(如促進國內AI研究的努力)、國防授權法案(或NDAA,包括更好地定義AI戰爭的條款)、農業法案的重新授權(立法者推廣農業中的AI技術)以及其他多項正在國會中進行的措施。

但這些措施是未來的事情。照舊,國會在選舉前這一周休會,儘管生成性AI正在實時產生新的深偽影像,並被用來對抗易受影響的社區和容易受騙的影響者。

我們準備好了嗎?

“我們準備好了嗎?”Raw Story問道。

“我們在2016年準備好了嗎?2018年準備好了嗎?2020年準備好了嗎?”朗茲問道。“你會變得更好。在2018年,我們確實擊潰了很多東西,但我們能做到很多都是通過網絡行動。我們在網絡方面變得更好,但我們的對手也在提高影響力。”

這一切都取決於我們自己如何對待消費的信息和虛假信息。朗茲說,購買者需謹慎。“如果你要聽取任何類型的信息,請查看來源,檢查這些來源是否可信。有時美國人民不會花時間去做這些,尤其是當他們被多個社交媒體來源淹沒時,他們認為這些來源必須比實際上更準確。”

朗茲和其他人表示,不法行為者不會因為在選舉中使用新技術而逃避美國法律。“我們所看到的外國干預是非法的,無論它是否包括AI,因此為敵手提供另一種工具並不改變或使他們的干預活動合法化,”朗茲說。

這對於兩黨的成員來說並不算安慰,他們一直在目睹外國干預行為在本次選舉中欺騙美國選民。“托馬斯·傑佛遜曾經說過,當美國人民知道真相時,他們不會犯錯。在我們今天的情況下,人們可能就是不知道真相是什麼,”特拉華州參議員湯姆·卡珀(Tom Carper)告訴Raw Story。“但通過AI和其他機制的能力,可能會使民主的工作變得更加艱難。”

雖然地方和聯邦官員都在為最壞的情況做好準備,但其他人則表示,政治家總是會適應新的媒介。無論生成性AI證明多麼具有革命性,這種觀點認為,2024年的美國選舉在本質上依然沒有改變。

這將是一場艱苦的考驗

在搶手的州,像賓夕法尼亞州的參議員約翰·法特曼(John Fetterman)對於外國干預——無論是AI協助的還是其他——在此次選舉中的影響並不太在意。“他們可能會試著做那種事,”法特曼在今年秋季告訴Raw Story。“這是一個問題,但不會成為決定性問題。”

部分原因是,如今難以區分外國的虛假信息和特朗普本人經常散播的謊言——例如他聲稱自己贏得了2020年選舉(事實上是輸給拜登)或他推動的關於寵物在俄亥俄州斯普林菲爾德的陰謀論(這些謊言目前已被徹底駁斥)。

還有社交媒體。在過去的選舉中,許多科技公司積極對抗虛假信息,但在2024年,Twitter的擁有者埃隆·馬斯克(Elon Musk)——他的推文如今被提升到超過2.02億的追隨者——已成為全國最臭名昭著的虛假新聞散佈者之一。根據《紐約時報》對他在這個秋季五天內171條推文的分析,約三分之一的推文“都是虛假的、誤導性的或缺乏重要背景信息。”馬斯克的新AI軟件Grok——一個類似維基百科的功能——也不可靠,已成為虛假信息的常見散佈者,將“被操控”的選舉陰謀論轉變為數千萬用戶在這個社交媒體平台上接受的現實。

再來是羅伯特·F·甘迺迪(Robert F. Kennedy Jr.),在特朗普的集會上被視為搖滾明星,但他是一位臭名昭著的反疫苗者,現在承諾如果特朗普給他美國衛生與公共服務部(HHS)的掌控權,他將移除美國水中的氟化物,這是特朗普的承諾。

在這樣的虛假信息氛圍中,選民對於現實與修辭的界限感到困惑,何況還有那些深偽影像。

然而,即使有新技術,搶手州的選民們仍表示,正如往常一樣,基本面將決定今年的選舉。“我希望我能說些更性感或有趣或令人震驚的話,但這將會是一次驚險的考驗,”法特曼表示。“這不是關於民調,不是關於金錢,不是關於辯論或背書——這是關於選擇,而這將是一場艱苦的考驗。”

這篇文章中提到的深偽影像和錯誤信息問題,無疑是當前選舉中的一大挑戰。隨著科技的進步,選民面對的資訊環境變得越來越複雜,如何在眾多真假難辨的信息中把握真相,將考驗每位選民的判斷力。這也提醒我們,對於信息的來源和可信度保持警惕,將是未來民主運作中不可或缺的一部分。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *