深度偽造技術助長美國數十億美元詐騙損失
在Facebook上，海蒂·斯旺（Heidi Swan）第一次看到這則廣告。隨後在TikTok上又看到了相同的內容。看到一個看似埃隆·馬斯克（Elon Musk）不斷提供投資機會的視頻後，62歲的醫療工作者斯旺認為這一定是真的。
“看起來就像埃隆·馬斯克，聲音也像，我以為就是他，”斯旺說。
她聯絡了這個推銷的公司，並開設了一個超過10,000美元的賬戶。斯旺以為自己是在一位身價數十億的商人和投資者的帶領下，進行了一筆明智的加密貨幣投資。
但不久後，斯旺發現自己被一波利用人工智慧創造深度偽造影像的高科技小偷騙了。
即使現在回頭看那些視頻，知道它們是偽造的，斯旺仍然認為它們看起來很真實。
“它們仍然看起來像埃隆·馬斯克，”她說。“它們仍然聽起來像埃隆·馬斯克。”
深度偽造詐騙在美國上升
隨著人工智慧技術的發展和普及，這類詐騙變得越來越普遍。根據德勤（Deloitte）這個領先的金融研究組織的報告，去年由AI生成的內容造成了超過120億美元的詐騙損失，預計到2027年美國的損失可能會達到400億美元。
聯邦貿易委員會（FTC）和更好的商業局（BBB）已經發出警告，指出深度偽造詐騙正在上升。
AI公司Sensity的一項研究發現，埃隆·馬斯克是深度偽造詐騙中最常被使用的名人。這可能有兩個原因：他的財富和創業精神；另一個原因是他參加的訪談數量；網上有越多的內容，創造出令人信服的深度偽造就越容易。
深度偽造的運作原理
德克薩斯州北部大學的克里斯托弗·米爾多（Christopher Meerdo）教授也在使用人工智慧，但他是用來創作藝術。
“這不會取代創意藝術，”米爾多說。“它只是會增強它們，改變我們理解創造領域的方式。”
雖然米爾多認為人工智慧是一種創新手段，但他也意識到其潛在的危險。
米爾多向CBS新聞德克薩斯州調查小組展示了詐騙者如何利用真實視頻，使用AI工具替換一個人的聲音和嘴部動作，使其看起來在說完全不同的話。
隨著技術的進步，創建深度偽造視頻變得越來越簡單。對於熟悉AI的人來說，製作一個深度偽造只需要一張靜態圖片和一段視頻錄像。
米爾多用一段調查記者布萊恩·紐（Brian New）的視頻創建了一個埃隆·馬斯克的深度偽造。
這些AI生成的視頻雖然並不完美，但只需足夠令人信服，就能欺騙毫無防備的受害者。
“如果你真的想詐騙人，我認為你可以用這個做一些非常糟糕的事情，”米爾多說。
如何識別深度偽造
有些深度偽造比其他的更容易識別；可能會出現不自然的嘴唇動作或奇怪的身體語言。但隨著技術的改善，僅憑眼睛將越來越難以判別。
目前越來越多的網站聲稱可以檢測深度偽造。CBS新聞德克薩斯州調查小組使用三個已知的深度偽造視頻和三個真實視頻，對五個這樣的網站進行了非科學性的測試：Deepware、Attestiv、DeepFake-O-Meter、Sensity和Deepfake Detector。
總體而言，這五個在線工具在測試視頻中正確識別的比例接近75%。調查小組聯繫了這些公司的結果，以下是他們的回覆。
Deepware
Deepware是一個免費使用的網站，最初未能標記調查小組測試的兩個假視頻。該公司在電子郵件中表示，所使用的片段太短，最佳結果的視頻應在30秒到一分鐘之間。Deepware正確識別了所有較長的視頻。根據該公司，該檢測率在行業中被認為是良好的，達到70%。
Deepware網站的常見問題部分指出：“深度偽造目前還不是一個解決的問題。我們的結果表明某個視頻是深度偽造的可能性。”
Deepfake Detector
Deepfake Detector是一個每月收費16.80美元的工具，將其中一個假視頻標識為“97%自然聲音”。專注於識別AI生成聲音的公司在電子郵件中表示，背景噪音或音樂等因素可能會影響結果，但其準確率約為92%。
該公司對於普通消費者的指導表示：“我們的工具設計為用戶友好。普通消費者可以輕鬆地在我們的網站上上傳音頻文件，或使用我們的瀏覽器擴展直接分析內容。該工具將提供分析，幫助確定視頻是否可能包含深度偽造元素，並以概率形式呈現，使即使不熟悉AI技術的人也能輕鬆使用。”
Attestiv
Attestiv將兩個真實視頻標記為“可疑”。根據該公司首席執行官尼科斯·維基亞里德斯（Nicos Vekiarides）的說法，圖形和編輯等因素可能會引發假陽性。被標記為“可疑”的兩個真實視頻都包含圖形和編輯。該網站提供免費服務，但也有付費層級，消費者可以調整設置和校準以進行更深入的分析。
儘管他承認Attestiv並不完美，維基亞里德斯表示，隨著深度偽造變得越來越難以用肉眼識別，這類網站作為解決方案的一部分是必要的。
“我們的工具可以判斷某些東西是否可疑，然後你可以用自己的眼睛來驗證，說‘我確實認為那是可疑的’，”維基亞里德斯說。
DeepFake-O-Meter
DeepFake-O-Meter是由布法羅大學和國家科學基金會支持的另一個免費工具。它將兩個真實視頻標識為具有高概率是AI生成。
該平台的創建者在電子郵件中表示，深度偽造檢測模型的一個限制是，視頻壓縮可能導致視頻和音頻不同步，以及嘴部動作不一致。
對於普通用戶如何使用該工具的問題，該公司回應說：“目前，顯示給用戶的主要結果是該樣本在不同檢測模型下被生成的概率值。如果多個模型在同一答案上達成一致（例如，AI生成的概率超過80%或真實視頻的概率低於20%），則可以作為參考。我們目前正在開發更易於理解的結果展示方式，以及能夠輸出全面檢測結果的新模型。”
Sensity
Sensity的深度偽造檢測器正確識別了所有六個片段，顯示出AI操控最可能的熱圖。
該公司提供免費試用期，告訴調查小組，儘管目前其服務主要針對私人和公共組織，但未來的目標是使這項技術向所有人開放。
評論
深度偽造技術的發展不僅僅是技術進步的體現，它更是一個社會信任的危機。隨著這種技術愈加成熟，普通民眾如何保護自己免受詐騙的影響，成為了一個亟待解決的問題。企業和政府應積極投入資源，推動深度偽造檢測技術的發展，同時加強公眾的數位素養教育，讓人們在面對這些高科技詐騙時，能夠更加警覺和明智。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
