深度假冒技術的崛起對億萬美元詐騙損失的影響
在社交媒體上，海蒂·斯旺首次看到一則廣告，然後在TikTok上又看到了。當她反覆看到一個看似伊隆·馬斯克（Elon Musk）提供投資機會的廣告時，她認為這一定是真的。
“看起來就像伊隆·馬斯克，聽起來也像他，我以為真的是他，”斯旺說。
她聯繫了這個推銷背後的公司，並開設了一個超過10,000美元的帳戶。這位62歲的醫療工作者認為自己正在向一位身價數十億的商人和投資者進行明智的加密貨幣投資。
然而，斯旺很快發現她被一波利用人工智能製作深度假冒技術的新型高科技盜竊者騙了。
即使現在回顧那些視頻，明知道它們是假的，斯旺依然覺得它們看起來很真實。
“它們仍然看起來像伊隆·馬斯克，”她說。“它們仍然聽起來像他。”
美國深度假冒詐騙案件激增
隨著人工智能技術的發展和普及，這類詐騙案件變得越來越普遍。
根據德勤（Deloitte）這家領先的金融研究集團的報告，去年由人工智能生成的內容導致的詐騙損失超過120億美元，預計到2027年在美國將達到400億美元。
聯邦貿易委員會和更好的商業局均已發出警告，指出深度假冒詐騙案件正在上升。
AI公司Sensity的一項研究發現，伊隆·馬斯克是深度假冒詐騙中使用最頻繁的名人。其原因之一是他的財富和創業精神，另一個原因是他接受的訪談數量；在線上有越多的內容，創造可信的深度假冒就越容易。
深度假冒的構造
在德克薩斯州的北德克薩斯大學，克里斯托弗·梅爾多教授（Christopher Meerdo）也在利用人工智能，但他用它來創作藝術。
“這不會取代創意藝術，”梅爾多說。“它將增強這些藝術，並改變我們在創意領域所能做的事情的理解。”
儘管梅爾多認為人工智能是一種創新方式，但他也看到了其危險性。
梅爾多向CBS新聞的I-Team展示了詐騙者如何使用AI工具替換真實視頻中的人的聲音和嘴部動作，使他們看起來好像在說完全不同的話。
隨著技術的進步，創建深度假冒視頻變得越來越容易。任何熟悉AI的人只需要一張靜態圖片和一段視頻錄像就可以製作出一個。
為了演示這一點，梅爾多拍攝了一段調查記者布萊恩·紐（Brian New）的視頻，並創建了一個伊隆·馬斯克的深度假冒。
這些AI生成的視頻雖然並不完美，但只需要足夠可信就能欺騙無辜的受害者。
“如果你真的想騙人，我想你可以用這個做一些非常糟糕的事情，”梅爾多說。
如何識別深度假冒？
有些深度假冒視頻比其他的更容易辨認，可能會有不自然的嘴唇運動或奇怪的肢體語言等跡象。但隨著技術的進步，僅僅通過觀察就會變得越來越困難。
越來越多的網站聲稱可以檢測深度假冒。CBS新聞的I-Team使用三個已知的深度假冒視頻和三個真實視頻，對五個這樣的網站進行了非科學測試：Deepware、Attestiv、DeepFake-O-Meter、Sensity和Deepfake Detector。
總體而言，這五個在線工具在測試視頻中正確識別了近75%的時間。I-Team聯繫了這些公司的回應，結果如下。
Deepware
Deepware是一個免費使用的網站，最初未能標記I-Team測試的兩個假視頻。該公司在一封電子郵件中表示，使用的片段太短，最佳結果應該是上傳30秒到1分鐘的視頻。Deepware正確識別了所有較長的視頻。根據該公司，檢測率在行業中被認為是70%的良好水平。
Deepware網站的常見問題部分指出：“深度假冒仍然不是一個解決的問題。我們的結果顯示了一個特定視頻是深度假冒的可能性。”
Deepfake Detector
Deepfake Detector是一個每月收費16.80美元的工具，將一個假視頻標記為“97%自然聲音”。該公司專注於識別AI生成的聲音，在一封電子郵件中表示，背景噪音或音樂等因素可能影響結果，但其準確率約為92%。
對於普通消費者的指導問題，該公司寫道：“我們的工具旨在用戶友好。普通消費者可以輕鬆地在我們的網站上上傳音頻文件或使用我們的瀏覽器擴展直接分析內容。該工具將提供分析，以幫助確定視頻是否可能包含深度假冒元素，使用概率進行分析，使即使對AI技術不熟悉的人也能使用。”
Attestiv
Attestiv將兩個真實視頻標記為“可疑”。根據公司的首席執行官尼科斯·維基亞里德斯（Nicos Vekiarides）的說法，圖形和編輯等因素可能會觸發誤報。兩個被標記為“可疑”的真實視頻都包含圖形和編輯。該網站提供免費服務，但也有付費層級，消費者可以調整設置以進行更深入的分析。
雖然他承認Attestiv並不完美，但維基亞里德斯表示，隨著深度假冒變得越來越難以用肉眼識別，這類網站是解決方案的一部分。
“我們的工具可以判斷某些內容是否可疑，然後你可以用自己的眼睛來驗證，說‘我覺得這是可疑的’，”維基亞里德斯說。
DeepFake-O-Meter
DeepFake-O-Meter是另一個由布法羅大學和國家科學基金會支持的免費工具。它將兩個真實視頻標記為有很高的可能性是AI生成的。
在一封電子郵件中，該開放平台的創建者表示，深度假冒檢測模型的一個限制是視頻壓縮可能導致視頻和音頻的同步問題以及嘴部運動的不一致。
對於普通用戶如何使用該工具的問題，該公司發送電子郵件回覆：“目前，顯示給用戶的主要結果是該樣本被生成樣本的概率值，這可以作為參考，如果多個模型對同一答案達成一致（例如，對於AI生成的超過80%或對於真實視頻低於20%），我們目前正在開發一種更易於理解的方式來顯示結果，以及新的模型，可以輸出全面的檢測結果。”
Sensity
Sensity的深度假冒檢測器正確識別了所有六個片段，並顯示了一個熱圖，指示AI操控最可能的地方。
該公司提供免費試用期以使用其服務，並告訴I-Team，儘管目前主要針對私營和公共組織，但其未來的目標是使技術對所有人可及。
評論與反思
深度假冒技術的迅猛發展不僅是科技進步的結果，還反映了當今社會對名人、投資和數字內容的高度信任。這種信任的脆弱性使得不法分子可以利用技術進行詐騙，造成巨大的財務損失。對於普通消費者來說，了解如何識別這些深度假冒以及利用現有的檢測工具至關重要。
在未來，隨著技術的進一步發展，對於深度假冒的防範措施也應隨之升級。社會應加強對這些技術的監管，並提高公眾對深度假冒的認識，從而減少詐騙事件的發生。正如梅爾多所言，這項技術可以用於創造藝術，但我們必須謹慎使用，以防止其被不當利用。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
