看到的未必是真實：深度偽造技術的興起及如何保護你的企業
如果你在1980年代長大，可能還記得Max Headroom這個虛構的電腦生成電視角色，外觀模糊且聲音嘈雜。雖然當時並沒有“深度偽造”這個名詞，但Max可以說是早期的例子之一。
Max的演變
快轉到今天，人工智能（AI）的技術已經取得了飛躍式的進步，無論在清晰度還是可信度上都有顯著提升。而且，這項技術已經進入主流，市面上有許多軟件和應用程序可以輕鬆創建假圖像和聲音，完全不需要專業經驗。
深度偽造技術的最大進展來自於生成對抗網絡（GANs）的發展，這是一種機器學習方法，透過給定的數據集來訓練兩個獨立的網絡——生成器網絡和判別器網絡，彼此競爭以創造看起來真實的假數據。例如，生成器網絡會利用高管的音頻和視頻錄像來創建該高管的真實副本，而判別器網絡則被訓練來判斷這些數據是真實還是偽造，促使生成器不斷改進其對人類的模仿能力。雖然GANs的使用可以帶來商業上的好處，如提高效率和內容創作，但它們所帶來的深度偽造風險卻非常真實。
隨著能夠創建任何人的聲音和形象的真實複製，深度偽造事件的增加並不令人驚訝。根據身份驗證公司Onfido的2024年身份詐騙報告，2022年至2023年間，深度偽造嘗試增加了3000%。
看到的未必總是真實
能夠創建如此逼真的假冒，使人相信他們正在與認識和信任的人進行實時對話，這對金融和銀行行業特別值得關注。
今年早些時候，一家大型全球公司的財務員工在不知情的情況下，因為在視頻通話中接到公司首席財務官的請求而向壞人支付了2500萬美元，結果發現這是一個深度偽造。雖然這樣的事件令人震驚，但它突顯了金融交易詐騙的重大風險，以及驅動這一風險的高科技。事實上，根據身份驗證平台Sumsub的報告，2022年至2023年間，針對金融科技行業的深度偽造事件增加了700%。
從身份盜竊和賬戶接管詐騙到處理詐騙交易所帶來的聲譽風險，深度偽造攻擊可能造成的損害是不可小覷的。德勤金融服務中心的一份報告預測，到2027年，美國因生成AI導致的詐騙損失可能達到400億美元，較2023年的123億美元大幅上升。
如何保護你的公司和客戶
銀行和其他金融機構已經被監管機構要求遵循某些了解你的客戶（KYC）協議，以防止金融犯罪，如洗錢，但深度偽造的日益普及凸顯了需要採取更多措施。
投資於深度偽造檢測工具，如生物識別技術，可能需要高額成本，但幸運的是，還有一些幾乎不需要投資的措施可以採取，例如：
– 持續進行強制性的詐騙意識培訓，幫助員工識別常見的詐騙手法和可疑行為，並理解始終遵循所有協議的重要性。
– 定期審查內部控制並更新流程，以反映不斷變化的風險環境。
– 為有賬戶訪問、支付責任和其他金融角色的個體實施雙重授權流程。
– 驗證每一個客戶和供應商的交易請求，通過撥打記錄中的電話進行確認。被要求撥打不同的號碼應始終被視為紅旗。
你的銀行夥伴可以提供幫助
金融機構還應該確保客戶了解常見的詐騙手法，並理解如何幫助減少風險。與銀行保持密切關係，讓他們了解你、你的業務和交易習慣，可以在早期發現詐騙方面發揮重要作用。
同樣重要的是，尋找一個能夠促使你批判性思考流程的金融機構，這樣你就能確保自己的流程是盡可能完善的。你的金融機構應該鼓勵你：
– 啟用可疑賬戶活動的詐騙警報。
– 啟用系統通知，以便在賬戶詳細信息更改時獲得通知。
– 使用多因素身份驗證。
– 通過撥打記錄中的供應商號碼確認供應商付款變更請求的真實性。
停下來、暫停並再次檢查請求的真實性是完全可以的——無論這請求來自誰。你公司的安全性取決於此。
在這篇文章中，我們可以看到深度偽造技術的迅猛發展和其帶來的潛在風險。隨著科技的進步，企業必須更加警惕，並不斷更新防範措施以應對不斷演變的詐騙手法。這不僅是保護自身利益的需要，更是對客戶負責任的表現。企業應該主動尋求專業的支援，並建立起更強大的防護網，以面對未來可能出現的各種挑戰。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
