FBI指控罪犯利用生成式AI擴大詐騙計劃
根據FBI的報告，生成式AI服務在互聯網用戶和網絡罪犯中都變得極受歡迎。FBI指出，「合成」內容正被越來越多地用來進行各類詐騙。然而，若採取正確的預防措施，個人仍然可以有效地保護自己。
FBI發出警報，警告公眾有關生成式AI技術的犯罪濫用。在最近發布的公共服務公告中，該局提醒美國民眾，詐騙者正利用AI生成的內容，使其非法計劃更加可信和有效。
根據FBI的說法，生成式AI使罪犯能夠減少欺騙目標所需的時間和精力。這些AI工具通過用戶輸入來「合成」全新的內容，並能幫助修正可能引發懷疑的人為錯誤，特別是在AI生成的文本中。
使用AI創建內容本身並不違法，但當該內容被用於詐騙或勒索時，就變成了犯罪。FBI的警報列出了幾個生成式AI被濫用的例子，並提供了一些實用建議，以幫助用戶保護自己。
AI生成的文本在社會工程或有針對性的釣魚攻擊中看起來非常可信。詐騙者利用生成式AI製作大量假內容，創建虛假的社交媒體賬戶，發送信息，並以更高的準確性和更少的語法錯誤進行翻譯。整個虛假的網站現在可以在短時間內建立，聊天機器人則被用來欺騙受害者點擊惡意鏈接。
AI生成的圖像毫無疑問是當前趨勢的前沿，網絡罪犯正充分利用這一點。詐騙者利用AI生成的視覺內容來增強虛假的社交媒體賬戶和支持詐騙活動的偽造身份證明文件。根據FBI的說法，AI算法能生成「逼真的」圖像，這些圖像在社會工程活動、針對性釣魚攻擊、詐騙，甚至「戀愛詐騙」中被濫用。
AI生成的音頻和視頻內容同樣存在風險。罪犯現在可以冒充公眾人物或甚至目標熟知的人，要求財務援助或訪問敏感信息，如銀行賬戶。
FBI建議用戶與可信的家人和朋友建立「密語」或短語，以快速驗證身份。其他防範生成式AI犯罪的建議包括仔細檢查圖像和視頻中的不規則性或不一致性，並盡量減少個人圖像或語音錄音的在線可用性。
在處理財務請求時，FBI強調通過直接電話確認其合法性的重要性，而不是依賴文本或電子郵件。敏感信息絕不應與僅在線上認識的人分享。儘管這似乎很明顯，FBI還重申，將錢、禮品卡或加密貨幣發送給網上陌生人是非常危險的，往往會導致詐騙。
這篇報導突顯了生成式AI在當前科技環境中的雙刃劍特性。一方面，這項技術正在推動創新和效率；另一方面，卻也成為犯罪分子猖獗的新工具。這提醒我們，在享受科技便利的同時，應該保持高度的警惕，尤其是在與他人進行金融交易或分享個人信息時。網絡安全的意識必須與科技的發展同步增強，唯有如此，才能有效抵禦日益增長的網絡詐騙威脅。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
