小心「警察」騙局
警方警告，AI騙子利用技術模仿警察聲音，令人感到「恐怖」和「真實」。
AI技術讓騙子更容易冒充警察。最近，鹽湖城警察局警告，一宗電郵騙案使用AI技術成功模仿警察局長Mike Brown的聲音。
一名市民收到一封可疑電郵，內附一段影片，顯示警察局長聲稱他們「欠聯邦政府近十萬美元」。
為了騙取目標，騙子將Brown以往電視訪問的真實片段與AI生成的音訊剪輯在一起。鹽湖城警察局表示，這些音訊「清晰且非常接近Brown局長的聲音，可能令社區成員相信信息的真實性。」
多年來，聯邦調查局一直警告騙子試圖冒充警察或政府官員進行勒索。隨著AI聲音克隆技術的進步，這些騙局可能變得更難識破，甚至像OpenAI這樣的前瞻性公司也因擔心潛在濫用而猶豫不決是否發布最新技術。
鹽湖城警察局指出，技術精通的市民可能在模仿警察局長的電郵中發現一些線索。仔細聆聽會發現「消息有不自然的語音模式，某些單詞有奇怪的重音，語調不一致」，以及「從一句到下一句有可檢測的聲音編輯。」最明顯的是，該騙局電郵來自「一個Google帳戶，電郵中有鹽湖城警察局的名字後加上數字」，而非警察局的官方電郵域名「slc.gov」。
鹽湖城警察局並非唯一面對AI警察冒充者的警局。今年夏天，塔爾薩也遇到類似問題，當時騙子開始打電話給居民，用一個設計得像塔爾薩警官Eric Spradlin的假聲音。據塔爾薩公共電台報導，一名收到電話的軟件開發者Myles David表示，儘管了解AI風險，但他仍「措手不及」，不得不致電警方確認電話不真實。
David說：「那聽起來就像是一次非常隨意的對話，就好像這個人真的期望與我交談一樣。他使用了我的名字和姓氏，談話非常隨意。這就是為什麼聽起來那麼真實，最終也那麼可怕。」
與鹽湖城明顯假的電郵地址不同，一名遭塔爾薩騙局針對的網絡安全教授Tyler Moore告訴塔爾薩公共電台，騙子相對容易讓詐騙電話看似來自塔爾薩警察線路。
警方建議對假警察報警
這種新興的AI濫用不限於美國。今年三月，一名名為Kaveri的用戶在X平台上發帖，警告一名騙子假裝是印度警察，威脅如果她不照做，就會帶走她的小女兒。
該騙子模仿了她女兒的聲音，這是去年被標記為令人擔憂的趨勢之一，壞人通過使用AI冒充陷入困境的親人來騙取成千上萬美元。
對於Kaveri來說，最終在詢問一些具體問題後，她意識到女兒並不在所謂的警察那裡。但據《印度快報》報導，其他被類似騙局針對的人被騙，最終損失金錢。
全球警方希望提高對AI聲音騙局的風險意識，以減少傷害，建議市民核實來自警察的電話，並詢問騙子可能無法回答的具體問題。
編輯評論
這篇文章揭示了AI技術在詐騙中被濫用的危險性。隨著科技的進步，騙子不再需要依賴傳統手法，而是能夠利用先進的AI技術來模仿權威人士的聲音，這對公眾的信任構成了重大威脅。這種技術的濫用不僅僅是騙取金錢，更可能對社會秩序造成嚴重影響。未來，我們需要加強對AI技術的監管，並提高公眾對這類新型騙局的警覺性。此外，技術公司也應該承擔起更多的社會責任，在開發過程中考慮可能的濫用情況，並設計出更有效的防範措施。這是一場技術與道德的博弈，我們必須謹慎應對。
以上文章由特價GPT API KEY所翻譯
