我係一位網絡安全公司CEO，服務逾9,000個機構，Sam Altman講AI詐騙危機嚟緊？其實已經到咗！
作者：Haywood Talcove，LexisNexis Risk Solutions政府組別CEO，專責協助聯邦及州政府機構防範詐騙。
Sam Altman最近警告話，AI主導嘅詐騙「好快就會嚟」，而且會破壞我哋用嚟驗證身份嘅系統。但事實係，呢場危機已經發生，唔單止銀行受影響，政府各個部門都已經中招。
每星期都有AI生成嘅詐騙行為，從公共福利系統、災難救濟基金同失業救濟計劃中非法抽走數以百萬計嘅資金。犯罪集團利用深偽技術、合成身份同大型語言模型，輕易突破過時嘅防詐騙系統，例如單一層面嘅面部識別，佢哋而家贏得非常輕鬆。
疫情期間我哋已經見過端倪，當時詐騙集團利用州政府系統漏洞，偷取數千億美元失業救濟金。當時唔止係戴口罩避開面部識別，而係用AI生成嘅假身份、聲音克隆同偽造文件，令系統完全招架不住。今日，呢啲手法更加進化同自動化。
我嘅工作範圍包括逾9,000個機構。今年我兩次喺美國眾議院作證，現場嘅情況非常清楚：詐騙變得更快、更便宜、可大規模進行。無論係本土定跨國組織，都用生成式AI去模仿身份、造假文件，並大量提交虛假申請。佢哋唔單止偷政府錢，更係偷美國人民嘅錢。
美國小企業管理局監察長估計，疫情期間嘅失業保險詐騙損失接近2,000億美元，成為美國歷史上最大嘅詐騙損失之一。醫療補助、國稅局、臨時援助、兒童健康保險計劃同災難救助項目同樣面臨風險。我哋亦親身見證，協助美國特勤局保護農業部嘅SNAP計劃，呢個計劃已成為詐騙者嘅「自助餐」，全國每月損失數十億美元。事實上，一個詐騙集團用AI喺一天內可以喺多個州提交數萬宗虛假申請，大部分申請會自動處理，除非被系統標記。
我哋已經到咗一個關鍵點。AI繼續演進，呢啲攻擊嘅規模同複雜度會迅速增長。正如摩爾定律預測計算能力每兩年翻一番，我相信AI發展亦有類似規律，我稱之為「Altman定律」：AI能力每180日翻一番。
如果我哋嘅防禦系統無法跟上科技進步嘅速度，將永遠被對手壓倒。
我哋急需嘅係更智能嘅工具同基建，而唔係更多繁文縟節。
呢啲包括多層次嘅先進身份驗證，唔止係面部掃描或者密碼。要利用實時數據、行為分析同跨管轄區嘅工具，喺資金流出前識別異常。同時，重啟已經有效嘅工具，例如國家準確率清算所（National Accuracy Clearinghouse），呢個系統曾經成功標記出跨州重複申請嘅數十億美元，卻被關閉。
AI係一個力量倍增器，但比起用嚟防護，更容易被用作武器。依家，犯罪分子用AI嘅能力比我哋更強。呢個情況唔改變，最脆弱嘅系統同依賴佢哋嘅人會繼續受害。
—
**評論與啟發：**
呢篇文章係由一位真正在前線對抗詐騙嘅網絡安全CEO撰寫，內容充滿實戰經驗同警示。Sam Altman作為AI界嘅領軍人物，指出AI詐騙危機「將要嚟」，但作者直接反駁話危機已經存在，並且影響範圍極廣，唔止金融業，政府多個社會福利項目都淪陷，金額巨大，令人震驚。
文章最深刻嘅啟示係，科技發展速度極快，AI能力每半年就可能翻倍，但防詐騙技術同監管措施未必能夠跟上。傳統驗證方法如面部識別、簡單密碼已經唔夠用，反而淪為犯罪分子攻擊嘅突破口。作者提出「Altman定律」呢個概念，提醒我哋要有更前瞻嘅策略。
更值得思考嘅係，文章呼籲重啟曾經有效嘅系統，並且推動多層次、跨部門嘅數據共享同分析，顯示打擊詐騙唔係單靠技術就得，亦需要政策支持同跨機構合作。AI既係機遇亦係威脅，若唔及時改革防禦系統，後果將非常嚴重。
對香港同國際社會嚟講，呢個警告都十分重要。香港作為國際金融中心，面對AI詐騙威脅亦不可掉以輕心。未來監管機構、企業同公眾都要加強警覺，投資智能防詐騙技術，並且教育用戶識別AI詐騙手法，才能減少損失。
總括而言，文章以第一線實例揭示AI詐騙已經無處不在，呼籲各方加快部署更智慧嘅防禦措施，係一篇具前瞻性同實用價值嘅警示報告。希望相關部門能夠正視呢個問題，唔好等到損失擴大先後悔莫及。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
