CrowdStrike 推出新工具 防範惡意 AI 模型及資料外洩
網絡安全公司 CrowdStrike Holdings Inc. 近日發布多項新功能，協助企業保護員工免受惡意人工智能（AI）模型及其他安全威脅的侵害。這些功能將陸續整合進其旗艦產品 Falcon 網絡安全平台。
其中一項新功能名為「AI 模型掃描」，專門偵測所謂的「特洛伊木馬模型」（trojanized models）。這類 AI 模型在大部分情況下表現正常，但當收到特定指令時，卻會產生惡意輸出。舉例來說，駭客可能會設計一個程式助手，當開發人員詢問如何修補安全漏洞時，反而給出錯誤建議。
駭客建立這些特洛伊木馬模型的手法包括在訓練數據中注入惡意紀錄，或修改神經網絡的權重（即模型處理指令的設定），從而生成有害的結果。除了特洛伊木馬模型外，AI 模型掃描還能偵測後門及其他威脅，並利用名為 ExPRT.AI 的技術根據嚴重性對問題進行排序。CrowdStrike 表示，ExPRT.AI 會根據駭客攻擊情報評估漏洞被利用的可能性。
與 AI 模型掃描同步推出的，還有「AI 安全儀表板」功能，幫助管理員識別「暗影 AI」現象，即員工在未獲授權下使用可能不安全的 AI 應用程式。此外，該功能亦能監控企業內部 AI 訓練數據的使用情況。
CrowdStrike 的 Falcon 平台還包括另一個模組「Falcon Data Protection」，專門偵測資料濫用風險，例如嘗試將敏感資料下載至不安全的裝置。這次更新讓該模組能夠偵測 Mac 電腦上的未授權資料移動，並大幅提升對試圖掩蓋資料外洩行為的識別能力。
一般來說，駭客偷取資料時會先入侵企業系統，然後將資料複製到企業網絡外的伺服器。針對嘗試將檔案移出企業網絡的行為，網絡安全工具通常能輕易察覺。為了躲避監控，駭客常會將竊取的資料打包成加密 ZIP 檔案，再進行傳輸，這類檔案難以被安全工具掃描。
CrowdStrike 表示，最新版本的 Falcon Data Protection 會在加密 ZIP 檔案「生成時」即時掃描其內容，從而識別是否包含被竊資料。此外，該系統還能偵測即使經過修改的敏感資料被上傳至生成式 AI 工具的行為。
更新中還包括一款名為「Falcon Data Protection for Cloud」的新版本，專為公有雲環境設計，可偵測跨應用程式、資料庫及其他雲端資產的未授權資料移動。
另外，CrowdStrike 推出一項專業服務「SaaS 威脅服務」，企業可透過此服務讓 CrowdStrike 專家掃描其軟件即服務（SaaS）應用，檢查不安全設定、風險整合以及相關安全問題。
—
評論與啟示
CrowdStrike 這次的更新，正好回應了企業在人工智能日益普及的環境下，面對的新型態安全挑戰。惡意 AI 模型特別令人擔憂，因為它們表面上看似正常，卻能在特定條件下執行破壞性操作，這種「隱藏的威脅」比傳統病毒更難被偵測。ExPRT.AI 技術將威脅評級與實際駭客活動結合，提升了風險管理的準確度，這種結合威脅情報的做法值得業界借鏡。
此外，AI 安全儀表板揭示了企業內部「暗影 AI」問題，提醒管理層必須關注員工私自使用 AI 工具所帶來的安全隱憂。隨著生成式 AI 工具如 ChatGPT 等被廣泛應用，員工可能無意間上傳敏感資料，導致資料外洩風險增加。CrowdStrike 的即時掃描加密檔案技術，則是對抗資料竊取手法升級的有效策略。
企業在擴展 AI 和雲端應用的同時，安全防護必須同步跟上。CrowdStrike 推出的多層次保護方案，從 AI 模型安全、資料外洩防護到 SaaS 配置檢查，展現了全面防禦架構的趨勢。未來，隨著 AI 技術更深入企業運作，這類安全工具將成為不可或缺的防線。
總結而言，CrowdStrike 的新功能不僅是技術升級，更是提醒企業在 AI 快速發展的時代，必須重新審視安全策略，積極部署針對 AI 特有威脅的防禦措施。這也為香港及全球企業如何在 AI 浪潮中保障資訊安全，提供了寶貴的參考與啟發。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
