谷歌揭露政府支持的黑客濫用Gemini AI
隨著人工智能技術的進步，各行各業都迎來了新的機遇，但這些創新同時也可能成為黑客的攻擊目標，顯示出AI被濫用的潛在風險。谷歌的威脅情報部門最近發佈了一篇名為《生成性AI的對抗性濫用》的報告，揭示了威脅行為者如何試圖利用其人工智能聊天機器人Gemini。
根據谷歌的報告，這些威脅行為者試圖通過提示來對Gemini進行越獄。此外，政府支持的高級持續威脅（APT）組織也曾嘗試利用Gemini來協助其惡意行為。
谷歌報告Gemini越獄嘗試未果
谷歌表示，儘管威脅行為者曾嘗試對Gemini進行越獄，但公司並未觀察到這一攻擊向量中的高級嘗試。報告指出，黑客僅使用了基本的手段，例如重新措辭或反覆發送相同的提示。谷歌強調，這些嘗試均以失敗告終。
AI越獄是指提示注入攻擊，目的是讓AI模型執行被禁止的任務，包括洩露敏感信息或提供不安全的內容。
谷歌提到，在一個案例中，一名APT行為者使用公開可得的提示來欺騙Gemini執行惡意編碼任務。然而，谷歌指出，由於Gemini提供了經過安全過濾的回應，因此該嘗試未能成功。
政府支持的威脅行為者如何使用Gemini
除了低效率的越獄嘗試外，谷歌還報告了政府支持的APT組織如何接觸Gemini。這些攻擊者試圖利用Gemini協助其惡意活動，包括對目標的情報收集、研究公開已知的漏洞以及執行編碼和腳本任務。此外，谷歌還提到，這些行為者曾試圖在攻擊後進行防禦逃避等活動。
報告指出，來自伊朗的APT行為者專注於利用AI來製作網絡釣魚活動。他們還利用AI模型對防禦專家和組織進行偵查，並生成網絡安全內容。
同時，中國的APT行為者則使用Gemini來排除代碼故障、進行腳本編寫和開發。他們還利用AI研究如何獲得對目標網絡的更深入訪問。
來自北韓的APT行為者也使用Gemini來進行攻擊生命周期的不同階段，包括研究和開發。報告指出：“他們還利用Gemini研究與北韓政府戰略利益相關的主題，例如南韓軍事和加密貨幣。”根據Chainalysis的數據，北韓黑客在2024年盜竊了價值13億美元的數字資產。
這份報告不僅揭示了AI技術在當前網絡安全環境中的脆弱性，也提醒我們在推動技術進步的同時，必須更加重視其潛在的濫用風險。隨著AI應用的普及，相關的安全措施和防護機制也必須同步提升，以應對不斷演變的威脅。這不僅是技術開發者的責任，也是整個社會需要共同面對的挑戰。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
