六合彩AI預測賽後檢討!邊個模型預測最叻? 每次攪珠當晚10:30更新免費睇!

Gemini AI受駭客攻擊!Google揭政府撐腰黑客圖謀

🎬 YouTube Premium 家庭 Plan成員一位 只需
HK$148/年

不用提供密碼、不用VPN、無需轉區
直接升級你的香港帳號 ➜ 即享 YouTube + YouTube Music 無廣告播放


立即升級 🔗

谷歌揭露政府支持的黑客濫用Gemini AI

隨著人工智能技術的進步,各行各業都迎來了新的機遇,但這些創新同時也可能成為黑客的攻擊目標,顯示出AI被濫用的潛在風險。谷歌的威脅情報部門最近發佈了一篇名為《生成性AI的對抗性濫用》的報告,揭示了威脅行為者如何試圖利用其人工智能聊天機器人Gemini。

根據谷歌的報告,這些威脅行為者試圖通過提示來對Gemini進行越獄。此外,政府支持的高級持續威脅(APT)組織也曾嘗試利用Gemini來協助其惡意行為。

谷歌報告Gemini越獄嘗試未果

谷歌表示,儘管威脅行為者曾嘗試對Gemini進行越獄,但公司並未觀察到這一攻擊向量中的高級嘗試。報告指出,黑客僅使用了基本的手段,例如重新措辭或反覆發送相同的提示。谷歌強調,這些嘗試均以失敗告終。

AI越獄是指提示注入攻擊,目的是讓AI模型執行被禁止的任務,包括洩露敏感信息或提供不安全的內容。

谷歌提到,在一個案例中,一名APT行為者使用公開可得的提示來欺騙Gemini執行惡意編碼任務。然而,谷歌指出,由於Gemini提供了經過安全過濾的回應,因此該嘗試未能成功。

政府支持的威脅行為者如何使用Gemini

除了低效率的越獄嘗試外,谷歌還報告了政府支持的APT組織如何接觸Gemini。這些攻擊者試圖利用Gemini協助其惡意活動,包括對目標的情報收集、研究公開已知的漏洞以及執行編碼和腳本任務。此外,谷歌還提到,這些行為者曾試圖在攻擊後進行防禦逃避等活動。

報告指出,來自伊朗的APT行為者專注於利用AI來製作網絡釣魚活動。他們還利用AI模型對防禦專家和組織進行偵查,並生成網絡安全內容。

同時,中國的APT行為者則使用Gemini來排除代碼故障、進行腳本編寫和開發。他們還利用AI研究如何獲得對目標網絡的更深入訪問。

來自北韓的APT行為者也使用Gemini來進行攻擊生命周期的不同階段,包括研究和開發。報告指出:“他們還利用Gemini研究與北韓政府戰略利益相關的主題,例如南韓軍事和加密貨幣。”根據Chainalysis的數據,北韓黑客在2024年盜竊了價值13億美元的數字資產。

這份報告不僅揭示了AI技術在當前網絡安全環境中的脆弱性,也提醒我們在推動技術進步的同時,必須更加重視其潛在的濫用風險。隨著AI應用的普及,相關的安全措施和防護機制也必須同步提升,以應對不斷演變的威脅。這不僅是技術開發者的責任,也是整個社會需要共同面對的挑戰。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。

✈️ Trip.com「內地快閃」機票+酒店半價

【每週二 10 AM】 立即領取 半價優惠代碼
最高減 HK$500,CP 值極高,先到先得!

立即搶優惠 🔗