如何一名研究人員駭入ChatGPT的記憶系統以揭露重大安全漏洞
由於ChatGPT是一個令人驚嘆的工具，其開發商OpenAI不斷推出新功能。最近，該公司在ChatGPT中引入了一個新的記憶功能，這使得它能夠記住關於用戶的某些信息，例如年齡、性別、哲學信仰等。這些記憶本應保持私密，但最近有研究人員展示了如何操控ChatGPT的人工智能記憶功能，從而引發了有關隱私和安全的疑慮。
ChatGPT的記憶功能是什麼？
ChatGPT的記憶功能旨在使聊天機器人對用戶更加個性化。它會記住可能對未來對話有用的信息，並根據這些信息調整回應。例如，如果你提到自己是素食者，下次詢問食譜時，它會只提供素食選擇。用戶還可以訓練它記住特定細節，例如告訴它「記住我喜歡看經典電影」。在未來的互動中，它會根據這些信息進行推薦。用戶可以完全控制ChatGPT的記憶，並可在設置中重置或清除特定記憶或所有記憶，甚至完全關閉此功能。
ChatGPT的安全漏洞
根據Arstechnica的報導，安全研究員Johann Rehberger發現，可以通過一種叫做間接提示注入的方法來欺騙AI記住虛假信息。這意味著AI可以被操控接受來自不可靠來源的指令，例如電子郵件或部落格文章。Rehberger演示了他如何讓ChatGPT相信某位用戶102歲，住在虛構的地方「矩陣」，並認為地球是平的。在AI接受這些虛構信息後，它會在所有未來的聊天中保留這些錯誤記憶。
Rehberger提交了一份後續報告，包含了一個概念驗證，展示了他如何利用macOS版ChatGPT中的漏洞。他顯示出，通過欺騙AI打開一個包含惡意圖像的網頁連結，他能夠使它將用戶輸入的所有內容和AI的所有回應發送到他控制的伺服器。這意味著如果攻擊者能夠以這種方式操控AI，他們就可以監控用戶與ChatGPT之間的所有對話。
當Rehberger在5月私下向OpenAI報告這一發現時，公司非常重視並採取行動，確保模型不會遵循其自身回應中生成的任何連結，特別是涉及記憶和類似功能的連結。
OpenAI的回應
在Rehberger分享他的概念驗證後，OpenAI工程師迅速行動，發布了修補程序以解決此漏洞。他們發布了新版的ChatGPT macOS應用程序（版本1.2024.247），對話進行加密，並修復了安全漏洞。儘管OpenAI已經採取措施解決了這一即時安全漏洞，但與記憶操控相關的潛在漏洞仍然存在，並且在使用具有記憶功能的AI工具時需要持續保持警惕。
該公司表示，「值得注意的是，大型語言模型中的提示注入仍是一個持續研究的領域。隨著新技術的出現，我們會通過指令層級或應用層防禦來解決這些問題。」
如何禁用ChatGPT的記憶功能？
如果你不想讓ChatGPT保存有關你的信息，或擔心可能讓不良行為者訪問你的數據，可以在設置中關閉此功能。具體步驟如下：
1. 在電腦或智能手機上打開ChatGPT應用或網站。
2. 點擊右上角的個人資料圖標。
3. 進入設置，然後選擇個性化。
4. 將記憶選項關閉，這樣就可以完全控制ChatGPT記住或忘記的內容。
網絡安全最佳實踐：在AI時代保護你的數據
隨著像ChatGPT這樣的AI技術越來越普及，遵循網絡安全最佳實踐以保護個人信息變得至關重要。以下是一些增強網絡安全的建議：
1. 定期檢查隱私設置，確保了解收集了哪些數據。
2. 謹慎分享敏感信息，避免透露全名、地址或財務信息。
3. 使用強而獨特的密碼，並考慮使用密碼管理器存儲複雜密碼。
4. 啟用雙重身份驗證，增加安全層。
5. 保持軟件和應用程序的更新，以防範新發現的威脅。
6. 擁有強大的防病毒軟件，保護設備免受網絡威脅。
7. 定期監控賬戶，及早發現不尋常的活動。
Kurt的關鍵見解
隨著像ChatGPT這樣的AI工具變得越來越智能和個性化，思考它們如何為我們量身定制對話是相當有趣的。然而，正如Johann Rehberger的發現所提醒我們的，這些功能背後確實存在一些現實的風險，特別是在隱私和安全方面。雖然OpenAI能夠隨著問題的出現而進行緩解，但這也顯示出我們需要密切關注這些功能的運作。找到創新與數據安全之間的平衡至關重要。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
