保護RAG數據攝取管道的安全：過濾機制
由於Laura Verghote、Dave Walker及Isabelle Mos於2024年11月19日發表於AWS安全部落格的這篇文章，探討了檢索增強生成（RAG）應用程式在整合外部數據時可能面臨的安全風險，並提出了相應的解決方案。
RAG應用程式的安全風險
RAG應用程式利用大型語言模型（LLMs）增強回應的質量，通過整合來自外部數據的資訊來提升模型的表現。然而，外部數據的整合可能帶來安全風險。例如，當從公共網站抓取數據時，可能會無意中攝取到由惡意行為者注入的有害內容，這些內容可能會改變模型的行為。
這類風險顯示出在設計和部署RAG系統時實施安全措施的必要性。這些措施應不僅限於推論階段（即過濾模型輸出），還應在將外部數據攝取至RAG應用的知識庫時進行過濾。
RAG攝取工作流的安全概述
在深入探討如何減輕攝取管道中的風險之前，我們先來看看RAG工作流的基本結構。假設您正在使用Amazon Bedrock知識庫來構建RAG應用，該服務提供了內建的安全控制措施，以保護數據、控制訪問、確保網絡安全、日誌記錄及輸入/輸出驗證，這些都有助於減輕多種安全風險。
RAG工作流包括以下環境：
1. 由Amazon Bedrock服務團隊管理的Amazon Bedrock服務帳戶。
2. 用於存儲RAG數據的AWS帳戶（如果您使用AWS服務作為向量存儲）。
3. 取決於您選擇的向量數據庫，可能會有外部環境。
當數據攝取請求發送至Bedrock API端點後，該請求將被傳遞至知識庫服務組件，並將與請求相關的元數據存儲在Amazon DynamoDB數據庫中。此過程中，客戶提供的數據將從Amazon S3中攝取，並進行相應的處理。
在整個RAG攝取工作流中，數據在傳輸過程中均會進行加密，並且在客戶AWS帳戶中，資源可以使用客戶管理的KMS密鑰進行加密。
RAG數據攝取管道的安全風險及過濾的必要性
RAG應用程式本質上依賴基礎模型，這帶來了傳統應用程序保護之外的額外安全考量。尤其是，提示注入攻擊成為當前最常見的風險之一。這種攻擊形式可能導致生成AI應用程序被操縱，從而改變其行為。
在RAG數據攝取管道中，特別需要關注的是間接提示注入攻擊。這種攻擊使得惡意行為者可以在外部數據中嵌入惡意內容，這些內容在被攝取後可能會影響到LLM的回應。
例如，假設惡意行為者在文件中嵌入一個隱形鏈接，當用戶詢問下載某軟件的正確鏈接時，LLM可能返回這個隱形鏈接，導致用戶下載惡意軟件。
潛在的緩解措施
為了減輕這些風險，可以考慮以下幾種措施：
1. **顯示來源內容**：配置應用程式顯示其回應所依賴的來源內容，讓用戶可以進行交叉參考。
2. **建立信任邊界**：在LLM、外部來源和可擴展功能之間建立信任邊界，將LLM視為不受信任的實體。
3. **持續評估**：使用標記數據集評估RAG應用，並實施自動評估機制，以發現模型回應中的不規則性。
4. **人工審查**：在數據攝取過程中，對外部內容進行人工審查，以保護系統免受不明威脅。
結論
這篇文章介紹了RAG應用程式的安全風險，特別聚焦於數據攝取管道中的風險。由於惡意行為者可能會設計複雜的方式在文件或網站中嵌入隱形內容，這些內容可能會導致LLM生成不正確的信息。因此，實施過濾機制和評估機制至關重要。此外，保持定期評估數據的習慣，並考慮引入人工審查也是十分必要的。
這些策略和架構模式是保障應用安全的第一步，但沒有一種方法可以完全消除注入攻擊等威脅。希望這些建議能夠幫助您在構建安全的RAG應用時，妥善應對潛在的安全挑戰。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
