使用Amazon Bedrock在SageMaker Unified Studio創建生成式AI代理，幫助企業高效運作
今天，我們宣佈Amazon Bedrock在Amazon SageMaker Unified Studio的正式推出。
隨著企業面對越來越多的數據、系統和客戶互動，運營效率的壓力與日俱增。手動流程和分散的信息來源可能會造成瓶頸，減慢決策速度，限制團隊專注於更具價值的工作。生成式AI代理提供了一個強大的解決方案，通過自動與企業系統進行交互，執行任務並提供即時見解，幫助組織在不增加複雜性的情況下擴展運營。
Amazon Bedrock在SageMaker Unified Studio中針對這些挑戰提供了一個統一的服務，幫助構建以AI驅動的解決方案，集中管理客戶數據，並實現自然語言交互。它與現有應用集成，並包含Amazon Bedrock的關鍵功能，如基礎模型（FMs）、提示、知識庫、代理、流程、評估和保護措施。用戶可以通過組織的單一登錄（SSO）訪問這些AI功能，與團隊成員協作，並在無需AWS管理控制台訪問的情況下精煉AI應用程序。
生成式AI驅動的自動化工作流程代理
Amazon Bedrock在SageMaker Unified Studio中允許用戶創建和部署生成式AI代理，這些代理可以與組織的應用程序、數據庫和第三方系統集成，實現整個技術堆棧的自然語言交互。聊天代理橋接了複雜的信息系統和用戶友好的溝通。通過使用Amazon Bedrock的功能和知識庫，代理可以連接到數據源，如JIRA API，以實時跟踪項目狀態、檢索客戶信息、更新項目任務和管理偏好。
銷售和市場團隊可以快速訪問客戶信息及其會議偏好，項目經理可以高效管理JIRA任務和時間表。這一簡化的過程提升了整個組織的生產力和客戶互動。
以下圖示展示了生成式AI代理解決方案的工作流程。
解決方案概述
Amazon Bedrock提供了一個受控的協作環境，以便在SageMaker Unified Studio中構建和分享生成式AI應用程序。讓我們來看看實現客戶管理代理的示例解決方案：
可以使用Amazon Bedrock聊天應用程序構建代理聊天，並與其他AWS服務（如AWS Lambda和Amazon API Gateway）快速構建的功能集成。利用Amazon DataZone，SageMaker Unified Studio提供了一個綜合數據管理解決方案。組織管理員可以控制成員對Amazon Bedrock模型和功能的訪問，維護安全的身份管理和細粒度的訪問控制。在深入探討AI代理的部署之前，讓我們先了解架構的關鍵步驟，如下圖所示。
工作流程如下：
1. 用戶通過AWS IAM身份中心的組織SSO登錄SageMaker Unified Studio。然後用戶使用自然語言與聊天應用互動。
2. Amazon Bedrock聊天應用使用功能通過API Gateway從數據庫檢索JIRA狀態和客戶信息。
3. 聊天應用通過API Gateway進行身份驗證，以安全地訪問端點並使用AWS Secrets Manager中的隨機API密鑰，根據用戶的請求觸發Lambda函數。
4. Lambda函數通過調用JIRA API或數據庫，使用代理提供的所需參數執行操作。該代理具有以下功能：
– 提供簡要的客戶概述。
– 列出最近的客戶互動。
– 檢索客戶的會議偏好。
– 檢索某項目的打開JIRA票證。
– 更新JIRA票證的到期日期。
前提條件
要跟隨本解決方案實施，您需要以下前提條件：
– 一個AWS賬戶
– 對Amazon Bedrock在SageMaker Unified Studio的用戶訪問
– 在支持的AWS區域對Amazon Nova Pro的模型訪問
– 一個JIRA應用程序、JIRA URL和您的JIRA API令牌
– 我們假設您對AWS的基本無伺服器構造（如API Gateway、Lambda函數和IAM身份中心）有所了解。在本文中，我們不會專注於定義這些服務，但我們將使用它們來展示Amazon Bedrock在SageMaker Unified Studio中的新功能的使用案例。
部署解決方案
完成以下部署步驟：
1. 從GitHub下載代碼。
2. 獲取Lambda函數的JIRA_API_KEY_ARN、JIRA_URL和JIRA_USER_NAME值。
3. 使用以下AWS CloudFormation模板，並參考從CloudFormation控制台創建堆棧來在您首選的AWS區域啟動堆棧。
4. 堆棧部署後，從CloudFormation輸出選項卡（ApiInvokeURL）中記下API Gateway URL值。
5. 在Secrets Manager控制台中，查找JIRA_API_KEY_ARN、JIRA_URL和JIRA_USER_NAME的秘密。
6. 選擇檢索秘密並將第2步中的變量複製到秘密明文字符串中。
7. 使用組織的SSO登錄SageMaker Unified Studio。
創建新項目
完成以下步驟以創建新項目：
1. 在SageMaker Unified Studio登錄頁面上創建新項目。
2. 為項目命名（例如，crm-agent）。
3. 選擇生成式AI應用開發配置文件並繼續。
4. 使用默認設置並繼續。
5. 審核並選擇創建項目以確認。
構建聊天代理應用程序
完成以下步驟以構建聊天代理應用程序：
1. 在crm-agent項目登錄頁面右側的“新建”部分中，選擇聊天代理。
2. 這裡有一個配置列表供您選擇。
3. 在模型部分，選擇一個支持Amazon Bedrock的FM。對於這個crm-agent，我們選擇Amazon Nova Pro。
4. 在系統提示部分，新增以下提示。您也可以選擇性地添加用戶輸入和模型響應的示例以進行改進。
– 您是一個客戶關係管理代理，負責幫助銷售人員規劃與客戶的工作。您提供了一個API端點，該端點可以提供公司概況、公司互動歷史（會議時間和記錄）、公司會議偏好（會議類型、星期幾和一天中的時間）。您還可以查詢JIRA任務並更新其時間表。在收到響應後，將其整理成可讀格式。如果輸出是一個編號列表，請用換行符和數字進行格式化。
5. 在功能部分，選擇創建新功能。
6. 為功能命名，例如crm_agent_calling。
7. 對於功能架構，使用GitHub庫中的OpenAPI定義。
8. 對於身份驗證方法，選擇API密鑰（最多2個密鑰）並輸入以下詳細信息：
– 對於發送密鑰，選擇標頭。
– 對於密鑰名稱，輸入x-api-key。
– 對於密鑰值，輸入Secrets Manager api Key。
9. 在API服務器部分，輸入端點URL。
10. 選擇創建以完成功能創建。
11. 在聊天代理應用程序的功能部分，選擇您創建的功能並選擇保存以完成應用程序創建。
示例互動
在本節中，我們探討兩個示例互動。
用例1：CRM分析師可以使用自然語言檢索存儲在數據庫中的客戶詳細信息。
對於這個用例，我們在聊天應用中提出以下問題：
– 給我一個客戶C-jkl101112的簡要概述。
– 列出客戶C-def456最近的2次互動。
– 客戶C-mno131415偏好什麼溝通方式？
– 根據他們的偏好和我們的最後一次互動，建議最佳聯繫時間和聯繫渠道以聯繫C-ghi789。
聊天應用的響應如下圖所示。代理成功從數據庫檢索客戶的信息，理解用戶的問題並查詢數據庫以找到相應的答案。
用例2：項目經理可以列出和更新JIRA票證。
在此用例中，我們提出以下問題：
– 項目ID CRM的打開JIRA任務有哪些？
– 請將JIRA任務CRM-3更新為1週後。
聊天應用的響應如下圖所示。與之前的用例類似，代理訪問JIRA看板並提取JIRA項目信息。它提供了打開的JIRA任務列表，並根據用戶的請求更新了任務的時間表。
清理
為了避免產生額外費用，請完成以下步驟：
1. 刪除CloudFormation堆棧。
2. 刪除Amazon Bedrock中的功能組件。
3. 刪除Amazon Bedrock中的聊天代理應用程序。
4. 刪除SageMaker Unified Studio中的域。
成本
Amazon Bedrock在SageMaker Unified Studio中不會產生單獨的費用，但您將根據所使用的各個AWS服務和資源收費。您只需為使用的Amazon Bedrock資源付費，無需最低費用或預付承諾。
如果您需要進一步的定價計算協助或對優化特定用例的成本有疑問，請聯繫AWS支持或諮詢您的客戶經理。
結論
在本文中，我們展示了如何使用Amazon Bedrock在SageMaker Unified Studio中構建一個生成式AI應用程序，以集成現有的端點和數據庫。
Amazon Bedrock的生成式AI功能改變了組織構建和部署AI解決方案的方式，使得快速原型設計和部署代理成為可能。團隊可以迅速創建、測試和啟動聊天代理應用程序，加快自動化複雜任務和增強決策能力的AI解決方案的實施。該解決方案的可擴展性和靈活性使得組織能夠將先進的AI能力無縫集成到現有的應用程序、數據庫和第三方系統中。
通過統一的聊天界面，代理可以處理項目管理、數據檢索和工作流程自動化——顯著減少手動工作，同時提升用戶體驗。通過使先進的AI能力更易於訪問和使用，Amazon Bedrock在SageMaker Unified Studio中賦能組織在當前競爭激烈的市場中實現新的生產力和客戶滿意度。
嘗試在SageMaker Unified Studio中使用Amazon Bedrock來滿足您的需求，並在評論中分享您的問題。
作者簡介
Jady Liu是AWS GenAI Labs團隊的高級AI/ML解決方案架構師，駐紮於加州洛杉磯。她在技術行業擁有超過十年的經驗，涉及多種技術並擔任多個角色。她對生成式AI充滿熱情，與各行各業的主要客戶合作，通過在AWS上開發可擴展、可靠和具成本效益的生成式AI解決方案來實現業務目標。工作之餘，她喜歡旅行，探索酒莊和釀酒廠。
Justin Ossai是駐德克薩斯州達拉斯的GenAI Labs專家解決方案架構師。他是一位充滿激情的IT專業人士，擁有超過15年的技術經驗。他為小型和大型企業設計和實施了本地和基於雲的基礎設施解決方案。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
, 今日有咩可以幫到你? 