AWS新增模型、快取及數據整合功能於Amazon Bedrock
2024年12月4日
人工智能
商業
開發
企業
生成式AI
如果你以為亞馬遜網絡服務（AWS）已經停止更新Amazon Bedrock，那你就錯了。畢竟，這是該公司推動將推理技術應用於所有應用程序的核心。現在，這個生成式AI開發平台又推出了一系列新功能和能力，這些功能已經普遍可用或處於預覽階段。
“Amazon Bedrock正在幫助解決開發者目前面臨的最大障礙，以便客戶能夠充分發揮生成式AI的潛力，”AWS AI和數據副總裁Swami Sivasubramanian博士表示。“通過這一新功能集，我們賦能客戶開發更智能的AI應用，為最終用戶提供更大的價值。”
更新內容包括對提示快取和智能提示路由的支持、結構化數據檢索、GraphRAG以及數據自動化。來自Poolside、Stability AI和Luma AI的幾個新模型也將加入Amazon Bedrock。這就是我們故事的開始。
新Amazon Bedrock模型
這個生成式AI應用開發平台已經支持來自多家領先公司的許多模型，包括AI21 Labs、Anthropic、Cohere、Meta、Mistral AI和Stability AI，此外還有亞馬遜的新基礎模型家族Nova。然而，AWS認為開發者應該自由選擇他們想要的模型，因此該公司不斷增加更多選項。
即將加入Amazon Bedrock的模型包括Poolside的Malibu和Point，這是一個用於代碼生成、測試、文檔及實時代碼完成的工程AI；Stability AI的Stable Diffusion 3.5 Large，這是一個先進的文本到圖像模型；以及Luma AI的Ray 2，這是第二代模型，能將文本和圖像轉換為視頻片段。AWS未具體說明這些模型的可用時間，只表示“即將推出”，不過Poolside的模型預計在2025年初推出。
新Bedrock工具
AWS正在增添新的方式，幫助開發者在大規模上進行推理。畢竟，該公司認為推理是應用程序的核心。Amazon Bedrock現在包括提示快取和智能提示路由，前者以不降低重複處理準確性的方式快取經常使用的提示。後者則是將簡單問題自動路由到同一系列內的較小基礎模型，從而優化響應質量和成本。
任何組織都可以部署提示快取和路由，儘管這需要專業知識。AWS認為，這項服務的成本相對更具吸引力和自主性，對於開發者來說，這是一個不容錯過的好機會。
改善企業數據的可操作性
Amazon Bedrock的三個新功能旨在使與企業數據的工作更加順暢，確保所有數據都能用於培訓智能應用。
兩個功能涉及Amazon Bedrock知識庫，這是一個將專有信息整合到生成式AI應用中的系統。第一個是支持結構化數據檢索。這一功能現在已普遍可用，解決了開發者面對大型語言模型的問題：這些模型對結構化數據基礎設施（如數據庫、數據倉庫和數據湖）並不總是表現良好。通過結構化數據檢索，開發者只需一個文本提示即可查詢數據庫。
另一個功能是名為GraphRAG的檢索增強生成（RAG）變體。隨著Amazon Bedrock的支持，開發者可以利用知識圖譜（一種表示數據點之間關係的模型）通過Amazon Neptune生成圖形。這自動化了通常需要圖形專家完成的任務。GraphRAG目前處於預覽模式。
最後，我們從處理結構化數據轉向非結構化數據。Amazon Bedrock將推出一個名為數據自動化的功能。這一功能目前已進入預覽階段，能快速從文檔、圖像、視頻和音頻中提取信息並轉換為結構化數據。然後，這些數據可以用於智能工作流程，包括文檔處理和RAG。這解決了大多數企業公司面臨的問題：如何將其非結構化數據轉換為可用於AI的形式？
Amazon Bedrock的最新更新凸顯了AWS擴展生成式AI能力的重點，為開發者和企業提供了新的模型、推理優化工具以及簡化結構化和非結構化數據處理的功能。這個平台顯然在不斷發展，以滿足多樣化的需求。然而，模型可用性時間表及將這些功能整合到現有工作流程中的實際便利性將是決定其影響的重要因素。隨著AWS不斷完善其產品，這些新增功能為AI驅動的應用開發的進一步進展奠定了基礎。
在這個快速變化的技術環境中，AWS的持續創新確實值得關注。這不僅是技術上的進步，更是企業在數據驅動決策和提升業務效率方面的具體體現。未來，隨著這些新工具的推出，企業能否有效利用這些資源，將成為其競爭力的關鍵。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
