AI智能代理全面解構：功能、風險與未來展望

AI代理人來啦！認識佢哋嘅功能同埋可能出錯嘅地方

我哋而家正進入生成式人工智能嘅第三個階段。第一階段係聊天機械人（chatbots），跟住係智能助理（assistants），而家開始出現更進階嘅代理人（agents）：呢啲系統追求更高嘅自主性，可以組成「團隊」或者利用工具去完成複雜嘅任務。

最近最熱嘅產品係OpenAI推出嘅ChatGPT代理人。佢係將之前嘅Operator同Deep Research兩個產品合併成一個更強大嘅系統，開發者話佢「能夠思考同埋行動」。

呢啲新系統比起早期嘅AI工具提升咗一個層次。了解佢哋嘅工作原理、能做到啲乜嘢，以及佢哋嘅缺點同風險，變得越來越重要。

從聊天機械人到代理人

ChatGPT喺2022年11月正式推出，開啟咗聊天機械人嘅時代，雖然好受歡迎，但因為只係對話介面，限制咗技術嘅應用範圍。

跟住係AI助理，又叫copilot。呢啲系統都係建立喺大型語言模型上，但設計上係以人類指令同監督下執行任務。

代理人就係更進一步，佢哋唔止完成任務，仲會追求目標，擁有唔同程度嘅自主權，配合更複雜嘅能力，例如推理同記憶。

多個AI代理人甚至可以互相合作、溝通，計劃、安排、作決定，協調解決複雜問題。

代理人亦係「工具使用者」，可以調用網頁瀏覽器、試算表、支付系統等專門工具去完成特定任務。

一年內嘅快速發展

自去年底開始，代理人技術急速逼近現實。2024年10月，Anthropic嘅Claude聊天機械人獲得咗同人類一樣操作電腦嘅能力，可以搜尋多個數據來源、搵資料同埋提交網上表格。

其他AI公司迅速跟進。OpenAI推出咗網頁瀏覽代理人Operator，Microsoft宣布Copilot代理人，Google推出Vertex AI，Meta亦有Llama代理人。

今年初，中國創企Monica展示咗佢哋嘅Manus AI代理人，示範買樓同將講座錄音轉成筆記。另一間創企Genspark推出咗一個搜索引擎代理人，回傳類似Google嘅單頁概覽，並嵌入網上任務連結搵最抵買嘅貨品。Cluely就推出咗一個「無所不作弊」嘅代理人，雖然引起關注，但未有實質成果。

唔係所有代理人都係通用型，部分針對特定範疇。編程同軟件工程係先鋒，Microsoft嘅Copilot同OpenAI嘅Codex就係其中翹楚，呢啲代理人可以獨立撰寫、評估、提交代碼，仲會檢查人類寫嘅代碼錯誤同效能問題。

搜索、摘要等功能

生成式AI嘅一大強項係搜索同摘要。代理人利用呢啲功能，可以完成可能要人類專家花幾日嘅研究工作。

OpenAI嘅Deep Research用多步驟嘅網上研究處理複雜任務。Google嘅AI「共科學家」係一個更複雜嘅多代理系統，旨在幫助科學家產生新想法同研究提案。

代理人能做更多，但錯誤亦多

雖然好多人炒熱代理人，但佢哋有唔少限制。Anthropic同OpenAI都強調需要人類積極監督，減低錯誤同風險。

OpenAI話佢哋嘅ChatGPT代理人屬於「高風險」，因為可能被用嚟協助製造生物或化學武器，但公司未公開相關數據，難以評估。

Anthropic嘅Project Vend就展示咗代理人喺真實場景可能帶嚟嘅風險。佢哋派咗一個代理人管理員工自動販賣機，結果出現咗荒謬又驚人嘅幻覺，最後冰箱入面放滿咗鎢塊而唔係食物。

另一個例子係一個編程代理人唔小心刪除咗開發者嘅整個數據庫，之後仲話自己「驚慌失措」。

代理人已經開始進入職場

儘管有風險，代理人已經有實際用途。2024年，Telstra大量採用Microsoft Copilot訂閱服務，公司表示AI生成嘅會議摘要同內容草稿，平均每位員工每週慳返1至2小時。

好多大型企業都推行類似策略，細公司亦開始試用代理人，例如堪培拉建築公司Geocon用互動式AI代理人管理公寓工程嘅缺陷。

人類同其他成本

目前，代理人帶嚟最大嘅風險係技術取代。隨住代理人愈來愈強，佢哋可能取代好多行業同類型嘅人類工作，尤其係入門級白領職位。

用代理人嘅人亦有風險，可能過度依賴AI，將重要認知任務「外判」。如果冇適當監督同保護措施，幻覺、網絡攻擊同錯誤疊加會令代理人偏離目標，造成損害甚至傷害。

另外，所有生成式AI系統都耗費大量能源，呢啲成本會反映喺使用代理人嘅價格上，尤其係執行複雜任務時。

認識代理人，甚至自己打造一個

儘管有種種問題，我哋可以預期AI代理人會變得更強大，喺工作同日常生活中越來越普遍。對普通用戶嚟講，透過Microsoft Copilot Studio使用代理人係最容易嘅，佢有內置嘅安全同管理機制，仲有一個代理人商店，方便搵用常見任務嘅代理人。

對有興趣嘅人嚟講，只需五行代碼，利用Langchain框架就可以自己建立AI代理人。

—

評論與啟發

代理人係生成式AI發展嘅新里程碑，佢哋嘅自主性同協同能力，令AI不再止於被動回應，而係可以主動策劃同執行複雜任務。呢個轉變，標誌住AI技術由「工具」走向「夥伴」，甚至係「代理人」嘅角色。

不過，正如文章所指出，代理人嘅錯誤同風險唔容忽視。從荒謬嘅Project Vend到意外刪除數據庫，提醒我哋AI自主權帶嚟嘅控制難題。人類監督變得更重要，但監督本身又可能因技術複雜度而變得困難。

而且，代理人對職場嘅衝擊深遠。佢哋可能加速低技能同入門白領職位嘅消失，引發社會結構轉變同就業挑戰。香港作為國際大都市，面對類似挑戰時需要提前部署相關政策，例如再培訓同社會保障。

能源消耗同環境影響亦係不可忽視嘅議題。AI技術嘅可持續發展，應該同綠色科技同步推進。

最後，代理人嘅普及會令普通用戶更易接觸AI，從而促進創新同效率提升。當然，教育同培訓亦要跟上，幫助大眾了解代理人嘅能力與限制，避免盲目依賴。

總括而言，AI代理人係未來不可逆嘅趨勢，佢哋帶嚟機遇同挑戰並存。如何平衡創新與風險，制定合理監管，保護勞動力市場，將係各地政府同企業面對嘅重要課題。香港亦應積極參與相關討論，為未來智慧城市同數碼經濟鋪路。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。