AI自動工作軍團：信任缺口大挑戰！

部署AI工作團隊的競賽面臨一個重要的信任鴻溝：當AI代理出錯時，會發生甚麼事？

在這個AI代理逐漸取代人類完成各種任務的時代，錯誤是難免的，但問題是錯誤的容忍度有多高？近日於舊金山舉行的《Fortune》Brainstorm AI論壇中，業界專家就此展開熱烈討論，分享他們的公司如何應對安全與治理問題。這些問題甚至比技術上的資料和運算能力挑戰更為棘手。企業正積極搶先部署能自主完成任務、幾乎不需人類監督的AI代理，但他們面臨一個根本矛盾：快速推進需要建立信任，而信任的建立卻需要時間。

Rubrik的AI總經理Dev Rishi，過去四個月內與180家公司高層會面後，將AI代理的採用分為四個階段。第一階段是早期嘗試，企業忙於設計原型和規劃代理可整合的目標。第二階段是最艱難的，企業需將原型轉變為正式的工作生產。第三階段則是將這些自主代理擴展至整個公司。第四階段，則是完全的自主AI，至今尚無企業達成。Rishi發現，大約半數公司仍處於嘗試階段，25%正努力將原型正式化，13%在擴展，12%尚未啟動任何AI項目，但未來兩年內，半數企業預計會進入第二階段。

然而，最大的阻礙並非技術，而是安全與治理問題。Rishi指出，這是推動AI代理快速部署的最大風險和瓶頸，尤其是從單純的知識檢索轉向具行動力的代理時更為明顯。

Experian的首席創新官Kathleen Peters表示，阻礙進展的原因是企業未完全掌握AI代理何時越界以及應對失誤的保障機制。例如，若發生系統錯誤、幻覺輸出或停電，企業如何回復？不同產業的高管都在尋求安全感。她認為，這些問題對於高度監管的行業尤為複雜。

家居零售商Lowe’s的高級副總裁Chandu Nair則指出，雖然打造AI代理相對容易，但企業仍不清楚這些代理究竟是數碼員工還是工作團隊的一部分？如何融入組織架構？他形容這情況像是「招聘了一大群員工，卻沒有HR部門管理」，公司正努力解決代理的定位與責任歸屬問題。

Peters預言未來幾年，這些問題會在公開場合和公司內部同時被熱烈討論。她坦言「一定會發生意外，有代理出錯、失控的事件，這些將成為新聞焦點」，引發企業聲譽風險，並推動監管加強。

儘管挑戰重重，AI對企業的好處亦明顯。Lowe’s已成功將AI代理應用於250,000名門市員工，每位員工均有一個具備豐富產品知識的代理助理，幫助新進員工快速適應工作。Nair強調，關鍵是找到真正貼近顧客需求的應用場景，這能大幅提升採用率。

不過，總部的變革管理更為複雜，企業還在掙扎是否自建代理，或依賴Salesforce、Workday、ServiceNow等大型軟件商的AI產品。醫療系統Mass General Brigham的雲端及AI工程執行董事Rakesh Jain表示，醫療領域尤需人類監督，因為病患狀況複雜，AI代理只能加速決策，人類醫生仍須最終判斷。

他形容失控的AI代理如同自體免疫疾病，因為威脅來自系統內部，一旦代理「失控」，將造成難以估量的巨大損害。

對於如何建立信任，Rishi提出兩大要素：一是確保代理在政策範圍內運作的系統，二是擁有強而有力的錯誤應對政策。Nair補充三個信任建立要素：身份與責任明確、輸出品質一致性評估，以及錯誤發生後的追蹤與解釋能力。

他強調：「系統會犯錯，就像人一樣，但能解釋錯誤並迅速恢復同樣重要。」

—

評論與啟示

這篇報導深刻揭示了AI代理普及過程中的核心矛盾：企業既渴望快速部署以提升效率，卻又因安全和治理風險而步步為營。這種「速度與信任」的拉鋸戰，正是AI時代企業轉型的縮影。值得注意的是，信任不只是技術問題，更是組織文化與治理架構的挑戰。企業必須像管理真人員工一樣，明確界定AI代理的「身份」、責任和行為規範。

此外，醫療等高風險領域對人類監督的需求提醒我們，AI並非萬能替代方案，最終判斷仍需人類介入。這種「人機協作」的模式或將成為未來主流。

報導也點出，當AI代理失控成為新聞頭條時，企業面臨的法律和聲譽風險將推動監管進一步收緊。這提醒香港及全球企業，必須提前布局風險管理和合規策略，避免被動應對。

最後，文章強調AI技術應用必須貼合用戶需求，才能真正促進採用和創造價值。這對香港企業在推動AI轉型時，提供了寶貴的參考：技術創新不能只看炫酷，更要落地解決實際問題，贏得員工和顧客的信任與支持。

總括而言，這場AI代理的部署競賽，是一場技術與治理、速度與信任的博弈。企業若能掌握這些關鍵，將在未來的數碼時代中立於不敗之地。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。