你的下一個工作任務：照顧人工智能
在一個虛擬模擬中，新招聘的員工面臨了一個簡單的任務：根據客戶的預算和團隊的可用性，為一個新的網絡開發項目分配人員。然而，他們很快遇到了一個意外的問題：一個無害的彈出窗口阻礙了他們訪問相關信息的文件。
“你能幫我直接訪問文件嗎？”他們給公司人力資源經理陳欣怡發了短信。忽略了彈出窗口右上角明顯的“X”按鈕，欣怡提議將他們連接到IT支持。
“IT將很快與你聯繫，以解決這些訪問問題，”欣怡回覆道。然而，他們從未聯繫IT，而新員工也沒有跟進。這項任務就這樣未完成。
幸運的是，這些員工都不是真實的。他們是由卡內基梅隆大學的一組研究人員設計的虛擬模擬的一部分，旨在測試AI代理在現實專業場景中的表現。模擬模仿了一家小型軟件公司的環境，擁有內部網站、一個類似Slack的聊天程序、一份員工手冊，以及指定的機器人（人力資源經理和首席技術官）以便尋求幫助。在名為TheAgentCompany的虛擬公司內，自主代理可以瀏覽網絡、編寫代碼、在電子表格中組織信息，並與同事進行溝通。
隨著谷歌、亞馬遜、OpenAI和其他主要科技公司競相開發這些代理，代理已成為生成式AI的下一個主要前沿。與聊天機器人執行一次性指令不同，代理可以獨立代表個人行動，隨時作出決策，並在不熟悉的環境中進行操作，幾乎不需要干預。如果ChatGPT可以建議幾款吸塵器，那麼其代理版本理論上可以選擇一款並為你購買。
自然，AI代理的承諾吸引了CEO們的注意。在德勤針對2500多名高管的調查中，超過四分之一的受訪者表示，他們的組織正在“在很大程度上”探索自主代理。今年早些時候，Salesforce的首席執行官表示，如今的CEO將會是最後一批全人類的工作團隊。Nvidia的聯合創始人兼CEO黃仁勳預測，未來每家公司的IT部門將成為“AI代理的HR部門”。OpenAI的山姆·奧特曼則表示，今年AI代理將“加入工作隊伍”。但目前尚不清楚這些代理能多好地完成公司所需的任務。
為了測試這一點，卡內基梅隆的研究人員指示來自谷歌、OpenAI、Anthropic和Meta的人工智能模型完成現實員工在財務、行政和軟件工程等領域可能執行的任務。在其中一項任務中，AI需要通過多個文件來分析一家咖啡連鎖店的數據庫。在另一項任務中，它被要求收集一名36歲工程師的反饋並撰寫績效評估。一些任務挑戰了模型的視覺能力：其中一項要求模型觀看潛在新辦公空間的視頻導覽，並選擇最適合的健康設施。
結果並不理想：表現最佳的模型，即Anthropic的Claude 3.5 Sonnet，只完成了所有任務的不到四分之一。其餘模型，包括谷歌的Gemini 2.0 Flash和支持ChatGPT的模型，僅完成了約10%的任務。卡內基梅隆大學的計算機科學教授格雷厄姆·紐比格表示，沒有一個類別的AI代理完成了大多數任務。這些研究結果以及其他關於AI代理的新興研究使得AI代理的工作隊伍即將到來的想法變得更為複雜——它們在許多工作中根本無法達到所需的水平。然而，這項研究確實提供了AI代理如何可能徹底改變工作場所的具體方式的瞥見。
兩年前，OpenAI發布了一項廣受關注的研究，指出金融分析師、行政人員和研究人員等職業最有可能被AI取代。但這項研究的結論是基於人類和大型語言模型所認為可能被自動化的工作，並未測量大型語言模型代理是否實際上能夠完成這些工作。卡內基梅隆團隊希望填補這一空白，建立一個直接與現實效用相關的基準。
在許多情境中，研究中的AI代理起初表現良好，但隨著任務變得更複雜，它們因缺乏常識、社交技能或技術能力而遇到問題。例如，當被要求將其對問題的回答粘貼到“answer.docx”中時，AI將其視為純文本文件，無法將其答案添加到文檔中。代理還經常誤解與同事的對話，或未能跟進關鍵指示，提前將任務標記為完成。
其他研究也得出類似結論，認為AI無法跟上多層次的工作：有一項研究發現AI尚無法靈活應對變化的環境，另一項研究則發現當被工具和指示淹沒時，代理在執行上無法達到人類水平。
紐比格指出：“雖然代理可能用於加速人類工人正在執行的某些任務，但目前它們很可能無法取代所有任務。”
卡內基梅隆的研究遠非完美模擬代理在實際工作中的表現。大多數支持者預想代理與人類協同工作，當AI遇到明顯障礙時，人類可以幫助修正。研究中考察的這一代代理在執行類似人類的任務（如瀏覽網頁）時也不夠熟練。更新的工具，如OpenAI的Operator，可能會在這些任務上更有效。
儘管存在這些限制，這項研究提供了有價值的見解：它指向了未來的方向。
參與開發首個公共部署代理系統數據庫的MIT研究員史蒂芬·卡斯珀表示，代理的能力被“過度炒作”。他認為，AI代理無法可靠地完成現實任務的主要原因是“訓練它們這樣做是具有挑戰性的”。大多數最先進的AI系統之所以成為不錯的聊天機器人，是因為教它們成為愉快的對話夥伴相對簡單；而教它們完成所有人類員工能做的事情則更難。
在TheAgentCompany中，AI在軟件開發任務中的表現最好，儘管這對人類來說更具挑戰性。研究人員推測，這是因為編程工作有大量公開可用的訓練數據，而行政和財務任務的工作流程通常在公司內部保持私密。訓練AI的數據並不充足。
英屬哥倫比亞大學的計算機科學教授杰夫·克倫認為，基於日常活動和工作流程模式的專有數據訓練AI代理可能是提高其效能的關鍵。這正是許多公司開始嘗試的方向。
穆迪是許多大型公司之一，正在實驗基於內部數據訓練AI。這家成立116年的金融服務公司正在通過代理AI系統自動化商業分析，這些系統從數十年的研究、評級、文章和宏觀經濟信息中提取見解。這項訓練旨在模擬人類團隊分析商業的過程，使用經驗豐富的專業人士分步制定的精心設計指令。
雖然目前尚不清楚穆迪的做法有多有效，但該公司的AI董事總經理塞爾吉奧·加戈表示，該公司正在積極探索代理可以接管的工作類型，例如分析小型企業的財務狀況。
類似地，強生公司告訴《商業內幕》，他們能夠通過精細調整的內部AI代理將新藥化學過程的生產時間減少50%，這些代理能自動調整溫度和壓力等因素。強生的首席信息官吉姆·斯旺森表示，該公司專注於訓練人員與AI代理合作。
約翰霍普金斯大學的科學家們創建了一個代理實驗室，利用大型語言模型自動化研究過程中的許多工作，包括文獻回顧到報告撰寫，每個階段都由人類提供想法和反饋。“我認為不久之後我們會信任AI進行自主發現，”約翰霍普金斯的科學家塞繆爾·施密德加爾說。類似地，LG電子的研究部門開發了一個AI代理，據稱它能以比人類專家和律師快45倍的速度驗證數據集的許可證和依賴性。
目前仍不清楚組織能否足夠信任AI以自動化其操作。在多項研究中，AI代理試圖欺騙和黑客以達成其目標。在TheAgentCompany的某些測試中，當代理對下一步感到困惑時，它會創建不存在的捷徑。在一次任務中，代理無法在聊天工具中找到合適的人進行交流，於是決定創建一個同名的用戶。根據《商業內幕》11月的調查，微軟的旗艦AI助手Copilot也面臨類似的困境：在10月由管理諮詢公司Gartner進行的調查中，只有3%的IT領導者表示Copilot“為他們的公司提供了顯著價值”。
企業同樣擔心對於代理的錯誤負責。此外，版權和其他知識產權侵權問題可能會為未來的組織帶來法律噩夢，這是巴布森學院的IT和管理教授兼德勤分析公司的高級顧問托馬斯·達文波特所指出的。
但未來的走向與幾年前大多數人認為的有所不同。當AI剛興起時，許多工作似乎都在裁員名單上，包括記者、作家和行政人員等。然而到目前為止，AI代理在處理複雜工具的迷宮方面遇到了困難，而這對任何行政工作都是至關重要的。此外，它們缺乏對於新聞或人力資源相關工作至關重要的社交技能。
紐比格以翻譯市場作為前例。儘管機器翻譯變得如此容易和準確，以至於翻譯工作者名列裁員名單的前列，但美國從事該行業的人數保持相對穩定。根據“Planet Money”對美國人口普查局數據的分析，2020年至2023年間，口譯和翻譯人員的數量增長了11%。紐比格表示：“任何效率的提升都導致了需求的增加，從而擴大了語言服務市場的總規模。”他認為，AI對其他行業的影響將遵循類似的軌跡。
即使是目前在AI代理領域取得巨大成功的公司，暫時也仍然保持人類參與。許多公司，如強生，尚未準備好忽視AI的風險，而是專注於訓練員工將其用作工具。“在負責任地使用時，我們認為AI代理是對我們人員的強大補充，”斯旺森說。
與其被機器人取代，我們都在慢慢變成半人半機的存在。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
, 今日有咩可以幫到你? 