OpenAI確認AI代理將於明年推出 — 對你意味著什麼
新聞
作者：Ryan Morrison 更新日期：2024年10月2日
人工智能的里程碑
OpenAI正在計劃於明年推出“代理人”。這些是能夠在無需人類干預下執行各種任務的獨立人工智能模型，並且可能很快就會在ChatGPT中可用。
在舊金山舉行的首次OpenAI DevDay活動中，CEO Sam Altman表示，“2025年是代理人開始工作的時間”，並且公司展示了一個早期的代理人潛力示例，讓一個語音助手自行打電話並訂購草莓。
公司表示，人工智能通用智能（AGI）有五個階段，我們目前處於第二階段，即人工智能可以在回應之前對一個想法進行推理。代理人是第三階段，這意味著人工智能足夠智能，可以推理一個想法，並在計劃其回應時能夠獨立執行操作。
Altman曾經表示，o1模型系列的強大性能意味著它們可以開始幫助構建代理級模型，我們應該很快就能看到它們的出現。更大的挑戰，並且可能會導致延誤的，是確保它們符合人類價值觀，並且不會“失控”，執行對人類無益的行動。
AI代理人的意義是什麼？
在Dev Day中，OpenAI的即時API進行了一次訂購草莓的通話，這是很棒的……但回應延遲約為2秒（最先進的技術小於400毫秒），語音感覺不像“高級語音模式”，仍然缺乏情感。
構建有用且功能性強的代理人是每個人工智能實驗室都在努力的目標。例如，這將使人工智能不僅能寫一本書，還能自行處理解如何自我出版，包括在Amazon上註冊賬戶以在Kindle Direct上分享。
人們會要求代理人做一些原本需要他們花一個月時間的事情，而代理人只需要一個小時。
Sam Altman，OpenAI CEO
代理人是實現AGI的必要步驟，因為它需要能夠執行其認為需要達成目標的任務。Altman在Dev Day期間表示，“如果我們能夠做出一個比OpenAI更擅長AI研究的AI系統，那將是一個真正的里程碑。”
達到那個階段需要不斷在前幾代AI的基礎上進行構建。Altman表示，o1模型將是使代理人成為現實的關鍵，當人們開始使用這些代理人時，“這將是一件大事”，並補充說“人們會要求代理人做一些原本需要他們花一個月時間的事情，而代理人只需要一個小時。”
他預測人們可能會有一個代理人執行特定任務，另一個代理人負責不同的職責，直到他們擴展到10個或100個代理人，這些代理人可以接管日常工作的各個方面。我們已經看到了一些這樣的情況，o1推理並提供建議的時候。
對齊是代理人的最大障礙
在每次發布新的模型時，OpenAI都會對其進行嚴格的安全測試，根據一套標準來評估其是否安全釋放。這在過去曾導致延誤，並且需要在模型上設置護欄以防止某些操作。
一個明顯的例子是GPT-4o模型，該模型能夠本地生成圖像、製作音樂，甚至模仿聲音，但所有這些功能都被護欄阻止了。你知道它能做到這些，因為有時護欄會失效。
在代理人的情況下，護欄失效將是一個更大的問題，因為它們可能會訪問你的銀行賬戶，上網執行任務，甚至在Fiver上雇人幫它完成任務，使用語音模式給出指示。
在Dev Day示例中，我們看到了一個語音機器人致電賣家（由一位研究員扮演），訂購400個巧克力草莓，給出具體地址並表示將以現金支付。它聲明自己是AI助手，但有時你會難以分辨它是AI。
OpenAI的首席產品官Kevin Weil對《金融時報》表示：“我們希望能夠以你與另一個人互動的所有方式與AI互動”，並補充說代理系統將於明年進入主流，使這一目標成為可能。
Weil表示，代理系統的一個護欄將是要求其始終聲明自己是AI，儘管如果你曾經聽過高級語音beatbox或看到GPT-4o生成完美的矢量圖形，你會知道這些限制並不是總是完美的。
我個人期待代理人的到來。我喜歡編碼，代理人將使我能夠更快地實施它，接管一些無聊的測試階段。它還將使我最終能夠處理那些25萬封未讀郵件。如果為了達到收件箱零而需要付出Skynet的代價——那就讓終結者來吧。
編輯評論：
這篇文章揭示了AI技術的飛速進展，特別是OpenAI在開發能夠獨立運作的AI代理人方面的努力。文章詳細描述了AI代理人的潛力和挑戰，尤其是在安全和道德方面的考量。
首先，AI代理人的潛力無可否認，它們能夠大幅提高工作效率，讓人類從繁重的日常任務中解脫出來。然而，這也引發了一些擔憂，例如AI代理是否會失控，或者是否會被惡意使用。這些問題需要在技術開發的同時得到嚴格監控和解決。
其次，AI代理的發展還面臨“對齊”的問題，即如何確保AI的行為符合人類的價值觀和倫理標準。這是一個非常複雜的問題，因為AI的決策過程可能會偏離人類的期望，甚至在某些情況下，AI可能會執行對人類不利的行動。
最後，文章提到的技術護欄和安全測試是必不可少的，但這些措施也可能限制AI的潛力發揮。如何在安全性和性能之間找到平衡，是未來AI技術需要解決的關鍵問題。
總體來說，OpenAI的進展令人振奮，但我們必須保持謹慎，確保這些技術在為人類帶來便利的同時，不會帶來潛在的風險。這篇文章為我們提供了對AI未來發展的深刻洞見，值得我們深入思考。
以上文章由特價GPT API KEY所翻譯
