在Copilot自動駕駛之前，我們應該磨練“負責任的AI”
在新興的代理經濟中，迫切需要一種全面的、負責任的AI方法，以應對隱私、安全、偏見和問責等挑戰。
AI代理的演變
Nvidia首席執行官黃仁勳在2024年11月預測，2025年將成為“AI代理之年”，這將開啟一個新時代：代理經濟。他將AI代理描述為“數字員工”，並預測未來Nvidia將擁有50,000名人類員工和超過1億個AI代理，幾乎每個組織都會看到AI工作人員的類似增長。
然而，將AI代理簡單地描述為“數字工作者”過於簡化，並低估了這項技術的深遠影響。
我們一直將技術視為工具，但代理AI不僅僅是一個工具。代理AI超越了僅僅執行單一任務的范疇，這標誌著我們與技術互動方式的根本變革。
與依賴人類指令的生成AI（GenAI）不同，代理AI使用學習、適應和協作的代理網絡。AI代理可以相互互動和學習，並具備自主決策、從經驗中學習、適應變化情況以及計劃複雜的多步驟行動的能力——有效地充當主動的合作夥伴，而不僅僅是執行預定命令的被動工具。
AI代理帶來的新風險層級
AI模型是數據驅動的。隨著代理AI的出現，對個人和專有數據的需求和依賴正在指數級增長，隨之而來的脆弱性和風險也在增加。這些系統的複雜性引發了各種隱私問題。
隱私方面，我們如何確保數據保護原則（如數據最小化和目的限制）得到遵守？如何避免個人數據在代理AI系統內洩露？如果用戶決定停止使用AI代理，他們是否能夠行使數據主體的權利，例如被遺忘權？僅僅與“單一”代理進行溝通，期待它“廣播”給整個代理網絡是否足夠？
安全性方面，AI代理可以控制我們的設備，我們必須檢查這些代理在我們的計算機、智能手機或任何物聯網設備上運行時可能存在的脆弱性。如果出現任何安全漏洞，那麼問題不會僅限於一個受到影響的應用程序。你的“整個生活”——即你所有設備上的所有信息及更多——都將受到威脅。這對個人和組織都是如此。此外，這些安全漏洞可能會“洩漏”到與你“受損”代理互動的其他AI代理系統中。
如果一個代理（或一組代理）遵循嚴格的安全防範措施，而它們與其他（或一組）已被攻擊的代理互動——例如，由於缺乏適當的網絡安全措施，如何確保這些受損的代理不會作為“病毒”來污染它們互動的所有代理？
這種情況的影響可能是災難性的。這種“病毒”可能在毫秒內擴散，並且整個系統可能在國家之間崩潰。互動的連接/互動越複雜，崩潰的危險就越高。
偏見與公平性
我們已經看到生成AI系統的偏見示例。在AI代理的背景下，任何現有的偏見都會在任務執行鏈中傳遞，進一步加劇影響。我們如何防止歧視或執行法律條款以確保公平，當偏見已經“內置”到AI代理中？我們如何確保AI代理不會加劇特定大型語言模型（LLM）中固有的偏見？
透明度
人們希望了解代理的決策過程。公司必須確保AI互動的透明性，並允許用戶在需要時進行干預或選擇退出。
問責制
在代理系統和執行鏈中，我們如何定義問責制？是特定的代理？還是代理系統？如果代理系統之間互動，會發生什麼？我們如何建立適當的可追溯性和防範措施？
我們尚未找到解決這些問題的方法，尤其是在LLM和生成AI應用中。那麼，我們如何確保能夠保護這些更複雜的系統？除了這些風險之外，還可能對全球範圍內造成各種社會傷害。
對全面負責任的AI的需求
立法者尚未考慮代理AI系統。他們仍在努力理解如何為LLM和生成AI應用設置防範措施。在代理經濟時代，開發者、科技公司、組織和立法者需要重新檢視“負責任的AI”概念。
實施AI治理和適當的負責任AI措施並不足夠。這種方法應該更加全面和整體，國際合作以確保安全、可靠的代理AI可能不是可選的，而是必須的。
這篇文章表達了對未來AI技術的深刻思考，尤其是在代理AI的發展背景下，隱私、安全和公平性等問題尤為重要。隨著技術的迅速進步，社會必須提前思考並制定相應的規範，以防止潛在的風險和挑戰。這不僅僅是科技界的責任，更是整個社會的共同任務。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
