**OpenAI的AGI負責人辭職：公司未準備好應對未來的挑戰**
OpenAI負責準備迎接人工通用智能（AGI）的研究員已經辭職，並警告說，沒有人能夠應對即將到來的挑戰。
在他的個人Substack上，剛剛辭職的AGI負責人Miles Brundage表示，辭去六年來的“夢想工作”十分艱難。他認為自己有責任對OpenAI正在推進的準人類水平的人工智能負責。
Brundage寫道：“我決定從業界外部影響和引導AI的發展，而不是在內部。”
關於是否準備好應對這項仍屬理論的技術，這位研究員的態度非常明確。
“簡而言之，OpenAI和其他前沿實驗室都未準備好，”他寫道，“世界也未準備好。”
**多層次的挑戰**
在這一大膽的聲明之後，Brundage表示，他已將自己的觀點告知OpenAI的領導層。他補充道，他認為“AGI是一個過度使用的詞彙，這種二元思維方式其實並不合理。”
研究員指出，與其說是AGI的一個前後框架，不如說是多層次的挑戰。
Brundage表示，他在OpenAI的五步AI/AGI等級創建中發揮了重要作用，這一等級在夏季被洩露給彭博社。在這個等級中，最高級別的AI可以“完成一個組織的工作”，而OpenAI認為世界目前正處於第二級的邊緣，即具有人類水平推理能力的AI。
儘管如此，Brundage堅持認為，OpenAI和整個世界仍未準備好迎接下一代AI系統。
值得注意的是，Brundage仍然相信，雖然AGI可以造福全人類，但這並非自動發生。相反，負責創建和監管它的人必須謹慎行事。這一警告表明，他可能認為OpenAI在AGI管理方面不夠謹慎。
隨著這位高級研究員的離職，Brundage表示，OpenAI將把其AGI準備團隊的成員重新分配到組織內的其他團隊。這一解散發生在公司終止其AI安全團隊不到六個月後，加上這次高層辭職，對公司領導層帶來不小的震動。
**評論**
這篇文章揭示了人工智能領域內部的一些不安情緒，特別是AGI的發展進程。Brundage的辭職和警告表明，雖然技術的快速進步令人興奮，但其背後的倫理和準備工作卻可能不足。AGI的潛力巨大，但如果缺乏足夠的監管和準備，可能會帶來不可預測的後果。這提醒我們，科技的發展不僅需要技術上的突破，還需要周全的社會和倫理考量。OpenAI的內部動盪或許反映出，科技公司在追求創新的同時，也需要更審慎地考慮其社會責任和影響。
以上文章由特價GPT API KEY所翻譯
