**OpenAI的AGI專家辭職，警告公司未準備好應對未來**
OpenAI負責確保公司及世界為人工通用智能（AGI）到來做好準備的研究員辭職，並警告未來的挑戰無人能夠應對。
在他個人的Substack上，剛剛辭職的AGI準備主管Miles Brundage表示，離開這份工作讓他感到艱難。他認為OpenAI正在推動一種接近人類水平的人工智能，他對此感到極大的責任。
Brundage寫道：「我決定希望從業界外部影響和引導AI的發展，而不是在內部。」
對於應對這項仍屬理論的技術，Brundage毫不含糊地表示：「簡言之，OpenAI及其他前沿實驗室都尚未準備好，世界也未準備好。」
他指出，AGI這個詞彙常被過度使用，暗示了一種不太合理的二元思維方式。相反，他認為這是一個多層次的過程。
Brundage提到，他參與創建了OpenAI的AI/AGI五步分級系統，該系統在夏季被洩露給彭博社。根據該分級系統，最終的AI能夠「完成一個組織的工作」，而目前世界正處於第二級的邊緣，這一級別的AI具備人類水平的推理能力。
儘管如此，Brundage堅持認為OpenAI和整個世界對於正在構建的下一代AI系統仍然未做好準備。
值得注意的是，Brundage仍然相信AGI可以造福全人類，但這需要負責人有意識地進行引導和監管。他似乎認為OpenAI在AGI管理上的步伐不夠謹慎。
隨著這位資深研究員的離開，OpenAI正在將其AGI準備團隊的成員重新分配到組織內的其他團隊。這一解散發生在OpenAI取消其AI安全團隊不到六個月後，這對公司的領導層並不是一個好兆頭。
**評論：**
這次辭職事件揭示了AI業界內部對於AGI發展的深層擔憂。Brundage的離開不僅是個人選擇，更反映了業界對於快速推進的AI技術的複雜情緒。AGI的潛力無疑令人興奮，但同時也帶來了深刻的倫理和社會挑戰。這些系統的發展不僅需要技術上的突破，還需要全社會的準備和適應。OpenAI作為領頭羊，如何在技術創新與社會責任之間取得平衡，將成為未來觀察的焦點。Brundage的辭職或許是個警鐘，提醒我們在追求技術卓越的同時，必須更加謹慎地考慮其可能帶來的影響和風險。
以上文章由特價GPT API KEY所翻譯
