OpenAI的AGI負責人辭職，稱公司未準備好面對其正在建設的技術
未來的震撼
負責確保OpenAI和全球為人工通用智能（AGI）做好準備的研究員已經辭職，他警告說，沒有人能夠應對即將到來的變革。
在他個人的Substack上，剛剛辭職的AGI準備負責人Miles Brundage表示，辭去這份六年來的“夢想工作”並不容易。他表示，這樣做是因為他對OpenAI正引入的所謂人類水平的人工智能感到巨大的責任。
Brundage寫道：“我決定希望從行業外而不是內部影響和引導AI的發展。”
在處理這一仍屬理論性的技術方面，這位研究員毫不含糊。
“簡而言之，無論是OpenAI還是其他任何前沿實驗室都未準備好，”他寫道，“而世界也未準備好。”
層次分明
在這一大膽聲明之後，Brundage表示，他已經與OpenAI的領導層分享了他的看法。他補充說，AGI是一個過於簡化的詞彙，這種二元思維方式實際上並不合理。
這位研究員指出，與其說有AGI的前後框架，不如說是有不同的層次。
事實上，Brundage表示，他在創建OpenAI的五步AI/AGI層次量表中發揮了重要作用，該量表在夏季時被洩露給彭博社。在這個量表上，終點是能夠“完成一個組織工作”的AI，OpenAI認為世界目前正處於第二級的邊緣，這一級別的特徵是AI具備人類水平的推理能力。
儘管如此，Brundage堅持認為，OpenAI和整個世界在面對下一代AI系統方面仍未做好準備。
值得注意的是，Brundage仍然相信，雖然AGI可以造福全人類，但這不會自動實現。相反，負責創造和監管它的人必須謹慎行事。這一警告表明，他可能認為OpenAI在AGI管理方面不夠謹慎。
隨著這位高級研究員的離開，Brundage表示，OpenAI正在將其AGI準備團隊的成員重新分配到組織內的其他小組。這一解散發生在公司解散其AI安全團隊不到六個月後，這對於這次重大辭職所引發的公司領導層動蕩來說，並不是一個好兆頭。
評論
Brundage的辭職無疑揭示了OpenAI內部對於AGI發展的深刻擔憂。這反映出一個更大的問題，即科技公司在追求突破性技術時，是否真正考慮到其社會影響和道德責任。AGI的潛力是巨大的，但同時也伴隨著巨大的風險。Brundage的離開可能是一個警鐘，提醒我們需要更加謹慎地對待這些技術的發展和應用。OpenAI是否能夠在失去這樣一位關鍵人物後重新調整方向，將成為未來觀察的重點。這也讓我們思考，科技行業是否需要更強的監管和外部監督，以確保其發展不偏離正軌。
以上文章由特價GPT API KEY所翻譯
