AI之父欣賞學生解僱OpenAI CEO事件

新獲諾貝爾獎的AI教父Geoffrey Hinton表示，他為學生解僱OpenAI老闆Sam Altman感到驕傲

Geoffrey Hinton，AI教父，多倫多大學教授，在Collision 2023會議第二天的主舞台上發言。
圖片來源：RAMSEY CARDY—SPORTSFILE FOR COLLISION/GETTY IMAGES

只有極少數科學家能夠獲得諾貝爾獎，這是一生一次的成就，永遠銘刻在歷史的篇章中。

這使得Geoffrey Hinton在一個臨時召開的新聞發布會上僅僅說了不到一分鐘，就猛烈抨擊了OpenAI的CEO，更顯得非同尋常。

這位顯然謙虛的計算機科學家在僅僅睡了兩個小時後表示，他根本不知道自己被提名為該獎項。在感謝了兩位多年的主要合作者——Terry Sejnowski和已故的David Rumelhart，並稱他們為“導師”之後，Hinton承認了多倫多大學的學生們在實現他一生工作中的重要角色。

“他們已經做了很多了不起的事情，”他在週二說。“我特別驕傲的是，我的一個學生解僱了Sam Altman。我想我最好就此打住。”

接近董事會政變一周年
Hinton所指的是Ilya Sutskever。這位前OpenAI的首席科學家與Helen Toner和另外兩人一起加入了控制該非營利組織的董事會，於去年十一月在一場壯觀的政變中解僱了他們的CEO。Sutskever很快對他在將OpenAI推入危機中的角色感到遺憾，Altman在幾天內就被重新任命。

Hinton和Sutskever在2012年與Alex Krizhevsky合作創建了一個能夠以前所未有的確定性識別圖像中物體的算法，被稱為“AlexNet”，這常被視為AI的“大爆炸”。

被稱為人工智能教父之一的Hinton讚揚了他的同行Yoshua Bengio和Yann LeCun的工作，並多次自嘲，包括承認他在年輕時放棄了物理學的研究——這是他被諾貝爾委員會認可的領域，因為他無法應對數學。

Hinton獲獎的消息傳來之際，距離Altman短暫但最終未成功的被解僱事件一周年，以及ChatGPT在2022年11月底推出的兩周年僅有數週之遙。

OpenAI的生成式AI聊天機器人引發了一波對該技術的興趣，因為廣大公眾第一次意識到機器可能在這一代人中超越人類的智力。

“相當多的優秀研究人員認為，在未來20年內，AI可能會比我們更智能，我們需要認真思考那時會發生什麼，”Hinton在週二說。

對人工智能安全性的擔憂
Altman在AI社區中是一個有爭議的人物。他被前OpenAI董事會成員Helen Toner稱為騙子，並且根據現在已經離職的團隊領導者的說法，剝奪了他的AI安全團隊的資源。

Altman目前正試圖擺脫OpenAI的非營利地位，急於將其技術商業化，這在組織內部造成了深刻的分歧。這引發了該公司專注於使人工通用智能與人類作為地球上依然主導物種的利益保持一致的研究人員的出走。

在新聞發布會一開始被問及他對Altman的貶低言論時，Hinton解釋了他的理由。

“隨著時間的推移，事實證明Sam Altman對安全性的關注要遠遠少於對利潤的關注，”他說，“我認為這是遺憾的。”

《財富》已經向OpenAI發出評論請求。

Hinton呼籲緊急研究AI安全
像76歲的Hinton這樣的權威人物擔心，在當前階段將利潤置於倫理之上是本質上的危險。

目前，科學家們已經很難預測當前最先進的AI模型，擁有數萬億參數，實際上是如何得出其結果的。實際上，它們正越來越成為黑箱，一旦這種情況發生，就越來越難以確保人類保持優勢。

“當我們得到比自己更聰明的事物時，沒有人真正知道我們是否能夠控制它們，”Hinton說，他承諾將自己的努力致力於倡導AI安全，而不是領導前沿研究。

這種未知的風險是為什麼加州州議會提出了一項AI安全法案，這是美國首個此類法案。具有影響力的矽谷投資者如Marc Andreessen極力反對該法案，然而，該法案最終在上個月被州長Gavin Newsom否決。

在被問及失控的AI可能帶來的災難性風險時，Hinton承認沒有確定性。

“我們目前不知道如何避免所有這些風險，”他說，“這就是為什麼我們迫切需要更多的研究。”

—

評論

Geoffrey Hinton的言論揭示了當前AI發展中的一個核心矛盾：技術的快速進步與對其安全性和倫理問題的擔憂之間的衝突。Hinton對於Altman的批評反映了AI領域內部對於如何平衡創新和風險管理的分歧。這一點在香港也應該引起關注，因為我們同樣面臨著技術發展和社會責任之間的平衡問題。

AI技術的潛力巨大，但如果忽視其可能帶來的風險，後果可能是災難性的。Hinton呼籲增加對AI安全的研究，這是一個非常重要的倡議，值得我們在本地科技社區中推廣。與此同時，政策制定者和企業領袖需要共同努力，確保技術發展不僅僅是為了商業利益，更是為了整個社會的長遠福祉。

在這個過程中，我們需要更多像Hinton這樣的聲音，提醒我們不要被短期利益蒙蔽，忽視了技術帶來的潛在風險。這不僅僅是AI領域的問題，也是所有新興技術所面臨的共同挑戰。香港作為一個國際科技中心，有責任在這方面走在前列，為全球科技發展樹立一個正確的榜樣。

以上文章由特價GPT API KEY所翻譯