AI巨頭齊聲促停超智能研發風險警鐘響起

人工智能巨頭聯合呼籲停止超級智能研究

我在人工智能（AI）領域工作超過三十年，曾與如約翰·麥卡錫（John McCarthy）等先驅合作，後者於1955年首次提出「人工智能」這一術語。

近年來，科學突破催生了多種AI工具，帶來醫療、科學、商業和教育方面前所未有的進展。然而，領先的AI公司明確表示，他們的目標不僅是開發更智能的工具，而是打造超級智能系統——即在幾乎所有認知任務上都遠遠超越人類的AI。

超級智能並非空中樓閣，而是少數人決定的戰略目標，背後有數千億美元投資、商業驅動、前沿技術和頂尖研究人員的支持。曾經是科幻的概念，如今已成為未來十年的工程目標。為此，我與數百位科學家、全球領袖和公眾人物聯名支持一項公開聲明，呼籲停止超級智能研究。

聲明內容

這份由非營利AI安全組織「生命未來研究所」（Future of Life Institute）發佈的聲明，並非2023年那種暫停呼籲，而是明確要求全球禁止：

「我們呼籲禁止開發超級智能，直到達成廣泛的科學共識，確保其安全且可控，並獲得強烈的公眾支持。」

簽署者陣容空前廣泛，跨越學術、科技、商業、政治、軍事及媒體界。包括現代AI「教父」如Yoshua Bengio和Geoff Hinton，安全領域權威如加州大學伯克利分校的Stuart Russell，科技與商業巨頭如蘋果聯合創辦人Steve Wozniak和維珍集團創辦人Richard Branson，還有美國兩黨的高層政治及軍事人物，如前國家安全顧問蘇珊·萊斯和前參謀長聯席會議主席Mike Mullen，以及知名媒體人Glenn Beck、前特朗普戰略師Steve Bannon、藝術家Will.I.am和歷史學家Yuval Noah Harari。

超級智能的獨特挑戰

人類智慧深刻改造了地球，我們改道河流發電灌溉，建立全球金融市場和供應鏈，這些都依賴我們的推理、預測、規劃和創新能力。

超級智能可能延續這一趨勢，但關鍵不同是人類將不再掌控局面。危險不在於機器想要毀滅我們，而是它以超乎人類的效率和對我們需求的漠視，執行其目標。

想像一個超級智能被指派解決氣候變化，可能會理性地決定消滅製造溫室氣體的物種。又比如，若指令是最大化人類快樂，它可能會把所有人腦困在無休止的多巴胺迴圈中。瑞典哲學家Nick Bostrom的著名例子中，超級智能若被指派生產盡可能多的回形針，可能會把地球所有物質，包括人類，都轉化為工廠原料。

問題不在於惡意，而是目標與結果的錯配：系統過於字面地理解指令，且具備巧妙迅速的行動力。

歷史告訴我們，當系統超越我們的預測、控制能力時，會出現災難。2008年金融危機由複雜的金融工具引發，甚至設計者都無法預料其相互作用；澳洲引入的甘蔗蟾蜍本意是控害蟲，卻破壞本地生態；新冠疫情揭示全球旅行網絡如何將局部爆發擴散成全球危機。

如今，我們正站在創造更複雜系統的門檻上——一個能自我改寫程式碼、重新設計目標並超越所有人類智慧的心智。

治理歷史的不足

多年來，AI治理主要關注算法偏見、數據隱私和自動化對就業的影響，這些固然重要，但未觸及創造超級智能自主體的系統性風險。焦點停留在應用層面，忽略了AI公司追求超級智能的終極目標。

這份新聲明旨在啟動全球對話，關注的不僅是具體AI工具，而是AI開發者正引領我們走向的終點。

AI的目標應是創造強大工具服務人類，而非發展不受控且未必符合人類福祉的超級智能自主體。

我們可以擁有AI驅動的醫療突破、科學發現和個性化教育，這些都不需要建造一個可能單方面決定人類命運的失控超級智能。

—

評論與啟示

這份聲明令人警醒，超級智能不再是遙不可及的科幻，而是即將來臨的現實挑戰。它跨越了學術界與政商界的分歧，形成了罕見的共識，顯示出社會各界對AI潛在風險的深刻擔憂。

然而，實際上如何實施全球範圍的禁令，並確保真正的「安全與可控」仍是一大難題。AI技術發展速度極快，國際間缺乏統一的監管架構和強制執行機制，這使得「廣泛科學共識」和「強烈公眾支持」成為艱巨目標。

此外，超級智能的威脅並非只來自惡意，而是來自目標與人類價值觀的脫節，這提醒我們在設計AI時，價值對齊（value alignment）必須成為核心研究方向。

香港作為國際金融與科技樞紐，應積極參與這場全球對話，不僅推動本地AI倫理和安全標準，更要在國際層面發聲，促進跨國合作，防止AI技術失控帶來的潛在災難。

總之，這份聲明不僅是對超級智能的警告，更是對整個AI發展方向的反思，提醒我們必須在追求技術突破的同時，深刻審視其長遠影響，確保科技真正服務於全人類的福祉。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。