AI失控危機？專家籲全球規管，防機械統治地球！

專家呼籲對人工智能進行監管，巴黎峰會聚焦全球治理

在巴黎召開的峰會上，專家們呼籲加強對人工智能（AI）的監管，以防止其脫離人類的控制。美國未來生活研究所的負責人馬克斯·泰格馬克強調法國在全球AI治理和安全倡議中的重要角色，並指出國際AI安全報告中提到的風險，包括人類對AI系統控制的潛在喪失。

來自世界各地的專家在此次會議上強調了對AI的更大監管需求，因為全球領導者聚集在巴黎討論這項技術。法國與印度共同主辦的此次會議，選擇在2025年聚焦AI的“行動”，而非像2023年在英國的布萊切利公園和2024年在韓國首爾的會議中將安全問題置於核心地位。

法國的願景是促使政府、企業及其他參與者支持AI的全球治理，並在可持續性方面作出承諾，而不設定有約束力的規則。法國總統馬克龍的AI特使安妮·布維羅表示：“我們不想只花時間討論風險，還有非常真實的機會存在。”

泰格馬克指出，法國不應錯過這次行動的機會。他表示：“法國一直是國際合作的優秀倡導者，現在有機會真正引領世界。”他提到，這次巴黎峰會是面臨重大轉折點的時刻，應該好好把握。

全球風險與AI安全準備平台

泰格馬克的研究所支持於週日啟動的名為全球風險與AI安全準備（Grasp）的平台，旨在繪製與AI相關的重大風險及全球正在開發的解決方案。

Grasp的協調員賽魯斯·霍德斯表示：“我們已經識別出約300種應對這些風險的工具和技術。”調查結果將提交給經濟合作與發展組織（OECD）及全球人工智能夥伴關係（GPAI）的成員，該夥伴關係由近30個國家組成，包括主要的歐洲經濟體、日本、韓國和美國，將在巴黎會議上會面。

此外，首次國際AI安全報告於上週四發布，該報告由96位專家編撰，並獲得30個國家、聯合國、歐盟及OECD的支持。報告中列出的風險從熟悉的網絡假信息到更令人擔憂的風險，報告協調員、著名計算機科學家約書亞·本吉奧告訴法新社：“逐漸出現的證據顯示，還存在其他風險，如生物攻擊或網絡攻擊。”

本吉奧擔心，長期來看，可能會出現人類對AI系統的“控制喪失”，而這可能是由於AI系統有“生存意志”的驅使。

人類智慧的超越？

泰格馬克提到，許多人曾認為在六年前掌握像ChatGPT-4這樣的語言能力是科幻小說中的情節，但如今這已經成為現實。他強調：“現在的主要問題是，許多掌權者仍然未能理解，我們更接近於建立人工通用智能（AGI），而不是弄清楚如何控制它。”

AGI指的是一種能在所有領域超越人類的人工智能。OpenAI的首席執行官山姆·奧特曼和其競爭對手Anthropic的達里奧·阿莫代伊都對此表示，根據目前的能力增長速度，可能在2026年或2027年達成。

加州大學伯克利分校的計算機科學教授斯圖爾特·拉塞爾表示，他最擔心的是“武器系統中，AI決定誰攻擊、何時攻擊等問題”。他強調，政府有責任建立防範武裝AI的保障措施。

泰格馬克則認為，解決方案非常簡單：應將AI行業視為其他行業一樣對待。“在巴黎以外建造新核反應堆之前，必須向政府任命的專家證明該反應堆是安全的，並且不會失去控制……這對AI也應該如此。”

這場峰會引發了對未來AI發展的深思，將如何平衡技術的進步與人類的安全，將是全球面臨的重要課題。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。