前Google CEO警告：AI進化過快？必要時要「拔插頭」

前谷歌CEO警告：若人工智能開始自我進化 我們需考慮「拔掉插頭」

在一次與ABC的喬治·史蒂芬諾普洛斯（George Stephanopoulos）的訪談中，前谷歌首席執行官埃里克·施密特（Eric Schmidt）表示，人類可能需要在為時已晚之前「拔掉」人工智能的插頭。他強調，隨著人工智能技術的快速創新，可能在我們意識到其潛在危險之前就已經超越我們的掌控。

施密特提到：「我從事這行已經50年了，從未見過如此規模的創新。這確實是一個值得驚嘆的人類成就。」

施密特與前微軟高管格雷格·門迪（Greg Mundie）及已故的亨利·基辛格（Henry Kissinger）在新書中警告，儘管人工智能可能為人類帶來快速發現新藥物等驚人好處，但這項技術也將變得更加自給自足。「我們很快將能夠讓電腦自主運行，決定它們想要做什麼，」他說。「當系統能夠自我改進時，我們需要認真考慮是否要拔掉它的插頭。」

關於「殺開關」的討論

在訪談中，史蒂芬諾普洛斯詢問，任何看過科幻電影的人都能想像到，超智能的人工智能是否能夠阻止我們的拔插行動。他問道：「那種系統難道不會有能力抵消我們的拔插努力嗎？」

施密特的回答是：「理論上，我們最好有一個人掌握這個插頭。」

那麼，誰應該負責拔掉插頭呢？施密特指出：「未來的智能不應該只由像我這樣的人來決定。技術專家不應該是唯一做出這些決策的人。我們需要就如何設置合適的護欄來保護人類尊嚴達成共識，這非常重要。」

作為一名人工智能投資者，施密特提出了一個有趣的觀點，認為人工智能本身或許能夠擔任技術的監視者。「人類無法監察人工智能，」他說，「但人工智能系統應該能夠監察人工智能。」

這樣的觀點對於一位曾經合著兩本專著討論技術所帶來的危險的人來說，似乎有些矛盾，但或許這正是矽谷對他的影響。

評論

施密特的警告無疑引發了對人工智能未來的深刻思考。隨著技術的快速發展，我們不禁要問：何時才是「拔掉插頭」的最佳時機？施密特提到的「護欄」不僅僅是一個技術問題，更涉及倫理和社會責任的重大挑戰。未來，人工智能將如何影響我們的生活？我們是否有足夠的準備來應對這些變化？這些問題需要更廣泛的社會參與和討論，不能僅僅依賴少數技術專家來決定。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。