AGI威脅逼近：以色列嘅防禦策略，刻不容緩！

zero comment

我們不能忽視有關AGI的警告信號

讀完以色列國防軍（IDF）對2023年10月7日可怕攻擊未能預測和防止的評估結果後，我不禁思考我們目前接收到的有關未來潛在威脅的情報信號。當中有一個信號格外突出：科技界和政府之間出現了罕見的共識，認為在未來兩至三年內，人工通用智能（AGI）或一組實質上等同的算法將會改變一切。

AGI與我們通過像ChatGPT這樣的界面所熟悉的生成式人工智能（GenAI）截然不同：雖然GenAI在狹窄的類別中能做出驚人的事情，但AGI則能以超越任何人類的速度和優秀程度，完成任何可以數字化的認知任務。這對於長期解決人類面臨的問題具有巨大潛力，但美國前白宮人工智能特別顧問本·布坎南向埃茲拉·克萊因解釋了美國和中國為何如此擔心對方率先達成AGI的短期後果：這涉及國家安全。

簡而言之，AGI分析數據和編寫代碼的能力可能顛覆人類撰寫的數字系統，從而影響我們的數字基礎設施的安全性。因此，首個開發AGI的一方將在競爭中獲得巨大的優勢。這使得獲勝者有動機首先利用AGI來削弱對手的進步能力，將對方的數字系統的命運掌握在自己手中。最有風險的，是管理我們關鍵基礎設施的舊系統：醫療系統、法律系統、金融交易系統，這些系統的崩潰將帶來明顯的危險。

雖然首個開發AGI的國家可能會是善意的，並希望帶來一個豐盈和穩定的新時代，但我們無法承受未做好準備的風險。即使我們能夠防範傳統的黑客攻擊——滲透和操縱數字控制系統——AGI將成為有史以來最強大的說服工具。想像一個自主系統設立自己的代理網絡，能夠完全復制任何人的數字簽名，深度偽造任何人的數字存在，能夠在前所未有的規模上同時操縱通訊。這種社會工程的規模是前所未見的，所有這些都是為了那些控制它的人的目標。

以色列無法贏得AGI的競賽。我們沒有計算能力，並且在未來兩到三年內無法建立起來，與此同時發展出將其帶入現實的算法。即使我們能夠購買所需的所有芯片，風險依然存在，其他國家如中國（在戰爭中表現出對以色列的敵意）或沙特阿拉伯（投資1000億美元以爭取領先地位）可能會率先達成AGI。這意味著控制這些模型的國家很可能對我們的利益漠不關心或持敵對立場。

即便美國的數字帝國成功贏得這場競賽，顯然它們釋放的模型要麼是非猶太主義的，要麼是反猶太主義的。艾德·雷蒂格在測試生成式人工智能模型Perplexity時證明，訓練於充斥著反猶太主義材料的互聯網的大型語言模型會在其輸出中採納這種偏見。儘管生成式人工智能（GenAI）和AGI之間存在顯著差異，但事實是AGI將基於可用的材料進行訓練，而這些材料對我們並不有利。

因此，我們需要立即行動，以便在需要時做好自我防衛的準備。那麼，我們該如何行動呢？我發現將AGI的引入與疫情防控模型相結合來思考這個問題是有幫助的，因為它可能帶來的擾動和破壞。從AGI引入的那一刻起，直到我們能夠恢復到合理的日常生活狀態，我們如何能夠最小化對自己、親人和社區的傷害？

如果COVID-19給我們帶來了什麼教訓，那就是我們可以立即採取三項措施：隔離、接種疫苗和（重新）逐步恢復正常生活。

隔離：我們需要確保我們的關鍵基礎設施擁有與外部系統隔離的備份，並且如果可能的話，擁有一種類比模式，以確保在AGI釋放後能夠進行安全、無滲透的操作。在我們知道我們的網絡安全能夠抵擋AGI發動的攻擊之前，我們無法冒險讓基礎設施處於脆弱狀態。我們需要降低風險曲線。由於時間緊迫，我們應該採取從下而上的馬斯洛金字塔方法，正如阿哈龍·霍維茨所說：從馬斯洛金字塔的基礎開始，先在那裡做好安全保障，然後再向上推進。

接種疫苗：雖然以色列的世界級網絡安全產業已經在開發對抗AGI驅動攻擊的保護措施，但無法想像的情況往往難以預測。因此，隔離對於幫助我們開發出抵抗AGI的新型基礎設施至關重要。正如我們在疫情中所學到的，擁有疫苗並無助於防範疾病，如果我們無法有效分發疫苗。我們可以現在開始計劃如何組織我們的努力，將AGI彈性工具推廣到我們日常生活所依賴的基礎數字系統中。

引入：儘管我們可能永遠無法完全免受數字操控的威脅，但一旦我們可以信任我們的系統能夠安全失效，並相信我們的數字免疫系統能夠在識別威脅後保護我們，我們就可以開始將AGI引入我們的生活。以色列的Mosaic組織和布魯塞爾的全球治理研究所正在探索如何在AGI時代調整我們的勞動力和民主。AGI將以其他方式影響我們的生活和社會，這些都需要我們深入思考並進行社會化。我們今天準備的場景越多，進行的全社會模擬演習越多，我們就能越快適應AGI所帶來的新常態。

這些措施，加上創建第二次打擊能力以威脅外國對手的數字基礎設施以威懾攻擊（或如我在2013年小說《不作惡》中所描述的那樣中和攻擊路徑），是以色列為了保護公民免受敵對AGI威脅所能採取的最低行動。根據預測，距離AGI的到來還有兩年，正如拉比塔爾芬所教導的，“時不我待，工作繁重。”我們需要迅速行動，最好是與其他面臨類似威脅的小國家合作，這些國家能夠幫助我們實現目標：南韓、澳大利亞、台灣和新加坡。

作者介紹
阿里爾·比瑞是一位戰略家和機構建設者，致力於為以色列、猶太人民和人類建設更美好的未來。他的地緣政治文章——深入探討單篇專欄中涉及的主題——可以在他的Substack上找到。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。