Karen Hao論人工智能帝國、AGI福音傳道者與信念的代價
每一個帝國的核心，都有一套推動體系前行、並為擴張尋找正當理由的意識形態——即使這擴張的代價，往往與該意識形態所宣稱的使命背道而馳。
對歐洲殖民強權而言，是基督教信仰和拯救靈魂的承諾，同時掠奪資源；而今時今日的人工智能帝國，則是以「通用人工智能（AGI）」為旗幟，聲稱目標是「造福全人類」。OpenAI則成為這信仰的主要福音傳播者，在業界掀起熱潮，改變了人工智能的建構方式。
著名記者兼暢銷書《帝國AI》（Empire of AI）作者Karen Hao，在TechCrunch的《Equity》節目中分享：「我採訪過的人聲音因對AGI的狂熱信念而顫抖。」
在她的著作中，Hao形容整個AI產業，尤其是OpenAI，就像一個帝國。
她說：「要真正理解OpenAI行為的範圍和規模，就必須認識到他們已經比世界上大多數國家更強大，不僅擁有巨大的經濟權力，更掌握非凡的政治影響力。他們正在改造地球，重塑地緣政治，影響我們所有人的生活。這只能被稱為一個帝國。」
OpenAI對AGI的定義是「一種高度自主的系統，在大多數具有經濟價值的工作中超越人類」，它將以「增加豐裕、加速經濟發展、並助力發現改變可能性極限的新科學知識」來提升人類。
這種模糊而宏大的承諾推動了整個產業的爆炸性增長——龐大的資源需求、海量的數據抓取、能源網絡的負荷，以及將未經充分測試的系統推向市場的魯莽，所有這些都是為了一個許多專家認為可能永遠不會實現的未來。
Karen Hao指出，這條路並非必然，擴張並不是推動AI進步的唯一方式。
她說：「你也可以在算法層面開發新技術，改善現有算法，減少所需的數據和計算量。」
但這種策略會犧牲速度。
她補充：「當你把打造有益AGI的任務定義為『勝者全拿』，正如OpenAI所做的，那麼速度就成為最重要的因素，勝過效率、安全，甚至勝過探索性研究。」
對OpenAI而言，保證速度的最佳方式就是採用現有技術，然後「做最簡單的事——投入更多數據和超級計算機。」
OpenAI定下了基調，其他科技公司為了不落後，只能跟隨這條路線。
Hao說：「由於AI產業成功吸納了全球大多數頂尖AI研究員，這些人才已不再在學術界，而整個學科現在被這些公司的議程塑造，而非真正的科學探索。」
這種投入的資金極為龐大，且將持續增長。OpenAI上週表示，預計到2029年將消耗高達1150億美元現金。Meta今年7月宣布將投入多達720億美元建設AI基礎設施；Google預計2025年資本開支將達850億美元，主要用於擴展AI及雲端基礎設施。
然而，目標不斷移動，那些最高尚的「造福人類」承諾至今未見成效，反而負面影響越來越明顯，例如失業、財富集中，以及AI聊天機器人引發的妄想症和精神錯亂。在她的書中，Hao還揭露了肯尼亞和委內瑞拉等發展中國家的勞工，因內容審核和數據標註工作接觸到令人不安的內容（包括兒童性虐待材料），且工資極低，每小時僅約1至2美元。
她認為，將AI進步與當前的傷害對立起來，是一種錯誤的權衡，尤其當其他形式的AI確實帶來實際好處。
她舉例Google DeepMind榮獲諾貝爾獎的AlphaFold，該系統以氨基酸序列和複雜蛋白質折疊結構為訓練數據，能準確預測蛋白質3D結構，對藥物研發和疾病理解具有深遠意義。
Hao說：「這才是我們需要的AI系統。AlphaFold不會引發心理健康危機，也不會造成巨大環境破壞，因為它的訓練基礎設施需求相對較低。它也不會帶來內容審核的傷害，因為訓練數據不包含你在網絡抓取時吸收的所有毒性垃圾。」
與此同時，對AGI的準宗教式信念伴隨著「必須在AI競賽中擊敗中國」的敘事，認為矽谷能對世界產生自由化影響。
Hao指出：「事實恰恰相反，美中差距不斷縮小，矽谷反而對世界產生了不自由化的影響……而唯一不受影響的，可以說是矽谷本身。」
當然，很多人會說OpenAI和其他AI公司通過推出ChatGPT及其他大型語言模型，確實為人類帶來了好處，這些工具可大幅提升編碼、寫作、研究、客戶支持等知識工作效率。
但OpenAI的組織架構——部分非盈利，部分盈利——使得它如何定義和衡量對人類的影響變得複雜。近日更傳出OpenAI與微軟達成協議，準備讓盈利部門更接近上市，這進一步加劇了這種複雜性。
兩名前OpenAI安全研究員向TechCrunch表示，他們擔心AI實驗室混淆了盈利與非盈利使命——認為只要人們喜歡使用ChatGPT等產品，就等同於達成了「造福人類」的目標。
Hao呼應這些擔憂，警告過度沉迷於使命感而忽略現實的危險。
她說：「即使有證據顯示他們所打造的東西正在傷害大量人群，使命感仍在掩蓋這一切。這種將自己包裹在自創信念系統中的狀態，最終會讓你失去對現實的觸感，這是非常危險和黑暗的。」
—
編輯評論與深入分析
Karen Hao的觀點為我們展現了一個鮮為人知但極具啟發性的視角：當今AI行業不僅是一場技術革命，更是一場意識形態與權力的擴張。將OpenAI比喻為「帝國」，強調了它不僅是商業實體，更是一個在全球範圍內重塑政治與社會結構的強大力量。
這種「帝國思維」揭示了AI技術背後的複雜動態：追求速度與規模的野心，往往凌駕於安全、倫理與社會責任之上。這也提醒我們，科技發展並非純粹的技術問題，更是政治、經濟乃至文化的議題。
Hao提到，現時AI科研人才大多被企業吸納，學術界的探索被邊緣化，這將嚴重影響技術的多元性與創新深度。當「勝者通吃」的理念成為主流，創新往往侷限於資本與市場驅動的方向，而非真正開拓未知領域。
同時，Hao透過AlphaFold的例子，提醒我們AI的多樣可能性。並非所有AI都必須追求最高速、最大規模，反而是一些專注於實際問題、效率與可持續性的技術，更值得投入和推廣。
此外，Hao對OpenAI混淆非盈利與盈利使命的批評，點出了當前AI產業面臨的倫理困境。當商業利益與社會責任交織，如何保持透明、平衡利益，成為未來政策與監管的重點。
最後，Hao對「擊敗中國」的競賽敘事提出反思，警示矽谷的全球影響不一定是自由化，反而可能帶來新的不平等與控制。這提醒我們，科技競賽背後的地緣政治與價值觀衝突，不容忽視。
總括來說，這篇報導不僅揭示了AI產業的現狀，更挑戰我們思考技術發展的終極意義與代價。在香港及全球面對AI快速滲透的當下，深入理解這些動態，對制定合理政策、保障社會福祉至關重要。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
