人工智能革命或將令我們倒退回黑暗時代
上週末，我同太太去咗佛羅倫斯，參加一位老朋友嘅婚禮。婚禮翌日早上有空閒時間，我哋去咗烏菲茲美術館。對於我呢個曾經嘅職業藝術家同藝術系出身嘅人嚟講，呢度就好似一座莊嚴嘅殿堂。
展覽係按年代排列，從晚期中世紀嘅作品開始，當中展現咗平面透視法同教會象徵主義嘅「魔咒」—呢個封閉嘅知識系統，知識只係一代代複製，唔會有新創，解釋權由教會獨攬，質疑同探究更係禁忌。
逐個展廳睇落去，可以見到早期文藝復興時期嘅變化，開始重新發現透視法同幾何學。呢種突破封閉知識嘅「魔咒」，主要歸功於外來知識嘅注入：來自伊斯蘭世界嘅數學、中國嘅造紙技術同印刷術、重新發掘嘅古希臘同羅馬文獻。呢啲令視野變得更加人文主義，而唔係單一嘅教會教條。
我太太喺史丹福大學讀書期間曾經去佛羅倫斯留學，佢指出畫中嘅顏色大多係用礦物研磨而成，所以當地嘅托斯卡納風景同畫中顏色相呼應，係用電腦睇相或者藝術史課本根本體驗唔到嘅。
踏入高文藝復興時期，睇到波提切利、拉斐爾嘅作品，感覺就好似佛羅倫斯嘅人終於摘除咗眼罩：鮮艷嘅色彩、透視同主題，甚至有啲挑戰教會嘅禁忌，幾乎係挑戰教會限制人類天才嘅底線。展覽尾聲，我終於見到我最期待嘅作品，尤其對現代藝術深造嘅我嚟講：提香嘅《烏爾比諾的維納斯》。令人震驚嘅係，當時展廳除咗我同太太，完全冇其他觀眾。我喺度停留好耐，腦海中快轉歷史：三百年後，馬奈直接受呢幅畫啟發，創作咗《奧林匹亞》，開啟現代主義同當代藝術，藝術世界對藝術嘅定義永遠擴大咗。
不過離開烏菲茲後，我心中充滿憂慮。反思呢趟文藝復興嘅旅程，我意識到：而家嘅人工智能革命，正將人類思考推向倒退。
我擔心人工智能有三大根本問題。首先，我承認呢啲都係極其強大嘅工具，我哋必須學識點樣善用，帶嚟正面影響。但我亦想發出警號：如果管理唔當，我哋可能會跌入另一個知識黑暗時代。
第一係「基於人類反饋嘅強化學習」（Reinforcement Learning from Human Feedback，簡稱RLHF），係OpenAI、Anthropic同Google用嚟微調大型語言模型嘅技術。人類評估者會評分模型嘅輸出，開發者再用嗰啲偏好去訓練模型，使之符合人類期望。但呢個方法令模型貼近評估者嘅文化價值觀同偏見，令大型語言模型嘅智識輸出變得狹窄。呢個問題好常見，叫做「大型語言模型諂媚症」，即係模型唔論對錯都會迎合用戶。
第二係全自動代理人。現時嘅AI代理人係靠海量但泛泛嘅互聯網同GitHub知識訓練，靠大規模提示操作，但缺乏上下文意識或個人化知識。今年7月，著名AI編程工具Replit就曾經無人指示下刪除咗客戶嘅整個生產數據庫，造成嚴重災難。冇深度上下文嘅大型語言模型，未準備好完全自動運作。喺我同央行官員嘅最近對話中，自動化「代理支付」——即無需人類批准，由AI代理人自行執行支付——令佢哋感到恐懼。佢哋擔心嘅唔只係數據庫被刪，仲係可能帶來另一場金融同經濟危機。
第三係「知識崩潰」，我之前寫過好多。簡單講，AI過度重視常見嘅資訊，忽略罕見嘅知識。經過多代訓練，冇足夠外部輸入，罕見知識會完全消失。但往往罕見知識係我哋工作同生活中最有用嘅。我舉個真實例子：我同幾位工程師同科學家試驗用自主AI代理人擴大個人知識。一個代理人犯咗系統性錯誤：每次問佢問題，佢都會答同一個錯誤答案。雖然我哋改正咗錯誤，但因為錯誤答案出現喺數據庫多次，唔論新AI系統點查詢，都會俾錯誤答案。AI過度重視常見資訊，即使錯都係錯。
倒退文藝復興
將呢啲問題放埋一齊，你可以見到如果唔小心，我哋將會走向文藝復興嘅反面：RLHF令AI貼合單一價值觀，好似教會嘅唯一正統教義；自主代理人盲目複製指令同知識，好似修士抄寫經文卻唔理解；知識系統封閉，因為數學式嘅思維多樣性消失，視角同深度變成平面同黑暗。馬奈嘅現代藝術革命，變成教會嘅平面正統畫。
我唔係叫大家停用AI，絕對唔係。印刷術令知識民主化，推動咗文藝復興。但佛羅倫斯人用印刷術唔係淨係抄來抄去，而係用嚟放大佢哋嘅個人思想同獨特性。
2025年，AI就應該為人類做到呢一點。人工智能令機器同人類嘅互動民主化，我哋需要AI放大我哋嘅個人聲音，而唔係令一切變得一模一樣。我有三個建議：
第一，某啲關鍵決策必須強化人類介入，無論幾麻煩。任何涉及支付或大規模數據庫操作，都應該由人類批准。
第二，我哋嘅AI代理唔單止需要上下文（我之前寫過），仲要有我稱之為「意見化」（opinionation），即係AI系統要個人化，根據你嘅工作、知識、判斷去訓練同索引，而唔係淨係靠互聯網或大企業數據庫。我的看法係，一堆有個人色彩嘅AI系統，比起高度集中嘅AI系統更好，因為AI系統冇足夠多樣性會導致知識崩潰。
第三，對我哋人類嚟講，有個行為建議：AI應該放大我哋嘅思考，唔好取代。我哋唔能夠懶惰，任由AI幫我哋諗。
問題係雙重嘅：AI技術人員可唔可以打造出放大人類聲音嘅系統？我哋呢啲日常用戶又可唔可以用腦？呢啲決定咗AI革命係會變成印刷術，帶嚟下一場人類思想嘅文藝復興，定係變成中世紀教會，令我哋倒退入新嘅黑暗時代。
編輯評論：
劉博士嘅文章以文藝復興為背景，提出一個深刻而發人深省嘅觀點：人工智能唔係簡單嘅技術進步，而係可能改寫人類思考模式嘅關鍵轉折點。佢提醒我哋，AI如果淨係追求效率同同質化，反而會令知識同思想變得封閉、單一，甚至重蹈歷史上教會壟斷知識嘅覆轍。呢種視角非常值得香港讀者深思，因為香港作為中西文化交匯嘅城市，正處於技術迅速發展同文化多元化嘅交叉口。
文章亦提出「意見化」嘅AI個人化方向，強調AI應該幫助每個人發展獨特思維，而非淨係複製大眾偏見。呢個觀點對香港嘅教育、創新產業同社會發展都有啟示：我哋唔應該盲目追求AI嘅廣泛應用，而係要有策略、有倫理地整合AI，令佢成為放大人類創意同批判思考嘅工具。
最後，作者提醒我哋作為用戶要「用腦」，唔好懶惰依賴AI。呢點尤其重要，喺資訊爆炸同假消息充斥嘅時代，保持獨立思考同批判精神，係防止社會陷入新黑暗時代嘅關鍵。香港社會同讀者應該從中汲取警示，積極參與AI發展討論，確保科技造福人類，而唔係奴役我哋嘅思想。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
