生成式人工智能唔係「文字計數機」：五大原因話你知呢個諗法有誤導性
去年我參加咗一個關於生成式人工智能（Generative AI）喺教育界應用嘅座談會。其中一個講者就講咗一句令我印象深刻嘅說話：「有咩大不了？生成式AI就好似計數機咁，淨係係一個工具啫。」
呢個比喻而家越嚟越流行。OpenAI嘅行政總裁Sam Altman都曾經將ChatGPT形容為「文字嘅計數機」，仲將大家對新科技嘅反應同計數機出現時嘅反應作比較。
> 有人話：「我哋要禁止呢啲嘢，因為學生會用嚟抄功課。以後唔駛自己計sin函數，咁數學教育咪完咗？」
但事實係，生成式AI根本唔係計數機。將佢哋當成計數機，反而掩蓋咗呢啲系統嘅真實本質、功能同埋佢哋服務嘅對象。呢個簡單嘅比喻過於簡化咗一項備受爭議嘅科技，忽視咗同過往技術嘅五大根本分別。
1. 計數機唔會「幻覺」或者說服你
計數機係根據明確嘅輸入去計算函數。例如你輸入888 ÷ 8，就會得到唯一正確答案111。
呢啲輸出結果係固定同不可更改嘅。計數機唔會推斷、估計、產生「幻覺」或者試圖說服你。
佢哋唔會加添假嘢或者唔想要嘅元素入答案。佢哋唔會捏造法律案例，或者叫人「請你死」（Google AI聊天機械人曾經有過威脅人命嘅說話）。
2. 計數機唔會引發根本嘅倫理問題
計數機唔會帶嚟根本嘅倫理爭議。
例如開發ChatGPT嘅過程中，有肯亞嘅工人要花幾蚊一小時，篩查極度創傷性嘅內容。計數機嘅開發就冇呢啲問題。
委內瑞拉金融危機後，有AI數據標註公司利用剝削性嘅聘用模式招攬廉價勞工，但計數機嘅產業冇呢啲問題。
計數機唔需要新建大型發電廠，亦唔會同人類爭水資源，唔似AI數據中心喺世界最乾旱地區嘅水資源爭奪。
計數機唔需要新嘅基建，佢哋嘅產業冇帶嚟如智利阿塔卡馬地區咁大規模嘅銅同鋰礦開採。
3. 計數機唔會削弱自主性
計數機唔會變成「人生嘅自動完成系統」。佢哋唔會幫你決定食咩、去邊度旅行、幾時親吻對象。
計數機唔會挑戰我哋嘅批判性思考能力。但生成式AI已證明會削弱獨立推理，令用家更依賴機器思考（即「認知卸載」）。長遠睇，依賴呢啲系統可能將日常決策權交畀一啲不透明嘅企業系統。
4. 計數機冇社會同語言偏見
計數機唔會複製人類語言同文化中嘅權力階級。但生成式AI係基於反映幾百年不平等權力關係嘅數據訓練，佢哋嘅輸出會反映呢啲不平等。
語言模型會繼承同加強主流語言嘅威望，邊緣化或者抹殺較少被重視嘅語言形式。
例如ChatGPT等工具主要處理主流英語，但經常會誤解、錯誤標籤或者忽略其他世界英語變體。
雖然有啲項目致力改善少數族裔語言嘅技術應用，但生成式AI對主流英語嘅偏好依然明顯。
5. 計數機唔係「萬能機器」
計數機只處理狹窄領域嘅數學計算，但語言模型可以涉及感知、認知、情感同互動等多方面。
語言模型可以係「代理人」、「伴侶」、「意見領袖」、「治療師」甚至「男朋友」。呢點係生成式AI同計數機嘅關鍵分別。
計數機幫你做算術，生成式AI可以同時幫你修改小說、寫應用程式代碼，甚至提供你心儀對象嘅心理分析。
保持批判思考
將生成式AI比作計數機，令呢啲語言模型同所謂嘅「副駕駛」、「導師」、「代理人」聽落似乎無害，令大家不經批判就接受，甚至認為科技可以解決社會所有問題。
呢個比喻亦正好配合咗生產同分發生成式AI系統嘅平台。因為一個「中立工具」唔需要負責任、唔需要審計、唔需要共同治理。
但正如我哋所見，生成式AI唔似計數機，佢唔係淨係計算數字或者產生固定嘅輸出。
要真正了解生成式AI，我哋需要嚴謹嘅批判思考，呢種思考能力可以幫我哋面對「快速前進、破壞常規」嘅後果，判斷破壞是否值得付出代價。
—
評論與啟發
將生成式AI簡化成「文字計數機」嘅比喻，固然有助於降低公眾對新科技嘅恐懼，令大家更容易接受，但同時也帶來嚴重嘅誤導。生成式AI不僅僅係一個被動嘅工具，佢係一套複雜嘅系統，深刻影響我哋嘅認知、自主性、倫理觀念同社會結構。
作者指出嘅五大分別，提醒我哋唔好輕易將AI視為中立無害嘅助手。尤其係AI嘅語言偏見問題，反映出科技背後嘅權力關係和文化不平等，呢點對多語言、多文化嘅香港社會尤其重要。
此外，生成式AI喺倫理層面嘅挑戰，從勞動剝削到能源消耗，都顯示出呢項技術唔係純粹嘅技術問題，而係深層嘅社會問題。
從新聞報道角度嚟睇，我哋應該避免簡化科技嘅本質，保持獨立思考，促進公眾對AI嘅全面了解。媒體亦應該扮演好監督者嘅角色，推動透明度、問責制同公平嘅技術發展。
總括而言，生成式AI遠比計數機複雜得多，亦更需要我哋喺推廣同應用時帶住慎思明辨嘅態度，唔好被表面嘅「工具」形象所迷惑。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
