人工智能錯誤或無法完全消除——這對其在醫療領域的應用意味著什麼
過去十年，人工智能（AI）取得了巨大成功，令不少人充滿熱情，甚至作出大膽聲稱——儘管用戶經常遇到AI出錯的情況。AI數碼助理可能尷尬地誤解語音指令，聊天機械人會憑空捏造資訊，甚至像我親身經歷過的，AI導航工具可能錯誤地引導駕駛者穿越一片玉米田，卻完全沒有察覺錯誤。
人們願意容忍這些錯誤，因為這技術在某些工作上大大提升效率。不過，越來越多支持者提倡在錯誤代價極高的領域，如醫療保健，使用AI，甚至在有限人類監督下讓AI自主運作。例如，美國眾議院於2025年初提出一項法案，擬允許AI系統自主開處方藥。此後，醫療研究人員和立法者一直在討論，這種做法是否可行或明智。
若該法案或類似立法通過，具體如何讓AI開藥仍未明朗，但這無疑提高了AI可容許錯誤的標準，以及若AI導致負面結果甚至患者死亡，誰須承擔後果的問題。
作為研究複雜系統的學者，我研究系統中不同組件如何互動，產生不可預測結果。我的部分工作聚焦於探索科學——尤其是AI的極限。
過去25年，我參與過交通燈協調、改善官僚體系和逃稅偵測等項目。即使這些系統表現良好，也從未達至完美。
對AI而言，錯誤或許是系統運作的不可避免結果。我的實驗室研究發現，訓練AI模型所用數據的特性在其中扮演關鍵角色。無論研究者投入多少時間、努力和經費，這種情況恐怕難以改變。
沒有人或任何事物，包括AI，是完美無錯的
計算機科學之父艾倫·圖靈曾說：「若機器被期望無誤，它便無法同時具備智慧。」因為學習是智慧的核心，人類往往是從錯誤中學習。我看到智慧與無誤之間的矛盾，正是我研究中的主題。
2025年7月，我和同事發表研究指出，將某些數據集完美分類可能根本不可能。換言之，某些數據集天生存在最小錯誤率，因為許多類別的元素互相重疊。對於這些數據集——許多AI系統的基礎——AI的表現無法超越機會水平。
例如，一個只記錄狗的年齡、體重和身高的數據集，AI模型能完美區分奇瓦瓦犬和大丹犬，但可能無法準確區分阿拉斯加雪橇犬和杜賓犬，因為不同品種的個體可能在年齡、體重和身高上重疊。
這種分類能力稱為「可分類性」，我和學生於2021年開始研究這個問題。我們用超過50萬名墨西哥國立自治大學2008至2020年間學生的數據，嘗試用AI預測學生能否按時完成學位（即三至五年內畢業，視專業而定）。
我們測試了多種流行的分類算法，也開發了專門為此任務設計的算法。沒有一個算法是完美的，表現最好的也只能達到約80%準確率，意味著至少五分之一的學生被錯誤分類。原因是許多學生在成績、年齡、性別、社經地位等特徵上完全相同，但有的能按時畢業，有的則不能。這種情況下，任何算法都無法作出完美預測。
你可能認為多點數據能提升準確度，但事實是收益遞減。每提升1%的準確率，可能需要100倍的數據量。這意味著我們永遠無法擁有足夠學生來顯著提升模型表現。
此外，學生和家庭生活中可能出現的不可預測變故——失業、死亡、懷孕——往往發生在大學第一年後，影響是否按時畢業。即使擁有無限學生，我們的預測仍會有錯誤。
預測的限制來自複雜性
更普遍而言，預測的限制來自系統的複雜性。複雜性源自拉丁文「plexus」，意指交織糾纏。複雜系統的組成部分相互糾纏，正是它們之間的互動決定了系統的行為和結果。
因此，孤立地研究系統元素，很可能得出誤導性結論，對整個系統的理解亦不準確。
舉例而言，一輛車在城市中行駛，理論上若知道其速度，便能預測其到達位置。但實際交通中，車速會受其他車輛互動影響。這些互動細節當下才會產生，無法預先掌握，因此精確預測車輛行蹤通常只能在短時間內實現。
AI已在醫療領域扮演重要角色。
醫療保健不容出錯
同樣原理適用於開藥。不同疾病可有相同症狀，同一疾病患者症狀亦可能不同。舉例，發燒可由呼吸道疾病或消化道疾病引起；感冒可能會咳嗽，但不一定。
這意味著醫療數據集存在大量重疊，阻止AI達至零錯誤。
當然，人類也會犯錯，但AI誤診患者時，法律責任尚處於灰色地帶。若患者因此受害，責任應由誰承擔？製藥公司、軟件開發商、保險公司還是藥房？
在不少情況下，人類和機器單獨都不是最佳選擇。「半人馬」或「混合智慧」——即人機結合——通常比單獨任何一方更優。醫生可以利用AI根據患者病史、生理特徵和基因組合，決定可能使用的藥物。研究者已在精準醫療領域探索這種方法。
然而，常識和謹慎原則都表明，AI在無人監督下開藥仍為時過早。錯誤可能是該技術的固有部分，意味著在人類健康攸關時，必須有人類監督。
—
評論與啟示
這篇文章深刻揭示了AI在醫療應用中的根本挑戰：錯誤無法完全消除。許多人對AI寄予厚望，期待它能在醫療決策中大幅提升效率和精準度，但忽視了數據本身的複雜性和模糊性，以及現實情況中不可預測的變數。
AI的錯誤並非單純技術缺陷，而是來自於系統內在的限制和數據特性的交織。這提醒我們，醫療AI不應被神話化為萬能解決方案，而應作為輔助工具，配合人類專業判斷。
此外，法律責任問題亟待明確。AI誤診帶來的醫療事故，誰來承擔責任？這涉及醫療、科技及法律的多方協調，需要立法機構盡快制定相關規範，保障患者權益，同時推動技術健康發展。
最後，「人機協作」的概念值得推廣。AI強於處理龐大數據及模式識別，人類則擅長應對複雜情境和倫理抉擇。未來醫療應用應強調這種互補性，而非盲目追求AI自主決策。
總括而言，AI醫療應用的未來應建立在理性認識其局限性基礎上，謹慎推進，確保技術發展真正造福病患，而非帶來新的風險和爭議。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
