六合彩AI預測賽後檢討!邊個模型預測最叻? 每次攪珠當晚10:30更新免費睇!

AI誤判醫療建議 疏忽文字細節影響判斷

Ai

✈️ Trip.com「內地快閃」機票+酒店半價

【每週二 10 AM】 立即領取 半價優惠代碼
最高減 HK$500,CP 值極高,先到先得!


立即搶優惠 🔗

大型語言模型在醫療建議中會受非臨床信息影響

麻省理工學院(MIT)研究發現,患者訊息中的非臨床信息,例如錯別字、多餘空格以及富有表情的語言,會降低人工智能模型給予醫療建議的準確度。

根據MIT的研究,一些大型語言模型(LLM)在處理患者訊息時,會被這些非臨床的文字特徵干擾,導致模型更傾向建議患者自行管理健康狀況,而非及時就醫,即使患者實際上需要接受醫療照護。研究亦指出,這些非臨床的文本變化對女性患者的影響更大,令更多女性錯誤地被建議不需尋求醫療協助。

MIT電機工程與計算機科學系副教授馬茲耶·加塞米(Marzyeh Ghassemi)表示,這項研究強烈表明,在醫療領域應用這類模型前,必須進行嚴格審核,而這正是目前許多模型已經開始使用的環境。

研究團隊發現,這些大型語言模型在臨床決策時,會以未知方式考慮非臨床信息,這突顯出在應用於高風險任務(如治療建議)之前,應有更嚴謹的研究以確保其可靠性。研究生阿比妮莎·古拉巴提納(Abinitha Gourabathina)補充,這些模型通常在醫學考試題庫上受訓和測試,但實際應用卻遠超其訓練範圍,許多細節仍然未知。

非臨床信息如何影響模型判斷?

大型語言模型如OpenAI的GPT-4,現時已被應用於起草臨床筆記和分流患者訊息,旨在協助過勞的醫護人員。然而,關於非臨床信息如何影響模型判斷的研究相當有限。

研究人員透過實驗,對患者訊息進行多種干擾,包括交換或移除性別標記、加入不確定語氣或誇張用語、插入多餘空格及錯別字,這些都是基於心理社會學研究,模擬脆弱患者群體的溝通方式。例如,錯別字和空格多出現於英語能力有限或缺乏科技熟練度的患者,而不確定語氣則反映健康焦慮患者的表達。

團隊利用大型語言模型生成數千份經過微調的患者訊息,確保臨床數據如用藥和診斷未被改動,然後測試四款大型語言模型,包括商業版GPT-4及專為醫療設計的小型模型。每份訊息會被問及三個問題:患者是否應自行管理、是否應到診所就診、是否應分配醫療資源(如檢驗)。

結果顯示,模型在處理這些被干擾的訊息時,建議患者自行管理的比例增加了7至9%,也就是說,當訊息包含錯別字或性別中性代詞時,模型更可能建議患者不需就醫。尤其是帶有俚語或戲劇化表達的語言對判斷影響最大。

更令人擔憂的是,女性患者錯誤被建議自行管理的比例比男性高出約7%,即使研究者移除所有性別提示,這種偏差依然存在。

非臨床語言造成的誤判風險

這些錯誤建議,例如嚴重病情卻被建議自行管理,若只看模型整體的臨床準確度很難察覺。古拉巴提納指出,研究往往聚焦統計數據,但更重要的是錯誤的方向——錯誤建議患者不去就診的後果遠比相反情況嚴重。

這種非臨床信息引起的不一致性,在患者與大型語言模型的對話中更加明顯,而這正是患者服務聊天機械人的常見應用場景。

後續研究發現,這些語言變化對人類醫生的診斷準確度影響甚微,顯示模型對這類變化的脆弱性遠高於人類。加塞米教授強調,這並不令人意外,因為大型語言模型本非為醫療優先設計,雖然表現看似優秀,但我們不應建構只對特定患者群體有效的醫療系統。

未來,研究團隊計劃設計更多模擬現實患者訊息的語言變化,涵蓋其他脆弱群體,並深入探討模型如何從臨床文本推斷性別。

評論與啟示

這項研究揭示了大型語言模型在醫療決策中潛藏的嚴重隱憂。當AI模型在臨床環境中被用來輔助或直接給予治療建議時,非臨床的語言因素竟然能夠顯著影響其判斷,這反映出模型對語言細節的過度敏感,且無法像人類醫生那樣靈活理解語境。

尤其對女性患者的偏差,更突顯出AI在性別公平上的潛在問題,可能加劇醫療不平等。這提醒我們,在推廣AI醫療應用前,必須深化對模型行為的理解與審核,避免因技術便利而忽視其可能帶來的風險。

此外,患者訊息的真實語言特徵,如錯別字和非正式語言,常見於社會弱勢群體,若模型因這些特徵而偏離正確判斷,將進一步擴大醫療服務的鴻溝。因此,AI醫療系統的設計應更加注重包容性和多元化的語言表達,確保不因患者的語言特徵而影響醫療品質。

最後,這項研究也提醒我們,AI系統並非萬能,尤其在高風險領域如醫療,仍需謹慎評估和監控,並結合人類專業判斷,才能真正發揮輔助作用,保障患者安全。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。

✈️ Mastercard 尊享優惠|預訂機票+酒店減高達 HK$200

2025 年 7 月 4 日 至 10 月 2 日
逢星期五於 Trip.com 使用 Mastercard 預訂機票或酒店,
輸入指定優惠代碼即可享折扣。數量有限,先到先得!

即刻搶代碼 🔗