醫療保健中的人工智能：貴重的人力資源需求
由於人工智能（AI）旨在減少醫療成本，卻意外地發現需要大量昂貴的人力資源來支持其運作。根據KFF健康新聞的報導，賓夕法尼亞大學健康系統的醫生們透過一個能預測死亡機率的AI算法，來引導與癌症患者進行有關治療和末期選擇的對話。然而，這個工具並不是一個可以放著不管的系統。根據2022年的一項研究，這個算法在COVID-19疫情期間的準確性下降了7個百分點。
這一問題的影響是顯而易見的。艾默里大學的腫瘤醫生Ravi Parikh表示，這個工具曾經數百次未能促使醫生與患者進行重要的討論，這可能使得一些患者錯失了避免不必要化療的機會。他認為，並非只有賓大醫療的算法在疫情期間失效，許多旨在提升醫療質量的算法也遭遇相似問題。
持續監控：AI的運作依賴人力
AI系統的故障暴露了計算機科學家和醫生長期以來所認識的困境：這些系統需要持續的監控和人力資源來確保它們的正常運作。斯坦福健康護理的首席數據科學家Nigam Shah指出，大家普遍認為AI會改善醫療服務的可及性和質量，但如果其使醫療成本上升20%，這是否可行呢？
美國食品藥品監督管理局（FDA）的官員也表達了擔憂，認為醫院缺乏足夠資源來對這些新技術進行有效的驗證。Califf專員提到，當前美國沒有任何一個健康系統能夠有效驗證臨床護理系統中實施的AI算法。
AI的廣泛應用與挑戰
AI在醫療領域的應用日益廣泛，算法被用來預測患者的死亡或惡化風險、建議診斷、記錄和總結醫生的就診記錄，以及批准保險索賠。然而，這些產品的有效性評估非常具有挑戰性，尤其是在持續評估它們的運作狀況時。
耶魯醫學院最近的一項研究評估了六個“早期預警系統”，這些系統能在患者可能快速惡化時發出警報。這項研究顯示出不同產品之間的性能差異，但醫療機構選擇最適合其需求的算法並不容易。美國醫學會前會長Jesse Ehrenfeld表示，當前缺乏對這些工具的標準化評估。
醫療行業的標準化需求
在醫生辦公室中，最常見的AI產品之一是環境文檔，即一種能聆聽並總結患者就診的技術助手。根據Rock Health的數據，去年有3.53億美元流入這些文檔公司，但Ehrenfeld指出，當前沒有標準來比較這些工具的產出。
這在醫療領域中尤其重要，因為即使是小錯誤也可能造成嚴重後果。斯坦福大學的團隊曾使用大型語言模型來總結患者的病歷，結果顯示，即使在最佳情況下，這些模型的錯誤率也高達35%。在醫療中，漏掉一個關鍵詞，如“發燒”，可能會導致嚴重的後果。
強調AI技術的潛力固然重要，但在當前的醫療環境中，我們必須認識到，技術的運作需要持續的投入和監控。未來，醫療機構應該考慮如何在有限的預算內有效運用資源，以確保AI技術能夠持續提供準確的支持，並最終改善患者的治療結果。
在這個快速變化的時代，醫療行業的標準化需求越發迫切，只有通過建立有效的評估和監控機制，才能真正實現AI在醫療領域的潛力，並為患者提供更好的照護。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
