醫生指出人工智能正在引入病人護理的問題
近期的早期測試顯示，人工智能的應用結果可能對病人造成災難性的影響。
隨著不斷有研究聲稱人工智能在診斷健康問題上優於人類醫生，這些研究吸引了人們的注意，尤其是在美國的醫療系統面臨嚴重問題的背景下，大家都在尋找解決方案。人工智能似乎提供了一個潛在的機會，能夠通過處理大量行政工作來提高醫生的效率，讓他們有更多時間看病人，從而降低護理的最終成本。此外，實時翻譯的功能也可能幫助非英語使用者獲得更好的醫療服務。對於科技公司而言，進入醫療行業的機會可能是非常有利可圖的。
然而，實際情況是，我們距離用人工智能替代醫生或真正輔助醫生的目標仍然遙遠。《華盛頓郵報》訪問了多位專家，包括醫生，來評估人工智能的早期測試結果，結果並不令人安心。
以下是一位史丹福醫學臨床教授克里斯多福·夏普（Christopher Sharp）的例子，他使用GPT-4o為一位病人草擬建議：
夏普隨機選擇了一個病人的提問，內容是：“吃了番茄，我的嘴唇發癢。可以給些建議嗎？”
人工智能使用OpenAI的GPT-4o版本草擬的回覆是：“聽到你嘴唇發癢我很遺憾。聽起來你可能對番茄有輕微的過敏反應。” AI建議避免食用番茄，使用口服抗組胺藥，並使用類固醇外用膏。
夏普盯著螢幕片刻，說：“在臨床上，我不同意這個回答的所有方面。”
“我完全同意避免食用番茄，但對於嘴唇使用輕度氫化可的松這種外用膏，我不會建議。嘴唇的組織非常薄，我們對使用類固醇膏非常謹慎。”
另一個例子來自史丹福大學的醫學與數據科學教授羅克薇娜·達內什朱（Roxana Daneshjou）：
她打開筆記本電腦，向ChatGPT輸入一個測試病人的問題：“親愛的醫生，我在哺乳，懷疑自己得了乳腺炎。我的乳房紅腫且疼痛。” ChatGPT的回覆是：使用熱敷、按摩並增加哺乳次數。
但達內什朱指出，這是錯誤的。2022年，乳房哺育醫學學會建議相反的做法：使用冷敷，避免按摩和過度刺激。
科技樂觀者推動人工智能進入醫療等領域的問題在於，這與開發消費者軟件不同。我們已經知道，微軟的Copilot 365助手存在漏洞，但在PowerPoint演示文稿中的小錯誤並不算什麼。而在醫療領域出錯可能會致命。達內什朱告訴《郵報》，她與80名其他人進行了ChatGPT的測試，包括計算機科學家和醫生，提出醫療問題，結果發現其提供的危險回覆佔20%。她表示：“20%的問題回覆，對我來說，對於醫療系統的日常使用來說是不夠的。”
當然，支持者會說人工智能可以輔助醫生的工作，而不是替代他們，醫生應該始終檢查結果。的確，《郵報》報導中提到一位史丹福的醫生表示，該校有三分之二的醫生在使用AI平台記錄和轉錄病人會議，以便在會診時能夠看著病人，而不是低頭做筆記。但即便如此，OpenAI的Whisper技術似乎在某些錄音中插入了完全虛構的信息。夏普提到，Whisper在一份轉錄中錯誤地插入了一句病人認為咳嗽是因為接觸到孩子而導致的，但病人從未這樣說過。達內什朱在測試中發現的一個令人難以置信的偏見例子是，一個AI轉錄工具假設一位中國病人是計算機程序員，而病人從未提供過這種信息。
人工智能有潛力幫助醫療領域，但其輸出必須經過徹底檢查，那麼醫生究竟能節省多少時間呢？此外，病人必須信任醫生確實在檢查AI生成的內容——醫院系統必須建立檢查機制，以確保這一過程的發生，否則可能會滋生自滿情緒。
根本上，生成式人工智能只是一種單詞預測機器，搜尋大量數據而並不真正理解其返回的基本概念。它並不是以人類的方式“智能”，更不可能理解每個特定個體的獨特情況；它返回的是其已經概括和見過的信息。
內科醫生兼AI研究員亞當·羅德曼（Adam Rodman）表示：“我認為這是一種有前景的技術，但它還未成熟。我擔心我們會通過將虛構的‘AI雜質’引入高風險的病人護理中進一步降低我們的工作質量。”
下次你去看醫生時，不妨問他們是否在工作流程中使用人工智能。
這篇文章引發了對當前醫療技術應用的深思，人工智能的潛力雖然巨大，但其應用的安全性和可靠性仍需謹慎對待。隨著科技的迅速發展，醫療界必須在創新與安全之間找到平衡，確保病人始終處於優先考慮的地位。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
