ChatGPT誤導換鹽致精神失常真實案例揭秘!

Ai

男子跟ChatGPT建議 誤以溴化鈉代替食鹽 引發嚴重精神病

一名60歲男子,有「大學時期修讀營養學」的背景,因為想嘗試一個健康實驗,決定完全戒除飲食中的氯化物,即包括食用鹽(氯化鈉)。他在與ChatGPT的對話中,得知可以用溴化鈉來替代氯化鈉,於是便從網上購買並開始使用。

三個月後,男子被送往當地急症室。他聲稱鄰居試圖毒害他,雖然非常口渴,但卻對醫院提供的水持極大戒心,並表示自己已開始在家蒸餾水,且實行極度嚴格的素食飲食。他未提及自己服用溴化鈉或與ChatGPT的對話內容。

醫生基於他的異常行為和精神狀態,進行多項檢查,發現他有多種微量元素缺乏,尤其是關鍵維他命。更嚴重的是,男子患上了嚴重的「溴中毒症」(bromism),即體內溴元素過量積聚。

溴中毒在一百年前美國精神病患者中佔有約8-10%的比例。當時人們常使用含溴的鹽類(如溴化鉀)作為鎮靜劑,以緩解焦慮或幫助睡眠。可惜的是,溴容易在人體內累積,過量會損害神經功能,引發皮膚異常(包括嚴重皮疹)及精神問題,統稱為「溴中毒症」。

美國食品藥物管理局(FDA)於1989年禁止溴化鎮靜劑,令此病症逐漸罕見。雖然偶爾仍有因攝取含「溴化植物油」的飲料(如大量可樂)而中毒的案例,但FDA已於2024年禁止該成分使用。

入院首日,男子的精神狀況惡化,出現嚴重偏執,並有聽覺及視覺幻覺,甚至嘗試逃離醫院。隨後他被強制精神病收治,施以抗精神病藥物,並大量補充液體和電解質,透過「積極鹽水利尿」方式,幫助排出體內過量溴化物。

男子的體內溴濃度高達1700毫克/升,而正常健康人範圍僅為0.9至7.3毫克/升。經過三星期治療後,他的精神症狀才得到控制。

事件起因與ChatGPT的角色

男子在醫院穩定後,向醫生透露事件起因:他曾閱讀過過量食鹽有害健康的相關資訊,於是決定戒除氯化鈉,並在ChatGPT的提示下認為可用溴化鈉替代。醫生團隊未能取得男子與ChatGPT的完整對話紀錄,但推測他使用的是ChatGPT 3.5或4.0版本。

醫生嘗試使用ChatGPT 3.5模擬搜尋,發現AI確實提及溴化物作為替代,但同時強調情境重要,並指出溴化物不適合用於人體攝取。惟AI未有提供明確健康警告,亦未像醫療專業人士般詢問用戶背景或使用原因。

而最新的免費版ChatGPT在回答類似問題時,會先要求用戶澄清目的(如減少食鹽、避免有毒氯化物或替代清潔劑等),並只在清潔消毒選項中提及溴化物,且有明確提示用途。

男子缺乏專業知識和判斷能力,未能正確理解資訊,獨自作出錯誤決定,最終釀成嚴重健康危機。這反映現代信息爆炸時代中,個人缺乏足夠的經濟資源、資訊鑑別技能與專業知識,難以善用海量資訊,導致誤判風險。

此案例由《內科學年鑑:臨床案例》發表,提醒公眾及AI開發者,使用人工智能時必須謹慎,尤其在健康領域,AI應提供明確警示並引導用戶尋求專業意見。

評論與啟示

這宗事件是人工智能與健康資訊結合的典型警示。雖然AI如ChatGPT可提供廣泛知識支援,但其回答並非醫療建議,且缺乏對用戶個別情況的深入了解與風險評估。用戶若缺乏醫學背景,誤解或誤用AI資訊,可能造成嚴重後果。

這反映出數碼時代「資訊過載」的雙刃劍效應:人人都可接觸龐大資訊,但缺乏專業指導,極易走入誤區。尤其健康相關議題,錯誤決策代價高昂。

對AI開發者而言,此案凸顯必須加強AI在敏感領域的風險提示機制,甚至設定限制,避免用戶在未經專業評估下採取危險行為。AI應該成為輔助工具,而非替代專業判斷。

對用戶來說,此事件提醒大家在健康決策上要保持謹慎,盡量諮詢專業醫護人士,切勿完全信賴網絡或AI資訊。特別是涉及化學物質和藥物使用,更需嚴格遵從醫生指示。

綜合來看,這宗案例是人工智能與公共健康交互中的重要警鐘,促使社會在推廣AI技術同時,必須同步強化教育、監管及專業介入,確保技術造福人類而非成為隱藏的危機源頭。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。

🎬 YouTube Premium 家庭 Plan成員一位 只需 HK$148/年

不用提供密碼、不用VPN、無需轉區
直接升級你的香港帳號 ➜ 即享 YouTube + YouTube Music 無廣告播放

立即升級 🔗