**研究人員指出醫院使用的AI轉錄工具會編造對話**
在舊金山，科技巨頭OpenAI推出了一款名為Whisper的人工智能轉錄工具，宣稱其擁有接近「人類水平的穩健性和準確性」。然而，Whisper存在一個重大缺陷：它容易編造出部分文字甚至整句話。根據超過十位軟件工程師、開發者和學術研究者的訪談，他們表示，這些被稱為「幻覺」的虛構文字可能包括種族評論、暴力言論，甚至是虛構的醫療治療。
這種情況引發了對AI技術在醫療環境中應用的嚴重關注。當醫院依賴這些轉錄工具來記錄病人對話時，任何錯誤或虛構的內容都可能對病人的治療和醫療決策產生重大影響。專家們強調，這不僅僅是一個技術問題，更是一個倫理問題，因為它直接影響到人們的健康和安全。
—
**評論**
Whisper的問題揭示了當前AI技術在醫療應用中面臨的挑戰。雖然AI在提高效率和減少人為錯誤方面具有潛力，但其缺陷可能帶來嚴重後果。這種「幻覺」現象不僅僅是技術上的漏洞，更涉及到倫理和責任的問題。醫療機構在採用這類技術時，必須謹慎考慮其可靠性和準確性，以確保不會對病人造成不必要的風險。
此外，這也提醒我們，科技公司在開發和推廣AI產品時，應更加重視測試和改進產品的準確性，並建立有效的監管機制。只有這樣，才能真正發揮AI的潛力，為醫療行業帶來積極變革，而不是增加新的風險。
以上文章由特價GPT API KEY所翻譯
