生成式人工智能和深度偽造技術正助長健康錯誤信息的增長
網上和社交媒體上的錯誤和誤導性健康信息正在上升，這主要歸因於深度偽造技術和生成式人工智能（AI）的迅速發展。這使得尊重的健康專業人士的視頻、照片和音頻可以被操控，例如，讓他們看起來像是在支持假冒的醫療產品，或是請求澳大利亞人提供敏感的健康信息。
那麼，這些健康詐騙是如何運作的？我們該如何辨別它們？
線上獲取健康信息
根據2021年的數據，四分之三的18歲以上澳大利亞人表示他們在線上獲取健康服務，例如與醫生進行遠程健康諮詢。2023年的一項研究顯示，82%的澳大利亞父母會在社交媒體上諮詢健康相關問題，並與醫生進行諮詢。
然而，全球健康相關錯誤信息（即事實不正確的材料）和虛假信息（故意誤導公眾）正在以指數級增長。
從醫療保險的電子郵件和短信釣魚詐騙，到假藥的銷售，澳大利亞人因追隨錯誤建議而面臨損失金錢和損害健康的風險。
什麼是深度偽造技術？
一種新興的健康相關詐騙領域與生成式AI工具創建深度偽造視頻、照片和音頻錄音有關。這些深度偽造被用來推廣假冒的醫療產品，或引導消費者向他們認為可信的人士分享敏感健康信息。
深度偽造是指對真實人物的照片或視頻，或其聲音錄音進行修改，使該人看起來像是在做或說一些他們實際上沒有做或說的事情。
到目前為止，人們通常使用照片或視頻編輯軟件來創建假圖像，比如將某人的面孔疊加在另一個人的身體上。Adobe Photoshop甚至宣傳其軟件的“面部交換”能力，以“確保每個人都在家庭照片中看起來最佳”。
雖然創建深度偽造並不新鮮，但醫療從業者和機構對生成式AI工具所能達到的速度和超現實主義表示擔憂。當這些深度偽造通過社交媒體平台分享時，錯誤信息的傳播範圍顯著增加，潛在的危害也隨之增大。
它如何在健康詐騙中被使用？
例如，在2024年12月，維多利亞州糖尿病協會注意到有深度偽造視頻顯示墨爾本貝克心臟與糖尿病研究所的專家在推廣一種糖尿病補充劑。
糖尿病澳大利亞的新聞稿明確指出這些視頻不是真實的，而是使用AI技術製作的。
這兩個組織都未對該補充劑表示支持，也未批准這一虛假廣告，而視頻中出現的醫生不得不向他的病人警告這一詐騙。
這並不是第一次醫生的（虛假）形象被用來銷售產品。在2024年4月，詐騙者利用深度偽造的卡爾·克魯斯倫基醫生的形象通過Facebook向澳大利亞人銷售藥丸。儘管一些用戶向平台舉報這些帖子，但他們被告知這些廣告並未違反平台標準。
2023年，TikTok商店也受到質疑，賣家操控醫生的合法TikTok視頻來（虛假）支持產品，這些深度偽造的視頻獲得了超過1000萬次的觀看。
我該注意什麼？
2024年對80多項科學研究的回顧發現了幾種對抗網上錯誤信息的方法，包括社交媒體平台提醒讀者注意未經驗證的信息，以及教導老年人數字素養技能。
不幸的是，許多這些策略專注於書面材料或需要訪問準確的信息來驗證內容。識別深度偽造需要不同的技能。
澳大利亞的電子安全專員提供了有用的資源，幫助人們識別深度偽造。
他們特別建議考慮上下文。問自己——這是我期望這個人會說的話嗎？這看起來像是我期望這個人出現的地方嗎？
專員還建議人們仔細觀察和聆聽，檢查以下幾點：
– 模糊、裁剪效果或像素化
– 皮膚不一致或變色
– 視頻不一致性，例如故障，以及光線或背景變化
– 音頻問題，例如聲音不同步
– 不自然的眨眼或動作
– 故事或演講中的內容缺口
我還可以如何保持安全？
如果你的圖像或聲音被修改過，你可以直接聯繫電子安全專員以獲取幫助以刪除該材料。
《英國醫學期刊》也發表了針對健康相關深度偽造的具體建議，建議人們：
– 聯繫宣傳產品的人以確認該圖像、視頻或音頻是否真實
– 在網站上留下公開評論，質疑該聲稱是否真實（這也可以促使其他人對他們所見所聞保持批判性）
– 使用在線平台的舉報工具標記虛假產品，並舉報分享錯誤信息的帳號
– 鼓勵他人質疑他們所見所聞，並向醫療提供者尋求建議。
最後一點至關重要。與所有健康相關信息一樣，消費者必須在與醫生、藥劑師和其他合格的醫療專業人士協商後做出明智的決策。
隨著生成式AI技術的日益成熟，政府在保護澳大利亞人方面也扮演著至關重要的角色。2025年2月發布的期待已久的網絡安全評估明確指出了這一點。
該評估建議澳大利亞採取照顧責任立法，以應對對“心理和身體健康的傷害”以及“指導或促進有害行為”的嚴重傷害。
考慮到遵循深度偽造健康建議可能帶來的有害後果，迫切需要照顧責任立法來保護澳大利亞人，並支持他們做出適當的健康決策。
在這個數字時代，公眾需要提高警惕，並在面對健康信息時保持批判性思維。這不僅是為了保護自己，也是為了建立一個更加透明和負責任的健康信息環境。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
