Deloitte再爆AI造假報告 加拿大慘賠160萬

Deloitte再度被揭發引用虛假及AI生成研究報告——今次涉及加拿大政府逾百萬美元的報告

位於倫敦的顧問公司Deloitte今年第二次因應外國政府委託的報告中出現疑似AI生成的錯誤而受到批評。

一份由加拿大政府委託、花費近160萬美元的Deloitte醫療保健報告，涉及該省的醫護人員短缺問題，卻被揭發含有可能由AI生成的錯誤，這是今年繼另一國家後，第二次暴露該顧問公司在事實核查上的嚴重疏失。

這些錯誤是在一份由加拿大東部紐芬蘭及拉布拉多省的進步新聞媒體《The Independent》周六發表的調查中被揭露。該份526頁的報告於今年五月由該省政府發布，內容涵蓋虛擬醫療、留任激勵措施，以及新冠疫情對醫護人員的影響等，旨在協助當時由自由黨領導的省政府衛生及社區服務部應對醫護人手短缺。

調查發現，報告中存在虛假引用，引用了捏造的學術論文以支持成本效益分析，甚至將真實研究人員誤引為未曾參與該研究的文件作者。更有虛構的論文由聲稱從未合作過的研究者共同署名。

Deloitte加拿大發言人向《Fortune》表示：「Deloitte加拿大堅決支持報告中提出的建議。我們正對報告進行少量引用修正，這些修正不影響報告結論。報告撰寫過程中沒有使用AI，只在部分研究引用上選擇性使用AI輔助。」

此外，報告還引用了一篇據稱刊登於《Canadian Journal of Respiratory Therapy》的學術論文，但在該期刊資料庫中尚未找到相關記錄。

達爾豪斯大學護理學院兼任教授Gail Tomblin Murphy向《The Independent》指出：「如果出現這類情況，顯示他們很可能大量使用AI生成內容。」她本人被Deloitte引用於一篇「根本不存在」的學術論文中，且她只與該虛假論文中六名作者中的三位有過合作。

她強調：「這帶來很多挑戰。我們必須非常謹慎，確保用於報告的證據是最可靠和經過驗證的。畢竟，這些報告不僅關乎政府和公眾的資金，還必須準確、依據證據，並有助推動事情向前發展。」

截至週一，該報告仍在加拿大政府網站上公開。

根據一項信息公開申請及相關博客文章，加拿大政府分八期支付了近160萬美元購買該報告。

紐芬蘭及拉布拉多省新任省長、進步保守黨領袖Tony Wakeham於十月底宣誓就職。省長辦公室及衛生及社區服務部尚未回應《Fortune》對五月報告的查詢，亦未公開評論此事。

此事緊隨上月Deloitte因在一份29萬美元、為澳洲政府撰寫的報告中使用AI而被揭發問題後。該237頁報告涉及打擊福利欺詐，但被研究者發現存在幻覺現象，包括引用不存在的學術文章及偽造聯邦法院判決引述。

Deloitte在澳洲政府網站悄然更新的修訂報告中承認使用了生成式AI語言系統Azure OpenAI協助製作報告，但強調更新不影響報告的核心內容、結論及建議。

澳洲Deloitte分公司因此被要求向政府部分退款，而加拿大方面是否會退款，尚未有公開資訊。

—

評論與啟示

Deloitte作為全球頂尖的專業服務公司，理應以嚴謹的數據核查和研究質量著稱，然而今年兩次被揭發涉及AI生成錯誤，突顯了當前科技融入專業報告製作帶來的風險。AI雖然能提高效率，但缺乏足夠監督與嚴格的事實核查，極易產生「幻覺」或虛假內容，這在政策制定和公共資金使用上可能造成嚴重後果。

尤其是公共衛生等關乎民生的重要領域，任何錯誤信息都可能誤導決策，影響資源分配和醫療服務質量。這不僅是Deloitte的問題，更反映出整個行業在AI應用上的規範缺失和倫理挑戰。

此外，這些事件提醒我們，專業機構不能單純依賴AI替代傳統的嚴謹研究與驗證工作，必須建立完善的AI使用監管機制，確保透明度和責任追究。政府在委託報告時亦應加強對第三方顧問的審查，避免公帑被用於產出不實或誤導性的研究成果。

總括而言，AI技術的進步雖帶來便利，但如何在保障質量和準確性的前提下合理運用，成為當前專業服務行業亟需解決的核心問題。這起事件或可成為業界反思AI倫理及實務操作的重要警鐘。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。