MIT研究人員表示，AI能減少對陰謀論的信仰20%
麻省理工學院的研究人員Thomas Costello（麻省理工學院、 美國大學）、Gordon Pennycook（康奈爾大學）和David Rand（麻省理工學院）最近在《科學》期刊上發表了一篇名為《通過與AI對話持久減少陰謀論信仰》的文章。他們在研究中創建了「Debunk Bot」，這是一個利用GPT-4 Turbo技術與用戶進行關於陰謀論對話的工具。他們發現，這些以對話為基礎的干預措施，專注於提供非陰謀論的解釋、事實和反證據，並鼓勵批判性思維，能使參與者對所選擇的陰謀論的信仰減少約20%。作者解釋道：
這項干預措施使參與者對其選擇的陰謀論的信仰平均減少了20%。此效果持續至少2個月，且在各種陰謀論中均有觀察到，從經典的陰謀論如約翰·甘迺迪的暗殺、外星人和光明會，到與當前事件相關的陰謀論如COVID-19和2020年美國總統選舉。此外，即使是對陰謀論的信仰深入且對其身份至關重要的參與者，這種效果仍然存在。值得注意的是，AI並未減少對真實陰謀論的信仰。此外，當一位專業事實檢查員評估AI所作的128個聲明樣本時，99.2%為真，0.8%為誤導性，沒有一個是錯誤的。這種揭穿陰謀論的能力還延伸到減少與之無關的陰謀論信仰，顯示出一種對陰謀論世界觀的普遍下降，並增加了反駁其他陰謀論者的意圖。
以下是這項研究的摘要：
陰謀論信仰顯然是頑固的。有影響力的假設認為它們滿足重要的心理需求，因此抵抗反證據。然而，以前糾正陰謀論信仰的失敗，可能是因為反證據不夠有說服力和針對性。為了評估這一可能性，我們利用生成性人工智慧的發展，讓2190名陰謀論信徒與GPT-4 Turbo進行個性化的基於證據的對話。這項干預使陰謀論信仰減少了約20%。該效果在2個月後依然存在，且在各種陰謀論中普遍適用，即使在信仰根深蒂固的參與者中也有發現。雖然對話專注於單一的陰謀論，但仍然減少了對無關陰謀論的信仰，並改變了與陰謀論相關的行為意圖。這些發現表明，許多陰謀論信徒如果能夠接觸到足夠有說服力的證據，可以修正他們的觀點。
作者總結道：
許多堅信看似無法改變的陰謀論信仰的人，當面對有說服力的證據時，可以改變他們的想法。從理論的角度來看，這描繪了人類推理的驚人樂觀圖景：陰謀論的兔子洞確實可能有出口。心理需求和動機並不會根本上讓陰謀論者對證據視而不見——只需提供正確的證據即可觸及他們。實際上，我們的研究結果展示了大型語言模型（LLMs）的說服力，強調了在負責任地使用生成性AI時的潛在正面影響，以及減少此技術被不當使用的迫切重要性。
共同作者David G. Rand在社交媒體上對這篇論文進行了精彩的總結：
陰謀論信仰顯然抗拒修正，對吧？錯了！我們顯示與GPT-4的簡短對話可以減少陰謀論信仰約20%！效果持續超過2個月，適用於根深蒂固的信仰，定制的AI回應能反駁信徒提出的具體證據。
試圖揭穿陰謀論的努力往往徒勞無功，導致許多人得出結論認為心理需求/動機使人對證據視而不見。但也許以往的嘗試只沒有提供足夠具體/有說服力的證據和論點？
構建對所有流行陰謀論的所有變體的有說服力的反駁對人類來說是不可能的，但對於大型語言模型來說也許是容易的？為了找出答案，我們讓@OpenAI的GPT-4 Turbo通過實時對話向2190名陰謀論信徒提供個性化的反證據。
參與者描述了他們所信的陰謀論及支持其信仰的證據，並在0-100的範圍內評分他們的信仰，然後與AI進行三輪文本對話，AI被提示反駁該陰謀論，然後再次評分他們的信仰……結果：成功了！參與者的陰謀論信仰減少了超過20%——25%的參與者在最初信仰陰謀論後，在對話結束後不再相信（在0-100的評分中低於50）。效果非常持久：在2個月後依然沒有減弱！
這項效果的大小在被揭穿的陰謀論之間並沒有顯著差異——無論是經典陰謀論如甘迺迪被暗殺、政府隱藏外星人證據、登月陰謀論、光明會，還是現代陰謀論如2020年選舉舞弊、COVID、911內部作案等，效果均顯著。值得注意的是，這項治療對於「真信徒」同樣有效：那些強烈相信陰謀論、認為這對其身份至關重要和/或具有陰謀論思維的人。因果森林機器學習分析顯示，在所有子群體中均有意義的效果。
AI在這些對話中實際上在做什麼？提供非陰謀論的解釋和反證據，鼓勵批判性思維——而不是依賴心理學方法。預備實驗顯示，告訴AI不使用證據會破壞效果。這一切都源於事實和證據。
總結：證據和論點確實能改變對陰謀論的信仰，許多人也因此感到感激！需求和動機並不會完全盲目地使你在進入兔子洞後失去理智——只需提供詳細、針對性的證據來幫助你回頭。干預是可能的！
當然，若沒有防護措施，大型語言模型也可能使人們相信陰謀論或其他虛假信息。我們的發現強調了生成性AI的潛在正面影響，以及減少此技術不當使用機會的重要性。
我們的方法論——將大型語言模型整合進調查實驗——擁有巨大的應用潛力。我們正站在實驗方法學革命的邊緣，這是非常令人興奮的……想試著與AI對話嗎？請查看http://DebunkBot.com！把這個鏈接分享給你身邊的陰謀論者朋友和家人，感恩節時準備好它。
這項研究的結果不僅令人振奮，也為我們提供了一個新的視角，讓我們重新思考如何與深信不疑的陰謀論者進行有效的對話。生成性AI的潛力正在被重新定義，而我們應該更加小心其可能帶來的負面影響，確保這項技術的負責任使用。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
