停止將生成式AI作為搜索引擎
一個假冒的總統特赦解釋了為什麼你不能信任機器人提供的新聞。
作者：伊莉莎白·洛帕托（Elizabeth Lopatto），她是一位專注於科技、金錢和人類行為的記者。她於2014年加入《The Verge》，擔任科學編輯。之前，她是彭博社的記者。
2024年12月5日，UTC時間下午6:01
有多少位總統曾特赦自己的親屬？這個問題的答案似乎有點棘手。
在亨特·拜登（Hunter Biden）獲得父親的特赦後，幾位評論員開始尋找先例——其他對親屬的特赦。例如，評論員安娜·納瓦羅-卡德納斯（Ana Navarro-Cardenas）在X平台上提到，伍德羅·威爾遜（Woodrow Wilson）曾特赦他的姐夫亨特·德布茨（Hunter deButts）。這對我來說是個新消息。
“找Chat GPT理論去。”
官方的特赦記錄搜索僅適用於1989年以後申請的人，而每位總統的特赦名單只追溯到理查德·尼克松（Richard Nixon）。這樣的特赦本應引發爭議，但在威爾遜總統圖書館的簡介頁面上卻沒有提到。根據Find a Grave的資料，威爾遜似乎根本沒有這位名叫亨特·德布茨的姐夫——顯示出九位姐夫，但沒有我們的亨特·德布茨。我無法證明威爾遜沒有特赦亨特·德布茨；我只能告訴你，如果他真的這樣做，那個人並不是他的姐夫。
納瓦羅-卡德納斯並不是唯一一位發表令人困惑的特赦的網友。一篇名為《總統不應該特赦他的兒子？你好，還有人記得尼爾·布什（Neil Bush）嗎？》的《Esquire》文章基於喬治·H·W·布什（George H.W. Bush）特赦他的兒子尼爾的前提，但該文章後來因為“錯誤”而被撤回。在其發表的前一天，《Occupy Democrats》的執行編輯格蘭特·斯特恩（Grant Stern）在推特上發表了類似的說法，聲稱吉米·卡特（Jimmy Carter）特赦了他的兄弟比利（Billy），而喬治·H·W·布什則特赦了尼爾。據我所知，這兩項特赦實際上都沒有發生。
這些信息從何而來？我不知道斯特恩或《Esquire》的來源是什麼。但我知道納瓦羅-卡德納斯的來源，因為她對批評者發出了後續信息：“找Chat GPT理論去。”
我試了。我問了ChatGPT，它將亨特·德布茨列為威爾遜的妹妹安妮（Anne）的丈夫。“伍德羅·威爾遜的家庭相當顯赫，他的妹妹安妮嫁給了亨特·德布茨，這是一位來自顯赫家庭的富裕社交人物，”ChatGPT告訴我。“亨特·德布茨是威爾遜的擴展家庭成員，儘管在威爾遜生平的歷史記載中，他並不如其他人物那樣為人所知。”根據《紐約時報》，安妮·威爾遜嫁給了一位名叫喬治·豪（George Howe）的人。亨特·德布茨的名字來源不明。
ChatGPT的數據來源在哪裡？
顯然，ChatGPT在探索歷史記錄方面的表現相當糟糕。當我打開它並詢問：“有多少位美國總統曾特赦自己的親屬？”時，我得到了唯一的正確答案：比爾·克林頓（Bill Clinton）特赦了他的同父異母兄弟羅傑·克林頓（Roger Clinton）。但同時，ChatGPT也告訴我喬治·H·W·布什特赦了他的兒子尼爾。
這並不是最糟糕的部分，但注意到特赦的日期是1999年——當時比爾·克林頓是總統。
我並不記得這一點，而我經常想起儲蓄和貸款危機，這是相當正常的（我在聚會上表現得相當融洽）。但我使用與查找德布茨相同的過程進行了雙重檢查。我查閱了官方司法部的總統特赦頁面。尼爾·布什不在那裡。我在特赦系統中進行了搜索。也沒有。然後我翻閱了一些報紙檔案，找不到特赦的證據。證明一個否定是很難的——我想尼爾·布什可能在白宮某個地方有一個秘密的特赦，沒有人聽說過——但我相當確信沒有人特赦他，更不用說他的父親了。
對於吉米·卡特特赦他的兄弟的證據同樣稀缺。比利·卡特的《紐約時報》訃告中沒有提到特赦，《華盛頓郵報》的訃告也沒有。我問斯特恩他的來源是否是ChatGPT，他說“不是”，並未具體說明他獲得信息的來源。不過，詢問ChatGPT吉米·卡特是否特赦比利，得到的回答卻是毫不含糊的“是”。
1981年，隨著吉米·卡特的總統任期接近尾聲，他特赦了他的兄弟比利，免於與他在利比亞的交易相關的任何可能罪行。然而，該特赦並不涵蓋潛在的民事責任或其他法律行動，比利·卡特最終同意在國會作證並支付罰款以解決他的行為。
這是一個冗長的答案，雖然詳細，但錯誤。
我意識到這可能有點乏味，但我想展示我的工作過程。這是我建立信任的最佳方式，而這是你從ChatGPT無法獲得的。這也是那些發表錯誤聲明的人所沒有做的事情。
ChatGPT還給了我一些非常奇怪的答案——這些答案不符合我詢問的關於總統特赦親屬的問題。它提到了傑拉爾德·福特（Gerald Ford）對理查德·尼克松（Richard Nixon）的特赦，但附加說明“雖然不是直系親屬”。它還提到安德魯·約翰遜（Andrew Johnson）對前南方領袖的赦免“包括一些顯赫南方人物的家族成員”。它還奇怪地告訴我林登·約翰遜（Lyndon B. Johnson）對“各種同夥”給予特赦，儘管注意到“這些通常不涉及他自己家族”。這是什麼？
我想看看谷歌Gemini對這些特赦的看法。
可以理解的是，ChatGPT不會提到亨特·拜登的特赦，因為該事件發生在其2023年的截止日期之後。但奇怪的是，唐納德·特朗普（Donald Trump）對查爾斯·庫什納（Charles Kushner）的特赦也沒有出現，這是他女婿賈瑞德·庫什納（Jared Kushner）的父親。這發生在2020年。顯然，庫什納更像是特朗普的家庭成員，而不是尼克松對福特。
我給赫斯特發送電子郵件，詢問《Esquire》作者查爾斯·P·皮爾斯（Charles P. Pierce）是否將ChatGPT用作他的文章來源。發言人艾莉森·基恩（Allison Keane）表示他沒有，並拒絕進一步說明該錯誤可能是如何發生的。斯特恩告訴我，他是通過“在谷歌上進行網絡搜索”找到的信息。
好吧。這是我在谷歌上找到的：一篇來自《印度斯坦時報》的文章標題為“在拜登之前：特朗普、克林頓和卡特對家庭成員的最惡名昭彰的總統特赦”。它錯誤地聲稱吉米·卡特特赦了比利。（我將搜索截止日期設置為12月2日，以避免捕捉到因錯誤聲明而產生的事實檢查文章。）至於尼爾·布什，我找到了一篇半病毒性X帖子和來自《時代新聞》的文章。
我不知道《印度斯坦時報》或《時代新聞》中這些聲明的來源是什麼。但我認為在我深入這個特定的兔子洞時，看看谷歌Gemini對這些特赦的看法是值得的。Gemini對“有多少位總統特赦了他們的兒子”回答只有一位：喬·拜登（Joe Biden）。但當問到有多少位總統特赦了家庭成員時，它說吉米·卡特特赦了比利，喬治·H·W·布什特赦了尼爾。它沒有提到庫什納和特朗普。
哦，天哪。
你會注意到那張圖片中有高亮顏色。那是因為我要求谷歌檢查它的結果。亞伯拉罕·林肯（Abraham Lincoln）特赦的例子（這是真的）用紅色高亮顯示——谷歌警告它沒有找到相關內容。布什和卡特的特赦（這些是假的）用綠色高亮顯示——而卡特的結果特別引用了錯誤的《印度斯坦時報》文章作為其來源。
Perplexity做得稍微好一些，指出拜登、特朗普、克林頓和林肯特赦了親屬。但在被問到有多少位總統特赦了他們的兒子時，它在答案中列出了林肯代表他妻子的異母姐妹發出的赦免信。必須說的是，妻子的異母姐妹並不是兒子。
ChatGPT經常“完全錯誤”
無論這種情況如何，依賴ChatGPT或其他AI服務提供答案的趨勢正在持續，結果卻是幻覺。也許你還記得今年早些時候，法蘭西斯·福特·科波拉（Francis Ford Coppola）的《大都會》（Megalopolis）的預告片因包含虛構的評論而被撤回。這些評論是由一個未被識別的生成式AI編造的。根據《哥倫比亞新聞評論》，ChatGPT經常“完全錯誤”，在要求識別200個引文的出版商時，ChatGPT的回答中有超過三分之四的情況是部分或完全錯誤的。
即使使用ChatGPT幫助寫作過程也是有風險的。斯坦福社交媒體實驗室的創始人和知名的錯誤信息研究者傑夫·漢考克（Jeff Hancock）曾表示，他提交的法律文件中引用了不存在的來源。他堅稱自己是親自撰寫該文件，但他使用GPT-4o編寫的引用列表，結果導致兩條虛構的引用和一條錯誤附上作者的引用。
現在，AI的支持者可能會——正確地——說一位真正的記者應該核實ChatGPT提供的答案；事實核查是我們工作的關鍵部分。我同意，因此我在本文中向你展示了我自己的檢查過程。但這些只是公開和尷尬的例子，我認為在私下裡發生的情況更多：普通人使用ChatGPT並信任它提供的信息。
這顯然是一個錯誤。
答案引擎僅僅給你一個答案，且通常不清楚其來源
老派的谷歌搜索相比於所謂的答案引擎有一個優勢，那就是它能直接鏈接到主要來源。答案引擎僅僅給你一個答案，而來源往往不明。對我來說，使用ChatGPT或谷歌的AI功能會增加額外的工作——我必須去檢查答案是否與主要來源一致；而老式的谷歌搜索直接給我了那個來源。
不過，我懷疑大多數人都不如我謹慎和挑剔，他們只是停留在答案上，從不檢查其是否正確。這當然是答案引擎的意圖——這正是它的設計目的。（某人，可能是與PerplexityAI有關的人，現在會說：“啊，但我們可以用腳註來註釋來源。”同樣的問題：誰會點擊腳註？）
這一切都顯然是糟糕的設計。真正服務於人類的技術必須考慮到人類行為。也許有辦法使生成式AI變得有用，但在當前狀態下，我對任何輕信它作為研究工具的人感到非常同情。
我知道人們厭倦了談論比薩上的膠水，但我對我們的信息環境已經出現的大規模退化感到震驚。（如果你想明白我的意思，只需搜索亞馬遜。）這種情況以小的方式發生，例如谷歌的AI錯誤地說雄性狐狸終身配對，還有大的方式，例如在重大新聞事件周圍散播虛假信息。一個沒有人能信任的答案機有什麼意義呢？
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
