ChatGPT 絕對在報導中出現重大問題
根據哥倫比亞大學的數位新聞中心的研究，OpenAI 的 ChatGPT 搜索——一個旨在改寫網絡查詢並提供正確來源鏈接的最新版本聊天機器人——經常扭曲來自新聞媒體的報導，包括與 OpenAI 簽署內容授權協議的「新聞夥伴」的內容。
根據《哥倫比亞新聞評論》的報導，數位新聞中心的研究分析了來自二十家出版物的兩百個引述，並要求 ChatGPT 確定每個引述的來源。這款聊天機器人的準確性參差不齊，有些回答提供了完全準確的來源，而有些則提供了完全錯誤的來源細節，還有一些則混合了事實與虛構。
ChatGPT 的搜索功能依賴網絡爬蟲，這些爬蟲從互聯網上提取信息，並將其轉化為 AI 改寫的輸出。例如，《紐約時報》就因版權問題對 OpenAI 和微軟提起訴訟，並完全封鎖了 OpenAI 的網絡爬蟲進入他們的網站。其他一些與 OpenAI 簽署授權協議的出版物則允許其爬蟲自由探索他們的網站，以換取現金。
根據 CJR 的報導，數位新聞中心發現，在 ChatGPT 無法找到正確引述來源的情況下，它經常會選擇虛構來源，而不是告知用戶無法找到該引述或被阻止檢索。報告中提到，超過三分之一的 ChatGPT 回覆都存在這類錯誤。
而且，即使是允許 ChatGPT 爬蟲進入其網站的出版物，也未能倖免。報導指出，ChatGPT 經常對 OpenAI 合作機構的記者所撰寫的文章返回完全錯誤或部分錯誤的來源引述。這一情況同樣適用於未與 OpenAI 簽署授權協議但不封鎖 AI 爬蟲的出版物。
這對於 OpenAI 所宣傳的 AI 驅動搜索功能來說是一個極其糟糕的形象。該公司在上個月的部落格文章中稱這一工具能提供「快速、及時的答案，並附上相關網絡來源的鏈接」，並且受到了許多媒體領導人的讚譽，認為它能夠為記者和新聞消費者帶來好處。
OpenAI 的合作夥伴之一、Axel Springer 的高管 Mathias Sanchez 在十月的一份聲明中表示：「隨著 AI 改變媒體格局，Axel Springer 與 OpenAI 的合作開啟了創新進步的巨大機會。我們共同推動新的商業模式，確保新聞既可信又有利可圖。」然而，根據數位新聞中心的評估，ChatGPT 搜索在尋找 Axel Springer 擁有的《政治報》直接引述時，經常返回完全不準確的答案。
調查人員還發現，在爬蟲被出版商阻止的情況下，ChatGPT 有時會返回抄襲的新聞內容。早在八月，我們就報導了這一現象，發現 ChatGPT 經常引用來自阿美尼亞內容工廠 DNyuz 的《紐約時報》報導的抄襲版本。
該研究進一步顯示，ChatGPT 搜索對於同一查詢提供正確來源的能力極其不穩定，當多次給出相同提示時，機器人經常交替返回不準確和準確的來源。
OpenAI 的發言人對數位新聞中心的「非典型」測試方法表示譴責，並補充道：「我們通過幫助每週 2.5 億的 ChatGPT 用戶發現優質內容，支持出版商和創作者，這包括通過摘要、引述、清晰鏈接和來源標註來實現。」
該發言人還表示：「我們已與合作夥伴合作，以提高內嵌引用的準確性，並尊重出版商的偏好，包括通過管理 robots.txt 來啟用它們在搜索中的顯示。我們將不斷改善搜索結果。」
媒體行業仍主要依賴基於點擊的廣告收入，這意味著數位新聞中心的發現可能在商業層面上令人擔憂。如果 ChatGPT 繼續出錯，這些授權協議和訂閱是否足夠盈利以彌補流量損失？更廣泛來看，機器扭曲的錯誤對於複雜而不受信任的新聞和信息環境有何影響：如果生成式 AI 成為網民獲取和消化新聞的主要方式，公眾能否信賴像 ChatGPT 搜索這樣的網絡工具而不會污染整體信息環境？
這些問題仍有待觀察。在此期間，給予使用 ChatGPT 搜索的用戶一個忠告：你可能需要三次檢查一下其信息來源。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
