人工智能將我們的生活變成《楚門的世界》
大型語言模型可能會創造混亂和錯誤的信息多元宇宙
想像一下不久的將來，我們每個人都生活在由人工智能驅動的數字過濾氣泡中，這些過濾氣泡專為我們量身定做，旨在服務於企業的利益。這種未來就像1998年的電影《楚門的世界》，主角楚門（由吉姆·凱瑞飾演）在不知情的情況下，整個人生都生活在一個真人秀節目中，他的每一個經歷都由製作公司精心編排。
大型語言模型這一類人工智能不會讓我們的生活變成真人秀——可惜沒有這種運氣。相反，個性化的人工智能代理威脅著將我們每個人困在一個個性化的虛假現實中，剝削我們的數字資源，並使我們與其他人之間的真實聯繫隔絕。
我們已經在這條路上。蘋果公司在十月推出的Apple Intelligence可能成為我們與人工智能關係的一個轉折點：這一新版本將為全球超過十億的人提供高度可及的大型語言模型體驗。但蘋果僅僅是眾多公司中的一個，包括OpenAI、谷歌以及一系列初創公司，這些公司都在開發個性化的大型語言模型。
個性化的對準原則
這所謂的個性化對準原則是，人工智能模型將學習個別用戶的情況——他們知道什麼、不知道什麼、喜好和厭惡、價值觀和目標、注意力跨度和偏好的媒體形式，並根據這些信息進行調整。
目標是將一個量身定制的人工智能放在每個用戶和互聯網上海量信息之間，找到他們想要的信息，重新包裝以符合他們的口味和背景知識，並將其呈現到他們的屏幕上。如果這個項目成功，我們對世界的集體理解將進一步破碎。我們將不再生活在幾個競爭的過濾氣泡之一；每個人都將生活在自己的私人過濾氣泡中。
這是一個最佳情況的假設，系統僅為用戶的利益而設計。但當然，它們不太可能保持良性。就像互聯網上的所有事物一樣，它們將變得“糟糕化”，被科技行業利用來剝奪我們的財富，同時攫取我們的注意力。
想想像美國的傳統如大學美式足球。你是否是俄亥俄州立大學巴克艾斯隊的超級粉絲？你是否花費大量時間點擊俄亥俄州立足球的新聞，購買相關商品，訂閱視頻、播客和新聞源？你會在所有設備上24小時接收到這類信息。一些算法甚至會學習你的日常時間表並相應響應，在你最可能查看的時間推送信息。
撇開足球競爭不談，這聽起來似乎無害（雖然有些無聊）；在許多方面，這已經描述了我們的在線體驗。Facebook、X、Instagram、谷歌等的用戶追蹤算法已經在追蹤我們的興趣和習慣，以選擇填滿我們屏幕的內容。但下一步將釋放大型語言模型來生成模因甚至整篇文章，針對我們每個人和我們的興趣量身定制，旨在讓我們保持對內容的參與，比如那些偽裝成信息的廣告，以增加我們購買的可能性。
大型語言模型將創建關於你最喜愛的大學足球隊、他們的招募過程和即將到來的賽季前景的完整文章。你將收聽聽起來像體育談話電台的人工智能生成播客。你還會被灌輸關於競爭對手足球隊的陰謀論：例如，他們如何從事招募違規、如何作弊、他們的教練團隊成員與可卡因帝國有關聯等等。
真相的缺失與個體的孤立
這是一個悲慘的現實，至少有兩個原因；首先，沒有計算方法或道德激勵來確保你收到的信息是真實的。這個項目的目標顯然不是描繪現實。大型語言模型將生成哲學家所稱的“胡言亂語”。它們的設計是聽起來似乎合理和權威，而不是事實上準確。
但與此同樣可怕的是，對真相的公然漠視還有一個更可怕的元素。我們假設的俄亥俄州立足球粉絲將不再對大學足球有準確的理解，這種理解與其他人的理解完全不兼容——甚至與其他俄亥俄州立足球粉絲也不相容。這位粉絲將依賴於僅為他自己生成的信息。大型語言模型已經如此高效，以至於重用內容變得不必要——為什麼要為兩個不同的人生成相同的文章，當大型語言模型可以同樣輕鬆地為每個人量身定制兩篇文章？這一願景令人不安，即使是談論體育和娛樂。但對於那些有更直接社會後果的機構呢？宗教？教育？政治？
政治光譜上的評論員們都在惋惜新聞業的衰落和一切的極化。許多大家庭的節日餐桌上的對話已經變得不可能。
現狀雖然糟糕，但未來的奇怪時代可能會讓我們懷念今天的回音室。很快，我們的氣泡將越來越小，直到我們的數字世界僅僅涉及到自己。在一個由人工智能調解的未來，我們每個人都將生活在一個私人《楚門的世界》中。作為一個社會，我們將完全無法做出有益的集體決策，因為我們將沒有共同的世界理解。
我們的應對之道
那麼，我們有什麼應對措施呢？首先，記住我們的父母，以及更早的他們的父母給出的建議，這一建議可以追溯到電視廣泛普及的時代：走出去玩。停止盯著那個屏幕。與朋友面對面相聚。在有實際人的地方尋找你的娛樂，彼此交流思想和創意。
即使在網上，我們也必須將對世界的理解根植於人類創作的文件和文物中。重視人類創造的東西不僅僅是出於真實性的考量；這也確保我們專注於作者關心的論點，專注於發言者關心的對話。
否則，《楚門的世界》的前提將成為我們的現實，無意中生活在一個虛假的世界中，我們的每一個經歷都是為了利潤而精心策劃的。更令人感到存在上的疏離的是，生活在一個楚門秀中，導演、製片人和唯一的觀眾都是人工智能。
這篇文章提供了一個深刻的視角，讓我們反思人工智能的發展如何可能影響我們的社會結構和人際關係。隨著科技的進步，個性化內容的生成不僅僅是技術的演進，更是對人類思維和社會互動方式的挑戰。我們或許需要重新審視我們與技術的關係，如何在享受便利的同時，保持對真實世界的敏感與連結。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
