俄羅斯假新聞入侵AI？西方聊天機械人中招！

zero comment

創新

人工智能

俄羅斯宣傳已經感染西方人工智能聊天機器人——新研究

根據NewsGuard於星期四發佈的研究，揭示了一個令人擔憂的趨勢，顯示大多數西方人工智能聊天機器人無意中正在傳播俄羅斯的宣傳。這個名為“真相”（Pravda）的莫斯科虛假信息網絡，正不斷向搜索結果和網絡爬蟲灌輸親克里姆林宮的虛假信息，導致人工智能系統重複誤導性的敘述。Pravda網絡在2024年單獨發表了360萬篇文章，利用人工智能在前所未有的規模上擴大莫斯科的影響力。

審計結果顯示，十個主要的人工智能聊天機器人中，有33%的時間重複了Pravda推動的虛假敘述。令人震驚的是，其中七個聊天機器人直接引用了Pravda網站作為合法來源。在與NewsGuard分析師Isis Blachez的電子郵件交流中，她表示，這項研究並未“點名”最容易受到虛假信息影響的人工智能系統，但承認這一威脅是普遍存在的。

“我們的研究表明，俄羅斯的影響行動正在改變策略，轉向對人工智能模型的操控，而不是直接針對人類讀者，這樣可以達到更大規模的影響，”Blachez解釋道。

“俄羅斯已經採取了新的策略，使得任何使用人工智能模型的人都容易接觸到俄羅斯的宣傳。這個操控特別令人擔憂，因為它是微妙的，不容易被察覺——這是一個潛在的問題，在幕後運作，影響人工智能的回應，而用戶卻不會意識到，”她補充道。

一種新的人工智能威脅——LLM操控

NewsGuard發現的一個最令人擔憂的做法是所謂的“LLM操控”。這一策略被描述為故意對人工智能模型訓練所用數據集進行欺騙，通過大量灌輸虛假信息來影響它們的輸出。

Blachez指出，這種宣傳的堆砌旨在使人工智能輸出偏向親俄的觀點。Pravda的做法是有條理的，依賴於在49個國家發布多種語言的150個網站的龐大網絡。

“LLM操控是指故意操控人工智能模型訓練所用的數據，最終改變其輸出，以推進某種觀點，在這種情況下是俄羅斯的宣傳。Pravda網絡通過大量發表虛假信息，在許多網站域名上進行灌輸，以飽和搜索結果，並利用搜索引擎優化策略來污染聚合訓練數據的網絡爬蟲，”她寫道。

她補充說，這一努力的規模和複雜性使得人工智能公司難以僅僅封鎖Pravda網站，而不冒著通過其他渠道持續滲透虛假敘述的風險。

報告舉例說，曾有一個虛假聲稱，即烏克蘭總統澤倫斯基在烏克蘭禁止美國總統特朗普的Truth Social應用。十個聊天機器人中有六個重複了這一虛假信息，其中一些直接引用了Pravda文章作為來源。這種虛假信息的清洗利用了人工智能的一個基本弱點——它無法在沒有實質性防護措施的情況下區分可靠和不可靠的來源。

這對人工智能用戶和公司意味著什麼

這場虛假信息的洪流所帶來的影響是相當巨大的。隨著人工智能工具越來越融入日常生活，外國操作者改變和重新塑造公眾看法的風險也隨之增加。Blachez警告說，人工智能公司必須對這一威脅作出反應，以防止其平台被宣傳內容淹沒。

“如果沒有適當的保障措施，人工智能公司就有可能成為克里姆林宮虛假信息目標的工具，”她說。

用戶在抵禦虛假信息方面也有責任。Blachez建議個人應該對人工智能生成的信息進行交叉檢查，特別是在敏感或新聞相關的主題上。像NewsGuard的虛假信息指紋工具，能夠列舉可證明為虛假的聲明，可以幫助用戶識別和避免不可靠的來源。

人工智能滲透的增長威脅

僅僅封鎖Pravda域名並不能解決問題，因為該網絡不斷擴展，新的域名和子域名不斷出現。根據Blachez的說法，內容的龐大數量——每48小時超過20,000篇文章——使得人工智能模型幾乎不可能避免接收虛假敘述。

“僅僅過濾掉Pravda網站並不能解決問題，因為該網絡在不斷增長，”她說。

根據NewsGuard的研究，人工智能提供商無法僅僅封鎖Pravda網站，以消除虛假信息的影響。該報告強調，人工智能公司迫切需要採取更強有力的驗證和內容來源實踐。正如Blachez所指出的，這一風險不僅限於政治虛假信息。Pravda網絡所開創的技術可能會被其他惡意行為者用來操控人工智能模型，涉及從金融市場到健康信息的各種問題。

這一威脅非常明確。如果人工智能公司不採取行動，它們設計的民主化信息的工具可能會成為全球範圍內虛假信息的渠道。

—

這篇文章揭示了人工智能在當今社會中的一個重要議題，即其安全性和可靠性。隨著人工智能技術的迅速發展，如何防範外部勢力的操控，特別是來自俄羅斯這樣的國家，成為了一個亟待解決的問題。這不僅僅是技術問題，更涉及到道德和社會責任。未來，人工智能公司必須加強對數據來源的審查，並建立更嚴謹的驗證機制，才能有效抵禦這種信息戰爭的威脅。同時，作為用戶的我們也應提高自身的媒體素養，對所接收的信息保持懷疑態度，積極進行交叉檢查，才能在這個信息爆炸的時代中保持理智和清醒。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。