事實查證：可怕的海洋生物並未從深海被拉起
最近在社交媒體平台上流傳著一些關於海洋生物的虛假視頻，這些視頻展示了具有人體特徵的魚類、巨大的觸手軟體動物在海底游蕩，還有一位漁民與一條奇怪的白鯨合影。這些場景全都是虛構的，但類似的視頻在Facebook、Instagram和TikTok等平台上卻獲得了數千萬的觀看次數。
使用像Kling和Runway這樣的生成式人工智能工具，只需幾個點擊就能製作出極具真實感的視頻，這進一步增加了互聯網上所謂的“AI垃圾”——低質量或誤導性內容。
虛假內容背後的騙子和垃圾郵件發送者
一項針對這類虛假內容的研究發現，背後的垃圾郵件發送者和騙子似乎主要是出於獲利或提升網上影響力的動機。這項研究由斯坦福互聯網觀察所和喬治城大學的安全與新興技術中心的研究人員共同撰寫，研究指出某些Facebook頁面利用虛假內容吸引用戶，然後將他們引導至低質量網站或內容農場，其中一些網站還在出售可疑或不存在的產品，或試圖獲取個人資料。
共同作者喬希·戈德斯坦告訴NPR：“這些頁面可能是惡意的，試圖建立受眾，然後轉向銷售商品或鏈接到充滿廣告的網站，甚至可能改變主題為政治內容。但我更懷疑，許多這些頁面只是創作者意識到這是一種有效的吸引觀眾的策略。”
假視頻的檢測挑戰
《環球郵報》檢視的Facebook、Instagram、TikTok或X上的視頻都沒有平台標籤來指示它們是由AI生成或編輯的。有些創作者在標題中自我披露了使用AI，或使用了標籤來提及他們所使用的生成工具。
隨著AI視頻生成技術的快速進步，社交媒體平台在檢測虛假視頻方面面臨挑戰，因為它們需要處理龐大的內容量。
AI檢測公司Reality Defender的聯合創始人兼首席執行官本·科爾曼在電子郵件中表示，處理虛假內容的問題不僅僅是技術問題，更是平台抵制這一問題的意願以及缺乏監管機構框架的問題。
Meta（Facebook和Instagram的母公司）表示，圖像生成器嵌入了標準化的指示來顯示其AI來源，但目前生成視頻或音頻的信號尚未達到相同的規模。使用Meta自身的AI生成的圖像在左下角有明顯的水印。
TikTok的一篇博客文章表示，該平台正在實施內容憑證系統，以驗證數字內容的真實性和來源，並自動標記AI視覺內容。雖然TikTok對最初的電子郵件作出了回應，但在撰寫本文時未提供有關內容標記的進一步信息。
X的一篇博客文章指出，合成或操縱的媒體不應該發布，這可能會對公共事務造成廣泛混淆，影響公共安全或造成嚴重傷害。X未對《環球郵報》尋求更多信息的電子郵件作出回應。
技巧使視頻看起來更真實
我們審查的視頻使用了一些技巧使其看起來更真實，例如：
– 使用聽起來像著名廣播員和自然學家大衛·阿滕伯勒的旁白，深度偽造聲音檢測器確認了這些聲音是假的。
– 將真實海洋生物的片段與AI生成的片段編輯在一起，模糊了真實與虛假之間的界限。
– 一些視頻大膽聲稱這些生物是科學新發現，從未被見過，或是污染造成的，甚至是陰謀的證據，顯然是為了提高參與度。
儘管AI生成的視頻已經變得相當詳細，但仍有幾個線索顯示它們是虛構的，包括：
– 身體部位融合在一起，或出現後又消失。
– 物體形狀，如爪子和牙齒不一致。
– 物體移動速度的突然變化。
– 生物在被舉起時看起來過輕。
– 地點或名稱的錯誤發音。
– 缺少或不一致的自然聲音。實際上，許多視頻使用了相同的陰森音樂。
《環球郵報》還將樣本視頻上傳到在線AI檢測器，結果顯示這些片段很可能是假的。
海洋中有真正的奇特生物
海洋中本來就有大量奇特的生物，無需依賴AI生成更多。加拿大自然博物館展示了活海參、海葵和海膽。俄羅斯漁民羅曼·費多爾佐夫在社交媒體上分享了從深海捕撈上來的真實動物的圖片，例如這種擁有巨大眼睛的魚。提醒一下，他的一些帖子不適合膽小的人觀看。
這一系列現象反映了社交媒體在信息真實性方面的嚴重挑戰。隨著AI技術的進步，如何讓用戶辨別真偽，並建立對平台的信任，將成為未來亟待解決的問題。對於媒體和社會來說，這不僅是技術問題，更是道德和倫理的挑戰，因為我們需要重新思考在這個資訊爆炸的時代，如何負責任地消費和傳播信息。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
