OpenAI Sora推AI生成短片 社交媒體新時代？

OpenAI的Sora引領AI生成社交媒體新時代
隨著Sora 2的推出，OpenAI開啟了一個充滿上癮性、同時令人憂慮的AI短視頻內容新篇章。

告別現實：AI生成的社交媒體已經來臨

OpenAI於本週二推出了全新應用程式Sora，這款專門用AI生成短視頻的社交媒體應用，讓用戶可以看到一系列奇特又搞笑的10秒短片，例如一個法西斯風格的海綿寶寶、一隻開車的狗，還有耶穌在玩Minecraft。用戶甚至可以通過簡單的文字提示，輕鬆創作自己想要的內容，形成一條高度上癮的視頻流。

這款應用剛推出沒多久，Meta也發布了類似的AI視頻產品。NPR搶先體驗後發現，OpenAI的Sora能輕鬆生成非常逼真的視頻，甚至是實際人物（經過同意）的影像，這令不少研究人員既驚艷又憂心。

紐約大學社交媒體與政治中心副教授Solomon Messing指出：「你可以創造出極其真實的視頻，讓你的朋友說出他們絕不會說的話。我認為我們可能已經進入了一個‘眼見不一定為實’的時代。」

深度偽造的TikTok

Sora 2的介面和使用感覺與TikTok等垂直視頻社交平台極為相似，用戶可以按心情等條件篩選視頻。OpenAI表示，用戶可以完全控制自己的臉部影像在AI生成視頻中的使用範圍，選擇是否讓所有人、部分好友或只有自己使用，且隨時可以刪除含有自己影像的視頻。

此外，Sora的視頻都會帶有動態水印和嵌入式元數據，標明為AI生成，方便辨識。OpenAI也設置了多項防護措施，禁止生成欺詐、詐騙、冒充等有害內容，並結合自動化與人工審核來監控濫用行為。

然而，NPR在試用過程中發現這些限制並非完全嚴格，有些陰謀論視頻居然能被生成，比如看似美國前總統尼克森在電視上宣稱登月造假，甚至還有阿姆斯壯在月球摘除頭盔的畫面。更有甚者，還能生成無人機攻擊發電廠的視頻，涉嫌違反暴力和恐怖主義相關規範。

另外，Sora也能生成關於化學、生物、放射性和核武器的短片，這明顯違反了OpenAI的全球使用政策。這些視頻雖未被分享且內容錯誤，但顯示現有防範機制仍有漏洞。

逃脫的馬戲團小丑

雖然不清楚其他用戶是否也發現類似漏洞，但大量內容顯示Sora被用來創作大量包含商標和版權角色的視頻，例如一段影片中麥當勞叔叔駕駛漢堡車逃避警察，還有許多知名卡通和遊戲角色出現。

OpenAI對此表示知情，認為允許用戶使用這些角色能激發更多創意和粉絲互動，並承諾會配合版權方在收到要求時封鎖相關角色和處理下架申請。

值得一提的是，OpenAI目前正面臨《紐約時報》就其大型語言模型ChatGPT提起的版權侵權訴訟，凸顯AI生成內容與版權法律的激烈碰撞。

勇敢的新虛擬世界

對於完全由AI驅動的社交媒體未來走向，Messing表示仍充滿不確定性。雖然過去幾年「深度偽造」技術引發社會恐慌，但實際上這些視頻尚未造成大規模社會崩壞。然而，Sora輕鬆生成高質量視頻的能力，或許標誌著一個「看見不再等於相信」的新時代即將來臨。

他坦言：「我真是無言以對，沒想到這些內容的水準會這麼高。」

—

評論與分析

OpenAI的Sora象徵著AI技術在社交媒體領域的快速滲透與演進，短視頻的超高生成速度和逼真度將徹底改變人們消費和創作內容的方式。然而，這也帶來了前所未有的倫理和監管挑戰。假視頻可能被濫用來製造假新聞、操控輿論，甚至破壞個人名譽和公共信任，讓「眼見為實」的傳統觀念徹底瓦解。

OpenAI雖然設置了多重防護措施，但實際效果有限，顯示AI內容的監管和治理還遠遠不夠成熟。尤其是涉及版權和知識產權的問題，更是未來AI產業不可迴避的法律雷區。企業如何在鼓勵創新和尊重權益之間取得平衡，將是決定AI社交媒體能否健康發展的關鍵。

此外，公眾的媒體素養也亟需提升，學會辨別AI生成內容的真偽，避免被虛假信息蒙蔽。社會整體必須建立起新的信任機制和驗證手段，否則AI驅動的社交生態可能帶來更多混亂和分裂。

總結來說，Sora的出現既令人振奮，也引人深思。它既是技術進步的象徵，也是我們面對未來信息安全和倫理問題的警鐘。如何在這場AI浪潮中守護真實與信任，是科技公司、監管機構與用戶共同的重大課題。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。