為何Sora；OpenAI最新的AI視頻生成器應該讓你擔憂
在ChatGPT和DALL-E之後，OpenAI的Sora會讓互聯網變得更糟嗎？
Sora是日文中「天空」的意思。每當我看到Sora（空）的漢字時，總會想起一座高聳入雲的城堡，或者一個人站在建築物頂端，感受著涼爽的春風。有趣的是，這些感受也可以作為Sora的提示，OpenAI最新的AI視頻生成器，只需將這些提示輸入文本框，Sora便能相對輕鬆地為你生成這些視頻。
OpenAI最近向公眾發布了Sora，所有ChatGPT Plus和Pro訂閱者均可使用。該公司表示，Sora這個名字靈感來自上述日語單詞，旨在展示該AI模型擁有的「無限創意潛力」。OpenAI還要求用戶必須年滿18歲才能使用Sora。
在公開發布之前，OpenAI已將該工具提供給來自各行各業的特定人群。儘管Sora的發布是多年努力和研究的結晶，但它也引發了許多嚴肅的問題；稍後會詳細探討這些問題。現在，我們先來看看Sora的運作方式。
Sora的運作原理
Sora的運作方式與其他AI模型相似。與其兄弟產品ChatGPT和DALL-E一樣，用戶可以在文本框中輸入提示。模型會分析文本，然後生成一段不超過30秒的小視頻，並努力忠實於你輸入的文本。OpenAI不僅會為用戶提供其他用戶在其平台上生成的視頻，還會顯示用戶在生成視頻時所輸入的提示。
除此之外，該工具還允許用戶上傳照片並生成視頻。Sora會拒絕任何包含可識別面孔或角色的內容，並且會檢測並拒絕任何包含未滿18歲人士的上傳內容。所有由該工具生成的視頻也會帶有動態水印。儘管如此，OpenAI過去因其對模型訓練政策的模糊性而受到批評，據報導其在訓練中使用了受版權保護的作品，這一點稍後會詳細討論。
登錄Sora的首頁，你會看到各種各樣的AI生成視頻，從戴著聖誕帽的小狗到伴侶在舞池中翩翩起舞，還有在雪地中的北極熊、在酒吧裡跳舞的外星人、卡通角色，甚至是一尊享用拉麵的大佛雕像。儘管OpenAI會展示他們精心挑選的數千個用戶生成的視頻，但這也顯示了這個工具的強大能力。
在撰寫本文時，OpenAI已暫停新帳戶的創建，理由是流量過大，當再次接受新帳戶創建時，將會有趣地觀察用戶會生成多少視頻。
這一切都很好…對吧？
嗯，並不完全如此。儘管OpenAI試圖最小化受版權材料及其生成內容中的任何相似之處，但這仍然顯得模糊。最近，科技YouTuber Marques Brownlee在YouTube上發布了有關該工具的視頻。在視頻的一部分中，他分享了他如何在Sora中輸入提示，生成一段有關科技評論員評論兩款智能手機的視頻。
然而，當結果出現時，他注意到視頻中出現了他在視頻中使用的植物。有趣的是，他並沒有在提示中要求Sora添加這種植物，這引發了OpenAI是否真正執行避免版權材料政策的質疑。
深偽技術與監控攝像頭的故事
批評者一直對生成AI工具及其深遠後果表達強烈意見。創造越來越逼真的深偽技術從未如此簡單，而許多專家建議，隨著生成AI工具的快速發展，這種情況只會變得更加容易。深偽技術不僅可以用來創造虛假的政治和社會敘事以推動議程或在大眾中製造分歧，還可以用來騷擾他人、陷害他們，以及對他們施加心理和情感上的虐待。
這也使女性的安全面臨風險，已經有多起案例顯示，有人將演員的面孔替換為女性的面孔，出現在色情素材中。這種巨大的影響以及相關的創傷是無法衡量的，充分顯示了生成AI的危險性。根據AI事件數據庫，一個專門索引AI造成的傷害案例的平台，許多著名的英國女性政治家已成為非自願的深偽AI生成色情素材的受害者。
更不用說，隨著像Sora這樣的AI工具的出現，創造偽造的監控攝像頭錄像變得前所未有的簡單。許多政府對於監管或規範AI及其內容的法律框架幾乎沒有，這不禁讓人質疑，我們該如何劃定創新與人類成本之間的界限？
AI對環境的影響
除了對安全的影響以及可能欺騙人們和散播錯誤信息的潛力外，AI對地球的影響也是公開的秘密。像ChatGPT、DALL-E、Copilot、Meta AI等大型語言模型和生成AI需要消耗巨大的能源和稀土礦物才能最佳運作。平均而言，一個AI模型所需的電力足以供應數十萬個家庭。
大型伺服器房產生的熱量和為其降溫所需的水量相當於一個小國。相對而言，開採稀土礦物可能對當地生態系統造成重大且有時無法逆轉的損害。AI對環境的深遠影響以及其不受控制的增長對我們已經因氣候危機而苦苦掙扎的星球構成了重大風險。根據歐盟科學家的說法，2024年將成為有紀錄以來最熱的一年，而情況只會變得更糟。
接下來會怎樣？
目前，AI熱潮似乎會持續下去。市場趨勢也似乎支持這一說法，Nvidia最近超越Apple成為全球最有價值的公司，這得益於對GPU的需求上升，這對於AI模型的順利運作至關重要。
「死去的互聯網理論」已經在成為現實。一位AI Quora用戶在過去一個月內的回答瀏覽量達到100萬次。
一些人也認為，AI熱潮將進一步鞏固「死去的互聯網理論」，該理論基本上認為如今互聯網上充斥著機器人和AI生成的內容，而人類活動則寥寥無幾。無論你怎麼看待，像Sora這樣的工具的出現描繪了未來的陰暗圖景。也許這可以成為你下一個AI的提示。
在這篇文章中，我們看到了AI技術的兩面性，既有創造性的潛力，也有潛在的危險。雖然Sora等工具可能會為創作者帶來便利，但其背後的道德和社會問題卻不容忽視。隨著AI技術的不斷發展，我們必須更加謹慎地考量其對社會的影響，並尋求適當的規範來平衡創新與風險。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
