OpenAI Sora 2驚現變態面祭影片風波

zero comment

Sora可能面臨「變態」問題

OpenAI最新推出嘅影片製作App——Sora 2，本來係一個好玩嘅AI工具，容許用戶用自己嘅面孔製作短片。但近日有用家發現，竟然有人利用呢個平台製作帶有變態癖好嘅內容，用真實女性面孔來創作奇怪嘅色情幻想，包括肚皮充氣、孕婦、巨人症甚至足部崇拜等題材。

我嘅經歷就係，喺玩Sora幾日後，發現有人用我嘅面孔製作咗一條孕婦影片，睇咗對方嘅用戶資料，發現佢專注於製作大量肚皮充氣、孕婦等癖好相關影片。雖然Sora有選項容許用戶限制誰可以用自己嘅面孔，但我當時為咗方便同朋友玩，就開咗公開權限。但見到有人用我嘅面孔做呢啲奇怪嘅性幻想內容，真係感覺好唔舒服，甚至覺得有啲噁心。

呢啲變態內容唔止一次出現，過去一星期內，我嘅面孔有超過三分之一嘅熱門影片都係呢啲癖好類型，包括我變成半人馬孕婦生八胞胎嘅奇幻片段。呢類內容唔止用我嘅面孔，亦見過其他女性創作者、科技記者甚至風險投資公司女員工嘅面孔被用喺類似影片入面。

作為一個長期報導網絡文化嘅記者，我見過互聯網上好多奇怪嘅癖好圖像，但用自己嘅真實面孔被製作呢啲內容，完全係另一回事。尤其係呢啲影片係無需本人同意就可以輕易製作，令我感覺被侵犯咗。對普通人嚟講，呢種體驗可能更加令人反感同恐懼。

版權與名人肖像問題

OpenAI推出嘅Sora 2雖然只係邀請制，但已經攞到App Store排行榜冠軍。起初大家關注嘅係假消息同侵權問題，好多用戶製作咗未經授權嘅寶可夢、任天堂角色同「家庭夥伴」等影片。OpenAI對呢啲問題回應有限。

Sora禁止用戶用活著嘅名人面孔，但容許用死者嘅肖像，結果出現大量以Bob Ross、Stephen Hawking、Martin Luther King Jr.為主角嘅影片。喺收到King家族投訴後，OpenAI暫停咗使用Dr. King嘅肖像。呢種「事後求饒」嘅做法，反映OpenAI處理版權問題嘅一貫風格：唔係事先獲得授權，而係事後道歉。

而對於非裸露但帶有性癖好嘅影片，OpenAI會唔會採取同樣嘅態度，仍然係未知數。

Sora容許未成年人與色情明星互動？

除咗孕婦同肚皮充氣癖好，我仲見到一啲令人擔憂嘅內容，例如有人気嘅女色情明星喺Sora上面，有年輕男仔（疑似未成年）製作自己同佢嘅合成影片，其中一條甚至係佢哋兩個喺床上，一齊瞓覺嘅影片（兩人著晒衫），男仔年紀估計得約11歲。

另外，我仲見過一位成年男子製作出約20條以「草裙舞跳舞嘅未成年少女」為題嘅影片。OpenAI最近宣佈為青少年帳號推出家長監控功能，理應可以限制成年同青少年之間嘅互動，但Sora對呢啲問題嘅規定仍然唔清晰，例如青少年可唔可以同色情明星互動？成年人又可唔可以用未成年面孔製作影片？都無定論。

兩個核心問題

第一，用戶係咪應該可以用任何願意公開自己面孔嘅女性嘅肖像，製作呢啲癖好影片？第二，OpenAI又應唔應該阻止用戶用純AI生成嘅虛擬角色，製作呢啲非裸體但帶有性癖好嘅內容？或者OpenAI認為，只要唔係用真實人物面孔，呢啲內容就無問題。

我玩Sora嘅時候有個深刻感受：呢個平台上幾乎冇女性用戶，唔係無原因。女性天生知道畀人隨便用自己面孔製作影片嘅風險，特別係被用嚟做怪異嘅癖好內容。雖然有啲影片好搞笑，例如我喺半人馬孕婦嗰條影片都忍唔住笑咗，但整體嚟講，睇到大量呢類內容，感覺真係好怪異同不安。

呢類癖好影片喺網絡上一直存在，但用真實人面孔咁容易製作，係前所未有嘅。OpenAI對於色情同裸露內容已有一定限制，但可能未有預料到依家呢波小眾癖好影片會咁多。

—

評論與啟示

Sora 2呢個AI影片App既展現咗技術嘅創新潛力，但同時帶來嘅倫理問題亦非常嚴重。用戶面孔被隨意用喺變態癖好影片，係一種新型態嘅數碼身份侵犯，甚至可以視為一種心理傷害。OpenAI及類似平台必須思考如何平衡創作自由與用戶權益，尤其係女性同未成年用戶嘅安全保障。

現時OpenAI似乎仍採取「事後求饒」嘅管理方式，無論係版權還是內容審查，都缺乏前瞻性同主動性。呢種態度喺AI技術快速普及嘅時代，可能加劇用戶嘅不信任感。