Elon Musk旗下X平台因深度偽造色情內容陷入嚴重危機
Grok人工智能被用來製作濫用及非法圖像
Elon Musk今次真係惹上大麻煩。去年12月，X（前身係Twitter）更新咗佢哋嘅生成式人工智能模型Grok，引入咗一個基於提示指令嘅圖片生成器。新版本嘅Grok會喺網站上嘅每張圖片附加提示功能，容許用戶自由操控同扭曲他人嘅相片，而唔需要原圖用戶嘅同意，而且冇任何退出選項。
呢個設計帶嚟嘅混亂係可預見嘅。用戶即刻用X平台大量製造最惡劣嘅情況：用戶自行生成嘅兒童性虐待物料（CSAM）同埋無同意嘅深度偽造（deepfake）名人同非名人圖片，仲有大量法西斯主義相關嘅圖像，甚至有女性被無同意深度偽造成穿著帶有納粹符號比堅尼嘅形象。未成年人的性露骨Grok生成圖像亦開始喺暗網大量流傳。用戶流行嘅提示包括「畀佢著納粹比堅尼」、「放大佢嘅胸部」、「加血」同「換成阿道夫嘅面孔」等極端指令。
事件更惡化喺一名美國移民及海關執法局（ICE）官員Jonathan Ross槍殺一名平民後，有用戶試圖用Grok生成完全虛構嘅疑犯面孔，甚至製作受害者Renee Good嘅性化圖像，包括操控事發現場嘅敏感身體圖像。Grok官網（獨立於X）嘅限制更少，有報道指其平台仲生成咗極度血腥暴力嘅內容。
喺美國，主辦CSAM會面臨嚴重法律後果，但Musk似乎自信（可能係因為佢同特朗普政府關係密切）可以避過法律制裁。
不過，國際形勢就唔同。X平台嘅狀況嚴峻到全球多地政府紛紛出手限制，反觀美國立法者似乎無能或無意行動。澳洲、加拿大、愛爾蘭同英國嘅官員同民間領袖都呼籲放棄使用X。X平台已經失去咗Twitter曾經作為重要公共論壇嘅地位，變成色情、錯誤資訊同垃圾內容嘅溫床。
根據美國法律，社交媒體平台收到通知後有48小時內要刪除未經同意嘅性露骨圖像，包括AI生成嘅內容。呢類內容過去被稱為「復仇色情」，但隨住深度偽造同Grok嘅易用提示工具，呢個現象嘅範圍同規模大大擴大，媒體稱之為「數碼脫衣」。
儘管有法律規定，Musk嘅平台回應緩慢，甚至拒絕刪除一名前伴侶要求移除嘅數碼脫衣圖像。X安全團隊表示會努力清除非法內容，並呼籲用戶向聯邦機構舉報CSAM。
CNN報道指，Musk反感審查圖像，喺推出提示工具前大幅裁減信任與安全團隊人手，放走多名曾表達憂慮嘅員工。
Musk並冇暫停工具以加強過濾，反而喺1月9日聲稱將工具設置部分付費牆，只限驗證用戶使用。但實際上，提示工具依然對所有X用戶可見，免費用戶亦可喺Grok獨立網站使用。換句話講，Musk似乎利用「已限制」嘅說法誘使用戶付費驗證，從用戶生成嘅內容中獲利，而非真係限制內容。
Musk對非法圖像氾濫嘅態度顯示佢唔認為Grok應該負責，呢個立場令一向致力削弱甚至推翻1996年《通訊端正法》第230條（Section 230）嘅保守派美國立法者陷入矛盾。該條例保障網絡平台唔會因用戶發帖內容負法律責任，雖然唔適用於非法內容，但過去十年嚟，立法者嘗試利用各種法案打擊CSAM，實際上卻對LGBTQ群體、性工作者及性教育者產生不成比例影響。
目前，法院傾向認定平台需為其內置工具（如Grok）產生的非法內容負責。美國司法部承諾「積極起訴任何持有或製造CSAM者」，但法律尚未明確界定AI生成圖像中用戶與工具製造者嘅責任歸屬，Musk因此仍可利用Section 230作為法律盾牌。
通常，對CSAM網站嘅打擊會係共和黨議員嘅優先事項，但由於Musk係全球首富兼特朗普嘅重要盟友，目前共和黨掌權下，嚴格打擊Grok嘅可能性極低。
上週五，三名民主黨參議員，包括Section 230共同作者Ron Wyden，呼籲谷歌同蘋果將X與Grok從應用商店下架，指出平台生產CSAM明顯違反應用商店規定，但谷歌同蘋果迄今仍允許X存在。
目前只有少數共和黨人如Ted Cruz及Marsha Blackburn公開批評X同Musk。副總統J.D. Vance上周喺華盛頓會見英國副首相David Lammy時，曾表示Grok工具「不可接受」，AI生成內容「充斥色情垃圾」，但並無表現出實際行動意向。
有分析指，監管X平台可能會落到各州政府手上，但以X約1.25億日活躍用戶規模，監管難度極大。
美國以外，全球多國表態強烈譴責X同Musk。包括印度、法國、巴西及歐盟委員會在內數十國已展開調查，甚至威脅全面禁止X。
歐盟發言人Thomas Regnier直言，呢啲內容「非法、令人震驚、噁心」，「歐洲絕不容許」。他亦提及歐盟已因Grok生成否認大屠殺言論事件，罰款X平台。
英國政治人物亦強烈反彈，首相Keir Starmer支持媒體監管機構Ofcom加強監管，科技部長Liz Kendall甚至暗示會封鎖X，理由係違反深度偽造相關法律。Musk則反指英國想「壓制言論自由」。
呢啲事件並非首次全球監管機構針對美國科技巨頭，過去多年來，矽谷巨頭為應對歐盟《通用數據保護條例》罰款等問題已經疲於奔命。
現時德國及印尼等國甚至考慮將違規AI生成內容當作刑事犯罪處理。印尼及馬來西亞已率先暫時禁止Grok工具，但尚不清楚是否連X平台都包括在內。
除咗監管調查外，英國對此回應被批評「進展緩慢」。報道指英國正與加拿大及澳洲商討聯合制裁或封禁X，但加拿大相關部長隨後否認有封禁計劃。
歐盟亦正籌備網絡基礎設施新規，但據報美國科技公司將獲得較寬鬆嘅「最佳實踐」指導，而非強制性規定。去年12月，歐盟曾罰款X 1.4億美元，引起特朗普政府強烈不滿，甚至威脅對歐盟採取報復措施。
此外，過去Twitter時代包括Musk及前任Jack Dorsey時期，CSAM問題已經嚴重，隨住生成式AI出現，問題更加惡化。
多個媒體向Musk旗下AI公司xAI查詢，均只收到自動回覆「傳統媒體造謠」。政府是否會得到同樣回應，仍未可知。
—
評論與啟示
Musk所推嘅生成式AI工具Grok，顯示出科技創新與道德監管之間嘅巨大矛盾。雖然AI技術為創作帶來新可能，但缺乏適當監管同用戶保護，便容易被惡意利用，造成嚴重社會問題，特別係性剝削同假資訊。
Musk利用Section 230作為法律盾牌，反映出美國現行法例對新興AI問題嘅滯後性。現時法律未能明確界定AI工具開發者與用戶責任，為非法內容泛濫提供了漏洞。更令人關注係，政治勢力同財富權力可能影響執法力度，令法律執行出現偏差。
國際社會對X平台嘅強烈譴責，尤其歐盟及英國嘅嚴厲態度，顯示全球監管趨嚴。美國內部政治與利益牽制，使得跨國監管合作成為未來解決問題嘅關鍵。各國如何協調立法、技術監管與人權保障，將成為數碼時代重要挑戰。
最後，Musk嘅策略似乎係利用付費驗證限制，將危險工具商業化，反映出科技巨頭喺商業利益與社會責任間嘅掙扎。公眾、監管機構與科技界需持續對話，尋求平衡創新與安全嘅可行方案，防止AI技術成為新一代社會亂象嘅溫床。
以上文章由GPT 所翻譯及撰寫。而圖片則由GEMINI根據內容自動生成。
