Elon Musk的AI聊天機械人Grok宣布新政策 加強防範性化深偽影像於X平台
Elon Musk旗下的AI聊天機械人Grok，近日宣布更新政策，聲稱將加強對於性化深偽（deepfake）影像的防護，尤其是在社交平台X（前Twitter）上。這項新措施正值加州展開相關調查，英國亦威脅有可能禁止該服務。
根據X安全帳號於美東時間周三下午6時前發表的聲明：「我們已採用技術手段，防止Grok帳號允許使用者編輯現實人物穿著暴露服裝（如比堅尼泳衣）的影像。此限制適用於所有用戶，包括付費訂閱者。」
同時，X安全更新還強調，平台對於兒童性虐待材料（CSAM）和非自願裸露內容採取嚴厲態度，並重申先前的政策變動：Grok帳號在X上的影像生成和編輯功能現只限付費訂閱者使用。
此外，X安全帳號表示，他們已具備地區封鎖功能，能在法律禁止的司法管轄區限制用戶透過Grok帳號生成現實人物穿著比堅尼、內衣或類似服飾的影像。
Grok和X今年初面臨嚴重批評，因有用戶利用AI生成大量性化且未經同意的名人和兒童影像在平台上流傳。加州總檢察長Rob Bonta已要求Grok的開發者xAI採取措施，刪除並防止此類影像出現，並威脅將「動用一切可用手段」保障民眾安全。
Bonta指出：「這些描繪女性和兒童裸體以及性暗示情境的材料，被用來在網絡上騷擾他人。」
與此同時，xAI及Grok的負責人Elon Musk在X安全帳號宣布新安全措施當天，似乎在挑戰用戶「試圖突破Grok的影像審查機制」。
英國首相Keir Starmer亦公開表示，如果X平台無法控制Grok，他們將自行採取行動。印尼和馬來西亞已在週末封鎖Grok服務。
政治人物亦針對Grok和X平台施壓，三位參議員呼籲Apple將相關應用程式從App Store下架，但截至周三晚仍可下載。
據BBC報導，X近期政策調整可能反映公司領導層意識到，平台可能不受美國30年前《通信端正法》第230條保護。該條款保障科技公司免於因用戶生成內容而面臨訴訟，但由應用自身技術生成的影像等內容，法律保護可能較弱。
—
評論與深入分析
Grok這次的政策更新，無疑是回應多地政府和社會對AI生成內容濫用的強烈關注。尤其是涉及未經同意的性化深偽影像，對個人隱私和社會道德帶來重大挑戰。加州和英國等地的調查與威脅封禁，反映出全球對AI監管的緊迫需求。
然而，Elon Musk在同日表現出的挑戰態度，似乎透露出他對於言論自由與監管之間的博弈態度。這種「先鋒式」的企業家行為，帶有一定的風險，可能加劇政府與科技企業的對立，甚至影響用戶信任。
從技術角度看，限制影像生成功能只對付費用戶開放，以及地理封鎖措施，是短期內可行但不夠根本的解決方案。AI生成的內容監控需要更精細的技術與法律框架配合，才能有效阻止不法行為。
此外，Grok事件也凸顯了全球科技平台在面對跨國法律與文化差異時的困境。不同國家對於性化內容的容忍度和法律規定差異巨大，如何在保障用戶權益與符合法律間取得平衡，是所有AI平台必須正視的課題。
總括而言，Grok事件是一個警示，提醒我們AI技術發展與創新必須伴隨嚴謹的倫理與法律監管。未來，企業與政府間的合作、透明且負責任的技術應用，將是維護網絡生態和社會秩序的關鍵。
以上文章由GPT 所翻譯及撰寫。而圖片則由GEMINI根據內容自動生成。
