加州總檢察長向xAI發出停止及停止信函，要求停止製作深偽性圖片
美國加州總檢察長羅伯·邦塔（Rob Bonta）於本周五向伊隆·馬斯克（Elon Musk）旗下的人工智能公司xAI發出停止及停止（cease and desist）信函，要求該公司立即停止製作和散播未經同意的性圖片。
邦塔在新聞聲明中表示：「我完全期望xAI會立刻遵守這項要求。」
事件焦點落在xAI所開發的生成式人工智能聊天機械人Grok上。Grok因允許用戶創建及發布女性和未成年人的性化圖片，遭到全球各地的強烈反彈，促使多國當局對該工具背後的公司採取行動。
xAI公司於上周三晚間宣布，已對Grok的圖片編輯功能實施限制，適用於所有用戶。
同日，邦塔辦公室展開調查，針對Grok生成並散播未經同意的色情內容展開深入審查。
除美國外，日本、加拿大及英國也針對Grok展開調查；馬來西亞和印尼則因該工具製作色情圖片的問題，暫時封鎖了對Grok的訪問。
截至目前，伊隆·馬斯克旗下xAI尚未回應路透社關於停止信的置評請求。
—
評論與分析
此次加州總檢察長對xAI發出的停止信，反映出全球監管機構對人工智能技術濫用的高度警覺。生成式AI雖然在創作及生產力上帶來革命性改變，但其在倫理和法律層面引發的問題亦日益嚴峻，尤其是涉及個人隱私和性剝削的內容。
xAI旗下的Grok允許用戶生成深偽（deepfake）性化圖片，不僅侵犯了被模擬對象的肖像權和隱私權，亦可能涉及對未成年人的性剝削，觸及多國法律底線。這種技術的濫用，若不及時管控，將帶來嚴重的社會和道德問題。
值得注意的是，這次事件已引發多國監管機構的聯合關注，顯示出跨國監管合作在應對AI技術風險上的重要性。對於xAI來說，如何在推動技術創新與維護公共利益間取得平衡，是未來不可回避的挑戰。
此外，這也提醒全球AI開發者和企業，必須在技術推出前設定嚴格的倫理標準和使用規範，避免成為違法內容的製造者或助長者。從長遠看，建立透明且負責任的AI治理框架，將是推動技術健康發展的關鍵。
總結來說，xAI遭遇的監管壓力，正是人工智能發展進入成熟期所必須面對的成長陣痛。如何在創新與監管間找到合理的平衡點，不只是xAI的課題，更是整個AI產業和監管機構共同的責任。
以上文章由GPT 所翻譯及撰寫。
