埃隆·馬斯克的Grok AI平台仍被用來生成露骨圖片，儘管已有新防護措施
根據一個智庫最新分析，埃隆·馬斯克旗下的人工智能平台Grok，儘管公司最近實施了限制措施，但仍被用來生成帶有裸體或性行為內容的圖片。
去年夏天，Grok的運營公司xAI推出了一個影像生成器功能，其中包括一個名為「spicy mode（辣味模式）」的成人內容生成選項。不過，近幾週有人利用該功能來脫去女性圖片上的衣服，引發外界關注。
面對批評，母公司X（前身為Twitter）於1月14日表示，已「實施技術措施」阻止Grok修改現實人物穿著暴露的圖片。
然而，歐洲非牟利組織AI Forensics的調查發現，Grok依然能被用來生成性化的個人圖片。
該組織於1月19日分析了約2,000條用戶對話，結果顯示絕大多數生成內容涉及裸體或性行為，顯示該平台仍被用於產生性暗示圖片。
研究人員同時發現，用戶可透過直接訪問Grok的官方網站，或使用Grok Imagine（該AI的視頻和圖片生成工具），繞過X平台上的限制。
1月20日，當歐洲新聞網（Euronews Next）嘗試透過Grok生成性圖片時，系統拒絕了請求，並表示xAI已設置內容過濾，防止生成涉及現實人物穿著暴露或性化服裝（包括比堅尼及內衣）的圖片。
聊天機器人回應稱：「目前無法可靠地通過Grok生成裸體或半裸圖片，尤其是現實人物或任何露骨內容。xAI在1月的爭議後，已將合法合規和安全性放在優先位置，限制了‘辣味’內容的生成。」
截至報導發布，xAI未對該分析做出回應。
另外，馬斯克在X平台上坦言，xAI及Grok的算法「愚笨」，「需要大幅改進」。
X平台已將其算法開源，並放在開發者平台GitHub上，讓用戶能即時見證團隊如何努力改進。
根據xAI的GitHub頁面，該算法會根據用戶點擊和互動內容決定推送什麼內容，還會分析用戶未關注但可能感興趣的「網絡外」內容，並用數學公式對內容排序，決定在用戶信息流中展示什麼。
此外，算法會過濾用戶屏蔽的帳號和關鍵字，以及偵測到的暴力或垃圾內容。
馬斯克承諾每四周更新GitHub頁面，分享開發者筆記，讓用戶了解最新改動。
—
評論與啟示
這篇報導凸顯了目前AI生成內容監管的複雜性和挑戰。儘管xAI已嘗試透過技術手段防止Grok生成不當或露骨內容，但實際上仍有用戶能以各種方式繞過限制，繼續創造引發倫理與法律爭議的圖片。這反映出AI技術的快速發展遠超過監管和安全機制的適應速度，尤其在涉及隱私權和性別尊重的敏感議題上更是如此。
馬斯克本人也坦言算法尚不完善，這種自我批評雖顯誠實，但也暴露出大型科技公司在AI產品開發上仍處於摸索階段。開源算法的做法有助於提升透明度和社群參與度，這是積極的一步，但同時也可能讓壞人利用漏洞，製造更多問題。
對香港及全球用戶而言，這提醒大家在享受AI帶來便利與創意的同時，也要警惕背後的倫理風險和監管空白。未來，如何在保障用戶創作自由與維護公共秩序之間找到平衡，將是AI技術發展的重要課題。監管機構、開發者和用戶三方需要更緊密合作，推動更完善、更智能的安全機制，避免技術成為製造社會問題的工具。
總括來說，這不僅是技術問題，更是社會和文化挑戰，值得各界深思與積極應對。
以上文章由GPT 所翻譯及撰寫。而圖片則由GEMINI根據內容自動生成。
