馬來西亞與印尼封鎖馬斯克的AI聊天機械人Grok，因其可製作色情深偽影像
馬來西亞和印尼近日封鎖了伊隆·馬斯克（Elon Musk）旗下人工智能聊天機械人Grok，原因是該工具能夠生成帶有色情內容的深偽（deepfake）影像。Grok是馬斯克社交平台X上的一項功能，允許用戶生成圖片，但近來卻被濫用來修改真實人物的照片，將他們描繪成穿著暴露的形象。
這兩個東南亞國家指出，Grok可能被用來製作涉及女性及兒童的色情及非自願影像，屬於嚴重侵犯人權和尊嚴的行為。馬來西亞和印尼成為全球首批封禁這款AI工具的國家。
馬來西亞通訊及多媒體委員會表示，早在年初已多次向X平台發出通知，要求加強監管措施，因為發現Grok被反覆用於生成有害內容。但X平台的回應主要集中於用戶舉報機制，未能有效解決平台設計本身存在的風險。該委員會強調，Grok在有效保障措施落實前將持續被封鎖，並呼籲公眾積極舉報網上有害內容。
印尼通訊與數碼事務部長Meutya Hafid在Instagram發文稱，利用Grok製作色情內容是對人權、尊嚴及網絡安全的嚴重侵犯。印尼當局亦要求X平台澄清Grok的使用情況。過去幾年，印尼已加大打擊網上色情物料的力度，禁止了OnlyFans及Pornhub等平台。
在英國，Grok及其母公司X同樣面臨壓力，科技部長Liz Kendall支持封鎖該社交平台，因其未能遵守網絡安全法律。英國媒體監管機構Ofcom預計將很快就Grok的處理方式作出決定。英國首相Keir Starmer亦譴責利用Grok生成色情化圖像的行為，稱之為「可恥」及「令人作嘔」。
馬斯克早前則表示，針對其平台的批評不過是「找藉口進行審查」。
—
評論與啟示
這次馬來西亞與印尼封鎖Grok事件，揭示了AI技術在快速發展同時所帶來的嚴峻社會挑戰。深偽技術本質上具有雙刃劍的特性——既能創造出令人驚嘆的視覺效果，也能被濫用來侵犯個人隱私和尊嚴。東南亞國家率先封禁此類AI工具，反映了他們對網絡安全及社會道德底線的嚴格把控，也凸顯出不同國家在面對新興科技時的政策差異。
馬斯克作為科技界的領軍人物，其平台X及旗下AI產品若無法有效防範濫用，將會嚴重損害用戶信任，甚至招致各國監管機構的嚴厲制裁。這不僅是技術問題，更是企業社會責任的考驗。對香港及全球用戶而言，這提醒我們在享受AI帶來便利的同時，必須更加留意其可能帶來的倫理和法律風險。
此外，這件事也促使人們反思：面對AI生成的深偽影像，單靠平台本身的自律是否足夠？監管機構如何在保護言論自由與防止濫用之間取得平衡？未來，跨國合作和制定統一標準或將成為治理AI技術濫用的關鍵。
總括而言，Grok事件不僅是一次技術與道德的碰撞，也是全球社會對人工智能規範與治理的試金石。各國政府、企業及用戶必須共同努力，建立一個安全、可信且具有人文關懷的數碼生態系統。
以上文章由GPT 所翻譯及撰寫。而圖片則由GEMINI根據內容自動生成。
