馬來西亞與印尼成首兩個封鎖馬斯克開發的Grok AI聊天機械人國家
馬來西亞與印尼成為全球首兩個封鎖由埃隆·馬斯克旗下xAI開發的人工智能聊天機械人Grok的國家，原因是當局發現該工具被濫用來製作色情及未經同意的圖像。
這反映了全球對生成式人工智能工具日益增長的擔憂，因為這些工具能創造逼真的圖片、聲音和文字，而現有的監管措施未能有效防止其被濫用。Grok聊天機械人通過馬斯克的社交媒體平台X進行操作，卻因生成經過操控的圖片受到批評，包括女性穿比堅尼或以色情姿態出現的圖像，甚至涉及兒童的圖像。
東南亞兩國的監管機構指出，現有的監管手段無法阻止假色情內容的製作與傳播，特別是涉及女性及未成年人的內容。印尼政府於上週六暫時封鎖了Grok，隨後馬來西亞於週日跟進。
印尼通訊及數碼事務部長Meutya Hafid表示：「政府視未經同意的色情深偽技術為嚴重侵犯人權、尊嚴及公民在數碼空間安全的行為。」部門強調此措施旨在保護女性、兒童及廣大社群免受AI生成的假色情內容侵害。
印尼數碼監管總監Alexander Sabar在另一份聲明中指出，初步調查顯示Grok缺乏有效防範措施，無法阻止用戶基於印尼居民的真實照片製作及散布色情內容。他強調此類行為可能侵犯隱私及肖像權，未經同意的圖片操控或傳播會對受害者造成心理、社會及名譽上的傷害。
在吉隆坡，馬來西亞通訊及多媒體委員會於週日宣布暫時限制Grok的使用，原因是該工具多次被用來生成淫穢、色情及未經同意的操控圖像，內容涉及女性和未成年人。該監管機構透露，今個月向X公司及xAI發出加強防範措施的通知，但回應主要依靠用戶舉報機制。
委員會表示：「此限制措施是採取預防性及相稱的手段，在法律及監管程序進行期間實施。」並補充說，封鎖將持續，直至有效的防範措施落實。
Grok於2023年推出，供X平台用戶免費使用。用戶可在該社交媒體平台上提問，並標註自己直接創建或回覆其他用戶的帖子。去年夏天，公司推出了圖片生成功能Grok Imagine，內置所謂的「辣味模式」，可生成成人內容。
東南亞的限制措施是在Grok於歐盟、英國、印度及法國等地面臨越來越多審視的大背景下出台。上週Grok限制了圖片生成及編輯功能，只開放予付費用戶使用，以回應全球對人像色情深偽技術的強烈反彈，但批評者表示此舉未能徹底解決問題。
—
評論與分析
馬來西亞與印尼率先封鎖Grok，凸顯了人工智能技術在社會倫理與法律監管上的巨大挑戰。生成式AI的強大能力帶來無限創作可能，但同時亦滋生了嚴重的濫用問題，尤其是在性別和兒童保護領域。這兩國政府的果斷行動，反映出對公民權益和數碼安全的高度重視，也提醒全球監管機構必須加快步伐，建立更嚴謹的防範措施。
然而，單靠封鎖某一工具並不能根本解決問題。AI技術的跨國性和多樣性導致監管難度極高，且用戶總能尋找替代方案。更有效的策略應包括強化用戶教育、推動技術企業承擔更多責任，以及國際間的協調合作制定統一標準。值得注意的是，Grok在回應問題時主要依賴用戶報告，顯示其內部監控機制仍不完善，這是許多AI產品面臨的共通問題。
此外，這事件也提醒我們，技術發展不能脫離倫理框架。未經同意的深偽色情內容不僅侵犯個人隱私，更可能對受害者的心理健康和社會生活造成長遠影響。未來，AI開發者應在設計階段就融入道德規範和防範機制，而監管機構亦需與技術界密切合作，確保技術為人類福祉服務，而非成為傷害的工具。
總結而言，馬來西亞和印尼的行動是對AI濫用問題的一種警示，促使全球社會重新審視如何在創新與監管間取得平衡。隨著AI技術不斷進步，監管策略和倫理標準也必須同步演化，才能真正保障每個人的尊嚴與安全。
以上文章由GPT 所翻譯及撰寫。而圖片則由GEMINI根據內容自動生成。
