英國禁AI脫衣App 打擊網上性騷擾

英國政府將禁止「深偽AI裸化」應用程式

英國政府宣布，將禁止所謂的「裸化」應用程式，作為打擊網絡性別歧視和保護女性安全的措施之一。新法例於星期四公佈，屬於一項更廣泛的策略，目標是將針對女性和女孩的暴力行為減半。新規定將使創建及提供利用人工智能技術，能夠讓用戶編輯圖片以「脫去」他人衣物的工具成為非法。

政府表示，這些新罪行將會在現有針對性深偽技術及親密影像濫用的法律基礎上加強。科技大臣莉茲·肯德爾（Liz Kendall）強調：「女性和女孩不僅應該在現實生活中獲得安全保障，網上同樣如此。我們不會容忍科技被用作武器，透過非自願的性深偽影像去虐待、羞辱和剝削她們。」

現時，根據《網絡安全法》（Online Safety Act），未經同意製作深偽色情影像已屬刑事罪行。肯德爾指出，新罪行將禁止創建或散播裸化應用程式，違法者及促成者將受到法律嚴懲。

裸化或稱「去衣」應用程式，利用生成式AI技術，逼真地模擬將圖片或影片中人物的衣物「剝除」。專家警告這類應用程式數量上升，虛假裸照可能對受害者造成嚴重傷害，尤其是用作製造兒童性虐待素材（CSAM）時。英格蘭兒童專員瑞秋·德索薩（Dame Rachel de Souza）早於今年4月已呼籲全面禁止裸化應用程式，認為製作此類影像的行為本身已非法，相關技術亦應受禁。

政府表示，會與科技公司合作，研發對抗親密影像濫用的技術，並繼續與英國安全科技企業SafeToNet合作。該公司開發的AI軟件能夠識別及攔截色情內容，甚至在偵測到拍攝色情畫面時自動阻止相機運作。此類技術是基於現有由Meta等平台實施的過濾系統，目標包括阻止兒童拍攝或分享親密影像。

「無存在理由」的裸化應用

禁令出台前，兒童保護機構已多次呼籲政府嚴厲打擊這類技術。互聯網監察基金會（IWF）負責人凱瑞·史密斯（Kerry Smith）歡迎這項措施，指出19%的未成年舉報者表示其影像曾被部分或完全篡改。她直言：「這類裸化應用根本無存在的理由，卻將真實兒童置於更大危險，且這些影像最終被收集於互聯網最黑暗的角落。」

兒童慈善機構NSPCC雖然支持禁令，但策略總監瑪麗亞·尼奧菲圖博士（Dr Maria Neophytou）表示失望，認為政府未展現出同等的決心，推動強制裝置層面的保護措施。該慈善機構等團體呼籲政府要求科技公司研發更便捷的工具，以識別及阻止兒童性虐待素材在其服務中散播（包括私訊中）。

政府亦承諾將使兒童無法在手機上拍攝、分享或觀看裸照，並尋求立法禁止任何設計用來創造或散布CSAM的AI工具。

—

評論與啟示

英國政府此次針對裸化AI應用的禁令，標誌著科技監管進入一個新的階段，尤其是在人工智能日益普及的背景下。裸化應用不僅侵犯個人私隱，更可能成為性剝削和網絡欺凌的工具，對受害者造成心理創傷和社會污名。政府強調與科技企業合作，利用AI技術反制這類濫用，顯示出一種「技術對抗技術」的策略，這在現代網絡安全治理中越來越重要。

然而，禁令能否真正落地，還需依賴執法力度和跨國合作，因為這類應用多數源自境外，且技術更新迅速。值得注意的是，NSPCC的呼聲反映出，除了禁止裸化應用，政府應同步推動更深層次的終端裝置保護措施，建立一個多層次的防護網絡，才能更全面保障兒童和青少年的網絡安全。

此外，這場對AI裸化應用的禁令，亦提醒我們反思人工智能技術的倫理界限。科技本身中立，但使用方式和社會規範需要同步跟進。未來，如何在鼓勵創新與保護個人權益間取得平衡，將是全球面對的共同挑戰。

總括而言，英國的新法案是打擊網絡性暴力和保護弱勢群體的重要一步，但同時也呼籲社會各界持續關注AI技術的濫用問題，並推動更完善的法律和技術防護，確保科技發展真正惠及每一個人。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。