中國出招：所有AI生成內容要標籤！點執行？幾有效？

所有網上AI生成的內容必須標記，中國宣布

中國網絡監管機構——中國網絡空間管理局（CAC）與多個政府部門合作，宣布所有互聯網上的AI生成內容必須進行標記。根據彭博社的報導，這項新規定要求任何合成內容必須在其描述中明確標識，或通過元數據編碼進行標記。

這是一個重要的轉折點，因為各國政府努力加強控制，應對互聯網上充斥著低質量AI生成內容的問題。監管機構長期以來對科技被濫用以傳播虛假信息和有害材料發出警報。

前總統喬·拜登在2023年試圖通過一項行政命令來解決這個問題，但該命令隨著其繼任者唐納德·特朗普的上任而被撤回。當前的特朗普政府不僅未能抑制生成式AI的問題性使用，反而開放了大門，甚至指示聯邦機構刪除AI指導方針，鼓勵他們更多地使用這項技術。

這與中國和歐盟形成了鮮明對比，後者進一步推動了有關標記AI生成或操縱內容的規則。去年，歐盟通過了《AI法案》，這是首個針對AI的法律框架，旨在解決AI風險，並使歐洲在全球發揮領導作用。

現在，中國也隨之而來，宣布了一套新規定，要求互聯網服務提供商標記AI生成的材料。CAC在一份聲明中表示：「標記法將幫助用戶識別虛假信息，並使服務供應商對其內容的標記負責。這是為了減少對AI生成內容的濫用。」

根據這些新規定，應用商店運營商必須審查標記機制，以確保遵守新規範。根據《南華早報》的報導，即使是用戶在發佈AI生成內容時也必須進行聲明。那些事後更改AI內容標記的用戶可能面臨處罰。

然而，隨著AI生成的內容變得越來越難以與真實內容區分，對於AI標記規定的有效性以及其可執行性仍然存在疑問。早期解決這個問題的嘗試也未能奏效。去年，Meta試圖在Facebook、Instagram和Threads上推出「使用AI製作」標籤，但該計劃一開始就失敗，因為用戶立即發現該功能將真實照片標記為AI生成。

同時，互聯網上AI生成內容的浪潮達到了沸點，淹沒了整個平台。上個月，Futurism發現Pinterest被一波不尋常的AI生成內容所淹沒，讓用戶感到沮喪。在這個圖片分享網站上，對於「健康食譜想法」的簡單搜索結果中，前六個結果明顯是AI生成的，只有一個被明確標記為合成內容。

我的看法

這項新規定反映了中國政府對AI技術日益增長的關注及其潛在風險。雖然標記AI生成內容的措施是朝著正確方向邁出的一步，但實際執行的挑戰卻不容忽視。隨著技術的進步，AI生成的內容越來越難以識別，這使得僅僅依賴標記來保護用戶不被誤導的做法可能顯得力不從心。

此外，這些規定是否能夠有效執行，還取決於監管機構的執法能力和用戶的配合程度。如果用戶對於這些標記的遵從度不高，或是政府機構缺乏足夠的資源來進行監察和執法，這些措施可能最終會淪為一紙空文。因此，未來需要更多的技術創新和社會合作來應對AI技術帶來的挑戰，以確保網絡環境的健康與安全。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。