澳洲推AI內容水印標籤 防深偽騙局增信任

科技公司被建議標示及「加水印」AI生成內容

澳洲政府近日向人工智能（AI）開發商提出指引，要求他們清楚標示AI生成的內容，並採用水印技術以便辨識。此舉旨在應對AI技術被濫用以誤導或傷害公眾的風險，尤其是深度偽造（deepfake）內容日益猖獗的情況。

目前法律上尚無強制規定必須標示內容為AI生成，導致AI製作的假內容有機會被誤認為真實。政府建議開發者和內容創作者在AI生成的作品中加入清晰標籤，或利用水印技術嵌入來源追蹤信息，這種水印比普通標籤更難被篡改或移除。當AI在內容創作中介入越多，透明度工具的重要性就越大，特別是當這些內容可能對人們造成負面影響時。

工業部長Tim Ayres表示：「AI是未來趨勢，透過公開透明使用AI的情況，我們可以確保社會在享受創新帶來的好處同時，不犧牲公眾的信任。」政府亦呼籲企業遵守這些指引，以建立信任、保障內容的完整性，讓澳洲民眾對消費的內容更有信心。

部分科技巨頭如Google已經開始為AI內容加水印，反映行業內已經意識到透明標示的重要性。

隨著生成式AI迅速普及，社會對該技術被用於詐騙、散播錯誤信息、勒索或製造誤導性假內容的擔憂也日益增強。eSafety委員會警告，基於深度偽造的影像濫用在澳洲校園中每週至少發生一次。

另外，獨立參議員David Pocock本週提出私人參議員法案，禁止未經同意以數碼方式改動或人工生成個人面貌或聲音的內容。他批評聯邦政府在負責任AI的審查工作上行動緩慢，未能全面回應這項議題。

全國AI計劃即將公布

這份最新AI指引是政府即將推出的全國AI計劃的一部分，該計劃經過數年諮詢，預計將引入「強制性安全防護措施」，以防止AI帶來的嚴重負面影響。計劃也會回應今年8月政府生產力圓桌會議中關於如何利用AI促進經濟增長和提高工資的討論。

不過，澳洲生產力委員會在圓桌會議中警告，過早實施強制性限制可能會扼殺價值約1160億澳元的經濟機會，建議在法律漏洞明確前暫緩立法行動。

政府目前在平衡AI風險與經濟潛力的同時，著重處理公眾對AI安全的憂慮。Ayres參議員上週宣布將成立AI安全研究所，負責監測及應對AI相關風險，並協助提升公眾對該技術的信任。

前工業部長Ed Husic則呼籲制定專門的AI法案，建立靈活的監管框架，隨著技術發展能及時調整應對措施。

—

評論與啟示

澳洲政府這次對AI內容標示和水印的倡議，反映了全球面對生成式AI帶來的倫理和安全挑戰的共識。透明標示不僅是保障個人權益和公共安全的必要手段，也是培養公眾對新技術信任的關鍵。尤其在深度偽造技術日益精進的情況下，若沒有有效的識別措施，虛假信息和假冒內容的危害將難以控制。

然而，政府在推動標示和水印義務的同時，如何在不壓制創新和經濟發展的前提下實施監管，仍是一大考驗。生產力委員會指出的經濟機遇不容忽視，過度嚴苛的規管可能限制AI的廣泛應用及其帶來的社會效益。

此外，AI安全研究所的成立，是向前邁出的一步，代表政府願意投入資源監察和回應AI風險。但要真正建立全面有效的監管體系，還需要立法層面的支持，例如Pocock參議員提出的法案，才能從根本上保護個人權益和維護內容真實性。

對香港及其他地區而言，澳洲的經驗提供了寶貴的參考。隨著AI技術快速滲透媒體、娛樂及社交平台，如何平衡創新與監管，確保公眾免受虛假資訊侵害，同時不阻礙科技發展，將是全球面臨的共同課題。透明標示與技術手段如水印的結合，是未來數碼內容治理不可或缺的策略之一。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。