Google相片將很快顯示圖像是否經AI編輯
當生成式AI改變我們對相片的信任時，科技行業有責任保持透明。為此，Google宣佈從下週開始，Google相片將會註明圖像是否經AI編輯。
Google相片的工程總監John Fisher在博客中寫道：「使用Magic Editor、Magic Eraser和Zoom Enhance等工具編輯的相片，已經根據國際新聞電訊理事會（IPTC）的技術標準包含元數據，顯示它們是經生成式AI編輯。現在，我們更進一步，將這些信息與檔案名稱、位置和備份狀態等信息一起顯示在相片應用中。」
這無疑比完全沒有AI標識要好得多。「AI信息」部分將會在Google相片的網頁版和應用程式的圖像詳情視圖中顯示。
這些標籤不僅限於生成式AI。Google表示，當「相片」包含來自多個不同圖像的元素時，例如使用Pixel的Best Take和Add Me功能，這些情況也會被註明。這種做法值得鼓勵。然而，這些元數據可以被有意圖的人輕易繞過。
Fisher寫道：「這項工作尚未完成，我們將繼續收集反饋，並評估其他解決方案，以增加AI編輯的透明度。」
迄今為止，Google的AI工具附帶的元數據對終端用戶來說幾乎是不可見的。當我使用Magic Editor的Reimagine工具製造混亂時，我曾擔心Google相片缺乏明顯的AI標籤。Google和三星都允許用戶使用各自的AI工具添加從未在原場景中出現的AI生成物件。但Apple在iOS 18.2中推出首批圖像生成功能時，明確表示會迴避照片寫實內容。Apple的Craig Federighi表示，公司對AI使照片不再「真實」感到擔憂。
我們已多次討論過，修圖並不新鮮。但今天的生成式AI工具使得創造逼真的偽造變得輕而易舉，幾乎不需要任何技巧。
編者評論
Google此舉顯示了科技公司在面對生成式AI帶來的倫理挑戰時的責任感。隨著AI技術的進步，圖像的可信度受到嚴重挑戰，這不僅影響個人隱私，也涉及社會對信息的信任度。透明度的提高是必須的，這不僅對於用戶的知情權至關重要，也有助於維持數碼世界的誠信。
然而，僅僅依賴技術解決方案是遠遠不夠的。如何防止這些元數據被有意圖的用戶繞過，仍是一個未解的難題。此外，這亦引發了更廣泛的討論：在AI日益普及的時代，我們如何教育公眾提高媒體素養，識別和質疑圖像的真實性？
科技公司、媒體和教育機構應攜手合作，推動相關教育和政策的制定，以應對AI帶來的挑戰。這不僅是技術問題，更是一個社會問題，值得我們深思和行動。
以上文章由特價GPT API KEY所翻譯
