我們還能相信自己的眼睛嗎？蘋果新AI清理工具的黑暗面
蘋果最近推出的清理功能可以用來移除照片中可能被認為是分散注意力的元素。當我在週末看到這個廣告時，我感到很有興趣，於是更新了我的軟件來試用這個功能。
這項功能自去年十二月起已在澳大利亞對擁有特定硬件和軟件能力的蘋果用戶開放。同時，它也在新西蘭、加拿大、愛爾蘭、南非、英國和美國等地可供使用。
這個工具利用生成式人工智能（AI）來分析場景，並建議可能分散注意力的元素。用戶可以在截圖中看到這些被高亮的元素。
然後，你可以點擊建議的元素來移除它，或者圈選元素來刪除它。設備隨後會利用生成式AI根據周圍區域嘗試創建一個合理的替換。
更容易的欺騙方式
智能手機照片編輯應用程序已經存在超過十年，但現在你不需要下載、付款或學習使用新的第三方應用。如果你擁有符合條件的設備，就可以直接在手機的默認照片應用中使用這些功能。
蘋果的清理功能加入了多家科技公司已經提供的類似工具。擁有Android手機的用戶可能使用過谷歌的魔法編輯器，這可以讓用戶使用AI移動、調整大小、重染或刪除物體。擁有某些三星設備的用戶也可以利用其內置的照片庫應用來移除照片中的元素。
過去無論是類比還是最近的數字技術，總有方法可以欺騙。但將這些工具整合到現有軟件中，並以免費、易用的方式提供，讓這些可能性變得更加簡單。
使用AI編輯照片或創建全新的圖像引發了有關照片和視頻可信度的緊迫問題。我們在許多方面依賴這些設備所產生的視覺信息，從警方的行車記錄儀到保險索賠，甚至是驗證包裹的安全送達。
如果技術的進步正在侵蝕我們對圖片甚至視頻的信任，我們必須重新思考信任我們眼睛的意義。
這些工具可以如何使用？
移除分散注意力或不需要的元素的想法可能會吸引人。如果你曾經到過擁擠的旅遊熱點，去除一些其他遊客以便更專注於環境可能會很有吸引力。
但除了移除分心的元素，這些工具還可以如何使用？
一些人用它們來移除水印。水印通常是攝影師或公司為了保護其作品而添加的。去除這些水印使得未經授權的使用不那麼明顯，但並不意味著這樣的使用是合法的。
還有一些人用它們來篡改證據。例如，一個賣家可能編輯一張損壞商品的照片，以聲稱該商品在運送之前是完好的。
隨著圖像編輯和生成工具越來越普及，這些工具的使用清單也隨之增加，而其中一些用法可能並不光彩。
例如，AI生成器現在可以製作看起來真實的收據。人們可能會試圖將這些收據提交給雇主，以獲得實際未發生的費用報銷。
我們所見的一切還能被信任嗎？
考慮到這些發展，擁有某種事物的“視覺證據”意味著什麼？
如果你懷疑某張照片可能被編輯過，放大查看有時可以揭示AI出錯的異常情況。放大後，你可以看到清理功能生成的新內容與舊內容之間的不一致之處。
通常，操縱一張圖片比在同一場景的多張圖片中進行一致的編輯要容易得多。因此，要求查看顯示相同場景的多個不同角度的備選圖片，可以是一種有效的驗證策略。
親眼看到某些東西可能是最好的方法，雖然這並不總是可能。
進行一些額外的研究也可能有所幫助。例如，在假收據的情況下，該餐廳是否存在？它在收據所示的那一天是否開放？菜單上是否提供所謂的售賣項目？稅率是否與當地的匹配？
像上述這樣的手動驗證方法顯然需要時間。隨著AI編輯和生成的風險增加，能夠自動化這些繁瑣任務的可靠系統可能會越來越受歡迎。
同樣，監管機構在確保人們不濫用AI技術方面也扮演著重要角色。在歐盟，蘋果推出其Apple Intelligence功能的計劃，包括清理功能，因“監管不確定性”而被推遲。
AI可以用來讓我們的生活更輕鬆。像任何技術一樣，它可以被用於好或壞。了解它的能力並提升你的視覺和媒體素養，對於成為我們數位世界中的一個知情成員至關重要。
這篇文章由RMIT大學視覺傳達與數字媒體的高級講師T.J. Thomson撰寫。
在這個科技快速發展的時代，AI的應用無疑讓我們的生活變得更加方便，但也同時帶來了道德和法律的挑戰。面對日益增加的數字操控，我們應該更加警惕自己的視覺判斷力，並時時保持批判性思維。如何在享受科技便利的同時，確保信息的真實性，將成為未來社會的一個重要課題。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
