AI生成颶風災難圖泛濫Facebook

2023年10月1日下午3:56 EDT 作者
Facebook被大量AI生成的颶風Helene災害圖片淹沒
無語。

2023年10月1日下午3:56 EDT 作者：Maggie Harrison Dupré

當家庭拼命尋找失蹤的親人，社區在颶風Helene後應對無法估量的生命和財產損失時，AI垃圾騙子似乎正在利用這一時刻謀取個人利益。

一個名為「Coastal Views」的Facebook賬戶通常分享自然景觀的AI生成的海濱圖像。該賬戶的橫幅圖片展示了一個標牌，上面寫著「OBX Live」，OBX是北卡羅來納州外灘群島的縮寫。

但從這個週末開始，該賬戶的做法發生了劇烈變化，首先由X上的一個社交媒體用戶標記。

該賬戶不再發布跳躍的海豚和沙灘的「照片」，而是突然開始發布被淹沒的山區社區、被水淹沒的房屋以及坐在屋頂上的狗的圖片。

然而，該賬戶似乎並不是在傳遞對受自然災害影響的人的關鍵信息，甚至沒有分享真實的破壞照片，而是試圖利用AI來賺取颶風所帶來的關注。

該賬戶鏈接到一個名為「OuterBanks2023」的Etsy頁面，一個自稱「Alexandr」的人在那裡銷售AI生成的馬鼻碰海龜、聖誕老人和馴鹿在海岸上奔跑以及海浪上的日落圖像。

最新的自然災害圖片被設計得看起來很真實，但總體上帶有AI生成的跡象。例如，一名據稱在救援被遺忘的小狗的男子似乎有六根手指，手部被AI扭曲了。

我們還對這些圖片進行了反向圖像搜索，但無法找到除了Coastal Views賬戶之外的來源。

這些令人震驚的帖子突顯了一個令人擔憂的趨勢。如果你在過去一年左右的時間裡瀏覽過Facebook，你可能會偶然發現AI垃圾，或者低質量的AI生成的垃圾內容。AI垃圾在網絡的幾個不同領域都是一個問題，但在Facebook上，它通常以可疑的AI生成的圖像形式出現，例如退伍軍人和警察的圖片，各種耶穌基督的形象，飢餓的孩子，以及自然災害等主題。

根據404 Media對這一日益增長的垃圾現象的調查，今年早些時候發現，大多數這些東西都是專門設計來滲透Facebook的算法，以獲得參與度和廣告收入。

這是一種讓互聯網變得更糟的卑鄙業務。現在，AI垃圾發布者也開始針對自然災害進行干擾。

Coastal Views的帖子沒有獲得大量的觀看次數，因此尚不清楚該賬戶是否賺取了任何收入。相反，吸引Facebook用戶訪問該賬戶關聯的Etsy頁面似乎是主要目標。它也沒有標記這些帖子為AI生成，而是將它們呈現為真實的災區圖片。

換句話說，看到這些假災害圖片，除了認為又是一個讓人購買AI生成的聖誕老人圖片的小伎倆之外，很難有其他解釋。如果情況確實如此，那麼這將是一種狡詐的AI使用方式，在致命自然災害後堵塞信息渠道。

我們聯繫了Coastal Views詢問，但尚未收到回覆。

編輯評論：這篇文章揭示了一個令人深思的問題，即在自然災害這樣的重大事件中，AI生成的內容如何被濫用來謀取利益。這種行為不僅令人感到道德上的譴責，還對受災者和關心災情的人們造成了誤導和困擾。濫用AI技術來製造和散播虛假信息，尤其是在這樣敏感的時刻，是非常不負責任的行為。這也提醒了我們，當我們在互聯網上瀏覽內容時，需要保持警惕，學會辨別信息的真偽。希望社交媒體平台能夠加強對這類內容的監管，減少AI垃圾對用戶的干擾和誤導。同時，這也對我們提出了一個更深層次的問題：在科技迅猛發展的今天，我們如何在利用其便利的同時，有效地控制和管理其帶來的副作用？這需要我們全社會共同努力，尋找平衡點。

以上文章由特價GPT API KEY所翻譯