我喜愛ChatGPT-4o的無拘無束圖像生成能力——但我擔心OpenAI即將到來的審查
OpenAI最近推出的圖像生成能力似乎沒有像以往那樣受到限制，但這種情況可能不會持久。
去年，xAI的Grok迅速在AI領域中嶄露頭角。這款AI聊天機器人受到了用戶的廣泛讚譽，被譽為「同類產品中最不受限制的模型」。埃隆·馬斯克對該平台的成功推出表示興奮，稱Grok是全球最有趣的AI，並且是利用世界上最強大的AI集群進行訓練的。
如你所知，大多數AI工具受到嚴格的審查，這似乎限制了它們的能力。這些工具在推出時幾乎可以生成你想要的任何東西，但這種自由並未持久，因為一些明確的AI生成名人照片在社交媒體上流傳，引發了一系列的訴訟。
包括微軟的Image Creator在內的圖像生成工具也受到嚴格審查，甚至難以生成一張簡單的白色圖片。直到最近，使用ChatGPT生成一杯滿滿的紅酒圖片幾乎是不可能的，但OpenAI的新圖像生成工具打破了這一限制。
與ChatGPT的新圖像生成工具互動的用戶在社交媒體上表達了相似的感受。這個工具允許用戶從零開始生成圖片，或將現有圖片轉換為符合個人喜好的形式。值得注意的是，這個工具是由OpenAI的GPT-4o模型驅動，能生成比其前身DALL-E 3更準確和詳細的圖片。
用戶們分享了使用ChatGPT的GPT-4o驅動的圖像生成工具生成的圖片，這些圖片讓人難以區分AI生成的與真實的圖片。
然而，AI懷疑論者認為，對OpenAI無拘無束的圖像生成工具的熱潮可能不會持久，這是有充分理由的。圖像生成是一項強大的工具，能夠用於善事，但也可能被濫用來散播宣傳和錯誤信息。
ChatGPT-4o的圖像生成能力可能需要監管
在剛結束的美國總統選舉中，Grok因不當原因引起了反壟斷監管機構的注意。據報導，xAI在未經用戶同意的情況下用X數據訓練了Grok AI。
這一問題使公司受到審查，幾乎使X面臨全球年營業額4%的罰款。這取決於公司是否能夠為未經授權使用用戶的X數據進行Grok訓練建立法律依據。
最近幾天，用戶們在使用ChatGPT的新圖像生成工具時玩得不亦樂乎，有些人明顯表示OpenAI對這個工具的審查似乎比競爭對手如Copilot寬鬆。
然而，他們也表示擔心這種不受限制的圖像生成能力會很快受到限制。OpenAI首席執行官山姆·阿爾特曼在產品發布時似乎印證了這一理論：“人們將創造一些非常令人驚嘆的東西，也會有一些可能冒犯他人的東西；我們希望這個工具在不冒犯的情況下創造內容，除非你希望它這樣做，在合理的範圍內，它會這樣做。我們認為將這種知識自由和控制權放在用戶手中是正確的，但我們會觀察情況並傾聽社會的反應。”
用戶們發現OpenAI的新圖像生成工具對大多數名人沒有限制。一位Reddit用戶指出：“他們可能意識到Grok不在乎，這給了他們巨大的優勢，因為人們喜歡對名人進行模因創作。”
從長遠來看，OpenAI可能會發現自己身處法律訴訟的走廊，因為其AI工具生成了明確和不雅的名人圖片。這將非常有趣，看看OpenAI如何在與Grok等競爭對手保持公平競爭的同時，維持現狀。
—
在這篇文章中，我們看到AI技術的快速發展同時也伴隨著潛在的法律和倫理挑戰。OpenAI的圖像生成工具無疑為創意產業帶來了新的可能性，但這種自由也可能引發濫用的風險。隨著技術的進步，企業在追求創新時也必須考慮到社會責任和法律規範。在這個瞬息萬變的領域，如何平衡創造力與負責任使用的界限，是未來AI發展中不可忽視的重要課題。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
