OpenAI的新模型是否存在幻覺問題？
這對下一代模型來說是一個挑戰
撰文：Tobias Carroll
本週早些時候，OpenAI宣布推出兩款新模型，o3和o4-mini。該公司形容這些模型為“迄今為止最聰明的模型”，並指出它們在回應前經過了更長時間的思考。舉例來說，它們能夠解決複雜的數學方程，並根據一張照片研究運輸數據。
根據TechCrunch的Maxwell Zeff的說法，這些模型與其前身相比還有一個重大差異：這些模型的幻覺現象比早期版本要多。Zeff指出，這與OpenAI模型的早期更新形成了鮮明對比，後者通常比之前的模型出現更少的幻覺。
去年，CNET的Lisa Lacy提供了一個關於AI中“幻覺”意義的良好概述（這與流行文化中的用法有些不同）。Lacy寫道，當AI系統向用戶提供不正確的信息時，就會產生幻覺。她舉了一些例子，包括描述從未發生的歷史事件，或錯誤識別法律案件中的當事人。幻覺一直是AI工程師和程序員們多年來面臨的問題。
那麼，OpenAI的新模型為什麼會出現這種幻覺現象的上升呢？AI研究實驗室Transluce的Neil Chowdhury告訴TechCrunch，實驗室懷疑“o系列模型所使用的強化學習”是原因，這可能會加劇某些問題，而這些問題通常是“標準後期訓練流程”所解決的。
OpenAI的一位發言人告訴TechCrunch，該公司致力於解決幻覺問題並改善其軟件。隨著這些模型進入市場，我們將會看到人們對它們的特性——以及它們所提供的正確和不正確的答案——有何反應。
在這篇文章中，我們可以看到AI技術的快速發展同時伴隨著新的挑戰。OpenAI的新模型雖然在智能和應用範疇上取得了突破，但幻覺問題卻提醒我們，AI並不是萬能的，仍然需要不斷的改進與監管。這讓我們思考，在追求技術進步的同時，我們是否也應該更加關注AI的倫理和準確性問題。未來，如何平衡AI的能力與其潛在的風險，將是我們必須面對的重要課題。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
