蘋果暫停失敗的AI系統，停止推送假新聞給iPhone用戶
蘋果公司最近宣布暫時停止其備受爭議的「Apple Intelligence」功能，該功能在總結最新新聞時屢屢出錯，甚至推送假新聞給用戶。根據《華盛頓郵報》的報導，這項功能將在即將推出的iOS 18.3更新中被禁用，這顯示出蘋果對其產品失敗的罕見承認。
失敗的實驗
這項功能在過去的幾個月中，不斷出現問題，不僅無法正確總結真實報導，甚至在推送通知中出現完全錯誤的資訊。記者Geoffrey Fowler提到，最近一則通知對於唐納德·特朗普提名的國防部長候選人皮特·赫格塞斯的報導，AI總結中的每一個事實都是錯誤的。他批評蘋果在AI技術尚未成熟的情況下，仍然讓其新聞應用的總結功能繼續運行，這是極其不負責任的行為。
病態的AI
蘋果此舉似乎是對其AI技術中固有問題的默認承認。儘管已經開發多年，像蘋果的這種總結工具仍然面臨「幻覺」問題，這是一些專家認為可能是這項技術的內在缺陷。儘管如此，蘋果並未完全放棄這項功能，並承諾在進行改進後會重新推出。
去年12月，英國廣播公司（BBC）對蘋果發起投訴，因為該功能不斷錯誤地總結其新聞報導，甚至不實地聲稱涉嫌謀殺UnitedHealthcare首席執行官布萊恩·湯普森的路易吉·曼喬尼自殺。最初，蘋果似乎不願停止這項實驗，曾表示將在未來幾周內發布的軟件更新中進一步澄清顯示的文本是由「Apple Intelligence」提供的總結。然而，隨著壓力的增加，蘋果似乎改變了立場。
不僅僅是蘋果，谷歌和OpenAI也面臨著類似的「幻覺」問題。谷歌的AI搜索功能曾經荒誕地告訴用戶要在比薩上塗膠水，以確保配料不會滑落。
對於AI技術的反思
這一事件引發了對於AI技術可靠性的深刻反思。隨著越來越多的科技公司投入AI領域，這些問題暴露了目前技術成熟度不足的現實。用戶對於準確性和可靠性的期望與現實之間的差距，可能會影響他們對這些技術的信任。未來，科技公司需要更謹慎地處理AI產品的推出，確保在技術尚未成熟之前，不會將其推向市場，避免造成不必要的誤導和混亂。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
