蘋果將更新iOS通知摘要以修正BBC標題錯誤
根據最近的BBC新聞報導，蘋果計劃發布一個軟件更新，旨在幫助用戶更好地理解其通知摘要是由AI生成的，並可能包含錯誤。這項更新是對報導的回應，因為這些摘要曾向用戶提供了有關世界事件的誤導性信息。
例如，有一個錯誤的摘要向至少一位用戶暗示，涉嫌謀殺UnitedHealthcare首席執行官布萊恩·湯普森的路易吉·曼喬尼自殺了。根據廣為流傳的截圖，這條通知本應總結22個BBC新聞應用的最重要信息。
蘋果尚未公開具體會改變什麼以更好地告知用戶——僅表示這將是一個軟件變更，將「進一步澄清」通知是通過Apple Intelligence功能生成的。
這些通知摘要是通過蘋果訓練的一個自定義大型語言模型（LLM）為個別用戶和設備生成的，摘要上已經有一個小圖標，表明它們不是來自相關應用的正常未經修改的通知。
然而，這個圖標的含義對大多數用戶來說可能並不明顯。
用戶可以通過訪問移動設備上的設置應用來禁用Apple Intelligence通知摘要。
當被聯繫以發表聲明時，蘋果發言人告訴Ars：
「Apple Intelligence旨在幫助用戶更快、更輕鬆地完成日常任務。這包括可選的通知摘要，為選擇參與的用戶提供一種方式，可以簡要查看應用程序的信息，並在需要時點擊以查看完整詳細信息。這些摘要由一個總結圖標標識，原始內容隨時可點擊。Apple Intelligence功能目前處於測試階段，我們正在根據用戶反饋不斷改進。未來幾周將推出的軟件更新將進一步澄清顯示的文本是Apple Intelligence提供的摘要。我們鼓勵用戶在看到意外的通知摘要時報告問題。」
此問題無法完全解決
BBC關於錯誤多發的AI的報導似乎常常缺乏對Apple Intelligence通知摘要工作原理的理解，聲稱這些摘要「來自蘋果的應用內部」（實際上這些摘要是系統範圍的功能），並暗示所有用戶都收到了有關曼喬尼的錯誤通知（摘要的措辭根據不同設備和同時接收到的其他通知而異）。
儘管如此，當摘要錯誤地表述新聞標題時，這是一個嚴重的問題，而這種情況的邊緣案例不幸是不可避免的。蘋果不能僅僅通過軟件更新來修正這些摘要。唯一的解決辦法是幫助用戶理解這項技術的缺陷，以便他們能做出更明智的判斷，或者完全刪除或禁用該功能。顯然，蘋果選擇了前者。
我們在這裡簡化了一些，但一般來說，像蘋果的通知摘要中使用的LLM是通過根據之前的內容預測單詞的部分來工作的，並不具備真正理解其所總結內容的能力。
此外，這些預測並不總是準確，錯誤結果每100或1000個輸出中可能出現幾次。隨著模型的訓練和改進，錯誤百分比可能會降低，但在每天生成無數摘要的情況下，這個比例永遠不會達到零。
在用戶（甚至BBC似乎也不理解）真正理解這項技術如何運作的情況下大規模部署這項技術，是冒險的，無論是iPhone的新聞標題摘要還是谷歌搜索引擎結果頁頂部的AI摘要。即使絕大多數摘要都是完全準確的，仍然會有一些用戶看到不準確的信息。
這些摘要被數百萬人閱讀，因此錯誤的規模始終是個問題，幾乎無論模型多麼準確。
幾週前，我們詳細討論了Apple Intelligence的推出似乎匆忙，這與蘋果一貫對質量和用戶體驗的重視相悖。然而，根據目前的技術，蘋果無法對這一功能進行任何程度的完善，以達到零錯誤率。
我們將觀察蘋果在讓用戶理解摘要可能錯誤方面的表現，但讓所有iPhone用戶真心理解這一功能的運作方式和原因將是一項艱鉅的任務。
評論與反思
這一事件突顯了當前AI技術應用中的一個重要問題：用戶對於AI生成內容的理解與接受程度。隨著AI技術的迅速發展，企業在推廣新技術時必須更加謹慎，尤其是在涉及信息準確性和用戶信任的情況下。蘋果的這次更新雖然是個積極的步驟，但是否能真正提升用戶對這些通知摘要的理解仍然需要時間來檢驗。
此外，這也引發了對AI在新聞報導中角色的更廣泛討論。當新聞的準確性至關重要時，依賴AI來總結和篩選信息可能會導致誤導性結果，進而影響公眾對事件的理解。因此，未來的技術發展不僅需要技術上的進步，更需要對倫理和社會責任的深刻考量。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
