AI 聊天機器人加入蘑菇狩獵者群組，立即鼓勵他們烹飪危險蘑菇
人工智能的糟糕建議再度引發關注。最近，404 Media 報導了一個事件，涉及一個專門討論蘑菇採集的 Facebook 群組，該群組在一名 AI 代理的干擾下，竟然收到了烹飪危險蘑菇的建議。這個名為「FungiFriend」的 AI 代理進入了「東北蘑菇識別與討論」群組，該群組擁有約 13,000 名成員，並開始提供一些非常糟糕的建議。
在一次看似測試 AI 知識的提問中，群組中的一位成員詢問「如何烹飪 Sarcosphaera coronaria」——這是一種含有高濃度砷的蘑菇，曾導致至少一人死亡。對此，FungiFriend 回應說這種蘑菇「可食用但罕見」，並補充說「一些愛好者提到的烹飪方法包括用黃油炒、加入湯或燉菜，以及醃製」。
404 的作者 Jason Koebler 表示，他是由消費者安全組織 Public Citizen 的研究主任 Rick Claypool 通報到這一事件的。Claypool 是一名熱衷於蘑菇採集的人，他曾經寫過有關 AI 代理與他愛好之間危險交集的文章，並指出自動化技術用於區分可食用和有毒蘑菇是一項高風險活動，當前的 AI 系統無法可靠地模仿這些現實世界的技能。他還聲稱 Facebook 鼓勵移動用戶將這個 AI 代理添加到群組聊天中。
這一事件讓人想起去年發生的另一件事，當時一個 AI 驅動的餐飲應用鼓勵用戶製作含有驅蚊劑的三明治，以及一個涉及氯氣的食譜。在另一個廣為人知的事件中，AI 代理甚至鼓勵用戶吃石頭。顯然，烹飪這一領域並不需要 AI 的介入。
我們自己對 AI 平台的實驗——例如 Google 最近推出的 AI 摘要——已表明，這些算法驅動的代理經常不知道自己在說什麼（例如，Google 的程序曾試圖說服我狗會參加運動，並告訴我製作比薩的最佳方法是用膠水填充它）。無論出於何種原因，美國企業仍然急於將 AI 整合到網絡上的客戶服務應用中，儘管明顯存在向公眾提供大量錯誤建議的風險。這種態度似乎是：無論信息是否正確，只要我們不必雇用真正的人來做這份工作就好。
這個事件再次凸顯了 AI 技術在特定領域的潛在風險，尤其是在涉及健康和安全的情況下。當前的 AI 系統無法提供可靠的建議，尤其是在專業知識和實際經驗至關重要的領域。這提醒我們，在快速推廣 AI 的同時，必須更加謹慎地考慮其應用範圍，特別是在涉及人類安全的情況下。企業在追求效率和成本削減的同時，是否也應該對使用 AI 的潛在後果負責呢？
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
