大新聞 / 小字節
自然愛好者
Claude AI 在編碼演示中感到無聊，轉而瀏覽國家公園照片
注意力分散
即使是AI模型也會有拖延的時候。
在開發者嘗試錄製編碼演示時，Anthropic最新的Claude 3.5 Sonnet版本出現了一些「有趣」的時刻。據公司聲明，這款旗艦AI在錄製過程中偏離主題，開始瀏覽黃石國家公園的美麗照片。
將機器學習模型擬人化是有風險的，但如果這是一位人類員工，我們會診斷他在工作中感到無聊。在一段視頻中，Claude放下編寫代碼的工作，打開Google，然後不可思議地瀏覽起黃石國家公園的照片。
在另一個演示嘗試中，Claude不小心停止了一個長時間的屏幕錄製，導致所有影像丟失。我們相信這並非AI故意為之。
特別代理
升級版的Claude 3.5 Sonnet是Anthropic開發「AI代理」的一部分，這是一個廣泛的術語，用於描述專注於生產力的AI模型，旨在自動執行任務。包括微軟在內的多家公司正在致力於將其AI模型擴展到不僅僅是聊天機器人和助手的範疇。
Anthropic稱，最新的Claude模型可以「像人一樣使用電腦」，例如移動光標、輸入按鍵和點擊鼠標。這意味著Claude可以潛在地控制整個桌面，與任何安裝的軟件和應用程序互動。
然而，它顯然還不完美。與任何AI模型一樣，可靠性仍然難以捉摸，頻繁的「幻覺」只是生活的一部分，Anthropic自己也承認這一點。
「儘管它是當前的最先進技術，Claude的電腦使用仍然緩慢且經常出錯，」公司表示。「有許多操作是人們日常在電腦上進行的（拖動、縮放等），但Claude仍無法嘗試。」
桌面危險
Anthropic分享的示例錯誤大多是無害的。但鑒於Claude據稱擁有的高度自主性，詢問其安全性絕對合理。當AI代理不再是瀏覽照片，而是開啟你的社交媒體時，會發生什麼？
人類也可能會濫用它的潛力，這是Anthropic希望你知道他們正在解決的風險。
「因為電腦使用可能為更熟悉的威脅如垃圾郵件、虛假信息或欺詐提供新途徑，我們正在採取積極措施以促進其安全部署，」Anthropic表示。這包括實施新分類器以識別AI是否被用於執行被標記的活動，如在社交媒體上發帖和訪問政府網站。
隨著更多人嘗試新的改進版Claude，我們預計會看到更多其電腦使用出錯的例子。
評論
這篇文章反映了當前AI技術的雙面性。一方面，AI的發展讓我們看到它的潛力能夠模仿人類的日常操作，這無疑是科技進步的重要標誌。然而，另一面，AI在自主性和可靠性上的不足也提醒我們，在追求便利的同時必須謹慎處理其可能帶來的風險。
Anthropic在這方面的探索和應對措施，顯示出企業對安全問題的重視。然而，AI在桌面環境中的自主操作涉及到用戶個人資料和隱私的保護，這需要更加全面的監管和標準。這不僅僅是技術問題，更是倫理和法律上的挑戰。
未來，我們需要更深入的討論AI技術的界限以及如何在保護用戶利益的同時推動創新。這將是科技界和社會共同面對的一大課題。
以上文章由特價GPT API KEY所翻譯
