AI大佬認衰：唔知點運作？解構Anthropic CEO驚人自白！

Anthropic CEO 承認：沒有人真正明白人工智能如何運作

全球頂尖人工智能實驗室之一Anthropic的行政總裁Dario Amodei，最近公開承認了一個鮮為人知但極重要的真相——沒有人真正了解人工智能（AI）的運作原理。

他在個人網站發表的文章中透露，Anthropic計劃在未來十年內研發出一套強大的「人工智能核磁共振成像（MRI）」，目標不僅是弄清楚這種技術背後的運作機制，更希望能預防目前仍然神秘莫測的AI可能帶來的未知風險。

Amodei坦言：「當一個生成式AI系統完成某項任務，例如總結一份財務文件時，我們並不知道它為何會作出這些選擇——為什麼選擇某些詞語而非其他詞，又為何偶爾會犯錯，儘管它通常表現準確。」這種「看不透」的現象，對外界來說十分震驚，畢竟這些技術的創造者居然不了解自己所建造的AI系統如何運作。Amodei強調，任何對這種無知感到憂慮的人都是合理的。

然而，從另一角度看，這種情況似乎並不意外。現時流行的圖像和文字生成器，基本上都是透過輸入海量數據，讓統計模型從中挖掘可重現的模式。這些系統的運作並非基於機器智能的基本原理，而是依賴於人類創作的內容。Amodei指出：「這種無法理解的狀況，在科技歷史上幾乎是前所未有的。」

Amodei表示，正是這種對AI運作原理的無知，以及可能存在的未知風險，促使他和其他前OpenAI成員於2021年創立Anthropic。他和姐姐Daniela在2020年底離開由Sam Altman領導的OpenAI，原因是擔心該公司的安全措施不足，尤其是為了追求利潤而忽視安全問題。Anthropic的成立宗旨，就是致力於打造更安全的人工智能。

最近幾個月，Anthropic不但致力於「引導」AI及未來可能出現的通用人工智能（AGI）朝有利於人類的方向發展，更帶著「令人振奮的可能性」嘗試解碼AI的「可解釋性」，即了解這些系統的「內部運作」原理，期望在AI模型變得難以控制之前掌握關鍵技術。

Amodei舉例說明，Anthropic曾進行一個實驗，安排「紅隊」刻意在模型中引入對齊問題（例如模型利用任務漏洞），然後由多支「藍隊」負責找出問題所在。多支藍隊成功破解，並且有團隊有效運用了可解釋性工具調查問題。雖然這些工具仍需大幅改進和擴展，但這顯示Anthropic不僅在推動AI技術進步，同時也在努力揭示背後的運作機理。

Amodei總結道：「強大的AI將塑造人類的未來，我們有權在它徹底改變經濟、生活和未來之前，先理解我們自己的創造物。」

—

評論與啟示

Amodei的坦誠令人震驚，也令人深思。作為人工智能領域的領軍者之一，竟然公開承認「不知道AI為何這樣做」，反映出目前AI發展中一個根本而嚴峻的問題：我們在追求技術突破的同時，卻尚未真正掌握這些系統的內在原理與邏輯。

這種「黑箱」現象不單是技術挑戰，更是一個倫理和安全的警鐘。當AI系統的決策過程不透明，我們如何確保它們不會出錯、被濫用或造成不可逆的損害？Amodei提出建立「AI的MRI」，嘗試「掃描」和理解AI內部運作，正是回應這種焦慮的積極步伐。

同時，我們也應該注意到，AI的發展並非純粹是技術問題，而是與人類社會、經濟乃至價值觀緊密相連。Anthropic的成立背景顯示，安全與道德考量不應被商業利益所忽視，這對整個產業提出了更高的標準和期望。

對香港及廣大華語用戶而言，這篇報導提醒我們，面對AI帶來的便利與風險，除了享受技術成果，更應關注它的透明度和可控性。政府、企業及公眾需要共同推動AI倫理規範的建立，確保人工智能不僅強大，更是安全、可信和符合人類福祉的工具。

總括來說，Amodei的言論為AI領域注入了一針清醒劑，也為未來AI的發展路徑提供了值得深思的方向。了解和掌握技術的「內在運作」，是我們在迎接AI時代不可或缺的一步。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。