加州通過AI安全法案 SB 53 新規定引熱議

加州議會通過人工智能安全法案SB 53，但州長Newsom仍有權否決

加州參議院於本週六凌晨最終通過了一項重大人工智能（AI）安全法案，對大型AI公司設立了新的透明度要求。

該法案由參議員Scott Wiener提出，他表示SB 53「要求大型AI實驗室公開其安全協議，為AI實驗室的員工設置吹哨人保護機制，並建立一個公共雲計算平台（CalCompute）以擴大計算資源的使用權。」

目前該法案已送交加州州長Gavin Newsom簽署或否決。州長Newsom尚未公開表態對SB 53的立場，但去年他曾否決Wiener提出的另一項更廣泛的AI安全法案，當時卻簽署了針對深偽技術等問題的較窄範圍法案。Newsom當時認為保護公眾免受AI技術潛在威脅十分重要，但批評Wiener之前的法案對大型模型施加了過於嚴格的標準，無論這些模型是否用於高風險環境、關鍵決策或涉及敏感數據。

據報導，SB 53在最近修訂中規定，年收入低於5億美元的「前沿」AI模型開發公司只需披露高層次的安全細節，而收入超過該門檻的公司則須提交更詳細的報告。

該法案遭到不少矽谷企業、風投公司及遊說團體反對。OpenAI在致Newsom的信中未直接提及SB 53，但呼籲避免「重複和不一致」的規管，建議只要企業符合聯邦或歐洲的安全標準，應視為符合加州的規定。

另一方面，風險投資公司Andreessen Horowitz的AI政策主管近日表示，現時多個州的AI法案，包括加州和紐約的提案，可能違反憲法中對州際貿易管制的限制，存在越權風險。該公司創辦人早前也將技術監管視為支持前總統特朗普連任的因素之一。特朗普政府及其盟友甚至呼籲對州級AI監管實施長達十年的禁令。

AI公司Anthropic則公開支持SB 53。其共同創辦人Jack Clark表示，「我們一直偏好有聯邦層面的標準，但在缺乏該標準的情況下，SB 53提供了一個不可忽視的AI治理藍圖。」

—

評論與啟示

加州作為美國科技創新的重鎮，其AI監管動向具有指標性意義。SB 53的通過顯示立法機關在追求AI安全與透明度上的決心，但州長Newsom的態度仍是變數，反映監管政策在推動與經濟利益間的微妙平衡。

值得關注的是，SB 53同時設置了對不同規模AI企業的分級要求，這種分層監管方式既體現了靈活性，也避免過度負擔中小企業，為其他地區在制定AI法規時提供了借鑒。

然而，來自業界的反對聲音及跨州監管的憲法爭議，揭示出AI監管不僅是技術問題，更涉及法律、經濟和政治層面的複雜挑戰。聯邦層面缺乏統一標準，使得州級規範成為試驗場，但同時也可能導致企業面對多重標準的困境。

Anthropic的支持凸顯了業界對明確規範的需求，尤其在全球AI技術快速發展的背景下，缺乏規範可能帶來更大風險。這也反映出，無論是政府還是產業，都在尋求一條既能促進創新又保障安全的可行路徑。

對香港及其他地區而言，加州的這次嘗試提供了寶貴的經驗。面對AI技術日益深入社會各層面，如何制定兼顧效率與安全的政策，將是全球共同面對的課題。香港作為國際金融及科技中心，也應密切關注相關動態，積極探索本地適用的AI監管框架，避免成為監管真空或過度限制的兩難。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。