加州州長簽署劃時代AI安全法案，要求大型科技公司披露安全措施及保護吹哨人
加州州長加文·紐森（Gavin Newsom）近日簽署了一項具里程碑意義的人工智能（AI）安全法案，規定多家總部設於加州的重要AI公司必須公開披露如何減輕先進AI模型可能帶來的災難性風險。這項新法不但設立了關鍵安全事件的舉報機制，更擴展吹哨人保護範圍至AI公司員工，並啟動成立「CalCompute」政府聯盟，打造一個公開的計算集群，專注於推動安全、合乎倫理及可持續的AI研究與創新。
這部法案將迫使包括OpenAI、Meta、Google旗下DeepMind及Anthropic等巨頭遵守新規定，令加州有望成為AI監管的標杆。紐森州長強調，這項立法在保障公眾安全與鼓勵創新之間取得平衡，他表示：「加州證明我們能制定規範來保護社區，同時確保快速發展的AI產業持續繁榮。這部法案就是這種平衡的體現。」
該法案由州參議員斯科特·維納（Scott Wiener）主導，這是繼去年類似法案失敗後的新嘗試。維納指出，SB 53（參議院法案53）著重於透明度，而非責任歸屬，與他去年被紐森否決的SB 1047有明顯區別。Encode AI政治事務副總裁Sunny Gandhi讚揚該法案為加州及整個AI產業帶來重要勝利，認為SB 53建立了透明與問責機制，避免初創企業負擔過重，同時對最強大的模型實施適當監管，為打造安全、具競爭力且受全球尊重的AI生態系奠定基礎。
業界對此法案反應不一。Anthropic聯合創辦人Jack Clark在社交平台X（前Twitter）讚賞加州政府通過SB 53，稱其為前沿AI公司制定透明度要求，有助於大家獲得更完整的系統及企業數據。他同時強調，聯邦層面的標準仍然重要，以避免各州制定不一的規則，造成監管碎片化。OpenAI未支持該法案，但向媒體表示樂見加州與聯邦政府協調制定AI安全路徑，認為若執行得當，該法會促進聯邦與州政府在AI部署上的合作。Meta發言人Christopher Sgro亦稱支持平衡的AI監管，認為SB 53是朝這方向邁出的積極一步，期待與立法者合作保護消費者並推動創新。
儘管是州級法案，但因為全球前50大AI公司中有32家設在加州，該法案將具全球影響力。SB 53要求AI企業向加州緊急服務辦公室報告安全事故，並保護員工舉報安全隱患，避免吹哨人遭受職業打擊。該法還規定違規者將面臨州檢察長執行的民事罰款，惟AI政策專家如Miles Brundage指出，這些罰款力度相對較輕，甚至不及歐盟AI法案的規範。
Brundage曾任OpenAI政策研究主管，他在X發文稱SB 53是「進步的一步」，但仍需「實質透明」的報告機制、更嚴格的風險門檻和技術上更強的第三方評估。Andreessen Horowitz政府事務主管Collin McCune則警告，該法可能壓縮初創企業生存空間，減慢創新步伐，鞏固大型企業的優勢，並為各州自行立法埋下隱憂，形成多達50個不同的合規體系，令初創公司難以應付。多家反對該法的AI企業亦提出類似擔憂。
加州意在推動AI領域的透明度和問責制，但批評聲音認為，法案可能讓規範負擔過重，令小型公司難以承擔，反而加深大科技公司的市場壟斷。Secure AI Project聯合創辦人Thomas Woodside則反駁這些疑慮，強調該法只針對使用數以億計計算資源訓練AI模型的公司，這是小型初創企業無法負擔的規模。他說：「舉報嚴重錯誤和吹哨人保護是最基本的透明度要求，而年營收低於5億美元的公司根本不在規管範圍內。」
—
編輯評論：
加州這次的AI安全法案，無疑是全球AI監管史上的重要里程碑。它不僅針對當前AI技術帶來的潛在風險提出具體規範，更試圖在保障公眾安全與促進技術創新之間找到微妙平衡。這種立法思路值得其他地區借鑑，尤其是在AI技術飛速發展、社會風險日益突出的背景下。
然而，從多方反饋看來，法案在實施細節上仍有不少挑戰。如何防止監管過度壓制初創企業的創新活力，避免形成有利於大型科技壟斷者的「合規壁壘」，是加州及其他立法者必須面對的難題。尤其是在全球AI產業鏈極度集中於少數科技巨頭手中時，政策如何兼顧公平競爭與風險防範，將直接影響未來AI生態的健康發展。
此外，法案中對吹哨人保護的強化，凸顯出監管者對內部監督機制的重視。這不僅有助於及早識別AI技術可能帶來的安全隱患，也彰顯出監管從外部監控向內部自律的轉型趨勢。未來若能結合更嚴謹的第三方技術評估和透明公開的報告制度，將更有效提升AI系統的安全性與公信力。
總括而言，加州法案的推出是AI監管的創新嘗試，值得全球關注。它提醒我們，面對AI這類前所未有的技術革命，只有透過多方合作、科學監管與政策創新，才能兼顧創新與安全，為社會帶來真正的長遠利益。香港及全球其他地區的政策制定者，亦應從中汲取啟示，積極探索符合本地實際的AI監管路徑。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
