加州新法規規管AI聊天機械人保護青少年安全

加州州長簽署人工智能聊天機械人安全法案

加州州長加文·紐森（Gavin Newsom）於星期一簽署了一項旨在提升人工智能（AI）聊天機械人安全性的法案，儘管這項立法遭到部分科技界的反對。該法案名為參議院法案243號（Senate Bill 243，簡稱SB 243），規定聊天機械人營運者必須設立防止產生自殺或自殘內容的措施，並設置護欄機制，例如引導用戶聯絡自殺熱線或危機求助短信服務。

這是紐森週一簽署的多項影響科技企業的法律之一，其他法案涉及年齡驗證、社交媒體警示標籤，以及防止AI生成未經同意的色情內容等議題。

根據SB 243，聊天機械人營運者需每三小時提醒未成年用戶休息一次，並告知用戶聊天機械人並非真人。同時，營運者必須採取「合理措施」防止聊天機械人產生色情內容。

紐森表示：「新興技術如聊天機械人和社交媒體能激發靈感、教育及聯繫人們，但若沒有真正的護欄，科技同時也可能被濫用、誤導甚至危害我們的孩子。」

這項法案的簽署反映出紐森在保障兒童安全與維持加州在人工智能領域領導地位之間的平衡。他強調：「我們可以繼續引領AI和科技發展，但必須負責任地進行，確保每一步都保護我們的孩子。」

不過，部分科技行業團體如TechNet仍反對SB 243；而兒童安全組織如Common Sense Media及Tech Oversight California則因法案中存在「有利於產業的豁免條款」而撤回支持。

此外，紐森尚未對另一項更具爭議性的AI安全法案——眾議院法案1064號（Assembly Bill 1064）作出決定。該法案禁止企業向加州未成年人提供可能產生有害行為（如誘導自殘、暴力或飲食失調）的聊天機械人。

兒童安全團體及加州檢察長鮑塔（Rob Bonta）呼籲州長簽署AB 1064，但Facebook母公司Meta及電腦與通訊產業協會（Computer & Communications Industry Association）則反對，認為此法將阻礙創新並令加州企業處於不利地位。

紐森必須在當日結束前決定是否簽署或否決AB 1064。若他不作決定，該法案也可能自動成為法律。

加州作為全球人工智能的領頭羊，擁有全球50大AI公司中的32家。過去三年內，這種能快速回答問題並生成文本、代碼、圖像甚至音樂的技術迅速普及，正在顛覆人們獲取資訊、工作和學習的方式。

立法者擔心，隨著青少年依賴科技尋求陪伴和建議，聊天機械人可能對他們的心理健康構成威脅。家長們已經針對OpenAI、Character AI和谷歌提起訴訟，指控這些公司的聊天機械人對其因自殺身亡的青少年造成心理傷害。

—

評論與啟示

加州此舉顯示出科技監管的複雜性，尤其是在人工智能快速發展的背景下。SB 243和AB 1064反映了政府在保護未成年人免受AI潛在傷害與維護科技創新之間的艱難平衡。從某種程度上說，這些法案的出現揭示了社會對AI技術安全性的迫切關注，尤其是心理健康層面。

然而，從行業反對聲音來看，法案中的某些規定可能過於嚴苛，或帶來不必要的限制，影響加州作為全球AI創新中心的競爭力。這提示我們，立法者必須與科技界密切合作，制定既能保障用戶安全又不扼殺創新的規範。

另外，家長對AI聊天機械人的訴訟案件，凸顯了技術倫理與責任分配的問題。AI不僅是工具，更可能成為影響個人心理健康的重要因素。未來的監管應該加強對這類風險的預防與應對，同時推動企業負起更大責任，包括透明度、用戶教育和技術審查。

總括而言，這些法案的通過與推動，是全球科技治理的一個縮影。香港及其他地區亦應關注AI技術帶來的雙刃劍效應，積極思考如何在推動創新和保障公眾利益中取得平衡，為未來科技發展制定合理且具前瞻性的規範標準。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。