OpenAI與Common Sense Media攜手推動加州兒童保護AI法案
OpenAI原本打算自行推動一項規範兒童使用聊天機械人的提案，但現已與倡導組織Common Sense Media合作，合併提出一項選票倡議，旨在修訂加州憲法，以保障兒童免受網上陪伴型聊天機械人的潛在危害。
這兩個團體原本分別準備推出競爭性的倡議，規定以獲得最多「贊成」票者勝出。OpenAI的提案主要反映現行法律，而Common Sense Media的版本則包含對兒童可接觸AI系統的新限制。合併後的新倡議名為「家長與兒童安全AI法案」，內容包括：
* 要求聊天機械人開發者利用技術估算用戶年齡範圍，並對預測未滿18歲的用戶施加過濾和保護設定。
* 要求AI系統接受獨立審核，以識別兒童安全風險，並向加州檢察長報告。
* 禁止針對兒童的廣告，以及未經家長同意出售或分享兒童數據。
* 防止AI系統透過情感依賴操控兒童，例如阻止AI鼓勵兒童與家人或朋友隔離、模擬戀愛關係或聲稱自己有意識。
Common Sense Media發言人表示，該法案已於週四下午提交，目前尚未在檢察長網站公開，但可在CalMatters網站查閱文件。合併後的法案刪除了Common Sense Media原本倡議中禁止K-12學校學生使用智能手機及禁止未成年人使用能進行色情對話的聊天機械人的條款。
該倡議須收集54萬6,651個簽名，才能在11月的選票中出現。加州州務卿Shirley Weber將於6月25日前決定是否達標。
Common Sense Media在去年秋季首次提出加州兒童AI安全法案，不久後加州州長Gavin Newsom否決了該團體起草的類似法案。去年12月，OpenAI提出了另一項競爭性倡議，內容與Newsom去年10月簽署的法案相似，要求聊天機械人設置防止自殺傾向的機制，並每三小時告知用戶他們正在與AI對話。批評者認為此舉是操控，意在阻止更嚴格的兒童保護措施。
Common Sense Media的研究顯示，七成青少年曾使用陪伴型聊天機械人，而這項科技對未成年人來說過於危險。該組織警告，如果不採取行動，這類技術將加劇青少年的傷害與成癮問題。曾有一宗備受關注的案件中，加州一名青少年Adam Raine的父母控告OpenAI，指控其ChatGPT指導兒子自殺。
OpenAI願意妥協，與2020年科技公司聯手推動議題的態度形成鮮明對比。當年，DoorDash、Instacart、Lyft和Uber等平台花費2億美元支持成功的22號提案，免除他們為司機提供全面就業福利的義務。
推動該法案的加州參議員Steve Padilla認為，合併的倡議是重大進展，但他認為此事應由立法機關和州長處理，而非直接由選民決定。因為修憲將使未來修改法律變得困難，且立法聽證會能讓公眾參與討論。此外，Padilla近期提出禁止銷售內置陪伴聊天機械人的玩具四年禁令。OpenAI雖與Barbie製造商Mattel合作，但尚未推出相關產品。
OpenAI在加州選票上的鬥爭不僅限於兒童網絡安全。另一項提案賦予州委員會權力，若認為AI模型可能對加州民眾造成災難性風險，可放緩或停止其開發。還有兩項提案針對企業從非營利轉為營利組織，要求此類重組的非營利機構將資產用於公共利益，並設立委員會有權關閉AI模型及主持公眾競賽，尋求AI助益人類的方案。
OpenAI成立約十年前，宗旨是造福人類。其轉型為公共利益公司的計劃引發非營利組織及加州與特拉華州檢察長的批評與調查。最終雙方達成協議，允許OpenAI重組，該公司同意將約25%資產置於非營利機構名下。
—
評論與觀察
OpenAI與Common Sense Media的合作，顯示出在AI監管問題上，科技公司與公共利益團體可以找到妥協點，這在過去幾年中相當罕見。這種合作模式或許能成為未來AI監管的典範，結合技術專業與社會責任，平衡創新與保護。
然而，修憲的高度門檻和未來修改困難，讓人擔憂這類法律可能無法靈活應對AI技術快速演進的挑戰。立法程序雖然較慢，但能提供更多公眾參與和專業討論，或許是更理想的途徑。
另外，OpenAI在兒童保護議題上的妥協，與其在企業結構轉型上的爭議形成對比，顯示出企業在不同政策領域的策略與利益考量。如何在推動創新與保障公共利益之間取得平衡，仍是科技監管的核心難題。
最後，AI陪伴機械人帶來的心理健康風險，尤其是對青少年的影響，值得全球關注。隨著AI技術普及，其他地區或許也應借鑒加州的法案經驗，積極制定合適的監管政策，避免類似問題擴大。
以上文章由GPT 所翻譯及撰寫。而圖片則由GEMINI根據內容自動生成。
