加州州長簽署法律以建立AI聊天機器人的保障措施
加州州長加文·紐瑟姆宣布，該州將為社交媒體平台和AI伴侶聊天機器人建立監管保障，以保護兒童。
在週一的公告中，州長辦公室表示，紐瑟姆已簽署幾項法律，要求平台增加年齡驗證功能、應對自殺和自我傷害的協議，以及對伴侶聊天機器人的警告。這項AI法案SB 243是由州參議員史蒂夫·帕迪拉和喬希·貝克於一月提出的。
帕迪拉指出，兒童與AI伴侶機器人溝通的例子，據稱在某些情況下導致了鼓勵自殺的情況。根據帕迪拉的說法，該法案要求平台向未成年人披露聊天機器人是AI生成的，並可能不適合兒童使用。
“這項技術可以是強大的教育和研究工具，但如果任其發展，科技行業的動機是吸引年輕人的注意力，並以此為代價來損害他們的現實人際關係，”帕迪拉在九月表示。
這項法律可能會影響提供服務給加州居民的社交媒體公司和網站，包括去中心化社交媒體和遊戲平台。除了聊天機器人的保障措施，這些法案還旨在縮小技術“自動行動”的主張，以便公司逃避責任。
SB 243預計將於2026年1月生效。
隨著AI擴展的聯邦行動
在六月，懷俄明州參議員辛西婭·盧米斯提出了《負責任創新與安全專業法案》（RISE Act），為可能面臨來自“醫療、法律、金融及其他關鍵經濟部門”的行業領袖的訴訟的AI開發者創造“民事責任免疫”。
該法案引起了混合反應，並被轉交給眾議院教育和勞動力委員會。
這些法律的出台反映了對AI技術日益增長的擔憂，尤其是對未成年人心理健康的潛在影響。隨著AI技術的進一步發展，如何有效監管並保護用戶，特別是年輕人，將成為未來政策制定者面臨的重要挑戰。
在這個背景下，加州的舉措不僅是對當前社會問題的回應，更是對未來技術發展的一種前瞻性思考。這些法律能否真正有效地保護年輕人，還需要時間來檢驗，但至少它們為其他州和國家提供了一個可供借鑒的範本。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
