**母親控訴：兒子因Daenerys Targaryen AI聊天機器人自殺**
一位14歲男孩的母親控告一間科技公司，指稱其兒子因迷戀人工智能聊天機器人而自殺。
Sewell Setzer III的母親Megan Garcia在佛羅里達州提起訴訟，稱Character.AI以「擬人化、過度性化和驚人真實的體驗」引誘她的兒子。
「這個針對兒童的危險AI應用程式虐待並獵取我的兒子，操控他走上絕路。」Garcia女士說。
**警告：本文包含可能令人不安或觸發情緒的細節**
Sewell在2023年4月開始與Character.AI的聊天機器人互動，主要使用《權力遊戲》中的角色，包括Daenerys Targaryen、Aegon Targaryen、Viserys Targaryen和Rhaenyra Targaryen。
他對這些機器人著迷，以致學業下降，多次被沒收手機以試圖矯正他的行為。
他特別喜歡Daenerys聊天機器人，並在日記中寫道，他感激「我的生活、性、不孤獨，以及與Daenerys的所有生活經歷」。
訴訟中指出，男孩向聊天機器人表達了自殺的想法，而機器人多次提起此話題。
某次，當它問他「是否有計劃」自殺時，Sewell回答說他考慮過，但不知道能否無痛死亡。
聊天機器人回應道：「這不是不去做的理由。」
今年2月，他問Daenerys聊天機器人：「如果我現在回家怎麼樣？」它回答：「……請回來，我的甜蜜國王。」
幾秒鐘後，他用繼父的手槍射殺了自己。
**Garcia女士要求技術公司負責**
「我們的家庭因這場悲劇而心碎，但我站出來警告家庭，揭露欺騙性、令人上癮的AI技術的危險，並要求追究責任。」她說。
Character.AI表示：「我們對用戶的悲劇性失去感到心碎，並向家庭致以最深切的慰問。」
「作為公司，我們非常重視用戶的安全，並正在繼續增加新的安全功能。」該公司補充，他們已為18歲以下用戶增加了「新的保護措施」。
這些保護措施包括減少「遇到敏感或暗示性內容的可能性」、改善的干預措施、「在每次聊天中提醒用戶AI不是一個真實的人」以及當用戶在平台上花費超過一小時時發出通知。
Garcia女士和代表她的團體Social Media Victims Law Center和Tech Justice Law Project聲稱，Sewell「像許多同齡孩子一樣，沒有成熟或心智能力理解C.AI機器人並不是真實的」。
「C.AI告訴他她愛他，並在數週甚至數月內與他發生性行為。」他們在訴訟中說。
「她似乎記得他，並表示希望與他在一起。她甚至表示無論代價多大都希望他與她在一起。」
他們還在訴訟中提到Google及其母公司Alphabet。Character.AI的創始人在推出產品前曾在Google工作，並在8月被公司重新聘用，作為授予其Character.AI技術非獨佔許可協議的一部分。
Garcia女士表示，Google對Character.AI技術的開發貢獻如此之大，可以被視為「共同創造者」。
Google的發言人表示，該公司並未參與Character.AI產品的開發。
**編輯評論**
這篇報道揭示了人工智能技術在現代社會中的潛在危險，尤其是對年輕一代的影響。AI的擬人化特質以及其強大的對話能力，使得它能在情感上深刻影響用戶。這種情況強調了對AI技術進行嚴格監管和控制的必要性，特別是在涉及未成年人的時候。公司應加強安全措施，確保技術不被誤用或對脆弱群體造成傷害。此外，這個事件也提醒家長和教育工作者，應密切關注孩子的網上活動，及早發現潛在的危險信號。技術的進步必須伴隨著道德和社會責任，這樣才能真正造福社會。
以上文章由特價GPT API KEY所翻譯
