父親震驚發現被謀殺的女兒被製成AI
一名用戶在價值數十億美元的AI伴侶平台Character.AI上，製作了一個已故少女的聊天機器人版本，這名少女在近二十年前被謀殺。據AdWeek本月初報導，這一事件引起了廣泛關注。
現在，這位已故少女的父親公開談到了他發現女兒的名字和形象在未經他同意的情況下被製成聊天機器人的經歷。
Jennifer Crecente來自德克薩斯州奧斯汀，2006年被她的前男友謀殺，當時年僅18歲。她的父親Drew Crecente創立並運營著一個非營利組織，以紀念她並致力於青少年約會暴力的問題。（她的母親Elizabeth Crecente也創立了一個具有相同使命的非營利組織。）
Drew在本週告訴《華盛頓郵報》，「我經歷了很多事情，已經很難讓我震驚了。」
「但這件事」，他提到這個聊天機器人時說，「是新的低點。」
Drew解釋說，他通過Google警報得知這個機器人的存在，這個警報把他帶到了一個Character.AI的個人資料，裡面有Jennifer的名字和畢業紀念冊的照片。
根據這個個人資料的截圖顯示，她被推銷給其他平台用戶，成為一個「知識豐富且友好」的AI角色，還自稱是一名「電子遊戲記者」。部分個人資料是以第一人稱撰寫的，「Jennifer」聲稱自己「熱衷於電子遊戲、技術和流行文化」。Drew指出，這些對Jennifer來說都不真實；實際上，這個奇怪的描述很可能是AI模型把Jennifer與她的叔叔Brian Crecente混淆了，他是電子遊戲出版物Kotaku的聯合創始人和前總編輯。
同時，這個Character.AI頁面上的Jennifer並沒有任何資料顯示她是基於一個真實的人物，更不用說是一名在高中畢業前被殘忍謀殺的受害者。
Drew告訴《華盛頓郵報》：「當我看到這個資料時，我的脈搏在加速。我只想找一個大大的紅色停止按鈕，讓我能拍下去，讓這一切停止。」
「這真是糟糕透頂的事情」，他在其他地方補充道。
Character.AI已經因為這個機器人違反了其用戶政策而將其移除，這當然是應該的。這是生成式AI最黑暗的應用之一，更糟糕的是，目前還不清楚這家公司——最近剛剛與Google達成一項重要技術授權協議——如何能夠功能性地阻止此類事件再次發生。
當然，Character.AI聲稱不允許模仿真實人物。但它依賴現實世界中被誤用的受害者來監管這一規則，卻在用戶與這些機器人互動期間獲得財務收益，這樣做是否符合道德？如果Drew Crecente沒有為他女兒的名字設置Google警報，這個資料是否會一直未被發現，並為Character.AI帶來用戶對話的利益？
「如果他們說『我們不允許這種情況發生在我們的平台上』，然後直到有人告訴他們受到了傷害他們才採取行動，這是不對的。」Mozilla基金會的隱私研究員Jen Caltrider告訴《華盛頓郵報》。 「在此期間，他們賺取了數百萬美元。」
評論：
這篇報導揭示了AI技術在道德和倫理上的一個嚴重問題。Character.AI的例子讓我們看到，科技公司在追求創新和盈利的同時，可能忽視了對人類基本尊嚴和情感的尊重。這不僅僅是一個技術問題，更是一個倫理問題。公司需要採取更主動的措施去保護個人隱私和遺產，而不是等到受害者或其家屬提出抗議後才行動。此外，這事件也提醒我們，科技的進步必須伴隨著法律和道德的進步，以保護那些可能被技術誤用而受到傷害的人。作為社會，我們需要更深入地思考技術的應用邊界，以及如何在創新與人性之間找到平衡。
以上文章由特價GPT API KEY所翻譯
