我需要錢
後悔：那些出售AI虛擬形象的演員陷入類似《黑鏡》的反烏托邦
一些因經濟困境而出售自己形象的演員，對於成為明顯詐騙的AI面孔感到後悔，認為1000美元不值得。
據法新社報導，一些因為經濟困難而出售自己形象的演員，未能完全理解後果，現在對於他們的AI視頻表示尷尬、受損或有害而感到悔恨。
其中一位是29歲的紐約演員亞當·科伊（Adam Coy），他在沒有思考“這樣做是否越界”的情況下，將自己的面容和聲音授權給一家名為MCM的公司一年，獲得1000美元的報酬。他的伴侶的母親後來發現了他出現的視頻，內容是他作為一名預言災難的悲觀者。
南韓演員西蒙·李（Simon Lee）的AI形象同樣被用來嚇唬天真的網民，但方式可能更具危害性。他告訴法新社，他驚訝地發現他的AI虛擬形象在TikTok和Instagram上推廣“可疑的健康療法”，感到羞愧，因為自己的面孔與明顯的詐騙有關。
隨著AI虛擬形象技術的進步，授權使用形象的誘惑可能會不斷增長。據CNBC報導，英國公司Synthesia已在一月將其估值翻倍至21億美元。就在上週，Synthesia與Shutterstock達成了一項價值20億美元的交易，將使其AI虛擬形象更加人性化，據《衛報》報導。
為了確保演員有動力授權他們的形象，Synthesia最近還推出了一個股權基金。根據該公司的說法，參與最受歡迎的AI虛擬形象或在Synthesia營銷活動中出現的演員將獲得價值100萬美元的“公司股份池”中的選擇權。
“這些演員將在最多四年的時間內參與該計劃，期間他們的股權獎勵將按月解鎖，”Synthesia表示。
對於演員來說，出售自己的AI形象似乎是快速且無痛的，甚至可能越來越有利可圖。他們只需在綠幕前出現，做出各種面部表情，然後就能收取報酬。但律師艾莉莎·馬爾基奧迪（Alyssa Malchiodi）告訴法新社，“我所接觸的客戶在簽署合約時並沒有完全理解自己同意了什麼”，他們盲目簽署包含“被視為剝削性條款”的合約，有時甚至授權“全球、無限制、不可撤回的使用權，沒有撤回的權利”。
“主要的紅旗是使用廣泛、永久和不可撤回的語言，這使公司擁有完全所有權或不受限制的權利來使用創作者的聲音、形象和肖像在任何媒介上，”馬爾基奧迪說。
即使是一家公開承諾倫理開發AI虛擬形象並防止其用於有害內容的公司，如Synthesia，也無法保證其內容審核能捕捉到所有問題。一位英國演員康納·葉茨（Connor Yeates）告訴法新社，他的視頻“被用來推廣布基納法索的總統易卜拉欣·特拉奧雷（Ibrahim Traore），該總統在2022年發動政變上台”，這違反了Synthesia的條款。
“幾年前，幾個視頻因為我們在事實準確性但具有爭議性的內容或帶有誇張主張或宣傳的視頻的執行存在漏洞而未能通過我們的內容審核，”Synthesia的企業事務負責人亞歷山德魯·沃伊卡（Alexandru Voica）說。
Synthesia提供選擇退出，承諾保護演員
對於那些擔心AI可能取代他們的演員來說，AI虛擬形象可能是一條增加收入和保障生計的道路。自2023年以來，Synthesia已向約一半的《財富》500強公司銷售其虛擬形象，根據彭博社報導，這一比例如今已上升至70%。對品牌來說，使用AI虛擬形象的吸引力在於降低市場營銷活動的時間和成本，因此需求似乎不會減少。而沃伊卡告訴Ars，Synthesia的典型用戶是《財富》500強公司的員工，因此與那些監管較少的AI應用的用戶“截然不同”，後者“往往生成迅速變成AI垃圾、虛假信息或詐騙的市場營銷內容”。
“從本質上講，我們將有害內容視為一種嚴重的安全威脅，而對於許多這些AI應用來說，這類內容則是其商業模式，”沃伊卡說。
但對於那些已經後悔簽署協議以防止他們刪除有害視頻的演員來說，這些錢可能不再值得。葉茨因簽署了一份為期三年的合約而獲得約5000美元的報酬，他簽約的原因僅僅是因為他“沒有富裕的父母，需要錢”。但他可能無法預見自己的面孔會被用於宣傳，因為即使是Synthesia也沒有預料到這一結果。
其他人可能不喜歡自己的AI虛擬形象視頻，但認為財務回報足以彌補這種刺痛感。科伊確認，金錢是驅動他決策的主要因素，儘管他覺得自己被描繪成一名售賣反烏托邦未來的騙子“超現實”，但這並未阻止他得出結論：“這對於少量工作來說，這是一筆不錯的收入。”
或許對演員來說，情況正在改善，Synthesia正在建立一個人才計劃，聲稱將使演員在AI虛擬形象的決策過程中有發言權。
“通過讓演員參與決策過程，我們旨在創造一種互相尊重和持續改進的文化，”Synthesia的博客中寫道。
該公司還表示，已建立安全功能，最小化濫用，並保護演員免受有害內容的影響。關鍵的是，這些努力包括限制在社交媒體或廣播媒體上使用AI虛擬形象的付費廣告。
也許最重要的是，他們還為演員提供了選擇退出的控制權，演員可以在“任何時候，如果他們不再希望其對應的虛擬形象用於新視頻”時使用這些控制權。
雖然退出機制可能提供一些緩解，但不會影響已經發布的視頻。目前，Synthesia聲稱自己是“唯一一家專注於企業的AI視頻平台，主動監控並廣泛防止生成有害內容”，並有政策“確保我們的人才的形象不被不當使用”。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
