網絡假評論
隨著生成式人工智能工具的出現，讓人們可以高效地創作新穎且詳盡的在線評論，擾亂了商家、服務提供者和消費者之間的信任關係，這引起了監察組織和研究者的關注。假評論長期以來一直困擾著許多熱門消費網站，例如亞馬遜和Yelp，這些評論通常在假評論經紀人和願意支付的商家之間的私密社交媒體群組中交易。有時，這些評論是由商家發起的，並為顧客提供獎勵，例如贈送禮品卡以換取好評。
然而，根據科技業專家的說法，受OpenAI的ChatGPT推動的人工智能文本生成工具使得詐騙者能夠更快、更大量地生成評論。這種欺騙行為在美國是非法的。
假評論的範圍
假評論遍及各行各業，從電子商務、住宿和餐飲到家庭維修、醫療保健和鋼琴課等服務。監察組織“透明度公司”表示，自2023年中期以來，他們開始在大量評論中發現AI生成的假評論，並且這些評論數量不斷增加。根據該公司去年12月發布的一項報告，他們分析了7300萬條評論，發現在家庭、法律和醫療服務三個領域中，近14%的評論可能是假的，其中230萬條評論被認為是部分或完全由AI生成的。
美國聯邦貿易委員會（FTC）於九月對一家公司提起訴訟，該公司開發了一款名為Rytr的AI寫作工具，指控它的服務可能會污染市場，導致虛假評論的產生。
AI生成評論的出現
根據AI檢測公司Pangram Labs的CEO Max Spero所言，他們的軟件確定了一些在亞馬遜上發表的AI生成評論，這些評論在搜索結果中排名較高。Pangram Labs對一些知名在線網站進行了檢測，但因保密協議未透露具體名稱。他表示，他獨立評估了亞馬遜和Yelp。
許多在Yelp上的AI生成評論似乎是由試圖發表足夠評論以獲得“精英”徽章的用戶所發布，該徽章旨在讓其他用戶信任內容。值得注意的是，AI生成的評論不一定都是虛假的，有些消費者可能會使用AI工具來生成反映他們真實感受的內容。
密歇根州立大學的市場學教授Sherry He表示，AI可以幫助改進評論，使其更具信息量，只要這些內容是出於良好意圖。她建議科技平台應該專注於壞行為者的行為模式，而不是阻止合法用戶使用AI工具。
企業的應對措施
許多企業正在制定政策來處理AI生成內容在移除虛假或濫用評論中的適用性。一些公司已經使用算法和調查團隊來檢測和刪除虛假評論，但也給予用戶一些靈活性來使用AI。亞馬遜和Trustpilot的發言人表示，只要AI輔助的評論反映了用戶的真實體驗，就會允許顧客發布。Yelp則採取了更謹慎的方式，表示其指導方針要求評論者撰寫自己的文字。
FTC於十月生效的禁止虛假評論的規則，允許該機構對參與該行為的企業和個人處以罰款。根據美國法律，承載這些評論的科技公司不對外部用戶在其平台上發布的內容承擔法律責任，因此這些公司在面對虛假評論經紀人的起訴時，通常會採取法律行動。
識別假評論的技巧
研究人員建議消費者可以通過觀察一些潛在的警告標誌來識別假評論，例如過於熱情或過於負面的評論都是紅旗。此外，過多使用產品全名或型號的術語也是潛在的識別標誌。耶魯大學的組織行為學教授Balázs Kovács的研究顯示，人們無法區分AI生成的評論和人類撰寫的評論。
不過，Pangram Labs表示，AI撰寫的評論通常較長、結構高度規範，並且包含“空洞的描述詞”，例如通用短語和屬性。這類寫作還往往包含諸如“第一件吸引我注意的事”和“改變遊戲規則”的陳詞濫調。
這一現象提醒我們，隨著科技的發展，消費者在網上尋找產品或服務時，必須更加謹慎，保持對評論的質疑和判斷力。同時，這也要求企業和平台加強對虛假評論的監管，以保護消費者的權益。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
