购物先看评论,可这些评论你能分出真假?

手机数码 零镜网 (源链)

打开手机,点开某宝,开始购物,先看评论。一套动作行云流水,可是你有没有想过,你看到的那些评论可能都是假的?

什么时候养成购物看评论的习惯?

互联网之前,人们购物物品时,均会选择自己熟悉的商家、企业。这也是为何那么多大公司在电视、纸媒上投递广告的原因之一,不去影响你,至少也要混个脸熟。其次,即使消费者购买到次品、劣品,对其评价也仅在有限范围内的传播,买家往往无处诉苦,无良商家也能够继续行骗。

到了互联网时代,在购物前往往会选择点开评论,看商家口碑好坏,从而决定是否购买相关产品。正常情形下,一些人会习惯性的选择好评最多的商家。有些人则选择直接过滤好评,跳到差评项,查看差评的原因并确定是否购买。

两者都显示了评论如何影响我们的购物。也正是因为评论有着这样的导向性,网络上“水军”突起,帮商家刷好评的不下其数。这就需要用户进行辨别,一般情形下,用户能够较为容易地识别出哪些是“水军”刷的评论。再不济会选择差评,差评往往能够更为真实地反映事实,当然也不排除敌对的竞争者恶意差评。

即便有了水军之后,商品评论的价值下降,但是用户仍旧会查看好评和差评,剔除可能是水军发出的评论。用户仍在将评论作为参考性因素,评论仍扮演重要的角色。但是这样的角色在不久的将来却可能崩塌。

评价崩塌的时代可能即将到来

如果看到一个店面,店面下满是各种好评,进入购买,却发现原本快递的是高端智能手机,到手却变成了一块砖头。相信任何人都将对此心有余悸。下次购物时盯大双眼,再次对评论严加把控,但清一色不同人的好评却促使你下定决心购买店家的时尚服装,到手的却是一件寿衣。即便可以当场拒签,想必你的内心也是崩溃的。

那么,原本可以一眼看穿的“水军”评论为何此时变得如此真实了呢?芝加哥大学研究人员在最近发布的一篇《在线点评系统中的自动众包攻击和防御》中表示,人工智能可以被用来生成复杂的点评信息。也就是说,你看到的那些好评,可能完全出自机器之手。

对于那些已经听惯机器人写稿的人来说,这或许算不了什么。但是,想象一下,数千条好评被写在一个店家的页面之下,不仅一般的机器无法检测,而且用户也无从分辨。这个时候,评论还能够视为评论吗?

论文中显示,通过运用深度学习技术中的RNN(神经循环网络),使用上千条真实在线点评,便能够训练出这样一个AI水军。假设这是一家餐馆的页面,那么店面下的评论就可能是这个样子的,“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。”

似乎跟一般用户评论并无任何差别。甚至在参与调查的600个用户中,不少人认为AI生成的虚假评论“有用”。这也意味着它确实将对用户产生引导,促使他们走向这些可能无人光顾的店面。正因为它毫无差别,所以论文作者之一芝加哥大学计算机科学教授赵燕斌教授才会表示,“这对整个社会是一个巨大的威胁,不但会让依靠点评信息的用户失望,而且会动摇人类对于真实和虚假的信念,我认为后者更让人担心”。

千方百计阻止它的发生

人类没有办法识别这些信息的真假,那机器有办法进行识别吗?与简单替换已有点评中的用词极为不同,使用RNN产生的这些点评,是逐字生成的。通用的反抄袭软件对这些点评无能为力,不但难以检测这些虚假点评,甚至会“误伤”大批真实的点评。

那么人类真的束手无策了?好消息是,目前现实生活中并没有采用AI生成恶意虚假点评的案例(当然也可以恶意揣测,也许已经在发生,但没人知道,比如此次论文中的案例)。坏消息是,构建这样的系统,耗时不长,数据消息可以从网上获取,硬件也可轻易购得。也就是说,事情还未发生,但事情可能很快就会发生。

届时,首先遭殃的便是依靠用户真实点评积聚人气的美国Yelp(美国最大点评网站)、国内大众点评这样的网站。此后可能就是各大电商平台,虽然用所限制,仅购买商品用户可以点评,但是情形仍不乐观。

那么要如何防范这些AI生成的假评论呢?要让人类靠自身识别已经变得极其困难。既然是机器生成的,有没有可能用机器去防范呢?目前这些AI生成的评论,与用户真实的评论间仍旧存在细微差异,还能够通过计算机分析字符分布等特征去辨别。

原因很简单,AI生成评论从真实信息学习的,但这个过程中会有信息流失。要保证AI生成评论的流畅、可信,就会在其他方面像字符分布有所取舍。研究者表示,“在训练过程中发生的信息遗失,会传递到生成出的文本中,因此生成文本和人类文本在基本字符分布上,有着统计上可检测的差异。”

虽然攻击者可以骗过检测,做出更好的AI,但是检测提高了共计门槛。此外,如果攻击成本足够高,大部分人会选择放弃。但是“你永远没办法阻止那种目标坚定、身手老练的攻击者。”

Yelp的发言人佐证了保障内容真实的严峻性。“随着欺骗点评系统的方法持续进化,越来越复杂,Yelp这类大型用户点评网站在保障内容真实性上面临着重大挑战。十年来,Yelp一直有保护内容的系统,而正因为欺骗手段越来越复杂,我们也持续迭代这些系统,来识别假点评,以及偏颇、没有帮助的内容。”

零镜观点

AI生成的点评可能使购物的评价体系陷落,使用户再次回到互联网前的状态。但是更为严重的或许并非影响购物体验,而是信任的崩塌。如何验证信息的真实性才是摆在人们眼前的一大难题,这也是论文作者为何会做这样的论文研究,“AI以惊人的速度和加速度在发展,如果我们不立刻开始研究如何抵御,可能永远都赶不上了。”

最后,你能分辨这些评论哪些是真的哪些是假的吗?(翻译过后,与原文已有出入。)

1、我最喜欢去的意大利餐厅。大爱这家菜品,一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了,越来越难在黄金时间预定到座位。

2、我们全家都是这间餐厅的超级粉丝。工作人员非常奈斯,食物很棒。鸡肉非常好吃,蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐!

3、每年圣诞节我都来,最爱意大利面!物有所值!

4、非常好的披萨、烤宽面条以及最好吃之一的扇贝。甜品很大很美味。

您可能感兴趣的

Yelp reviewers are spamming Trump hotels with R... Since The Washington Post reported that Donald Trump allegedly asked lawmakers, "Why are we having all these people from shithole countries come he...
Moving the Rest of the Monolith to PaaSTA This past April (2017) we finally migrated our monolith toPaaSTA (our open source PaaS based on Apache Mesos). Yes, although Yelp does subscribe to t...
担心的事情还是发生了,AI水军你根本看不出来... 无论是中国还是美国,很多人在选择餐馆或者酒店的时候,主要依靠网上的点评,比方说大众点评或者Yelp等等。 某种程度上,口碑已经成为不少企业的命脉,变成服务和产品质量的永久记录。与此同时,不公平或者虚假的点评也让企业忧心忡忡,这些有可能来自愤怒的顾客,有可能来自竞争对手。 水军,在全球都是一个...
Yelp for iOS Gains Support for Apple Pay Yelp's iOS app received a major update today, introducing support for Apple Pay for the first time. With Apple Pay support, Apple's payments service...
Yelp introduces custom (local) audiences for natio... Roughly two years ago, Yelp phased out its display ad unit for national advertisers. Earlier this week, the company introduced a new data-driven a...
零镜网责编内容来自:零镜网 (源链) | 更多关于

阅读提示:酷辣虫无法对本内容的真实性提供任何保证,请自行验证并承担相关的风险与后果!
本站遵循[CC BY-NC-SA 4.0]。如您有版权、意见投诉等问题,请通过eMail联系我们处理。
酷辣虫 » 购物先看评论,可这些评论你能分出真假?



专业 x 专注 x 聚合 x 分享 CC BY-NC-SA 4.0

使用声明 | 英豪名录