购物先看评论,可这些评论你能分出真假?

打开手机,点开某宝,开始购物,先看评论。一套动作行云流水,可是你有没有想过,你看到的那些评论可能都是假的?

什么时候养成购物看评论的习惯?

互联网之前,人们购物物品时,均会选择自己熟悉的商家、企业。这也是为何那么多大公司在电视、纸媒上投递广告的原因之一,不去影响你,至少也要混个脸熟。其次,即使消费者购买到次品、劣品,对其评价也仅在有限范围内的传播,买家往往无处诉苦,无良商家也能够继续行骗。

到了互联网时代,在购物前往往会选择点开评论,看商家口碑好坏,从而决定是否购买相关产品。正常情形下,一些人会习惯性的选择好评最多的商家。有些人则选择直接过滤好评,跳到差评项,查看差评的原因并确定是否购买。

两者都显示了评论如何影响我们的购物。也正是因为评论有着这样的导向性,网络上“水军”突起,帮商家刷好评的不下其数。这就需要用户进行辨别,一般情形下,用户能够较为容易地识别出哪些是“水军”刷的评论。再不济会选择差评,差评往往能够更为真实地反映事实,当然也不排除敌对的竞争者恶意差评。

即便有了水军之后,商品评论的价值下降,但是用户仍旧会查看好评和差评,剔除可能是水军发出的评论。用户仍在将评论作为参考性因素,评论仍扮演重要的角色。但是这样的角色在不久的将来却可能崩塌。

评价崩塌的时代可能即将到来

如果看到一个店面,店面下满是各种好评,进入购买,却发现原本快递的是高端智能手机,到手却变成了一块砖头。相信任何人都将对此心有余悸。下次购物时盯大双眼,再次对评论严加把控,但清一色不同人的好评却促使你下定决心购买店家的时尚服装,到手的却是一件寿衣。即便可以当场拒签,想必你的内心也是崩溃的。

那么,原本可以一眼看穿的“水军”评论为何此时变得如此真实了呢?芝加哥大学研究人员在最近发布的一篇《在线点评系统中的自动众包攻击和防御》中表示,人工智能可以被用来生成复杂的点评信息。也就是说,你看到的那些好评,可能完全出自机器之手。

对于那些已经听惯机器人写稿的人来说,这或许算不了什么。但是,想象一下,数千条好评被写在一个店家的页面之下,不仅一般的机器无法检测,而且用户也无从分辨。这个时候,评论还能够视为评论吗?

论文中显示,通过运用深度学习技术中的RNN(神经循环网络),使用上千条真实在线点评,便能够训练出这样一个AI水军。假设这是一家餐馆的页面,那么店面下的评论就可能是这个样子的,“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。”

似乎跟一般用户评论并无任何差别。甚至在参与调查的600个用户中,不少人认为AI生成的虚假评论“有用”。这也意味着它确实将对用户产生引导,促使他们走向这些可能无人光顾的店面。正因为它毫无差别,所以论文作者之一芝加哥大学计算机科学教授赵燕斌教授才会表示,“这对整个社会是一个巨大的威胁,不但会让依靠点评信息的用户失望,而且会动摇人类对于真实和虚假的信念,我认为后者更让人担心”。

千方百计阻止它的发生

人类没有办法识别这些信息的真假,那机器有办法进行识别吗?与简单替换已有点评中的用词极为不同,使用RNN产生的这些点评,是逐字生成的。通用的反抄袭软件对这些点评无能为力,不但难以检测这些虚假点评,甚至会“误伤”大批真实的点评。

那么人类真的束手无策了?好消息是,目前现实生活中并没有采用AI生成恶意虚假点评的案例(当然也可以恶意揣测,也许已经在发生,但没人知道,比如此次论文中的案例)。坏消息是,构建这样的系统,耗时不长,数据消息可以从网上获取,硬件也可轻易购得。也就是说,事情还未发生,但事情可能很快就会发生。

届时,首先遭殃的便是依靠用户真实点评积聚人气的美国Yelp(美国最大点评网站)、国内大众点评这样的网站。此后可能就是各大电商平台,虽然用所限制,仅购买商品用户可以点评,但是情形仍不乐观。

那么要如何防范这些AI生成的假评论呢?要让人类靠自身识别已经变得极其困难。既然是机器生成的,有没有可能用机器去防范呢?目前这些AI生成的评论,与用户真实的评论间仍旧存在细微差异,还能够通过计算机分析字符分布等特征去辨别。

原因很简单,AI生成评论从真实信息学习的,但这个过程中会有信息流失。要保证AI生成评论的流畅、可信,就会在其他方面像字符分布有所取舍。研究者表示,“在训练过程中发生的信息遗失,会传递到生成出的文本中,因此生成文本和人类文本在基本字符分布上,有着统计上可检测的差异。”

虽然攻击者可以骗过检测,做出更好的AI,但是检测提高了共计门槛。此外,如果攻击成本足够高,大部分人会选择放弃。但是“你永远没办法阻止那种目标坚定、身手老练的攻击者。”

Yelp的发言人佐证了保障内容真实的严峻性。“随着欺骗点评系统的方法持续进化,越来越复杂,Yelp这类大型用户点评网站在保障内容真实性上面临着重大挑战。十年来,Yelp一直有保护内容的系统,而正因为欺骗手段越来越复杂,我们也持续迭代这些系统,来识别假点评,以及偏颇、没有帮助的内容。”

零镜观点

AI生成的点评可能使购物的评价体系陷落,使用户再次回到互联网前的状态。但是更为严重的或许并非影响购物体验,而是信任的崩塌。如何验证信息的真实性才是摆在人们眼前的一大难题,这也是论文作者为何会做这样的论文研究,“AI以惊人的速度和加速度在发展,如果我们不立刻开始研究如何抵御,可能永远都赶不上了。”

最后,你能分辨这些评论哪些是真的哪些是假的吗?(翻译过后,与原文已有出入。)

1、我最喜欢去的意大利餐厅。大爱这家菜品,一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了,越来越难在黄金时间预定到座位。

2、我们全家都是这间餐厅的超级粉丝。工作人员非常奈斯,食物很棒。鸡肉非常好吃,蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐!

3、每年圣诞节我都来,最爱意大利面!物有所值!

4、非常好的披萨、烤宽面条以及最好吃之一的扇贝。甜品很大很美味。

零镜网稿源:零镜网 (源链) | 关于 | 阅读提示

本站遵循[CC BY-NC-SA 4.0]。如您有版权、意见投诉等问题,请通过eMail联系我们处理。
酷辣虫 » 手机数码 » 购物先看评论,可这些评论你能分出真假?

喜欢 (0)or分享给?

专业 x 专注 x 聚合 x 分享 CC BY-NC-SA 4.0

使用声明 | 英豪名录