分不清水军评论? 没关系,因为AI水军来后,再也没人分得清了

“现在很多人在网上购物或者找一些美食店家的时候都会先翻看别人的点评,择优而选。但是,这些评论里面哪些是真实的哪些是水军,你能分得清楚么? 分不清也不用急,反正以后AI水军来了后,就再也没有人分得清了。(文末附自我测试)”

人工水军时代

随着网络信息时代的发展,一些商家为了提高自己店铺的知名度、好评度……比如淘宝中某些商家为了冲黄钻、钻石、金牌店家……通常都会雇佣一些水军来刷评论

三观全毁的“某度”上随便一搜,都是这种画风

写这些虚假的点评的人类水军已经是一个兴盛的地下行业了。他们会给雇佣者刷好评、有的甚至会恶意诋毁其他商家,受到这些评论的干扰,经常会有上当者买错东西。

经过火箭君多次的观察已经发现至少一种常见的评论套路 例如:“这个东西是我帮朋友买的,朋友说很好 你想想,你的朋友会特地告诉你,然后你来给个好评,有时发了几张图片,这怎么可能? 这句话更像是在暗示,我只是替人叫个好而已。

国外有个委婉的叫法 “crowdturfing”

但是,这些人类水军同样面临着失业的危险,应为,“AI”(人工智能)又一次来袭了,在人类水军中又掺杂了不少“AI水军党”

以假乱真的AI水军来了

芝加哥大学的研究人员(Ben Y. Zhao, 看名字和照片像是华裔)发表过一篇论文,他们通过研究利用神经网络训练出了一种AI水军,竟然可以在亚马逊、Yelp等网站上自动生成虚假评论,而且这些评论还能通过机器的审核,甚至人类读者也分辨不出来。

例如: “这个地方很不错!调酒师十分厉害。意大利面很好,我喜欢他们的甜点,很赞。我也喜欢这里的早餐,工作人员很友好,价格也合理。没有遇到什么不好的体验。一定会再来!”

你能想到这是AI自动编写的虚假评论么?

AI生成的评论并不是简简单单的复制粘贴过来,而是由一种被称为 RNN(循环神经网络)的技术,通过深度学习生成的评论。

循环神经网络

研究人员表示这些AI生成的评论应做到了“以假乱真”的程度,通过对 600多个用户的调查显示,他们都会以为这些评论是人写的并且也相信了这些评论,

人工水军的存在都已经严重的影像了网络信息的真实性,如果AI水军的大量投入,不知道会造成多大的影响,不过一个好消息是,AI到现在还没有在现实生活中生成恶意虚假评论的案例,但是想要构建出这样一个人工智能并不需要花费多长时间,所以我们仍然要保持警惕。

研究人员自信的表示 大意是: 以后商家点评就别看了,看了也别信 (一种信达雅的译法)

截至成文时刻,Yelp(外国的“大众点评”)已经对AI水军评论一事,作出声明(向早期报道此事的Verge网站):

Yelp表示,不认为这种AI虚假评论会构成很大的问题。 Yelp的推荐软件采用了更为全面的方法审核。这项AI研究只关注创建文本,虽然这个文本似乎是真实的,但是网站会使用文本内容以外的许多信号来确定是否真实,而且其他网站可能会使用类似的方法。

防御假信息

尽管这些虚假的评论能达到以假乱真的地步,但是它们也有一些隐藏的漏洞,因为计算机程序可以测算字符的分布规律而真评论和虚假评论使用字词的频率是不同的,AI 要尽可能保持逻辑通顺、流畅,所以用词会相对保守,这些细微的变化通常人们是无法发现的,但通过技术仍然是有办法可以识别。

但是,AI的技术不是仅仅简单的模仿评论,它能通过 Prisma 让一张普通的照片变成艺术画作、帮助人类做一些简单的工作,当然也能分析其它AI写的评论 ………… 大家还记得谷歌家的“Auto Draw” AI画画吗?

所以AI的应用还是要取决于人类如何设置,不过适当的防范措施还是要准备的。我们拭目以待吧。无论是昧着良心制造AI水军,还是抵御AI水军,感觉国内又有一波企业找到了创业新的方向。

最后 看看你骗得过吗?

和火箭君一起来做个小测验吧!

下面6条评论,你能才出来那几个是AI写的么?

1. 我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒也很棒,服务也不错。推荐这个地方,很适合那些想找个地方吃早餐的人。

2. 我们全家都是这间餐厅的超级粉丝。工作人员非常奈斯,食物很棒。鸡肉非常好吃,蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐!

3. 我已经来过这儿好几年了,每次的体验都很好。服务很棒!这儿的人都挺友善。我一定会再来的!

4. 这的食物好吃得惊人,分量也很大。芝士百吉饼做得非常完美,新鲜又美味!服务很快。毫无疑问是我们最爱的地方!我们还会回来的!

5. 我最喜欢去的意大利餐厅。大爱这家菜品,一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了,越来越难在黄金时间预定到座位。

6. 每年圣诞节我都来,最爱意大利面!物有所值!

后台回复“AI”检查自己是否猜对了呢,火箭君还会附上相关的论文下载地址哦~