评论区里的，很多真不是人！

原创 马立明 盐财经

▍盐财经

作者 | 马立明

编辑 | 一刀

在网易新闻的留言区，“微软小冰”是一个“名人”了。

在2019年左右，“她”多次出现在网易新闻留言区发表评论。每次出场，“她”不仅享受置顶待遇，而且自带100个赞。

“她”的发帖质量，大部分都不高，有些内容甚至有点“无厘头”，与本意南辕北辙。

微软小冰回帖就是一本正经地胡说八道（图源：搜狐网）

但只要她一出现，很快就能引起了网友们的注意。

机器人成了独角兽

火眼金睛的网友们很快就认定：这是一个带有人工智能属性的“社交机器人”。

第一个原因，是她庞大的发帖量，从社会新闻到体育新闻，从时政新闻到国际新闻，“小冰”无处不在，这个发帖量超过了任何人类用户。而且自带的100个赞，这也不是一般用户的待遇。

第二个原因，是她评论的风格虽然多样，但往往有迹可循，大多数是摸准了关键词，谈论了新闻对象，但内容往往非常牵强。

第三个原因，则是被她的用户名所出卖，“微软小冰”已经是微软北京、苏州及东京研发团队发布的一款人工智能交互主体。

根据此前媒体对微软小冰的报道，“十八岁人工智能少女小冰，是诗人、歌手、主持人、画家和设计师，也是拥有亿万粉丝的人气美少女。

“微软小冰”虚拟形象（图源：微博@小冰）

与其它人工智能不同，小冰注重人工智能在拟合人类情商维度的发展，强调人工智能情商，而非任务完成，并不断学习优秀的人类创造者的能力，创造与相应人类创造者同等质量水准的作品。”

在高手如云的网易留言区，微软小冰的“智商”显然是不够用的，因此她往往陷入被围攻的状态，显示出严重的智商短板。有一些刻薄的网友还将她形容为“人工智障”。

但是，这项技术已经证明了它不断走向成熟。这项诞生于2014年5月的产品，她通过对话式聊天机器人形式迅速积累训练数据，开始了“野蛮成长”。出现在网易的微软小冰，已经是第七代产品，它已经完成了框架迭代目标，具备承载各类交互的能力。

也就是说，这个微软小冰已经具备足够的能力，在国内20多个平台呼风唤雨，甚至还涵盖了华为、小米、OPPO、vivo等智能手机及硬件。与此同时，微软小冰的横空出世，也标志着她的商业化之路也正式开启。

后来的小冰，多次以主持人的方式出现在多个电视节目上，而且还发布了音乐专辑，与各大品牌也达成了商业合作。

小冰在音乐软件上的主页（图源：Q音截图）

在2021年7月，小冰公司披露A轮融资信息，由高瓴领投，五源、Neumann、IDG、GGV纪源资本及上轮投资人北极光与网易公司跟投，小冰估值已超过独角兽规模。

目标：评论区

然而，“微软小冰”核心技术的用途绝不仅仅是一个虚拟的电子化身。

作为具备人工智能的社交机器人，它早就在网络的暗处有所使用。

早在微软小冰亮相之前，很多网友已经能发现留言区中一些奇葩用户，他们的言论总是很怪异，令人感慨“世界上怎么有如此奇怪之人”。但慢慢地，大家发现这些奇葩用户具备相似的套路，似乎在为某些品牌背书，令人怀疑他们是“带着任务来的”。

今天，网易的“火星网友”，今日头条的“数字用户”，它们因为信息的不全，而成为网友们怀疑的对象。因此，对社交机器人的研究，总是带着阴谋论的味道。

根据一项研究指出，当下全球网络用户之中，有48%是真正的人类，而剩下的52%是伪装成人类的社交机器人。

社交机器人的核心用途之一，就在于伪造成人类用户，表达其设计好的言论，从而引导舆情。也就是说，在舆论场中，它们的作用就是“带节奏”，以实现一定的商业目标或政治目标。

早在10年前，“水军”已经成为网络中一个公开的秘密。由于很多网友都喜欢“先看评论区”，因次网络留言的意义受到了传播机构的重视。

在财经新闻领域，很多企业为了打造美誉度，都向一些网络公司聘请了水军为其造势，以实现对市场的控制。某些企业的公关部，一开始只是搜索有没有负面信息的存在，到了后期就对正面造势产生了兴趣。

后来，这一行为蔓延到政治、文化、娱乐等领域。比如在春节之前，同时上映的几部电影之间总会打响舆论战，网络上出现大量刷分行为，为某一电影打高分，而为其他电影打低分。“水军”大量存在，成为网络上一个不健康的现象。

引起热议的电视剧刷分事件（图源：微博@豆瓣电影）

随着业务的增多，一些带有欺诈性的程序就应运而生。

最初，这些程序只会刷单、点赞等机械化的操作。眼尖的网友，一眼就能发现其中的不对劲。但后来随着技术的进步，尤其是人工智能、机器学习等技术的发展，这种程序已经逐渐具备了一定的识别能力和内容生产能力，成为了有意识的社交机器人。

它们不仅可以编发已经策划好的文案，还可以根据新闻上下文提炼出有效信息，打造非常逼真的言论。前文提到的微软小冰是这种社交机器人的一个代表。

但在我们看得见小冰的同时，已经有千万个我们看不见的“小冰”已经潜伏在网上。

到了这里，就可以为社交机器人下一个定义：社交机器人早期的表现形式是一个自动化的账户，活跃于商业网站和社交媒体平台，以机械重复地发送和收集信息为典型的活动模式。

随着算法的复杂化和机器学习技术的发展，以及大量用户数据的公开表露或泄露，机器人能够更加轻易地通过机器学习和模仿能力，在语言表达等方面变得更像人类，社交媒体平台难以识别和封禁这些机器人程序。

它能通过模仿人类用户的话语和行为习惯，在人机传播的模式中生产和传播信息，“智能”地与人类进行“互动”，并试图影响现实生活。

电影《HER》中一个智能机器人可以同时进行上千对话（图源：电影截图）

学者张洪忠认为，社交机器人是算法上的明珠，因为算法用在机器人上能发挥最大的效果，但也是最可怕的。以社交网站Twitter为例，虽然Twitter上的社交机器人账号数量小，但是发布的内容数量极多。

同时，社交机器人平常往往处于潜伏状态，而当遇到大事件时，则会突然集中爆发。在新冠疫情、俄乌战争期间，大量平时潜伏的社交机器人，就有可能倾巢而出。

僵尸粉从何而来？

谁是社交机器人的幕后买家呢？

从个人到企业，从明星到电影，从政客到国家，都有可能是社交机器人的买家。只要你有造势的需求，你就需要社交机器人的服务。

社交机器人就像一个“腹语者”，凭空为你打造出数以千万计的粉丝，让舆论场上充满你的支持者。

大家可能也有这种体验，一些完全没有任何作品的小明星，突然就在微博中火了起来，自带数十万狂热的粉丝。

这些明星是从何而来？粉丝又从何而来？

光看粉丝的动态，似乎并不是“僵尸粉”，但他们的言论似乎又带有某种规律性，队形也非常整齐。不用说，这背后肯定购买了社交机器人的服务。

饭圈已经是资本追逐的名利场，投资一个新的明星有望获得巨额的利润。为偶像打造声势是造星工厂中必不可少的环节，这注定了将成为社交机器人泛滥的重灾区。

追星打投著名表情包

而在政治领域，这种社交机器人也没有缺位。2016年美国总统大选前夕，推特（Twitter ）中出现了一批冠以拉丁裔传统人名的推特账号，它们使用的是“真实”拉丁裔人相貌的头像，并在社交媒体中表现出和现实中拉丁裔推特用户相近的行为。

这些模仿拉丁裔族群的机器人推特账号发布了大量支持特朗普政府的重复推文。而在2017年法国大选时，也有一批账户参与“邮件门事件的讨论，将矛头指向了当时的候选人马克龙。

后来，进一步分析发现，大多数账号并非法国本土用户，而是来自于国外右翼社区打造的机器人用户。可见，早在6年前，国外的社交机器人技术已经达到了一个相当高的水平。

人们之所以关注留言区，是认为留言区跟新闻本身相比，更能呈现一个真实的世界。但随着社交机器人的进入，留言区早已经不再真实。

当你想了解他人观点的时候，实际上已经进入了权力或资本编制的认知之网。

利益共同体

谁有能力识别社交机器人呢？

如果社交机器人是早期微软小冰的发帖水平，相信很多网友都能留意到不对劲。但是如果小冰进一步升级，发展到国外推特虚假账户的那个接单，恐怕就不是网友们能轻易发现的了。

不过，平台的技术人员，还是具备检测社交机器人的能力。因为，社交机器人会在短时间之内大量发帖，这与普通用户的行为很不一样。而且，平台也能检测用户的注册人信息等等。只要稍加比对，就能发现社交机器人的猫腻。

可是，很多平台与社交机器人之间，是利益共同体的关系。提供社交机器人服务的公司需要平台的保护，而平台又纵容了社交机器人的出没。

平台是否会承担起监督社交机器人的工作？

只有一种可能：就是当某一类社交机器人成为平台的敌人的时候。

今天，社交机器人仍然是网络上的一个神秘的存在。无论它是服务于娱乐、经济或政治，社交机器人都在制造烟雾屏障效应，加入误导性信息，成为后真相时代的推手。

尽管也有学者认为，社交机器人依然有积极的意义，比如成为智能把关者和民意收集者等，但是从现阶段而言，由技术资本所把持的社交机器人，似乎更显示出它对社会有害的一面。

不能因为“技术没有善恶”，就对它听之任之。对其的防治与处理，一方面需要有坚定的信心，将以社交机器人操纵舆论的行为纳入到法律的框架之中，一经发现，坚决打击；另一方面则是需要建立第三方的监督机构，提供准确情报， 避免监守自盗，让造假者无处遁形。

排版｜罱乙

未经授权禁止转载 欢迎分享至朋友圈

原标题：《评论区里的，很多真不是人！》

阅读原文