社交媒体“失乐园”，与美国极端主义的兴起

【编者按】在社交媒体兴起的过程中，由于缺少对极端言论的监管，许多网络公司直接或间接地导致了仇恨、歧视和危险言论的蔓延。几年之中，许多极端分子已经不满足于在网络上发表极端言论，转而开始组织线下的活动。值得注意的是，网络依然是滋养极端意识形态的“温床”，一些用户通过发布煽动性言论以及假新闻，培养了大量的追随者。在本文中，Ellen K. Pao谈到了现在美国互联网对于仇恨言论的监管不力以及如何平衡言论自由以及合理的监管尺度。

Ellen K. Pao不太可能成为一个麻烦制造者。毕业于普林斯顿大学、哈佛法学院和哈佛商学院，Ellen K. Pao于2005年被硅谷著名的风险投资公司Kleiner Perkins聘用。这位会讲普通话的电气工程师兼律师以合伙人的身份进入了Kleiner公司。

到目前为止，一切都在意料之中。但在2012年，在Pao和其他女性高管的晋升被否决后，她对该公司提起了歧视诉讼，声称公司的行为带有排斥和报复性质，并声称公司曾对她有性骚扰行为。

在三年后，该案终于开庭审理。在媒体对 “MeToo ”事件之前的报道中，Pao发现自己被描绘成一个忘恩负义的掌权者，利用了旨在保护弱势群体的歧视法为自己谋取利益——陪审团站在了Kleiner Perkins的一边。

这是一段充满了伤痛的经历，考验了她的胆量并改变了她的世界观。几天前，在我们谈话时，她告诉我：“这让我明白，高科技和风险投资是充满了问题的行业。”

在2013年，当她进入社交媒体和聊天论坛Reddit的领域时，这种洞察力成为了指导她职业生涯下一步的关键。在2014年11月成为临时CEO后，Pao试图解决她认为公司内存在的问题。但硅谷的主流风气（这种风气反映了身为硅谷亿万富翁的男性高管们的自由主义价值观，而最近的“玩家门事件”又残酷地“实践”了这种风气）使得Pao禁止发布报复性的色情片和网络欺凌的新政策遭受了恶性反弹：超过20万Reddit用户签署了一份请愿书，要求将她撤职。Pao因此辞职，并于2015年7月离开公司。

五年后，许多事情都发生了变化。Pao现在经营着一家由她创立的，名为 “包容计划”（Project Include）的非营利组织，为科技公司提供咨询，帮助他们在招聘中实现多样性和公平性。Craig Newmark基金会和好莱坞的Time's Up基金会是她的资助者。

更令人震惊的是，硅谷的巨头们现在正处于防守状态：Facebook面临着越来越大的压力——要求它解决充斥在其网站上的虚假信息；Twitter在总统推文不符合规定标准的情况下，将其打上星号；Google现在面临着司法部的反垄断诉讼。

在这种情况下，Pao已经成为了科技行业的一个关键的杰出人物。她是一个有远见的人，在试图驯服科技行业最糟糕的冲动方面走在了时代的前面。她的文章出现在《华盛顿邮报》、《时代》杂志和Vox的re/code上；2017年，她出版了一本回忆录《重启： 我为包容和持久的变革而战》。

当美国人准备在这场具有历史意义的选举中投票时（在这场选举中，处在疫情中的社交媒体和虚拟交流将产生不可估量的影响），她和我通过Zoom进行了长时间的交谈。以下是经过编辑和浓缩的对话。

克劳迪娅·德雷福斯：在你的著作和演讲中，你有时将社交媒体描述为一种失乐园。这是什么意思？

Ellen Pao： 设计媒体的兴起基于这样的一种想法：更多的对话是一件非常棒的事情。当时有一个宏伟的愿景，认为你可以拥有一些统一的、同时连接世界的东西。但这些企业的创始人（Facebook和Twitter）来自于，用一个词来形容：特权。

他们都是白人，往往人生阅历有限且观点短视。对他们来说，在网上聊天是一件很好的事情。

当某些他们没有经历过的问题开始出现时，他们没有像应有地那样去认真对待这些问题。其中最明显的一个问题是：女性、非二元、黑人、拉丁裔和原住民在互联网上受到骚扰、欺凌和被边缘化。这些平台主持着这些一边倒的对话，而这些对话往往是种族主义和厌恶女性的。

所有这些都发生在这些公司寻求鼓励用户参与的那一刻。那么，是什么推动了这一切呢？归根结底还是冲突和愤怒。网络平台成了尖叫比赛的现场，我们得到了分歧而不是建立了桥梁。实际上，我认为，这就是导致了这些天网络上的白人至上主义的原因。

克劳迪娅·德雷福斯：那么，在互联网出现之前，白人至上主义是不是就已经无处不在了？

Ellen Pao：人们更多地是去隐藏它。而且他们可能并没有如此多的机会直面种族主义。

新鲜的是，社交媒体让这些声音获得了越来越大的平台。白人至上主义者实际上是从这些网站上进行招募的。曾经有人写道，Reddit是白人至上主义组织的最大的招募来源之一。

我的观点是，因为有了社交媒体，白人至上主义者不再躲藏。这是一个巨大的变化，我把这变化归咎于平台。

克劳迪娅·德雷福斯：许多恶性事件都可以被归结到互联网上允许匿名吗？人们不必说出自己的真实姓名，也不必为自己所说的话背书。要求提供可核实的真实姓名会有帮助吗？

Ellen Pao：在八年前这样做会有帮助。今天，人们不再躲在“用户名”的背后。我们已经看到了这些游行的白人至上主义者的面孔，他们不戴头巾，而且并不害怕被拍照。他们自豪地把这些信息分享到他们的Facebook推送中。他们对此没有感到耻辱，也不觉得羞耻。我觉得人们已经不在乎自己的名字是否被附加到负面内容上去了。

克劳迪娅·德雷福斯：就在这个月，经过人权组织多年的游说，马克·扎克伯格宣布他将在Facebook上禁止否认大屠杀。许多人想知道他怎么花了这么长时间来做到这件事……

Ellen Pao：我读到他们花了十年才做到这一步……两年前，马克·扎克伯格说过类似的话，“嘿，每个人都有权利表达自己的观点，你可以认为大屠杀没有发生”。大屠杀是事实，不是观点。

克劳迪娅·德雷福斯：社交媒体的高管们是否不愿遏制他们平台上的仇恨言论?

Ellen Pao：他们说，他们不想要仇恨，而且他们确实删除了有关ISIS的帖子。但当涉及到白人至上主义和其他一些形式的极端观点时，这有时反而为平台带来了好处。它创造了更多的参与度，促使一些用户在平台上花费大量的时间，这意味着公司可以指望用户创造免费的内容，并增加用户参与人数。这些数字反过来又可以用来销售广告，让平台从投资者那里筹集资金。

克劳迪娅·德雷福斯：为什么社交媒体公司的领导层不对其网站上出现的内容制定更严格的标准？

Ellen Pao：这很复杂。高管们不想表现得好像他们可以控制言论自由，因为他们担心承认“言论控制”会导致政府的监管。如果他们说：“是的，我们可以调整这些‘刻度盘’，多雇一些人监控内容。”那有人可能会问：“那你为什么不做这些事情？” 事实上，很多网站，尤其是Facebook，都有前后不一的调控尺度和不明确的规则。这是一个他们可以解决的问题。

坦率地说，我们一直对平台上的言论自由有所限制。从第一天开始，他们就摆脱了垃圾邮件、摆脱了儿童色情。当我在Reddit的时候，我带领大家努力摆脱发布未经授权的裸照和报复式的色情内容。今天，每个人都接受了“这些不应该被允许发布”的观念。但五年前，当我提出这些意见的时候，这是有争议的。没有一个大平台这么做，因为他们认为自己是一个开放的言论自由空间。但一旦Reddit带头，其他平台，包括Facebook、Twitter、YouTube、微软就会跟进。

克劳迪娅·德雷福斯：那段经历让你知道改变是可能的吗？

Ellen Pao：绝对的。你知道，我之所以担任Reddit的CEO，是因为我想对有害内容作出处理。Reddit有一些最糟糕的互联网内容。我想，“如果Reddit能做出改变，那么其他平台将跟随我们。”这就是发生过的事情。其他平台只是在等待别人迈出第一步。

克劳迪娅·德雷福斯：2016年大选后，人们发现Facebook曾作为虚假信息的来源支持唐纳德-特朗普的竞选。一家与特朗普竞选活动相关、由罗伯特·默瑟资助的咨询公司“剑桥分析 ”利用获取整个“朋友”链的权限，利用多达8700万Facebook用户的个人信息，以方便进行针对目标做政治信息传递。Facebook最初宣称自己对数据挖掘不负责，但该公司最终被迫支付了数十亿美元的罚款。但阻碍更好地保护用户隐私的原因仅仅是技术问题吗？

Ellen Pao：不，我的意思是，看看Facebook和它拥有的资源，他们可以影响的东西。这并不是说一旦有什么东西被植入到技术中，它就永远无法改变。在科技领域，他们在不断地改变自身的技术，他们在不断地偿还我们所说的 "技术债务"，这是修复非生产性技术问题的成本。如果某个功能不能解决长期的问题，这就会成为技术债务。随着时间的推移，你会试着把它还清并修复它。

在互联网领域，他们不是在说 "这不是一个问题"，就是在说 "我们认为这不是一个大问题，不足以列入我们的待办事项清单"。

克劳迪娅·德雷福斯：我相信，Facebook甚至派出了一名顾问，向数据挖掘者展示如何更有效地利用他们的技术。光是这个事实就能让你觉得社交平台对数据的参与度比他们所承认的要大。

Ellen Pao：而且我敢肯定，该顾问对该服务收取了某种费用。

坦率地说，Facebook出售用户数据是其问题的一部分，它完全可以停止这样做。你所要做的就是关闭那些应用编程接口（API），关闭访问。当我在Reddit那里的时候，我们有机会出售数据。但我研究后发现，一旦出售数据，我们就无法控制数据会导致的后果，因此我们放弃了这个想法。我相信，现在的Reddit就是在卖数据。现在的领导层的做法是为了推动收入，你可以通过这种方式赚很多钱。

克劳迪娅·德雷福斯：你认为类似的事情是否也在本次选举活动中发生了？

Ellen Pao：我不知道这是不是事实，但你可以假设有这样的事情发生。据我所知，Facebook因发布与俄罗斯有关的虚假信息而关闭了两个网站。在早前的一次努力中，Facebook删除了13个账户。我对取缔账号数量之少感到惊讶，我们不知道有多少问题账号被遗漏了。我无法想象他们（俄罗斯和其他外国行为者）就这样放弃了，但我没有听说有更多的账号被取缔。过去在Reddit，人们会以同样的方式创建新账户并重新找回他们的追随者，直到我们创造了一种方法来阻止这种情况发生。我还没有听说过Facebook会怎样来处理这些问题，我想他们会披露这些删除的情况，但自9月底以来，我还没有看到任何消息。

你知道，每次Facebook发现问题后，他们的领导层都声称他们已经做出了改变。不久前，ProPublica暴露了Facebook的广告是如何被定制的，导致这些广告对寻找住房的黑人进行歧视。Facebook领导层说，他们要改变这种情况。但当人们再次关注这些问题时，情况并没有真正得到改变。鉴于过去的历史，我不相信Facebook已经做出了可以防止2016年的问题再次发生的改变。

克劳迪娅·德雷福斯：推特已经开始给总统的一些言论贴上标签，认为其可能具有误导性。其警告的措辞是：“此推特中分享的部分或全部内容存在争议，可能具有误导性。”对你来说，这就够了吗？

Ellen Pao： 我对Twitter感到挫败感的点是：这有点太晚了。

特朗普本人和他家人的账户现在有几百万的粉丝。我对Twitter的高管们能够感同身受，处理这些问题并不容易。当我们在对Reddit进行变革的时候，我们了解到你不可能一下子改变整个事情。如果你尝试了，你就无法维持对这些变化的掌控。如果你想一次性把所有可怕的内容都处理掉，人们就会不断地出来反对你；你就无法执行你的规则。你做事情要慢慢来，一件一件来。

克劳迪娅·德雷福斯：他们应该把总统赶出twitter吗？

Ellen Pao：你知道，在2017年初，劳拉·戈麦斯和我在re/code上发表了一篇文章，我们或多或少地表示：“嘿，Twitter，你应该把特朗普踢出你的平台。他鼓励骚扰，他违反了每一条规则。”

当有一位如此知名的人违反平台规则时，这等于在告诉用户：平台规则并不重要。推特的工作方式，使得特朗普的内容获得了更多的用户、浏览量以及宣传的回报。他的行为鼓励了其他人去尝试找出他们能做得“多极端”，因为他走出了一条“成功的道路”。我对Twitter所做的事情感到沮丧的点是，它的限制来得有点太晚了，特别是在限制仇恨言论和骚扰方面。一些最糟糕的账户现在有数百万的追随者。

Twitter现在可以做的一件事就是停止推广一些相当糟糕的账号。每天，我都会收到他们推广埃里克·特朗普账号的邮件。他们不一定要禁止他的账号，但至少不用放大它。

克劳迪娅·德雷福斯：在唐纳德·特朗普担任总统期间，网络争论和骚扰是否有所增加？

Ellen Pao：我相信确实如此。他在社交媒体上的行为一次又一次地掀起了关注的浪潮，违反了Twitter的规则。当他这样做的时候，等于也在鼓励其他人这样做。最终，你在平台和现实世界的行为都会越来越糟糕。

这个问题并非那么轻描淡写。社交媒体的运作方式是：不良行为会得到奖励。这些网站的机制被设计成放大冲突和愤怒。这就是为什么特朗普发推文的方式如此有影响力，每次他发布一些令人愤怒的东西，都会被转发、点赞和分享：它放大了原始信息，扩大了它的影响力，媒体也会报道它。突然间，有一个完整的新闻周期围绕着一条推特展开，而停止聚焦在国家的一些实际问题上。

克劳迪娅·德雷福斯：你怎么看第一夫人梅拉尼娅·特朗普将网络欺凌设定为她的核心议题？她是不是在挖苦我们，就像她去视察移民拘留中心时穿着一件写着 “我真的不在乎。你呢?”的外套一样？

Ellen Pao：我不明白这一点，也不去分析它。我没有看到她做了什么，我看到了一些公关信息，但我没有看到任何具体的东西。

我不相信她见过任何平台的领导人。我不认为她会见了常识媒体、反诽谤联盟，或任何致力于打击网上欺凌和仇恨的组织。我真的不知道她除了做几个新闻公告以外还做了什么。

克劳迪娅·德雷福斯：《纽约邮报》最近发表了一篇基于未经核实的电子邮件的报道，声称这些邮件来自亨特·拜登的笔记本电脑。也许是想起2016年该平台是如何成为亲特朗普的虚假信息中心的历史，Twitter高层决定屏蔽该报道的链接。然后，在一些共和党参议员威胁要进行调查后，Twitter的杰克·多西改变了主意，他发表了道歉并声称他犯了一个错误。那究竟是怎么一回事？

Ellen Pao：我认为这是Twitter担心监管。Twitter试图在防止可能的错误信息影响选举，与能够一如既往地经营自己的业务之间取得平衡。

这种对监管的恐惧是推动硅谷很多政策变化的原因。这件事其实又回到了硅谷的高管们需要了解他们对公司的要求之上：他们是否建立了明确的规则，让人们理解并能遵守他们？

当网络平台变得无处不在时，人们就很难理解什么是允许做的，什么是不允许做的。我确实认为，如果你一直在经营自己的企业，你就需要作出改变。如果你不能很好地做到这一点，无论如何你都会受到监管。

克劳迪娅·德雷福斯：一些硅谷的领导人认为，打击不良言论的最好办法就是发表更多的言论。他们说得对吗？

Ellen Pao：老实说，我认为在足够舒服或方便的情况下，平台就会选择促进言论自由。现在，他们正处在浑水之中，面临着来自用户、政客、甚至员工的愤怒。

每个人都知道我们需要把一些内容撤下来，你不能让人们在Facebook Live上发布实时枪击事件，这引起了公众的愤怒和新的监管要求。这就是为什么高管们会想出这些令人费解的理由来解释他们所做的事情。

克劳迪娅·德雷福斯：有人指责你提倡严格的审查制度。你怎么回应这项指控?

Ellen Pao：我否认这项指控。我希望让更多的声音进入平台，而不是减少平台上的声音。这是给予每个声音一个说话的机会。当你把声音推到平台外，只有最响亮的声音才能获得空间：最终，这就像在审查其他所有人。现在，实际上你已经面对了审查制度，只是不够明确而已。

克劳迪娅·德雷福斯：你觉得11月3日之后的科技世界会是什么样子？

Ellen Pao：我当然希望拜登获胜。但我对以后的世界会变成什么样子感到恐惧。不论谁胜出，我都难以想象我们能够回到一个平静、正常运转的社会的情景。

我的希望是，在拜登获胜后，科技行业的领袖们会更好地应对自己网站上的大量仇恨言论。我不知道这是否会发生，因为领袖们已经与“增加参与度”这一指标绑在一起了，并促使人们保持愤怒、持续发表仇恨言论。

克劳迪娅·德雷福斯：回到我的第一个问题——当你在20世纪90年代第一次去硅谷的时候，你有想到它会变成现在这样的沼泽吗?

Ellen Pao：这是个有趣的问题，因为科技本来应该是美妙的、美好的、积极的东西，结果却变得如此有害，与我们所期望的正好相反。我们这一代很多人去硅谷是因为我们想改变世界，让它变得更美好。

现在所发生的一切是令人悲伤的。我们曾希望互联网成为促进社会统一的东西，但现在它反而使得社会更加分裂。

（本文原载于《纽约书评》）