谁在审查社交平台？《网络监护人》揭开跨国外包删帖的秘密

你可曾好奇，社交平台上，是谁在决定每一篇贴文、每一支影片能否上传成功？汉斯・布洛克（Hans Block）、摩力兹・里斯维克（Moritz Riesewieck）两位德国导演，以6年时间跨5国追踪，终于在菲律宾找到了以数百计的“蜜獾部队”，时薪1到3美元的他们，用几秒钟一则的速度，把关全球平台上的内容。这工作离硅谷的黄金梦很远，但代价很大，有人最终在计算机荧幕前上吊自杀──而他就是专门负责审查自杀相关内容的人。

谁在审查社交平台？《网络监护人》揭开跨国外包删帖的秘密

作者：刘致昕

来源：报道者

编辑：张劳动

坐在东柏林的办公室，34岁的里斯维克接受《报导者》专访。在我们提问之前，他先问，有没有什么数位工具带来社会改变的“好消息”，经过6年，从硅谷一路追到马尼拉，他想要重新相信科技一次。

从一个单纯的问题出发，来自德国的两位纪录片导演，从没料到自己会一路走进科技的黑暗角落，一个夺走人命的工作现场。

“我一开始就是好奇，为什么（社交网站）有些贴文能够发布，有些不行？”6年前的里斯维克，跟着这个提问开始调查，没想到答案不是人工智能、不是算法，而是一个被称为蜜獾（Honey badger）的神祕计划。

根据《路透社》的调查，蜜獾计划是一个专营外包工作的企业，在马来西亚、菲律宾等地，为网络业者寻找外聘工作者的项目。求职者只会知道蜜獾计划的字眼，但除非签订工作契约，否则不会知道在菲律宾的自己，正在应征的工作，拿的其实是来自硅谷的钱；而他们也不会知道，其实社群营运分析师（Community operation analyst）的职称，说穿了就是社群网站的内容审查员。

花了6年，里斯维克与伙伴布洛克走访美国加州、缅甸、孟加拉、土耳其、马尼拉，从内容审查的提问出发，深入观察并记录下硅谷决策者面临的窘境跟内部决策时的真实思考，并带领观者直面社交网站兴起的几年间，罗兴亚受害者、叙利亚难民、土耳其民众等，如何被卷入人权漩涡。《网络监护人》（The Cleaners）不仅入围日舞影展、鹿特丹影展，还拿下7项电影奖项。

防堵恐怖主义的前线，

只受过几小时训练

要花6年这么长的时间，除了因为要纳入不同利害关系人的视角，最大的困难，还是如何让这些“社群营运分析师”开口。

“他们全都签了一份合约，上面有严格的保密协定，不能跟任何人提起这份工作的内容，连家人都不能知道，”里斯维克说，在工作的地方，有保全公司确保工作者不能与外人接触，就连受访者的家人，也要等到纪录片放映，才了然自己的小孩、另一半，每天离家是去做什么。

“我们特地去找法律顾问，才知道企业虽然能够阻止机密外泄，但不能禁止员工们分享他们的感受。”里斯维克说，让审查员开口谈感受，成为他们的目标。即使如此，拍摄团队平均还是花上数月时间，才能与受访者建立信任。最后收进片中的露面受访者，还是以离职员工为主。

其实，离职员工并不难找，社群营运分析师最长的在职时间只有半年，影片中就活生生地记录了一名员工从加入到到决定离开的心境变化。

让他们快速离开的原因，主要是精神压力。社群营运分析师的工作是这样的：每一则影片、照片、贴文，都只有几秒钟能决定是删除还是发布，如果花太久时间，他们的工作就无法达标。

几秒钟之内，这些远在菲律宾的年轻人，必须决定叙利亚的军机轰炸画面是保留还是删除？或是判断出一张军人带狗审判跪地男子的照片，是恐怖分子的刑求还是美军的不道德私刑？

“你要记得，这些人不懂伊斯兰，也不知道叙利亚发生什么事，他们更不知道美国的白人至上主义跟种族歧视之间的关系，但他们几秒钟之内，就要决定一则贴文的去留。”

里斯维克在片中举出几个判断失误的例子，并沿线寻找到贴文的使用者，以及此则贴文的“受害者”，精准点出社群网站审查内容机制的失误。

不只是判断上的困难，还有他们承担的责任。这些从街上、校园里面被招募的年轻人，只受过几小时的训练，却成为阻止极端主义、恐怖主义的前线。”国土安全部提供一份清单，我们必须下架上面列的37个恐怖组织，然后删除他们发布的内容，“一位前任审查员受访时说，“算法做不到这件事，但我可以，我必须要帮助人们不受伤害。”

「我看过好几百人被斩首」审查员难被看见的内心创伤

“对有些人来说，他们带着类似宗教的情怀在做的，否则，他们可能做不下去。”里斯维克叹道。

片中另一名信奉天主教的审查员，相信自己该为社交平台保护世人，“（如同）耶稣死在十字架上，为什么我不为这个网络世界多承担一些，让更多人避开可能受到的伤害呢？”在任职数月后，她最终因承受不住创伤而辞职。“我感觉到我变成不同的人了，像病毒在身体里渗透一样，连我的思考方式都出现变化。”这名前任审查员说。

《网络监护人》导演摩力兹・里斯维克（Moritz Riesewieck）

花了6年时间追查，自己也曾试着应征审查员工作的里斯维克，认为自己是在说一个“新型态工伤”的故事。

审查员每一天目睹暴力、血腥、色情，有时是战场上尸体四散的影片，有时是孩童身上满是精液的照片，更甚者，还有自杀的直播。种种不堪的内容，组成审查员的工作日。片中受访的员工透露，一位专门审查自杀内容的同事，在几次申请调离工作未果后，最终以上吊自杀作结，“他选择在笔电荧幕面前上吊，这是他想传递的讯息吧。”死者同事说。

“Facebook永远都说他们是注重（员工）人权的，所以他们的确也要求这些外包单位，为员工提供心理辅导。”里斯维克解释，但他们实地走访之后才发现，几乎是以一挡数百的心理辅导师，的确会对员工们付出关怀，但他们的方式是在集体集会时，问他们“大家还好吗？”完成了解审查员心理状态的程序。

“这是一个全新的方式来虐待劳工。过去，工伤是看得见的，但数位时代的新型态工伤、创伤，无法被看见。”里斯维克对《报导者》强调，片中的低薪劳工不只要用几秒钟给出硅谷菁英都没把握的答案，还用生命付出硅谷菁英不肯掏出的成本：是这些不被看见的工伤，帮助Facebook、Google，继续对全球广告收入鲸吞蚕食。

10月23号，在美国众议院的听证会上，Facebook创办人扎克伯格（Mark Zuckerberg）回答了内容审查相关问题。

扎克伯格对现况的理解，与纪录片和众议员的掌握明显不同。美国民主党众议员凯蒂・波特（Katie Porter）问道：“Facebook的内容审核，是靠15,000个约聘者盯着谋杀、砍人、自杀跟其他可怕恶心的影片来完成的，是吗？”这点，扎克伯格回复确认。但对低薪、心理支持不足等血汗条件，扎克伯格只说，他会确保工作人员争取该有的利益。而当众议员问扎克伯格是否愿意每天花一个小时，进行Facebook内容审查工作？扎克伯格两次回覆，“为了我们社群最大利益服务，这不是我该做的事。”

“我们不是带着揭露的心态拍这部片的，而是要让他们（劳工）的感受被听见。”与官方说法相较之下，影片显露出浓浓的揭露意味，里斯维克强调，身处第一线的审查员需要被听见，现代信息流在这些发展中国家年轻人身上烙下的，需要被看见──当硅谷不断强调「创造连结」的美妙，是他们在承担信息乱流，每天处理数亿则讯息，撑起庞大广告机器，挣那一小时1到3美元的报酬。

担心AI和算法会成为平台解方

即使，里斯维克带着清楚意识，访谈聚焦在审查员的感受而不是科技公司机密，但光是工作的伤害与感受，就如同揭开社交网站事业黑洞一般，这是被藏起的成本曝了光，大发利市的另一边，科技平台没有说的真相。

面对网络审查员的血汗困境，算法是否能真的成为解方，还是创造另外一个连「感受」都无法透露的不可控怪兽，把持几十亿使用者的自由？

《网络监护人》并不只是要指控平台业者。片中除了有Google、Facebook前主管受访坦承平台责任外，导演的目标，是呈现结构性因素，以人的视角，解释这份工作为什么持续存在。于是里斯维克团队不只运用旧大楼、程序模拟界面，来拍摄审查员工作的画面，记录视角也跟着审查员们回到家里，了解他们的家境，以及这份工作对他们的重要性。

其中，一个前审查员带着导演进到垃圾场，和自己由木头搭起的家，赤裸裸的揭露，在贫富差距极大的国家跟城市，如此低落的劳动条件，可能还是比捡拾破烂的工作好一些。而菲律宾政府更是对这类既提供工作机会、又能打入世界顶尖科技产业链的外包公司张开双手，鼓励进驻。

《网络监护人》上映之后，除了受到奖项肯定，最让制作团队欣慰的是在各国引起的讨论，诚实反映了各国民众对社交网站认知的不同；不管是放映后观众的问答，或是各地的影评，都成为另一面镜子，看见社交网站的角色在当代的重要性和争议性。遗憾的是，不管是拍摄时的邀访，到放映时的邀请与谈，相关平台业者还是一律保持不回应的态度，用沉默面对曝光的黑洞。

业者无声，但使用者讨论震天价响。《网络监护人》在日内瓦、耶路撒冷、莫斯科都得奖，在德国，纪录片、电视类型奖项都入围，影片放映后里斯维克也随即在德国出版书籍，回应需求，德国政府被要求加强对社交平台的施压。在俄罗斯，人们则热烈讨论美国企业如何把持全球信息传递。

如同戳洞游戏一样，里斯维克从审查员的处境，6年一路探进社交平台对于信息管控的无能与无助，呈现了基层外包劳工的困难之后，里斯维克也不停自问，如果外包人力不是答案，那社交平台会用什么方式回应？

“我担心的是，社群平台业者会依此加强用算法、人工智能审查的政策。”他说，算法长期被诟病的不透明、不受监督的特性，是否能真的成为解方，还是创造另外一个连「感受」都无法透露的不可控怪兽，把持几十亿使用者的自由？“科技业者必须时时提醒自己（算法的危险），如果，他们真的想解决问题。”

原标题：《谁在审查社交平台？《网络监护人》揭开跨国外包删帖的秘密》

阅读原文