当算法决定一切：紧接着啤酒广告的是“伊斯兰国”招募视频

【编者按】

《世界是平的》作者托马斯·弗里德曼的新书《谢谢你迟到》继续探讨了技术和全球化加速及其影响。当今世界，不仅是平的，更是快的，面对快速变化的时代，我们该如何应对，托马斯·弗里德曼在书里给予了一些建议。《谢谢你迟到》的中文版近日出版，澎湃新闻获得授权摘录其中《网络空间里有上帝吗？》一章的部分内容，以引起大家对大数据时代如何管理和平衡网络空间中的隐私保护的思考。

毫无争议，我们正在创造大量全新的、不受管制的空间——没有规则，没有法律，没有联邦调查局，更没有上帝。在过去两年中，出现了一些不同异常的新闻。先来看一则2015年3月3日发布于CNNMoney 频道的报道：这则报道曝光了YouTube网站在“伊斯兰国”（ISIS）或其他恐怖组织上传的视频前插播商业广告：詹妮弗·安妮丝顿称赞阿维诺护肤品的妙用；百威啤酒在一场音乐会上炫耀它的啤酒；维多利亚的秘密售卖气味清香的除臭剂。都是些寻常可见的广告，但不同之处在于广告之后播放的内容。这一次，紧接着播放的都是“伊斯兰国”（ISIS）和圣战分子的视频……

像YouTube这样的视频网站向公司出售广告时间，广告会在视频播放前自动播放。这篇报道指出：“虽然广告客户可以指定传播的目标人群，但他们并不能直接控制广告的刊登位置。”报道援引法律分析师丹尼·塞瓦洛斯的话：“从合同的角度来看，这些花了大价钱从YouTube 网站购买导流点击的公司如果发现他们的广告后紧跟着的是“伊斯兰国”（ISIS）的招募视频，那他们可能不会感到高兴。”

“伊斯兰国”（ISIS）的追随者中也许没有几个人喝啤酒。也许网站的算法探测到有许多年轻人访问了这些网站，并推定其中会有很多爱喝啤酒的人。无论是什么原因，投放广告的公司并不知情，也不会感到高兴。

在看了一段视频之后，安海斯·布希啤酒公司负责消费者关系的副总裁向CNNMoney频道诉苦：“我们不知道会有一个我们公司的广告与这种视频放在一起播放。”在CNNMoney频道报道此事后，YouTube撤下了与“伊斯兰国”（ISIS）的相关视频。

以下是Bustle.com网站的跟踪报道：

YouTube刊登广告的方式是这样的：在品牌支付广告时间费用之后，视频网站会依据算法将广告随机地安排在一段视频之前，但除非亲自观看，不然YouTube和投放广告的公司都无法知道广告究竟投放在哪个视频之前。尽管公司无法要求其广告在某一特定视频前播放，但它可以要求针对某些目标群体投放其广告。但是，为何百威啤酒、丰田和Swiffer 除尘掸的广告会在“伊斯兰国”（ISIS）的视频之前播放，这显然是个未解之谜。因为，我们可以肯定，没有哪家公司会选择瞄准18岁至55岁之间、想要发动恐怖袭击的极端武装分子。

再来看看澳大利亚悉尼发生的这则新闻。2015年12月24日，出租车预约公司优步为上周在悉尼发生咖啡店劫持事件时提高车费道歉。在这场16个小时的恐怖事件中，共有3人丧生，枪手也被击毙。据BBC新闻网站报道，一个枪手控制了悉尼的一间咖啡店，人们纷纷逃离这里，有人拔腿就跑，有人则乘车逃离，优步公司在乘车需求大幅上涨之时，将车费提高至正常价位的4倍之多。

在悉尼的马丁广场发生劫持事件的那天，优步因提高价格而在社交媒体上受到了严厉的批评，因此，它开始提供免费的出城服务。

优步还表示，它将退还受到加价影响的乘客的乘车费用。

“我们没有立即停止动态定价。这是个错误的决定。”优步在周二发表的一篇博客中表示。

优步表示，它的首要任务是帮助尽可能多的人安全离开中央商务区，但是由于沟通“不畅”，导致大家对其动机产生很多误解。

优步在其他城市捍卫其动态定价的策略，但已与美国监管机构达成协议，在国家面临紧急情况的时候限制该政策。

所有这些报道体现了一个共同点——做决策的不是人，不是道德，更不是上帝，而是算法。所有这些报道的另一个共同点在于，一些技术力量聚集到一起，使人与机器的力量呈指数级的阶段性变化，远比我们人类重塑自己，重塑我们的机构、法律和领导方式的进程要快得多。

“我们正在让科技做人类本不应放弃的工作。”西德曼说道，“是人做出的决定，让YouTube通过算法为视频匹配广告。但之前这从来都不是科技要干的工作。”这应当永远是人类的职责。“科技使新的行为、体验和连接方式成为可能。”他补充说，“但是，需要人类来为其制定行为准则，让体验更有意义、连接更加深入，并根植于共同的价值观与抱负。”不幸的是，人类进步与道德发展不存在摩尔定律。这项进程是凌乱的，不遵守线性趋势。它一会儿上升，一会儿下降，曲折多变。这很难，但确实没有其他办法。

随着网络空间进入家庭，这一切变得更具挑战。回想一下2015年11月在科罗拉多州卡能市所发生的事件：当地高中100多名学生被发现相互交换裸照，并将照片储存在智能手机隐秘的照片保险柜应用中。学生们拍摄了自己的裸照并进行分享，然后使用手机上的“幽灵程序”储存并隐藏照片。幽灵程序看上去与任何一款正常的应用程序很相似，最受欢迎的一款应用看起来像一个计算器。如果你的父母或老师拿到你的手机，他们看到的就是一个计算器的图标。但是，如果你在键盘上输入密码，就会转入一个隐藏的页面，你可以在其中储存色情照片、视频和短信。这听上去很像是10年前Q博士安装在詹姆斯·邦德手机里的东西。现在，每个高中生的手机上都有。“私人照片保险柜”（Private Photo Vault）是苹果应用商城中所有照片及视频类应用软件中下载量最多的应用。该应用阻止了父母、警察以及任何其他人向青年人传播可持续的价值观。

“在过去，如果父母抓到自己的孩子在做坏事，他们会说：‘回你的房间。’”西德曼说道：“只要孩子在家里，家长就可以控制他们——所以他们会命令孩子回房间，那里没有电视。”但现在，即使你让孩子回他们的房间，他们仍然能使用秘密的应用程序与整个世界连接，妈妈和爸爸被蒙在鼓里：看起来他们正在使用计算器，实际上却在发送色情短信。

你给孩子配一部手机，是想方便地知道他们午夜后的去向，或是让他们在聚会后呼叫优步回家。但是，这部手机不仅是父母管束的绳索，也能成为孩子们进入禁忌世界的钥匙。所以，“回你的房间去”这道命令，现在必须改为“把你的智能手机、平板电脑、iPod、苹果手表、无线网卡以及手机上保险柜应用程序的密码交出来，然后再回房间”。

这些不受控制的领域不仅仅限于前卫青少年特有的工具。2015年12月17日，在巴黎圣战者自杀袭击爆发后，CNN.com网站的报道称：“巴黎袭击事件的调查人员发现了一些证据。他们认为这些证据表明，一些恐怖分子使用了加密应用程序隐藏袭击计划……恐怖分子使用过的众多应用中就包括Whats App和Telegram。这两款通信应用软件都标榜自己采用了难以破解的端对端加密技术来保护用户的隐私。”

接着，发生了一个著名案件。2015年12月2日，赛义德·里兹万·法鲁克在加利福尼亚州圣贝纳迪诺枪杀了14名民众。当联邦调查局要求苹果公司交出赛义德所使用的iPhone网络锁柜的密码时，苹果公司以全世界各地的iPhone用户的隐私问题为由，拒绝帮助联邦调查局。邦调查局最终成功破解了这部手机，并通过从第三方网络安全机构上购买的一个“工具”提取数据（联邦调查局局长詹姆斯·科米不愿透露这个第三方机构的名字）。这场保护隐私与保护安全之间的军备竞赛才刚刚开始。这要求美国国会进行严肃的反思：面对威力强大的愤怒者日益严重的冲击，我们该如何管理和平衡网络空间中的隐私保护。