下载客户端

看一百部《黑镜》，都不如读这一本书

2022-03-30 13:06

来源：澎湃新闻·澎湃号·湃客

原创 Vincent 硬核读书会

《黑镜》剧照。

在科幻电影和书籍里，未来被描摹成很多模样，它们或是悲观，或是乐观。我们还没搞清楚“元宇宙”“加密货币”是怎样的存在时，下一个潮流似乎又在酝酿当中了。

与其说我们被算法控制，不如说我们被我们的本能控制。一边看《黑镜》感叹未来的黑暗，一边热火朝天地在社交网络与人“激战”，不就是最好的证明吗？

今天的硬核读书会，我们和来自牛津的学者杰米·萨斯坎德一起聊了聊未来。

✎采写 | Vincent

✎编辑 | 程迟

古时候，信徒想知道自己未来能否上天堂、将军想知道自己出兵是否顺利；如今，商人想知道未来投资的风口、政客想知道未来社会的发展趋势……从古代的先知、算命先生到当代的“未来学家”，人类对未来的好奇从未改变。

在巫术和宗教被祛魅的时代，技术的日新月异让人类从未如此强烈地感受到“未来已来”。在技术给人类社会带来无限便利的同时，我们也对技术本身有所反思：技术到底将带领我们走向何方？技术将如何改变未来人们的生活方式？技术可能奴役人类吗？不管是好莱坞的科幻大片，还是书店里放在大门前的未来学畅销书，在常热的作品里，总少不了这几个话题。

“技术如何改变人类生活”一直是许多畅销书的主题，它们关注的侧重点各不相同。

阿尔文·托夫勒的《第三次浪潮》曾红极一时，他将人类历史划分为三次浪潮。他认为人类正处在“第三次浪潮”的前沿，他笔下的信息革命也早已席卷全球。

凯文·凯利的《失控》从技术进化的角度思考人类社会的进化，他书中提到的云计算、物联网、网络经济等也逐渐变成现实。

尼葛洛庞帝的《数字化生存》揭示了信息世界的法则，预言了数字世界的交流的开放性。这是社交媒体甚至“元宇宙”的先声。

尤瓦尔·赫拉利的《未来简史》则思考大数据、算法和生命之间的关系，如何应对人工智能和算法时代对人类的威胁，是他思考的重点，也是当今大众关注的议题。

不过，以上提及的学者们更多倾向于从经济学、社会学、传播学等角度出发，思考技术将会如何改变人类的未来。那么，技术会对未来政治产生什么样的影响？似乎很少人会从政治学的角度对这个问题做出系统性分析。

《算法的力量》

[英]杰米·萨斯坎德著，李大白译

理想国 | 北京日报出版社，2022-2

杰米·萨斯坎德的《算法的力量》填补了这个空缺。杰米·萨斯坎德在书里说，当我们讨论未来政治的时候，我们的脑海中最先浮现出来的可能是奥威尔的《1984》和赫胥黎的《美丽新世界》，我们很难想出哪位政治理论家的著作。

2016年，奥威尔的《1984》冲上了美国各大书店的畅销榜，杰米·萨斯坎德对此质疑道：“人类希望看懂2050年的世界，难道真要借助一本写于1949年的小说吗？”为此，他创作了《算法的力量》（其英文名就叫FuturePolitics），以此来系统性地分析技术对未来政治可能造成的影响。

杰米关切的焦点是，科技的发展不仅会改变人类的生活方式（比如，人工智能抢了多少人的工作），也会为政治带来极为深远且骇人的影响。那么，技术到底会如何影响未来政治呢？

杰米·萨斯坎德（Jamie Susskind）/剑桥官网

数字技术就是政治本身

近些年， “信息茧房”“回音壁效应”等解释社交媒体上的政治极化现象的术语也成为了我们生活中日常讨论的词汇。可见，传播媒介的变革早已深深地改变了人类的政治形态，以至于有人认为，社交媒体要为西方民粹主义的兴起以及“民主的衰落”负主要责任。

《社交网络》剧照。在信息革命之前，不少人对技术持有乐观态度，认为互联网将会创造一个平等、自由的空间。

暂且不论以上论点是否成立，人们在信息革命之前对技术的乐观态度仿佛就在眼前。

上世纪末信息革命刚开始的时候，许多人对技术是非常乐观的。这种“硅谷乐观主义”伴随着“第三次浪潮”“数字化生存”等术语曾火遍全球——这些未来的创造者认为，技术和商业的结合能够改变世界，让世界变得更开放、更自由、更互相联结。

这帮硅谷“狂人”（想想乔布斯）不喜欢墨守成规，自命不凡，桀骜不驯，他们糅合了嬉皮士的乌托邦主义和极客（geek）精神，成为了世纪交替之际的时代弄潮儿。在他们眼里，技术是解放一切的灵丹妙药，所有的问题都可以被正确的算法所搞定。

对于政治来说，互联网这个开放的公共空间，简直是德国哲学家哈贝马斯“公共领域”的最佳实践场所，是实现协商民主的绝佳途径。伴随着当年“历史终结论”的乐观论调，大家天真地相信互联网能给人类带来持续的、高质量的公共讨论。

乐观的预期很快就被这些年来的变化“打脸”。硅谷“狂人”的确改变了世界，但他们也给世界带来了新问题，甚至带来新的隐患。硅谷流行的“好主意第一，利润第二”的口号仅是一个高尚的姿态，技术创新的根本驱动力其实是谋利。

在太多情况下，数字技术是按掌权者和特权者的立场设计的。随着越来越多人类活动被数据化，“数字老大哥们”掌握的信息远超以往的机构，这造成了极大的信息不对称。掌握信息者可以预测、分析甚至规训用户的行为。

上世纪八九十年代的乐观主义正在消退，如今人们对政府和科技巨头不受限的权力的担忧越来越多，在谈论未来的畅销书中，反思人工智能和算法的书籍也正在变多，人们越来越担心《黑镜》式的未来会成为现实。随着大数据和物联网时代的到来，掌握数据和信息的一方的优势只会越来越大。“数字利维坦”等反乌托邦设想也开始变得流行。因此，我们亟须在数码世界里寻找一些能维系公民权利的方案。

在《算法的力量》里，杰米·萨斯坎德认为，数字技术就是政治本身。

他在书中给我们梳理，在一个人工智能的功能日益强大、技术日益综合、社会日益被量化的时代，政治和科技精英将掌握史无前例的巨大权力，这时，公民追究这些精英责任的力量也应该同步增长。

他的解决方案的核心有两个，第一个是“透明化”——对那些有能力影响人类核心自由、解决社会正义的技术系统，应确保其公开透明；第二个是“新三权分立”——确保没有任何实体能稳妥掌握一种以上的武力、审查和感知控制方式，或对以上任何一种能力的垄断。这是一种新的理论设想。政治理论该如何创新，才能给在未来的数码世界里生活的人类提供某种新的想象空间？最近火热的“元宇宙”“加密货币”又会给未来政治带来什么新的问题？为此，我们采访了《算法的力量》的作者杰米·萨斯坎德。

“我对技术对未来政治的影响既不乐观也不悲观”

硬核读书会：在《算法的力量》中，你说你热爱政治学，但你疑惑为何这个学科对未来不感兴趣。毕竟，对于学术研究来说，预测未来是有风险的。但是，对于很多投资者、商人来说，他们渴望了解未来社会发展的大趋势，因此市面上也有非常多关于技术如何改变人类生活的未来学的著作，比如凯文·凯利、阿尔文·托夫勒、尤瓦尔·赫拉利等人的著作。你认为你的著作与其他未来学著作有什么不同？你为何会更关心数字技术对未来政治的影响？另外，你认为你是“未来学家”吗？

杰米·萨斯坎德：政治理论很重要，因为它为我们提供了理解我们周围世界所需的概念和范畴。许多书只关注“描述”技术变革；我正试图改变人们对技术变革的“思考方式”，向人们展示——技术变革是一种政治现象，而不仅仅是经济现象。我不倾向于将自己描述为一个未来学家——这听起来太宏大了。

硬核读书会：许多新技术刚诞生的时候大家或许都会很乐观，互联网刚诞生的时候，硅谷的“谷歌主义”和“网络乌托邦主义”都曾认为互联网将给人类带来前所未有的自由和开放。但如今，这种乐观的论调慢慢转为《黑镜》式的悲观担忧，硅谷的形象也不再像以前那么美好。为什么？

杰米·萨斯坎德：我对此既不乐观也不悲观。我当然承认，你所描述的这些早期技术乌托邦主义是需要进行修正的。但我也认为，2016年以来，一些关于技术的论调变得过于反乌托邦，这是不必要的。我所关心的是，我们如何找到正确的治理技术和方法，使技术进步能够与人类的自由联系起来，而不仅仅为了设计者的利益。

在演讲中的杰米·萨斯坎德。

反垄断法不能只按照经济规模来判断公司是否处于垄断地位

硬核读书会：近些年来，科技公司滥用数据的丑闻有很多，比如，剑桥分析公司滥用数据丑闻等，这引发了公众对科技巨头的普遍担忧，以及对“监控资本主义”的反思。你认为我们需要思考一种新的制度来对科技巨头进行结构性监管。具体是怎么样的？

杰米·萨斯坎德：我认为，反垄断法，或者在欧洲我们称之为竞争法，需要进行改革——我们不能只根据公司的经济规模，或对价格的影响来判断这个公司是否处于垄断地位，而要根据其政治力量和媒体生态系统多样性的需求来进行判断。

因此，当监管机构考察 "这个并购可以被接受吗？"或 "这个收购应该被允许吗？"或 "这个公司是否在滥用其主导地位？"这些问题时，除了经济目标之外，他们还应该考虑社会和政治目标。这可能意味着，在某些极端情况下，监管机构需要要求大型科技公司剥离某些次级单位，以便形成公平竞争。

《黑镜》剧照。

硬核读书会：在大数据时代，数据是资产，可以被拿来交易。但是，个人数据也是隐私，你在书里主要从经济的角度聊到了数种对数据交易的反对意见，那么，你觉得从保护隐私权的角度出发，我们该如何保护我们的数据隐私权？

杰米·萨斯坎德：实际上，我对数据使用的主要抱怨根本就不是经济问题。

我认为，我们利用自身的数据进行经济交易并不是问题。问题在于政治；隐私是其中的一部分，但自由也很重要。数据收集本身使我们暴露在某种程度的操纵之下，这也会削弱自主性。

《黑镜》剧照。

硬核读书会：你在书里讨论“被遗忘权”，欧盟对如何处理个人数据有严格的、约束性强的法律。你认为欧盟的“被遗忘权”应该被推广吗？有人认为，欧盟的“被遗忘权”其实是为了牵制美国互联网巨头的信息控制能力，“被遗忘权”伤害了互联网企业数据收集的利益，你怎么看待这个问题？

杰米·萨斯坎德：我支持 "被遗忘权"。如果它的副作用之一是给科技公司的商业模式带来不利影响，那又怎样呢？我当然不认为这是欧盟反对美国公司的阴谋；事实是，美国的数据市场在很大程度上是以不符合GDPR（欧盟的《通用数据保护条例》）的方式运作的，因此美国公司和欧盟监管机构之间往往会出现紧张关系，这未必是一件坏事。

我们该如何面对“数字利维坦”？

硬核读书会：有人曾提出过“数字利维坦”这样的词，用来形容使用数码世界的反乌托邦。你在书里提到，黑客和密码学都是一种抵抗形式，但是能掌握这些知识的公民实在太少，对于普通人来说，该如何面对“数字利维坦”的威胁？

杰米·萨斯坎德：我确实认为这是一个问题，数字权力崛起的主要受益者并不是个体。

想要适当回应数字权力崛起，需要集体的解决方案（如法治和民主治理）以及个人抵抗。我们不能指望大家都成为黑客、程序员或密码学家。法律应该保护我们，以免受控制数字技术的人和受其影响的人之间的权力不对称的影响。

《黑镜》剧照。

“元宇宙”会诞生从未存在过的权力形式

硬核读书会：加密货币自诞生以来，便有非常理想主义的、去中心化的无政府主义色彩，但后来也遭到许多打击和监管，你是如何看待加密货币的？加密货币的理想能实现吗？区块链技术将如何改变社会？

杰米·萨斯坎德：到目前为止，我并不信服。加密货币（和一般的区块链）有一个大胆的说法，即成为去中心化和去中介化的革命性代理人。到目前为止——就像大多数其他技术一样——它们越来越多地要么落入本应使之成为多余的大型机构的控制之下，要么成为犯罪、欺诈、金融投机的工具。我可以看到，这是一个有趣的社会发展，但我还不认为它是政治进步的代理人。

去中心化在带来平等机遇的同时，也带来各种风险与隐患。/unsplash

硬核读书会：你在书里提到，我们可以改变现有的工作范式和私有财产范式，来应对失业和越来越大的贫富差距。你提出了许多具体的建议，比如UBI（全民基本收入）、资产税、国有化、用益权、公有、共享、数据交易等方式，但每一种方式都可能会带来问题。你觉得哪一种新的方式更有希望应对越来越大的贫富差距？

杰米·萨斯坎德：没有一个统一的解决方案(这也没有一个统一的问题。在我的书中，我自然关注由数字技术造成的不平等，但这远不是造成不平等的唯一因素。导致不平等的原因是如此之多，我不想试图在一个简短的答案中解决它们。

Facebook的“元宇宙”概念图。/Facebook官网

硬核读书会：近期，“元宇宙”概念被热炒，Facebook更是将自己公司的名字改成了“Meta”。你是如何看待“元宇宙”的？在“元宇宙”的世界里，政治将发生什么样的改变？

杰米·萨斯坎德：这是非常重要的发展。虽然我们很容易嘲笑今天的虚拟现实系统如此初级，但它们显然会得到改善。而且，在我看来，我们的孩子以及我们孩子的孩子，很可能会在完全是人造的数字宇宙中花费大量时间。这造成了重要的政治后果，这些“空间”中的规则就像铁律一样不能被打破。编写规则的人将拥有相当程度的权力——这是一种在以前的人类事务中从未存在过的新的、奇怪的权力形式。