下载客户端

我们的生活应在多大程度上受功能强大的数字系统的指引和控制

【英】杰米·萨斯坎德

2022-03-24 12:10

未来总是困扰着我们。它永远在等待，远离我们的视线，或潜伏在角落里，又或飘浮在前方的高处。它总是难以名状，让我们永远无法感到确定。通常来说，它总是会让我们完全措手不及。

如今，许多人都能觉察到，一个大动荡的时期正在逼近。世界变化的速度似乎远远超出我们的把握。我们经常尝试去尽量解释那些在几年前还无法想象的政治事件，有时甚至找不到恰当的词语去描述它们。然而，我们心里都明白，这仅仅是个开始。

本书的前提是科学和技术的不懈进步将改变人类共同生活的方式，从而给政治带来同等程度的深远且骇人的影响。无论从智识上、哲学上还是道德上，人类都还没有为迎接自己正在创造的世界做好准备。在接下来的几十年中，几百年甚至几千年来为我们所用的传统思维方式将会遭到质疑，将会涌现出新的争论、运动和意识形态。一些我们曾深刻秉持的设想将会被修正，或者均遭弃用。我们需要一起重新想象自由和平等、拥有权力或财产意味着什么，甚至作为一种政治制度的民主意味着什么。未来的政治将与过去的政治大不相同。

20世纪被一个中心议题所主宰：我们的集体生活应在多大程度上取决于国家，应把什么留给市场和公民社会来决定？对如今即将走向政治成熟的这代人来说，这个议题将会变成：我们的生活应在多大程度上受功能强大的数字系统的指引和控制，或者说是在哪方面被指引和控制？这就是本书的核心问题所在。

预计在未来的几十年中，我们将开发出能力惊人的计算机系统，即便不能取得像人类一样的“智能”，它们的某些能力也将在诸多功能上挑战甚至超越人类。不久之后，这些系统将不再类似于计算机，而将被嵌入现实世界，藏身于从未被我们看作“技术”的结构和客体之中。越来越多的关于人类的信息——我们做什么事、去哪里、想什么、说什么、感受如何——会作为数据被捕捉和记录，然后被分类、存储并进行数据处理。长期来看，人类与机器、线上与线下、虚拟与真实等方面的区别，都会逐渐消失。

这个转变将大有利于文明的发展。我们的生活将因新式的娱乐、工作、旅行、购物、学习、创造、自我表达、相互联系、认识陌生人、合作行动、保持健康和寻求意义的方法而得到丰富。从长远来看，我们增强大脑和体魄的能力将超越我们的认知，把自己从人类生理的限制中解放出来。

然而，与此同时，一些技术将获得比人类更强大的力量，其中有些能够迫使我们以某种特定的方式行动，举个简单的例子，自动驾驶汽车会直接拒绝超速驾驶；还有一些技术因从我们身上收集来的信息而变得强大。仅仅是意识到我们正在被监视这件事，就足以使我们更不可能去做那些被认为是羞耻、有罪或是错误的事情。而且，其他技术还会过滤我们眼中的世界，为我们所能感知的东西划定范围，形塑我们的思维方式，影响我们如何感知，从而决定我们如何行动。

掌握这些技术的人将加强对其余人的控制。他们变得强大，意味着他们拥有一种稳定而广泛的能力让我们去做一些具有特定意义的事情，而本来我们可能不会去做这些事。他们还会变本加厉地限制我们的自由，决定我们可以做什么、不可以做什么。他们将决定民主的未来，决定它变得繁荣或是衰败。他们的算法将决定关于社会公正的关键问题，分配社会物品，并将人们分类塞进不同地位和荣誉的阶层之中。

以上的结果是，政治当局（通常是国家），将拥有比以往更多的控制手段，大型科技公司也将达到庞大的规模，足以使现代社会其他任何经济实体都相形见绌。为应对这些新挑战，我们需要从根本上升级政治观念。伟大的英国哲学家约翰·穆勒（John Stuart Mill）在他1873年的自传中写道：“在人类的思维方式发生根本性变化之前，人类的一切巨大进步都不可能发生。”

现在是下一个重大变化发生的时候了。

下一个重大变化

我们生活在一个政治动荡的年代。每天读到的新闻多是关于血腥内战、大批人群流离失所、族群民族主义、宗派暴力、宗教极端主义、气候变化、经济动荡、全球化失序和日益严重的不平等问题，或是一大堆其他令人沮丧的挑战，让人提都懒得提。世界状况欠佳，让人们的公共对话显得如此不合时宜。政治精英遭到广泛的不信任和鄙夷。即使以通常被看作不愉快情形的标准来衡量，英语世界最近发生的两项大规模民主实践——2016年的美国总统大选和英国脱欧公投，都可以算是敌意满满，意见相左的派系之间竞争的目的不仅是要打败其对手，还想彻底摧毁对方。这两场民主实践的获胜者均是承诺打烂旧秩序的一方，但他们都没能让事情完结，也没做到让民众满意，反而如奥巴马（Barack Obama）在其任期末尾所指出的那样：“一切都是真的，一切又都不是真的。”对普通公民（来自任何政治联盟）来说，从假话中择出真话、从谣言中看到现实、从噪音中提取征兆都变得更加困难了，很多人已经放弃了此类努力。对大多数人来说，与其费太多脑子思考未来，还不如先蹲下身子，躲过眼前的风暴再说。

这将是一个错误。

如果关于技术未来的主流预测正在接近目标，那么即将到来的转变对人类的重要程度至少堪比工业革命、农业革命，甚至是语言的发明。我们当下重视的那些问题跟它比起来简直就是小巫见大巫。回想一下技术已经在人类生活上产生的效果——工作、交流方式、治病、健身、学习和社交——我们忽然意识到，以人类历史的时间尺度来衡量，数字时代只能算过了几秒钟；从三百万年前使用简单工具开始，人类在旧石器时代度过了其存在时间的99.5%。这段时期随着一万两千年前最后一个冰期的结束而结束。在这段漫长的、晦暗不明的时期，人类几无任何文化上的改变。“人类从生到死所经历的是同样的世界。”如果你认为最早的人类文明始于约五千年前，那么现代计算机与我们相伴的时间只有七十年，而我们拥有互联网的时间则仅有三十年，智能手机只陪伴了我们十年光景。时间的流逝是线性的，而数字技术上的许多进展却呈指数状同时出现，其变化速率每一年都在加快。

我们没有来自未来的证据，所以预测它的尝试本质上充满了风险和困难。我佩服那些试图以一种严谨的方式去预测未来的人，且在相当程度上借鉴了他们的工作成果并运用到本书中来。但老实说，我们最好也能认识到，此类预测经常严重偏离目标。他们对未来的预期往往从未实现，相反，其他干脆未被预见的进展却涌现出来，让我们大吃一惊。话虽如此，但我仍坚信，基于对当下科学技术和政治潮流的认知，还是有可能对未来何如进行合理、明智的猜测。若人类干脆放弃预测未来，也许才是最大的风险。

让我们先来讲个故事，故事发生于维多利亚时代的政治家威廉·格拉斯通（William Gladstone）和富有开拓精神的科学家迈克尔·法拉第（Michael Faraday）的一次相遇。法拉第试图向格拉斯通解释他在电力方面的开创性工作，但格拉斯通对此似乎并不为所动，他问道：“但是这有什么用？”到后来，他越听越沮丧，反复问：“这到底有什么用呢？”

这边厢，法拉第终于也忍无可忍了，他回答格拉斯通：“有什么用？先生，您可能很快就要对它征税了。”

许多如法拉第一般的发明家发现，很难向别人解释清楚其工作的社会意义和实践意义何在。而像格拉斯通一样的普通人，经常对我们还未能理解的技术不屑一顾。乍一看，很难看出发明创造的政治意义，它们看起来甚至跟政治毫无关系。当面对一个新的插件或是应用程序时，我们一般都不会去考虑它对政治制度产生的意义。相反，我们想知道的是：它能做什么？使用它要花多少钱？我在哪儿能下载到它？这种想法并不奇怪。总体上说，当面对技术时，我们总会把自己当成一个消费者。但我们现在需要改变这种过于狭隘的观点了。我们必须把通常用来审视和怀疑有权势的政治家的眼光，投射在新技术的力量上。技术并不仅仅是在消费者的意义上影响着我们，其影响更体现在公民层面。在21世纪，数字技术就是政治本身。

这本书在一定程度上是为想要更多了解新技术的“格拉斯通们”写的，也是为想要看清其工作之政治意义的“法拉第们”写的。当然，它主要是写给希望更清楚地看懂未来的普通公民的——即便他们并没有肩负着像格拉斯通和法拉第那样的责任。

哲学工程师

思考以下段落：

献给疯狂者、不合群者、反叛者、麻烦制造者，方枘里的圆凿们......那些以与众不同的眼光看待事物的人，他们不喜欢规则，他们厌恶墨守成规。他们拒绝向现状致敬。你可以赞美他们，引用他们，反对他们，质疑他们，颂扬或是诋毁他们，但唯独不能漠视他们。因为，为事物带来变化的也正是他们。是他们推动着人类的进步。或许他们是别人眼中的疯子，却是我们眼中的天才。因为，疯狂到认为自己可以改变世界的人，就是真正改变世界的人。

以上言论并非来自政客，而是来自苹果公司在1997年的广告“不同凡想”中的画外音，这版广告以展现反叛者们的经典画面为特色，包括圣雄甘地（Mahatma Gandhi）和马丁·路德·金（Martin Luther King）。该广告体现的世界观广为科技界所接受，即他们的工作既有商业上的重要性，又富含哲学意义。“这在硅谷很普遍，”杰伦·拉尼尔（Jaron Lanier）解释道，“那些在车库里创业的年轻人，宣布他们的目标是在几年之内深刻改变全球人类文明，但他们还没准备好去操心钱的问题，因为他们觉得收获一大笔财富根本就是小事一桩。”这种思维方式之所以极具吸引力，部分是由于它暗示着科技公司不像它们通常被描述的那样贪婪成性。而且，其基本的立意是正确的：数字技术的确具有足以改变世界的惊人能力。让我们比较以下陈述：

哲学家们只是以不同的方式解读世界，而重要的是去改变它。我们不是在分析世界，我们是在建造它。

第一句话来自卡尔·马克思（Karl Marx）写于1845年的《关于费尔巴哈的提纲》。它在问世后的一个多世纪中，被政治革命者当作战斗的号角。第二句来自温和的万维网发明人——蒂姆·伯纳斯-李（Tim Berners-Lee）。马克思和伯纳斯-李的政治事业和秉性几乎是一个模子刻出来的，甚至连胡须的款式都选了同一种。他们除了都改变了人类历史的进程之外，两人的共性还在于其“做出改变还是仅停留于思考或研究”的观念与众不同。从这一点来看，未来远不是我们完全无法掌控的、象征性的存在，而是一种可以被设计和建造的事物。

伯纳斯-李说：“我们不是实验哲学家，而是哲学工程师。”这是一种实践的、亲自动手去解剖生活的方式，相比于身着花呢制服的学者和穿着高领毛衣的哲学家，建造者和发明者显然对这种方式更加熟稔。它同样定义了我们这个时代的心态。如今，最重要的革命没有在哲学系发生，甚至也没有发生在议会和城市广场上，而是在实验室、研究机构、科技公司和数据中心里默默上演，其中大部分都涉及数字技术领域的发展。然而这些非凡的进步是在一种警惕文化、孤立智识的氛围中发生的。除了少数例外，艺术和科学之间横亘着巨大的鸿沟。政治哲学和社会政策的课程很少出现在科学、技术、工程和数学专业的课程表上。而且，如果你想向一名普通的人文科学学生请教电脑的运行原理，那么你很难得到一个像样的回答。

在科技公司内部，几乎没有工程师身负努力思考其工作的系统性后果的任务。他们中的大部分只需要解决某些分散的技术问题就可以交差了。即便投资者已经做好接受“好主意第一，利润第二”的心理准备，技术领域的创新仍是以谋利为根本驱动力的。我并不是在批评这种现象，只是想说：那种挣钱和让世界更美好总是一回事的说法是没有依据的。事实上，就像这本书里的许多例子所展示的，有充分的理由说明：在太多情况下，数字技术是按掌权者和特权者的立场设计的。

随着时间的推移，我们将需要更多的名副其实的“哲学工程师”。而且，让不是工程师的人们批判性地参与科技公司的工作，也会变得日益重要，不仅仅是因为科技公司臭名昭著的工作文化——缺乏多样性，硅谷高管中十个有九个是男性；尽管计算机科学毕业生中有10%是非裔美国人，占了该行业整体劳动力的14%，但在硅谷从业者中，非裔美国人却只占了3%。而且，许多科技界人士秉持着强烈的非主流政治观念。例如，在2013年，有超过44%的比特币持有者声称“支持消灭国家的自由论者或无政府主义资本家”。

我想说的是，若我们把关乎政治的重要事务委派给恰巧在某一时刻被赋予发展数字技术使命的小公司，那就把太多事物置于风险之下了。无论你多么欣赏硅谷工程师，或者你认为绝大部分“科技老大哥”拥有晶体管一般的政治复杂性，我们都需要搭建一种智识上的框架，来帮助我们清晰且批判性地思考数字创新的政治后果。这本书希望使用政治学理论的思想和方法，来促成此种框架的形成。

政治学理论的承诺

以赛亚·柏林（Isaia Berlin）说，哲学的目标始终不变，它要“帮助人们理解自身，让他们在阳光下生活，而不是在黑暗中挣扎”。这同样是我们的目标。政治理论旨在通过其所表达的概念来理解政治。什么是权力？自由在何时、以何种依据是可被缩减的？民主需要每个人有平等能力去塑造政治进程吗？怎样分配社会资源才算是正当的？以上就是政治理论家尝试回答的问题。政治学作为一门学科有着悠久而丰富的历史。从古希腊学术界的柏拉图（Plato）和亚里士多德（Aristotle），到生活在动荡中的近代欧洲早期的霍布斯（Thomas Hobbes）、卢梭（Jean-Jacques Rousseau），再到20世纪政治思想巨擘汉娜·阿伦特（Hannah Arendt）和约翰·罗尔斯（John Rawls），西方政治思想家试图澄清和批评周遭世界久矣，并追问其所以然，探寻其是否有或应有不同。

出于若干原因，政治学理论十分适合检视技术与政治之间的互动。首先，政治思想经典中所包含的智慧比人类文明还经久不衰。它烛照人类的未来困境，并帮助我们判断问题所在。我们最好不要愚蠢到去破坏那些已可为我们所用的思想宝藏，即便我们最终认为其中的某些思想需要升级或重启。同时，政治学理论还提供了思考世界的方法，以此来帮助我们将辩论升级到超越断言和偏见的高度。

在我看来，政治学理论最好的地方是，在处理有关政治的宏大主题和问题时，它提供一种“见森林”的全景式政治视角，而其他方法很可能导致“只见树木，不见森林”，或者困于枝杈的情状。在我们所讨论的案例中，政治学理论的运用是必要的，我们借此能够公正地处理各种命题。如果我们认为技术能够对人类处境发挥根本性作用，那么我们对这种作用的分析也应该是根本性的。这也是本书在所有政治学概念中，最关注四个最基本概念的原因：

力量：强者如何统治弱者

自由：什么被允许，什么被禁止

民主：人民如何统治

社会正义：我们对彼此负有何种责任

我认为，在瞬息万变的时代，回归最重要的原则，并在完全摆脱任何特定合法政权约束的情况下思考这些概念将大有裨益，这使我们有可能去想象一个比我们所继承的制度更卓越的制度。概念是我们“看待和感知现实的必然锁钥”。当我与邻居谈论政治时，我不需要从开天辟地讲起，因为我晓得如果我说某个过程是“非民主的”，那么我无须解释什么是民主，为何民主是个好东西，对方就能完全了解我指的是什么，并能对我所传达的内涵心领神会。这是因为我们属于同样的语言社群，共享着同一套从历史和神话中提取出来的“共同概念群”，相当便于我们的表达。

从另外一个层面来看，我们想要表达的政治思想有时会因我们词汇的匮乏而受到限制。有些事情看上去是无法言传的，或者干脆是无法想象的，那是因为常用概念库还没有发展出对它们的阐释。正如维特根斯坦（Ludwig Wittgenstein）所说：“我语言的有限性就是我世界的有限性。”

这在政治上意味着，即使我们能够清晰地看到未来，也可能找不到措辞来形容它。这就是为什么我们总是把未来图景想象成我们所处世界的强化版。正如首次完成汽车量产的亨利·福特（Henry Ford）所言：“如果我询问人们，他们想要的是什么，他们会告诉我想要更快的马。”福特明白，想要让人们相信与其所接触的制度截然不同的制度何其困难。未能及时更新我们的语言只不过是让这种接受难上加难。

本文节选自《算法的力量：人类如何共同生存？》一书的导论，标题为编者所拟。