对话陈昌凤、李凌（上）：警惕算法隐藏的“权力关系”

随着大数据、人工智能等技术的快速发展，“数据主义”随之流行，算法推荐、排名算法等不同的形态催生并推动了不同领域的企业，这些企业及其产品在为公众提供便利的同时，也产生了不少新的问题。如何为冰冷的算法注入人文情怀，成为一个不得不面对的伦理问题和治理问题。不久前，有关部门联合发布的《互联网信息服务算法推荐管理规定》正式施行，依法对算法乱象进行监管整治。

日前，著名学者、清华大学新闻传播学院常务副院长陈昌凤教授与清华大学新闻传播学院博士后李凌联合主编出版了《算法人文主义：公众智能价值观与科技向善》。本期政邦茶座邀请到两位作者，为“算法”把把脉。

本期政邦茶座嘉宾：

陈昌凤：清华大学新闻传播学院常务副院长，出版《智能传播：理论、应用与治理》、《算法人文主义：公众智能价值观与科技向善》等

李凌：清华大学新闻传播学院博士后、中国伦理在线执行主编。

政邦茶座主持人：

高明勇：政邦智库理事长。

高明勇：赫拉利在《未来简史》中宣称“大部分的科学机构都已经改信了数据主义”，您也曾提出：“大数据正以空前的速度和规模渗透到人类社会生活的方方面面，在一定程度上它已经逐步改变着人们观察、认识、思考乃至生存与发展的方式”。请问什么是数据主义，数据主义是如何产生的？

陈昌凤：大数据、智能算法等技术催生了新的哲学思潮，数据主义的观念和思维日益成为一种流行的意识形态。数据主义作为一种社会思潮，主要包括以下观点：

一是笃信数据更加真实、准确、客观和可靠，更值得人们信任，最早提出“数据主义”概念的《纽约时报》专栏作家布鲁克斯就明确宣称：“数据是透明可靠的滤镜，帮助我们过滤掉情感主义和意识形态”。

二是主张一种算法世界观，数据主义将整个世界，包括人的生命都视为各种算法计算的结果，正是在这个意义上，赫拉利认为人类将赋予算法权力，这样才能做出更加科学、理性当然也就更加正确的决定。

三是主张信息自由是最高的善，数据主义的支持者认为，如果我们要创造一个更美好的世界，关键就在于生产数据、连接数据，并且给数据以自由。

数据主义的流行，与人工智能等信息技术在经济社会等各个领域取得的巨大成功密不可分，但从更深层次原因来看，数据主义是与互联网平台经济发展的生产结构相适应的价值观念，体现了互联网平台经济发展的话语和意识形态需要。

按照数字经济研究学者范戴克的观察研究，互联网平台主要通过数据化、商品化、选择性这三种核心机制来构建自身的数字化生态系统，其中，数据化一切是前提，商品化是目的，而用户的选择性则是实现商品化的途径。这三种机制推动了互联网平台的发展，也促成了数据主义思想的发展，并且通过自我论证进一步强化了数据主义的合理性和正确性，加剧了人们对数据化一切的推崇和信仰。

从互联网平台的视角而言，只有万物皆媒介、皆数据、皆算法，才能利用算法技术服务于这个世界，最终实现商品化目标。

李凌：数据主义在本质上是数字资本主义的意识形态。从表象上看，企图最大化的是数据，但实质上是资本。数字资本主义之所以热衷于将人和万物数据化并推崇数据最大化，就是因为只有将人和万物都数据化、算法化了，数字资本主义才能在对数据的利用、开发过程中，实现数据价值的最大化，当然也就是资本的最大化。对于数字资本主义及其意识形态数据主义而言，人和万物不仅应该被视为数据，而且必须被数据化。

高明勇：数据主义对整个社会产生了什么样的影响，如果进一步发展，将会对人类社会构成哪些挑战？

陈昌凤：我们可以看到，数据主义对于互联网平台经济的发展起到了重要的推动作用，数据主义成为支持企业创造价值的一种观念。对于企业而言，“数据最大化”和“信息创造价值”符合工具理性，也有助于他们拓展市场、服务社会并获得收益。

不过，数据主义所倡导的无条件推崇数据最大化的思维方式，也存在着很大的片面性和局限性。就正如近年来“大数据杀熟”、“外卖骑手被困在系统里”等算法伦理问题所揭示的，数据主义不仅导向了算法对社会规则和生态的重构，还存在着侵犯个体尊严、自由和破坏社会公正等伦理风险，可能危及到人的主体性。

以前我们常常乐观地说，互联网技术的赋能极大地拓展了人类自由，让我们能够享受到更便捷的服务，但是现在来看，技术应用的负面效应正在出现。由于我们越来越来离不开各种互联网平台，人们只有依附于这些芒德福所言的“巨型机器”，才能言说和行动，才能获得价值和意义，我们很难说更自由、更强大了。

数据主义者的眼里只有数据算法而没有人，他们将作为人类认识和行动结果的数据、算法颠倒为起决定作用和支配地位的“主体”，真正的人类主体则沦为被算法塑造和支配的客体，被置于工具化、从属性的地位。

算法背后隐藏着复杂的权力关系。表面上看是算法拥有了权力，人们被算法支配和控制，但实质上是被研发、设计和掌握算法平台的人所支配和控制。谁控制了平台，谁就掌握了数据；谁拥有了先进技术，谁就拥有更大的权力。如果一切都相信数据和算法，人将会陷入“算法囚笼”之中。

在这个意义上，数据主义及其所倡导的“数据最大化”与“信息自由至善”，走向了价值理性和工具理性的二元对立，既与人文主义这一人类所有价值观底线相对立，也是现实虚无主义的产物，值得我们警惕。

李凌：数据主义以“记录、上传、分享”为口号，正在创造一种独特的数字景观——互联网上的免费劳动。芸芸大众成为资本主义生产的免费劳动力却不自知。

我们在互联网指点江山，为了获取关注主动曝光、自我展示，忙于生产内容乐此不疲，这些免费劳动都被互联网平台转化为数据化的生产资料，投入到算法的优化和服务当中。数据主义巧妙地将这种利用用户免费生产数据的做法隐藏在“参与”、“分享”等概念之中，让用户产生了自我实现和自我解放的错觉：我并没有被剥削，而是通过主动积极地参与来发展展示自我。

正如韩裔德国哲学家韩炳哲所说：“作为新自由主义自我技术的永恒自我优化，不过是一种有效的统治和剥削方式。”数据主义通过自我参与等概念，对数字资本主义的合理性进行了有力的辩护，借此掩盖了数字化生产过程的很多问题和矛盾，让公众处于不利地位，甚至连个人隐私、经济权益受到侵犯却不自知。这是数据主义的欺骗性所在，值得我们关注和进一步研究。

高明勇：有观点认为，21世纪将会是由算法主导的世纪。这种趋势，会不会在某个时间节点产生“逆转”？

陈昌凤：人类总是不遗余力地按照自己的需求主动开发新技术，这是人类构建现实的方式与过程。最近20年以来，媒介化已经成为与城市化、全球化和个体化等相提并论的高度现代性的重大变革，其趋势和过程都是难以逆转的。

在媒介化过程中，数据与算法起到了基础性的作用。特别是诸如微软、苹果、元宇宙等互联网平台，他们通过构建有形的通信系统、无形的通信协议、可见的接口界面以及隐形的平台算法等信息基础设施，主导了日常数字活动和全球经济。

作为最前沿信息技术的集大成者，元宇宙可以说是当下最炙手可热的话题。如果说工业革命解放了人类的手和脚，人工智能解放了人类的大脑，元宇宙则通过深度媒介化，朝着解放人类一切需求和愿望的方向迈进。在元宇宙技术所建构的虚拟现实之中，人类可以发挥最大可能的想象力来建造它，它也可以最大程度地满足人类的需求和愿望，甚至可以使人无处不在、永远在场、永远“活着”。

不过，这个过程到底是以算法为代表的信息技术驯化、主导人，还是人驯化、主导各种技术，则在很大程度上取决于人类自己的理解和行动，如何在算法自动化运行中保持人的独特性，如何维护个体的自由和整体的安全？诸如此类的问题，都需要我们坚守与弘扬以人为本的价值观。

高明勇：算法在诞生之初，很多人是欣然接受并乐在其中的，但后来出现“大数据杀熟”“外卖骑手被困在系统里”“个人隐私保护”等现象，越来越多的人开始抵制算法，拒绝成为“算法囚徒”。为什么短短几年，人们对算法的认识，就发生了这么大的转变？

陈昌凤：人们往往会在技术应用的初期，为其全新功能给人类生活带来的正面效益所惊喜，再加上资本主导下的互联网企业为了扩大用户基数而采取的免费或者高补贴战略、口碑营销方式和庞大宣传攻势，公众和舆论可能倾向于赞美和“拥抱”这一新兴技术。

但随着人工智能、大数据等信息技术的深度应用，特别是在人与算法机器的频繁交互过程中，新技术引发的争议性问题日益凸显，对人们的现实利益和个人权利产生了负面影响，则会引发人们对于技术逻辑本身存在的伦理风险的担忧。

在我和李凌主编的《算法人文主义：公众智能价值观与科技向善》一书中，收录了我们“智能时代信息价值观引领研究”项目组对2020年度与智能技术密切相关的十大热点舆情事件的价值观指向报告，从应然和实然的角度，分析了公众（主要是微博用户）的智能技术价值取向。

这十大热点舆情事件，既包括你所说的“大数据杀熟”、“外卖骑手困在算法里”、“APP违规搜集个人隐私”，还包括“中国人脸识别第一案”、“人工智能换脸”、“老人健康码使用困境”、“无人驾驶汽车试运营”等热点事件。

报告通过采集分析微博用户的舆情数据显示，公众对于智能技术应用引发的价值争议和伦理风险开始觉醒。围绕2020年智能技术应用的十大热点舆情事件，微博用户对人类尊严、人类自主、公平、透明、个人信息保护、安全、责任和可持续发展等价值维度都表现了一定的关切，特别是对关涉到自身利益和权利的智能技术应用，表现了较高的关注和价值期盼。在热度上，“多款违法违规收集个人信息APP被处罚”事件最受舆论关注，很多网友都明确提出保护个人隐私的诉求。在责任价值方面，微博用户呼吁政府相关部门解决智能技术伦理争议的呼声较高，体现了较高的期盼。

不过，微博用户对智能技术的价值和伦理探讨更多集中在工具价值层面，体现了一定的功利主义和实用主义的倾向，而忽略了目的价值层面，对涉及到人类社会文明的底线价值如人类尊严、自主性、自由等价值关注不够。

报告还显示，相比于公共性议题，当智能技术应用涉及到娱乐领域，尤其是流量明星时，微博用户的关注度更高。例如在社交机器人账号对舆论生态影响的这一议题中，肖战粉丝辟谣事件的热度远远高于外交部指责美方利用机器人账号散播谣言事件的热度；在人工智能换脸这一议题中，影视明星换脸等娱乐事件，比人工智能换脸引发新型诈骗的热度更高，说明公众智能信息价值观呈现出一定的娱乐化倾向。

李凌：公众对算法应用从欣然接受到如今的批判，由“粉”转“路”甚至转“黑”的过程，体现了公众对智能技术应用的社会选择。技术的发展演变有其自身逻辑和客观规律，但是人们的主观意志和价值取向，在技术选择和演变过程中起到了重要作用。

按照技术的社会塑造理论，技术的发展演变是政府、市场、科技工作者、公众互动、协商和博弈的结果，“发明某物只是意味着给社会提供一种可能性，社会才决定这种可能性是否值得实现。”其中，市场和用户是技术社会选择的重要因素。无论是工程师还是资本家，他们对技术研发设计路径的选择，都要在一定程度上反映用户的选择，接受选择的检验。很多互联网产品的研发，都不再是一次性研发的结果，而是一个快速更新迭代的过程，是产品经理、工程师与用户多次互动、协商、反馈而协同共建的产品。

正因为如此，互联网平台应当重视公众对智能技术应用的价值取向和伦理态度，主动自觉地将以人为本、尊重人的尊严、保护和增进个体自由、维护社会公正、增进人类福祉、促进可持续发展等价值维度纳入智能技术的研发、设计之中，推动算法善用。