全球数治｜规范算法推荐，需要几步？

随着数字化转型的快速推进，作为人工智能（AI）基础架构的算法正全面渗透人们的生活。网络购物、日常出行、商业运营，甚至求职相亲等都越来越离不开“算法推荐”。然而，在拥抱这项先进信息推送技术的同时，人们却越来越不信任它。北京大学互联网发展研究中心制作的《中国大安全感知报告（2021）》显示，60%的国人担心个人信息在数字环境中有泄露风险，70%担心个人喜好、兴趣等隐私被算法算计，50%则想要摆脱算法束缚，远离网络和手机。

“算法推荐”本质上是一项通过个性化推送、排序精选、检索过滤等方式实现用户与信息精确匹配的互联网技术，但历史数据偏差、偏见嵌入、研发和平台应用缺乏透明度等因素又衍生出大数据杀熟、侵犯隐私、算法歧视、舆论极化等一系列负面问题。加强算法治理，遏制算法滥用，切实维护用户权益成为当务之急。今年3月1日正式实施的《互联网信息服务算法推荐管理规定》（以下简称“规定”）搭建了一个由信息服务规范、用户权益保护、监管规定、法律责任等多重维度组成的治理框架，从中我们可以看到规范算法推荐的三个可行步骤。

2021年以来，国家网络信息办公室先后出台《关于加强互联网信息服务算法综合治理的指导意见》和《互联网信息服务算法推荐管理规定》，提出利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。由此可见，中国算法治理路线图初步成型。就规范算法推荐而言，当前治理重点在于建立完备的监管制度，约束平台企业 “不能”滥用算法推荐，形成完善的伦理规范，引导企业“不想”滥用算法推荐，杜绝算法野蛮生长。

有鉴于此，《规定》首先致力于向用户充分赋权，特别是算法知情权和服务选择权，进而促使企业增加算法推荐服务的透明度。为此，《规定》将“算法推荐”定义为“利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等技术向用户提供信息”，从而覆盖社交媒体、电商、排序与检索、搜索平台个性化推送、网约车和外卖平台调度决策等尽可能广泛的应用场景，扩充用户主张权利的范围，并要求企业明确告知用户其所提供的算法推荐服务情况，公示服务的基本原理、目的意图和主要运行机制等。

《规定》还要求企业向用户提供不针对其个人特征的选项，或者便捷关闭算法推荐服务的选项。当用户选择关闭算法推荐服务时，企业应立即停止提供相关服务。同时，《规定》针对向未成年人、老年人、劳动者、消费者等特定主体提供服务的算法推荐也制定了具体规范，包括不得利用算法推荐服务诱导未成年人沉迷网络，应向老年人提供便捷和安全可靠的算法推荐服务，建立完善的平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，不允许根据消费者偏好、交易习惯等特征在交易价格等方面利用算法实施不合理的差别待遇等。

通过上述一系列赋予用户算法管理权的规则，《规定》有效改变了用户在遭遇平台企业利用算法推荐进行大数据杀熟、致瘾性推荐、误导消费选择等行径时的弱势地位，增加了用户对平台的议价能力。另一方面，用户权利的加强也能够制衡平台企业片面追求利润最大化的行为，对其将用户异化为简单的数据和工具，随意实施利益侵占的想法予以纠偏，从而维护数字经济的有序竞争和可持续发展。

在此基础上，《规定》进一步提出对算法实施分级分类监管。这在一定程度上借鉴了欧盟数据保护立法的思路。《规定》明确要求网信办会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，并根据算法推荐服务的舆论属性或社会动员能力、内容类别、用户规模、算法推荐处理数据的重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类监管，并相应设置处罚条款。同时，《规定》还要求对具有舆论属性或社会动员能力的算法推荐服务实施备案管理。按照此思路，遏制算法侵害的同时将能够避免可能压制创新的“一刀切”治理方式，转向在完善各类细化实施规则的基础上，开展程度有别的针对性监管，并为平台监管和企业合规提供更为清楚的指引。

《规定》还明确了算法推荐服务提供者的法律责任，建立起层次清晰、覆盖全面的问责制度。《规定》要求算法推荐服务提供者落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理和问责制度。如果算法推荐服务提供者违反了相关条款，法律、行政法规有规定的，依照规定处理；法律、行政法规没有规定的，则由网信部门和电信、公安、市场监管等有关部门依据各自职责给予警告、通报批评、责令限期改正等处分。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。这样一来，《规定》既为权利受到侵害的用户提供了有效的救济途径，也从制度上强化了企业慎用算法推荐的社会责任。

通过向用户赋权、分级分类监管、有效问责这三个步骤，《规定》与早前颁布的《电子商务法》、《消费者权益保护法》、《个人信息保护法》、《关于加强互联网信息服务算法综合治理的指导意见》等对大数据杀熟、算法歧视、算法黑箱等问题的规制相结合，初步形成了中国涵盖部门法、数据法和专门算法管理规定等多层面协同算法治理体系，从而能够对数字经济活动中的算法推荐开展事前事中事后的全流程治理与分级分类监管，形成赋权制衡的治理生态。

鉴于《规定》中对算法推荐的规范思路具有前瞻性和引领性，若要推动《规定》稳妥落地，发挥实效，当前还需要尽快出台与之配套的各类可操作实施细则，完善算法推荐治理的技术支撑体系，加强算法安全技术能力建设，建设算法安全评估、算法安全风险监测等系统与平台。与此同时，网信办等相关政府部门还应设法为消费者和企业提供更多的参与算法治理渠道，建立相对完善的行业自律、社会监督、消费者维权等机制，推动形成多元协同格局，以契合数字社会的客观发展规律和伦理要求，切实践行“算法向善”。