下载客户端

顶刊编译｜不止于数字系统：不同组织背景中AI技术如何改变公共决策

2022-07-12 06:28

来源：澎湃新闻·澎湃号·湃客

不止于数字系统：不同组织背景中AI技术如何改变官僚的角色

摘要:

通过探索不同组织背景中由AI技术所做的公共决策，如何影响官僚角色定义中的创新因素，本文强调了AI的应用对公共部门创新的影响。我们研究了荷兰育儿津贴和美国综合数据自动化系统这两个案例，主要关注其中组织、机构和个人层面的因素。在这两个案例中，我们观察到了行政过程的创新，即组织结构和官僚的任务都发生了转变；而在美国的案例中，我们发现了概念创新，即通过取代全部的官僚来解决福利欺诈问题。

关键词：

公共决策；人工智能；数字福利体系；官僚；公共部门创新

作者简介:

Sarah N. Giest

Bram Klievink

莱顿大学公共管理学院

编译来源:

Sarah N. Giest & Bram Klievink (2022): More than a digital system: how AI is changing the role of bureaucrats in different organizational contexts, Public Management Review.

本文作者：Sarah N. Giest

本文二作：Bram Klievink

引言

数字时代的决策在朝向自动化发展，公共服务的提供方式也在与时俱进。但这一主题下的大部分研究都集中关注街头官僚的自由裁量权、有限的面对面互动，以及数字系统本身，而很少涉及到，机构的变化如何通过影响公共决策和服务提供预期来塑造官僚的角色。

随着当前使用数字系统和算法应用的不断增长，一种新的服务提供机制已经粗具规模。各种AI技术不仅改变了技术领域，而且还影响了通信渠道、决策功能和相应机制，以及实施控制和自由裁量权的水平。本文认为，这些变化都是由如何设计技术，以及如何将技术融入现有的组织架构中引起的。本研究关注的正是技术与组织环境的融合。

本研究的案例选择遵循Kuipers等人（2014）公共部门创新的基本原理，区分了多数主义系统和基于共识的系统。本研究以它们之间的差异以及它们表现出的变化类型作为起点。在此基础上，我们研究了属于这两类的两个案例：密歇根州的案例（美国，多数主义系统）和荷兰育儿津贴案例（基于共识的系统）。在密歇根州的案例中，AI系统的实施导致失业管理局员工的下岗潮，在经历了危机后，则创建新的职位，对整个系统及与之相关的数据进行监管。在荷兰的案例中，我们发现渐进式的变化影响了组织结构，而官僚们的工作却发生了根本性的变化，导致了关于育儿津贴的错误决定。基于这些观察，我们看到了这两种情况下新的组织结构和人力资源的协调，即行政过程创新。而在密歇根州，我们也看到了一种概念创新，即运用AI从而更精准、迅速、有效地解决欺诈问题。

理论

公共部门创新

组织设置和技术系统的交叉领域，已经涌现了大量不同的研究和理论，而本文关注官僚所使用的技术系统与组织背景的融合，正是这二者的关系为创新的发生创造了环境。新兴技术、组织和服务设置，以及那些实现系统技术动态变化的交叉融合，创造了增量创新或激进创新。所谓增量创新，指的是对现有产品或服务的微小改变，而激进创新，则指的是“通过引入新服务或实施新的交付方法”取代现有产品或服务。

DeVries、Bekkers和Tummers（2014）定义了公共部门创新的四种类别：

过程创新，指的是注重提高内部和外部过程的质量和效率。过程创新又包括两类：行政过程创新，包括组织实践、新的组织结构和人力资源的协调；技术过程创新，将新元素引入组织生产或服务操作系统；

产品或服务创新，指的是创造新的公共服务或生产创新；

治理创新，指的是解决特定社会问题的新形式和过程；

概念创新，它们涉及到新的概念，甚至是新的模式，以重新定义一个特定问题的本质及其可能的解决方案。

组织层面和个人层面的特征，对于公共部门创新的出现，都是具有影响力的。其中包括政府支持的长期规划和顶层设计，以及通过教育和培训来投资人力资本，提高劳动者技能。

公共部门的专业人员的行为和态度可能会因为AI系统的引入和运用而发生改变。转变的内容会因AI系统所在的背景和结构的不同而有区别，转变的结果包括AI系统的引入和运用如何影响官僚的行为。但这一转变可能是按照预期实现的，即达成创新的目标，但也可能出现预期之外的结果。研究表明，技术设施与机构变化会相互影响。新技术的运用提高了公共组织的能力，但其结果往往不按事先的预期展开。

AI技术往往被认为能从根本上改变公共服务或政策。尽管在环境层面上，AI被认为带来了根本性的变化，但在特定应用程序的层面上，它可能只是持续性变化的一部分。这一方面是公共组织所采取的渐进式变革的后果，另一方面是这类技术的引入所带来的变化，与根本性变化之间还存在差距。

管理结构中官僚的角色和功能

在日益数字化和自动化的时代，官僚的角色正在发生变化。过去的研究表明，这不仅是先进技术或数字系统本身带来的，还可能源自官僚群体所处的组织和监管结构，官僚们为应对这些背景而长期积累形成了一定的经验和文化。本文侧重于探究，由于机构层面的特征所造成的官僚角色的转变，这些特征可能影响官僚的纵向和横向关系。一般来说，这些因素可以分为机构层面的因素和协同作用的个人层面的因素。

在机构层面上，公共组织内部的管理活动与管理者，通过体现于劳动并参与到决策过程，而对机构的表现产生重要的作用。此外，政治上的注意力也会影响到政策重点。简而言之，“机构通过赋予身份，即通过选择那些被认为与决策相关的因素，来塑造社会行为者的认知。”

在个人层面上，已有研究大多讨论在一个日益自动化的环境中街头官僚发挥了怎样的作用。最近的研究强调，尽管街头官僚所能提供的公共服务正在被自动化和数字化淘汰，但官僚个人仍在影响与公民相关的政策决策和执行。总得来说，官僚个人仍然在决策过程中扮演着角色，只不过他们的角色，特别是自由裁量权部分发生了微妙的变化。这是因为他们不负责处理有关公民的常规决策，而只是负责例外情况，通常基于可能得到上级官员或数字系统确认的预期来做出决定。因此可以说，“信息化并没有摧毁自由裁量权，而是模糊了自由裁量权”。

许多研究将机构层面和个人层面的动态变化分开处理，从而忽略了更大的组织变化对官僚个体角色的影响。但本文指出，真正对官僚角色带来挑战的并非信息和数据技术本身，而是它们所嵌入的组织背景，以及需要工作于其中的更新了的协调和管理过程。

将算法程序融入当前管理结构中

最近关于公共部门数字化转型的研究，大都提到数字化会改变官僚和组织文化，此外，在与政府运用信息通信技术相关的其他文献中，也可以找到系统性或整体性分析的思路。本文沿着这一思路，在解释研究对象时寻求更具整合性的观点。

技术的应用虽能引起社会性变化，但这并不是说，组织惯例和专业实践的变化是技术引入的预期结果。信息和通信技术可能有助于加强现有的做法，并使之获益，或者强化使用了新系统的官僚环境；但这可能不符合AI的应用情况。相反，虽然在管理过程中的特定阶段使用了AI技术，但它们可能超出专业人员的能力范围，往往导致系统的实际角色和功能与设计之初大相径庭。

结合这两者，本文提出，AI不仅影响官僚的工作，而且还影响工作的内容和完成工作的环境。这种影响既有按照预期实现的，也有预期之外的。

公共部门的创新指的是，通过新的知识、新的组织、新的管理或过程，将新的元素引入到公共服务中，这代表了与过去的某种断裂。组织背景会影响管理的实施过程，并最终影响公共部门所发生的变化。此外，机构层面和个人层面的因素也起着一定的作用。

图1

图1描绘了早期研究中技术的实施与其对公共部门变化的影响，以及二者之间的关系。

研究进路

本文基本上遵循Kuipers等人（2014）的论点来选择案例，即多数主义系统可能表现出更多自上而下的改革，这可能导致更激进的变化，而基于共识的系统更愿意显示更多自下而上和渐进的变化。

本文选择了两个案例进行探索性分析：一个是荷兰育儿津贴，另一个是密歇根州的集成数据自动化系统。荷兰的案例所发生的背景，通常被认为是一个基于共识的系统；密歇根州的案例所发生的背景，则是相对多数主义的。这两起案件的相似之处在于，它们都得到了公共机构的广泛宣传和审查，比如密歇根州案例的审计报告和荷兰案例的议会听证。在这两种情况下，一系列与公共部门创新有关的问题都可以追溯到AI系统及其在福利政策背景中的运用。

荷兰育儿津贴案例的数据收集主要基于官方报告和听证会。这一案例的相关情况已被媒体广泛报道，并由监督机构和荷兰议会通过对该案件的正式调查进行了广泛的记录和分析。对此案的分析主要基于公开的报告和19起与此案例有关的荷兰的公开议会听证，其中一些听证会是由参与此案的高级官员举行的。这部分资料的来源不一定限于在听证会上受到询问的官员，也可能包括询问者，他们当中有些人是国会议员，会介绍他们所能提供的相关资料。

密歇根州的集成数据自动化系统(MiDAS)，不仅在媒体上，而且在法律诉讼、审计报告和新的立法活动中也被广泛讨论。对此案的分析是基于这些不同的、且可公开获得的文件，包括立法文件、一份集体诉讼、两份审计总报告和一份AI研究所的报告。

案例分析

荷兰育儿津贴

荷兰政府设立有一项育儿津贴，由荷兰税务和海关管理局的一个名为“Toeslagen”的部门管理。这项津贴的补助对象包括部分专业日托所和幼儿园。承保的金额取决于父母的收入。父母必须申请才能得到这些福利，而该机构可以直接支付给父母或日托所。2019年时人们发现，在这一系统中，成千上万的父母不公平地被归类为潜在诈骗犯。细小的管理错误致使儿童父母的工作和生活遭受重大损失。后来，一个议会委员开始调查这一丑闻，并最终导致荷兰内阁辞职。

数字系统在这一案例中扮演着重要的角色。负责育儿津贴的机构原本为征税而建立，但必须在紧缩时期支付每个家庭的福利。数字系统就为提高该部门的效率发挥了重要作用。在实际处理过程中，该部门引入和使用了一种风险分类模式，该模式是由一个特定的团队(CAF)引入的，最初目的是解决系统性欺诈问题。这个模型是一个基于一套算法的AI学习模型，该算法提供了正确和不正确的申请者的例子，帮助AI学习“识别”危险。该模型根据算法给出每一申请者的风险评分，并选择了最高风险评分的申请者，再交由专业人员进行处理。

该系统原本是一种创新，不仅是为了行政机构的办公效率，而且是为了满足阻止欺诈的政治需要。但在实施的过程中，这套AI系统的用途也发生了变化：从帮助寻找欺诈者，变为对公民产生实际的负面结果。之所以造成这一后果，是因为这套被设计用来感知特定目标和收益的系统，被用在了一个与原有设计不同的环境中，导致实际运行效果与预期作用失调，扭曲了创新过程。

而官僚的角色，在预期的正式角色与由创新引起的角色转变之间，同样存在差异。在整个系统运行中，有两个团队的作用很重要：首先是负责调查欺诈的CAF团队，但它不负责调查父母本人的情况，也不决定是否支付津贴；其次是负责发放津贴的团队，决定是否向个别申请者发放津贴。因此，该套系统实际上赋予了CAF团队一个更重要的角色，部分原因是发放津贴的团队开始以不同的方式看待系统识别的案件，以及公共部门的专业人士开始以不同的方式看待这些人，从一开始就假定这些人犯了欺诈，并深入搜索相关证据。

正式使用该系统的过程，也就是检测可能存在的欺诈的过程，而它的影响，也就是被该系统接收的所有申请人都被视为潜在的欺诈犯。发放津贴团队中的个别官僚们在决定如何处理潜在的欺诈案件方面发挥着稳定的作用。然而，即使没有确定欺诈行为，高风险评分本身还是会对现行津贴支付有潜在的影响。官僚们不可能仔细审查后再决定，一项被判定为欺诈的案例在多大程度真的是高风险的，因为他们无法获知究竟是什么因素导致了风险评分。此外，发放津贴的官僚们也不具备必要的信息，使他们能够重新调整自己在新形势中的角色。相反，当CAF团队提出一个风险评估分数时，发放津贴的团队会基于（潜在）欺诈的假定而进一步运作，并由此撤销了前一阶段团队的举证责任。因此即使这套系统没有直接作用于申请者，也会对服务过程产生重大影响。

就官僚的自由裁量空间而言，这在发放津贴的团队中正式存在，但要使用这一自由裁量权，例如，根据官僚的观点或印象进行沟通或行动，认为个别高风险只是错误而非欺诈，却受到系统评估结果的抑制。然而，由于正式的制度环境没有改变，公共部门一开始就没有意识到，随着AI系统的作用变得更大，它对官僚们非正式的反馈渠道和机制都产生了重大抑制作用。

事实上，相关访谈显示，AI的使用只是被视为实施这项政策的工具选项，整套系统也是仓促设立的。关于它的程序、工作说明和归档缺乏适应性调整，各级官僚对其专业知识也太少。而且，官僚们在这个议题上的考虑与高层政策存在着很大的不同。在中央部门的政治考虑中，严控打击欺诈非常重要，因此创设了这一方面的考核指标。但在实际运行中，专业人员需要随时准备兑现成果，因而面临着很高的工作压力，但同时，糟糕的信息质量和通信系统保障，又使得官僚们难以精准识别各类情况并及时做出调整。在这样的制度模式下，官僚们的角色发生了意料之外的转变，却没有明确的与新角色相适应的政策和技能培训。

密歇根州的集成数据自动化系统(MiDAS)

密歇根州的案例最终证明，彻底的自动化是不可靠的。

密歇根州实施了一个自动失业保险系统，目的是降低运营成本，并有针对地打击失业保险索赔中的欺诈行为。由于密歇根州长期以来的财政问题，和UIA (失业保险机构)糟糕的运行状况，导致失业人员的福利无法得到保障，因此该系统的实施最初是为了使UIA实现现代化，并简化相关审核程序。

这种完全自动化的获取失业申请和识别欺诈行为的方式，导致了针对失业保险申请者的大约4.8万项欺诈指控。这些被怀疑者收到了一份预设答案的在线问卷，如果收件人没有在10天内回复问卷，或者MiDAS系统自动判定他们的回答不令人满意，那么会自动被判定为存在欺诈行为。被怀疑为欺诈者只得上诉，一些人则转向法律援助。处理这些案件的律师很快就发现了一个令人不安的趋势：该州政府其实无法提供证据，证明MiDAS针对大多数申请者的欺诈指控。根据2016年进行的审计，只有8%的索赔发现存在实际欺诈行径。

关于官僚们在UIA实施MiDAS系统过程中的角色，有几点值得说明。首先，随着MiDAS的实施，UIA员工总数的三分之一被解雇。2015年10月，众议院通过(HB)4982号法案，禁止UIA仅通过计算机程序做出欺诈决定，由此结束了在不需要人工干预的情况下发布欺诈索赔这一进程。其次，审计强调“需要为UIA的员工及其合作伙伴进行针对MiDAS数据的定期安全培训”。这意味着，对于MiDAS系统，UIA需要雇佣额外的员工来执行这一系统的新功能。最后，最近的一份报告显示，自从COVID-19爆发以来，UIA不仅雇佣额外的官僚来填补由监控MiDAS系统带来的新任务，而且还让承包商自己来承担回应索赔电话，进行事实调查，解决简单的审判等任务。

讨论

这两个案例的情况非常相似，即简化审核过程，使其更有效率，并更可靠地识别欺诈行径。

在密歇根州的案例中，实现AI和自动化被描述为一种在没有人工干预的情况下监测欺诈索赔的手段。从数据分析到向（潜在的）索赔人发出信件，这些决定都是完全自动化的。这导致三分之一的机构工作人员被解雇，并缺乏对个别个案决定的监督和审查。事实上，随着批评的增加，UIA雇佣了新的官僚，其新职能主要围绕监控系统来满足创新的需求。在荷兰的案例中，官僚们在判定是否欺诈的决策方面仍然扮演着相对稳定的角色。然而，AI系统的应用创设了一种不同类型的工作，而各自部门所需的人员配备却并不齐全。尽管官僚工作的内容从根本上发生了变化，但该组织只是将其当作一项政策工具，而不承认战略性转变。

基于这些观察结果，我们提出了这两种情况下新的组织结构和人力资源的协调，即本文所说行政过程创新。在密歇根州，我们还看到了一种概念上的创新，即提出一种解决欺诈问题的新方法，因为使用AI系统能够比人类更准确、更快、更有效地处理欺诈案件。这些案例进一步表明，基于AI提供的公共服务，并没有带来大规模的政府组织重建。在这两个案例中，AI的引入仍然以完成任务为重点，并受到效率或有效性考虑的约束。

正如已有研究指出的，我们发现系统创新可以替代某些任务。然而，引入AI来补充或支持人类智能，从而导致官僚角色的转变，而组织背景并没有随之改变，这一点却极少被已有研究注意。但是这些变化趋势，确实对官僚的非正式自由裁量空间产生了负面影响，因为专业人员之间只是共享了基于AI的信息，而不包括与此相伴的不确定性（例如那些源自模型、数据质量和对此所作理解的不确定性）。这不仅模糊了裁量自由的空间，而且也为组织的进一步学习造成障碍。这留给我们的两方面启示，一方面，构建一套有关AI所带来的根本转变的理论叙述是至关重要的，包括警示人们只在功能性层面定义AI的价值是何其有害的。另一方面，这些案例表明，当AI被嵌入到常规管理过程中，而专业人员却没有完全理解他们在利用艰深晦涩的算法进行决策的真正意涵，这种情况尽管不那么明显，却仍有可能发生。这一点在荷兰的案例中体现得很明显：组织内的专家通常能感受到应用AI系统所带来的深刻影响，也能感到由管理、组织和决策者所设目标的限制；而且，公共部门内的专业人员也没有真正用到裁量自由，也没有找到对这套系统所造成的影响进行内部反馈的有效机制。而且，制度性压力会使得人们更难以在一定组织背景下发展出创新。例如，组织结构仍停留在对外界做出反应的阶段，而未能紧追由数字化进程所带来的工作进程的转变。这意味着，全系统性的深刻变革，显然已经超出了仍处于上一阶段水平的组织自身的能力范围。

综上所述，这些发现都限定在将AI系统整合到一个公共组织中，并特别关注官僚角色定义的变化。这在本质上是社会和技术体系之间的互动的过程。

结语

本文探讨了在不同的组织背景下，应用AI技术会如何影响官僚角色定义中的创新问题。我们首次运用比较研究方法，探索在公共部门创新这一领域应用AI系统的影响。两个案例都表明，当一套新的数字系统被用于满足复杂的组织任务，而这套组织中又包含了机构和个人层面的动态变化时，相关决定就会被视为是在清除了官僚之间纵向与横向的关系后自动做出的。在荷兰的案例中，过程创新主要发生在官僚的任务中；而在美国的案例中，围绕官僚工作的转变发生在更为广阔的领域。然而，未来的研究还需要在这两种不同的系统背景中展开，理清各自转变中所涉及的因素以及它们之间如何相互影响。我们还发现，仅仅是决心要应用AI系统，就足以对官僚角色的定义产生影响。本研究围绕AI的设计特征与应用过程的潜在影响提出了进一步值得研究的问题：这些潜在影响在最初设计时可能并未考虑到，却可能在系统的调适与融合中发挥作用。

编译｜安安

审核｜查皓

终审｜Mono

©Political理论志