全球数治｜美国多大学利用AI算法招生或引发高等教育危机

基于人工智能技术的算法，通过将输入数据转换为所需输出决策的编码过程，从海量原始数据中提炼出解决问题的逻辑与经验，从既有知识中产生新的知识和规则，形成比人工分析更加快速和优质的预测性判断，进而推动人类在社会、市场、政府等各领域的决策和治理机制嬗变。当前，由算法驱动的自动化决策被广泛应用于工作、教育、医疗、信贷、刑事司法等诸多领域，给人们带来极大的便利和效率提升。然而，由于算法所依赖的人工智能机器学习技术在数据集构建、目标制定与特征选取、数据标注等环节可能混入人类的偏好与偏见，又引起了各界对于算法驱动下决策的准确度与公平性的疑虑。如何避免来自人类社会的不公和歧视通过代码和算法被固化或放大，如何防止算法世界的偏差反作用于现实世界，以及如何设计算法以保障和实现公平等问题亟待人们去研究和解决。

9月14日，美国布鲁金斯学会在其官网发布了高级研究员阿列克斯·恩格勒（Alex Engler）撰写的研究报告《在大学招生录取中采用自动化算法或将引发美国高等教育危机》（Enrollment algorithms are contributing to the crises of higher education），就大学招生这一与公众利益密切相关的领域采用人工智能算法所引发诸多问题进行了分析，并提出了控制算法融入招生管理相关风险的行动要点。

阿列克斯·恩格勒（Alex Engler）指出，许多美国大学正在使用人工智能算法及系统来进行招生录取和奖学金分配的自动化决策，希望通过先进的技术手段招揽更多合适生源，并更精准地预测学生的学费支付意愿和能力，以制定更科学的奖学金发放方案。这种做法对大学提高学费收益率和改善财务状况能产生积极影响。然而，也有证据显示，目前被广泛使用的几种招生管理算法都有可能会损害学生的利益，降低一部分学生继续学业和顺利毕业的可能性，甚至将加剧美国高等教育业已存在的毕业率偏低、学生债务偏高和歧视少数族裔等潜在危机。

大学通常期望在算法供应商的帮助下能实现吸引更多学生入学，提高学费收入，以及合理控制奖学金支出规模等多重目的。除了极少数著名大学拥有捐赠和其他收入，大多数美国大学都需要依靠学费收入维持运营。因此，各所大学都在竭力吸引和录取足够的学生。同时，这也意味着大学既要发放适当数额的奖学金来吸引申请人，又要控制发放规模以避免影响学校开支。引入人工智能算法可以对每个申请人的综合情况进行清晰打分，并根据统一标准测算出与之相匹配的奖学金方案，或者说，能最大限度增加其入学可能性的奖学金额度。

大学招生管理中对算法的使用通常包含三个过程：一、采集申请人的有关信息数据并输入模型，以预测其入学可能性；二、分析评估其经济能力，以制定相应的奖学金发放方案；三、对算法给出的预测结果和建议进行优化。在第一个过程中，校方会把申请人绩点（GPA）、标准化考试分数、已获得资助情况，以及居住地和人口统计信息等尽可能多的数据输入算法模型进行测算，常会应用到机器学习的逻辑回归、决策树及神经网络等技术手段。在过程二中，算法除了会给出奖学金额度建议，还会提供不同奖学金额度对拟录取对象入学可能性的影响分级，并从总体上预测新学年可能的入学人数和预算规模，作为奖学金发放的决策参考。在过程三中，算法将根据输入模型的所有数据，结合大学设置的一系列限制性条件和优化值，自动产生了至少数千种策略，并就各种策略进行尝试和比较，以得出一个最佳方案。对大学来说，这样做不仅可以更精准地分配有限的财政资源，还能减轻招生办公室的录取审核工作量，节约时间和人力成本，可谓一举多得。

然而，阿列克斯·恩格勒（Alex Engler）认为，这样做也将导致不少问题。首先，招生管理使用算法的目标之一是推动申请人以能够支付的最高学费，或愿意接受的最低奖学金来就读该大学。供应商围绕此目标开发的算法必然会拉高处在自身支付大学学费经济能力边缘的申请人的数量。这就在无形中加大了申请人日后遭遇经济困难而不得不中断学业的风险。其次，由于大学对财务状况的看重，供应商开发的算法将会偏向于尽量精确控制奖学金发放规模，这实际上会减少每个申请人能获得的奖学金数额。与此同时，校方竭力寻求收入支出最优比的做法可能导致算法偏差，令某些特定申请者群体（如少数种族、妇女、残疾人等）受到歧视性对待。这就背离了利用奖学金来支持学生完成学业、取得成功的初衷，并加重了当前存在的大学生高负债、低毕业率的困境。

在阿列克斯·恩格勒（Alex Engler）看来，通过算法实现财务上最优化的招生结果本就不应当被视作大学招生管理的终极目标。大学录取的衡量标准不该过于偏向申请人的支付意愿和能力。奖学金发放的价值取向须将拟录取对象的经济支持需求放在首位，重点考虑如何支持其学业成功。在此基础上，他进一步提出了控制算法融入招生管理相关风险的若干行动要点：

记录算法过程：大学应该全面地记录算法招生管理中所使用的目标、原则、过程、数据和算法。预期的结果应该在算法开发之前予以明确说明。

考察历史数据：大学必须仔细评估和考虑他们建立算法所依据的历史招生数据集，以确保符合未来可持续发展的需要。

评估学生成功率：大学应该经常评估在收益优化算法给出的奖学金发放策略之下学生的学业延续率和毕业率，以及时校正算法。

使用可解释的模型：大学应该选择更易解释的预测模型类型，如逻辑回归和决策树，而不是黑箱模型，以降低出现意外和不公平的算法结果的可能性。

进行算法偏见审计：开展算法偏见审计并公开审计结果将有利于提高透明度，并缓解公众的担忧。

以人为本的录取评价：在对申请人进行综合素质打分排名时，大学不应过度依赖标准化考试成绩、GPA等指标。志愿者服务、课外活动成就、工作经验、抗挫折能力等因素都应被纳入衡量标准，作为分配奖学金的依据。

恰当地使用约束条件：在使用算法时，大学需要通过制定合适的约束条件来保持学生多样性，以实现奖学金在不同学生群体中的合理分配。

聘请内部数据专家：大学不应完全依赖供应商来了解招生管理算法，因此需要雇佣能够研究供应商所提供方案的内部数据专家，以确保算法的使用与学校目标相符。

设法维持学生的经济支持：在使用算法的招生管理中，大学可以寻求更有效地奖学金分配策略，但不能因此降低每个学生的经济支持力度，并采用多种手段帮助学生避免学业中断。

此外，阿列克斯·恩格勒（Alex Engler）还提出，美国教育部等公共部门也可以对算法融入大学招生管理实施积极的监管和治理，包括委托独立的第三方评估招生管理算法的使用情况，发布关于招生管理算法的最佳实践指南，促成大学之间的财务数据交流，提高对公立大学的资金支持等。

无论是教育或其他领域，在人工智能和算法日益代替人类进行各种决策的数字时代，多重因素决定了算法并不必然公平，但绝不可放任机器产生的偏见和有害性结果通过代码被固化在社会结构中。构建完善的算法公平性验证、知情同意、透明度、问责、救济等治理机制，引导算法尽量朝向公平，已成当务之急。