人脸识别60年︱“黑箱”里有什么，纽约州家长们的社区行动

近年来，美国发生了多起校园枪击事件，阴影之下，越来越多学校启用了生物识别技术，试图防范风险。但这些匆忙上线的技术并没有匹配相应的使用规范，从数据存储、使用目的到访问权限，一切细节似乎处于“黑箱”之中。

2020年7月，纽约州立法机关通过了一项法令，在2022年前，禁止学校使用人脸识别和其他生物特征识别技术，成为全美首个对学校划定“禁区”的法案。而最早，该法案源于洛克波特市（Lockport）家长们的一场社区行动。

洛克波特位于纽约州西部，2016年，当地学区向州申请了一笔“智慧校园资金”，用于布设人脸识别系统，第二年获批。技术从申请、获批到采购、启用，一切都在悄然进行中，直到2018年，一位家长致信地方媒体，质疑该技术缺少使用规范。

对于洛克波特市的家长、教师工会、居民团体等行动者而言，“黑箱”有着多重含义，一方面，他们需要跨越技术壁垒，弄清楚生物识别技术的原理和风险，另一面，他们需要通过各种渠道表达自己的质疑声。它像是一场“拉锯战”。

本文节选自纽约大学AI Now研究中心报告“Regulating Biometrics：Global Approaches and Urgent Questions”（生物识别技术监管：全球举措及关键问题）的第四章。为便于理解，我们对原文进行了必要的补充和修改。

人脸识别技术正在进入越来越多的校园。图片来源：Getty

校园内的人脸识别监控

越来越多监控技术正在走进公立学校。借助一些“免费”或（由公共财政）补贴的技术，校园管理者可以监控学生电子邮件中的敏感词、厕所停留时间、监考，或对潜在危机提供实时警报。但通常，它们在启用前没有经过充分考量或社区咨询。

学校管理者对生物识别技术和其他电子门禁系统表现出了极大兴趣，希望改善校园安全，而现有的法规却很难阻止这些技术的应用。

这些技术可以作为“附加”功能启用，很容易与现有的安全监控系统（例如闭路电视）结合，校方经常在没有充分考虑其风险的情况下采用或测试这些技术。例如，生物识别数据的存储和使用有可能违法，校方可能未设置相关的使用规范，难以处理数据泄露问题，也未留足预算用于系统维护。（编者注：除了一次性的技术采购经费，校方还需要留足预算，用于之后的日常维护费用。）

表面上，生物识别技术有一定控制风险的作用，但它为学生群体带来了一系列社会和法律层面的问题，尤其是在K-12教育体系中（编者注：即美国基础教育的统称，从幼儿园到12年级的教育）。尽管近年来，美国更关注学生的数据隐私问题，政府的监督和执法有所增强，但学生群体仍易受伤害，隐私和其他违法行为的后果可能不会立即显现。

几十年来，研究者和教育工作者一直在批评这种保守主义的教育政策，认为它们不是长久之计。保守政策有可能延续美国教育体系中既有的结构性不平等，将其合理化，这妨碍了政策制定者带来真正的结构性改革。

国际上，一些国家已经禁止校园启用人脸识别和其他生物识别技术。美国的一些州和地方也已经通过法案，或正考虑制定法律，禁止政府使用面部识别技术，一些法案也适用于公立学校。

美国民间社会组织“为未来而战”（Fight for the Future）及“敏感药物政策学生组织”（Students for Sensible Drug Policy ）发起了一场运动，禁止在大学校园使用面部识别技术。这场运动成功迫使加州大学洛杉矶分校撤销了在校园内使用人脸识别的计划，并获得了教师工会的支持。这些组织正将这项运动扩向更多的K-12学校。

2019年，纽约州成为第一个通过立法明确禁止学区采购生物识别监控技术的州，并要求州教育专员对学校使用生物识别监控技术开展研究，并在全州范围内发布建议。这项立法始于纽约洛克波特市（Lockport，位于纽约州西部）的一场社区行动。

2018年，美国得州圣菲市，一名女子在枪击事件后哭泣。图片来源；新华社

洛克波特：一场社区行动

2014年，纽约州通过了《智慧校园债券法案》（Smart Schools Bond Act，SSBA），为学区拨出20亿美元，用于“改善整个纽约州学生的学习和机会”。SSBA法案中的一个条款很容易被忽略，它允许学区将资金用于“高科技安全”项目，却并未提供任何使用规范。

SSBA要求学区向智慧校园审查委员会（Smart Schools Review Board）提交社区参与的提案和记录，以供审查和批准。自2014年以来，许多学区通过SSBA获得了资助，用以采购教学设备，如笔记本电脑、智能板和3D打印机，以及升级老化的互联网和Wi-Fi系统。

申请程序要求，学区必须保证各个利益相关方的参与，特别强调需让家长、学生、教师和社区了解项目。学区必须举行公开听证会，并在学区网站上张贴提案文件，时间至少30天。这些要求希望听到来自社区的意见，促进公共资金的合理使用。

2016年，洛克波特市学区申请使用381万美元的SSBA资金，用于“新摄像机和布线……以提供人脸识别及目标识别，进行实时监控和视频录制”，以及增设“监控服务器……用以增强数据的存储和处理功能”。

洛克波特市学区表示，采购该系统是为了预防校园枪击事件，并在暑假期间举行了公众意见征询会——不出意料，（形式化的意见征询）没能收到任何来自社区的评论或质疑。洛克波特声称，已与所有利益相关者接触，其申请于2017年11月获得了智能学校审查委员会批准。

对该项目的首次公开批评发生在2018年2月，洛克波特市学区的校董事会通过了两项决议，允许学校使用“一种新的面部和形状识别软件”。本地报纸《洛克波特联合报》（Lockport Union Sun & Journal）发表了一篇评论文章，作者是当地居民Jim Shultz，他也是一位学生家长。Shultz质疑启用人脸识别技术的必要性，强调这笔资金有其他更好的用途，并警示学生和教师，应注意隐私风险。

Shultz发起请愿，要求学区暂停该项目，并重新举办一场公开听证会，听取社区的意见。 100多名当地居民联名，提出了各种问题，比如，如何保证利益相关者的“有效”参与，学区与推销技术的供应商之间的利益冲突，以及系统的有效性等。

请愿书递交后，《洛克波特杂志》（Lockport Journal ）编辑委员会呼吁学区推迟安装系统的决定，但抗议未果。随后，Shultz呼吁居民投票，否决校方的预算，但仍未成功。《洛克波特日报》继续刊登文章，讨论人脸识别技术的危险性，质疑技术的准确性，尤其是系统识别有色人种的偏误。Shultz仍在撰写专栏，并通过Facebook小组获得了社区支持。他还向另一个组织纽约公民自由联盟（New York Civil Liberties Union）求助，后者根据纽约州信息自由法案向州教育部发出请求。

这些行动引起了Monica Wallace的注意，她是纽约第143选区的民主党议员。该选区与洛克波特接壤，下辖迪普镇（Depew）。镇上的迪普联合自由学区（Depew Union Free School District）也有意启用同样的系统。

Wallace联系了洛克波特市的行动者，试图弄清他们在担忧什么。作为一名律师和家长，她理解安全与隐私之间可能存在的冲突，也担心这项技术的应用可能弊大于利。

2019年3月，Wallance在纽约州议会上提出了一项法案（A6787），试图叫停纽约州内所有公立学校，暂时停止采购或启用任何“生物识别技术”——除人脸识别，还包括指纹、手印、虹膜、视网膜，或DNA测序、声音、步态或面部几何学等识别技术。Wallance就法案草案征求了社区意见，确保它回应了人们的担忧。

该法案还要求纽约州教育部（NYSED）就以下问题展开专门研究：敏感生物特征信息对隐私的影响；某些少数群体的识别偏误及风险；收集到的信息有无可能与外部的个人或机构共享，包括执法部门；系统存储信息的时间（编者注：即是否需要定期删除或销毁数据）；未经授权的挪用风险；维护成本；对供应商的审查；以及该如何向公众公开这项技术。

该法案要求，纽约州教育部需与州内的多个利益相关方沟通，教育专员需要举行公开听证会，征求各方意见，包括教师、学校管理者、家长，以及学校安全专家、数据隐私专家、公民权利和公民自由团体等。

2019年4月，该法案以128票对19票的结果在参议院通过。但它没能进入2019年的立法程序，2020年行动仍在继续。

《洛克波特杂志》的记者Connor Hoffman参加了洛克波特学区每一次的学校董事会会议，并多次申请相关信息和数据公开，比如，一份未公开信息显示了技术的准确率问题，黑人女性被系统误识别的可能性是白人男性的16倍。

持续不断的报道引发了全国性媒体的关注，比如《纽约时报》，以及一部MTV新闻纪录片。

如果没有社区居民的持续行动，没有本地新闻和全国性新闻机构的持续关注，一个学校采用人脸识别技术、教育部门未能进行有效监管等问题都会被忽视。

然而，争议声中，洛克波特还是于2020年1月2日悄然启用了人脸识别系统，家长和学生未得到事先通知，也没有机会表达反对意见。该区为何不顾反对匆忙上线该系统，目前仍不清楚。

尽管遭遇挫折，但社区行动仍有所收获。

2020年，立法会因新冠疫情而中断，但两院都对该法案进行了修订，将“暂停令”延长至2022年7月，或直到教育专员在调查论证后对某些机构进行明确授权（以两者中较晚的时间为准），在此之前，禁止任何公立学校使用生物特征识别技术。

该法案得到了全州乃至全美的广泛支持，包括美国教师联合会（United Federation of Teachers）、美国教师联盟（American Federation of Teachers）纽约市分会等。7月20日那一周，该法案在议会和参议院获得通过，正等待州长签署成为正式法律。

2020年2月，纽约公民自由联盟在洛克波特市学区主持了一场会议，近50名家长和社区居民出席了会议。对许多人而言，这是两年多以来，他们第一次和校方坐在同一个房间里面对面讨论。

社区行动的价值

洛克波特的社区行动表明，持续的公众监督可以弥足官僚主义的失效，带来必要的改革。

最初，校方采购并使用人脸识别系统，通过常规形式获得正当性（编者注：如“走过场式”的公众意见征询会），但它存在明显缺陷。虽然校方对校园安全的考虑是合理的，但需要对技术的具体使用方式进行监督。

家长们把话题从抽象地争论“生物识别监控系统是否有必要”，转移到更具体的问题，它会对学生造成哪些具体伤害。

今年，在洛克波特的学校董事会换届选举中，许多家长受到了鼓舞，参与竞选董事会的多个空缺席位。今年的选民投票率是该地区近五年平均投票率的四倍。

眼下，洛克波特和纽约州的争论和行动仍在继续，但这场社区行动让人们看到了那些受到负面影响的群体？对其赋权，带来真正的变革，这很重要。

（作者Stefanie Coyle来自“纽约公民自由联盟”， Rashida Richardson为纽约大学AI Now研究中心研究员。本系列经纽约大学AI Now研究中心授权翻译发布，更多内容可阅读官网的报告全文。）

制图：白浪