国家工信安全中心发布首批人脸识别系统“国检”测评报告

作为人工智能领域最具商业价值的技术方向，人脸识别在安防、金融、交通、教育等关键领域实现了广泛应用，但在技术层和应用层仍面临安全挑战，漏洞攻击、数据泄漏、技术滥用等问题，屡屡成为社会焦点。

1月18日，首个面向人脸识别系统安全性的国家级检测与评估结果在国家工业信息安全发展研究中心主办的人工智能融合发展与安全应用研讨会上发布，腾讯云、京东科技、商汤科技、旷视科技、海康威视、的卢深视成为首批通过测评的企业，国家工信发展研究中心副主任何小龙现场为企业颁发证书。

这项检测由国家语音及图像识别产品质量检验检测中心（以下简称“AI国检中心”）完成。作为人工智能领域的国家级第三方检验检测机构，AI国检中心就人脸识别系统安全启动测评工作，对市场主流人脸识别系统开展测试评估，规范人脸识别产业健康发展。

据悉，这是依据《信息安全技术人脸比对模型安全技术规范》《信息技术生物特征识别人脸识别系统技术要求》等现行和在研的有关国家和行业标准，通过呈现攻击、注入攻击等技术手段对对人脸识别产品和服务进行全方面的测试，有效评估人脸识别安全风险。

同时，为进一步推进国检中心建设高质量开展，优化资源配置，强化人工智能领域布局，国检中心成立专家委员会，邀请语音、图像、数据治理、安全等人工智能重点领域的多位专家学者、企业家担任中心的思想库和智囊团，未来持续推进技术研发、标准制定、政策研究等相关工作，促进人工智能产业高质量发展。

国家工信安全中心人工智能所副所长 刘永东

国家工信安全中心人工智能所副所长刘永东介绍道，人脸识别系统安全风险主要涵盖算法安全、数据安全和应用软件安全等维度。本次测评对人脸识别系统的安全风险提供明确的测试方法，包括算法层面的活体检测+假体攻击、对抗样本攻击等呈现和注入攻击检测。

目前，对人脸识别技术的规范和管理早已成为全球关注的重点。美国、欧盟相继推出《人脸识别和生物特征识别技术禁令法案》《通用数据保护条例》等监管政策，同时主导多项人脸识别国际标准。在全球共识下，我国重点提出发展与安全并重的理念，多措并举推进人脸安全应用，逐步牵头引领部分标准制订，在公安和金融等领域先行构建规范。本次测评工作将为进一步完善人脸识别标准体系、推动产业规范发展提供有力支撑，本次通过测评的企业也将参与后续的标准编制。

本次测评工作也存在一些改善项。国家工信安全中心人工智能所图像检测室负责人朱倩倩表示，人脸识别系统的安全评估，不应用一个尺度来衡量，比如门禁闸机、手机登录、金融支付等身份认证场景对安全性要求不同，从技术角度，安全性判定规则也应加以区分，以及不同测试样本间的测试结果也存在差异。她建议，进一步打造更细化的评测体系，包括按照不同场景、不同功能、不同应用阶段划分安全等级，对测试样本分级分类，保证在同一基准上衡量安全能力。

国家工信安全中心人工智能所图像检测室负责人  朱倩倩

同时，由于人脸识别技术采用大数据训练的方法实现，目前安全测试项未全部涵盖，只通过呈现攻击的方式做检测，样本量有限，导致不能完全覆盖各种不安全情况。因此，检测手段与技术水平也需加快跟进。朱倩倩表示，加快研发自动化测试工具，研究测试样本差异，为企业提供高水准测试服务，帮助企业精准定位安全问题，提出改进及优化建议。

保障人工智能安全应用是一项系统工程，为人脸识别技术加装“安全锁”，除了开展测评与研制标准之外，还须从政策监管、技术攻关、合规建设等方面综合发力，加强人脸识别系统的安全管控。

瑞莱智慧高级副总裁 朱萌

从加强技术应对的角度，瑞莱智慧高级副总裁朱萌提出兼顾“主动”和“被动”的技术防御机制，被动防御是为人脸应用部署静态的安全能力，比如人脸AI防火墙，对外部访问、输入数据、行为决策等进行检测，提升人脸系统抵御攻击的能力。主动防御则是引入和强化安全团队力量，比如打造攻防演练靶场，帮助企业构建自适应、自生长的安全能力。

最后，人脸识别具有高度的社会属性，应在法治框架下开展协同治理。如何贯彻落实法规政策的要求，朱萌表示，技术厂商可联手律师事务所，针对数字经济时代新场景下监管机构的合规要求，对内健全技术合规体系建设，对外输出应用合规咨询服务，比如培育数据安全咨询、数据保护设计与数据安全管理等服务，从技术流程和业务流程的角度提供完整的安全保障解决方案。