欧洲议会：禁止警方在公共场所进行自动面部识别

当地时间10月6日，欧盟以377：248的投票结果通过一项在警察和司法部门使用人工智能系统的决议——禁止警方在公共场所使用面部识别技术，并对其使用AI进行预测性警务活动实施严格限制措施。

具体来说，欧盟的检察官不应允许从远处对公共空间中的人进行生物识别，例如通过带有自动面部识别和其他生物识别程序的视频监控。

欧洲议会在解释该决议时表示，执法部门目前使用人工智能会带来各种风险，包括决策不透明、歧视、隐私侵犯、个人数据保护面临的挑战、人类尊严以及言论和信息自由。

“这些潜在风险在执法和刑事司法领域加剧，因为它们可能影响无罪推定、个人自由和安全以及有效补救和公平审判的基本权利，”欧洲议会表示。

除了呼吁禁止用于执法目的的面部识别外，该决议还呼吁永久禁止执法使用其他人类特征的自动分析，例如步态、指纹、DNA、语音以及其他生物识别和行为特征。

根据该决议，基于人工智能的身份识别系统已经在更大程度上对少数民族、LGBTI人士、老年人和妇女进行了误认，这在执法和司法部门尤其令人担忧。议会的决议呼吁禁止人工智能协助司法决策——另一个极具争议的领域，该领域已经应用了自动化，而这可能会巩固和扩大刑事司法系统中的系统性偏见。

欧洲议会议员同意，人类操作员必须始终做出最终决定，并表示由人工智能驱动的系统监控的对象必须能够获得补救。他们还表示，为了确保在使用基于人工智能的识别系统时维护基本权利，算法应该是透明的、可追溯的并有充分的记录。他们呼吁公共当局尽可能使用开源软件，以提高透明度。

欧洲议会议还针对一项有争议的欧盟资助的研究项目——基于分析面部表情的“智能”测谎仪——iBorderCtrl项目，认为其应该停止。

此外，决议还希望禁止试图根据公民的行为或个性，对公民的信用进行评分的社会评分系统。欧洲议会还明确表达了对Clearview AI等面部识别服务的担忧，该服务拥有超过30亿张从社交网络和互联网其他部分收集到的图片的数据库。

欧洲议会成员Petar Vitanov在决议通过后的声明中表示：“人类的基本权利是无条件的。我们有史以来第一次呼吁暂停部署用于执法的面部识别系统，因为该技术已被证明是无效的，并且经常导致歧视性结果。这份报告对所有欧洲公民来说都是一个巨大的胜利。”

早在今年4月，欧盟就曾提出监管人工智能技术高风险使用的立法草案——其中包括禁止社会评分和原则上禁止在公共场合使用远程生物识别监控。

根据该法案，人工智能应用场景分为“低、有限、高、不可接受”四个风险等级，等级越高的应用场景受到的限制越严格。对于人脸识别等所有远距离生物识别系统都被认定为高风险，并禁止执法部门在公共场合使用这一技术，除非发生儿童失踪、恐怖袭击、甄别犯罪分子等情况。如果有这样的情况，也需得到司法部门授权。 

聊天机器人等应用属于有限风险。这些应用需要让用户知晓自己在与机器互动，并有权决定是否继续或退出该进程。

基于人工智能的电子游戏、垃圾邮件识别属于低风险，则不做约束。