防范“碟中谍”式人脸识别？上海这家人工智能质检中心“一站式”测评

原创 上海科技 上海科技

一张憨态可掬的熊猫图片，加入一些特殊噪声，在人眼看来还是这只“熊猫本猫”，却被人工智能识别为“长臂猿”；一个表示“停止”的交通标志，加入几个黑白小方块后，则被人工智能识别为可通行的“绿灯”。

“这个电影《碟中谍》中的情节，就是我们质检中心提供的检测服务项目之一。”上海计算机软件技术开发中心主任蔡立志告诉上海科技。

《碟中谍4》中有这样一个令观众叹为观止的场景：在人山人海的火车站中，特工借助可人脸识别的眼镜，快速锁定隐匿于人流中的间谍；与美女迎面相逢时，特工的手机发出警报提示音，警报显示她为致命杀手......如今，它不再是电影中的科幻特技，而是人脸识别技术的真实场景应用。

今年6月，由上海科学院直属单位上海计算机软件技术开发中心筹建的上海市生成式人工智能质量检验检测中心（以下简称质检中心）挂牌，成为上海首家批筹的人工智能领域的质检中心。

据悉，该中心由上海计算机软件技术开发中心筹建，上海市人工智能行业协会推荐指导，旨在面向生成式人工智能及其涉及的计算机视觉、自然语言处理、AI内容生成等领域，打造人工智能测评第三方服务新模式，聚焦生成式人工智能系统的逻辑推理能力、生成内容语义和谐性、功能有效性、性能、安全隐私风险等方面，开展系统检测、风险评估、内容鉴别等专业服务，为人工智能产业的健康发展保驾护航。

据介绍，质检中心重点聚焦生成式人工智能、工业智能质检、智慧医疗、人脸识别、自动驾驶领域的人工智能检验检测。

“

“传统检测的首要任务是发现不合格（的产品），但在人工智能时代，我们的生成式人工智能质量检验检测中心不但要守底线，而且要引导产业健康发展。”谈到新型质检中心的特点时，上海计算机软件技术开发中心副主任宋俊典强调。

”

近年来，随着生成式人工智能技术的快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益（换脸侵害明星肖像、合成语音进行诈骗等）、数据安全和偏见歧视等问题。

本月，国家网信办等国家七部委联合发文《生成式人工智能服务管理暂行办法》，明确了AIGC服务提供者的责任，包括信息源可信责任、生成内容合法合规责任、申报安全评估及算法备案责任。管理办法的落地亟需专业的第三方机构提供人工智能质量检验检测服务。

上海市生成式人工智能质量检验检测中心

自动驾驶鲁棒性检测

蔡立志告诉记者，近年来，在上海科学院的整体部署下，上海软件中心积极布局并开展了人工智能应用、人工智能治理、人工智能测评等技术研究与第三方技术服务。

据悉，上海软件中心开展人工智能应用的评测前沿技术研究，包括人工智能系统测试方法论、计算机视觉系统与自然语言处理系统的测评指标体系、基于蜕变测试的测试数据生成、对抗样本生成及鲁棒性评估、可解释性、公平性、安全性等。近三年来，上海软件中心为上海乃至长三角地区人工智能企业与应用方提供专业的第三方测评服务数年均超过500项。

“上海科技”出品，转载请注明来源

企业及专家观点不代表官方立场

部分配图来源于网络

作者：蓝悦

原标题：《防范“碟中谍”式人脸识别？上海这家人工智能质检中心“一站式”测评》

阅读原文