谈到咖啡机都坏了！欧盟艰难谈判达成《人工智能法案》，如何监管？

·最大的通用人工智能系统，包括为聊天机器人ChatGPT提供支持的GPT将面临新的透明度要求。除因国家安全豁免外，警方和政府使用面部识别软件将受到限制。违反规定的公司可能面临高达全球销售额7%的罚款。

·在美国国会没有采取任何有意义的行动的情况下，欧盟的法律将为西方世界随后的监管定下基调。但其效果仍然存疑，执行情况尚不明朗。

经过漫长而艰难的谈判后，欧盟政策制定者于当地时间12月8日就《人工智能法案》达成初步协议，该法案是全球首次尝试以全面的、基于伦理的方式监管这项快速发展的技术。

《人工智能法案》为寻求利用人工智能潜在好处的国家设立了新的全球基准，同时努力防范其可能存在的风险，例如自动化运作、在网上传播错误信息和危及国家安全。该法案仍需经过几个立法步骤才能获得最终批准，但目前达成的协议意味着其关键轮廓已经确定。

最大的通用人工智能系统，包括为聊天机器人ChatGPT提供支持的GPT将面临新的透明度要求。除因国家安全豁免外，警方和政府使用面部识别软件将受到限制。违反规定的公司可能面临高达全球销售额7%的罚款，可达3500万欧元（3770万美元）。

尽管该法案被誉为监管方面的突破，但效果如何仍然存疑。其中的许多要求预计在12至24个月内不会生效，这对于人工智能的发展来说是一个相当长的时间。

负责谈判的欧盟内部市场专员蒂埃里·布雷顿在X上发帖，庆祝协议达成。

目前唯一达到阈值的模型是GPT-4

协议历时3天谈判，包括当地时间12月6日下午开始并持续到7日的22小时会议。据彭博社报道，谈判代表们时不时地打瞌睡，自助咖啡机运转得太过频繁，以致于出现了故障。8日，谈判代表进行了又一轮激烈的讨价还价，终于在午夜之前宣布达成了协议。

最终协议并未立即公开，因为预计谈判将继续完成技术细节，可能会延迟最终的通过。欧洲议会和欧洲理事会将举行投票，欧洲理事会由来自欧盟27个国家的代表组成。

根据彭博社看到的一份欧盟文件，通用人工智能系统的所有开发者都必须满足基本的透明度要求，除非它们是免费和开源的。这些要求包括：制定可接受的使用政策；提供有关如何训练模型的最新信息；报告用于训练模型的数据的详细摘要；制定尊重版权法的政策。

文件称，被视为构成“系统性风险”的模型将受到额外规则的约束。欧盟将根据用于训练模型的算力来确定其风险等级。

专家称，目前唯一已达到构成“系统性风险”阈值的模型是OpenAI的GPT-4。欧盟执行机构可以根据数据集大小、是否在欧盟拥有至少10000名注册商业用户或注册最终用户数量以及其他指标来指定哪些模型构成“系统性风险”。

这些功能强大的模型应签署行为准则，同时欧盟委员会将制定更协调一致和长期的控制措施。不签署行为准则的开发者必须向委员会证明他们遵守《人工智能法案》。开源模型的豁免不适用于被认为构成“系统性风险”的模型。

这些模型还必须：报告其能源消耗；在内部或外部执行红队或对抗性测试；评估和减轻可能的系统性风险，并报告任何事件；确保使用足够的网络安全控制措施；报告用于微调模型的信息及其系统架构；如果欧盟制定了更节能的标准，须遵守这些标准。

令许多人惊讶的是，最具争议性的谈判并非围绕生成式人工智能，而是实时扫描和识别人脸的工具。该议题在欧盟引发了一场长期的、情绪化的争论。去年春天，欧洲议会投票决定全面禁止这些工具，而欧盟国家一直在推动国家安全和执法方面的豁免。最终，双方同意限制该技术在设有更多护栏的公共场所的使用。方案将明确规定执法部门如何使用人工智能监控摄像头，如何将其部署在关键基础设施中。

法国和德国担心影响本国AI企业竞争

欧洲一直是人工智能监管最领先的地区之一，早在2018年就已经开始着手制定未来的人工智能法案。近年来，欧盟领导人试图将科技监管提升到新的水平，以类似于医疗保健或银行业的监管。欧盟已经颁布了与数据隐私、竞争和内容审核相关的影响深远的法律。

《人工智能法案》初稿于2021年公布，最初的版本没有提及通用人工智能。但去年11月底面世的ChatGPT展示了人工智能的先进能力，引起全球轰动，使得监管问题变得紧迫起来。

中国政府已出台《生成式人工智能服务管理暂行办法》，对数据使用和推荐算法施加了一些限制。在美国，拜登政府最近发布了一项行政命令，部分重点关注人工智能对国家安全的影响。美国一些城市和州已通过立法，限制人工智能在某些领域的使用，例如警方调查和招聘。一些监管机构正在利用现有法律来监管人工智能，美国国会议员正在探索立法。英国、日本等其他国家采取了更加倾向不干涉的做法。

在美国国会没有采取任何有意义的行动的情况下，欧盟的法律将为西方世界随后的监管定下基调。“欧洲已将自己定位为先锋，了解其作为全球标准制定者角色的重要性。”负责组织谈判的欧盟内部市场专员蒂埃里·布雷顿（Thierry Breton）在一份声明中表示。

新法案将受到全球密切关注，不仅会影响OpenAI、谷歌、Meta和微软等主要人工智能开发企业，还将影响其他预计将在教育、医疗保健和银行等领域使用该技术的企业。各国政府也越来越多地转向人工智能，运用在刑事司法和公共利益分配领域。

但在欧盟内部，法国和德国曾表示担心对通用人工智能模型实施过多监管，可能淘汰法国的Mistral AI或德国的Aleph Alpha等公司。欧盟努力在保护本地区人工智能初创企业的愿望与潜在的社会风险之间取得平衡，这是谈判的一个关键症结。

法国数字部长让-诺埃尔·巴罗（Jean-Noel Barrot）表示，法国政府将在未来几周内审查这一妥协方案，以确保“保留欧洲开发自己的人工智能技术的能力”。西班牙负责数字化和人工智能的国务秘书卡梅·阿蒂加斯（Carme Artigas）指出，根据协议，Mistral AI不需要满足对通用人工智能的控制，因为该公司仍处于研发阶段。

法案的执行情况仍不明朗，其涉及27个国家的监管机构，并要求在政府预算紧张的情况下聘请新的专家。当企业测试新规则时，可能会面临法律挑战。以前的欧盟立法，包括具有里程碑意义的《通用数据保护条例》因执法不均而受到批评。

爱尔兰公民自由委员会高级研究员克里斯·施里沙克（Kris Shrishak）向媒体表示：“欧盟的监管能力受到质疑。”“如果没有强有力的执行，这项协议就没有任何意义。”