谷歌发布人工智能应用原则：不会开发武器，但会和军队合作

美国当地时间6月7日，谷歌发布针对AI（人工智能）的新原则，明确不会允许将其人工智能产品用于军事武器，或不合理的监控工作，试图平衡“不作恶”的口号和技术的广泛应用之间的矛盾。

根据路透社看到的一封内部电子邮件，谷歌的一个9名员工组成的委员会起草了这份人工智能新原则，由谷歌首席执行官桑达尔·皮查伊在谷歌公开博客中发布。

桑达尔·皮查伊在博文的开头表示，“我们认识到，人工智能如何开发和使用，将会对未来的社会产生重大影响，作为人工智能领域的领导者，我们深感责任感。”

7项原则

谷歌人工智能新原则有7项，主要围绕AI应用程序的目标展开：

一是要对社会有益。

桑达尔·皮查伊发布的这篇博文称，人工智能的进步将对包括医疗保健、安全、能源、运输、制造和娱乐在内的广泛领域产生变革性影响，“考虑AI技术的潜在发展和应用时，我们将考虑广泛的社会、经济因素，并将在我们认为整体的可能收益大大超过可预见风险和缺点的情况下继续。”

此外，博文阐述称，人工智能还增强了理解大量内容含义的能力，“我们将努力使用AI技术来提供高质量和准确的信息，同时继续尊重我们运营所在国家的文化、社会和法律准则。我们将继续深思熟虑，评估何时使我们的技术在非商业的基础上可用。”

二是要避免制造或加强不公正的偏见。

人工智能的算法和数据集可以反映、加强或减少不公正的偏见。“我们认识到，区分不公正和公正的偏见并不总是那么简单，并且在不同的文化和社会中情况又有所不同。我们将努力避免对人们造成不公正的影响，特别是在种族、民族、性别、国籍、收入、性取向和政治或宗教信仰方面。”

三是要建立和测试安全性。

“我们将继续开发和应用强大的安全措施，以避免造成伤害。我们将使我们的人工智能系统保持适当谨慎，并用安全的原则来开发系统。在适当的情况下，我们将在受限环境中测试AI技术，并监控其运作。”

四是要由人类负责。

“我们设计的 AI系统需要能够被解释，我们的AI技术能受到适当的人类指导和控制。”

五是纳入隐私设计原则。

博文阐述称，我们将把我们的隐私原则融入开发和使用我们的AI技术过程中。我们将提供通知和同意的机会，来鼓励具有隐私保护的架构，并对数据的使用提供适当的透明度和控制。

六是坚持科学的高标准。

AI工具具有可能在生物学、化学、医学和环境科学等关键领域开拓科学研究和知识新领域的潜力。“我们将与一系列利益相关者合作，以科学严谨和多学科的方式来加强在人工智能领域的领导力。还将通过发布教育材料、实践机会和研究，使得更多人能够开发有用的人工智能应用。”

七是根据主要用途、技术独创性和规模来评估上述原则的使用。

许多技术都有多种用途，“我们将努力限制可能有害或被滥用的应用程序。当我们开发和应用AI技术时，我们将根据主要用途、技术独创性和规模来合理应用上述原则。”

AI应用不会使用的4点技术

在新公布的7项原则中，桑达尔·皮查伊发布的这篇博文也阐明了在谷歌的AI应用中不会使用的4点技术：

一是不会追求“会导致或可能导致造成整体伤害的技术”，只会在认为收益大大超过风险的情况下进行，并且会纳入适当的安全限制。

二是不会开发用于军事武器或不合理监控的人工智能，不会追求意图造成直接人身伤害的AI应用程序。

三是不会收集使用信息，以实现违反国际规范的监控的技术。

四是不会追求目标违反被广泛接受的国际法与人权原则的技术。

不过，这篇博文也明确，虽然谷歌没有开发用于武器的人工智能，谷歌将继续与政府和军队在许多其他领域开展合作，包括在网络安全、培训、军事招募和搜救等领域寻求政府合同，“这些合作非常重要，我们将积极寻找更多方法来加强和这些组织的关键工作，并保证服务人员和公民的安全。

博文在最后写道，“我们相信上述原则是我们公司和人工智能未来发展的正确基础。这与我们2004年发布的价值观一致。我们明确，我们更看重AI技术的长远发展，即使在短期内需要作出相应权衡。”

此前因与美国防部合作遭到内部批评

需要注意的是，目前还不清楚，上述原则是否会阻止谷歌继续开展Project Maven，该项目向美国国防部提供了用于无人机的成像工具。谷歌发言人此前曾表示，该无人机不是用来发起进攻性攻击的。

谷歌最近因以名为“Project Maven”的合作伙伴的方式向美国国防部提供图像识别技术而受到内部员工的广泛批评。此外，人工智能系统的潜力可以比军事专家更准确地发现无人机，或者通过大量收集在线通信来识别不同政见者，这也引起了学术界伦理学家和谷歌员工的担忧。

据知情人士向《华尔街日报》透露，本月早些时候，谷歌告诉其员工，不会续签“Project Maven”的项目合同，而这一决定又遭致一些认为公司不应该因支持国家安全而被干扰。纽约共和党代表皮特·金（Pete King）在推特上发表消息称，谷歌没有寻求扩大无人机交易“对美国国家安全而言是一个失败”。

一位谷歌内部员工告诉路透社，如果上述原则落实，公司将不会参加去年的无人机项目。“尽管此项工作重点放在非攻击性任务上，但也太过接近武器装备。”

一位知情人士在上周告诉路透社，谷歌计划在明年3年兑现对无人机项目的承诺。对此，超过4600名员工则请求谷歌尽快取消交易，最近几周有至少13名员工辞职，借此表达呼吁。

据《华尔街日报》报道，谷歌目前还正在竞购一份价值数十亿美元的合同，内容是将五角大楼的数据转移到云端。

需要注意的是，谷歌方面承认，技术可能具有意想不到的用途，可能会因此对社会造成危害。因此其表示，将会保留“当我们意识到我们的技术被用于与自身原则不一致的用途时，阻止或停止使用我们技术的权利。”

但据路透社报道，谷歌内部员工对其表示，执行会很困难，因为谷歌无法追踪其工具的使用情况，其中有一些还可以免费下载并用于私人用途。

桑达尔·皮查伊在上述博文中点评公司新原则称，“这些不是理论概念，是具体的标准，将积极主导我们的研究和产品开发，并将影响我们的业务决策。”

对此，《华尔街日报》评论称，这些新原则旨在帮助公司避免在开发可能产生有害副作用的新技术时出现失误。这些新原则也同样是一个窗口，让外界了解开发智能新机器的复杂决策。但是，“虽然这些原则详细阐述了人工智能的许多道德考虑，却没有制定清晰的标准，从而达至能阻止谷歌进行有争议性项目的目的。”

谷歌旗下的YouTube，与Facebook、Twitter一道，在过去一年遭到许多批评，因为其未能阻止俄罗斯利用他们的服务来干预美国大选结果。YouTube今年早些时候表示，正在计划进行修改，为用户提供更多关于推广阴谋理论或国家赞助内容的视频，希望能避免未来视频网站遭到类似的滥用。