汇分享 | 2019世界人工智能大会治理论坛：AI治理的趋势与实践

主持：石谦，上海市科学学研究所所长

对话嘉宾：何积丰，中国科学院院士，华东师范大学教授；洪小文，微软全球资深副总裁，微软亚太研发集团主席，微软亚洲研究院院长；Jaan Tallinn，欧盟人工智能专家组成员，Skype创始工程师，美国未来生命研究所联合创始人，剑桥大学生存风险研究中心联合创始人；吴明辉，明略科技集团创始人、董事长兼首席执行官；Allan Dafoe，牛津大学人工智能治理研究中心主任；林晖，流利说联合创始人、首席科学家。

◆ ◆ ◆ ◆ ◆

石谦：人工智能正在改变人类的生活、生产方式，同时也在法律伦理等方面带来了新挑战。习近平主席致2018年世界人工智能大会的贺信中指出，“把握好人工智能发展机遇，需要处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，需要各国深化合作，共同探讨。中国愿在人工智能领域与各国共推发展，共护安全、共享成果”。所以今天的话题既是一个重要话题，也是一个热门话题。今天这次高端对话的主题是“人工智能治理的趋势与实践”。有请6位专家到台上来跟大家作分享、对话、交流。

何积丰院士、洪小文副总裁、Jaan Tallinn、吴明辉先生、Allan Dafoe、林晖先生。有请。

石谦：今天这6位专家既有来自学术研究界的大咖，也有产业界一线实践的企业家，还有专注人工智能治理研究的专家。可以预想接下来将会展开一场精彩的思想碰撞。大家都知道人工智能的技术发展非常得迅猛，相应治理的工作也必须快速地跟进。今天上午我参加了大会的开幕式，在所有的专家、领导的致词、报告中，都提到了“治理”的重要性。所以，人工智能的治理也是需要快速发展、快速迭代的领域。首先提出第一个议题，你们认为人工智能治理的关键命题是什么？首先从何院士这边开始跟大家作一个交流。

何积丰：人工智能治理问题，范围比较广，一句话说不清什么东西该治理，什么东西不在治理范围内。个人觉得有这样几个方面，大家都很关注。

第一，道德伦理。现在不少人工智能技术是依赖于大数据，当然它算法很好，帮助挖掘了很多过去你看不到的关系，但在某种情况下，数据管理不到位，很容易被破坏。偷拍照片是小意思，但是如果掌握了很多数据，拿它卖钱，就可能会触碰到法律底线。现在智能服务很多，大家会提到公平，这个概念在社会里面意指我们的社会应该为绝大部分人提供服务。可是因为资源限制，有的人没得到服务。在互联网时代，我们说要解决城市跟农村的数字鸿沟问题。城市享受比较多的数字资源，而农村享受不到。在以后的人工智能发展过程中，使全体老百姓都能享受到人工智能带来的好处，这个问题应该需要仔细讨论。

第二，应用技术分析的问题。在科学发展中，我们很关心技术的工作原理，它干不了什么，哪里又比较危险。前几年不少实践证明，人工智能技术并不是在每个地方都是很安全的。这当然跟技术局限性有关。算法设计者关注算法质量还是有一定道理的。一般的服务稍微差一点，可以把电脑关了。但是在社会服务普遍的情况下，跟人家打交道，走在马路上都用到很多人工智能服务，该闯祸马上就发生了，不是关电脑就能解决的。人工智能是以人为本的，如果这个工作没做好，其他工作是没办法做好的。我就这些看法，不对的话请大家批评指正。

石谦：公平性和以人为本。下面听洪小文副总说说。

洪小文：技术上来讲，一把刀好事坏事都可以做。话题是人工智能，但是人工智能涵盖很多方面，比如数据规范，比如内线交易。在股票市场上，假如你知道了某些信息，有些事情就不能做。所以，对数据的管理实际上很直接。大家在谈所谓的人工智能、伦理也好、道德也好、管理也好，重要的是对整个高科技业，包括数据、应用的管理。

与管理相关的，一个是法律层面，什么是犯法？当然还有社会上大家所认可的道德。比如假新闻问题，全世界每个地方都有，有的地方叫谣言。很多时候这个界限很模糊，它不一定犯法，但是大家知道你这样做，或者某个公司数据被某些人用了，做了很特殊的广告，影响政治选举的结果，虽然不见得触犯现有法律，可是他可能破坏了社会认同的道德，或者大家所接受的常态。很高兴的是，几年前微软是少数几个首先提出人工智能管理的公司，大家需要谈，到今天已经变成常态，越谈越有好的结果。立法需要经过很长的过程，有一个专家说过，为了安全一定要绑安全带这条规定，弄了将近一百年才立法，所以立法肯定需要经过一个时间。在中国或者在其他地方，立法立得太早、太快，可能会让一些创新变慢。所以立法过程需要一些时间。道德这件事情通常是指大家所接受的规范，真正到法律层次将是非常严重的程度。所以，这些东西真的需要由各行各业的人讨论，包括做高科技的法律专家、社会学家、人类学家、哲学家，更不必说政府，以及公共关系治理者。虽然过程需要时间，但是希望在讨论过程中有些东西能沉淀下来，这将是全世界可以合作的命题。欧盟也好，美国也好，都会讨论这个问题，不断形成社会、世界的规范。

石谦：下面请Jaan Tallinn给我们交流一下。

Jaan Tallinn：非常感谢，非常荣幸能够来到这里。我参加的委员会是理性主义委员会，他们有一系列的技术帮助改善我们的思考，一个叫做“pull of word”，它涉及到如何扩大对这个词语的理解。有的时候我们在讨论人工智能的时候，我们把人工智能和机器等同起来，用机器替代了人工智能。

人工智能其中一个非常显著的问题是，人工智能和其他技术是不同的，因为它更普遍。当我们在下放决策权给机器的时候，会涉及到很多人类领域，这个不是线性的关系。我们要确定它涉及到哪些相关的领域。

第二个非常显著的问题是，我们必须非常地小心，可以将哪些决策权下放给机器。这样就会出现一种危险，可能会在各个国家之间展开一场将一些决策权下放给机器的竞赛，但是也会保留一些国家政府的决策权。因为如果我们把一些权利下放给机器，机器会自动地思考作出自己的选择。如果我们将这个决策权下放给机器人的话，我认为不是一个很明智的选择。

大家如果关注世界各地，特别是在上海，我们会发现所有环境都是由人类的决策所决定的，而人类和其他的种群相比，我们是高一等种群，因为我们是更好的决策者，我们可以作出自己的决策。所以，我们不应该有这样的竞赛，把我们的决策权下放给机器。

石谦：刚才您提出了有决策权的机器，决策权给机器还是人是一个很好的问题。吴总您有什么想法？

吴明辉：关于AI的治理或者更底层的不仅仅是法律和道德的问题，法律和道德再底层就是所谓的伦理。人类社会有很多大家约定俗成的伦理规则，但是未来人工智能不是一个普通的技术，它是一个非常特别的技术，我们可能会思考把人工智能当成一个人，里面有好有坏。人和AI组成了一个新社会的过程中，这个新的社会它的伦理应该是什么样子的？明略公司的愿景叫创造人机同行，美好世界。未来的美好世界究竟是什么样的，这需要我们提前需要对未来有一个充分的思考。基于那个时间点，人和人之间的关系、人和AI的关系，再去构建一个未来的伦理，基于这个伦理基础再去讨论法律等其他规则，这是很重要的命题。

今天我们的机器人、AI进入到人类社会里，不仅仅是破坏人类的工作等等，我也看到了很多好地方。上海现在开始推行酒店里面不送6小件，最后还要拨电话到前台把他们叫过来送一遍。我问了一下前台服务员，这造成了很大的工作量，但是另外一方面，我们投资的一家叫云集科技的企业，他们在上海的酒店机器人已经很好地进入到工作岗位上了。这两天我看了一下它在酒店的送货量的数据报表，7月份第一个周的运货量是6月份最后一个周的两倍。它很好地减轻了人类的工作负担，对人类社会朝着可持续发展以及环保也是很好的推动。机器人进入到人类社会可以起到很好的作用，首先对未来人机同行的世界要有一个很好的构想。

Allan Dafoe：要把人工智能想象成一个技术，一个广泛的技术，包括电力、打印机等等，这些都是泛泛而谈的技术。这些技术可以帮助我们改变很多经济、军事投入的基本面，如果把人工智能看作一个泛泛而谈的技术的话，我们也要必须意识到有很多挑战是新的。比如公平，在应对这些挑战的时候，我们要有新的方法，因为这些挑战会影响社会的方方面面。人工智能技术也是人类社会治理方面的非常重要的挑战，因为它需要一种全新的治理架构。

人工智能有非常多的挑战，但是我们必须要把不同的挑战分开来看。你可以在国内应对的挑战和全球共同协同才能应对的挑战，这两者要区分开来。也就是说，有些人工智能的挑战需要全球各国进行合作的。比如在算法当中加入一些公平性，这在国内就可以做到，这种挑战国内就可以解决。国内在加入了更多的公平之后，其他国家也能从中受益，就不需要全球合作来实现。但是有些挑战需要全球合作，而且这些挑战是非常重要而严峻的，这些挑战也是由于在经济和军事上，国家之间竞争加强了，或者变得更加严峻了。正因为此，我们更需要国家间的协同合作，包括隐私。比如欧盟，它对于个人隐私的保护有非常强劲的关切，但是它没有办法很好地管控它。虽然欧盟对此非常关切，但是它没有办法像美国一样，在个人隐私方面给予这么多的支持，因为很多国家在这方面是有竞争关系的。

还有国家之间的平等，数字化的平等方面也是有问题的，比如税制。每个国家都是不一样的，虽然有些政策可以在国内的环境当中就做到，但是因为资本外流或者国家之间经济的竞争问题，一个国家是没有办法单打独斗做到这点的。比如Facebook，人们认为它通过自己的垄断地位来促使它在个人隐私侵犯方面获得更好的利益。比如YouTube，它最近也被认为加强了政治的极端化，它在数字化方面的竞争力被利用了。如果说人工智能被用作强化核武器使用的话，比如加强核武器的韧劲和适用范围，这对很多国家来说是非常危险的，这也是很大的挑战。

安全是非常重要的，AI的治理是国家内部可以做到的，但是我们必须要知道的一点是，一个国家是否可以和其他国家更好地进行协同和对话，让其他国家也知道它们需要什么。

林晖：国家新一代人工智能治理委员会提出了关于人工智能治理的八条原则，这八条对于人工智能需要治理的话题已经有了全面的覆盖了，比如隐私问题、安全问题等等。我想强调一下，或者从流利说角度来讲，我们会特别关注八条当中的两条，一个是公平公正，一个是包容共享。流利说是人工智能加教育的公司，2012年成立，2013年发布的第一个产品就使用人工智能了。那时候我们称之为机器学习，我们通过机器学习的方式自动给用户的口语评分，帮他们解决哑巴英语问题。2016年我们发布了第一个人工智能英语老师，在去年我们成功在纽交所上市，成为人工智能加教育的第一股。

作为一家人工智能加教育的公司，我们的任务是想赋能每个人实现它的最大潜能，这就联系到人工智能那两条原则，这是非常契合的，公平公正、包容共享。公平公正，用人工智能促进公平公正，解决一些资源分配不均的问题。包容共享里面特别提到了，人工智能应该帮助各行各业转型升级，缩小区域之间的差距。我觉得在教育这个领域，这样的问题是存在的，这也是我们企业在创立时候的初心，我们希望用人工智能促进这样的公平公正。

今天我们看到的现状是，中国有将近两亿的学生，在编的老师不到千万，这里面非常不均衡，这就是供给和需求的不均衡。更不用说在一些边远的地方，西南西北老师缺编的比例非常高，有些地方超过50%，甚至有些地方基本没有老师。像这样一些资源分配不均这是在之前存在的。人工智能治理需要做的事情是，不要因为人工智能技术的出现而加大了这样一些差距，而应该更多地关注如果利用人工智能技术缩小这样的差距，促进更公平、更公正的资源分配，让边远的地方，让资源原来不那么富有的地方的孩子们也获得更公平的教育机会。这是流利说作为一家教育类的企业非常关注的人工智能治理方面的问题。

石谦：谢谢林先生，到这又回到何院士提到的公平性的问题上。第一轮中各个专家发表了一些对人工智能重要命题的分析和认知，他们在介绍中也分享了一些相应的方案、思路。大家来自于不同的国家，有科学家，也有企业家，还有治理专家。虽然从不同的视角入手，但是大家都提出人工智能这个问题，那应该有更多全球化的意义。下面跟大家一起讨论一下，在不同国家、不同的文化背景条件下，我们如何共同地在人工智能治理方面达成共识，尤其是需要达成共识的地方，大家有什么建议？请每个专家用一两句话来回答这个问题。

何积丰：刚才谈到人工智能应该以人为本，“以人为本”这个思想建议全球共享人工智能赋能，给每个人带来好处，这应该是大家努力争取做的。

洪小文：大家谈这个问题时，每个人都觉得道德、伦理都很好。今天产生的问题是，一个公司做了一个产品或服务以后，公司的目的是要赚钱的，赚钱如何跟治理做一个平衡？当然法律是一个力量，还有社会约束等等力量，还是有很多地方可以往前走。像欧盟提出的GDPR，有很多基本的东西，大家接受原则以后，但是真正推出这个的地区还是非常少。基本概念是，假如今天在用一个产品和服务，哪一天不用了，必须在一段时间内，要找得到这个公司。有时候你用一个APP，你要说我不用了，把我的数据都清光，可你都不知道跟谁讲。我个人预测像这样的东西其实应该会很快推广，这个东西不太可能做成本地规则。虽然是欧盟的GDPR，但是有很多欧盟的居民住在中国，所以最后这个东西一定要变成全球的才会有意义。

Jaan Tallinn：非常感谢，有一个人工智能教育和价值的倡导者说，大家都喜欢右脚，但是我们不需要宣扬说为什么喜欢右脚，很多人的价值和信仰是一样的，没有什么理由，不需要对人的基本权利进行讨论。我们想要共创一个更好的未来我们要做什么？首先找到一些共同点，这些共同点是我们达成共识的，但是可能是受到威胁的。比如环境，我2008年来到上海，我发现上海的环境得到了非常大的整治和改善，这反映出了人的决策发挥了很好的作用，如果把治理环境的决策进行转嫁的话，我们就必须要在问题上达成非常重要的共识，比如全球变暖，这方面中国也作出非常好的进步和决策。所以，这些领域达成共识，首先要把这些领域找出来，在全球范围内达成共识。

吴明辉：今天上午明略被授予国家新一代人工智能创新平台，尤其在营销智能领域。营销背后有很多治理问题，比如千人千面推荐的公平性、个人数据。以前我也曾经担任过中国广告协会的用户隐私保护的小组负责人。首先在这个行业里面享受到利益的企业，大家首先要站出来，形成开放创新的平台。大家在这个行业里面找到一些比较好的实践，再把这些实践尽可能推广到更广泛的范围里。比如在中国，甚至再找到海外专家，大家一起来去探讨，最后要一起合作制定这些规则，产学研一起研究，最终它应该会以一种法律的形式，进入到立法的环节里。这个过程是不可避免的，而且一定是一开始由很多真正在实战的企业家、科学家一起工作、倡导。这次国家开放创意平台本身也具有战略意义在其中。

石谦：谢谢吴总，行业自律和行业自觉非常重要。

Allan Dafoe：首先我想要提一点，如果说要讨论人工智能治理的话，一个积极的对话是非常重要的。我们在研发人工智能应用的时候，每个企业和组织都必须要想一想，它所需要遵从的道德准则是什么，必须想想他们是否在制作和生产的过程中是遵守人工智能的道德准则的，这些都是需要拿出来讨论的。必须要有一个积极的讨论机制，而且还是要有一些经验主义的讨论，来看看你们这些人工智能的应用和技术是否是很好地进行平衡和取舍的。

第二，在推动人工智能技术的安全的时候，我们也必须做一些很好的研究。中国在这方面也是一个非常领先的国家，需要各个国家发展出一个共识，让AI变成安全的，并且符合各国的利益，从而能够一起来发展这个技术。

石谦：我们今天也是讨论共识的过程，虽然对话时间有限，但是我觉得后面还会有很多场景一起再展开。最后请流利说帮我们流利地收一个尾。

林晖：在全球这种治理合作上无非从两个角度切入，一个是立法人文相关的，另外从技术层面，我们知道科学没有国界、边界。在人工智能治理方面，其实技术方面的全球合作也是非常重要的，比如在人工智能的可解释性，我们更加理解人工智能怎么工作的，更加可控。另外在数据隐私上，2013年我们的产品已经能够在设备上就完成人工智能算法，不需要把语音送到云端，这对于用户的隐私保护非常好，通过技术方式保护用户隐私。对数据安全的保护也是一个全球可以更好合作，从而不断提升人工智能的价值、安全性的方面，谢谢。

石谦：林总总是能把问题回到本源，技术的问题还需要技术来参与，一起来治理。非常感谢6位专家把大会的论坛主题，通过不同的角度进行了展开。大家再次以热烈掌声对6位专家给我们的启发和思考表达感谢，谢谢。

◆ ◆ ◆ ◆ ◆

本文由三思派根据现场录音整理，未经发言人审阅。文章观点不代表主办机构立场。

人工智能治理论坛

◆ ◆ ◆

长按识别二维码

关注“上海科技”