李彦宏：不担心人工智能会控制人类，安全是百度的第一天条

5月26日，在2018年中国国际大数据产业博览会上，百度董事长李彦宏发表《为了一个更美好的AI时代》主题演讲，话题围绕对人工智能（AI）的担心展开。李彦宏表示，“我不担心人工智能会控制人类，但并不是没有担心。”

他表示，在今年全国“两会”时自己被问得最多的是无人车什么时候量产。当时他称今年7月份无人车就可以量产，现在已至5月，还剩下一个多月时间，他有期望、有焦虑、有担心，“不是担心这个车量产不了下不了线，我在担心这个车是不是足够的安全。”

对此，李彦宏表示，对于百度而言，安全是自动驾驶最最重要的一个方向，是百度的第一天条，“什么东西都可以错，但是这个东西不能错。一旦错，一旦出事，就有可能使得整个技术的推进停滞一年到两年。更重要的是，人的安全是最最宝贵的，是我们最看重的，我们不能够在这方面容忍错误。”

他在现场展示了一段视频，视频展示的情景是，百度无人车在转弯调头时，旁边跑出来一只小狗，无人车正确在小狗面前停下来，让其过去之后才接着开。

李彦宏对此表示，这其实是一个比较难的东西，无人车在高速公路、封闭公路上快速行驶其实是相对安全的，路况比较简单。而在开放城市道路上，有人，有各种各样预想不到的事情，车能不能很好控制自己，是一个非常难的问题，要解决了这个问题，车才能真正变成无人车，才能够自动驾驶。

李彦宏称，百度不是造车的，而是一个完全开放的平台，“我们的技术通过开放源代码、开放数据，让所有想造无人车的生产厂商能够从中获益。”

他表示，从代码的开放到后来量产，中间又增加了很多新代码，其中接近50%的代码是为了安全而增加，“真的要量产了，真的要下线进入商用，真的要载人了，我们不能让它错，所以大量的经历放在了安全上，要符合车规。”

李彦宏坦言，在两三年前，他无法想象到今年可以看到没有驾驶位、没有方向盘的车能够在一些封闭的场景中使用。他相信，这种状态会越来越好，不仅仅是像百度这样的公司在推进无人车在车层面技术的演进，还有一个很重要的方向，是政府在推动基础设施方面的演进——越来越多地在道路上布置各种各样的传感器，让车可以更低的成本、更高的精确度识别各种各样的障碍物和交通规则。

李彦宏认为，无人车不是某一个公司单方面的努力，而是方方面面的巨大生态，“而它的这种演进，我觉得中国最有希望，因为它在很多很多基础设施的建设上都是在全世界是超前的。”

值得注意的是，李彦宏介绍，百度最近推了一个新的搜索APP，叫做“简单搜索”，一是运用人工智能技术，可用语音调取，也可用摄像头拍照片识别指令。语音调取方面，根据不同的人发出的不同声音，给出相应的搜索结果也是不一样的，例如含有成人模式/标准模式，以及少儿模式，即能够检测出来用户的声音是成年人声音，还是儿童声音。

二是，该搜索APP无广告，在搜索结果中没有任何广告。李彦宏在会上承诺，简单搜索在搜索结果里面永远不放广告。

对于人工智能时代，李彦宏认为有四个需要共同遵循的理念和规则。

第一，人工智能的最高原则是安全可控。“一辆无人车如果被黑客攻击了，它有可能变成一个杀人武器，这是绝对不允许的，我们一定要让它是安全的，是可控的。”

第二，需要认真思考如何能够在新时代让所有企业、所有人能够平等获取AI的技术和能力，而不仅仅是少数大公司的专利；如何能够防止在人工智能时代因为技术的不平等导致人们在生活、工作各个方面变得越来越不平等。

第三，希望通过人工智能、个性化推荐，能教人学习，让人变成更好的人。

第四，因为人工智能，劳动不再成为人们谋生的手段，而是变成人的一种需求，“你想工作，你想去创新，你想去做创造，所以你才去工作，这是AI的终极理想，我们要为人类带来更多自由和可能。”

李彦宏在最后表示，AI的使命不是替代人，而是让技术忠诚于人类，服务于人类，让人类的生活变得更美好。

附：李彦宏出席2018年贵阳数博会演讲实录《为了一个更美好的AI时代》

大家下午好！非常高兴第三次来到贵阳数博会，跟大家交流有关人工智能方面的一些看法。应该说，我觉得每一次来感受都非常深刻，贵阳的数博会影响力一年比一年大，人也一年比一年多，但是对于我来说，每一年其实都没有什么变化，谈的话题都是人工智能。

去年我在这个论坛上讲人工智能其实有很多误解，有人觉得它是仿生学，有人觉得它会威胁到人类的安全，我一直讲，我是一个乐观派，我觉得人工智能不可能威胁到人类的安全。我当时，说请大家不要担心。那今天我想讲什么呢？起的名字叫“为了一个更美好的AI时代”。

名字起得很美好，话题实际上是想谈我对人工智能的担心。我不担心人工智能会控制人类，但是并不是没有担心。那我对人工智能担心什么？

今年“两会”的时候也有很多记者问我各种各样的问题，跟百度有关的问题，但是问得最多的，还是无人车什么时候量产。我当时夸了一个海口，说今年7月份无人车就可以量产，我们与厦门金龙的小巴车，没有方向盘、没有驾驶位的全自动的车很快就会量产了，现在已经5月份了，剩下一个多月时间了，我有期望、有焦虑、有担心，不是担心这个车量产不了下不了线，我在担心这个车是不是足够的安全。

所以，对于我们来说，安全是自动驾驶最最重要的一个方向，它是我们的“天条”。什么东西都可以错，这个东西不能错。一旦错的，一旦出事，就有可能使得整个技术的推进会停滞一年到两年。更重要的是，人的安全是最最宝贵的，是我们最看重的，我们不能够在这方面容忍错误。所以我想给大家看一下我们在自动驾驶的安全方面，前一段时间测试的视频，这个测试是在雄安，百度无人车在转弯调头的时候，路边突然跑出来一只小狗，无人车很正确地在小狗面前停下来，让它过去之后，才再接着开的，我们一起来看一下。

这其实是一个比较难的东西，无人车在高速公路、封闭公路上快速行驶其实是相对安全的，那个路况是比较简单的。而在开放城市道路上，有人，有各种各样预想不到的事情，它能不能很好控制自己，这就是一个非常难的问题，要解决了这个问题，这个车才能真正的变成无人的，才能够自动驾驶。

大家知道，百度不是造车的，我们是一个平台，我们是一个完全开放的平台，我们的技术通过开放源代码、开放数据，让所有的想造无人车的生产厂商能够从中获益。

从我们代码的开放到后来量产，这中间增加了很多新的代码，其中接近50%的代码都是为了安全增加的，真的要量产了，真的下线进入商用，真的要载人了，我们不能让它错，所以大量的经历放在了安全上，要符合车规。所以我们在国内从事自动驾驶研发的互联网公司当中第一个拿到了ISO26262这个流程的认证，所有电子产品的安全性的认证和规范。

因为无人车是一个很大的产业，也有很多很多的合作伙伴与我们一起在做，这就使得整个产业比我们想象推进要快。说实话，两三年前我是无法想象到今年可以看到没有驾驶位、没有方向盘的车能够在一些封闭的场景中使用，不管是封闭的园区、码头还是景区能够跑起来，所以它是经过了很多方，从政府到汽车制造商、科研机构、出行服务商，甚至电信运营商各个方面的共同努力，才达到这样一个状态的。

这种状态我相信会越来越好，不仅仅是像百度的这样公司在推进无人车在车这个层面技术的演进，还有一个很重要的方向是政府在推动基础设施方面的演进，它越来越多的在道路上布置各种各样的传感器，让车可以以更低的成本、更高的精确度识别各种各样障碍物和交通规则。所以，原来车上可能有贵达几万美元的激光雷达设备才能够探测周边的障碍物，但是如果我们能够在道路层面、基础设施层面把相应的传感器布下去的话，那我们的车就可以用更便宜的传感器就能够感知路况，能够躲避障碍，这样无人驾驶车的成本就会大大的降低，这也是我们寄予厚望的一个方向。所以，无人车确实不是某一个公司单方面的努力，它是方方面面的巨大生态，而它的这种演进，我觉得中国最有希望，因为我们有一个强实力的政府，它在很多很多基础设施的建设上都是在全世界是超前的。

以上是在无人车方面我的担心和相应的措施。其实，人工智能也在毫无争议、不可避免地改造传统移动互联网，包括搜索在内。我也给大家看一下，百度最近推了一个新的搜索APP，叫做“简单搜索”，它主打两个特点。

先讲第一个特点，就是人工智能。对于传统互联网来说，人工智能是对语音、图像、自然语言的精确理解，大家可以看一下。

这里可以用语音调取，也有用摄像头拍一张照片它就可以识别它到底是什么意思，这其实都是用了很多的AI的能力。

同时，AI还能够千人千面，不同的人在进行搜索的时候获得的结果我们认为应该是不一样的。简单来说，可以有成人模式，或者说标准模式，另外还有少儿模式，如果它能够检测出来你的声音是一个成年人声音，还是一个儿童声音，他给你的结果也是不一样的，我们来看一下。

我们根据不同的人发出来的不同声音，给出相应的搜索结果也是不一样的，这是简单搜索的第一个特点。

第二个特点，实际上我们在两天前做了一点宣传，这个搜索APP是无广告的，在搜索结果中没有任何广告。后来我看了一下网上评论，大多数人都不相信，说你骗人的吧，你怎么可能没有广告。所以我也想利用今天这个机会跟大家讲，简单搜索在搜索结果里面永远不放广告，欢迎大家下载来使用。

我们觉得，实际上AI时代除了技术的快速进步之外，也确实随着产品的落地，人们越来越切身感受AI到底能给人们带来什么结果时，我们越来越觉得需要有新的规则、新的价值观、新的伦理，至少要在这方面进行讨论。

不仅仅无人车要能够认识红绿灯，所有的AI新的产品、新的技术都要有一个我们大家共同遵循的理念和规则。所以我想到了四个方面东西。

第一，我们认为AI的最高原则是安全可控。一辆无人车如果被黑客攻击了，它有可能变成一个杀人武器，这是绝对不允许的，我们一定要让它是安全的，是可控的。

第二，我们今天看到像BAT，或者是美国的Facebook、Google、Microsoft，这些公司的AI能力都很强，但是世界上不仅仅只有这几个大公司需要AI的能力、技术，世界上有几千万家公司、组织、机构也很需要AI的技术、能力。我们怎么能够在新的时代让所有的企业、所有的人能够平等地获取AI的技术和能力，而不仅仅是少数大公司的专利，我们怎么能够防止在AI时代因为技术的不平等导致人们在生活、工作各个方面变得越来越不平等？这是我们需要去认真思考的。

第三，与此同时，AI做出来的很多东西不应该仅仅是去简单地模仿人；不是人喜欢什么它就给你什么；不能人喜欢娱乐八卦，就百分之百的信息流都推娱乐八卦；不是只要能让人在这里多待一分钟就不让他少待一分钟。这不是我们想要的。我们希望通过AI，通过个性化推荐，给人们的信息是能教人学习。当你花了一个小时之后，过段时间之后，能够发现学到了一些跟原来不一样的、好的东西，让我们变成更好的人。这是我们希望看到的。

第四，也是过去很多人在问的，如果人类很多工作或者劳动逐渐被机器所替代的话，人还能干什么？人可以休息。我们现在一周工作五天，休息两天，也许未来一周工作两天，休息五天。但是更重要的是，很可能因为人工智能，劳动不再成为人们谋生的手段，而是变成人的一种需求。你想工作，想去创新，你想去做创造，所以你才去工作。这是AI的终极理想，我们要为人类带来更多自由和可能。

AI的使命是什么？不是替代人，是让技术忠诚于人类，服务于人类，让人类的生活变得更美好。

这就是我今天想讲的，谢谢大家。