小冰CEO李笛：人工智能发展需讨论边界，场景化克制是关键

“当我们讨论人工智能未来价值的时候，其实我们更多在讨论的是边界。”12月16日，小冰公司CEO、原微软（亚洲）互联网工程院常务副院长李笛在北京MEET2021智能未来大会上公开表示，人工智能要发展同时也要克制，“其中最主要的克制，是场景化的克制”。

李笛

李笛表示，当人工智能不可避免地进入到人类社会的每个角落，和人类发生千丝万缕且无处不在的关联时，应该让人工智能和人之间形成有效的良性关系。

他认为，作为技术的发明者，“在掌握很多不同技术的时候，必须去预判、预想这种技术在运用过程中可能会遇到的困境，然后尝试着去规避。”

李笛特别谈到人工智能机器人微软小冰在人工智能语音领域的“场景化克制”。

他介绍，目前，小冰已经能够自动生成接近真人人声的语音，甚至带有情绪和情感，被广泛地应用在金融资讯节目等语音场景中。但小冰团队始终没有向个人开放训练voice font（语音字体）。语音字体是一种计算机生成的语音，可以通过指定诸如速度和音调等参数来控制，并使其读出输入的文本。

李笛说，之所以不向个人开放语音字体，最主要的原因是不能够确保技术在该场景中的安全性。因为经过训练的语音字体太接近真人了，很有可能被滥用。“很有可能被别有用心的人拿来打（电话）给这个人的亲朋好友，打给这个人的父母、朋友。”

“当我们手上的技术不足以诈骗的时候，我们可以去发展这个技术；但当我们预想到手上的技术已经达到、或者越过一个可能会产生困局的边界时，我们的团队往往会非常谨慎。”

面对日益发展的人工智能技术，李笛表示，最关键的事情是考虑应该把这一越来越强大的AI工具提供给谁。“我们希望，人类和人工智能在未来十年可以有非常好的交互，人工智能系统本身也会变得更强大。但它如果往另外一个方向偏向，对谁都不好。”