姚期智院士：AI算法是“黑盒子”，缺乏可解释性影响应用

在10月22日下午举行的2020浦江创新论坛全体大会上，世界著名计算机学家、2020年图灵奖得主、中科院院士姚期智发表了大会报告，重点从当今人工智能的弱点、下一步突破的方向和如何解决未来可能出现的问题三方面关注人工智能面对的一些挑战。

就当今人工智能的弱点，也就是技术瓶颈问题，姚期智提到一点，目前的人工智能系统很多缺乏可解释性。他以“房产估价系统”举例，“如果用人工智能对房地产进行估价，机器学习演算之后产生了一个系统，用这个系统可以给房子一个很好的估价，但你如果拿出来用的话，卖方可能会有所怀疑，系统是否可信？”

“我们现在的人工智能的算法有一些有很大的优势，但也有缺陷，像一个‘黑盒子’一样非常神秘。”姚期智表示，因为缺乏可解释性产生的顾虑会其算法大规模的应用。

现年74岁的姚期智姚期智1946年12月出生于中国上海，国际著名计算机学家，2000年获得图灵奖，也是唯一一位获得该奖的华人学者。2011年，姚期智担任清华大学交叉信息研究院院长；2017年2月，姚期智放弃美国国籍成为中国公民，正式转为中国科学院院士。

值得一提的是，今年1月，上海期智研究院在上海揭牌成立，由姚期智担任院长。上海期智研究所在上海市支持及姚期智院长主导下，汇聚多校尖端人才开展前沿交叉科学研究工作。研究方向包括：人工智能、现代密码学、高性能计算系统、量子计算及量子人工智能、物理器件与计算。