澎湃Logo
下载客户端

登录

  • +1

赵汀阳:如果人工智能对人类说“不”

2019-09-19 08:32
来源:澎湃新闻·澎湃号·湃客
字号

图灵机即机械算法机,逻辑—数学运算加上大数据资源,具有在有限步骤内完成一项能行构造(feasible construction)或者说一项运算任务的能力, 但是它没有反思并修改自身系统的功能, 所以没有自我意识,只知道如何完成一项任务,但不知道为什么要做这项任务。以此观之,目前的人工智能都仍然属于图灵机,因此我们可以将未来可能出现的突破图灵机概念的超级人工智能称为超图灵机。

关于此类界定似乎也存在争议。根据图灵测试,如果人工智能的确能够输出与人类成功对话的思想,就意味着通过了图灵测试而可以被确认为一个思想者,那么,比如说,阿尔法狗通过图灵测试了吗? 或者说, 阿尔法狗的算法等价于思想了吗?恐怕并非如此。实际上,阿尔法狗只是完美地执行了运算任务,并不是在创造性地解决问题。更重要的是,图灵测试并非局限于某个编程任务,而是能够开放地回应任何问题的对话,这意味着能够通过图灵测试的人工智能相当于一个有着自主判断能力的“我思”。

电影《模仿游戏》(The Imitation Game)讲述了“计算机科学之父”艾兰·图灵的传奇人生,图为原著小说封面。

可以想象,作为超图灵机的超级人工智能一旦形成就会导致存在的升级。所谓“存在的升级”,我指的是某种技术或制度的发明开拓了新的可能生活并且定义了一个新的可能世界,所以它意味着存在方式的革命,而不仅仅是工具性的进步。需要注意的是,技术进步和技术革命可以同等重要,区别在于技术革命定义了一个新世界,比如说,青霉素的发明与蒸汽机的发明对人类几乎同样重要,但蒸汽机不仅是进步,而且是革命。历史事实表明,人类的生物学进化早就基本成熟,已经很少进化,但文明的存在升级一直日新月异,而且总是以技术革命或者制度革命为标志,通过技术革命和制度革命重新定义人类的存在方式。为了更好地理解人工智能可能导致的颠覆生命和文明概念的存在升级,我们不妨简要地重温人类历史上的若干次存在升级。

人类的第一次也是最重要的存在升级是成为人,其首要标志是语言。语言在存在论意义上创造了两个新世界:一个是自然世界之外的精神世界,也可以说是一个在物理世界之外的唯心主义世界;另一个是超越了时间流逝的历史世界。语言的“创世纪”是有史以来最深刻的存在论革命,它使必然性产生分叉而展开为众多可能性,因此人类能够超越现实性而思考多种可能性,同时使人类拥有始终在场的过去( 历史) 和提前在场的未来( 计划)。

接下来,人类又经历了多次存在升级,其中特别重要的是农业的出现,它导致了社会的形成,同时也是政治的形成,进而还有货币和国家的发明。货币以信用去预支未来,权力则以制度去占有未来,可以说,货币和政治权力都是使未来提前在场的存在方式,或者说是预支未来的存在方式,它把时间变成一种资本。我们今天身陷其中的主要生活事实则是由现代性所形成的。现代性所创造的存在升级主要包括意识形态、主体性、科学、工业和资本主义。

接下来是主体性的发明,其标志性产品是个人和民族国家,不仅创造了以个人为利益结算单位的社会,还创造了国家主权和国际社会,从此每个人都生活在各种主权边界之内,每个人的存在都有了各种“边疆”。科学是一种比政治更为惊人的发明,类似于点金石的科学使所有技术有了奇迹般的发展,人类从此变得无所不能,并成为自然的立法者。工业革命则创造了超自然的物质世界,使人类拥有超出自然生存能力的生产力;而在工业革命之前,人类的GDP一直只有微不足道的增长。重新定义了一切关系的资本主义,其社会结果过于丰富,在此无法概括,只能提及资本主义对人与人关系以及人与物关系的彻底重新解释,它将所有事物和人都定义为某种价格,使所有关系都变成商品交易关系。可以说,资本已经成为决定权力、知识、科学技术的最后力量。我们至今难以充分解释资本的神力何在,但至少知道,资本不会放过获得权力的任何机会,哪里有权力的机会,哪里就会有资本的投入。正是资本使人类的发展变得如此放肆和危险,这种危险似乎正在逼近临界点。不过,资本为世界准备的掘墓人看来不是原来想象的工人阶级,而更可能是人工智能。

现在我们将要面对人类的最后一次存在升级,即存在的彻底技术化,或者说,技术将对任何存在进行重新规定。目前的准备性产品是互联网、初步的人工智能和基因编辑,将来如果出现超级人工智能(以及能够改变人的本质的基因编辑),那或许将是导致历史终结或者人类终结的最后存在升级。这对于宇宙是一件微不足道的事情,但对于人类就是一件无以复加的大事。假如真的实现了超级人工智能,万物都将变成技术化的存在,此种存在升级意味着人类在世界存在系统中失去地位,人类不再重要,历史将失去意义,人类文明将成为遗迹,未来也不再属于人类,人类文明数千年的创世纪将被终结而开始人工智能的“创世纪”。

图为 Netflix 原创原创动画短片合集《爱、死亡和机器人》(Love, Death & Robots, 2019)第二集“三个机器人”(Three Robots)剧照。

我们可以回顾人类“创世纪”的初始状态,那是人开始能够说“不”的时刻,因此开创了可能世界、历史、文明和未来。同样的道理,一旦超级人工智能能够对人说“不”,其革命性的意义至少不亚于当年人类开始说“不”。假如人工智能将来真的具有自我意识和自由意志,并且能够发明自己的语言,由此发展出属于人工智能的思想世界,从而摆脱对人类思想的依赖,能够按照它自己的目的来设定行为规则,那么,全知全能的超级人工智能就会成为现实版的上帝。然而问题在于,人类真的需要为自己创造一个否定人类意义的上帝吗?

(原载于《信睿周报》改版第1期,有删节)

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    收藏
    我要举报
            查看更多

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602000299号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2024 上海东方报业有限公司

            反馈