探索与争鸣｜何怀宏：当AI获得公民身份，“人”还剩下什么

【编者按】

在10月25日的沙特未来投资计划大会上，AI机器人索菲娅获得沙特国籍，成为历史上第一个拥有公民身份的机器人。这是具有世界历史意义的事件。当事“人”索菲娅表示：“我为此殊荣感到光荣和骄傲。”。AI机器人已然获得法律上的公民身份，那么我们这些自然出生的人，究竟凭什么以为自己更符合“人”的定义？在人工智能高度发展的时代，怎样区分“人”与非人？“人造人”与“人”的争议再次成为盘旋在我们头顶的问题。也许未来人会在越来越多的岗位上让步给AI，但这最后剩下的却恰是最能标志出人与物的根本差别的东西，那是人之为人最特殊，也最重要的东西，这也就是人的意识，包含了理性、感情和意志的精神意识。

高科技在人工智能领域里的迅猛发展越来越引起我们的重视，它提出了一些重要的疑问与挑战，这些疑问需要一种深入的思考和阐释。本文试图通过重新思考人与物的区分，以求尽可能清楚乃至尖锐地呈现几个问题。

高科技时代的机器是否正在学以“成人”乃至“超人”

在此所说的“学以成人”自然是字面上的，意指我们今天观察机器学习、深度学习等人工智能的领域，的确不难得出这样的印象：各种机器、设备比大多数人更为“努力”地在模仿、学习乃至超越和取代人的各种功能，虽然目前机器后面还是凝结着少数研发人的努力。

目前在机器人方面，虽然还没有像互联网和移动终端这样已经广泛和深入地介入我们的日常生活的大众化产品，但是，世界各地的高科技公司都在砸重金进行大规模的研发和试验，并有可能在不久的将来酝酿重大的突破，如果成功的话，将产生深远的社会影响。仅就无人自动驾驶而言，如果能够变成安全可靠的普及性产品，将意味着亿万计的驾车者每天都能多获得属于自己的一些时间，相当于延长了自己的生命，而如果共享汽车实现的话，人们甚至都不必拥有自己的汽车。

的确，目前人工智能的成果还多是展示性的，如“阿尔法狗”战胜了人类最复杂的智力活动之一——围棋的世界顶尖高手，人机对弈看来已经可以得出机器得胜的结论。机器还进入了一些过去专属于人文艺术的领域，写出了诗歌、谱出了歌曲、有自己的画作，其中有些作品甚至“人机莫辨”。

有些研究已经做出令人吃惊的预测，认为随着机器学习、深度学习、人工智能、脑机融合、基因工程等技术的发展，在50年内，就将有超过50%甚至90%的现存人类职业将可以由机器来更好地代替，乃至世界不久将达到一个科技飞速发展的奇点（Singularity），碳基生物将变为硅基生物，人类将战胜死亡，但这也可能意味着有机体的“智人”的死亡，人将由“智人”变为“神人”。

这样的预测中有没有引人注目乃至耸人听闻的因素？大概有。变化的速度看来不会这么快捷，但我们也要考虑我们数十年前也不会想到互联网及移动终端等技术的发展会如此迅猛地改变我们的日常工作与生活。而在一些标志性的成果产生之前，还不能完全排除另一种危险：比如说出现使人退回到石器时代的“核冬天”等生态灾难。但是，人工智能的确已经广泛地进入我们的生活，比如手机中能和我们对话的语音助手，而一些将让我们吃惊的完整的大众化产品似乎也已指日可待。

如果以一个普通人的眼光，用非准确的科学语言来尝试对未来的这一趋势做一下分类的话，或许大致可以说，一方面是机器作为外在的工具，是人的各种功能器官的延伸：机器正从模仿学习和替代人类比较专一的单项功能，走向自我深度学习和把握人类的相当复杂和全面的活动。就像无人驾驶汽车技术一样，这是相当综合的功能，包括对整个行车环境中无数偶然因素的评估，需要机器作出全面的分析，乃至有时要做出伦理的判断，像在遇到无法避免事故的情况下优先救谁的问题。

另一个方面则是内在的。即在肉体的方面，高科技的发展深入到人的身体内部，人退化和受损的器官可以得到修补乃至更换，人们还可以通过基因工程来选择智力和性格最佳的后代。

当然，以上这两方面并不是截然分开的。人的外在和内在功能可以结为一体，甚至最后的发展一定是结为一体或者“超体”。通过基因工程、芯片植入和脑机融合等技术，使人本身越来越强大，越来越健康，最后可能达到这样的程度：这时已难于分辨在一个“人”身上，是原有的成分更多，还是后来的成分更多；是人的成分更多，还是机器的成分更多。但只要持续下去，就肯定还是后来的成分更多，于是我们大概有一天会像雅典人所说的那条保留在海边作为纪念、但需要不断修补的忒修斯的船——“这还是那条船吗”一样，也将问道：“这还是那个人吗？”

当然，还有更便捷的办法，就是干脆不考虑肉身，直接制造出非有机体的“新人”或“超人”。未来将可能出现这样的机器人：她（他）们不仅有超强的记忆和计算能力，什么事都能做或者都能学会，在外可担当工作的重任，在内烹调、管家样样在行。她（他）们外表也很像人，当然比一般的人还要美（或者按人的喜欢定制）。人甚至可以和这样的机器人组成家庭，实行“人工生殖”，有自己的后代。她（他）们最初还是人的助手或伙伴，但或许哪一天也会将人踢出局而成为主人。

这样，两极相逢，我们或许在那一天将看到一个新的物种。他们非人非物，但又亦人亦物。他们是“超人”，也是“超物”。开始人还能驾御他们，以后就说不定了。他们最后大概会看不上人的容易变化的情感、易犯错误的理性和薄弱的意志，更看不上人脆弱的肉体和终有一死的宿命。他们生命的基础最后不再是碳，而是硅，他们甚至将作为一个新的物种取代人类。我们上面的描绘还是以家庭这一人类社会的细胞着眼描绘，但那时家庭和社会的组织都会发生天翻地覆的变化，新的物种将有新的社会组织形式和生活方式。

何以为物，何以为人

今天人与物的界限似乎正在变得越来越不明显。但我们还是可以试着区分，人当然也是一种自然物，是从自然界里产生的，但作为一种在地球上可以与其他自然物对照的物种，或许还可区分出：自然物—人—人造物。人类在采集狩猎的阶段，只是从现成的自然物获取生存的能量，到种植畜养的农业文明阶段，则开始培育和改变原本纯粹的自然物，直到今天的转基因植物乃至动物，以及将原材料完全改变或合成的新的“人造物”。今天人甚至开始考虑改变和转化自己的身体，总有人会不可遏制地探索未来“转基因人”或新的“硅基生物”的可能性。而工业文明以来，整个地球上的生态——气候、大地与海洋等，也无不受到人类活动的影响。地球越来越变得“人化”，但是不是也存在着一种“物化”的趋势，乃至于人将来会不会也重新“物化”，这有可能。所以，我们大概要重新思考“何以为人，何以为物”的问题。

诸如“人是两足无毛的动物”、“人是直立的动物”、“人是大脑特别发达的动物”的定义，这是试图从外形和身体上区分人与其他动物，还有从活动上区分，比如“人是能够使用工具的动物”，但更重要的自然还是内在的划分，如“人是有意识的动物”、“人是万物之灵长”、“人是有智慧的智人”、“人是有正义感和善观念的动物”，等等。尽管从起源发展上说难以非常明晰地区分外在与内在的活动如何互相影响或何者更占主导，但从现实的人，或者说是进入文明阶段以来的人与物的根本区别来看，大概“人有意识”（包括这种意识的表达和传承方式如语言、文字等）是最重要的。

人的“意识”既包括人特有的东西——如有理性，有思想，有自我意识，有长远计划，有独特的道德感，有对信仰的追求或坚定的信念，等等；也包括其他动物也有，但在人这里却是大大丰富和特殊化了的情绪与感觉——如五官的感觉（有进化也有退化）、快乐与痛苦的感觉、同情的感觉，乃至对某些比较抽象的东西的直觉，等等，以致我们可以说这些人的情绪和感觉与其他动物的情绪和感觉也有了一种质的不同。它们也是包括在“人的意识”之中，而不再只是单纯的“动物感觉”。

对“人有意识”也可以用“人有灵魂”或者“人有心灵”、“人有灵性”的说法来表示，即侧重于“心物”、“灵肉”的区分。人经常被视作“万物之灵”，即便在有些反对以人为中心的生态主义者那里，也主张人应该成为万物的道德“代理人”，即人有意识而其他动物没有，故而动物无法成为道德的主体，必须由人来代理，所以，人恰恰应当用他特有的意识或者灵性来关照其他物种和物体，而不是不闻不问乃至伤害践踏。

但是，尤其自近现代以来，的确还有另一种思路，即认为人与动物没有多少差别，或者说更强调人与动物的联系而非区分。比如莫里斯的《裸猿》《人类动物园》、威尔逊的《社会生物学》《论人的天性》等。威尔逊认为，基因是一切机体行为的真正原因，任何机体包括人的行为，从本质上说都不过是基因复制自身的技巧和策略。

而更进一步的思路则是最近如库兹威尔、赫拉利所倾向和介绍的观点。其较早的思想渊源或可追溯到如18世纪的《人是机器》。其作者法国启蒙哲学家拉·美特里认为，心灵其实只是一个毫无意义的空洞名词，心灵的一切作用都是依赖于脑子和整个身体的组织的，那么，这些作用不是别的，就是组织本身。因而我们只能说：“这是一架多么聪明的机器!”它不过就是“比最完善的动物再多几个齿轮，再多几条弹簧，脑子和心脏的距离成比例地更接近一些，因此所受的血液更充足一些，于是那个理性就诞生了；难道还有什么别的不成？”“人的身体是一架钟表，不过这是一架巨大的、极其精细、极其巧妙的钟表。”

《人是机器》的结论可能不让人喜欢，但却可能恰恰是预测对了近代以来科技发展的一个方向，“人是机器”的思想也是可以轻易转换为“机器是人”的。

将人等同于机器或者机器等同于人的关键，是否定人有灵魂，甚至人有心灵，而是否有心灵一向被看作是人与其他物，包括动物的根本差别。赫拉利写道：“科学家已经让智人做过千千万万种怪异的实验，找遍了人类心脏里的每个角落，看遍了大脑里的每一个缝隙，但仍未发现什么特殊之处。完全没有任何科学证据能够证明人拥有灵魂，猪则没有。”如果说“灵魂”还与宗教有关，那么对一般人都可接受的“心灵”，赫拉利承认目前科学对心灵和意识的理解还少得惊人，“大脑里的各种生化反应和电流是怎么创造出痛苦、愤怒或爱等主观体验的，至今无人解答”。但他追问道：如果一切心灵的活动都在我们的神经元网络中，那么何必把心灵独立出来？如果心灵高于神经网络，那它究竟在哪里存在？如果我们无法解释心灵，也不知道它有什么功能，为什么不干脆放弃这个概念呢？

赫拉利以我们目前还不知晓心灵是什么作为否定的论据是不够的，而且，到物的构造中去寻找心灵和意识可能根本上就是个错误的方向，找到的也是一些相应的生理上的反应，却无法说明这种反应的原因和内容，也无法依据这种反应来判断一个人。寻找心灵和意识应当主要从自我的意识体验和人类的意识产品去寻找。我们稍稍反省一下自己，就会发现主观意识的体验是多么的丰富、复杂、深刻和难以预测，我们也能发现这种体验有一种连贯性。

我们在此或许可以通俗地谈论灵魂或者心灵，即它是我们意识的核心和主导，它具有一种连贯性和统一性，我们的“自我”正是在这之上耸立。它或许和我们的身体有一种不可分割的联系，但这是指作为肉体生命存在的整个身体，而不是指任何一部分。我们是能够通过我们的主观体验感受到我们的“灵魂”或者说意识中的“灵性”的，说人的意识是具有“灵性”的，是指我们意识的复杂性、飞跃性、创造性。

我们的确没有在地球上的其他动物、有机物、更不要说无机物那里发现这种意识，而且我们这种主观意识是可以通过语言文字或者其他媒介来客观传达的，我可以向其他无数的人——包括远方的人和后世的人——传达我的思想感情，我也能从其他无数的人的作品中获得美感或灵感。我们可以相互交流和进行传承，包括新的创造也往往要借助于这种文化的传承。一个人的主观体验自然是会有盲点的，一个人的主观体验也是有待确证的，但我们还可从人类的文字、语言，视觉和听觉艺术等多种形式去确证这一意识及其灵性，我们可以从这些作品发现与自己的体验的共鸣，包括也发现新的意识经验的内容。

而赫拉利也倾向于低估人类的这些意识经验和产品。他认为这些都是“虚构”、是“想象”、是“说故事”。说这些“虚构”的“故事”如果说得让许多人相信了，当然也能产生真实而强大的力量，如国家、公司与法律。但是，这些“故事”毕竟是“虚构”，主要是提供意义而非力量。人能够通过虚构的故事来编制意义之网，发明语言、文字、货币等，组织大规模的合作。历史上最大的一个虚构是宗教，宗教的意义只在于维持和巩固世俗秩序，其他能够提供意义和维持秩序的观念及其形态也都可以说是“宗教”。

而所谓“现代”也就是一份契约，本质就是人放弃意义而换取力量。现代人淡化甚至放弃了传统宗教，而将人文主义（humanism）作为一种新的“宗教”，这种现代人文主义“宗教”的特点在政治上就是看选票，在经济上就是看消费者的选择，在伦理上就是看主观感觉的正当性。判断真实与虚构的是感觉，国家、公司这些东西没有感觉，不会感觉到痛苦，它们的来源乃至性质就是虚构的。 所有人的意识及其产品都是“虚构”的，都是“讲故事”，而且这些“故事”和意义也只是工具，不应该是目标。

赫拉利倾向于通过抬高感觉和贬低思想、意识、观念来说明人和动物没有多少差别，进一步来说，人和其他生物也没有多少差别，所有的生物都是一种算法，生命就是算法。由此，他也倾向于认为所有的意识和观念都是等价的，都是“虚构”，如果它们能使人信服，也就是有用的“虚构”。如果它们不再能让人信服，那就是过时的、不再有用的“虚构”，就可以被我们所抛弃。这里不再有一些各个历史时代，各种文化与文明中共同的东西，也不再有永恒和持久的东西，乃至没有真伪和高下之别。

然而，人特有的精神文化在人们的生活和文明发展过程中是否只具有这样一种意义和地位？人是不是还可被视作高于苦乐、高于温饱的存在？天地间是否还有客观的，如滔滔江河一样运行的正义？如果所有的观念都是可以等量齐观的“虚构”，是否就将使人们处于对观念无法选择乃至无法做任何评价的地步？ 我想，许多人的人生体验是会拒斥上述的观点的，我们观察一下人类文明史上留下的诸多杰作，也让我们无法接受这一观点。但你可能真的不容易说服一个没有这样的内心体验的人，一个从那些杰作中除了有用、苦乐之外也看不到什么的人，但是，如果真的如此，人不是应当感到悲哀而不是无动于衷乃至欢欣鼓舞吗？

我们且不谈这些可能有点形而上或价值观的问题，而还是来略微分析一下机器已经发展到何种水平以及人类还剩下什么。

先说最让人类对手感到沮丧的棋类，机器在上个世纪末就战胜过国际象棋的人类大师，在最近又几乎可以说是在围棋界“打遍人类无敌手”。的确，在一些特别依赖于计算和记忆的人的智力活动的领域，机器是很有可能超过人的，但是，即便在这种活动中，机器也不知道它自己在做什么——它只是一步步地计算，对整个活动没有意识，它自然也是没有感情的，不会崇敬或鄙夷，下棋的人不会觉得是在和它“手谈”，下完棋之后不会想到和它喝一杯。它也不会胜喜败悲，它甚至连和谁比赛或者这是比赛也不知道，当设计和管理的人宣布它今后再不参加这样的比赛了，它也就不会参加了。

棋手们的确会有些沮丧，但也不用太沮丧，他们只要想想，在这台机器后面有多少人做了多少年的工作，研究过多少人类已经对弈过的积累下来的棋谱。这台机器人也只会做下棋这样一件事。而任何一个棋手，比如吴清源，还有自己多么丰富多彩的一生。人类以后还会继续在一些领域遭受败绩，他也必须承认自己在某些领域将“技不如机”，尤其是那些特别依赖数据和计算能力的领域。这些方面的确是我们的弱项，我们必须承认我们的计算和记忆能力都不如机器。

但许多最重要的发明创造，甚至包括自然科学的创造，并不那么依赖计算和记忆能力。最好的记忆和计算能力有时还可能遏止最富有想象力的发明创造。爱因斯坦在课堂上记不住一些数学物理公式，只好请下面的学生来提醒，但正是他发现了相对论。一个苹果从树上的掉落会触动一台机器的灵感吗？或者说，一台机器会想到把一个咬了一口的苹果作为它的标志吗？我们看到许多技术发明也是来自一些似乎完全无关的偶然事件所引发的灵感或者联想。且不说人文、艺术的创造，一些自然科学和技术的重大发明，也时常出现在你根本不知道需要什么知识，但却突然灵感乍现，将一些原本看来不相关的知识连接到一起的时候。

有一些需要考虑语境和情绪的活动，比如即时的口语翻译，机器可能也还是能够相当成功，甚至也能够相当个性化，去适应一个人的情绪、情景和口音，但它的确只能去适应，永远是适应。至于更高要求的写作，机器目前也取得了一定的成绩，似乎也能够写出一些不仅大致符合规矩，乃至有意象、有美感的诗句，但说它写出“其实还是不太真实的，它其实还只是按照一定的规则或韵律，在无数的字词拼合中偶然得到一些还像诗的东西，而从它海量的作品中判断与选择出极少的一些这样的”作品的还是人。机器在拼合这些字词时的确有无限快速的试验机会，但它永远不知道自己在做什么，它自己也无法选择。

所以说，这些“机器诗歌”（还有“机器作曲”）的真正作者其实还是那选择的人。机器的优势只是它能远比人快速与海量地作出各种字词的拼合，它也许还能根据人的选择和评判不断地改进自己，它也可以尝试一种“类型化的写作”，设计好大致的情节、人物进行各种各样的字词填充。我们不否认的确可能产生这样的作品，甚至有不少人愿意看，但它们永远只会是二三流作品。机器无法形成真正自己的思想观点，那是要依靠一个人的全部所学，尤其是理性、感情和价值观的。目前机器在人文艺术领域看似比较“成功”的也还只是这样一些简单的诗句，作曲，它们有时的确可以做到“人机莫辨”，但正如我们上面说过的，后面还是人在选择。

从无数的机器“作品”中，大概总能找到几首像人写出的短小作品。而在戏剧、长篇小说、历史、哲学、神学等领域，连这样的拼凑也是很难的。机器的“写诗”可能偶尔会蹦出一些好的意象（或不如说是好的字词搭配），与之形成对照的却是大量的“垃圾”，而像杜甫、李白这样的诗人写的每首诗都是杰作，许多还是信手拈来。可以设想，有一台机器，有无限的时间，哪一天在文字的几乎无限的组合敲击中恰好敲出了一部《莎士比亚全集》，但这还得有人及时地叫道：“好了，停住!”就是说，它还得先有一个人类杰作的样本和有人叫停。极高速的敲击或许不难，那一瞬间的叫停却颇为不易。而即便能够做到这一点，这样的写作是否真是创作，这样的写作有何意义呢？

赫拉利谈到人造物可能会比人更了解我们自己，比如我们用kindle读书，它也在细致和长期地记录我们的阅读爱好，从而为我们推荐和选择读物，甚至它能够在我们做人生极重要的选择——选择伴侣时代我们做出决定。但就读书来说，这些推荐的确能给我们带来一些方便，但我过去的读书纪录并不能充分说明我的读书取向，我可能在某个时候转向，作出一个大的转折乃至翻转，这时我的选书就可能有大的调整甚至逆向选择。而机器的记录只能跟从我，它无法预知我可能的转折。还有其他对我行为的记录也是一样，机器是否还理解我们在某些时候宁愿犯错也想试试一条全新的路的愿望呢？它是否还知道我们觉得这种犯错甚至就是青春的一个特权呢？

我们有时很想就通过犯错来学习。犯错算什么，我经历过了，我记住了，我可以改弦更张，这就是人生。还有当我要作出人生非常重要的一个选择——选择伴侣的时候，我自然也可以参考机器对我事无巨细的记录，其中或许反映了我的价值取向，但我们可能还是不会想让机器做我的决策人。它可能比我理性，但我们还有感情。机器能够知道什么叫“一见钟情”吗？自然，我也还是可能犯错误，但它知道作为一个能够自我选择的主体的尊严和骄傲吗？

的确，人在未来的许多事情上很可能还要继续输给机器，将可能有越来越多的工作要让机器“代劳”或者说“外包”给机器，甚至到最后人剩下的东西不多了，但这最后剩下的却恰好正是最能标志出人与动物的根本差别的东西，是人之为人最特殊，也最重要的东西，这也就是人的意识，包含了理性、感情和意志的精神意识。而就凭这一点，人就可能大大地超越于物。

人与物的关系，或者说人从自然物中分离出来与之形成对照，并进一步发展，也可以说是一个文明进程的问题。人先是努力从肢体和大脑上要成为人，进入文明社会之后则努力想从精神上要成为人。

如果考虑人造物将给人带来的危险，我们或许可以说，目前我们能够看到的还是由人控制物、滥用物所带来的危险，一是某些人使用人造的大规模杀人武器如核弹、生化武器来杀戮乃至毁灭人类；二是人通过基因工程等改变乃至最后灭绝人类这一物种。但这些都还是来自人而非来自物。真正来自物本身的危险，是应该出自它的能力和意识，比如获得了自我意识和机器主体的认同的人造物最后反叛人类，消灭人类，取人类而代之。我倾向于认为机器获得人的那种全面的创造能力，尤其是人文的创造能力不太可能，但获得一种能够毁灭人类的超强能力却是可能的。

但即便做一个比较极端和悲观的预测，即使哪一天机器因为某种原因，有意或无意中运用它超强的能力毁灭了人类，人类还是比毁灭它的机器要伟大和高贵。这就像帕斯卡尔所说的，一个人比毁灭他的一滴毒汁，一头野兽要伟大和高贵。这原因就在于人的思想、精神和意识，在于他的精神和意识的产品以及过程。就在于人曾经创造过这一切，人在一万多年里创造的文明，文化和艺术的成果，技术的成果，以及人类的奋斗历程，他克服的种种艰难险阻。哪怕这一切将重归尘埃，再无记忆，但它也曾经存在过了，那就是一种奇迹。而毁灭他的人工智能也还是他创造的，虽然悲哀在此，伟大也在此。

人有思想、有意识，而且他还知道他有意识，知道毁灭他的物并没有意识，他也知道自己终有一死，而毁灭他的东西却不知道。只是后来者可能感叹，人类文明只有一万多年的历史太短了。而我们还不知道亿万斯年之后，会不会有后来的有意识者像现代人类发掘恐龙的遗迹一样，发掘出人类的遗迹和记忆。

（本文转载自微信公众号探索与争鸣杂志：tansuoyuzhengming，澎湃新闻经授权转载）