探索与争鸣｜潘多拉魔盒还是文明利器？——大文明视野中的ChatGPT反思

ChatGPT横空出世，引起全球轰动。这一现象到底意味着什么？是人工智能回到生活世界，为人类赋能，还是出现了一种人类创造但可能失去控制的不祥力量？换言之，ChatGPT 是文明利器，还是潘多拉魔盒？此问题的回答关乎人类文明的生存和未来走向。2023年3月13日，复旦大学哲学学院、《探索与争鸣》编辑部和《广州大学学报》（社会科学版）编辑部、“复杂现代性与中国发展之道”课题组联合举办了“潘多拉魔盒还是文明利器？——大文明视野中的ChatGPT反思”高端论坛。来自北京大学、清华大学、南京大学、浙江大学、苏州大学、华东师范大学、复旦大学等高校以及科技企业的近30位专家参加会议。哲学、历史、文学、国际政治、传播学、教育学和人工智能等不同领域的专家各抒己见，观点精彩纷呈。会议同步设置线上会场，席位开通后迅速满员，300名听众在线参加了本次会议。

在开幕式上，复旦大学哲学学院教授汪行福代表会务组对参会代表表示欢迎，并介绍了发起本次会议的核心关切。他认为， ChatGPT的出现给我们带来了一个“终极之问”：它是“赋能”（empower）工具，还是人类自我“罢黜”（dethrone）的陷阱? 对这一“终极之问”的思考与回答关乎人类文明命运，仰赖于人文学者们的对话与交流。

复旦大学副校长陈志敏教授代表复旦大学致辞。他指出，人工智能技术已经得到政府高层、学界和业界的广泛关注，从AlphaGo战胜人类围棋顶尖棋手，再到近期ChatGPT这种生成式人工智能，人工智能正逐步深入各领域基础学科的研究，并且推动了相关学科加快交叉融合和协同创新。ChatGPT这一新技术对于重新思考人的本质规定、人与人之间的关系、人类社会构成等关键议题既具有冲击影响，又有促进作用。来自各个学科领域的专家学者可以从不同维度、多重视角探讨以ChatGPT为代表的人工智能技术，为推动中国人工智能的发展贡献智慧和学识。

上海市社联党组书记、专职副主席王为松在致辞中表示，人工智能已经被写入“十四五”规划纲要，上升到了国家战略高度。ChatGPT的出现是人工智能发展的一个重要节点，它在教育圈、学术圈、金融资本市场等领域备受关注，将“信息革命”推向了一个新的阶段。充分地、深入地探讨这一新技术对人类文明的影响、为深入推进中国式现代化建设提供思想支撑，是人文社科学者们的重要使命。对于ChatGPT的进一步认识需要汇聚不同学科和不同领域专家学者的真知灼见，在文化、社会、人类等众多维度拓展理论和实践的认知。

开幕式后，会议分五个单元进行交流，专家学者们围绕ChatGPT与人类交互的前沿问题和应用领域、ChatGPT对人类交往的影响、人工智能界限的科技伦理、ChatGPT的语言模型及其对知识学习的影响等议题展开了内容丰富的讨论。

与会专家学者合影

第一单元

陶东风

会议第一单元由《广州大学学报》（社会科学版）主编，广州大学文学院教授陶东风主持。

邱锡鹏

复旦大学计算机科学技术学院教授、MOSS团队负责人邱锡鹏指出，ChatGPT是一个对话式大型语言模型。大型语言模型是人工智能研究中的一种建模语言的方法，它通过建立一个超大规模的模型，通过学习互联网上的大规模文本，以概率形式来判断文本是否符合正常的人类表达。最近，算力的大幅增强使得模型的参数规模可以做到千亿级，使得模型能力实现了“涌现”。ChatGPT的三个关键技术是情景学习、思维链和指令学习。情景学习让ChatGPT能够通过提示和例子来学习特定情境下的语言表达；思维链使ChatGPT能够像人类一样推理和解决问题，分解复杂问题为简单问题；指令学习则使ChatGPT能够理解并执行各种自然语言指令，将任务指令化以便机器理解。通过这三个技术，ChatGPT能够像人类一样理解和使用自然语言。以ChatGPT和MOSS为代表的对话式大型语言模型的出现，对于社会治理、生物医药、智慧金融、医疗健康、智能教育等领域的发展具有重要意义。

马晓毅

上海至再科技有限公司创始人、首席执行官、人工智能专家马晓毅博士认为，ChatGPT是第一个面向消费者的AI系统，几乎所有用户都觉得它能够解决自己的问题，比如问答、写作、甚至写代码等方面。许多用户使用ChatGPT的体验让人感觉它有着庞大的知识库、强大的语义理解和严密的逻辑推理能力。但实际上，ChatGPT作为一种语言模型，其主要设计目标是为计算机赋予类人的语言表达能力，知识库、语义理解和逻辑推理是其副产品。虽然ChatGPT的语言理解和逻辑推理能力非常出色，并有望通过未来的技术升级不断提升，但它无法完全承担知识库的任务，因为大型模型结构不可能记录下所有的人类知识。ChatGPT的优势主要集中在语言理解和生成方面，包括阅读理解、文本生成、语言润色、文字翻译、以及普通问题的回答等。它的最大弱点在于它的过多的错误信息，无法作为可靠的信息来源。这些错误信息导致一些人对ChatGPT持有一些批评态度。实际上，这是用户错误地将ChatGPT视为一种知识库的结果。马晓毅博士认为，ChatGPT的未来发展方向需要考虑如何紧密结合企业机构的内部数据库，借助这些数据库提供的可靠知识，发挥自身的优势，通过理解、推理等能力，完成问题回答、写作等高级任务，服务企业、机构及个人。这也是至再科技旗下的“学术范”科研助手所专注于探索的方向。目前，ChatGPT的主要商业应用集中在文本生成和文字处理两个领域，而其他领域的应用范围还比较有限。但是随着ChatGPT性能不断提高，其应用场景将会快速扩展，为许多行业和领域带来革命性的改变。

童世骏

上海纽约大学校长、教授童世骏从哈贝马斯的交往合理性概念出发，探讨 ChatGPT 作为对话交互工具的内在架构。他指出，虽然 ChatGPT 与其他文本工具相比可能并没有本质区别，但由于其以自然语言交互为形式，因此交往合理性的标准应该成为评估其合理性的重要标准。ChatGPT设计团队中没有哲学家参与，但自然语言处理和语义学等领域涉及一些哲学领域的知识和理论框架，可能对ChatGPT的设计产生影响。童教授认为，ChatGPT这样的聊天机器人应该并且可以通过体现交往合理性来体现其工具和理性。聊天机器人体现出的交往合理性有一些先天限度，不过，在这个限度内，ChatGPT的交往合理性程度还有很大的改进空间。聊天机器人体现交往合理性的程度，取决于聊天机器人设计团队成员的工作方式是否体现出交往合理性。交往合理性问题同样涉及到聊天机器人团队成员与其他专业团队，以及与商家、用户和公众之间的互动。

黄旦

浙江大学文科资深教授、浙江大学数字沟通研究中心主任黄旦从媒介的视角探讨了ChatGPT技术对人类和文明的影响。ChatGPT冲击了人作为说话动物的特权，使得人的标志性和确定性受到质疑。媒介是人的一种生命形式和人的一种外化，而新的媒介的出现也是新文明的诞生，这一点为我们提供了一个理解ChatGPT的新视角。如果粗略来分，人类文明的演化可以分为机械化阶段和数字化阶段。机械化阶段以标准化的复制，规定了人们互相之间对信息的获取和对现实的主要感知通道，而数字化阶段却使人有了不同的连接和感知接口，不仅使信息的获取和生产多样化，同时也打破了真实和虚拟的边界，代码、传感器、数据、算法和平台等要素构成了当代社会的本体，世界变成了媒介。因此，ChatGPT的出现，主要挑战不是非此即彼的利弊选择，而是面临一个新的文明时代人与智能如何共存相处。

第二单元

任剑涛

清华大学政治学系教授任剑涛讨论了ChatGPT驱动的交往革命。ChatGPT引入了新的交往机制，使人机交互变得更人性化，然而，ChatGPT也重塑了人类社会的交往结构。ChatGPT开辟的情境化的人机对话，将人对人的直接交往变成人对物的交往，这使我们必须考虑“我在与谁交往”的问题。ChatGPT坚持维护和平、遵守与人类对齐的道德基本准则，也许会对人与人的交往约定产生积极的影响。此外，ChatGPT本身对精英和对一般公众影响需要在严格区分下加以分析。相较于与大众缺乏交往的精英，拥有普遍情感与一般智商的ChatGPT或许会在引领大众的普遍交往或日常交往中，发挥惊人的作用。我们同样也要关注人机互动时的情感投射问题。

汪民安

清华大学中文系教授汪民安探讨了互文性理论与ChatGPT的异同关系。“互文性”这一概念起源于20世纪70年代法国哲学，被用来描述文本之间的相互编织和引用的关系，它强调所有的文本都是语言的拼凑，写作就是一种将材料整理和组织起来并连接和过渡各种不同的要素的复写。ChatGPT可以说是互文性理论的理想实现，因为它是一种编织和援引文本的形式，没有独创的作者。互文性的目的是不断扩散文本的边界，它的组合文本的扩散繁殖的目的是后结构主义的。与互文性理论正好相反的是，ChatGPT是一种基于无限文本的结构化思维方式，它通过抽象和概括从无数的文本中寻找普遍性和共性的意义和结构，并试图将意义晶体化。它是结构主义的，因为它相信真实和准确的意义潜藏在共性和普遍性之中，而且它试图将意义压缩和抽象化，而不是不断扩散、多样性地繁殖意义。ChatGPT生产的知识是无穷无尽的，随着数据的不断变化，每次回答的文本也在不断变化。一旦ChatGPT被广泛使用，就可能占据绝大部分领域，导致特定的个体作品变得越来越少。人们最终也许只能向机器学习，思维和行动模式都陷入机器化，产生新的意义上的“人之死”。

杜骏飞

南京大学新闻传播学院教授杜骏飞指出，数字交往时代从虚实融合转向了虚实相生，从具身转向了交往具身。ChatGPT未必是AGI的未来，但它却预示着数字交往2.0的到来：随着AI辅助交往的兴起，人类也进入了“交往赛博格化”的阶段。其中，有三个议题：（1）混合物种，知识调用使得人与机器的知识是相互嵌入的，这也在交往意义上规定了自然生命与人工生命的相互嵌入；（2）跨生命交往，即ChatGPT这类AI辅助，促使人与数字生命、机器生命之间的流畅对话成为可能，这是一种前所未有的交往形态；（3）意识演化，即人在发达的AI面前，因为对被僭越、被代替、被否定、被遗弃的四重恐惧，主动寻求被AI所演化；这种演化从交往开始，发展到对生命本体的再确定，再发展到认知层面的博弈，最终人的意识或将皈依于机器之心。ChatGPT是一种智能利器，但也象征着人会成为什么样的意识主体。而当我们预感到灾难的时候，拯救就是可能的。

陈云松

南京大学社会学系教授陈云松认为，讨论ChatGPT等人工智能与生成式AI对学科、文化和人类文明的颠覆性影响似乎为时过早，但人文科学天然地对技术进步抱有隐忧，这种忧虑源自人对失去自身语言垄断能力的终极恐惧。不过，来自人文科学领域内的这些看似“外行”的讨论，恰恰能指引技术沿着符合全人类共同价值的方向前进。ChatGPT的特点在于它使用了非决策式概率模型，这导致目前它对学科具有一定的工具价值，但多限于知识问答、信息检索以及数据收集和分析。ChatGPT面临创造性的缺失、想象力的匮乏和评价性的回避等问题，每一个回答，都类似于对互联网开放知识体系的一个局部的略缩图。虽然ChatGPT本身看似意识形态中立，但正如培根所说“知识就是力量”，谁垄断了文本和话语，谁就具有影响世界的力量，这是我们应该加以研讨甚至警惕的。

第三单元

李春萍

会议第三单元由北京大学教育评论副主编李春萍主持。

许纪霖

华东师范大学历史学教授、中国现代思想文化研究所副所长许纪霖指出，AI的出现让全体人类面临一场新的知识学习革命。今天的高级AI已然替代大部分老师的功能，这导致未来“好学生”和“好老师”的重新定义和规范标准的变动；对语言模型的深度依赖也可能使未来学生的思维趋同和单一化。不过，ChatGPT也为实现用户或学生与程序直接进行一种“苏格拉底式的对话”提供了可能，而这种对话的关键，在于用户或学生能否问出好的问题，倒逼ChatGPT给出更好的回答。ChatGPT能否代替人类的存在亦是值得深思的问题。现今的人工智能缺少肉身，与人类心灵运作有实质差别，因此它无法领会“模糊性知识”，更无法像人类那样实现从0到1的知识创新。尽管人工智能可以很好地辅助人类生活和生产，但假若听凭其自主进化，它最后可能会反客为主，这要求我们警惕和规范人工智能的发展。

赵修义

华东师范大学哲学系教授赵修义认为，以ChatGPT为代表的新技术对世界有着颠覆性影响，也牵引出技术演进背后的一系列社会问题。新技术带来了社会生活的变局，同时也带来了我们得以打开“社会”这本大书的机遇。如何打开，需要有科学的认识论指引。可是现今的舆论场，却弥漫着独断论和虚无主义。此外，在中国人潜意识中存在着“学而优则仕，仕而优则学”的心态。 这里所说的“学”不是指学习，而是指学问。也就是说只要做了官，自然而然地就有了学问。有些官员相信此说，沾沾自喜，好为人师。这些观念都是违背马克思主义的认识论的。需要重振哲学认识论，学习、宣传马克思主义的认识论。克服那种单纯注重立场、感情和态度，轻视或忽视对客观世界的科学认知不良倾向。

王峰

华东师范大学传播学院院长、教授王峰讨论了人工智能与意识之间的关系，通过举例与ChatGPT和阿莉等人工智能进行的对话，说明了目前的人工智能没有自我意识，它们只是执行指令，提供基于数据流和语义关系的答案。此外，人工智能在未来可能迅速取代播音、主持等职业，这对传播学院的专业特性提出了挑战。就算ChatGPT等人工智能可以提供精确的答案，它仍然缺乏人类具备的情感、意识、心灵等机能，但具备思考这一认知功能。人工智能永远无法实现意识涌现，它只是一项技术，焦虑人工智能的意识涌现问题是没有必要的。随着技术不断地发展，人类可能走向非常激进的“后人类”状况，但那时的人类应当已经具备相应的观念来面对全新的社会现实。

孙向晨

复旦大学哲学学院院长、教授孙向晨以文明、技术和智能之间的三方关系为线索，在大文明视野下对ChatGPT进行了反思。他指出，轴心文明之前的古代文明以恐怖统治及对敌对部族的征战为基础，轴心文明则寻找到某种稳定的情理结构来支撑各自的文明形态。然而，近现代以来技术发展出不同于文明形态的逻辑，西方文明开始在科学技术层面异军突起。根据海德格尔的观点，技术的最高本质是计算，它是西方形而上学的实现。技术不仅是存在呈现自身的一种方式，而且形成了自身的演进逻辑，它能推动人为实现技术自己的目标而努力。今天的智能以一种技术的极致方式加速着自身的迭代发展，其中所蕴含的高风险性与不可控性与文明形态的稳定逻辑相互对立，并且没有为人类留下充足的试错余地。现代性以进步观念为基础，但现时代的技术发展要求人类有一种“知止的智慧”，为文明逻辑与技术逻辑的对冲提供一种缓冲地带。

汪行福

复旦大学哲学学院教授汪行福认为，ChatGPT的诞生同时包含着终极之问：ChatGPT到底是给我们带来了赐福，为我们赋能，还是会罢黜人类的王位，最后使得人类不再居于一种万物之灵的位置？ChatGPT涉及到自然语言处理能力和大数据技术模型的结合，预示着以智人的大脑结构和自然语言的理解和交流为基础的“人类纪文明”向基于AI平台的“后人类纪文明”的转移。《圣经》巴别塔的故事提供了一些有意思的启示。上帝通过“变乱”人的统一语言，挫败人类建造“通天塔”的僭越图谋，由此诞生了以自然语言多样性为特征的人类文明。自然语言的多样性文明既为人类各种群体内部人与人相互理解创造了条件，也是全球范围内文化和政治冲突的根源之一。以自然语言对话为特征的ChatGPT通过统一的AI大程序继承了自然语言的优点，又超越了上帝的限制，其意义不可小觑。它既是对人类的巨大赋能，也有可能是人类文明的内爆。

第四单元

王金林

会议第四单元由复旦大学哲学学院教授王金林主持。

吴冠军

华东师范大学政治与国际关系学院院长、教授吴冠军指出，今日新一轮的人工智能浪潮有三重技术来源：深度神经网络、基于自注意力机制的深度学习模型以及扩散模型。人工智能的突破性革命给人类造成了被僭越、被替代、被否定、被遗弃的感受，迫使我们退到了极为严峻的自我反思的境地之中。要想在今日对人的自我境况进行反思，必须对以人为中心的人类主义文明架构进行前提性思考。对此，存在两种不同的批判性反思方式。一是新启蒙主义，它“反内容不反框架”的抗争方式要求将形形色色的“他者”纳入自身之中。然而，由于人工智能是一个不具备交往理性的黑箱，如何包容这样的“他者”将成为问题。二是后人类主义，它质疑人类主义框架本身的合理性。后人类主义反思也许应该成为我们理解后人类纪文明的关键。

严锋

复旦大学中文系教授严锋探讨了AI与文学的关系。ChatGPT引发了新一轮“文学已死”的争论，文学创作的原创性问题被推向新的高潮。AI的出现跟创作主体的转移或退隐有着直接的关系。从结构主义视角来看，创作主体既不是认识也不是写作的中心，而是结构当中的一个项。如果把这一视角转换到文学上，那么，不是“我”在写文学作品，而是文学作品在写“我”，这个文学作品是无数前辈们作品的累积。目前的AI尚且不能脱离写作者，成为一个新的创作主体，但在未来人类可能会在文学创作领域和AI展开更多合作。当读者有了更多的技术手段去和作者进行合作以后，AI、作者、读者三者可能会形成新的三角关系。另一方面，尽管ChatGPT会提供很多错误信息，但这可能恰恰是文学生长的地方。

刘云杉

北京大学教育学院教授刘云杉探讨了ChatGPT 给人类的教育与尊严带来的挑战。人工智能已经发展到了系统训练和深谙算法的学习者阶段，可能会加剧白领无产阶级化和中产阶级大量塌陷，并清洗学习生态和重组社会结构。我们需要重点考察，人工智能作为一种教育辅助工具，是如何从“类人”转变为“驯服人”的。教育的“学习化”（learnification）的理念暗藏在这一人工智能趋势背后，这一理念把教育简化为“教学和学习”，学习仅仅关注掌握链接、搜寻与查找、信息的编排与重组，从而与知识、与人的经验、与内在生命的成长脱嵌。这一理念还衍生出一种“学习政治”，将经济问题、就业问题、社会团结问题等都转变为学习困境，试图用“终身学习”来把责任都转移到学习者身上。同时，当今教育领域中盛行一系列以结果为导向的能力话语，这些悬浮和封闭的高阶方法采用去情境、去经验、去过程的策略，更加催生出一种机器式求知的学习模式。人们需要反思催生人工智能的温床，尤其是反思被视为当然的教育理念，以保护人的尊严以及教育对人的庇护。

第五单元

汪行福

会议第五单元由复旦大学哲学学院教授汪行福主持。

陈忠

苏州大学政治与公共管理学院院长、教授陈忠指出，“超智能”既指超级智能，也代表超越智能。探讨超智能时代必须先对文明进行前提性的反思，其关键在于物性和人性这两大问题。文明本身缺乏具有确定性的标尺，人们对文明的讨论通常是感性的。然而，文明进步一定有一个以物性为基础的架构。当下对智能化的讨论需要从物性的角度展开。对此，需要思考这样一些问题：智能化能否实现技术变革？能否实现异质性的交织？它是否能为我们打开感性的美丽新世界？面对复杂世界，人们应该回归感性。此外，若想推动智能的文明化，必须对文明本身进行真正的反思，并且在向科学学习的过程中找到一个在新的尺度上物化世界的逻辑。

王金林

复旦大学哲学学院教授王金林从哲学上对ChatGPT所预示的通用人工智能（AGI）进行了定位，认为AGI不仅是由大规模语言模型所打造的新工具，而且是一种“新存在”，或者说开启了通向新存在的大门。它可以同传统意义上的创造者和被造者相提并论。OpenAI创始人阿尔特曼所提出的AGI三原则，即赋能、共享和谨慎，目的在于让AGI以一种可控的速度逐渐发展，确保整个人类社会有时间搞清楚正在发生什么，从而使AGI的发展方向能够同人类的价值与目标对齐，避免对人类造成灾难性的威胁。有人称ChatGPT为全知机器（All-knowing Machine），这显然是夸大之辞，但这也表明就像人类曾经将自身愿望或本质投射为上帝那样，现在人类开始把全知或全能投射到某种程序或模型上。AGI时代的到来是不可避免的，这是近代主体性原则的贯彻或实现。人类总是要先将自己的本质力量投射到一个对象身上，然后再同其作战，努力使得人的本质能够回归自身。AGI就是人类眼下即将面对的新“神”。问题在于这一次人类能否顺利返回自身。

鲁绍臣

复旦大学哲学学院副教授鲁绍臣从政治经济学批判的视角对ChatGPT进行了思考。他指出，阿尔特曼发展通用人工智能的目标是希望通过人工智能对生产领域的介入，来使劳动力价值归零，进而彻底冲毁资本主义。对此，国外左翼普遍担忧通用人工智能将成为人类智力与物质劳动创造的剽窃者和攫取者，而该项技术的发展可能将剥削逻辑从传统的工厂领域进一步拓宽到人们的日常生活领域。虽然以齐泽克为代表的另一种观点乐观地认为，让ChatGPT负责低阶工作能为更多的自由时间创造条件，但这种观点忽视了人工智能的发展一方面可能使人类的语言和思维方式被工业化的语言所代理，从而失去真正的自我言说，另一方面也会造成第三世界国家与底层人口的重大失业问题。人工智能的资源究竟为谁所有是我们所面临的核心问题，即ChatGPT对人类文明的祸福问题将始终与权力批判的持续有效展开密切相关。

（本文转载自“探索与争鸣”微信公众号。）