“AI发展现状反思”笔谈｜浅析对智能的误解与新智能的建构

【主持人语：刘永谋（中国人民大学吴玉章讲席教授）】近年来，以大模型为代表的AI技术发展迅猛，掀起一波席卷全球的AI发展热潮。关注AI发展状况的人不限于AI的研发者、推广者和AI发展的评论者、人文社科研究者，更包括深感生活将被AI深刻影响的普通公众。AI发展的问题不再是纯粹技术问题，而是成为某种意义上的公共议题。在最近OpenAI发布Sora、马斯克开源Grok等一系列相关事件中，这一点表现得非常清楚。在各种相关公共讨论中，AI发展现状尤其受到关注，其中的基本问题是：当前AI发展的大方向是否有问题，未来应该朝什么方向前进。为此，组织计算机、经济学、马克思主义理论和哲学等领域的八位学者，对AI发展现状进行跨学科反思以期抛砖引玉，求教于方家。

本系列文章共8篇，转载自《科学·经济·社会》2024年第2期，本文《浅析对智能的误解与新智能的建构》为第2篇。在文中，刘伟剖析目前存在的三种对智能理解的误区，即算计缺失的误区、拘泥逻辑的误区和忽视人性的误区，提出一种可能的新智能模型框架。

当前，人们对人工智能的理解过度依赖算法和计算能力，忽视了人类情感、直觉和创造力等非算法因素对于智能的重要性；过于依赖传统的逻辑推理和符号推理，忽视了基于经验和感知的非逻辑推理能力。忽视了人类的情感、道德、社会价值观等因素在智能决策和行为中的重要性。针对以上误区，新智能模型框架应该考虑将传统的符号推理与基于数据驱动的机器学习相结合，引入情感计算、认知计算等新的概念，构建更加全面、综合的智能模型。这样的新模型框架将更好地克服传统智能模型的局限性，实现更加智能化、人性化的智能系统。

一、算计缺失的误区

通用智能是指能够在各种不同的任务和环境中灵活地适应和执行任务的智能也通用智能与特定任务的智能相反，后者只能在特定领域或任务中表现出色。通用智能的理论基础是人工智能领域的通用人工智能（AGI）研究，旨在设计出能够像人类一样具备广泛的智能能力的计算机系统。

通用智能的实现面临着技术、数据、计算能力、知识表示和人类智能理解等多个方面的挑战，如通用智能需要具备在各种不同情境下进行灵活思考、适应、学习等能力，这就需要其具备极为复杂的算法和系统结构、大量的高质量的数据来进行学习和训练、足够强大的计算能力和高效的算法、有效的知识表示方法和知识管理系统以及对人类智能进行深入的研究和理解，等等。其中最关键的也是最难以克服的是：就像人类的智能一样，通用智能系统的输入、处理输出、反馈诸端大都包含两部分，一是“共识存在”的部分，二是“非存在的有”部分，机器的计算部分集中在第一部分，人类的算计部分侧重于第二部分。第一、二部分都涉及情绪影响理智的问题，如恐惧可以使理智狭隘或阻塞，情感可以调节理性心。

客观而言，依据目前可预见到的形式化方法和手段，单纯的机器智能是很难实现通用智能的，若可能，很大程度上应该是人、机、环境交互的系统智能。

人类的通用智能不是类脑就能类出来的（狼孩的人脑并没有人的智能），也是人机环境系统交互产生出来的智能，并常常通过思维链的方式呈现出来，思维链是指一个人在思考或解决问题时所采用的思考模式和思考过程，它是一种将问题分解为各个部分并逐步解决的方法，同时也是一种将各个部分有机地连接起来的方法。在思维链中，人们通过连接和整合各个思考过程中的点，以及逐步推导和演绎，最终得出整个问题的解决方案。思维链在解决问题和做决策时非常有用，它可以帮助人们更好地理解问题、分析问题、找到问题的根源，并逐步解决问题。思维链还可以帮助人们更好地组织思路和表达自己的思想，更好地沟通和交流。

思维链中的计算和算计（谋算）可以结合在一起，以帮助人们更好地解决问题和做决策。计算是指通过数学、统计等方法来分析和解决问题。在思维链中，计算可以用来量化问题，比如通过数据分析来了解问题的规模、影响等。计算还可以用来预测结果，如通过建立模型来预测某个决策的后果和影响。计算可以帮助人们更加准确地理解和解决问题。

算计（谋算）是指通过周密的计划和思考来解决问题。在思维链中，算计（谋算）可以用来确定解决问题的方法和步骤，还可以用来评估不同的决策选项，并选择最佳的方案。算计（谋算）可以帮助人们更好地规划和组织思路，从而更好地解决问题。

因此，计算和算计（谋算）可以相互结合，帮助人们更全面地解决问题在思维链中，人们可以通过计算来了解问题，通过算计（谋算）来把握方向并决定如何解决问题，并通过计算来预测不同方案的后果。这种结合可以帮助人们更好地解决问题和做出更好的决策。

在通用智能或人机环境系统智能任务中，情感可以影响理智的决策和行为。情感可以影响人类对任务的态度、信心和意愿，从而影响其决策和行为。例如，如果用户感到愉悦和满意就会更愿意继续任务，而如果用户感到沮丧和挫败，他们可能会放弃任务或更容易犯错。情感还可以调节用户的注意力和认知，影响用户对任务的理解和执行。例如，焦虑和压力可能会干扰用户的注意力和记忆，导致他们更容易犯错或忽略重要信息。相反，舒适和安心可能会提高用户的注意力和记忆，使他们更容易理解和执行任务。

因此，在设计通用智能或人机环境系统智能交互时，需要考虑用户的情感和心理状态，并尝试创造一个积极的用户体验，以提高用户的参与度和效率。

不难看出，由于通用智能的特点是具有类似人类的智能水平，能够在多个领域进行学习和应用，具有自主学习、自主思考、自主解决问题的能力。其不足之处在于：1）目前尚未实现完全的通用人工智能，现有的人工智能系统仍然局限于特定领域的应用，无法跨越不同领域；2)通用人工智能需要大量的数据和计算资源来进行学习和演化，这对于许多组织和个人来说是难以承受的；3）通用人工智能的决策过程可能会受到误导或偏见的影响，这可能导致其做出错误的判断或决策；4）通用人工智能可能会对人类社会产生巨大的影响，包括人类就业、社会生产方式等方面，这需要我们认真思考和探讨。

二、拘泥逻辑的误区

智能是指人或机器能够理解、学习、推理、解决问题和适应环境的能力。而逻辑是一种推理方式，它是智能的一部分，帮助我们正确地推理和理解信息。逻辑能够提高我们的思考能力、解决问题的能力和决策能力，但智能还包括其他方面，如感知、记忆、语言、创造力和情感等。因此，逻辑只是智能的一个方面，智能比逻辑更加广泛和复杂逻辑和数学有密切的关系，但它们并不完全相同。逻辑是一种研究推理和思维方式的学科，它关注的是如何正确地推理和证明，而数学则是一种研究数量、结构、变化和空间的学科，它使用基于公理的逻辑体系来证明和推导数学定理。逻辑是数学的基础，但是它们之间仍然有一定的差别。意识与人机环境系统的关系是相互作用的。人机环境系统是由人、机器和环境三个要素组成的一个整体，意识作为人的主观体验和认知过程的表现，直接影响人的行为和交互方式，进而影响人机环境系统的运作和效果。同时，人机环境系统也会通过各种方式影响人的意识和认知过程，从而进一步影响人的行为和交互方式。因此，合理设计和优化人机环境系统的结构和功能，可以提高人的意识和认知效能，提高人机交互的效果和用户体验。

人类的意识形成是一个复杂多面的问题，目前还没有一个完全统一的理论解释。可能影响人类意识形成的因素包括：1）人脑是意识的物质基础，大脑皮质是意识的主要神经基础。大脑皮质的不同区域对应不同的感知、认识和思维功能，这些功能通过神经元的活动相互作用而形成人类的意识；2）人类的认知和行为都受到经验和学习的影响。人们通过感知、思考、记忆和学习等活动，逐渐形成了自己的认知体系和价值观念，这些都构成了人类的意识；3）人类是社会性动物，社会文化环境对人类的意识形成起着至关重要的作用。不同的社会文化背景会塑造人们的价值观念、认知方式和行为模式等，从而影响人类的意识形成；4）人类的意识形成也与遗传和进化有关。人类的意识可能是通过基因传递给下一代的，并在漫长的进化过程中逐渐形成和发展。总的来说，人类的意识形成是一个综合性的过程，涉及多个方面的因素。目前，科学家们正在不断深入研究人类意识的本质和形成机制，相信未来会有更加深入的认识。

事实和价值是两个不同的概念，它们之间没有必然的联系。事实是客观存在的、可以验证的描述，而价值是主观的、具有个人或社会意义的评价。因此，由事实推出价值或由价值推出事实都是问题的错解。事实可以为我们提供基础信息，但它本身并不能推出价值。价值是基于个人或社会的信仰、文化、伦理等标准而形成的，而这些标准并不是通过事实来确定的。例如，一个人可能认为人类的生命价值高于其他物种的生命价值，这并不是基于事实，而是基于其价值观念。同样地，由价值推出事实也是不正确的。价值观念可能会影响人们对事实的理解和解释，但它们并不能改变事实的存在和本质。因此，事实和价值应该被看作是两个相互独立的概念，它们之间没有必然的联系。我们需要在理解事实的基础上，基于自己的价值观念做出适当的评价和决策。

智能不是数学。智能可以被看作是一种综合性的能力，它涉及多个学科和领域的知识，包括数学、计算机科学、神经科学、心理学、哲学等。虽然数学是智能研究中的重要工具，但智能并不等同于数学。智能是指人类或机器能够基于输入的信息，进行学习、推理、判断和决策的能力，而数学只是一种工具和语言，用于描述和分析智能的过程和结果。因此，虽然数学可以帮助我们理解智能的一些方面，但智能本身是一个更广泛、更复杂的概念，它需要跨学科的研究和探索。

智能和逻辑是两个不同的概念。智能是指人类和动物的认知能力，包括感知、思考、学习、记忆、判断、推理、解决问题等多个方面。而逻辑是研究推理和论证的科学，它关注如何正确地推理和证明论断。逻辑使用符号和规则来分析和构造有关推理和证明的语言和结构。虽然智能和逻辑之间有一些重叠，例如推理和判断等方面，但它们的范畴和内涵不同。智能是一种广泛的、复杂的、多方面的能力，而逻辑是一种狭窄的、专门的、局部的学科。

逻辑和数学之间有很大的重叠和交叉，但它们是两个不同的学科。逻辑使用符号和规则来分析和构造有关推理和证明的语言和结构。而数学则是一种研究数量、结构、变化以及空间和形式的科学，它使用符号和公式来描述和解决问题。数学是一种实证科学，它依赖于实证数据和实验来验证结论。虽然逻辑和数学都使用符号和规则来描述和解决问题，但它们的目的和方法不同，逻辑更关注于推理和证明的正确性，数学更关注于实际应用和解决实际问题。因此，尽管它们有很多相似之处，逻辑和数学依旧是两个不同的学科。我们不能简单地把数学和逻辑等形式化的知识作为智能的全部，因为智能不仅仅是形式化的思维能力，还包括非数学、非逻辑、人文艺术、哲学宗教等多方面的能力。因此，单纯依靠数学和逻辑等形式化的知识来解释智能是片面的，而且可能会忽略了智能的其他方面。当然，数学和逻辑等形式化的知识在智能研究中也是非常重要的工具，但是不能仅仅依赖于它们来解释智能。

三、忽视人性的误区

智能技术的发展是基于人类智慧和思维方式的延伸和拓展，人类的智慧和思维方式是智能的基础，人类是智能技术的创造者和主导者。然而，人工智能技术却与人性并不一致，根本上，人工智能技术并不具备人类的情感、道德、意识等特征，因此不能完全等同于人性。

将事实和价值混合进行拓扑是一项非常有挑战性的任务，因为事实和价值是完全不同的概念，它们的处理方式也是相差很大的。确定要拓扑的智能主题或问题，这可能涉及许多事实和价值，因此需要有一个清晰的理解；列出与主题或问题相关的所有事实和价值，这将有助于用户了解所有相关方面，并使用户能够更好地理解主题或问题。将事实和价值分开也是非常重要的，因为它们需要不同的方式进行处理，可以根据主题或问题的不同方面来分类，也可以根据其重要性来分类，在某些情况下，事实和价值之间可能存在明显的关系，但在其他情况下，它们的关联可能并不那么清晰，用户需要确定它们之间的联系，以便更好地理解主题或问题。在智能拓扑时，常常可以使用各种工具和技术（如图表、图示、思维导图）等，根据主题或问题的不同方面来组织事实和价值，同时确保它们之间的联系得到清晰呈现。将事实和价值混合进行拓扑是一个复杂的任务，需要用户仔细思考和分析。最重要的是，需要用户保持客观和中立，以确保其分析不会受到任何主观因素的影响。

价值对齐和道德物化都是将人类的价值观念转化为机器可以理解和执行的形式，但两者的侧重点不同价值对齐是指在人与机器之间存在交互的情况下，让机器的决策和行为与人类的价值观念保持一致，从而实现人机之间的协同。这种一致性不仅包括道德层面的价值观念，还包括文化、社会和个人等层面的价值观念。因此，价值对齐需要考虑的因素比较多，包括语言、行为、文化背景等。道德物化是将道德准则、规范和价值观转化为机器可以理解和执行的形式，主要目的是让机器能够按照人类的道德标准来进行行为规范和判断，从而保障人类的利益和权益。道德物化更加强调的是道德层面的价值观念，例如公正、诚实、尊重等。

感性和理性是人类思维的两个方面，它们之间的关系是相辅相成的。感性是指我们的情感和直觉，而理性则是指逻辑和分析能力。要让感性和理性对齐，可以采取以下几种方法：1）感性和理性不是对立的，而是相辅相成的。我们需要建立平衡观念，认识到两者之间的互补关系；2）加强学习和思考提高自己的知识水平和思考能力，更好地理性地分析和解决问题；3）直觉和创造力是感性思维的关键，通过培养直觉和创造力，可以更好地应对复杂和未知的情况；4）实践和经验积累是感性和理性结合的重要途径，通过实践和经验积累，可以更好地运用感性和理性思维，解决问题。简而言之，要让感性和理性对齐，需要建立平衡观念，加强学习和思考，培养直觉和创造力，实践和经验积累等多方面的努力。

意图与动机的根源常常与感性有关。人类的行为往往受到感性因素的影响，人们的意图和动机不仅仅是理性思考的结果，还受到情感、直觉、经验等感性因素的影响。这也就是为什么同样的行为，不同的人可能有不同的动机和意图。感性因素对人类行为的影响非常重要，因为人是情感动物。情感和直觉可以帮助我们做出更快、更准确的决策，但同时也可能导致我们做出错误的决策。因此，在分析人类行为时，需要综合考虑感性和理性因素。头痛医头，指当身体发生疾病或不适时，应该针对具体病症进行对症治疗，比如头痛就应该看头痛的病因，不要随意乱用药物或治疗方式。头痛医脚，指在一些情况下，身体疾病的根源可能并不在头部，而是在其他部位或系统，这时候就需要综合考虑整个身体的状况，查找病因，进行相应治疗。比如，有些头痛可能是由于颈椎病引起的，这时候就需要治疗颈椎病才能缓解头痛。

战略决策是各方博弈的结果，从来都不单纯是理性的，很多时候并不能用大数据来解释，更不可能用大数据来生成。也就是说，战略决策不仅仅是一个单方面的决策，而是各方面利益和影响力的博弈结果。这种博弈不仅仅涉及各方的经验和知识，更关键的是各方的情感、信念和价值观念等因素。因此，大数据并不能完全解释和预测这样的决策结果。此外，战略决策涉及未来的不确定性和风险，这些因素也不太可能被大数据捕捉到。所以，虽然大数据在很多领域都有很好的应用前景，但在战略决策中的作用还是有限的。在制定战略决策时，需要综合考虑各方面的因素，包括数据和非数据因素，做出更加全面和准确的决策。

只有时空的对齐，没有价值的对齐，智能就是智障。即智能并不是单纯地按照时间和空间的对齐就可以实现，还需要考虑到价值观的对齐。如果只是简单地按照时间和空间的对齐，而忽视了价值观的对齐，那么智能就没有意义，甚至可能会带来负面的影响。这句话强调了人机环境系统融合智能技术发展的必要性和重要性，但也提醒我们在发展智能技术的同时，需要考虑到人类的价值观和道德标准，避免对人类社会造成损害。因此，发展智能技术不应该只是追求技术本身的进步，还应该注重伦理和社会责任，充分考虑智能技术对社会的影响。

四、新智能快型框架

近年来，虽然人工智能的成果斐然，但现阶段的人工智能体还远未达到接近人类心智的水平。并且，大数据抑或小数据的问题日益成为人工智能未来发展的关键。面对当前自动化与智能化中的种种问题，推动理性与感性相统一，促进计算与算计相结合，使离身、具身、反身认知形成整体，构建“计算—算计”智能模型框架，是一种可能的未来发展路径。

以GPT、Sora为代表的生成式人工智能大模型引发热潮。不过，此类人工智能多使用大数据或大模型，也引发了一些争议。有人认为，这可能是走错了方向。还有人认为，人工智能的研究方向并没有走错，而是在不断扩展和深化。不过，人工智能不仅是基于数据的模型，还包括许多其他方面的研究，如符号推理、逻辑推理、（非）知识表示、诡诈欺骗、真假辨识等。

传统的自动化领域涉及老三论，即控制论、信息论和系统论。控制论通过信息和反馈建立了工程技术、生命科学和社会科学之间的联系。控制论中的信息输入、处理、输出、反馈，一般以客观事实性数据、模型、统计为基础，因而在科技与工程领域具有较好的使用效果，而在涉及包含主观价值的社会、经济领域则往往使用效果欠佳。在信息论中，香农定义了信息熵，是对消息中所含的信息量的度量，可以用来推算传递经二进制编码后的原信息所需要的信道带宽。信息熵的提出，解决了对信息的量化度量问题，而对于（不同发出/接收者）信息质量的好坏却缺乏度量。1932年，贝塔朗菲（L. V. Bertalanffy）发表“抗体系统论”，提出了系统论的思想。目前，系统论运用完整性、集中性、等级结构、终极性、逻辑同构等概念，研究了适用于综合系统或子系统的模式、原则和规律，并力图对其结构和功能进行数学描述。但是，这一路径对于包含人在内的复杂系统处理还不是很理想。总之，对于自动化领域控制论、信息论和系统论而言，缺乏价值反馈、价值度措、价值体现，成为其进一步发展的瓶颈和挑战。

当前的智能化研究主要基于符号主义、连接主义或行为主义，对人类智能进行分析与模拟并取得了不少成绩，但也出现了许多困难和不足，远未达到人们的期望和要求。究其原因，当前研究的核心仍试图以还原论的思想，破解智能的机理或应用，而没有从根本上理解智能产生的机制原理及应用的规律。与机器智能相较而言，人类智能并非孤立的，而是在人物环境交互产生的。真正的智能可以计算，但单纯的计算是不能产生智能的——智能的基本逻辑是比较，而不是计算。把智能看成某种逻辑或计算，是制约智能发展的瓶颈和误区。

智能不但涉及科学、技术、数学等领域，而且还涉及人文、艺术、社会等方面，既有客观事实又有主观意识，既有机械惯性又有灵活辩证，既有逻辑推理又有直觉感悟。把智能看成数据、信息、知识算法算力等是十分狭隘的。真实的智能不但能够学习、生产、使用、维护、升级这些事物，而且还可以扭曲、异化、诡诈、变易这些概念或机制机理。智能化不是信息化、数字化、自动化的简单延伸、扩展，而是一种大不相同的新型范式。智能不仅要掌握已知的信息学习已有的知识，更重要的是，还要生成有价值的信息、知识以及有效使用协调这些信息和知识——这是理性逻辑推理与感性超逻辑判断的统一。

依据现有计算和认知领域的成果，可以提出“计算计”模型，即针对复杂、多域、动态的环境，研究人机混合下的态势感知模型，能够探索“人—机—环境”对决策的影响。智能系统中的算计，是一种没有数学模型的计算。相比于智能计算中较为普遍的“与或非”逻辑，不妨将算计中的逻辑称为“是非应”。其中，“是”偏同化，“非”偏顺应，“应”偏平衡。遇到未知问题时，可以先用“是”、再用“非”、后用“应”。遇到大是大非时：大是不动，先试小非，再试中非；若不行，大非不动，先试小是，再试中是。这些试的过程，就是“中”的平衡。“应”就是不断尝试、调整、平衡。以上，就是计算与算计结合的新逻辑体系。算计逻辑把握价值情感方向，计算逻辑细化事实理性过程。在智能的未来发展中，新逻辑的出现或许会带来新的可能性。

针对当前智能化研究所面临的问题，需要从人类具身、离身、反身的态势感知角度，解决智能化建模难题。安德斯雷（Mica R. Endsley）提出了有关态势感知的一个共识概念，即在一定时间和空间内对环境中的各组成成分的感知、理解，进而预测这些成分后续的变化。深度态势感知是对态势感知的感知，其中既包括了人的智慧，也融合了机器的智能。这是一种“能指＋所指”，既关涉事物的属性（所指、感觉），又触及它们之间的关系（能指、知觉）；既能够理解弦外之音，也能够明白言外之意。这种深度态势感知，在安德斯雷以主体态势感知（包括信息输入、处理、输出环节）的基础上，分为“态”“势”“感”“知“四个环节，包括人、机（物）、环境（自然、社会）及其相互关系的整体系统趋势分析，具有“软（价值）／硬（事实）”两种调节反馈机制。这既包括自组织、自适应，也包括他组织互适应；既包括局部的定量计算预测，也包括全局的定性算计评估，是一种具有自主、自动弥聚效应的信息修正、补偿的“期望—选择—预测—控制”体系。智能的逻辑，既不同于理性的逻辑，也不同于感性的逻辑，而是两者的结合。对此，需要从态势感知这个角度入手，使离身具身反身认知形成整体进而建立起智能的“计算—算计”体系。

“计算—算计”智能模型框架

在笛卡尔数形计算的解析坐标系启示下，可以初步构建“计算—算计”的态势感知坐标系。状态参数可由环境中的物理参数（时间、地点、人物、事物等）组成“态向量”，并通过不同状态下的状态矩阵计算获得初级的趋势结果。趋势参数可由期望中的各种价值参数（时间、地点、人物事物等的价值）组成“势向量”，并通过不同趋势下的趋势矩阵算计获得次级的趋势结果。感觉参数可由感觉到的各种参数（时间、地点、人物、事物等）组成“感向量”，并通过不同感觉下的感觉矩阵计算获得初级的知觉结果。知觉参数可由知觉到的各种经验参数（时间地点、人物、事物等的经验值）组成“知向址”，并通过不同知觉下的知觉矩阵算计获得次级的知觉结果。通过这4个结果的“计算—算计”结果，可以拟合出综合的态势感知结果。进而，分别建立起离身、具身、反身的态势感知模型，再进行融合分析，可以得出整体系统的计算计结论。

或许智能的关键不在于计算能力，而在于带有反思的算计能力。算计比计算强大的地方在于反事实、反价值能力。自主性中常包含反思（事实反馈＋价值反馈）能力。事实性的计算是使用时空（逻辑），而价值性的算计是产生（新的）时空（逻辑）。通过计算与算计的深度结合，构建基于理性和感性混合驱动的计算计模型，实现人机混合智能决策，能够使人机混合系统被赋予更多智能，从而可以更好应对未来与未知的种种挑战。

五、结语

现代与未来社会是人机环境系统融合的社会。它不仅仅是智能化社会，更是智慧化社会，未来的社会不但要打破形式化的数学计算，还要打破传统思维的逻辑算计，是一种结合人、机、环境各方优势互补的新型“计算一算计”智能系统。