人工智能大发展，人类终将一败涂地吗？

ChatGPT、Sora等智能应用的先后推出，既引起一些人的欢呼，也触发了更多人对技术的恐慌。相比以往的任何技术，人工智能技术带来的不确定性都要更大，尤其在风险方面，但人类之所以走上人工智能的开发道路并且在这条道路上越走越远，或许并不完全出于莽撞。

在人工智能这条新路上的探险，也是一种对人类本质与极限的探寻，在很多方面，智能机器成为了人类的“镜子”，帮助人类加深了自我认识。这也是智能机器对人类的重要诱惑。

（一）内窥深层认知规律的机器“镜子”

从技术角度看，人工智能的核心目标，是探求认知规律，因此，人工智能被很多计算机专家视为“关于知识的科学”，核心是研究知识的表示、获取与应用，实质上是从机器模拟的视角来理解人类知识的相关规律。智能机器的发展，使人类对知识的生成、智能机器与人类思维（以及承载思维的大脑、身体）之间的关系，有了深入的探究。

目前人工智能有三大流派，符号主义（将现实世界看作是符号的计算，认为在符号计算上实现了相应功能，那么在现实世界也就实现了对应功能）、连接主义（它主要关注大脑的神经元机制，试图发现大脑的结构及其处理信息的机制，进而在机器上进行模拟）、行为主义（它的假设是智能取决于感知和行动，不需要知识、表示和推理，机器只要能生成相应行为就是具有了智能）。

这三大流派对智能、知识的理解都有自己的局限，但它们也具有特定的意义。三者从符号、大脑机制以及行为几种不同角度探究人类智能的本质、知识生成的路径，机器成为窥探人类认知规律的一面镜子。未来的人工智能还会出现新的流派与技术，但机器这面镜子的作用肯定不会消失。

在理解知识生成规律的过程中，人工智能也迫使我们对人类思维、情感、行为等与认知相关的“秘密”进行深入的“内窥”。尽管以往的生物学、心理学、哲学以及其他人文社会科学都在进行这样的研究，但人工智能技术让研究者跳出人类本身，从机器这样一个模拟者的视角来看人类社会的运行，以及人类的本质。

新的视角催生新的认识，许多学科因为与人工智能技术的结合，也发生了重大变革，计算传播学、计算社会学以及计算法学等不仅是引入了计算的方法，更重要的是拓展了新的领域。

人工智能技术的演进也推动了“认知科学”这样的新的学科的发展。与人工智能三大流派非常类似，在认知研究中，也有三种典型的研究进路，分别是认知主义、联结主义和生成认知。

认知主义认为认知是作为符号计算的信息加工活动；联结主义认为认知是由简单成分构成的神经网络整体状态的突现；生成认知则认为认知是一种生成活动，即一种主体与世界之间的结构耦合过程。其中，生成认知在今天已经成为认知研究的主要进路。

人类在从智能机器角度认识自身的同时，也在试探着人与机器之间的最终边界，即机器对人类的学习、模仿可以到哪种程度，哪些方面是机器永远不能达到的。人们认为，那些机器不能达到的就应该是人类的本质，或者说“人性”。但在实践中，这个边界却在不断变化，人类对于自身的优越性、人类本质的自信也在不断被打击。

（二）反射现实世界的机器“镜子”

智能技术的应用，是为了解决现实世界的问题，这意味着机器需要尽力模拟人类社会和真实世界，很多时候，技术界会将对现实模拟的真实程度作为技术水平高低的衡量标准。

对人类社会的模仿，必然以人类为学习对象。机器的语言表达，来源于人类的语料，机器表现出来的情感，是对人的情感的模拟，机器的行为模式，也是对人类行为方式的模仿。机器的言行，也在总体反射着人类的价值观与文化。

机器对人类的学习，是基于具体的语料库或情境，面对不同的语料库或情境，机器获得的人类的素材可能大相径庭，有些语料库整体是文雅与文明的，有些则是充满戾气或污言秽语，由此形成的机器的语言与行为必然也会打上相似的烙印。

机器对人的学习并非一次性的，而是循环往复，人类的典型言行会经过机器的反复放大，产生“正反馈”效应。因此，“当我们在ChatGPT面前嘲笑其回答多么愚蠢的时候，其实真正愚蠢的是人类自己，因为在问答环节，ChatGPT学习到的不仅是我们用文字提供的问题，也学习到了人类嘲笑它的态度和反应”。

而从整体上看，机器在学习过程中，既可能复刻人类的共性，也可能放大人类的某些局部。例如，将一些枝节问题解读为关键问题，将个体行为推演为整体行为，将小众观念诠释成大众文化。机器是人类既有文化的放大镜与推广者，无论是对于美德的传承，还是对缺陷与错误的沿袭。机器放大与推广哪些局部，与机器后面掌握权力的人有关。因此，机器学习的结果，也反射着人类的权力结构。

除了通过学习来继承或揭示人类文化外，智能机器还可以用其他方式来反射现实世界。智能机器海量的信息生产能力，会将现实世界中发生的大大小小的各种活动、事件，变成媒介空间的信息，构建出“拟态环境”。尽管这仍然不可能完全复制现实世界，但相比传统媒体所构建的拟态环境，智能机器构建的拟态环境对人类活动的反映必然更为全面、丰富。大数据技术则可以通过社交媒体或数字空间的其他信息，来描绘社情民意的图景，解析社会发展的热点，或探知那些还在酝酿中的动向。

机器的反射不仅体现在人类活动方面，也扩展到人类生存环境的各个方面。物联网将现实空间中的各类数据（如空气质量数据、人群密度数据、电器运行数据等）源源不断地提取出来，发送给需要这些数据的平台、机构或个体。“数字孪生”技术甚至可以对城市等空间进行完整的复制。人们对生存空间的认识，也会更多地通过各种智能机器形成的数据及其加工产物。借助智能机器，现实环境也在“拟态化”。

Sora带来的一个新话题是，机器能否完全自行模拟出现实世界。虽然由于Sora的技术原理没有公开，它是否已经是一个“现实世界的模拟器”人们还不能确定，但至少它让人们感受到了这种新的可能。从理论上来说，现实世界的万物运行既然可以用物理学规律来解释，那么用机器来进行模拟也是完全可能的，只是对算力是一个极大挑战，但这种挑战也并非不能克服。

如果这一技术实现，这就意味着，智能机器这面镜子中呈现的景象，不全是真实发生的，还会有很多是人造或“机造”的。智能机器的镜子属性，在未来也可能发生变化。甚至可能发生一种翻转，机器先制造了一种“镜中现实”，人类再去模拟它。

（三）映照人类局限的机器“镜子”

人类历史上曾经或正在使用的各种机器，都是对人类的某些弱点或局限的增强、弥补，每一种机器都是人类某些特征的反面映照，当然，在这些机器被开发出来之前，人类相应的特征或许并没有被当作缺陷看待，而技术的进步，使人类的不足与局限得到越来越多的暴露。智能机器同样如此。人工智能的发展，使人类不断反思自身在认知能力上的局限，并试图通过技术进行补充和增强。而在智能技术应用之前，人类对这些能力曾经是自信的。

从内容产业来看，智能技术的一个基本应用方向，是拓展人在信息采集方面的能力。信息采集维度与深度的拓展，也增强了人类对于社会现象和现实世界的认知能力。就像工业时代的机器一样，智能技术在信息生产、管理方面的效率也是它被广泛应用的重要原因，在信息爆炸的时代，这样的效率更是人类所需要的。

Sora因其具有“文生视频”的功能而备受关注，对于视频生产来说，这是一个关键性的效率提升。同样，ChatGPT所解决的是基于海量信息的“量身定做”的信息整合与加工。即使它当下的水平是平庸的，但已经能满足普通人的常规需求。在效率提升的同时，技术应用的门槛却不断降低，更多人可以参与到专业化的内容生产与创作中。

智能技术对人的认知能力的另一个补充，是对规律的深层挖掘、提炼，而前提是抽象问题的模型化与量化，即精确量化原本模糊含混的一些概念，例如特定领域中的“艺术风格”，博弈中的“棋风”，并且使这些只可意会、无法言传的技巧风格变得朴实无华，容易复制和推广。在将各种个性化的人类行为模型化、量化的基础上，这些行为的内在普遍规律便可得到一定程度的揭示。对人类行为的规律化总结，有利于相应行为的学习、模仿或大规模复制，同时也便于决策、调控，在内容生产方面也是如此。

从这些角度看，人工智能技术的出现也是信息时代发展的一个必然，它的开发目标，也是成为人类的补充者，而非人类的敌人。

但值得我们思考的问题是，在机器面前被不断揭示的人类的局限，是否一定都是问题，是否一定都要由机器去解决？人类是否一定要去追求某种能力的极限，获得这种极限能力是会让人类生活得更好，还是会更差？

至少在今天，技术带来的能力增强，并没有让人们更轻松，更幸福。当我们获得了各种新技术增强的能力，例如强大的记忆能力（这建立在各种外部存储的支撑上）、随时随地的连接与交流能力、多线程任务的处理能力时，我们的压迫感与焦虑也在与日俱增。智能技术的未来发展，一定会减轻压迫感或焦虑吗，或许我们对此也没有把握。

智能机器这面镜子，不是在被动映射着人，它还带来一种可能，在不断增强人类的同时，造成人类对它的依赖，人类原来的短板会因此变得更短，甚至有时可能接近“残疾”。它们在其他方面对人类的钳制也与日俱增。但人类在一开始并不能完全预测这些风险，即使有所担忧，但总还是认为人类可以控制好智能技术，因为它们归根结底只是工具。然而智能技术比任何一种工具都具有能动性，它带来的不确定性也是最大的。

（四）人机交流与“镜中我”

人工智能不仅是人类进行自我认识“镜子”，也是个体自我认知的“镜子”，这种认知主要通过人机交流、互动来实现。早在20世纪80年代，雪莉·特克尔便通过儿童与智能玩具互动的研究表明，展现有人类特征的人造物成为我们重新定义自我形象的镜子或“第二自我”。今天的智能机器不仅是玩具，也是人们日常交流的伙伴、助手甚至管家。对于个体的自我认知来说，它们作为“镜子”的作用会越来越突出。

米德指出，我们所称的“交流”的重要性在于，事实上它提供一种行为形式，使有机体或个体可以成为他自己的对象。也就是说，交流使人们可以从他人那直面自己、认识自己。而库利则更明确地指出，“人们彼此都是一面镜子，映照着对方”，人们通过他人看到一种“社会自我”，“这种社会自我可以被称为反射自我或镜中自我”。

人要获得对自己的完整的认知，需要通过社会交往中的他者，但他者也是多种多样的，有些他者与自己存在较大的同质性，有些则具有较大的异质性。从同质性他者那里人们容易获得对自我的积极肯定，而从异质性的他者那里人们可以更清楚自己的优势与劣势，通过与异质他者的对比更好地定义自身的个性与特质，异质的他者也更容易激发人们的自我变革动力。但是，异质他者也可能带来对自我认同的负面影响，增加人们的认知失调，对此人们的本能是回避。

不同类型的社交互动，也会带来不同结果。今天的一些社交媒体，如微信，是强关系的社交，出于社会关系维护的需要，相互赞同、讨好则成为了互动的主旋律，但这并不会真正地让人们获得充分的自我认同，因为这个平台也充满了自我炫耀的社交表演，由此带来的社会比较压力与日俱增，这在无形中增加了人们的自我否定与内心纠结。而在另一些弱关系、匿名社交为主的平台，如微博等，人们之间的相互否定、厮杀依然激烈甚至较以往有过之而不及，这也会增加人们的负面情绪。

社交越是频繁，人们对社交中的认同以及获得正面反馈的需要就越是强烈，这既包括在互动中来自他人的认同，也包括从社交环境的比较中获得的对自我的肯定与认同，但当下的社交平台并不能很好地满足人们的需求。

库利指出，自我最纠缠人的东西来自对他人意识的反映，保护社会自我的消极办法是逃避刺激和折磨人的暗示，积极的办法是与之斗争，学会控制和转化自我情感。但人们往往更多地是采用消极的办法，当社交平台充满了刺激和折磨人的暗示时，逃避的动因也就不断增加，这会将一些人推向人机交流。与此同时，技术的发展，会使人机交流中的机器的“智商”“情商”不断提高。因此，可以预期，人机交流会逐渐普及。那么，在人机交流中，人对于机器会有什么样的期待，人们会在人机交流中对机器采取什么样的姿态？

有研究提出，用户认为被动而富有表现力的机器人更易于相处，而主动型机器人比被动型机器人更容易让人产生被支配感，甚至让人感到被不平等地对待。一项针对儿童的人机交互实验也揭示，大多数参与实验的儿童都更喜欢与顺从型机器人而不是非顺从型机器人进行互动。为了迎合用户对人机交流的这样一种需要，在社交机器人的设计中，设计者的思路大多是以人为中心的，目前诸如小冰、ChatGPT、文心一言等也是以彬彬有理、服从、迎合人的方式来与人对话。

在现实的人际交流中，人们常常不能完全选择自己的交流对象，也难以完全控制交流过程，但在人机交流中，选择性和可控性大大增强。

在人机交流中，人总是主动的一方，是诉说者和话题的引导者，而不会是倾听者。事实上在今天的人际交流中，人们对于他人的倾听也越来越稀缺，如韩炳哲所言，今天我们越来越丧失倾听的能力，妨碍倾听的罪魁祸首是日益严重的自我聚焦，即自恋。将来或许会产生一种新的职业，叫倾听者，为他人奉献听觉并收取酬劳，但即使有人类倾听者这样一种职业，他们与“雇主”之间的交流中也难免会出现摩擦与冲突，这也给机器倾听者的大行其道提供了机会。

让机器充当倾听者，虽然对人类的诉说是有益的，但这种“主仆式”的交流模式却难以带来真实的“镜中我”。它帮助人建立起的自我认同，未必与人们在真实的人类交往中形成的自我认同一致，甚至可能因为机器总是迎合、取悦于人，这面镜子反射的自我会具有很大的迷惑性，这会妨碍人形成准确的自我认知，当人们回归现实的人际交流时，不恰当的自我认识可能带来交流的障碍。

库利指出，人在对待自己的社会自我的态度上有两种方式，一种是骄傲，一种是谦卑。骄傲是过于僵硬和过分自信的人肯定社会自我的方式，它隔绝了新的影响，使自己的成长受到阻碍，从长远来看，它会造成软弱。可以想象，人机交流中，人们的骄傲情绪会比谦卑表现得更突出，但带来的长远影响，却可能是库利所说的“软弱”。

从技术角度看，人机交流中的机器完全可以被设计成具有异质性甚至挑战性的他者，但愿意接受机器挑战的人恐怕不会太多。即使人们希望机器具有一定的异质性与挑战性，也只是为了增加交流的乐趣，仍会以不动摇自我认同为前提。

（五）机器中介与强化的“凝视”

可穿戴设备等智能机器也会通过身体数据的采集与传播影响人的自我认识。身体数据不仅成为健康管理的依据，也成为自我传播的新纽带，成为映射“镜中我”的特别维度。

智能机器将人的自我传播扩展为物质自我（身体）与精神自我（意识）的对话。物质自我的各种数据，被精神自我获知，成为对自我状态进行认知的重要依据。而精神自我则会根据这些数据来做出行为调整或控制，如增加运动、改变生活方式或进行治疗等，这些手段也会对物质自我的数据产生进一步影响。

有了这些数据，人们仿佛可以跳出自己的身体，随时对自己的状态进行凝视。但这种凝视会带来对身体的过分关注，引发焦虑。原本微不足道的身体问题被放大，原来正常的数据可能被人们不当的解读，机器误报的数据也会带来判断的差错。身体也不再是一个整体，而是变成一系列离散的数据。人们对身体的认知，不是来自自身的体验，而是来自数据性评估——是否达标、是否完美。对数据的控制、对完美数据的追求，替代了身体内在的真正感受。

对于个体而言，智能机器也具有拉康所说的主体的镜像认同中的他者的意义。拉康指出，主体的自我认同就像在一个镜像中看自己，这种观看并非主体自身的看，而是由他者的凝视结构出来的。在主体对镜像的观看中，不仅有属于想象界的自恋性认同，还有属于象征界的他者认同。后者是以他者的目光来看自己，按照他人指给自己的理想形象来看自己，以使自己成为令人满意的、值得爱的对象。机器这样的他者，虽然不会像人类他者那样发表意见或表明态度，但它以数据方式对人进行的凝视，更为直接，更容易成为人的行为的“指挥棒”。

经过智能机器中介、控制的自我传播，也会延伸到人际传播中。人们将身体的数据（特别是运动数据）作为社会互动中自我表演的方式，并且与其他自我表演一样，期待从他人那获得积极的反馈，这时，机器也成为了人类他者对自我进行凝视的中介装置。

在现代社会，如吉登斯所言，对身体保持规训，是优秀的社会能动者固有的一种能力⋯⋯对身体的惯常性控制，既是能动的一种内在本质，也被他人接受（信任）为个体的一种能力。在吉登斯那个时代，身体的规训更多通过外表、仪态等体现，而智能时代的身体规训则体现为运动健身、养生等，数据成为规训效果的主要证明。通过身体数据来进行身体的控制，成本可能更低（因为在一定程度上可以造假），且效果更直接有效。

机器中介或强化的凝视，看上去使人们增加了对自我的关注与审视，但在这个过程中，人们受到机器和其他外在因素的影响也更加深重，人的自主判断与行动力则可能被不断削弱。

未来智能机器与人类的关系还会不断变化，是让机器向越来越类似人的方向发展，还是反其道行之？是坚持人类中心主义，还是拥抱人与机器平等共存甚至人机共生的未来？这些问题需要人类一次又一次的思考。但无论如何，人类不应该失去对自身价值的坚守。

*摘录有删减，原文刊载于《新闻大学》2024年第3期 （总第215期），作者：彭兰，原标题为“彭兰 | '镜子'与'他者'：智能机器与人类关系之考辨”。

《媒介的欺骗性：后图灵时代的人工智能和社会生活》[意]西蒙尼·纳塔莱 著 汪让 译

人工智能往往被形容成一种超越人类、如美梦又如噩梦般的存在。它引发了很多关于人类社会形而上学的思考。不可否认，人工智能正一点点改变我们的日常生活，但人工智能到底是什么？它对人类社会的重塑又是怎么发生的？

本书通过回顾人工智能技术的发展历史，揭露了人类关于这种技术的幻觉和谬论。聚焦于沟通型人工智能，作者指出它们并不是一种真正的“智能”，而是人类对自身的投射。人工智能技术利用文化偏见和现代心理学来匹配人类对外界环境的观察和探询，从而投射出“智能”的假象。

作者提出了“庸俗欺骗”这个概念来揭示人机互动的本质即欺骗，并详细阐述了“庸俗欺骗”的各个维度。所谓人工智能，无非是利用投射和刻板印象来附和社会规范罢了。透过人工智能技术，我们恰好可以看出人类是多么容易受到欺骗。在各种科技的不断兴起中，我们人类也被逐渐改变。只有深刻理解人类面对媒介骗局的脆弱性，我们才能成为更加成熟审慎的媒体消费者。