外滩大会共话AI终极命题：消除人机鸿沟，人类主体性被强化还是弱化

·9月7日下午，外滩大会见解论坛“大语言模型消除人机鸿沟：人类主体性是强化还是弱化”将在上海黄浦世博园C1场馆举办。届时，来自计算机科学、哲学、历史和文学领域的知名学者，以及人工智能领域企业家将齐聚一堂共同探讨。

西方传说中，上帝为了阻止人类建成通天的“巴别塔”，变乱了人类语言，使得人类之间语言不通，永远没有办法真正达成沟通、理解他人。2022年12月ChatGPT横空出世掀起全球范围内的生成式人工智能热潮，被认为是打通了人类与计算机之间的沟通障碍。

从艺术创作到代码生成、从问题求解到科学发现、从问答聊天到辅助决策，大规模生成式预训练语言模型极大程度地降低了原来的专业门槛，一方面可以大大提高人类操作工具和获取新知识的效率，一方面可能会导致人类过于依赖机器而使自身智力倒退，甚至被机器超越和掌控。这由此提出了一个紧迫的问题：大语言模型消灭人机鸿沟后，人类主体性会强化还是弱化？

主体性（Subjectivity）是人类行为和认知的核心问题，在传统哲学中扮演着重要角色，可以简单理解为人的主观能动性。人类历史经历漫长发展，对人的主体性的认识，也因具体的历史条件变化而不同。当历史走到人工智能又一次“大爆发”时，相关议题亟待再次深入探究。

9月7日下午，外滩大会见解论坛“大语言模型消除人机鸿沟：人类主体性是强化还是弱化”将在上海黄浦世博园C1场馆举办。论坛由复旦大学、上海报业集团主办，复旦大学哲学学院、复旦大学计算机科学技术学院、澎湃新闻共同承办。届时，来自计算机科学、哲学、历史和文学领域的知名学者，以及人工智能领域企业家将齐聚一堂共同探讨。

当天，“2023 inclusion·外滩大会”将在上海黄浦世博园区开幕，大会以“科技·创造可持续未来”为主题，9月7日至9日将汇聚全球超500位有影响力的科技领军企业和专家学者，围绕科技、产业、人文等话题，聚焦人机智能、大模型、抗量子密码、分布式数据库、绿色计算、Web3.0等前沿科技，助力上海打造国际金融中心和科技创新中心。

消灭语言鸿沟，机器“理解”人类不再存在障碍

回顾人类与机器的交互历史，复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华在接受澎湃科技（www.thepaper.cn）采访时提到“巴别塔”，“曾经机器和人类之间也存在着这样的情况，至少机器一直以来都无法准确理解人类的自然语言，所以实际上人类一直迁就机器，将自己的意图转换成各种各样的形式语言。”

但现在看来，这些所有的形式语言都不必要了，基本上可以被自然语言代替。“某种程度上而言，可以认为机器‘理解’了人类的自然语言，同时也理解了各种专业的形式化语言，可以把人类各种自然语言所表达的意图准确转换成相应的形式语言，比如编程的语言和芯片设计的语言。”肖仰华判断。

也就是说，大语言模型消灭了语言鸿沟，机器“理解”人类不再存在障碍。不仅如此，《人类简史》和《未来简史》作者尤瓦尔·赫拉利今年4月在Frontiers论坛上演讲时表示，人工智能正在以超过人类平均水平的能力掌握语言。而通过掌握语言，人工智能正在掌握入侵人类文明系统的钥匙。

赫拉利甚至断言，人工智能与印刷机、收音机以及历史上的每一项发明都有根本不同，因为它可以创造全新的想法，可以创造新的文化。人类从未真正直接接触到现实，而总是通过文化的棱镜来体验现实。通过掌握语言，人工智能可以形成一种异种文化，拥有将人类包裹在矩阵般的幻境世界所需的一切。

另一方面，对于“如果通用人工智能时代真的到来会怎样”的问题，复旦大学计算机科学技术学院教授、MOSS大模型负责人邱锡鹏认为，通用人工智能会实现更高档的医疗、更优质的教育、更大的科学进展，这将为社会上每个人带来更美好的生活。但同时，人类还需要做好人工智能模型的安全准则，确保对人类有益。

人类主体性丧失的风险

在全球范围内，人工智能科学家、科技企业家与政治人物纷纷发出了不同程度、各有侧重的警告，提醒人们，在欢呼人工智能取得突破性进展的当下，更加需要理解其中蕴藏的风险。

大语言模型本质上是一个“黑箱”，人类很难确切了解触发人工智能“胡言乱语”（即通常所说的“幻觉”）的机制是什么，这种未知带来了当下的担忧。“我们完全不知道这个系统是如何工作的。如果它确实有内部目标，我们也不知道是什么导致了这些目标被激活。”此前，加州大学伯克利分校计算机科学教授、《人工智能：现代方法》作者斯图尔特·罗素（Stuart Russell）在接受澎湃科技采访时表示。

开发ChatGPT的人工智能机构OpenAI也频频发出警告。“我们想象一下，未来的AGI（通用人工智能）系统或许具有10万行二进制代码，人类监督员不太可能发现这样的模型是否在做一些邪恶的事情。”OpenAI联合创始人山姆·奥特曼（Sam Altman）6月在2023北京智源大会上表示。

“当人类发展了家禽技术，打猎技术就明显倒退；当纺织机器日益成熟，绣花技艺就显得没有必要。我们的各种非物质文化遗产、各类体育运动，本质上都是在防止人类的倒退。不能因为机器擅长完成人类的某项工作或任务，就放任人类的此项能力逐步退化。”肖仰华指出，“如果说以往各种技术的进步只是让人类逐步远离了大自然的原始状态，人类在与恶劣的自然环境的搏斗中所发展出的四肢能力的倒退是人类文明发展必须作出的牺牲；那么，此次旨在代替人类脑力的AGI会否引起人类智能的倒退？智能的倒退必然引起人类主体性的丧失与文明的崩塌。”

为了深入探究这一系列重要命题，邱锡鹏教授、肖仰华教授将在“大语言模型消除人机鸿沟：人类主体性是强化还是弱化”论坛上发表主旨演讲。同时，论坛还邀请了中国社会科学院哲学所科技哲学研究室主任、中国科协-复旦大学科技伦理与人类未来研究院教授段伟文和小i集团董事局主席兼CEO袁辉发表主旨演讲。

论坛同时邀请了华东师范大学紫江特聘教授、历史系博士生导师许纪霖，复旦大学哲学学院教授、中国科协-复旦大学科技伦理与人类未来研究院院长王国豫，复旦大学中文系教授严锋，达观数据董事长陈运文，上海稀宇科技有限公司（MiniMax）公共事务副总裁刘华进行跨界对话，对话由上海交通大学媒体与传播学院讲师、天奇创投基金管理合伙人魏武挥主持。

中国科学院院士、复旦大学副校长张人禾，以及上海报业集团副社长，澎湃新闻党委书记、董事长丁波将出席此次论坛并致辞。