人类该如何应对“技术奇点”？颠覆性技术创新需规范治理

在未来，机器取代科学家这样的“技术奇点”是否会出现？

“目前，这个奇点的出现会更接近于科幻小说，而不是现实世界。但技术奇点肯定会出现在人工智能非常发达的时代，发达到机器可以在方方面面取代人类心智的程度。”2013年沃尔夫物理学奖得主伊格纳西奥·西拉克（Ignacio Cirac）在第四届世界顶尖科学家论坛上做出如上预测。

这不仅是科学界的一个风险，也将是地球和人类面临的巨大风险。因此，在积极鼓励颠覆性技术创新的同时，亟须科学的管理方式和前瞻性的治理理念对其进行科学、合规、有序的管理与引导。

11月1日，在世界顶尖科学家国际协作论坛II：科技发展与前瞻治理上，西拉克和1988年诺贝尔化学奖得主罗伯特•胡贝尔（Robert Huber）、2020年邵逸夫生命科学和医学奖的得主吉罗•麦森伯克（Gero Miesenboeck）以及上海交通大学物理与天文学院长特聘教授、博导金贤敏等顶尖科学家聚焦颠覆性技术创新的特性，探讨如何构建科学的、具备前瞻性的治理体系，并就具体的治理程序制定提出合理建议。

伊格纳西奥•西拉克

伊格纳西奥•西拉克现任德国马克斯•普朗克量子光学研究所主任。他指出，科学技术的颠覆一直存在于我们人类社会中，甚至可以追溯到青铜时代。相比之前的科技颠覆，一方面，现在科技颠覆发生的速度太快，人类很难赶上并且认识所有的颠覆；另一方面，现在的科技颠覆具有不均衡性和挑战性，主要体现在如何将技术传递给第三世界和不发达国家。

对于技术奇点的问题，西拉克认为技术奇点的出现与人工智能的发展息息相关。

“有人会说，人类的灵感是无可取代的。这是因为人类接收了大量信息，在处理这些信息后，形成了某种特定方式作出反应。如果机器也能像人类这样收集信息，那么至少在理论上，人类能做到的，机器也能做到。”西拉克解释道，“到那时，机器就可能取代科学家，也能超越人类。当然，这个时间可能会很长，目前科学家们预计可能会在未来1000年后会出现。”

罗伯特•胡贝尔

在当今社会，生物科学技术和医学上有任何的新突破、新发现，都会影响着人类与社会发展的步伐。罗伯特•胡贝尔出生于1937年，从事结构生物学研究工作60多年，几乎包揽了生命科学和医学领域的各种大奖，他以自己的科研经历向人们介绍了科学技术带来的变革。因“确定了光合作用反应中心的三维结构”，获得了 1988 年诺贝尔化学奖。

第一个是超分辨率技术如显微镜、核磁共振显像、x射线晶体衍射等，这些新技术改变了我们看待生物学的方式，尤其在医学诊断领域；第二个事例是生物结晶领域，20世纪60年代早期增长非常缓慢，20多年后呈指数级增长，膜蛋白也是如此，这都要归功于技术的进步。

吉罗•麦森伯克

吉罗•麦森伯克是神经学科学家，是光遗传学的创始人，也是第一个通过基因改造神经细胞的科学家。他分享了近50年重组DNA技术的安全风险引起了民众的担忧，以及科学家采取的措施。

“在20世纪60年代末分离出第一个基因后，大家就呼吁就基因进步加速的社会伦理层面进行对话，随后人们开始关注致癌病毒的传染性，但真正点燃激烈争论导火索的是分子生物学家。”麦森伯克说道，“因为对于每一个有能力的分子生物学家来说，在物种之间传递基因信息是很容易的。尽管只是假设，但这些风险在理论上是存在的，这导致了许多科学家自愿暂停这项被认为具有潜在危险的实验。”

在论坛上，三位顶尖科学家都认为，科技发展对社会的影响具有两面性，颠覆性技术极大地加速了社会经济的发展，同时也在以潜入和替代的方式从根本上颠覆传统（主流）技术，并引发相应规则和格局的变革，影响重大。因此，在鼓励颠覆性技术创新的同时，对科学技术进行合理有序的规范和治理，才是为人类社会生活、生命健康谋福利的最好方式。

他们一致认为，食物、能源、和平，和科学技术一样，对人类的发展都十分重要，而音乐、艺术、文学等则从精神层面满足人类的需求。在构建治理体系中，除了科研机构的自我约束、加强国际协作、政府机构起到监督协调作用外，最关键是要制定一套规则和体系，设立一个由科学家和有科学素养的公众成员组成的独立机构。比如技术评估机构，它不仅仅是对科学质量进行评估，还对技术成果的管理、商业化、获取途径，提供独立的建议和报告。