人工智能教父已从谷歌辞职，称辞职是为公开警告AI的危险性

来源丨元宇宙简史

编写丨元宇宙简史主理人 Fun

【元宇宙导读】被称为“人工智能教父”的 Geoffrey Hinton 已辞去谷歌职务，以便能够更公开地谈论该技术的潜在危险。辞职前，Geoffrey Hinton 在谷歌从事机器学习算法工作超过十年，其一生都在研究神经网络。

人工智能（AI）领域的先驱，被誉为人工智能之父的Geoffrey Hinton，近日宣布辞去谷歌的工作，对人工智能领域快速发展带来日益增长的危险表示担忧。

他在接受媒体采访时说：“我不想被一个公司束缚住，我想能够说出我真正想说的话，而不受公司利益或政策的影响”

01、Hinton的贡献和遗憾

Hinton是一位英国-加拿大认知心理学家和计算机科学家，他在深度学习和神经网络方面的开创性研究为当前的AI系统如ChatGPT等奠定了基础。2012年，他和他在多伦多大学的两名学生建立了一个神经网络，引起了谷歌等科技巨头的注意。Hinton于十年前加入谷歌，帮助该公司开发其AI技术。

然而，Hinton在本周向《纽约时报》发表声明，宣布辞去谷歌的职务，称他现在对自己的工作感到后悔。他说：“我现在可以自由地说出我认为危险可能是什么。有些危险是相当可怕的。”

Hinton在周一接受BBC采访时说：“目前，我们看到的是像GPT-4这样的东西，在它所拥有的一般知识方面超过了一个人，并且超过了很多。在推理方面，它还不是很好，但它已经能够做一些简单的推理。而且考虑到进步的速度，我们预计事情会很快变得更好。所以我们需要担心这一点。目前，它们还没有比我们更聪明，据我所知。但我认为它们很快可能会。”

Hinton在《纽约时报》文章中提到了“坏人”会试图利用AI做“坏事”的问题。当BBC问他详细说明这一点时，他回答说：“这只是一种最坏情况的情景，一种噩梦情景。你可以想象，例如，一些坏人像[俄罗斯总统弗拉基米尔]普京那样决定给机器人创造自己的子目标。”这位科学家警告说，这最终可能“创造出像‘我需要获得更多权力’这样的子目标”。

Hinton还说，他辞职还有其他几个原因。“一个是，我75岁了。所以是时候退休了。另一个是，我实际上想说一些关于谷歌的好话。而且如果我不为谷歌工作，它们会更有说服力。”他强调说，他不想批评谷歌，并且该公司一直“非常负责任”。

02、AI带来的挑战和风险

Hinton对AI带来的挑战和风险有着清醒的认识。

他认为，在短期内，已经成为现实的一个问题是，在AI生成的照片、视频和文本充斥互联网的情况下，人们将无法辨别什么是真实的。

最近对图像生成器如Midjourney等进行的升级意味着人们现在可以制作出逼真的图像——今年三月份，在巴伦西亚羽绒服中出现的教皇弗朗西斯就是一个例子。

Hinton还担心AI最终会取代律师、个人助理等“苦差事”，甚至未来可能更多。他说：“我们正在开发的这种智能与我们拥有的智能非常不同。”“就好像你有1万个人，每当一个人学到了什么东西，每个人都自动知道了。这就是这些聊天机器人如何比任何一个人都知道更多东西。”

03、AI行业和社会应如何应对

Hinton认为AI行业和社会应该采取积极主动的态度来应对AI带来的挑战和风险。

他建议AI行业应该制定并遵守一些道德准则和规范，并且应该公开透明地分享其研究成果和数据。

“我们需要有一些规则来防止某些公司或某些国家获得过于强大或过于危险的技术。”他说。

Hinton还建议社会应该加强对AI技术和其影响的教育和意识，并且应该准备好适应AI改变就业市场和生活方式的可能性。

他说，“我们需要教育公众关于AI是什么、它能做什么、它不能做什么、它可能会做什么。我们也需要考虑如何重新分配收入和财富，在一个很多工作都被机器人取代或者变得不必要的世界里。”

Hinton尽管对AI感到担忧，但他也看到了AI带来的积极方面。“我认为AI可以做很多好事。”他说。“比如在医疗、教育、娱乐、环境保护、艺术、科学等领域”。

“我不打算停止做研究”，Hinton表示，他辞职后将继续从事AI相关研究，并且将与其他同行合作。

严正声明：本文为元宇宙简史原创，未经授权禁止转载！内容仅供参考交流，不构成任何投资建议。任何读者若据此进行投资决策，风险自担。