山姆·阿尔特曼否认GPT-5传言，回应暂停AI训练公开信

来源丨元宇宙简史

编写丨元宇宙简史编辑部

【元宇宙导读】在麻省理工学院举办的一次活动中，阿尔特曼被问及这封公开信，他表示，这封信“缺少大部分技术细节，无法了解需要暂停的地方”，并指“我们现在没有训练，也短期内不会训练GPT-5”，OpenAI目前只是在GPT-4的基础上进行更多的工作而已。

近几年，人工智能的发展速度和能力一直引发着社会和科技界的关注和讨论。

最近，一封由多位科技界领袖人物签署的公开信在网络上引起了轩然大波，该信呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，称这种暂停应该是公开的和可验证的，并且包括所有关键参与者。这封信强调了对未来系统安全性的担忧，但遭到了包括一些签署方在内的许多业内人士的批评。

对此，OpenAI首席执行官山姆·阿尔特曼在麻省理工学院的一次活动中做出了回应，否认了公司正在训练GPT-5的传言，并表示公开信缺乏技术细节。

OpenAI是一家致力于创建和推广友善的人工智能的研究机构，OpenAI是由马斯克、阿尔特曼等六人在2015年联合创办，最初为非营利性机构。OpenAI最引人注目的项目之一就是GPT系列，这是一系列基于深度学习的自然语言生成系统，可以与人类进行流畅、有趣、甚至有创造力的对话。GPT系列已经迭代了多个版本，最新的GPT-4是目前世界上最大的语言模型之一。GPT-4不仅可以聊天，还可以写诗、编故事、生成代码、模仿名人等等，展现了惊人的能力和潜力。

然而，GPT-4也引发了一些争议和担忧，一方面是其可能被滥用或误用，造成社会和道德问题，另一方面是其可能对人类的智能和文化产生不可预测的影响。

不久前，生命未来研究所（Future of Life Institute）公布了一封公开信 ，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月，称这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。

这封信得到了包括马斯克在内的多位科技界领袖人物的签名支持 。然而，也有人认为这封信是马斯克及一众被OpenAI甩在身后的科技巨头们的缓兵之计 。毕竟，马斯克转头就投入AI浪潮，是个“心机Boy” 。

有观点认为，马斯克参与签名，主要是OpenAI的迭代速度太快了 。Google的搜索比对手好20%就占据了90%的搜索市场份额。OpenAI 的影响会更广泛，所有的上层应用都希望使用优更强大 AI 赋能的云服务。只能寄希望于 OpenAI 会像自动驾驶那样发展到某个阶段会遇到难以克服的瓶颈 。

OpenAI的CEO阿尔特曼则回应称：马斯克等人呼吁将AI研发工作暂停六个月的公开信缺乏“技术细节”。“我也认为，需要提高AI的安全指导意见。但公开信并非正确的解决之道。”

在麻省理工学院举办的一次活动中，阿尔特曼被问及这封公开信，他表示，这封信“缺少大部分技术细节，无法了解需要暂停的地方”，并指“我们现在没有训练，也短期内不会训练GPT-5”。

他还透露，OpenAI目前只是在GPT-4的基础上进行更多的工作而已。“我们正在做一些其他事情，在GPT-4之上，我认为有各种安全问题需要解决，而这些问题完全被忽略了。” 阿尔特曼说。

阿尔特曼还表示，OpenAI花了很长时间研究GPT-4的安全性，接受了外部审核，也进行了内部的红队演习。总之，OpenAI已经尽最大努力去了解，这个模型究竟发生了什么，而且让整个过程谨慎再谨慎。

他自豪地表示：自从我们发布GPT-4以后，一切都很不错。的确，GPT-4的安全能力确实无可指责，用阿尔特曼的话说，它也许不是功能最强大的模型，但肯定是目前未知最安全、最对齐的模型。

阿尔特曼认为，在技术进步和社会责任之间找到平衡是非常重要的。他说：“我认为我们需要更加关注安全性问题，并随着模型能力的提升而增加相应的措施。但我也认为我们需要保持创新和探索，并让更多人参与到这个过程中来。” 

阿尔特曼还表示，OpenAI一直致力于让人工智能更加开放和透明，并与政府和社会进行沟通和合作。他说：“我们相信人工智能是一种可以造福全人类的技术，我们希望通过我们的工作来促进这一愿景。”

严正声明：本文为元宇宙简史原创，未经授权禁止转载！内容仅供参考交流，不构成任何投资建议。任何读者若据此进行投资决策，风险自担。