马斯克领衔166名专家致信联合国：建议全球禁用机器人武器

马斯克对人工智能的担忧并非玩笑。

据《财富》8月21日报道，包括特斯拉、SpaceX创始人埃隆·马斯克（Elon Musk）和谷歌Deepmind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）在内的166名人工智能（AI）研究人员已经致信联合国，要求严格监管自动武器，即“杀手机器人”。 虽然信件本身措辞比较谨慎，但随同信函发表的一份新闻稿表示，他们希望机器人武器被“禁止在国际上使用”。

该信的签署人还包括丹麦通用机器人公司、加拿大元素AI公司以及法国Aldebaran机器人公司的高管和创始人。

这封信严格描述了机器人武器的风险，并表示迫切需要采取强有力的行动。此次专家团联合上书主要是针对联合国官员考虑在联合国常规武器公约中加入机器人武器。早在1981年制定的公约和平行条约中限制了化学武器、眩目激光武器、地雷和其他武器，这些武器被认为 “会对战斗人员造成不必要的或不正当的痛苦，或者不加区别地影响平民”。

此前，机器人战士被认为可以减少人类士兵的伤亡，至少对富有的发达国家来说是这样。但马斯克和苏莱曼所代表的专家团主要的担忧来自于机器武器对平民的风险。他们写道：“这些武器可能会被暴君和恐怖分子用来对付无辜的人民，以及可能被黑客以恶意的方式使用。”

这封信还警告表示，如果不能迅速采取行动，将导致军备竞赛走向“杀人机器人”。事实上这已经在成为一种趋势，包括雷声、达索、MiG在内公司已经在开发或开发成功自治武器系统或前导技术。

元素AI创始人约书亚·本吉奥（Yoshua Bengio）还警告表示，AI武器化实际上可能会“损害人工智能的在良好应用方面的进一步发展”。这正是弗兰克赫伯特的科幻小说《沙丘》中所预见的场景——在一个宇宙中，所有的思考机器都被禁止，因为它们在过去的战争中扮演了角色。

据悉，联合国武器组织原定于8月21日召开会议，目前这次会议被推迟到11月。各国在此次专家会议上将表明对“杀人机器人武器”的观点，在迈向制定管制框架的讨论事实也即将启动。目前美国被认为正在急速推进开发“杀人机器人”。 迄今为止，在关于“杀人机器人武器”管制问题的非正式讨论中，机器人技术发达的日美对制定条约实施管制等态度慎重，而中国则表明了支持管制的立场。