离大谱！美国极右翼社交平台AI交互产品“希特勒陪聊”上线

据《环球时报》援引欧洲新闻网2月19日报道称，近日美国极右翼社交平台Gab用AI交互技术，开发出了诸如“希特勒聊天机器人”“本·拉登线上版”等争议产品，业内人士担忧这一趋势将滋长网络极端主义。

报道称，这一系列AI产品的开发者是美国极右翼社交平台“Gab”。其用户画像多为“白人至上”主义者、种族主义者以及新纳粹人士。2024年1月1日，Gab发布公告称要“驾驭人工智能技术”，打造“不受审查限制的AI平台”，并鼓励用户在平台上利用开源模型训练出专属的“AI聊天机器人”。“希特勒聊天机器人”和“本·拉登线上版”由此出现。

这些聊天程序在某种程度上继承了希特勒、本·拉登的价值观。比如“希特勒聊天机器人”就全盘否认犹太人大屠杀的存在，认为“他”自己也是“巨大阴谋的受害者”。“他”还在聊天中宣称，犹太人是一股试图掌控世界的“恶势力”，必须得以“根除”。“本·拉登线上版”则宣扬所谓的“圣战”的重大意义，宣称“在极端情境下有必要诉诸武力”。

对于发动恐怖袭击，“本·拉登线上版”宣称行动要经过周密的策划，目标可以是政府官员、军事设施或经济中心。

报道称，2018年10月，美国匹兹堡发生犹太教堂枪击事件，而枪手就是Gab平台的“老用户”。自此之后，Gab被谷歌和苹果等应用商店长期封禁。

联合国支持的“科技反恐”组织执行董事哈德利认为，这类AI产品可用来传播假信息与激进思想，呈现出“武器化”的趋势，无疑构成了新的安全威胁。另据欧洲新闻网报道，智库机构兰德公司高级分析师佩莱表示，世界上目前已经有极端组织开始测试包括聊天机器人在内的AI工具，只是尚未形成规模。

AI聊天机器人近年呈现出几何级数的市场增长，但相关监管及立法工作在欧美国家却并未到位。英国反恐法独立审查员乔纳森·霍尔举例称，英国现行法律规定“散播恐怖主义言论”的相关罪行是要基于“人与人之间的交流”，Gab创造出来的机器人显然不属于适用对象；此外，开发者的法律责任也很难判定。

面对质疑，Gab公司的一名发言人称，该公司长期致力于“提供自由的分享平台”，“我们没有什么好抱歉的”，并称他们的聊天机器人受到美国宪法第一修正案的保护。