- +1
AI聊天机器人,没这么安全?
2023-09-01 14:42
来源:澎湃新闻·澎湃号·湃客
字号
据路透社8月30日报道,英国官员正在警告机构组织注意把人工智能聊天机器人整合到业务中的风险,称研究越来越多地显示,机构组织可能被诱骗从事有害的任务。
其实AI聊天机器人目前所面临的问题相对还比较多,毕竟是一项新的技术,各种应用与标准都还不完善。AI聊天机器人在政府以及公司工作中的使用,不仅存在着数据与网络的安全风险,同时由于AI幻觉问题也在一定程度上影响着AI使用的质量。
而目前将AI聊天用于日常的娱乐,包括网络文学的创作方面,这将会是一个不错的工具。但是如果要应用于相对严谨的资料处理,包括知识领域的应用,目前还需要谨慎的对待。
当然,如果只是一个假的AI聊天机器人,本质上只是一个资料问答,或者说数据库问答,这类的聊天对话相对可靠性更一些,但这类产品跟AI聊天机器人之间没有什么关联。
当前,摆在各国政府以及企业面前的现实挑战是两方面:一方面是如何快速的发展出成熟、可靠的AI大模型应用技术,另外一方面则是如何有效监管AI大模型的使用安全性。
特别声明
本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。
+1
收藏
我要举报
查看更多
澎湃矩阵
新闻报料
- 报料热线: 021-962866
- 报料邮箱: news@thepaper.cn
互联网新闻信息服务许可证:31120170006
增值电信业务经营许可证:沪B2-2017116
© 2014-2024 上海东方报业有限公司
反馈