ChatGPT的科技伦理问题亟需重视

【中国绿发会讯】

摘要：科技要最大化地造福人类生活，应该以全面充分考虑它对人类生活产生的影响，尤其是预判和规避其可能产生的负面效用，否则很容易陷入覆水难收的境地。ChatGPT的诞生的确是智能机器人的一个阶段性进步，但其作为科技与日常生活难舍难分背景下的突破性成就，必须引起足够的伦理重视。当前来看，数据泄露、AI作弊与价值渗透是三个十分突出的伦理问题，增强人类适应科技进步的现代性智慧，是其“拄好科技之拐”的紧迫任务。

关键词：ChatGPT  公平正义  现代性智慧

近日来，火爆全网的ChatGPT引起了社会各界的广泛关注，它具有强大数据存储能力和超强信息检索功能，超强的语言识别技术使其在智能机器人中显得格外出众。媒体报道称，除了在信息检索功能上取代搜索引擎外，ChatGPT 还可以进行聊天互动、文学创作以及论文撰写等。Chat GPT对智能机器人的这一历史性变革看似为日常生活的智能和高效带来便利，实际上也存在着技术伦理的隐忧。

数据泄露。ChatGPT 以海量信息“为食”，数据量越大、数据越新，其功能性越好。这意味着要保证良好的用户体验，它必须在社会各领域中获取足够多和准确的知识和信息，但问题在于，许多信息涉及商业机密、国家机密和个人隐私，获取和利用这些信息本身存在合法性问题，一旦重要数据泄露，造成的损失到底是由泄露数据的人承担，还是由披露数据的ChatGPT承担？如何评估赔偿或者惩罚的力度？这些都不得而知。在当前个人信息被私自收集、买卖、利用的背景下，规范ChatGPT获取信息的合法性成为一个毫无头绪的问题。事实上为了规避数据泄露的风险，许多互联网巨头已经提醒员工在使用ChatGPT 时注意泄露机密的问题[1]，这意味着ChatGPT在获取信息时存在着已知的障碍，客观上成为一种抵制的力量。

AI作弊。ChatGPT被学生用于完成作业和撰写论文对教育界和学术界造成了重大的冲击。调查显示，美国有89%的学生用ChatGPT写作业，[2]目前尚未研究出可准确检测这种作弊行为的技术性方法。利用ChatGPT完成学业任务的高质量和高效率远超此前的系列解题软件，它可以完美避开查重等问题，这使其极具诱惑力。吊诡的是，教育界和学术界存在的意义本来就是为了培养社会人才、推进人类历史的进步，而ChatGPT作为当前智能机器人的一个前沿成果，却替代人类完成人才培养的任务，假如人类果真沉溺在这场“科学自动化”和自欺欺人中无法自拔，那就再也无法前进一步，而且势必会导致思考惰性和大脑退化。在这个意义上，ChatGPT的使用需要进一步被限制，而教育界和学术界如何既利用其强大的检索功能，又限制其被用于作弊同样是一个难题。

价值渗透。ChatGPT的数据输出功能承载着后台技术操控者的话语权，用户越多、使用范围越广就意味着其话语权越大、价值渗透力越强。如果操控者的价值观存在历史和文化的偏见、歧视，就会通过ChatGPT的“放大镜”昭然于世，误导用户，扭曲大众价值观，引起社会动荡，妨害社会公平正义[3]。另一方面，在国际竞争日益激烈的背景下，各种社会思潮此起彼伏。ChatGPT一旦面向大众，势必会代表以美国为首的发达资本主义国家发起意识形态渗透的攻势，成为价值渗透的重要工具。可以想见，在ChatGPT向发展中国家进行技术转移的过程中，文化冲突不可避免。

科学技术进步的历史潮流势不可挡，只是在坚持科技为人类服务而不是相反的原则基础上，要“从技术构思和设计阶段开始，认真思考技术对人的生存状态的意义”[4]。显然ChatGPT只是资本与技术共谋的自然结果，大众在面对技术变革时的现代性智慧和维权意识、反思意识还远远未跟上技术进步的速度。在技术更新迭代加速的背景下，增强人们应对技术变革的现代性智慧十分紧迫。

[1] 多家科技巨头提醒员工：不要泄露！不要泄露！https://mp.weixin.qq.com/s/ajIg8fer8yGri4PWxMbasQ，2023-2-10.

[2] 89%美国大学生竟用ChatGPT写作业！纽约大学教授警告：用AI就是剽窃https://www.51cto.com/article/745226.html，2023-1-29.

[3] AI的剥削：肯尼亚工人训练ChatGPT，看大量有害内容心理受伤https://www.thepaper.cn/newsDetail_forward_21629125，2023-1-19.

[4]段伟文. 被捆绑的时间 技术与人的生活世界[M]. 广州：广东教育出版社, 2001：239.

作者简介：唐电，喜欢思考个人命运、人类未来的马克思主义者，接地气的女博士，终生学习倡导者。

文/唐电  审/Linda  编/开心

本文转自“中国生物救护与科学伦理”微信公众号