复旦应用伦理专硕举办《科技伦理专题》课程案例研讨会——深入探讨科技伦理挑战，共谋人类命运与伦理未来

2024年12月21日，复旦大学哲学学院MAE应用伦理2024级专业硕士研究生在课程老师杨庆峰教授指导下，在光华楼西主楼2501成功举办了以“人类命运画布上的伦理笔触”为主题的《科技伦理专题》课程案例研讨会。本次研讨会汇聚了来自哲学、公共管理、科技、法律等多个领域的专家学者和研究生及对科技伦理话题感兴趣的社会人士，共同探讨了科技飞速发展背景下的伦理问题和挑战。

会议由哲学学院24级MAE应用伦理专业胡佳欣主持，点评专家包括上海交通大学科学史与科学文化研究院闫宏秀教授、复旦大学国际关系与公共事务学院郑磊教授、复旦大学哲学学院徐志宏副教授和杨庆峰教授。专家们的深入点评为研讨会提供了宝贵的学术支持和指导。研讨会分为上下两个半场，上半场聚焦于人工智能伦理，涉及AI换脸诈骗、生成式人工智能伦理问题、AI Agent落地企业应用及相关问题、算法镜像等议题。下半场则围绕医疗数据的伦理问题、企业智能体实践与反思、DBS（脑深度神经刺激）技术发展的伦理思考、危废物处置的环保技术推广问题等前沿科技伦理案例进行深入研讨。

案例一：AI换脸诈骗

分享人：2024级MAE刘婧贤、张康、姚好、胡佳欣、陈嗣元

数字面庞的技术诞生让一人千面成为了可能。由AI换脸诈骗的案例引发对不同种类数字面庞的探讨，根据同一性和真实性的强弱关系将数字面庞分为数字面貌、数字复活、数字拟真、数字面具四大象限。对这四象限的伦理审视，涉及面孔失真、身份失落、社会失信等范围的讨论，并根据不同情况分析可能涉及的法律后果。结合列维纳斯关于“脸”的表述，特别探讨了数字复活能否成为“他者”、数字面貌中的“美颜”是再现美貌还是审美同质化等内容。希望提出更加明晰的数字面庞使用的知情同意书设计要求，需要严格授权、规范使用，涉及数字采集、数据应用及用户体验等方面知情同意，以期更规范化使用数字面庞。

专家点评：

郑磊教授指出，AI换脸技术的滥用不仅涉及隐私侵犯，还可能对社会信任造成深远影响。他强调，技术提供方应承担起审查义务，确保技术不被用于非法目的。闫宏秀教授则从数据伦理的角度提出，应加强对数字脸庞使用的监管，明确数据采集和应用的规范，保障用户的知情同意权。

案例二：生成式人工智能伦理问题

分享人：2024级MAE张育伟

近年来，通过“深度伪造（Deepfake）”技术生成的虚假内容造成侵权的事件多发，不法分子利用技术实施诈骗的案例也层出不穷。随着生成式人工智能的发展，多模态的“深度伪造”内容的技术门槛已经很低，而技术普及带来的伦理滑坡风险和给人类社会带来的群体性危机也迫在眉睫，主体的“不在场”也在人与技术框架内造成了主体性消解的风险。在以互联网为媒介的数字社会转型的过程中，音视频内容实际上已经成为了主流的信息传播和大众娱乐的主体，“AI数字人”等“深度伪造”内容的商业化也方兴未艾。如何认识技术商业化和人的认知与权利保护的张力，如何对”深度伪造”技术的应用进行合理的治理，回顾智能手机和汽车等有效的治理实践，也许能够提供一种基于原则化的实践治理路径和基于人和技术责任的规制方式。

专家点评：

徐志宏副教授对张玉伟同学提出的分级治理路径表示赞赏，他认为这为解决生成式人工智能的伦理问题提供了新思路。同时，他也指出，分级治理应结合具体场景，明确不同级别下的责任主体和监管措施。杨庆峰教授则强调，生成式人工智能的伦理问题复杂多变，需要跨学科合作，共同寻找解决方案。

案例三：AI Agent落地企业应用及相关问题

分享人：2024级MAE李春堂、陈丹妮

近年来，人工智能（AI）技术飞速发展，大模型驱动的AI Agent正从简单自动化执行跃升至高度自主与创新，深度嵌入各行业，推动企业数智化转型，成为新时代的创新引擎。从AI面试到智能客服，从知识管理到无人驾驶，AI Agent正在重塑传统业务模式，为效率提升和生产力变革注入强大动能。然而，技术革命也带来了诸如隐私保护、算法歧视、责任归属、职业替代和社会公平等一系列复杂伦理挑战，迫使我们重新思考人类与AI的关系。在AI Agent逐步具备自主决策能力以及多AI系统复杂性涌现的背景下，构建跨主体、可解释的动态治理机制已成当务之急。这不仅是防范技术滥用的必要措施，更是守护人类主体性和自由的关键保障。唯有将AI Agent深度融入社会—技术—自然的多元生态中，并与公正、自由和尊严等核心价值相对齐，人类方能迈向人机协作的全新时代，真正实现创新红利的普惠共享。这是技术与伦理融合的时代命题，也是全社会共同面对的使命。

专家点评：

郑磊教授对AI Agent在企业应用中的潜力表示肯定，但他也提醒，技术普及需警惕失业潮和分配不均等问题。闫宏秀教授则提出，企业应在智能化进程中关注员工的职业发展和培训需求，确保技术红利惠及更多人。

案例四：算法镜像

分享人：2024级MAE侯弘毅

2024年初，某社交平台因AI算法操控问题引发广泛关注。该平台运用大数据和AI技术，将算法操控产品化，极大威胁了用户的自主性。用户在这个体系中，由于自爱和利己倾向被过度放大，容易迷失于海量信息，被诱导消费，丧失自我决策的能力。这不仅侵犯了用户隐私，更加剧了认知偏见，导致信息失衡和社会分化。算法操控的滥用还可能引发数据垄断和不公平竞争，威胁社会经济秩序。我们必须对此保持高度警惕，加强监管，明确技术伦理边界，推动科技向善，保障数字经济健康发展。用户在使用这类平台时，应理性看待算法推荐，保持独立思考，避免丧失自主性，成为算法的傀儡。

专家点评：

徐志宏副教授对侯弘毅同学从广告人视角剖析算法镜像表示赞赏，他认为这有助于更深入地理解算法推荐机制的伦理问题。杨庆峰教授则强调，算法镜像不仅影响用户行为，还可能对社会价值观和公共权益造成潜在威胁，因此需要加强监管和透明度。

案例五：谁能获得医疗数据“金矿开采许可证”

分享人：2024级MAE许怡婷

医疗数据共享使用需要经过匿名化、清洗和标准化等处理，既有效保护患者的隐私，又确保数据的准确性和可用性，在基础临床研究、新药研发、医疗服务优化以及保险产品开发等多个场景中，处理后的医疗数据发挥着重要价值并持续为医疗技术进步提供有效依据。个人、医疗机构和政府管理部门都面临着功利主义与义务论的抉择。个人需权衡隐私权、知情权与数据共享的利弊，同时关注数据安全的信任问题；医疗机构则需确保数据的质量与责任，避免利益冲突，保证数据共享的公平性和透明度；政府管理部门既要促进数据合理利用，又要切实保护个人隐私，将公共利益和社会责任放在首位，确保医疗数据在推动医疗进步的同时，也能充分保障各方的合法权益。

专家点评：

闫宏秀教授则提出，医疗数据交易应遵循公益性原则，确保数据的安全性和完整性，同时保障患者的知情权和选择权。杨庆峰教授指出，医疗数据交易涉及多方利益，需建立健全的数据确权和隐私保护机制。

案例六：企业智能体实践与反思

分享人：2024级MAE张璟

“智能时代下，为提升企业竞争力，企业尝试依托人工智能技术构建企业智能体，全面提升企业智能化水平，重构企业组织形态，打破部门壁垒，让企业员工可以精准满足需求，促进企业内部的高效协作。然而，构建企业智能体的实践过程中科技伦理问题相继涌现，如员工数据确权与隐私保护、智能替代引发失业潮、智能调度下员工主体性缺失、新安全隐患的新治理措施、企业智能体事故定责、智能时代公平公正的保障，这些科技伦理问题都需要进行澄清、反思，并讨论相应的解决方案。深切期望随着科技伦理观念的逐步普及、指导政策法规的逐步到位、全球合作的逐步加强，人类能形成体系化、敏捷迭代、面向未来的科技伦理解决方案，以应对诸多科技伦理问题的挑战。”

专家点评：

郑磊教授对企业智能体在提升企业运营效率方面的作用表示肯定，但他也提醒，技术替代人工需关注失业潮和人性关怀问题。杨庆峰教授则强调，企业智能体的发展应遵循伦理原则，确保技术服务于人类的整体福祉。

案例七：DBS（脑深度神经刺激）技术发展的伦理思考

分享人：2024级MAE张华、陈越

脑深部电刺激术（deep brain stimulation，DBS）又称“大脑起搏器”，临床多用于治疗癫痫与帕金森等病症。其原理是在脑内特定的神经核团植入电极，释放高频电刺激，抑制了因多巴胺能神经元减少而过度兴奋的神经元的电冲动，降低了其过度兴奋的状态，从而减轻症状。案例分析人张华和陈越皆从事于生物制药行业，本案例通过结合DBS 技术临床应用现状及相关伦理问题延申展开讨论。脑科学的复杂，意识与神经活动的未知，神经疾病患者的特殊自主意识状态，DBS技术的复杂，脑手术的高风险，高昂的医疗费用，医疗资源分布不均，治疗后患者自主意识控制等；每一个话题都会引起人们对身处其中各方伦理的深思。 哲学学院专硕研究生为大家带来思想的碰撞，思辨的盛宴；超越医学和技术的交流，更是弱德之美人文哲学思考的升华。

专家点评：

郑磊教授对DBS技术在治疗神经系统疾病方面的潜力表示关注，但他也指出，技术应用需遵循伦理原则，确保患者的自主性和尊严不受侵犯。闫宏秀教授则从数据伦理的角度提出，DBS技术的数据收集和处理应遵循透明性原则，保障患者的知情同意权。

案例八：危废物处置的环保技术推广问题

分享人：2024级MAE王薏榕

危废物的大量产生是经济快速发展的副产品，处理不当会对水体、大气等环境要素造成严重污染，危害生态平衡，危废物处置环保技术可以实现危废物无害化、资源化处理。但在实践中，危废物处置环保技术的落地推广面临技术创新成本高、政策反复性强、多方利益分配不均等多种难题。从哈贝马斯商谈伦理学的角度出发，可以从建立规范的商谈程序、促进交往行为有效性方面为解决环保技术的落地推广问题提供思路。闫宏秀教授提示环保和节能两者之间有时候不能兼具，需要去平衡。

专家点评：

徐志宏副教授对王薏榕同学提出的商谈伦理解决方案表示赞赏，他认为这有助于解决环保技术推广中的利益冲突问题。杨庆峰教授则强调，环保技术推广需关注多方主体的利益诉求，通过对话和协商寻求共识，实现环境保护和经济发展的双赢。

————————

结合实际案例，分享人进行了精彩的案例展示和深入剖析，展示出科技伦理问题的复杂性和紧迫性。AI换脸诈骗、生成式人工智能伦理问题、AI Agent企业应用、算法镜像、医疗数据使用权、企业智能体实践、DBS技术发展以及危废物处置等前沿科技伦理议题，反映了科技伦理领域的热点和难点，增强讨论的现实关联性和针对性。专家点评环节为每个案例提供了深刻的见解和建议，为案例提供了多维度的解读。会议还特别设置了交流环节和现场投票，增加了互动性，使与会者能更积极地参与讨论。研讨会还邀请第一届应用伦理专业硕士研究生2023级MAE黄鹏作为观察员，他高度评价今年研讨会在深度、交流及实践方面均有显著提升，希望协同持续探索，为构建公正、可持续的科技未来贡献力量。

杨庆峰教授在总结发言中强调，科技伦理教育的重要性日益凸显，希望通过此类研讨会，培养出更多具有伦理意识的科技人才，为构建健康公正的科技生态贡献智慧。他提出，未来将继续推动跨专业交流，将科技伦理教育拓展到更广泛的领域。

随着科技的迅猛发展，科技伦理问题已成为社会关注的热点。通过此次研讨会，复旦大学应用伦理专硕学生展现了其在科技伦理教育和研究方面的专业能力和责任感，为推动科技伦理的学术研究和实践应用提供了有力的支持。