个人数据权益保护论坛：数据法学与数据伦理的首次交锋

2019年8月31日，第二届个人数据权益保护论坛暨数据权利项目启动会在上海举办。会上论证了“数据、信息与隐私的界定及权利属性”的重要意义，还从哲学、技术、法律、数据技术应用等多个角度讨论了个人数据权利的属性，为该领域提供了前沿的理论探讨。本次会议的高端对话环节，也是国内首次数据法学与数据伦理学术界的交锋。

论坛开幕式由上海交通大学文科处副处长解志韬主持。他指出，信息数字时代已经到来，数据安全问题得到关注，运用数据资源推动经济社会创新发展的同时如何做好个人数据权益保护，成为学界、实业界非常关心的问题。彭诚信教授担任《个人数据的权利结构及利益配置研究》课题的首席专家，得到了玛娜数据基金会的支持。玛娜数据基金会是国内首个关注个人数据权利保护的公益机构，在商业实践，法律伦理的层面做了大量的研究和积累，致力于个人数据权益保护以及数据技术的创新。新成立的上海交通大学凯原法学院数据法律研究中心，主要是以个人数据保护及治理为核心，希望能为交大的数据研究奉献法学智慧。

上海交通大学凯原法学院党委书记汪后继，玛娜数据基金会发起人、副理事长张唯，分别致辞，预祝会议成功。玛娜数据基金会张唯向上海交通大学凯原法学院副院长彭诚信教授颁发项目首席专家聘书。

汪后继首先对到场的领导和专家表示欢迎，在简单介绍了上海交通大学凯原法学院之后，他指出凯原法学院能够有这么快速的发展得益于法科教育的悠久文脉，以及一流的师资、一流的学生、一流的文化，最后他预祝本次会议圆满成功，凯原法学院非常愿意也将继续与各方携手深化与各部门的合作，共同开启数据保护和治理的对话框，打造国内在个人数据权益保护研究的高地，最后预祝会议圆满成功。

张唯在感谢到场领导以及专家学者之后，介绍了基金会开展《个人数据的权利结构及利益配置研究》课题研究的背景。他表示，在国内外相继爆出互联网巨头数据安全问题的大背景下，有许多时代焦点被催生。他提出个人信息安全不单纯的是一个技术的问题，更多的是利益分配、价值观和伦理的议题。张唯期待彭诚信教授研究团队能够回应有关个人数据权利探讨的需要，并且希望通过论坛的机会，建立一个促进多元对话，开展建设性行动的网络平台，期待在场各位专家学者的支持和参与。

个人数据的权利结构及利益配置研究

会议的第一项议程为“个人数据的权利结构及利益配置研究”项目启动，由上海交通大学法学院副教授何渊主持，上海交通大学法学院彭诚信教授报告项目研究计划，上海大学法学院讲师陈吉栋博士代表项目组成员发言，中国民法学会副会长复旦大学法学院刘士国教授、华东政法大学数据法律研究中心主任高富平教授、大连理工大学人文与社会科学学部部长李伦教授分别就项目计划发表专家评议，上海交通大学法学院彭诚信教授总结了专家们的评议，上海交通大学文科处副处长解志韬对以上发言做了总结。

彭诚信指出数据对于我们的生活非常重要，我们现在已经生活在一个物理世界与网络世界重合的双重社会当中。数据像工业时代的工具，像铁器时代的铁器。现在信息保护和企业之间的矛盾到底怎么化解，数据、信息、隐私这几个概念如何界定，个人和企业之间、企业和企业之间对数据利用的利益如何分配，这些问题的回答都需要从厘清隐私、信息和数据三个概念开始。首先，从客体要素进行理解，要清楚隐私，必须要清楚信息和数据的范围。隐私的概念应缩小，决定人的个人存在和社会存在最核心最基本的信息才能把它叫做隐私，如台湾地区的个人资料保护法第6条中规定，性生活、基因数据、医疗信息等应该属于隐私。他建议，第一，隐私权是人格权，绝对不可以为任何企业所利用；第二，排除了隐私部分的信息进入了人格权范畴，可通过公开化转化成财产，便可以利用；第三，清洗后的信息属于数据，没有人格属性，属于财产，可以自由流转。厘清这三个最基本的概念问题之后，对数据、信息、隐私的具体利用便有章可依。最后他指出，应该利用网络思维，改变目前的知情同意三重授权机制，把信息、数据看作类似于土地、水流、森林等国家集体所有的资源，企业利用人们的数据获得收益，这些收益也需要反哺社会，制度的设计还需要进一步探索。

陈吉栋对彭诚信教授研究团队的成果做了简单介绍，第一，团队在权利基础的研究领域成绩突出，相关著作入选国家社科基金文库；第二，2017年至今彭诚信教授主编两套人工智能法律丛书；第三，彭诚信教授成立上海交通大学凯原法学院数据法律研究中心，核心人员参与世界人工智能的法制蓝皮书编纂，并且即将举办中国高端数据讲坛和中国数据权利保护高端论坛。

刘士国首先从大数据产业的角度进行分析，他认为大数据产业的发展需要个人数据。目前经过三审的民法典人格权编草案对隐私权、个人信息保护也给予了准确的回应，但是就人格权、个人信息权等概念的进一步厘清目前仍研究不足，所以彭诚信教授对于个人信息保护在人格权里的基础研究很有意义。其次，这项研究就是解决产业发展和个人数据权利保护的界限问题，过于强调产业发展和过于强调个人数据权利保护都是不正确的，应该从权利本身出发来研究如何兼顾两者。最后他认为这个课题研究是很有意义的，有前瞻性，并且更具有现实性，并建议该研究要立足本土，考虑中国的实际并结合比较法研究。最终返回到产业，落实到以人民为中心，服务于人民生活水平的提高。

高富平表示，他于2000年开始研究信息财产产业保护并发表相关著作。

他认为数据财产是人类社会历史上最复杂的一种资源，数据上面可以承载很多利益，而最关键的在于如何平衡利益。他希望对数据的本质给出系统的、完整的认知理论体系。最后，他对今天的议题做简短的评价，他认为利益平衡是课题研究的关键，隐私就是利益，如何保护信息之上的利益，是我们解决数据权利配置的基本路径。

李伦表示伦理学需要从法律的角度来确定权利，基金会的课题安排非常具有系统性。首先，从伦理学和法学角度来看，如何应对大数据时代生产要素和生产方式发生的颠覆性变革必须在人类学、法学、制度方面予以回应。他认为从目前来看数据是大量存在的，而数据权利的属性并不明确，所以企业和有关部门对数据的运用与否，仍处于一个模糊的认识状态。因此社会各界迫切需要对数据权利属性做出一个界定，这正是彭教授这个课题应该直接面对的。其次，他认为数据权利不是一开始就有的，如果从法律上界定它是一个规范性权利，则这个权利的目的和出发点很重要的。所以这个课题做出来既要有中国的特色，保护国家的利益，考虑到中华民族伟大复兴的几个阶段性的目的，同时也要与世界接轨。他认为，这个时代是数据智能时代，价值观念也会发生变化，我们如何对待数据是确定数据的权利属性的重要问题，所以课题的研究要着眼于未来。有很多学者尤其是欧洲学者认为GDPR已经过时了，认为GDPR太关注现在，没有面向未来。最后，他指出，隐私是一个主观性概念，所以怎么从客观的视角把隐私界定出来是一个难题。

解志韬对以上发言进行了三点总结，第一，课题意义非常重大。第二彭诚信教授团队的研究计划很详实，玛娜数据基金会的支持很到位。第三，将尽力配合彭诚信教授团队协调各种资源出色完成课题。

数据、信息与隐私的界定及权利属性

会议的第二项议程为“数据、信息与隐私的界定及权利属性”，由上海对外经贸大学法学院张继红教授主持，上海交通大学信息内容分析技术国家工程实验室副主任、网络空间治理研究中心主任潘理教授、上海大学哲学系主任杨庆峰教授、华东师范大学法学院民商法学科带头人纪海龙教授、宁波大学法学院徐伟副教授分别作主题发言，南京大学法学院单勇教授、天津师范大学法学院郭明龙副教授、上海交通大学凯原法学院何渊副教授、宁波大学法学院金耀讲师、大连海洋大学海洋法律与人文学院王黎黎讲师、浙江大学人文学院博士后董惠敏分别参与与谈。

潘理 上海交通大学信息内容分析技术国家工程实验室副主任、网络空间治理研究中心主任、教授

潘理从技术的角度切入，阐释如何在大数据背景下研究个人信息保护问题。首先，理工科不试图明确定义大数据这种内涵和外延。一般而言，通过它的特征属性对它进行描述。数据、信息和知识呈现三阶段式的上升，对其保护更注重生命周期以及量化和控制，比如同态加密技术等技术手段。信息安全主要从共性角度考虑，即CIA、机密性、完整性、可用性。最后，他分享了当下的工作是如何动态地衡量隐私保护问题，如社交网络的隐私保护。关键在于动态环境的管理，怎么更好的识别用户所谓的隐私保护的意识，然后使之更加智能化。最后，他提出自己的两点建议，第一，在不同的场景下，给不同的用户或者企业以不同的法规和相关的技术，设置可选择性配置。第二，应更多地考虑新型网络和新型传播方式对隐私保护和个人数据的影响。这种环境下研究相关的法律或者技术的问题，对我们来说都是非常大的挑战。

杨庆峰 上海大学哲学系主任、教授

杨庆峰从数据哲学视角阐述了数据的本质与类型。他指出，数据哲学是哲学的新分支，可以从本体论，关系论和后果论等三个角度阐明数据哲学的框架。然后他对数据伦理的五个方面问题，隐私与透明、公平与偏见、管理与治理、共享和保护、记忆与遗忘进行了说明。他提出数据的本质需要从行为与数据的关系出发探讨，在这样一个框架下探讨数据，得出来有三种观点，第一个把数据看作是一个行为的表征，第二个是行为即是被数据化，第三是行为是数据塑造的结果。紧接着他又阐述了数据的类型，他区分了作为内容的数据和作为对象的数据。他指出数据研究正在从标记数据向无标记数据转移；此外数据研究还需要关注数据背后的模式问题，这是人工智能深度学习所指向的对数据模式的发现和挖掘。

纪海龙 华东师范大学法学院民商法学科带头人、教授

纪海龙首先讲到数据和信息的区分，他认为信息是内容层面的，数据有内容层面也有符号层面，内容层面的数据等于信息，比如我们说个人信息，但是符号层的数据可被定义叫数据文件，内容层面和符号层面要说清楚。其次，隐私和信息的区分各个国家也是有差别的，美国的隐私观念，是一种大的隐私观念，按照美国的观念，个人信息其实就是隐私的一部分；如果按照德国的传统隐私是按照领域划分看待的，个人信息和隐私有实质联系，但是存在不同。再次，为什么要保护个人隐私？在德国是基于维护人的尊严和自由。美国则主要关注信息收集行为。他认为将个人信息定义为人格权和财产权的效果一样。最后，他认为同意规则应结合具体场景判断是不是违反普通人的心理预期，并且应结合公法和私法手段，如设置相应机制保护个人信息。

徐伟 宁波大学法学院副教授

徐伟另辟蹊径，从不同角度对数据、信息、隐私区分的观点提出挑战，认为数据、信息、隐私的区分并不是问题的关键。他认为隐私制度、信息这些概念由来已久，为什么人类进入信息时代开始隐私成为一个大的问题，因为信息时代的到来意味着我们都有一张船票，想要登上信息时代的这条客船，你必须要交出你的信息。那么核心的问题所在就是，什么现实问题是已有的隐私权制度无法解决，而必须通过新产生一个所谓的个人信息权制度才能解决的问题。他从个体层面和整体层面两个层面阐述了传统的隐私权制度没有办法解决的，认为需要认真地在个人信息领域解决的问题。

单勇从刑法学角度切入，他提到犯罪治理中，犯罪概率由算法决定。所以说算法不是预测未来，是设计未来。站在这个角度，彭诚信老师的课题对于个人数据权利思考是非常必要的。大数据技术应该从保守主义的立场出发，如何在技术治理的过程当中来保障个人的数据权利，实现一个总体性的平衡。

郭明龙认为应该重新审视一些分类方法的重要性，他认为信息、隐私、数据三个范畴当中，个人信息的概念是比较核心的一个概念，在个人信息研究过程当中有一些分类方法，应该引起重视。第一个分类方法，是关于一般个人信息和敏感个人信息的区分，但操作中有困难。第二个区分是客观个人信息和主观个人信息的区分。第三种区分是关于直接个人信息与间接个人信息的区分。最后他认为三重授权规则存在很大的问题。

何渊认为，数据就是一些符号，由1和0组成。而信息实际上是数据反应出来的内容。再上面就是所谓知识。几条信息组合成一条知识，再上面才是人工智能的概念。然后他提出，不能笼统地谈数据、隐私，而是需要放到一个信息的全生命周期里面，涉及搜集、处理、共享等问题，同时也需要对数据分级分类，区分敏感数据、重大数据、一般数据，金融数据、医疗数据等。

金耀从配套制度的角度提议完善个人信息保护的立法，他认为数据、信息、隐私的区分非常必要，民法总则已经明确的把个人隐私权和个人信息进行区分。如何限缩隐私权的范围，是研究的关键。在涉及私密信息领域隐私和个人信息有不可避免的交叉。第二点，个人信息和隐私不同，其包含更多的权利和意义。最后，要保证数据的主体参与到数据红利的分享，法律上要做一些制度上的配套设计。

王黎黎分享了比较法上隐私和个人信息的司法实践，并且就两种不同的解决思路做出评价。她提到英国关于最初隐私权确立的问题，先探讨为什么要设置隐私权。彭诚信教授提出的对于权利进行的划分，即是一个前置性的问题。第二个问题区分数据，隐私，信息具有主观性。如隐私权产生之初的德国吸毒案，BBC直播谋杀案。第三个问题是确定法律主体，更重要的是在人工智能界定为主体之后相应的限制问题。

董惠敏表达了对大数据之下不可避免被贴标签甚至影响人的行为的担忧。她认为如果可以给予个人对抗企业的方式，能给个人的权利带来一定的保障。而且应当让个人有更多发声的空间，这样最终会给个人的福祉或者整个社会的福祉带来好处。

个人数据权益保护的应用创新

下午会议进入论坛部分，泰和泰（上海）律师事务所执行合伙人王振华律师主持第三项议程，中国人民大学中国普惠金融研究院研究员顾雷博士、分布科技联合创始人李俊、上海通力律师事务所合伙人潘永健博士分别做精彩报告。

顾雷 中国人民大学中国普惠金融研究院研究员

顾雷认为，目前中国普惠金融个人数据保护的法律法规较为零散。然后顾雷结合自身实地调研情况，指出了助贷、互联网小贷、征信业务等领域中出现的个人数据收集问题，认为解决的思路一是个人数据搜集要有授权，二是个人数据使用要有边界，三是数据储存要有保护，其中推动普惠金融征信体系整合是关键。最后，他提出了普惠金融视野下的个人数据保护的体制设计思路，一是加强个人征信的立法，加强政府的统筹协调作用；二是要建立个人信息的全国协调机构；三是完善个人基础的数据库工作；第四是防范个人信息泄露风险，切实保障个人信用信息安全。

李俊 分布科技联合创始人

李俊首先指出了大数据时代的瓶颈与痛点，如数据集中、真实性不足、隐私保护差、自主性低、协同复杂等。他进一步指出，可运用区块链的技术原理，缓解数据隐私和数据使用之间的冲突。具体而言，首先应当建立分布式的身份框架，实现个体对自我数据的管理；其次应当完善身份框架的多维信任体系，将法治、技术和社群紧密联结；再次应当推进分布式的数据协作，实现个人数据的跨地域信任背书。他最后展示了分布式数据协同和数据保护的成功案例，即贵阳身份链项目，阐述了区块链体系下联合征信体系的建构路径。

潘永建 上海通力律师事务所合伙人、博士

潘永健主要从实务的角度探讨了个人信息汇集的商用和法律保护之间的冲突，以及该冲突的解决路径。首先他通过梳理国内相关规定，阐述了个人已识别的信息、个人可识别的信息、可触达的个人信息和个人相关的信息这四个概念的区别和联系，并指出国内关于受法律保护的个人信息的定义仍有待明确。之后他结合WIFI探针、商铺内移动轨迹、电梯广告拍照三个具体情境，对个人数据保护的正当性进行了反思，指出了个人信息保护中涉及的个人利益、公共利益、商业平台利益之间的张力。此外，死者的个人信息保护问题在实务中也引起了一定关注，死者的信息是否属于法律应当保护的个人信息值得进一步研究。最后他总结了国内从1999年之后数据侵权的案例中，对于数据权利属性、数据产生的利益的司法认定意见。

在此后的提问互动环节，与会专家围绕如何运用技术的力量有效保护个人数据，个人信息的主体和个人信息的控制者之间如何控制信息、分享信息、分配责任，个人数据保护的渠道为何等问题展开激烈的探讨。

个人数据权益保护的理论创新

上海玛娜数据科技发展基金会研究员胡晓萌主持第四项议程。湖南师范大学人工智能道德决策研究所研究员孙保学、上海市锦天城律师事务所律师王静、中国医学科学院信息研究所研究员曹艳林分别就个人数据权益保护的理论创新做精彩报告。

孙保学 湖南师范大学人工智能道德决策研究所研究员

孙保学首先指出了这个问题的切入点，如大数据杀熟，数据滥用等现象并不违反法律，但是这种高能见度、完全的、不受约束的数据能带来巨大的道德风险。道德风险起初是一个经济学概念，讨论最多的是保险业，以前都是用保险来去对抗风险的，即使在信息不对称的情况下，保险公司仍然可以用大数定律来赚取一些利润，但是会发生“风险倒置”的现象。他认为，对违规的企业进行重罚会使互联网公司更加有恃无恐。所以现在很多互联网公司要求监管部门主动监管，企业做了该做的合规之后，如果再出现问题是监管不到位，责任在于政府监管部门。他提议采用“公共善经济学”的理论来化解数据运用当中的道德风险，在“无知之幕”下制定公共政策，保护最弱势者，实现公共利益最大化，并且要以数据运用的公共善为基准。最后他提出两个原则，一数据确权以功劳为标准，企业和用户按照“功劳理论”来确定数据归属；二风险分担以行为的控制能力来界定权属分配，责任不集中于单一行动者，适用风险共担模式。

王静 上海市锦天城律师事务所律师、德国弗赖堡大学法学博士

王静从当今大数据下对个人信息保护研究的现象切入，借用“本原不明，乱象丛生”表达了自己的看法。她总结了学界关于个人信息和个人数据的关系的三种观点，个人信息的范畴大于个人数据、个人数据等同于个人信息、个人信息的范畴小于个人数据。她认为个人信息是可以脱离或者存在于任何载体，但是个人数据存在于特定载体。然后她用“矛”与“盾”的形象比喻了财产权和人格权的属性特征，前者属于主动性、积极性权利，后者属于消极性、防御性权利。最后她认为目前对于实务来说，最紧迫的问题不是权属的问题，而是个人信息概念的问题。现在各个国家的个人信息立法存在概念模糊、多重复等问题亟需解决。

曹艳林 中国医学科学院信息研究所研究员

曹艳林分享了医学人工智能法律伦理方面的一些研究成果。他提到人工智能在医疗里面是一个非常重要的应用场景。在以往的应用领域的阶段，我们会比较传统法学应用。医疗场景有算法，算力，数据和场景，数据是核心。医疗领域的应用主要体现在病人自诊、医生提升能力、医院管理病人、缓解医疗人力紧张、医疗器械开发等，这里数据核算都是人工智能的。国家医保局已经发文件要把互联网医疗纳入医保范畴。人工智能就是第四次工业革命的一个重要的技术领域，不仅仅是人工智能，还有大数据，它强调重视人工智能在里面发挥的作用。最后，他认为重点是怎么样平衡创新和安全，并呼吁更多的专家关注这个问题。

在互动提问环节，实业界与理论界就政务、商业环境中收集个人数据需要尊重个人的知情同意权展开了讨论。

本次会议的高端对话环节，是国内首次数据法学与数据伦理学术界的交锋，开创了历史。高端对话由《上海大学学报(社会科学版)》编辑部主任李孝弟主持，分别有数据法学界的华东政法大学数据法律研究中心主任高富平教授、上海交通大学凯原法学院副院长彭诚信教授、南京大学法学院单勇教授，数据伦理学界的大连理工大学人文与社会科学学部部长李伦教授、上海大学哲学系主任杨庆峰教授、上海交通大学科学史与科学文化研究院闫宏秀副教授，双方围绕数据共享、隐私保护、悖论三个关键词展开了深入讨论。

首先由上海交通大学科学史与科学文化研究院闫宏秀发言。闫教授提出数据挖掘一般有五大核心问题，其共同指向于一个问题，即隐私保护。数据挖掘并非中立，但是伦理学对技术道德化有所帮助。闫教授指出，追求幸福有三重保障，第一层是技术层面的，而技术把不确定性尽量消除掉，留下确定性，第二层是法律，第三层是伦理。她认为道德伦理是最上面的东西，第一是伦理先行，要善于从源头上发现技术中的伦理问题，给出应对。第二是伦理切入的内容，植入什么样的价值。第三是伦理为何可以切入这些问题。最后她认为在数据时代，我们所有的决策恰恰是技术推动的，而这些技术推动是没有痕迹的，我们称这种决策为被绑定的幸福。所以在技术时代想要追求稳稳的幸福很难，特别是在被数据绑定的过程当中，其实是最差的一种幸福。从法律角度来讲，这种绑定如何解除，人们怎么去交涉它，怎么保持一个平衡需要进一步探讨。

南京大学法学院教授单勇对闫教授的问题作出回应，首先是从技术革命的角度谈及隐私保护，谈到某些技术并不会定位个人。其次，他谈到决策让渡的边界。实际上，智能判决系统的贡献在于使司法决策每个环节科学化，法官和人工智能系统水乳交融，是人机协作的方式，而非决策让渡的问题。单教授提出，犯罪治理机器化、智能化的倾向。涉及刑法和犯罪治理，人大授权仅仅是整体授权，缺乏法律依据，因为个人信息保护法、数据安全法皆没有规定。单教授也表示支持在有法律监督的情况下进行人工智能化的社会治理、犯罪治理。随后，闫教授表示赞同单勇教授的观点，在人机合作过程中，人的主体性虽然在消减，但责任意识不应消减，反而需有更强的责任意识。

大连理工大学人文与社会科学学部部长李伦教授表示，应用伦理学如法律一般有一个应用过程，而数据伦理根本上是研究基于数据的人与人之间的关系，追求基于数据的人与人之间的自由关系。此时，这既涉及技术问题，也关系人类命运的问题。李教授指出，人类社会数据化不可阻挡，但也应观察其后果。例如天网工程，提高了社会管理效率，也提高了安全保障。李教授表示，目前存在几个问题，包括数据孤岛、数据滥用。李教授最后强调，当下需要解决的实际问题是数据共享、隐私保护以及个人数据权利和机构数据的权力失衡所构成的一个整体的大数据之困。

华东政法大学数据法律研究中心主任、教授高富平认为，法律和伦理追求的目标相同，都是人类的自由，且是有序的自由。高教授随后对数据共享和隐私作出解释。数据共享并非两个人共享，而是整个社会分享，即开放。本次论坛核心就是个人数据的分享。数据分享的目的在于发挥数据本身的社会利益任何时代都需要个人分享自己的数据。高教授指出，三重授权规则能否行得通涉及隐私问题。隐私是为维护自己尊严和自由的基本权利。因此，人可以分享信息，但必须是必要的信息。一般身份信息不包含在内，分享间接身份信息时则必须经过个人同意。高教授强调非常愿意站在伦理的角度来看这个问题，因为关于个人数据使用当中的规则问题，现在更流行的是伦理规则。因为这涉及隐私保护的问题，它事关因为场景、使用的方式等各个不同的方面，不是一刀切的事情，而法律恰恰是一刀切的。所以这个数据保护规则的最高境界是伦理规则，而这个伦理一般来说都会发展为行业规则。因为法律是简单粗暴原则性的问题，它不可能解决这个问题。

上海大学哲学系主任、教授杨庆峰赞同伦理原则的出发点。杨教授强调生产数据，搜集数据，利用数据，消费数据，这些活动从伦理角度考虑的话，都是向善的。但是在这个过程存在明确的悖论，即数据的开放、分享和隐私保护。解决悖论的路径包括法律路径、技术路径、以及伦理路径，即建立一种伦理的规范和一种文化。但是还存在一种隐藏的悖论，杨教授称之为口头和行动的不一致，换言之，隐私保护的口头呼吁和行动不足。尤其是东西部面对隐私保护会出现不同的情况。因此，杨教授指出需要进一步探讨这个问题。

对话的最后一位专家上海交通大学凯原法学院副院长、教授彭诚信认为，大数据中的算法本身就是智能的体现，因此数据和人工智能密不可分。而其中，算法是人工智能体的灵魂。但是，算法透明的理由何在，需要进一步思考。其次，对待人工智能体不能厚此薄彼，其承担责任需要考虑其背后的伦理和法律逻辑。并且，算法的核心基础是数据，数据中包含着许多隐私信息，因此对隐私的要求应要提高。彭教授还强调伦理规则对于人工智能非常重要。最后，既然人类创造人工智能体，在数据和信息的使用和利用过程中，就要考虑人的终极追求，其中必然包含伦理规则。

本环节的最后，与会的其他专家也表达自己的观点以及向对话专家提问。首先，上海交通大学凯原法学院副教授何渊补充道，界定隐私十分困难。不同社会对于隐私的理解随着价值观和社会传统的差异而不同。因此，何教授强调，伦理和法律在数据主义面前都几乎无可奈何。底线的保持在未来终究会被数据潮流所吞噬。上海玛娜数据科技发展基金会研究员胡晓萌对何教授的观点分享了控制论创始人维纳的一句话，即“在一个非常真实的意义上，我们都是这个在劫难逃的星球上的失事船只中的旅客。但即使是在失事船只上面，人的庄严和价值并非必然地消失，我们也一定要尽量地使之发扬光大。我们将要沉没，但我们可以采取合乎我们身份的态度来展望未来的……”他认为，在此情况下须保持人类的自由和尊严。

单勇教授也提出，东西部数据保护不均衡的问题实际上就是数据鸿沟，同时也还有群体性的差异。而数据鸿沟是导致隐私侵犯的主要原因，涉及到智能机器为谁服务的问题。上海大学法学院教师、博士陈吉栋提问道，在学习算法的过程中，发现法学的技术手段很困乏，尤其是正当性基础问题。但是，公共善能否作为一项基础或者理由？闫宏秀教授回应，数据伦理有三大模块，其中包含算法。在收益和享受之间很难达到平衡，在公共市场中不同的算法有不同的风险。李伦教授表示，有道德决策能力的人并非能作出合乎道德的决策。目前，道德黑箱难以避免。其次，大数据的算法如果服从目前经济运转的机制，则现有的经济运行机制必然导致问题。因此，在某些问题上，时代变迁，观念亦要随之改变。高富平最后总结道，人类进入新的时代，数据分享和隐私保护的根本问题在于人的自主决定变为“被决定”。每一个个体在大数据时代都会成为弱者，但是必须保护个人参与到做决定的过程中。

彭诚信就今天会议大家讨论的问题作出总结，他认为，我们中国社会自然经济的发展，先是污染环境，然后再反哺环境，我们付出很大的代价，而且这个代价可能都修复不过来的。但是在数字经济时代，我们无法先污染人格，然后再进行修复，因为人格的污染无法再修复，无法想象人机共存的时代到来，人类重新格式化重新来过。