- +1
喻国明:算法推荐必然导致“信息茧房”效应吗
【关键词】信息茧房 算法推荐 弱效应 消解
在算法流行之前,美国学者凯斯·桑斯坦预示了网络技术发展对用户信息认知的“副作用”,即用户可以在海量信息中自主选择兴趣话题,而构成一套“个人日报”式的定制化信息系统。用户被基于个人兴趣所构建的信息流环绕,逐渐失去了解不同事物的能力和接触机会,不知不觉间为自己制造了一个“信息茧房”。随着个性化推荐为代表算法技术与资讯行业深入融合,改造着信息生成和传播的方式,有种观点甚嚣尘上,即算法加剧了“信息茧房”的产生与泛化。当社交媒体推荐熟络的朋友,音乐APP自动播放喜爱的音乐,电商网站提示着昨晚电影中的“明星同款”,用户似乎在毫无觉察下已被包裹进个体与机器共筑的温柔却严丝合缝的茧蛹。
对于个体而言,“信息茧房”阻碍了个体与信息环境的全面发展,形成所谓“回声室”效应,自己喜好的内容和预期的观点得到激励与放大,而对其他观点一味排斥。推及到群体层面,社会成员因“趣缘”而组成团体,强化了内部认同感,同质性的交流使得成员所持观点变得极端,加重了群体极化现象发生。这一技术忧虑还尤其侧重在新闻专业主义消解的危机上,当传统编辑的把关权力让渡于算法,工具理性凌驾于价值理性之上,流量成为核心,内容沦为附庸。就此人民日报曾三评算法推荐,批判算法并未带来信息开放,反而用取悦用户的信息隔离了观点的公开和交流,失去了在争议中达成共识的机会。就像所有智能算法操纵人类社会的观点所认为的,算法技术节省了精力与时间,提高了劳动效率,让渡的则是人类独立思考的能力,而生活在马克斯·韦伯所说的“技术知识的囚室”之中。①
尽管桑斯坦提出“信息茧房”的概念,但到目前为止,“信息茧房”也未能有一个更清晰和准确的界定,这极大地影响了对“信息茧房”的认知与观测,也曲解了算法与“茧房”的关系。
一、算法不是“信息茧房”形成的必要条件
1.1“信息茧房”本质是用户选择机制中的一种“偏食”行为
霍夫兰很早就在个体差异论中指出,由于个体在需求、信念、价值观、态度上的认知结构差异,相同的大众传播内容在受众之间会产生不同的效果,受众倾向于接触与原有态度较为一致的信息,而尽量回避那些与己见不合的信息,即所谓信息的选择性注意和理解。这种“偏食”行为是个体在与社会互动中形成,并存在于传播的各个阶段。因此,尽管在大众传播时期,大众媒体会通过议程设置左右内容的分发,用户照样可以选择忽略报纸的政治宣传而直接翻看八卦娱乐。同样,“人以类聚”亦是个体的社会化本质,亦是社区形成基础,滕尼斯认为社区“首先是建立在血缘关系基础上,然后是邻里和朋友关系。总之要有亲密感和无可置疑的连带关系。”②当然过去受限于地域和传播手段,这种类聚逻辑是宏观与粗粒度的,个体兴趣与价值诉求被“服从”于群体规范之下。网络媒介只是将用户“潜伏”的选择信息和兴趣的权力予以释放,开启了“人找信息”和“人找人”的便利,这是互联网信息传播渠道的最大贡献。算法则基于个体兴趣爱好,进一步扩散用户自由,用主动推送的方式将用户认为有价值的人或事呈现在眼前(耳边)。说到底,以个体兴趣为核心的“信息茧房”归根还是用户自我信息选择的结果,算法与数据技术也不过是媒介的价值选择机制在数据条件之下的一种“人体的延伸”。
1.2用户在媒介接触和使用的渠道偏好与选择窄化是“信息茧房”形成的前提
“信息茧房”另一个前提假定是个体始终接触同质化的传播内容与渠道,这种用户媒介接触的窄化现象同样不是算法环境所“独享”。其既可能是因为所处的传播环境,而被动地接受选择。例如中世纪宗教精神垄断时期,当发生“霍乱”时,百姓在对疫情束手无策的情况下,只能听信教廷对女巫作乱的源头解释,而发生大量女性被焚烧事件。在封闭的山村中,村民对于事物的认知多来源于代际间口口相传,也容易将一些神话传说当作事实。当然,“窄化”也可能来自于长久的用户媒介使用惯习,例如最近我们对媒介接触和使用调查研究中发现,20至29岁的年轻人群中,看电视和基本不看电视的用户比例基本持平,而在60至70岁老年群体中,看电视的用户则依然是绝大多数。随着信息通信发展,不同人群或不同地区存在获取数字资源的不均衡,从而引发“数字鸿沟”问题。然而即便是基础设置完善、用户具备了充分接触信息的条件下,“鸿沟”却依然存在,祝建华(2002)曾使用性别、职业、年龄和教育程度进行测量,发现教育程度对“数字鸿沟”影响最大。③这意味着,“信息茧房”对于教育良好的“精英份子”与普罗大众之间影响是有差异的,后者更容易盲从和不思考,当沉浸在同质化的信息环境中,更难会基于理性焦虑和质疑精神实现自主“破茧”。
1.3媒介体制的某些特征同样会导致“信息茧房”
媒介的所有制和经营机制,以及关于媒介法律与管理制度,也是形成“信息茧房”不可忽略的影响因素。例如纳粹能够引发极端的民族主义情绪,其媒体操纵是重要的肇事罪魁。当时美国驻德记者夏伊勒在《第三帝国的兴亡》中记载道:“每天早晨,柏林各日报的编辑以及德国其它地方的报纸驻柏林的记者,都聚集在宣传部里,由戈培尔博士或者他的一个助手告诉他们:什么新闻该发布,什么新闻要扣下,什么新闻怎么写和怎么拟标题,什么运动该取消,什么运动要开展,当天需要什么样的社论。为了防止误解,除了口头训令外,每天还有一篇书面指示。”④ 同样,纯粹商业逻辑的媒介运作也会在一定程度上误导用户视听,历史上美国报业的“黄色新闻”时期,报纸为追求“发行量”而故意制作各类耸人听闻、缺乏事实依据的新闻报道。赫斯特的《纽约新闻报》更是借助美国军舰被炸沉之际,极力煽动群众的战争情绪,使得美国与西班牙的战争被称为“赫斯特战争”。由此可见,由偏颇的议程设置所导致的“信息茧房”的偏颇现象,在任何一个媒介时代都存在。
二、算法推荐在“信息茧房”生成后并不起增效作用
而从算法当前的技术特征与用户行为复杂性来看,算法对已经存在的“信息茧房”也不起稳定或增强作用。
2.1智能算法推荐与媒体型分发、社交-关系传播共同构成用户获取信息的来源
信息分发市场经历了从人工编辑主导的媒体型分发、依托社交网络传播的关系型分发到智能算法对信息和人进行匹配的算法型分发主导的时代。⑤媒体型分发无暇顾及分众化、突发性的信息诉求,用户面对是相同的分发者与有限媒体。社交分发模式则第一次激活了在大众传播时代难以顾及的“长尾信息”,形成了对于信息服务的“利基市场 ”,实现了信息分发的个性化与内容的“千人千面”,个体开始具备“改造”所处媒介系统的能力。而算法的引入则根据个体兴趣爱好,用推送方式将用户认为有价值的信息呈现在眼前(耳边),有效解决海量信息与用户之间的有效配置。
然而,即使算法完全“掌握”了个体兴趣,却无法完全替代另外两种信息分发模式,例如面对“官二代”飙车撞人这类突发性的舆论热点,多数个体实属于“吃瓜看客”。由于短时间内关联信息集中“井喷”,真相容易快速反转,在这一状态下,多数用户难以鉴别也不愿花时间去求证信息的真伪,且由于网络的匿名性降低了风险感知,容易基于自己的固有价值判断或纯粹根据个人喜好完成信息传递与情绪表达。而当地震海啸、金融危机等天灾人祸发生时,算法则很难迅速判断用户对于突发性重大事件的关注程度,用户往往主动会查阅官方的权威报道,此时人工编辑在信息需求市场所扮演的“压舱石”角色得以显现。此外,用户虽然有信息“偏食”现象,但用户口味也会变化,时间久了就会产生审美疲劳,所以主动浏览微信朋友圈或类似社群的偶发信息,同样会占据用户一定的阅读视野。因此,媒体型分发模式和社交-关系型分发模式在算法面前并未失效,而是三者共同匹配了用户多层次、宽领域的资讯使用需求。只要人们的社会关系是活的,他们之间的联系与交流必定带动信息的流动与交流,从而构造出人们信息来源的多元和转换。
2.2对于用户潜在信息需求的不断挖掘是算法推荐在发展中不断升级迭代的技术成长点
目前资讯市场的算法推荐产品尚处在不断迭代升级的过程中。目前算法推荐的基础原理主要是根据用户主动设置或既有浏览记录等历史数据来预测和适配关联文本,例如在APP初试界面自主设置“猜你喜欢”,或者在关联账户上所保留的交易记录、信息转发或点赞。而对于对非结构性数据或缺乏记录的用户历史行为(所谓“冷启动”问题),当前仅凭算法还缺乏有效的判力,并且很难确定用户行为背后的价值趋向。用流行的趣话来说,“有多少人工智能就有多少人工”,即算法能力需要大量的标签化数据及人机互动、各司其职作为基础。这就导致当下算法所推送的信息往往是粗颗粒的、未必匹配实时场景切换的。这其中,情绪识别是当前算法的技术难点之一,尤其是通过静态图片或文字特征难以断定文本要表达的情感方向和程度。这就导致算法推荐通过数据知晓用户对某明星感兴趣,但很难鉴别你到底是“真爱粉”还是“黑粉”,于是不管你喜欢与否,系统会将吹捧和谩骂的内容一并推送给用户。从这个层面上来说,算法把用户感兴趣的主题内容全部予以推荐,里面包含了互相矛盾和对立冲突的信息和观点,实际上反而削弱了“信息茧房”形成的可能性。
2.3个体的信息决策受到除技术外多种因素的影响
理性行为理论认为,个体的做出某一行为前会综合各种信息以考虑行为的意义和后果,即个体行为意志将直接影响行为,所有的行动意向则完全取决于个体的自主意志。“信息茧房”假定用户是基于兴趣自由选择信息,这符合理性行为理论的观点。例如基于理性行为理论所衍生的技术接受模型认为,用户愿意使用一个信息工具的核心是“感觉有没有用”和“感觉易不易用”。⑥而像算法类推荐工具,在“有用”方面,提供的是基于个体兴趣和价值观进行无缝的匹配信息,在“易用”方面,则根据既有浏览习惯和预测模型分析阅读行为,有效节省了大量信息检索和归纳的时间成本。在没有其他变量干扰下,算法型产品确实非常容易形成用户黏性并影响用户行为。
然而个体对行为的意志控制应视为一个连续体,如果我们设定一端为完全的意志控制之下的行为,另一端为完全不在意志控制之下的行为,那么,实际上个体行为大概率地处于这两端之间,而理性行为理论对不完全由个人意志所控制的行为难以给出解释,个体行为又往往受到了诸多外在环境变量的影响。关于“整合型技术接受模型”的研究表明,除了绩效期望、努力期望、社会影响因素在对行为意向产生影响外,在这一影响过程中,个体的性别、年龄、工作经验以及自愿性的原因亦会产生调节性作用。这意味着即便未被“植入”伦理价值约束的算法产品,也并非可以单向维度地导致用户的负向行为,过程中依然会受到来自如个体本身的人口特征偏向、现实生活的环境差异、社会群体压力以及能否指导自身实践等诸多方面的影响。
三、 算法推荐正在对“信息茧房”的消解发挥重要作用
技术是把双刃剑,就如尼尔波兹曼激进地指出在电视替代印刷物成为统治媒介的时代,由于图像为主导展示的电视难以像文字为主导的图书那样需要被理解,使得从政治、宗教到教育的一切公共话语都从理性和逻辑转向碎片化和娱乐化。⑦一种新技术的出现势必伴随着批评之声,算法也不例外。技术扩散的原始驱动力是市场,在算法与资讯行业结合的初期,为快速扩大用户基数,必须迎合业已分众化的市场趋势,以满足个性化的用户兴趣为第一要务,这是算法型产品得以生存和获取融资的前提。这也是为什么某些算法类APP在冷启动阶段(初始用户群体和流量的原始累积过程)会采用推送“美色”图文方式吸引眼球。然而随着市场趋于成熟、社会认知的程度增加以及技术伦理得到重视,算法的人本价值势必得到回归。
3.1算法本质上是传播权力向多数人的让渡
信息的社会性分发历来被视为是一种政治权力,一直以来这个权力都是牢牢地掌握在政治和商业巨头手中的。在传统的新闻生产中,传播的主导权掌握在新闻媒体手中,媒体控制着传播渠道与传播内容,通过文字、图片、音频与视频等为受众构建起新闻事实的拟态环境,受众在很大程度上只能作为新闻文本的“解码”者而存在。因此,在传统传播模式中,受众始终无法逃脱“木偶”这一角色。现在,在技术驱动和现实需求拉动的双引擎下,基于大数据与人工智能的推荐算法系统的引入,对传媒领域来讲,实质上是一种传统的寡头权力逐步让位于技术逻辑主导的用户权力的过程。⑧它将媒体的传播主动权部分分流到了受众手中,受众不再是被动者,而是以信息传播系统中编码者的身份而存在,主动参与传播过程。算法根据用户的需求与个性推送新闻,使用户自身在一定程度上成为自己的议程设置者,打破了媒体对传播主导权的垄断。同时,不同用户的需求与个性是各不相同的,经由算法推送的新闻经过用户的分享,使得多种声音同时存在,颠覆了少数者的话语霸权。⑨概言之,算法实际上释放了用户的自主意识,提升了公众参与表达的能力。
3.2算法的若干技术特性有助于解决越推越窄的问题
算法推荐有几种主流技术类型,一是基于内容的推荐,即根据用户历史项目进行信息特征抽取、过滤,生成模型,然后向用户推荐与历史项目内容相似的信息。它的优点之一就是解决了协同过滤中数据稀疏和冷启动的问题,但长期使用用户历史数据容易导致推荐过度个性化。二是协同推荐算法,存在两种方式:(1)基于用户特征的协同(user-based),如计算甲与乙两者兴趣相似,那么当甲喜欢某部电影,则算法认为乙也可能喜欢。(2)基于项目(item-based)的协同,例如计算丙电影与丁电影都是某明星主演或同属科幻片,则观看了丙电影的人可能也喜欢丁电影。Tien T.Nguyen、Pik-Mai Hui等(2014)对某网站的电影协同推荐系统进行研究,基于用户日志获取用户电影评级与查看推荐电影页面时的时间戳,以此观测用户是否使用推荐和使用推荐的后续行为。基于数据将用户分为忽视组(Ignoring Group)(不采纳推荐)和跟随组(Following Group)(采纳推荐),结果发现经过一段时间,跟随组相对忽视组接触了更多元化的电影内容。⑩这意味着,虽然基于内容的推荐算法可能会“窄化”用户选择,但协同过滤算法则是根据跟你相似的其他人喜欢什么来进行推荐,因此用户可能接触到自己都想不到的多样内容。随着移动互联网的兴起以及包含内容和关系的社交媒体(如 Twitter、Facebook)的快速发展,单独的推荐算法已难以满足用户推荐、内容分类、话题挖掘等需要,因此,融合多种算法、关联更大数据的组合推荐系统得到发展与完善。在推荐系统的实践应用中,经常运用两种或两种以上的推荐算法,以整合优化新闻、资讯及其传播,弥合各自的不足与欠缺,实现精准预测和推荐。
3.3可信任的算法推动了用户与内容的友好会话
应该指出的是,算法技术本身并无“原罪”可言,可信任的算法技术是人文理性与技术理性相交融的产物。解决问题的可行性路径是,我们如何为算法植入价值观,如何为极易产生沉浸感的算法型产品加入干预和提醒机制。11算法与人的互动,本质上是算法背后设计者的价值逻辑或意识形态与用户的互动。实际上,在意识到“信息茧房”存在的影响后,主流媒体机构、互联网公司等都通过诸多尝试优化内容的分发规则,建立可信任算法的伦理框架。
一是坚持人机协同,在算法技术应用基础之上重视人工编辑的作用。算法信息分发平台通过“算法+人工”的方式对优质内容和重要信息予以加权推荐。例如读者偏左派的《卫报》每周选择5篇保守派文章组成专栏,以拓宽读者视野。《华尔街日报》创设了“红推送,蓝推送”,将社交媒介上的同类内容的自由倾向、保守倾向的信息并列推送给用户。国内的算法资讯公司如今日头条也大幅增添了审核人员,加强对不良信息和虚假内容的拦截。人机协同是算法信息分发中强化人的主体性、能动性的重要手段,通过人机协作,让算法推荐更好地体现人的主导性和价值观。
二是注重公共议题的新闻专业主义。新闻专业人士拥有一整套共享性的伦理规则与专业角色观念,以及长期专业训练所掌握的常规性逻辑,还肩负着一种处于社会结构之内的认知责任(epistemic responsibility),即为大众创造知识。正如科瓦奇和罗森斯蒂尔提及,“新闻业对一个文化而言有其独特的作用:为公民提供实现自由所需的独立、可靠、准确、全面的信息”。12 利维斯(Lewis)将新闻业的专业逻辑和参与逻辑区分开来看待。利维斯所说的专业逻辑主要指传统新闻业的实践活动,而参与逻辑主要指一种集体实践活动,这种集体实践活动一般被称为“公民新闻”(citizen journalism)。这种参与逻辑主导下的内容生产与信息发布,并不受新闻专业主义在社会结构与职业要求下认知责任、认知承诺的约束,故而并不带有信息选择的合法性,也不负担社会希翼。因此,算法公司将某些涉及公众价值观引导、涉及重要社会内容的报道与处理让渡给新闻专业主义,例如在媒介融合的实践中,今日头条、百度百家号等将时政新闻板块交由主流媒体“打理”。在此之前,政务新闻的报道可能由公众的信息作坊生产,在内容发布、信息对接方面缺少监管与把关,但在拉动点击率为目标、在获得最大公约数受众的共同兴趣旨趣下,内容必然流于低俗、猎奇这类共性的方向上。未来新闻专业主义应在算法的应用普及事实之上,在整个系统中做出调整,改变新闻知识的塑造模式以及新闻合法性话语模式。
三是在“随机”设计中注入人性关怀。在算法开发和设计阶段,开发者逐渐考虑到用户需求与行为中“摇摆着的矛盾”,即人之为人的复杂性,普遍在原有算法模式上采用“随机”推荐以增加用户的信息差异。这一“随机”推荐主要遵循如下需求特性:(1)“稳定性”与“流动性”:注重用户在某一时间区间的信息需求偏好的相对稳定性与转移可能性。(2)“同质性”与“异质性”:即在推荐与个体需求与气质同质的信息时,提供特定比例的异质性信息。(3)注意到“个体性”与“公共性”:个性化固然重要,但具有公共价值与普世性的信息文本可为社会的共通意义空间制造更多可能性。(4)“信息舒适区”与“信息不适区”:在一味顺应与迎合用户心理、为用户提供一个被舒适信息包裹的幻象之时,提供一些刺耳的不悦之声,让用户了解世界的诸多面向。
概言之,算法导致“信息茧房”是对新技术负面影响的夸大,隐含着 “技术决定论”的色彩。“信息茧房”并非用户常态化的媒介使用状态,且受到来自个体、社会以及技术等多方面因素的扩张、转换与替代的影响。忽略人的行为决策的复杂性,单纯探讨技术与传播现象的关系,只会导致问题的简单化和结论的粗暴。实际上, “以人为本”的算法加上与人的智能的深入融合,不仅为人们提供了多元和理性的信息世界,也为算法技术提供了善意的发展路径。
注释:
①乌尔里希·贝克乌尔里希·贝克,安东尼·吉登斯,斯科特·拉什.自反性现代化:现代社会秩序中的政治传统与美学[M].赵文书,译.北京:商务印书馆2014:74.
②李培林,李强,马戎.社会学与中国社会[M].北京:社会科学文献出版社,2008:134.
③祝建华.数码沟指数之操作定义和初步检验[M].汕头大学出版社,2002:203-211.
④威廉·夏伊勒.第三帝国的兴亡[M].董乐山等译,北京:世界知识出版社.2012:347.
⑤喻国明,韩婷.算法型信息分发:技术原理、机制创新与未来发展[J].新闻爱好者,2018:8-13.
⑥鲁耀斌,徐红梅.技术接受模型及其相关理论的比较研究[J].科技进步与对策,2005(10):176-178.
⑦尼尔·波兹曼. 娱乐至死[M].章艳译,北京:中信出版社,2005.
⑧喻国明,韩婷.算法型信息分发:技术原理、机制创新与未来发展[J].新闻与传播研究,2018(04):8-12.
⑨喻国明,杨莹莹,闫巧妹.算法即权力:算法范式在新闻传播中的权力革命[J].编辑之友,2018(05):5-12
⑩Tien T. Nguyen,Pik-Mai Hui,F. Maxwell Harper,etc.Exploring the Filter Bubble: The Effect of Using Recommender Systems on Content Diversity[C]. Seoul, SOUTH KOREA: 23rd International Conference on World Wide Web,2014:677-686.
11喻国明.如何为算法植入价值观[J].青年记者,2018(10):4.
12Kovach B, Rosenstiel T .TheElements of Journalism[M]. New York:Three Rivers Press,2001:3.
作者简介:喻国明,教育部长江学者特聘教授、北京师范大学新闻传播学院执行院长、中国新闻史学会传媒经济与管理专业委员会会长;方可人,北京师范大学新闻传播学院博士后研究人员
编辑:徐峰
关注前沿新闻理论,打造媒体研究平台,长按二维码,看《新闻论坛》怎么说。
欢迎投稿,论文要求视角新颖,与媒体实践有深度结合,字数3000字以上,6000字以内,投稿邮箱nmgxwlt@126.com 或xwlt0903@163.com
本刊未授权任何单位和个人在网上或线下代为征稿,也不收任何费用。近一个阶段,有许多人冒充本编辑部在网上或网下征稿,给本刊带来了不良影响,本刊将通过法律渠道追究其不法行为。同时,希望广大读者通过本刊电话咨询相关情况,本刊电话(0471)6635516。
《新闻论坛》是内蒙古日报社创办的新闻类期刊,创刊于1986年,是内蒙古自治区唯一一份新闻传播类学术期刊,被中国知网(CNKI)期刊数据库和国家哲学社会科学学术期刊数据库全文收录,为国际DOI中国注册与服务中心(学术期刊)会员,同时是中国少数民族地区信息传播与社会发展论坛理事单位。期刊受到学界、业界和新闻管理部门等主体目标受众的高度欢迎。
本刊关注媒体发展最新动态和前沿理论,以“新闻采编业务研究、编辑发行、媒体研究和评价”为基本定位,以“高端、前沿”为办刊理念。从2014年第6期改版以来,以媒体发展分众化为发展突破点,重点打造《少数民族新闻传播》《前沿话题》《专家访谈》《名家说事》《新闻阅评》等专栏,形成了品牌特色优势。截至目前,本刊已有40多篇文章被中国社会科学网转载,8篇文章被《新华文摘》全文转载或论点摘编。同时,中国知网数据显示,至2019年8月,本刊出版文献量为3150篇,总下载次数为211291次,总被引次数为1543次。
本刊已与北京大学、清华大学、中国人民大学、中国传媒大学、中国社科院、《中国记者》杂志社、内蒙古大学、内蒙古师范大学等区内外新闻院校和科研机构,以及区内外20多家媒体单位建立了合作关系。本刊同时聘请国内学界方汉奇、郑保卫、白润生、彭兰、陆地、宫承波、周德仓、黄楚新、陈国权、张丽萍、江鸿11位知名专家教授为顾问,形成了全国性学术影响力。2014年本刊入选由童兵主编的《新闻传播学大辞典》,2015年被中国新闻史学会少数民族新闻传播史研究委员会推选为理事单位。目前本刊已建立了新浪微博、微信公众号,同时入驻今日头条头条号和澎湃新闻澎湃号。本刊已与中国知网、维普资讯网、龙源期刊网等新闻期刊权威网站建立了内容发布合作平台。
欢迎各单位从当地邮局订阅《新闻论坛》(汉文),全年60元,邮发代号:16-414,联系电话:6635549。
原标题:《喻国明:算法推荐必然导致“信息茧房”效应吗》
本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。
- 报料热线: 021-962866
- 报料邮箱: news@thepaper.cn
互联网新闻信息服务许可证:31120170006
增值电信业务经营许可证:沪B2-2017116
© 2014-2024 上海东方报业有限公司