中国报道网——中国外文局亚太传播中心唯一官方中文网
位置:当前位置:首页 >> 数字法治

数字法治|龚向和:数字人权的概念证立、本原考察及其宪法基础

发布时间:2023-07-05 12:51:21 来源:中国报道

本文载于《华东政法大学学报》2023年第3期。作者:龚向和 ,东南大学人权研究院(国家人权教育与培训基地)、东南大学法学院教授,法学博士。

当今世界正经历百年未有之大变局,随着以互联网、大数据、云计算、人工智能为代表的数字科技与人们的生活、社会生产深度融合,人们开启了全新的数字化生存模式。信息技术的蓬勃发展,给人类的生产、生活方式带来了前所未有的机遇与便利,人们甚至可以通过数字技术行使许多基本权利。但与此同时,科技发展在人权领域的“双刃效应”也越发凸显,时空的消解、主权边界的模糊、“国家—社会”的混同及“生物—数字”的双重人性等新型社会变革问题,不仅导致公民权利的保护境遇不佳,也使人权保障受到了前所未有的威胁。

2019年6月,张文显教授于“知识产权与相关权利的法理”学术研讨会上首次提出了数字人权的概念。此后,学界针对数字人权的概念证立、价值理念、体系定位与功能向度等问题展开了热烈讨论。越来越多的学者认为,数字人权作为涵盖网络人权与新兴科技人权的新概念得以确立,数字空间的人权是新兴人权,并引领了第四代人权。然而,也有学者对数字人权的概念提出了怀疑,甚至对其进行了否定,认为数字人权不具备人权的道德基础,难以通过“数字人性”来实现道德人权层面的证成,也就无法成为一项基本人权,并且数字人权缺乏宪法的规范基础,不符合“人的尊严”标准和“最低限度基础性”标准,也无法被证立为宪法未列举的基本权利。

本文认为,数字空间中的人权保障必将成为人权法学研究的重点与热点问题,提出数字人权的概念并展开相关的理论研究,并非一种标新立异,而是为了有效应对社会转型时期的人权新挑战,具有现实紧迫性与价值正当性。但由于数字科技的发展日新月异,人们目前对数字时代的特征不够了解,且对数字空间中的侵犯人权问题意识不足,加之数字人权概念内涵不明、外延不清、理论证成不足等研究缺憾,导致学界对数字人权的概念本身没有完全达成共识。基于此,本文在对数字人权这一备受争议的概念进行证立的基础上,对数字人权的人性本原与宪法基础进行考察,旨在为数字人权作为新兴人权的发展提供理论根基。

一、数字人权作为新兴人权的概念证立

在数字时代,人权的理论研究并非在数字人权概念提出之后才开始,学界最初在已有的人权体系框架之下对网络人权、互联网人权、新兴科技领域人权等概念进行了初步探讨,大多认为数字空间的人权不是新兴人权,而是线下网民使用互联网时所享有的基本权利集合。但在数字人权这一概念被提出之后,关于数字空间中人权保障内容之争,却变成了对数字人权是否属于人权,以及是否属于第四代人权的争论。由此可见,数字人权概念的提出在一定程度上导致了学界对数字人权本体认识的分歧,因而有必要对这一全新概念进行证立。

(一)数字人权概念提出的现实必要性

虚拟空间中的人权保障已经出现了各种基本要素异化的风险,而这些异化的风险直接表明了数字人权概念的提出具有现实必要性。

其一,数字社会的虚拟性压制了人的价值系统,生物人与“信息人”并存的局面,使人权保障正面临着人的存在形式异化的风险。人既是客观存在的人,也是主观存在的人,从而形成了物质与精神两个层面的人的价值系统。在虚拟的数字社会中,以物质为核心的生物人无法进入,以精神为核心的“信息人”却可以开展各种社会活动。“信息人”作为生物人在数字空间中的映射,在数字空间中进行自我表达、劳动工作、买进卖出、结识好友、学习娱乐等社会活动时,相应的基本人权是否需要保障?而人权保障的对象究竟是存在于数字社会的“信息人”,还是线下生物人?抑或是通过保障“信息人”的人权进而实现对生物人的人权保障?这是人权保障主体亟待厘清的现实问题。

其二,公民基本权利受到数字化“侵蚀”之后呈现技术化、符号化、代码化形态,人权保障正面临着权利形态异化的风险。进入数字化时代,人权保障究竟要保障什么样的基本权利?公民的平等权,言论自由权,信仰自由权,以及隐私、名誉、肖像等人格权,都呈现出与传统物理空间不同的样态。例如,名誉权可以被量化为“点赞、评论5000次”和“转发500次”的“积量构罪”的标准。再例如,大数据爬虫、人脸识别、虹膜与指纹识别等技术对公民隐私信息的获取,使人们在大数据时代不仅“丢了脸”,还处于一种“裸奔”的状态。并且,随着算法与深度学习技术的纵深发展,人类的“情感”甚至达到了可以被计算的程度。我们不禁需要担忧,人权的核心价值——人性尊严这种绝对不可量化和比较的价值,是否也会被算法赋值为0或1,运用于各种商业活动中?此外,上网权、信息自决权、数据遗忘权等仅存在于数字空间中的新兴权利,也正在向传统人权保障的权利体系发出新的挑战。

其三,数据掌控主体的失衡,强者权利愈强、弱者权利愈弱的趋势,分裂了传统的“权力—权利”的平衡结构,人权保障正面临着权力结构异化的风险。所谓权力,是指“任何主体能够运用其拥有的资源,对他人发生强制性的影响力、支配力,促使或命令、强迫对方按权力者的意志和价值标准作为或不作为”。可见,资源的掌握与利用是权力生成的核心要素。而对数据资源的掌握与利用能力,也造就了数字时代独有的“数字强势群体”与“数字弱势群体”。在“数字强势群体”方面,大量巨型跨国互联网企业、网络平台、科技公司攫取并垄断了各个领域的数据资源,甚至已然超越了部分不发达国家,成为比肩国家的存在。这些被称为“私权力”主体的新型主体,打破了国家与公民的“公权力—私权利”二元结构,形成了新型的“公权力—私权力—私权利”三角平衡结构。而在“数字弱势群体”方面,许多公民无法获取数字资源或不具备数据利用能力,出现了数字鸿沟、技术鸿沟、数字贫困、红利差异等现实问题,甚至大量的公民连最基本的上网权都无法实现,这些现象直接导致公民基本权利实现能力的弱化。在这种强弱对比之下,私权力主体对公民的支配能力变强,而国家控制私权力主体的能力还未得到提升,并且由于传统的“权利制约权力”的宪法理念很难适用于“私权力”主体身上,导致人权保障中的“权力治理”更加困难。

其四,以国家义务为核心的人权保障义务体系正逐渐被打破,数字空间中的人权保障面临着义务体系异化的风险。长久以来,人权保障以国家为主要力量,强调国家对人权的尊重、保护与给付义务。然而,由于互联网的超时空性、去边界性等特征,导致国家在数字社会中的主权形态并不明确,跨国网络平台、互联网企业等“私权力”主体同样不受物理空间限制,其对平台内的用户具有一定的职责型管理义务,并且具备一定的“准立法权”(网络平台规则)、“准司法权”(网络平台惩戒)和“准行政权”(网络平台规则实施)等经典的规范性功能。因此,除了要求平台自身履行不侵犯人权的基本义务之外,是否需要及如何构建相应的人权保障义务体系,也是数字时代人权保障面临的现实问题。

(二)数字人权概念提出的价值正当性

价值正当性是提出数字人权概念必须具备的特性,也是数字人权是否具有人权属性的直接反映。目前学界重点聚焦于数字人权的价值功能,但鲜有学者追问数字人权这一概念本身是否对人权理论研究具有价值,本文认为,数字人权概念的提出至少具有以下三个方面的价值正当性。

首先,数字人权概念的提出顺应了数字时代人权保障的理论发展需求。人权是一个发展中的概念,在不同历史条件与文化背景下,人们会对人权概念的外延产生不同的理解与界定。根据第50次《中国互联网络发展状况统计报告》显示,截至2022年6月,我国网民规模为10.51亿,互联网的普及率已经达到了74.4%。可以预见,随着信息技术的更新与普及,数字化生存必然会是人们将来主要的生活方式之一。然而,我国关于数字空间中的人权理论研究相对迟缓,甚至始终以工业时代的思维方式考察数字人权概念及内容的合理性与必要性。面对受众多、影响大、无边界的数字空间,为了切实保障这一全新场域中人权的重要价值,人权理论的发展呼吁一个与时俱进的整全性新概念。

其次,数字人权概念的提出统摄与整合了数字空间中人权保障的理论问题。数字人权概念的提出实际上是以空间维度为标准,对人权理论问题进行的二次分类整合。例如,数字弱势群体属于人权理论中的特殊群体人权范畴,但数字化时代下的“数据鸿沟”“信息鸿沟”与“技术鸿沟”等现象所造就的弱势群体,在表现形态、保障方式与影响后果上与传统观念中的“弱势群体”都存在巨大差异;与之相类似的还有平等权、人格权、言论自由权、通信自由权等传统人权保障问题,在数字空间中也具有了新的样态,需要一个新的概念加以统摄与整合。此外,在传统的人权理论框架之中难以直接应用的部分数字空间中的新兴权利,也能够归类整合至数字人权体系之内。

最后,数字人权概念的提出为科技伦理划出了人权底线。随着信息技术产生的“数字红利”越来越多,与之相伴的科技伦理风险同样也会加剧。科技伦理风险通常表现为不确定性风险与争议性风险两种类型。前者主要是指当下技术无法完成的某种科技产品,且该产品存在着潜在的、不可预测的伦理风险;后者则是指目前技术能够完成某种科技产品的开发,但在具体运用时基于伦理道德或经济价值等因素出现了截然不同的观点。数字人权概念的提出,实际上是将科技伦理进一步具象化为对人之为人应当享有的基本权利的保障,从而划出了信息技术开发与利用的人权底线,即“任何一种数字科技侵犯人权,都必须被认定为非法,并以保护人权的盾牌将其抵挡回去”。特别是在数字经济蓬勃发展时期,必须坚持以数字人权为底线,遏制平台因过度逐利而开发或使用诸如算法霸凌、大数据杀熟等信息技术产品,并强化平台的数字人权保障义务。

(三)数字人权的基本定位

概念之于法律科学的效用除了表现为人类对法律概念的需求,还表现为使用这些概念时所受到的话语限制。数字人权这一全新的概念能否被人权话语体系接纳,这是一个理论体系的定位问题。关于数字人权在人权话语体系中如何定位的问题,学界已有诸多讨论并形成了一系列研究成果,总体而言,它们都涉及对“第四代人权与非第四代人权”“新兴人权与非新兴人权”“人权与非人权”这三对范畴的争议。而这三对范畴之间本身也存在着一定的逻辑顺位关系,且有着各自的判断标准。具言之,“人权与非人权”是最基本的体系定位,只有在认可数字人权属于人权范畴的前提下,才有可能进一步对其是否属于新兴人权乃至第四代人权展开讨论。一般而言,对“人权与非人权”的属性判定应从人权理论中人的自然属性与社会属性两个方面加以判断,即传统的人性论视角。“新兴人权与非新兴人权”则属于中观层面的体系定位,是在某种权利是人权的基础上,进一步确定其归属于何种人权的体系定位,对于这对范畴的判断往往聚焦于“新”字,即如果出现的权利不在传统人权的“射程范围”,但又属于需要保障的人权,便可以归为新兴人权的范畴。而“第四代人权与非第四代人权”因涉及人权的代际演变,则应属于微观层面的体系定位,对于这对范畴的判断极为复杂,通常需要结合政治、法律、哲学等多个学科共同考察而形成论断。依此逻辑,数字人权的体系定位应沿着“是否属于人权”“是否属于新兴人权”“是否属于第四代人权”三个问题展开。

本文认为,数字人权是人类社会信息化发展的时代产物,是立足于数字空间中人的社会属性外延拓展出的“数字属性”而形成的一种特殊类型的人权,应当属于人权范畴。但是,数字人权并不属于完全独立于传统人权理论的全新人权类型。如前所述,数字人权概念统摄与整合了数字空间中的两部分权利,一类是经过信息化、网络化、智能化进阶发展而呈现出数字样态的传统的公民权利,与在物理空间下相比,对其保障的范围、内容和方式等都存在巨大差异,因而被纳入数字人权的范畴;另一类是依托于数字时代而生成的新兴权利,也被纳入数字人权的范畴。由此可见,数字人权应当属于兼具继承与发展双重面向的新兴人权范畴。关于数字人权是否属于第四代人权的问题,正如有学者指出的,关于人权代际划分的理论标准是由联合国教科文组织前法律顾问卡雷尔•瓦萨克(Karol vasak)提出的,具有一定的政治特性,这种代际划分本身同样存在一定的争议,还涉及道德哲学、人权法学等多个学科,并且人类社会数字化进程才处于起步阶段,在代际演进的判断上需审慎对待,不宜过早地否定其作为第四代人权的可能性。

二、数字人权的本原考察

人的本性包括人的自然属性与社会属性,是人权产生的正当性根源,即人权的本原。数字人权形成最根本的动因来自人的“数字属性”。在数字化时代,人的“数字属性”作为人的社会属性外延拓展的结果,属于数字化时代人性理论的重要组成部分,表现了人们在数字社会中的存在形态、生活方式、生产活动所引发的社会关系新样态。

(一)数字人权的考察方法分析

数字人权作为一项人权概念被提出,具有其特定的正当依据与法理基础,一般从以下四个方面进行证成。一是人性论分析,证明数字人权源自人性,从人性角度证明数字人权成立的正当性。二是价值分析,从人的尊严、数字正义、数字空间秩序、共享、和谐等价值角度加以证立。基于价值层面的证成,现代数字科学技术的发展应当恪守以人为本的基本理念,充分体现数字人权的保障,将数字正义作为基本的价值预设,合理建构数字社会的法律秩序,同时将数据的开放共享作为数字人权保障的重要条件。三是规范分析,从行业规范、立法规范层面予以证成。四是从现实需要层面进行分析,从人类需要、社会经济发展需要、科技发展需要等权利功能层面去考察,是基于实证层面的分析。

学术界大部分学者选择从价值层面和现实需要角度证成数字人权,如张文显教授首次提出数字人权概念时,主要从现实需要和人类价值角度展开论证。此外,从人权本原考察人权产生的正当性依据,是最直接的人权证成方法。所谓人权(human rights),是指人依其自然属性和社会本质所享有和应当享有的权利。人权源自人性,数字人权成立与否,取决于其是否具有人性基础,是否具有人权的本原。所以,人性论证成是更直接、更有说服力的人权证成根本方法。马长山教授首次提出了“人权的数字属性”概念,实际上是从人的“数字属性”证成数字人权的创新尝试。他虽然没有直接提出人的“数字属性”概念,但提到了“人的信息属性”赋予了“人权的数字属性”,这里的信息属性实际上就是数字属性。受其启发,笔者曾撰文明确提出并论证了从生物人到“信息人”的数字时代人的存在形式具有全新的“数字属性”。

但这一直接有力的人性论数字人权证成方法,曾被误认为是“数字人性”的悖论、数字人权无法证立人性,即数字人性的出现会带来如下道德悖论:一是具有数字人性的“信息人”和现实世界的生物人的权利发生冲突时难以权衡;二是既然理性人可以转化为可计算的“微粒子”,如果人工智能拥有了同样的“微粒子”,就会导致人工智能人权主体地位的难题;三是数字人性与基因编辑技术一样创造了人性,带来了人的自我身份认同、人格同一性等方面的伦理风险。

其实这种担忧是对数字人性的误解。人的“数字属性”是指人们以“信息人”的形态在数字空间中为建构社会关系、维护人格尊严及实现个人价值所进行的信息、数据与代码的描绘与表达,是人的社会活动的数字化进阶。在数字空间中具有“数字属性”的“信息人”主要以静态与动态两种形式出现。静态的“信息人”是生物人在数字空间中的映射,属于一种信息身份;而动态的“信息人”则是静态“信息人”的升级,属于具有“数字属性”的社会人。与静态的“信息人”功能不同,人们不再满足于将生物信息映射在数字社会中,而是要在数字社会中进行沟通交流、买进卖出、生产生活等一系列社会活动,于是便出现了动态的“信息人”。所谓动态的“信息人”,是指线下生物人利用信息技术,操纵静态“信息人”实施一系列社会行为,由此便达到了行为与物理身体相分离的效果,这在哲学上被称为“离身性”。“当我们对同一主体某类信息进行类型化归置后,其所构成的数字人格便是该物理主体映射于信息社会的真实镜像。”数字社会中人的身份数据、利益数据、行为数据及关系数据等数据类型共同刻画出了人的“数字画像”。因而,人的数字人性不是科技创造的脱离生物人的非人属性,而是现实生活中人的属性之一,也是人工智能和基因编辑技术制造的“数字属性”无法比拟的,不存在所谓的“信息人”与生物人之间的权利冲突问题。既然“数字人性”不是基于形式要求推断出的“人性”,而是真实的人的属性,那么数字人权就可以证立人性。

(二)数字化时代的人具有全新的“数字属性”

进入数字化时代,在信息技术维度下,人的存在形态已非传统的生物人,而是成为具有“数字属性”的“信息人”,人的存在形式具有“数字属性”。不仅从生物人到“信息人”的剧变使人的存在形式具有“数字属性”,而且人的生活方式与生产活动等方面都出现了全新的“数字属性”。

1.从现实社会到虚拟社会:人的生活方式具有“数字属性”

人类的生活方式往往取决于科技发展水平,进入数字化时代,信息科技对人类的生活方式由早期平面化技术影响转变为立体化空间影响,造就了虚拟社会。虚拟社会的去边界化、熟人化、中心化等特点,让人们有了强烈的表达欲望,而网络沟通的超时空表达与瞬时性传播,大大提高了人们的办事效率。数字生活也逐渐成为人们真实生活的重要组成部分。

首先,在精神生活方面,数字化信息的表达、接收与情感交流,让人们的生活变得丰富多彩。数字化表达始于web2.0时代,社交媒体的兴起使互联网成为人们另一个交流互动平台,每一个网民不仅是读者,而且成了作者。进入web3.0时代,人与互联网呈现出交互性、精确性、个性化样态,精神生活再一次升级。一方面,信息技术发展模糊了虚拟空间与现实空间的边界,3D、虚拟现实(VR)、增强现实(AR)等技术使人们在聆听与观赏艺术作品、音乐、电影方面更具立体感、直观感与真实感。另一方面,在面对海量数据信息茫然无措时,智能化推送也让人们获取信息更为精准、有效和集中,甚至在深度学习、万物互联与大数据分析等技术融合发展下,出现了能够随时应答、远程控制的人工智能助手,人们无须检索,直接将指令发送给智能软件便能实现精准查找。

其次,在消费生活方面,数字化商品的筛选、交易与支付,使人们的物质需求得到了极大的满足。党的十九大报告明确指出:“我国社会主要矛盾已经转化为人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾。”人们对物质生活需求不再局限于温饱层面,高质量、个性化的生活品质成为一种新的消费标准。进入数字化时代,网络既是一种联通媒介,也是一种交易场所。作为一种联通媒介,人们可以利用网络空间沟通交流,便利物理空间中的消费生活;作为一种交易场所,人们可以通过图片、视频、售后评价、交易量等因素对商品进行甄别,再通过快递运送到家中,即使足不出户,也能完成所有的交易。与此同时,手机银行、微信、支付宝等网络支付平台为具有“数字属性”的消费生活架起了一座虚拟的“金桥”,使人们在数字空间中的商品交易与支付得以顺利进行。

最后,在政治生活方面,数字化投票、监督与决策,使人们的政治参与呈现出直接性、广泛性与多样性。在数字化时代,人们的政治参与不再局限于当面交流、现场投票、代为投票或邮寄等传统形式,而是将互联网作为一种媒介或场域,通过网络会议、语音电话、电子邮件、电子公告等方式表达诉求、参与决策。随着数字政府、数字法治等数字化平台的构建,各种财政预算、政府公报等包含大量公共信息的电子文件在数字空间公开,人们可以随时浏览查阅。而且,在数字平台中有大量政府工作人员、专家学者对这些文件进行深入解读,人们对于关乎切身利益的政策文件把握更为精准,增强了政治参与的有效性,同时也更加便捷了人们实施其所享有的监督权。因此,在数字社会中,人们的政治参与热情、参与度都得到了极大提高。

2.从实体经济到数字经济:人的生产活动具有“数字属性”

国家互联网信息办公室发布的数据显示,2022年我国数字经济规模达50.2万亿元,总量稳居世界第二,同比名义增长10.3%,占国内生产总值比重达到41.5%。可以看出,数字经济作为一种新型经济形态,已经成为我国经济稳增长促转型的重要引擎,推动着互联网与传统实体产业深度融合,使人的生产活动从土地、工厂转向了数字空间,这种生产活动的“数字属性”体现在以下三个方面。

一是人们所利用的生产要素具有“数字属性”。党的十九届四中全会明确提出“健全劳动、资本、土地、知识、技术、管理、数据等生产要素由市场评价贡献、按贡献决定报酬的机制”。“数据”作为一种新的生产要素已得到全面认可,成为继“土地、劳动、资本、企业家才能”之外的第五种生产要素。作为一种全新的生产要素,数据发挥着不可替代的价值。在生产经营过程中,人们既可以通过对各种数据要素进行采集、存储、加工与分析,对消费者的喜好进行归纳统计与趋势预测,制订下一步商品研发计划,也可以利用数据合成各种图片、视频、音频等数据制品,作为文化商品发行与出售;还可以直接将数据作为一种无形资产,在企业的资产评估、融资贷款及投资转让中实现其经济价值。同时,为了获取更多的数据资源,数字空间中出现了以数据为对象的网络黑灰产甚至犯罪行为,数据资源的采集、使用、保护也逐步法律化,进一步明确了具有“数字属性”的生产的合法地位。

二是人们经营的网络平台具有“数字属性”。数据要素与网络平台是数字经济的两大基石,缺少网络平台的数据要素将无用武之地,缺少数据要素的网络平台也将面临“无米之炊”的窘境。随着大数据与算法深度融合发展,平台已由“网络集贸市场”转变为具有科技支撑的数字化组织。在宣传与销售两个关键环节基本实现了科技化,一方面,网络平台在掌握大量数据资源的基础上,通过大数据技术分析消费者的兴趣、购买力与消费习惯,在消费者上网时采取网络广告与精准推送等手段,达到商品宣传的目的;另一方面,将传统商品销售活动由物理空间转移至虚拟空间,通过购物平台中的网店进行宣传、销售,形成了由市场与店铺、宣传与销售、销售者与消费者形成的全数字化的线上模式。但是这种数据资源积累与大数据分析技术掌握也导致网络空间中“公权力”与“私权利”的二元架构被打破,具有“数字属性”的销售平台跃升为一种私权力主体,我们应当予以重视。

三是劳动关系与劳动过程控制具有“数字属性”。网络平台的兴起对传统劳动就业形态产生了巨大冲击,一方面,新生代劳动者注重劳动自由与生活平衡,期望充分发挥自身潜能与价值,摆脱科层制管理下的流水线工作模式;另一方面,企业为了减少用工成本与编制压力,也开始利用网络空间寻求与劳动者建立灵活雇佣、外包、代理、加盟等非标准型劳动关系,在劳动者与企业的“合力”下,催生出了企业“去劳动合同化”与劳动者去雇主化的新型网络劳动关系。与此同时,生产资源结构也发生了异化,出现了新型的数据资源比传统生产资料更为重要的情况,例如,脱离了平台的网约车便难以找到乘客。在劳动控制过程方面,用工单位更具备技术优势与资源优势,促成了劳动任务分配、劳动过程监控、劳动报酬结算等方面的数字化与智能化,进而加深了劳动者的数据依附属性。

(三)人的“数字属性”的内涵阐释与归属定位

由农业时代到工业时代,火车、汽车成为腿的延伸,拉近了人与人之间的物理距离,进入数字化时代,车轮的塑造力正在不断被削弱。而数字化进程并不局限于车轮走过的距离,在物理空间、国家主权,甚至政府与社会关系等方面都出现了颠覆性变化。进入数字化时代,人们所开启的数字化生存模式使其再次升级进化,并获得了全新的“数字属性”。但作为数字化时代独有的属性,人的“数字属性”的来源、内涵,以及与传统人性理论的关系并不明晰,有待从理论层面予以定位。

关于人的“数字属性”的内涵界定与归属问题,有学者从“生物—数字双重人性”建构的角度出发,认为人的“数字属性”是指“人们的社会活动形成的一系列身份数据、关系数据、语言数据和行为数据,构成了人类生活的数字化表达。人们在天然的生物属性之外获得了‘数字属性’,实现了‘生物人类’向‘信息人类’的跨越。”这一界定在方法论与内容方面具有科学性与合理性,对于理解人的“数字属性”具有积极促进价值。但将人的本性划分为人的生物属性与“数字属性”,与人权学界大多数人认可的将人的本性划分为人的自然属性和社会属性的分类法有何区别,还需加以阐释论证;此外,在人的“数字属性”内涵阐释方面,虽然提出了人的“数字属性”是人们社会活动数字化所形成的身份数据、关系数据、语言数据与行为数据,并提出了“生物人类”向“信息人类”跨越,整体偏向于人的“数字属性”造就的静态“信息人”,但已有研究对于人的“数字属性”造就的动态“信息人”内涵解读略显不足。

人性论是对“人是什么”的追问与思考,具有深厚的哲学根基。需要注意的是,物理空间中的人性论建立在生物人的基础上,而进入数字化时代,人们化身为“信息人”,数字空间中的人性理论是否需要重构是一个值得思考的问题。我们认为,“信息人”本质上也是由线下的生物人操纵的,不同的是“信息人”使生物人跨越了物理空间,也可以说“信息人”是具有“离身性”的生物人。既然人性理论立足于“人”的本质,则无论是生物人,还是具有“数字属性”的“信息人”都应该广泛适用,因此,人性理论在数字空间中不必重构。但是,由于数字社会并非以物质为基础,传统人性理论在进入数字空间时必然面临着外延扩大的局面,人性理论中人的自然属性与社会属性也会受到冲击,而人的“数字属性”正是人性理论外延拓展的结果。

关于人的“数字属性”的内涵解读,我们倾向于以动态的“信息人”为研究对象。马克思在《关于费尔巴哈的提纲》中曾提到,“人的本质不是单个人所固有的抽象物,在其现实性上,它是一切社会关系的总和”。动态的“信息人”属于生物人操纵“信息人”在数字空间中进行社会活动的结果,这触及了人性理论的根本。社会关系并非形成于各种具有身份属性与个性特征的数据信息,而是由人们利用其拥有的信息身份开展的社会活动形成的。因此,人的“数字属性”应当是人们以“信息人”的形态开展日常生活、文化娱乐与生产经营等社会活动,这个空间中的社会关系建构、人格尊严维护及个人价值实现都有赖于信息、数据与代码的描绘及表达。脱离了数据信息,人们将无法进入数字社会,更不能作为数字社会中的主体开展社会活动。

人性作为人生而固有的普遍属性,被认为包含了自然属性、社会属性与精神属性,分别表现为生理的、社会的与心理的需要。在当代科学背景下,“物理学、生理学、脑科学与认知科学都已经清晰地表明,精神活动完全是物质的、生理的”,代表生理的自然属性与代表心理的精神属性二元对立结构已然崩溃。如前所述,“数字属性”的出现并未改变人固有的属性,而是某一种属性外延的拓展。那么,人的“数字属性”是自然属性还是社会属性呢?通过自然属性与社会属性两方面的深入分析,本文认为,人的“数字属性”不属于人的自然属性演进的范畴,应当属于人的社会属性外延拓展的结果。一般而言,人的自然属性是指人的生理或生物方面的属性。如果认同人的“数字属性”是人的自然属性的延伸,便是认可了人的血肉之躯带有“数字属性”,即利用科技改造人,而这是应该受到批判的。信息科技化浪潮推动着社会的发展,人性理论中社会属性的“社会”也分化为物理社会与数字社会,传统语境下的人类社会外延发生了变化,导致人的社会属性发生了延展。

三、数字人权的宪法基础

数字人权根源于人的“数字属性”,不仅具有坚实的人性基础,而且是数字时代人人应该享有的道德人权。“数字人权的道德依据仍然在于传统人权的道德基础,即人的道德自主性。数字人权的主体和内容与传统公民权利并无本质差别,仍在于公民的自由和安全。”然而,由于数字人权还是一个正在发展着的人权概念,其内涵和外延尚未完全明确,我国学术界对其理解有广义、狭义之分。“国际社会迄今尚未明确地提炼出‘数字人权’概念,更没有赋予‘数字人权’自主性的科学内涵。”缺乏普遍共识的交流有时会出现自说自话的窘境,因此,有必要先明确数字人权的内涵和外延。

国际社会对数字人权投入了极大的关注热情,个人、非政府组织、数字科技企业、政府和国际组织等通过发布数字人权宣言、制定数字人权立法,学术界展开了数字人权研究,有关数字人权的清单逐渐明确。这些文献中主张的数字人权非常广泛,包括最基本的个人生活方面的人权,如互联网访问权、普遍接入互联网的权利、数字身份权、互联网用户不受歧视的平等权、隐私权、在线言论自由权、信息自由权、信息自决权、个人数据保护权、互联网上被遗忘权,以及经济与社会生活中的人权,如数字教育的权利、工作场所的隐私权和使用数字设备的权利、工作场所中数字断开的权利(离线权)、工作场所视频监控设备和录音前的隐私权、数字经济中平等机会的权利、电子商务中的消费者权利、使用算法的透明度和问责权,等等。

在我国,数字人权是一个崭新的术语,是在兼容大数据时代特征的基础上孕育并诞生的新兴人权,而现今的新时代是一个数字人权日益彰显的时代。自张文显教授提出数字人权概念以来,法学界掀起了数字时代的人权研究。马长山教授在数字法治基础上凝练出了数字人权的内涵和外延,并在学术界产生广泛的影响。“‘数字人权’,它以双重空间的生产生活关系为社会基础、以人的数字信息面向和相关权益为表达形式,以智慧社会中人的全面发展为核心诉求,突破了前三代人权所受到的物理时空和生物属性的限制,实现自由平等权利、经济社会文化权利、生存发展权利的转型升级。这既包括前三代人权在智慧发展条件下的数字化呈现及其相应保护,也包括日渐涌现的各种新兴(新型)数据信息权利及其相应保护,其本质是在数字时代和智慧发展中作为人而应该享有的权利。”本文赞同这一观点。数字人权作为数字时代的崭新人权,并非完全与传统人权割裂开来,而是在对传统人权转型升级的同时,又拓展出了全新的人权内容,包括以人的“数字属性”为本原形成的具有数字化形态的传统人权,以及以人的“数字属性”为本原产生的新兴数字权利。这两种类型的数字人权都具有相应的宪法基础,应当成为宪法基本权利,并将随着宪法在数字时代的发展而发展。

(一)传统宪法权利数字化新样态的宪法依据

随着以互联网、大数据、人工智能为代表的现代数字科技的快速发展,人类进入了数字社会,人们的生存方式、生活方式和生产活动都具有全新的“数字属性”。数字社会在信息科技推动下,从早期封闭、单向、静态化的连接状态发展成为交互、精确、个性化的智慧社会,人们的日常生活在不断获得便利的同时,也不断被数字化“侵蚀”。数字时代的进步催变了一些传统人权内容,新兴数字科技的发展和社会应用使“旧”权利呈现出“新”现象、“新”样态。数字经济催生出多元化的社会主体和社会利益,而新生利益诉求也使公民基本权利呈现出前所未有的“新样态”。这些被数字化不断“侵蚀”而转型升级的、“新样态”的宪法基本权利,其原有权利内容和旧样态不但要继续受到宪法保护,其新内容和新样态也同样应该受到宪法的平等保护。相关宪法条款就是“新样态”数字基本权利的合宪性依据。

在宪法规定的公民基本权利体系中,以自由权为核心的传统基本权利出现了数字化升级。自由权作为第一代人权,是经典的传统人权,是宪法基本权利的重要组成部分,涵盖了言论自由权、个人隐私权、通信自由权、宗教信仰自由权、平等权、财产权等诸多权利,随着数字时代的到来,这些权利在原有的基础上呈现出了新样态。以互联网时代公民通信自由权为例,传统意义上的“通信自由”指的是“通过信件、电报、电话等形式表达自己意愿的自由”;在网络通信时代,以微信、QQ等即时通信工具为代表的各种电子通信方式成为人们最主要的信息传递渠道。这不仅突破了传统意义上人们发送、处理和接受信息的模式,也拓展了公民通信自由、通信秘密的内涵和外延,使互联网时代的“通信”呈现出多层面的新样态:通信载体的新样态、信息本身的新样态、通信对象的新样态。对于新样态的通信自由权,必须根据现行《宪法》第40条的规定对其保护核心和适用范围作相应的调整,发挥作为基本权利的通信自由权的宪法规范效力。宪法财产权面对人工智能生成物及人格化等法律伦理问题时,需要以《宪法》规定的“公民的合法的私有财产不受侵犯”条款为依据,不能抛弃宪法财产权规范的传统规范要素和制度内涵,对财产权理念、规范基本构造和制度进行创新,实现宪法财产权在人工智能发展上的价值引领作用,保障人工智能时代的财产权。关于数字时代平等权的新样态,英国于2018年4月发布的《人工智能发展的计划、能力与志向》明确指出,人工智能技术发展在训练数据、数据处理、算法设计者的因素都可能导致算法歧视,虽然算法歧视与传统歧视本质上都是对现实空间中人的差别待遇,但在表现方式与存在形式上具有极大差别。除了平等权,言论自由由于具有脱身份性与跨地域性而呈现扩张样态,如何正确理解数字空间中言论自由权的射程范围,廓清言论自由的民法边界、行政边界、刑法边界,也亟待言论自由权的数字化升级。

同样,以第二代“人权—社会权”为核心的传统权利也受到了数字化的“侵蚀”。社会权是公民依法享有的要求国家对其物质和文化生活积极促成及提供相应服务的权利。社会权后于自由权出现,强调国家不再扮演“消极的守夜人”角色,而是要求国家积极履行保护和给付义务,包含生存权、受教育权、工作权等。在数字化时代,人们开启了数字化生存模式,生产工作都具有了浓厚的“数字属性”。在受教育权方面,数字鸿沟进一步拉大了城乡教育的差距,优质的数字教育设备、环境、师资及学生使用数字科技产品的能力等因素所形成的教育马太效应日益凸显,互联网+教育、智慧教育等新兴教育模式正在重塑公平优质受教育权的时代内涵。在工作权方面,数字经济、科技企业、网络平台对传统的劳动关系发起了全新的挑战,电商微商、直播带货等新兴经济模式使就业权、休息权、劳动保障权等合法权益呈现出数字化形态。生存权是包含社会保障权、适当生活水准权及健康权的权利束,它同样逃脱不了数字化侵蚀,特别是在数字生活作为实现美好生活的重要组成部分后,适当生活水准权也具备了数字化形态。作为人们的经济社会生活中出现的数字化社会权新样态,它们同样需要以相对应的宪法社会权条款为保障依据。

(二)新兴数字人权的宪法基础

数字时代出现的数字人权除了包含具有数字化形态的传统宪法基本权利外,还催生了一些崭新的人权类别,如网络接入权(上网权)、数据权、被遗忘权、离线权等。一些不是宪法基本权利的法律权利也出现了数字时代的新样态,如隐私权、个人信息受保护权等。虽然我国《宪法》未明确列举,但上述权利都能找到相应的规范条款,从而上升为宪法基本权利。能够作为新兴数字人权宪法规范基础的主要是以下条款。

1.《宪法》第33条第3款“国家尊重和保障人权”

我国《宪法》第33条第3款规定:“国家尊重和保障人权。”这既是宪法的人权原则条款,也是宪法关于人权保障的概括条款,提升和统摄了宪法关于公民基本权利的规定。学术界一般认为,该条款是“未列举基本权利”或者“一般行为自由”的规范基础。虽然也有部分学者对该条款的基本权利证成标准不确定性可能导致权利过度宪法化表示过担忧,但数字时代科技迅猛发展引发的人权危机和挑战,促使法学界的有识之士举起了宪法的大旗予以应对。韩大元教授非常敏锐地意识到宪法与科技发展的冲突、宪法价值与科技价值的冲突,他郑重指出,将宪法价值与科技价值加以平衡的重要平台就是宪法,必须寻求宪法共识,用宪法的价值来约束一个国家科技的发展。有了宪法共识才能让人类继续生活在自由、幸福、有尊严的环境中,确保人类永远主宰未来,而不是由技术来主宰人类。这也就是要发挥《宪法》第33条第3款人权保障统摄性和概括性条款的统领作用,迎接新科技带来的人权挑战与危机,以宪法价值与宪法人权规范来平衡、促进科技健康发展。事实上,对于数字时代的新兴数字人权,法学界已经行动起来,以《宪法》第33条为依据进行基本权利的证成。

早在2012年就有学者将个人信息自决权作为我国《宪法》未明确列举的基本权利进行论证,认为《宪法》第33条的“人权条款”是我国《宪法》未列举基本权利的概括性条款,该条款有足够的空间容纳信息自决权。季卫东教授则把该条款体现的现代宪法精神——人权保障原理与以人工智能为代表的数字经济的迅猛发展联系起来,认为需要在这两者之间寻找适当的平衡点,深入探讨某种更适应人工智能时代需要的宪法体制。如果要切实保障个人信息安全和隐私权,当今宪法秩序演化的基本方向应该是把我国《宪法》第33条第3款“国家尊重和保障人权”的原理嵌入智慧网络,达成效率与公正、理性与温情之间的适当平衡。王锡锌教授论证了个人信息受保护权为宪法基本权利,他指出个人信息国家保护义务在我国宪法上的首要根据便是《宪法》第33条第3款规定的“国家尊重和保障人权”,又可以被统摄于《宪法》第38条对公民人格尊严的保护之中。即使我国《宪法》并未对个人信息保护作出明确的规则表达,也可以从《宪法》第33条第3款及第38条延伸出个人信息受保护权的内涵,并确立宪法上的个人信息国家保护义务。

当然,仅以人权条款尚不足以直接、完全证成一项宪法未列举的新兴数字人权,还需要结合其他标准,如需要同时考量《宪法》第38条的“人格尊严”条款、某些具体基本权利条款、数字科技与社会发展的客观需要事实,等等。

2.《宪法》第38条“人格尊严不受侵犯”

如果说《宪法》第33条的概括性条款存在语词概念的不确定性,可能会给权利过度宪法化埋下隐忧,那么可以推演出人的尊严这一宪法最高价值的《宪法》第38条可以成为证成数字人权为未列举基本权利的另一选择。《宪法》第38条规定,“中华人民共和国公民的人格尊严不受侵犯。禁止用任何方法对公民进行侮辱、诽谤和诬告陷害”。从文本看,该条款中的“人格尊严”,与《德国基本法》第1条中的“人的尊严”明显不同,价值位阶低于后者。要想使“人格尊严”条款成为具有决定性、最高性的宪法价值,为未列举基本权利提出依据,尚需对《宪法》第38条人格尊严条款进行扩大解释。林来梵教授基于我国宪法文本关于尊严条款的缺憾,从比较宪法学的角度发现,尽管我国《宪法》规定的“人格尊严”与西方各国“人的尊严”的表述不同,但与其诸种近似的用语在语义结构上也存在着某种相通之处,尤其是与《德国基本法》中的以“人格主义”为基础的“人的尊严”这一概念,也存在着某种可互换的意义空间。基于此,他对我国《宪法》第38条人格尊严条款作出了一种新的、更为合理的解释:该条前段“中华人民共和国公民的人格尊严不受侵犯”一句,表达了类似于“人的尊严”这样的具有基础性价值的原理,作为我国宪法上基本权利体系的出发点,或基础性的宪法价值原理,“人格尊严”也可理解为宪法上的一般人格权;该条后段“禁止用任何方法对公民进行侮辱、诽谤和诬告陷害”成为一项个别性权利的保障条款,相当于宪法上的人格权。但也有学者对此质疑,认为只有通过修宪才可以达到提升“人格尊严”价值的目的。为拓展《宪法》尊严条款的解释空间,王旭教授提出了“价值相互构成与支撑”方法。从体系解释来看,第38条的外观很难解释成如《德国基本法》“人的尊严”一般的具有外部统摄地位的条款,但该条内部仍然有较大的意义解释空间,与外部其他条款也可以形成他所主张的“价值相互构成与支撑”,共同丰富对第33条“国家尊重和保障人权”的理解。而且通过“价值相互构成与支撑”,尊严条款还可以越出“人身自由规范体系”,在更大的范围与平等权、政治自由、宗教信仰自由、社会经济文化权利发生价值互相关联,构成了这些权利的基础。尽管学术界对第38条的人格尊严条款作为宪法未列举权利规范依据尚未完成达成一致,但将第38条的人格尊严条款提升到人的尊严的价值高度,同时与第33条的人权条款相结合,采用“人权条款”+“人格尊严”的宪法规范来证成未列举的基本权利的路径,逐渐为法学界所接受。

对于数字时代新兴数字人权的宪法基本权利论证,法学界主要采用《宪法》第38条的尊严条款,有时还把第33条的人权条款合并适用。其中,被关注的数字人权以隐私权、数据权居多。传统的隐私权在数字时代呈现出了“新”样态,从最初限缩于物理世界的人格意义领域,到逐渐表现在线上世界的数据权。通过数据与代码呈现的个人隐私也突破了传统意义上的个人隐私权保护范式,人们惊奇地发现指纹信息、面部信息、虹膜信息等生物特征信息成为个人隐私的重要组成部分,而各种APP使用也设置了通讯录读取、短信权限、电话权限甚至身份证权限等敏感信息权限,侵犯个人信息隐私成为数字化时代的痛点,个人隐私权亟待数字化转型升级并获得宪法的明确保障。为此,众多学者选择主要以尊严条款进行宪法建构。李忠夏教授认为,在数字化时代,中国宪法中的隐私保护,应以《宪法》第33条第3款的“人权条款”和第38条的“人格尊严”条款共同构成宪法隐私权的规范来源,并从宪法体系的角度,也即从蕴含隐私价值的《宪法》第39条住宅不受侵犯、第40条通信自由和通信秘密及第38条的人格尊严条款中对隐私权进行规范建构。更有学者指出,现在已经到了信息隐私权的宪法时刻!伴随着信息技术造成的威胁不断变化,《宪法》第38条的尊严条款确立的一般人格权势将成为我国信息隐私权未来演化的王牌条款,网络社会的第三代隐私,必须基于新的社会、技术和制度条件,成为宪法性的基本权利概念。在数字化疫情防控中,隐私权保护面临着公、私双重权力生态和下位规范保护不足的挑战。以疫情防控为契机,全国人大常委会应将《宪法》第38条解释为原则性概括条款,为隐私权提供根本法上的规范保障。同样,对于信息科技发展引发的个人信息法律保护问题,应从《宪法》第38条人格尊严条款挖掘其内蕴的个人信息受保护权,促使我国宪法上的个人信息受保护权更好地形成并落实。而数据主体对在网络世界里用以指称特定主体的数据资料拥有的个人数据权主要是一项宪法权利,直接对应于《宪法》第38条的规定。

除以上《宪法》第33条和第38条外,数字人权的基本权利证成还可以从宪法序言、宪法价值等方面展开。从宪法规定来看,我国《宪法》序言中提出了“四个现代化”的总体目标,其第一章总纲中第20条至第24条明确了国家发展科学、医疗、教育的任务。而《美国宪法》第1条第8款规定:“为促进科学和实用技艺的进步,对作家和发明家的著作和发明,在一定期限内给予著作权和专利权的保障。”两者在鼓励创新方面的立场基本一致,可以作为保护数字人权的一个重要宪法依据。宪法的正义价值、自由与秩序价值等也可以在一定程度上证成数字人权。

(三)数字人权的国际宪治

数字人权是数字科技发展的必然结果。我们要如何控制科技发展的非理性带来的人类危机,始终确保人类主体性人格的自由发展呢?要解决这个问题,必须寻求宪法共识,用宪法的价值来约束一个国家科技的发展,因为宪法的基本价值要求人不能被边缘化、工具化、个体化。宪法价值在宪法中的制度化表现形态就是宪法基本权利。数字人权作为宪法价值的制度形态,成为数字科技的最高目的和根本的划界尺度及评价标准,它以人权的力量和权威强化对数字科技开发及其运用的伦理约束和法律规制。因而伴随数字科技的高速发展,许多国家及国际组织通过引进数字宪治(digital constitutionalism)概念,对如何在宪治下应对跨国治理模式的兴起,如何将数字权利纳入法律和实践的过程,如何运用法治价值观对数字时代权力行使进行理性的限制,如何重新设计平台治理等各种挑战及其不断扩大的规模,采取了各种形式的宪法反应。

在数字人权的宪法保障方面,相当多的国家在宪法中明确规定了某些类型的数字人权。对于个人信息受保护权和个人数据权,《希腊宪法》第9条规定,“任何人就其个人信息的收集、处理和使用,尤其是通过电子手段为之的,受到法律保护”;《墨西哥宪法》第16条规定,“所有人都享有个人信息受保护以及访问、更正和删除此类信息的权利”;《阿尔及利亚宪法》第46条规定,“所有人在其个人信息被处理时受到保护是法律保障的一项基本权利”。实际上,由于欧盟通过的一系列数据保护法律,如《关于个人数据处理中的个人保护的指令》《通用数据保护条例》等,对欧盟各成员国具有直接效力,欧盟国家纷纷在宪法中确立了个人数据权或个人信息受保护权。作为不成文宪法国家,英国保守党首相戴维•卡梅伦在2010年5月大选获胜后提出了“数据权”(right to data)的概念,认为“数据权”是信息时代每一个公民拥有的一项基本权利。

上网权(right to the internet access),也称宽带接入权或者互联网接入权,是网络社会的基础权利,被许多国家确认为基本权利。爱沙尼亚议会于2000年宣布互联网接入是一项人权,政府认为互联网是21世纪人民生活所必需的。芬兰政府于2009年10月将上网权确认为公民基本权利,并制定配套的规章制度予以落实;2010年7月1日芬兰正式修改宪法,成为全球首个以立法确认上网权的国家。根据修改后的宪法,上网权为公民权利,国家应保障每个人拥有每秒一兆的带宽连接。

在数字人权的国际保障方面,欧盟采取的力度最大。1981年,欧洲委员会通过的《有关个人数据自动化处理中的个体保护公约》(《第108号公约》)是全球范围内第一份有关个人数据的具有法律约束力的国际性文件;20世纪90年代,欧洲议会和欧盟理事会通过了《关于个人数据处理中的个人保护的指令》,实现了个人数据权的体系化,并构建起以行政救济为主的救济机制;2018年,欧盟出台《通用数据保护条例》,不仅为消费者从他国企业转向本土企业提供携带权,而且赋予个人数据权人权地位和行政监管机制的域外效力。《通用数据保护条例》以人权高度和天价罚款树立起了保护个人数据权的最高标准,对数据权利进行全面的保护。联合国人权机构也在呼吁数字人权的宪制化保障。如为确立作为人权的“上网权”概念并在国际层面得到广泛传播,特别报告员弗兰克•拉•鲁(Frank La Rue)分别于2011年5月16日、2011年8月10日和2013年9月4日在联合国大会上分发了3份关于保护言论与表达自由权的报告,清晰地阐述和深刻地分析了作为人权的“上网权”的概念。报告指出,鉴于互联网已成为实现一系列权利、消除不平等、加速发展的不可或缺的工具,确保普及互联网接入应成为国家的优先事项。因此,每个国家应制定具体和有效的政策、措施,使所有公民都能使用并用得起互联网。2016年夏季,联合国人权理事会发布了一项不具约束力的决议,强调“人们享有的离线权利也必须在网上得到保护”,确保访问范围广泛,并防止不合理的限制,鼓励国家通过法律,确保互联网的广泛接入。

四、结语:数字人权的宪法发展

人类文明从低级到高级发展,依次经历了狩猎文明、农业文明和工业文明三种不同的文明形态,现在已经进入了一个以数据化和算法化为标志的数字文明。数字文明意味着拥抱美好、有利于人类福祉的数字技术,它不仅需要数字技术使那些熟悉和有能力负担数字的人受益,而且应对那些不熟悉或没能力负担数字的人做出更有利的科学资源再分配。但数字技术也有有害的一面,这就需要根源于人的“数字属性”、体现宪法价值的数字人权来引导、规范数字科技,按照“以人为本”的原则,朝确保人类永远主宰未来的方向健康发展。

面对数字科技的人权危机和宪法挑战,我们应在现行宪法保障数字人权已有规范的基础之上,针对数字科技发展的不同阶段,分别采取宪法解释、专门立宪或修改宪法等不同方式推动新时代中国宪法的发展。我们需要坚持实质主义宪法发展观,基于主客观条件,体现宪法内在要求和特定趋势进行宪法规范调整和变动,在宪法发展的过程中不断推进数字人权的宪制化进程。未来数字人权会通过更多的宪法解释、更多的宪法权利条款修正案,或者专门的数字立宪的形式实现规范上的宪法化,按照托夫勒的社会未来主义的观点,就是不仅要使宪法可以避免“数字社会未来的冲击”,还能借此建立一个理想的人性化的未来宪法,保障数字人权的充分实现。

《数字法治》专题由华东政法大学数字法治研究院供稿。专题统筹:秦前松

责任编辑:楚予

关于我们|联系我们|广告发布|法律顾问|版权声明

版权所有 中国报道杂志社 广播电视节目制作经营许可证:(京)字第07311号 电子邮件: chinareport@foxmail.com 法律顾问:北京岳成律师事务所

电话: 010-68995855 互联网出版许可证:新出网证(京)字 189号 京ICP备08103425号 京公网安备:110102000508