黎四奇
湖南大学法学院教授
数据与网络科技的结合不仅极大地提高了数据生产与循环的效率，而且也使得协作、开放与共享等成为互联网时代特有的品质标签。技术本是一柄双刃剑，其在拓展人类自由空间的同时，也不可避免地给人类社会带来困扰与不安。在人类积极建构一心向善的社会体系与秩序中，虽然基于实证与科学等目的，法律人推崇法律与道德的两分，但是在格局上，“应该是这样的法”的道德远高于现实中“是什么”的法律，因为“法只能从伦理的有效性推导出自己的有效性，法的规则之所以有效，是因为它们作为伦理规范而拥有道德的品格”。风险社会中，为了防止偏轨或脱轨，数据科技必须走一条法治化的路线，与此同时，还必须在相关法律中更多地植入伦理元素。
一、数据科技伦理风险梳理
（一）数据科技的伦理风险：宏观上的考证
在伦理学的研究视域中，现代科技与伦理的关联历来是一个被重点关注的时代性问题。虽然精进的数据科技极大地提高了生产效率，改善了生存质量，但是在另一方面，智能化的科技也使得人类必须认真面对严峻的“生存或毁灭”的伦理危机。科技文明之下，风险社会不期而至。协作共存是人类文明延续的底线。然而，“迄今为止，人的伦理行为的水准一直很低……但是技术成就的水准却急剧上升，其发展速度比有记录可查的任何时代都快。结果是技术和伦理之间的鸿沟空前增大”。虽然数据科技再次彰显了人类的成功与卓越，但是科技“基因性”的伦理风险亦与科技化数据如影相随。
1.不确定性社会风险的加剧
虽然数据科技意味着信息开放、共享与自由化的胜利，但是稳中求进的社会现实决定了安全、稳定与秩序仍然是整个社会法律治理的基石。或者说，决定法律改革的根本动因并不必然在于能否激励发展，而在于是否会危及社会和谐与稳定。数据与数据科技是比较新的概念，在时下的文献中还难以找到具有共识且清晰的定义。对于何谓数据，不仅学界缺乏共识，而且在法律上也欠周延，如我国《数据安全法》第3条规定：“本法所称数据，是指任何以电子或者其他方式对信息的记录”。在表述上，“任何”过于绝对，欠严谨。“其他方式”也过于宽泛，不精确。虽然冠以“数据科技”或“数据技术”标题的文献数量繁多，但是鲜有对这一术语的凝练，即便有，也过于含糊，如“数据科技是开发网络空间数据资源利用的科技，是发展包括智慧金融在内的智慧产业的技术基础”。也正由于底层概念的不明，直接导致其下位关联概念的欠精准，如金融科技。“从法律层面界定金融科技难度较大，金融科技公司通过不同的商业模式提供种类各异的产品和服务，承担不同的法律义务。迄今为止，各国际组织与主权国家对于如何界定金融科技并无约定。”概念代表本质与真理，是建构知识体系的基本单元，关乎秩序与稳定。休谟认为：“概念先于理解，而当概念模糊时，理解也就不确实了;在没有概念的时候，必然也就没有理解。”若数据与数据科技的“真”表现得并不全面，或者更多地是“报喜而不报忧”，那么发现与释放其“善”与“美”就可能前途未卜。无需质疑的是，网络化与大数据化加速了信息的传递，缓解了“信息茧房”等问题，但是也给信息杂音、信息过剩、“信息投喂”等提供了温床，而这显然放大了社会治理的风险，如虽然货币数据化益于金融普惠、资金循环及节减核算成本等，但是它也对货币政策的运转提出了巨大挑战，并弱化了货币持有者对其财产的强力控制。在数据科技给人类带来福祉的同时，也毫不留情地将人类带入了风险社会之中。“在风险社会中，科学在两个方面表现出其有害性：其一，科学变成了一种类似于宗教的信仰，束缚了人们开展行动的手段;其二，科学所拥有的科学理性及其分析性思维与现实相冲突。”虽然数据具有静态性，但是数据只有在自由流动中才能体现其特质，而这也决定了数据必须在一个严密分工协作的系统中才能发挥其功能，如数据设备的有效运转必须依靠电力驱动，数据传输必须借助于有线或无线的网络，计算机系统的运行必须依赖于软硬件之间的兼容，整个系统的运转必须依托于专业技术人员的操控与维护等。在数据社会中，除了传统风险外，风险更多地表现为技术风险及为机器运行提供支撑的技术介质性风险，如瞬间或一段时间的断电或断网对于社会秩序与正常生活就具有致命性损害。严重的技术依赖已彻底革新了数据风险的表现形式，使得风险更加具有隐蔽性、难测性与不可控性。数据科技下，必须正视的是：“在人类已经置身于风险社会的情况下，工业社会传统的政治以及整个社会治理模式都不再适用，反而源源不断地生产出更多、更大的社会风险，使人类在风险社会中越陷越深”。人类追求科技的目的在于“善的生活”，在于求得归宿感与安全感。然而，由于欲壑难填，人日益物质化与经济化。高歌猛进的科技化使我们步入了一个现代性的风险社会。对于现代性，我们为之贴上了一系列的标签，如信息社会、网络社会、科技社会等，但是在这种乐观的背后，该发生的总会发生的“墨菲定律”决定了“风险社会成了一个混合物，一个超越了旧的理论特征的混合的世界。风险社会里，现代社会成了反思社会，现代性自己成了自身的问题”。大小数据下，“我们都是技术与官僚政治巨大机器上的小齿轮”。数据化的初衷在于自由与确定性，但是数据失真、数据孤岛、数据滥用与数据割裂等使得人们不得不面临数据控制与奴役。尽管人类已不可能退回到小数据时代，但是自由与奴役本是一个问题的两个方面，从自由即不自由的悖论看，数据科技展示的一个蛰伏性命题就是数据依赖与数据奴役。数据科技化中，自由、平等、安全、秩序、和谐等愈加扑朔迷离与难以预判。
2.社会正义面临的时代性悖论
在社会秩序的营造中，无论是基于何种立场，对弱者的特殊关照是法律系统化与正义体现中不可缺乏的环节。当下，人们多认为，数据科技能促进社会资源的公正分配，增强正义认同及提升正义的层级，其逻辑是普适性的数据科技，如移动网络、智能手机、智能电视等能推进资源配置的阳光化与普惠化。对此，学者们也进行了相关论证，如“数字金融能够降低金融服务的成本，让传统金融‘灯下黑’的人群也能够享受便捷的金融服务，同时又能让商业机构做到财务可持续”。“金融科技的功能使它具有显著的金融包容效应，即缓解信息不对称、降低交易成本等金融市场摩擦，平衡金融包容公益属性与商业属性之间的矛盾，培养社会诚信意识，有效扩大金融服务覆盖率等。”数据科技促进正义，这是一个值得商榷的命题。数据科技掀起了数据研究热，虽然在形式逻辑中，出于功利，人们倾向于正向评价，但是“世界上没有所谓绝对确定的东西”。正所谓：大道废，有仁义;智慧出，有大伪。只有蔑视流行，才能对数据与正义进行理性、综合地解读。为了阐述这一观点，在此以受人追捧的普惠金融为例。语义上，“普”彰显的是机会，“惠”强调的是福利结果。虽然数据金融扩大了金融的覆盖率，具有“天下普惠”的表象，但是能否“惠泽天下”却是另外一回事。金融机构作为企业，利润最大化是其本性所在，大数据不仅为其精准营销提供了技术支撑，而且也为大数据杀熟埋下了伏笔。若揭开其面纱，“普而难惠”的金融服务展示的有可能是另一种必须深度关注的非正义风险。数据科技革新了人类记忆的方式，其不仅使得记忆久远，而且也昭示着一个全新的社会与自然之间生态圈的形成。“数据主义、万物皆数、数据永生等凸显数据科技强大效力的词汇悄然而至，延展记忆、外部记忆、记忆工业化、第三记忆等与记忆相关的词汇也逐渐进入哲学领域。”我们原来生活于遗忘与遮蔽之中，遗忘是生活常态，但是大数据使得遗忘成为例外。时下，“在信息权力与时间的交会处，永久的记忆创造了空间和时间圆形监狱的幽灵……让我们无助地徘徊在两个同样让人不安的选择之间：是选择永久的过去，还是被忽视的现在”。网络时代，数据不是不可以被擦拭，只是看对谁而言。客观上，记忆与否、记忆时长不仅事关人类文明的演进模式，而且也关乎法律平等与自由。不可否认，科技文明使人类业绩斐然，但其代价亦非常沉重。虽然科技进步会促进产能，但是利益集中、垄断、层级等亦是紧紧跟随。科技不仅意味着进步、自由与财富，而且更意味着控制、权力、话语与“盘剥”。科技文明下，不仅权力被进一步收缩，而且权力与商业日趋集中已是势不可挡，如国家干预的扩张、搜索引擎被谷歌等主宰、电脑操作系统被微软等掌控等。集中之下，机会与财富的“二八”现象更加凸显。数据科技的核心在于传统领域被区块链、人工智能、大数据等现代技术所“武装”与赋能。赋能之下，数据不仅被日益高度智能的机器所控制，而且有可能被这些机器背后的少数精英与权贵所操控。值得警惕的是，“现代科技是造成社会不平等的重要原则，每个国家都在运用科学技术增强本国的国力，当强调本国的利益，而不顾及全人类的利益时，矛盾就会呈现出来……在这种技术霸权下，国家与国家之间、人与人之间失去了平等的权利”。秩序与平等是正义体系的重要内容，但是秩序侧重的是法律与制度的形式结构，而正义关注的却是法律与制度的实体内容、权利与义务分配的公允。数据科技的“普及化”表面上契合了正义的形式要求，但是在探讨正义时，我们还必须知道，如果脱离技术本身对社会公平、和平与自由等所可能滋生的巨大负作用，那么这本身就是一种不正义与不自由。
3.主体与客体关系的错位风险
在这个纷繁复杂的世界中，人是目的，而不是手段，人才是一切科学探索与技术发展的本位。正因为如此，越接近真理，我们就越自由、越幸福。虽然这种观点鼓舞人心，但是现实可能有些令人沮丧。在人类无尽欲求的驱使下，现代科技不仅将外界事物作为客体加以分析、拆解、组合、改造与征服，而且也在逐步地将处于弱势地位的绝大多数人作为客体来打磨、组装与“消费”，它们因其不可或缺性与权威性正一步步地控制与奴役我们，并成为一种角色变换的权力。“在这个社会中，不仅技术的运用，而且技术本身就是对自然和人的统治……统治的既定目的和利益，不是后来追加的和从技术之外强加的，它们早已包含在技术设备的结构中。”真理是如何被赋予价值，以致于将我们置于它的绝对控制之下?随着生活与社会科技化改造的加深，这一忧虑日渐被证明并非杞人忧天。“人创造出一个前所未有的人造世界，他构筑了一部复杂的社会机器来管理人建造的技术机器。但是，他所创造的一切却高踞于他之上，他没有感到自己是创造者、是中心，而觉得自己是他的双手创造出来的机器人的奴仆。”对于人是什么，时下出现了一些值得商榷的看法，如“人工智能的普及完全可能使得智能机器人在人类社会生活中的地位从普通工具上升至法律主体的高度”。法律文明化进程中，“我是谁”“我该是谁”、我与物的界限是一个绝对不能含糊的原则性问题。数据科技改变了人、物、空间、时间存在与交汇的方式，使得生活更加多彩纷呈，但是在打开一扇扇窗户的同时，它也随之关上了一些窗户。除了效益、效率之外，和谐、人性与正义也是社会核心价值的体现。然而，格式化、标准化与计量化的数据模式使得人及其生活日益枯燥、单调与刻板。整齐划一的数据标签下，社会关系与服务正慢慢地失去其应有的脉脉温情与悲天悯人的人性关怀，如当高度智能的机器大面积取代人时，随之而来的是实体机构的裁撤与机构职员的减少，社会财富进一步被精英与权贵所垄断。强弱对比的严重失衡必将加速社会分层，诱发不满与仇恨。高失业率无疑会抑制消费，而需求不足必然会联动地导致生产不足。在“投资—生产—消费”的矛盾无法消解时，经济危机或经济问题将常态化，而这又必然使社会稳定面临冲击。当传统岗位智能机器化，人就相应地失去了在社会结构中应有的位置与存在的意义。从这个角度看，与其说人工智能是服务于人，倒不如说在机器或人的选择中，芸芸众生被机器击溃而“臣服”于机器。在传统市场治理中，信用风险、市场风险是制度设计中的重点，但是数据科技彻底改变了这一切，因为高度人工智能的“机器风险”必将成为人类的心头大患，系列科幻电影《生化危机》就表达了这一担忧。虽然数据科技提升信息流动的速率，促进资源的分配，但是主客体关系的异化使人失去了位置，加深奴化、动荡与紧张。在数据科技狂飙突进中，应警惕的是：“更高的效率并一定意味着更好的社会。”
4.数据垄断
数字经济的核心是数据。“数据资产是产业兴衰、企业存亡的关键因素。”大数据时代，一个企业的规模、发展、市场份额及其影响力与其数据采集、存储、传输、挖掘、使用等能力成正比。一个基本的判断是，缺乏数据技术与资源，无以谈产业。缺乏大数据思维，无以言发展与未来。数据统摄下，数据已不再单纯地是一种资源，而更是一种“权力”与一种新型的“统治”。大数据笼罩之下，每个主体都无处可逃地被算法所监视，数据预测标志着一个被监控时代的到来。同时，数据被精确界分，个体也不自知地处于不同的被歧视级别之中。数据攫取技术无孔不入，虽然掌握核心技术的数据科技公司会采取告知与许可、匿名化、模糊化或“隐私保护政策”来消除用户的顾虑，但是对于专业人士与机构而言，我们无时无刻不得不面临数据垄断下被“肆意侵犯”的风险。“随着新一代信息技术的迅猛发展，尤其是移动互联网、云计算和智能穿戴等技术的广泛普及，数据呈爆炸式增长态势，人类社会进入到一个以数据为特征的大数据时代。”在这种语境下，重量化而非质化、重相关性而非因果性、重整体而非样本、量化一切、让“数据发声”成为一种方向与时尚。量化预测使社会中的每一个人都实时处于他人的窥视之下。数据垄断将导致数据资源被控制，消费者剩余将难以剩余，群体将进一步被算法控制与“剥削”。尤其是，数据垄断将使法律正义被诠释为，人们并不是因为违法行为而遭受处罚，而是因为将要做什么而遭受处罚。“基于未来可能行为之上的惩罚是对公平正义的亵渎，因为公平正义的基础是人只有做了某事才需要对它负责。”
（二）数据科技的伦理风险：微观上的考究
让机器代替人，将人从繁杂的劳作中解脱出来，从而能“衣食无忧”地享受闲暇与快乐，这是我们科技探索的初心所在。然而问题是，在初心的旅途中，我们往往会忘记为什么而出发。同理，数据科技化的宗旨在于改良人与世界的关系，但是殊不知，在这一进程中，我们有可能身不由己地陷入到科技之恶的伦理风险之中。
1.开放与共享：一个伦理性的二律背反
互联网与大数据精神的实质是开放与共享。开放是共享的前提，数据资源共享是数据科技的真实意图所在。一个基本的认识是，大数据时代，若没有数据的开放与共享，数字经济、数字货币、区块链等都只能是纸上谈兵。基于这一现实，人们一般不会对数据的开放与共享存在大方向性的分歧。然而，我们脚下的世界并非一个恒定的世界，世间的万事万物，甚至包括人本身都必须遵循相对的刻度，如为了求得认同与和谐，法律必须恪守中庸之道。虽然理论上，互联网是一个虚拟、无边界的区域，但是这种虚拟并非是完全超脱于现实的存在。如何开放、对谁开放、开放与共享的程度等仍然必须遵守现实中应有的法度。由此就产生以下二律背反的矛盾：“一方面，没有信息共享，就可能出现所谓的‘信息孤岛’现象，信息价值开发更是无从谈起;另一方面，信息共享可能被滥用，数据被无序开发，造成侵犯隐私权和个人数据权、危及信息安全等问题，并引发一些伦理争端。”无开放，则无互联网;无共享，则无大数据与数字经济。欠缺开放与共享不仅悖于数据科技的本质，而且也会悖于正义与文明，如数据被平台企业锁定而只能内部循环，则不仅会形成事实上的数据集中或垄断，而且也导致数据控制者将数据主体作为肆意“狩猎”的对象。虽然数据化是时代发展的技术标签，并被社会中的主流贴上了文明的标记，但是数据开放意味着私人空间被进一步挤压，社会个体的所思所想所为被阳光化而隐秘不再，隐私保护异常艰难。“在开放的网络环境下，大数据信息价值开发更容易通过强大的大数据技术获取大量的原始数据，更容易将从前属于个人隐私领域的信息视为公共信息，从而导致对隐私权的侵犯。”另一方面，共享则意味着与社会主体相关的数据可以被商业化，个体的行为处于一种可以被他人监测的状态及法律正义的时代性嬗变。“一切可量化”不仅助长对他人隐私的窥探，而且也易于导致大数据相关性的极端化。在商事活动中，商事主体期望能在最快捷的时间内，用最低廉的成本实现最大的效益，“遍地撒网”式的营销必然会进一步助长企业对相关性思维的过度膜拜。数据开放与共享预期价值的实现必须依于全面、真实与准确的数据。然而，“除了数据质量方面容易让人产生顾虑，还有些数据造假行为更是成了数据开放共享过程中的拦路虎”。在这样一个转折性的十字路口，何去何从?这不单纯是一个法律问题，更是一个伦理问题。如果忌讳于数据开放与共享的负面效应而因噎废食地排斥或拒绝数据科技，则无疑与人类追求物质文明与精神文明的宏伟目标背道而驰。人类必须富足、自由地生活下去是毫无疑义的硬道理。从这个角度看，数据开放与共享必须基于伦理进行利弊的权衡。
2.隐私与隐私保护：一个进退两难的伦理问题
隐私事关公民个体的生活安宁、人格独立与尊严，与每个人的幸福值息息相关。在前互联网与大数据时代，由于信息复制、存储、传播技术与手段的落后，信息处于一种封闭、割裂与非结构化的状态，即使缺乏严格的法律保护，隐私仍相对处于一种安全状态。然而，日新月异的网络与大数据技术使得这种相对封闭式的安宁不复存在。物物相联、人物互联的时代，由于互联网没有删除键，人们生活中的一举一动都可能被不折不扣地数据化记录，而数据本身就代表着流动性、可复制性、可交易性等。也正因为以前貌似一文不值的信息可数据化为“商品”，所以无论是在政府治理，还是在市场竞争中，数据成了人们竞相争夺或“专享”的“香馍馍”。学界对数据的“权性”争论就是最好的注解。“数据权有二个维度的含义：其一，指向公权力，以国家为中心构建的数据权力……其二，指向私权利，以个人为中心构建的数据权利，包括数据人格权和数据财产权。”“大数据是与自然资源、人力资源一样重要的战略资源，是一个国家数字主权的体现……数据权包括个人数据权和数据财产权。”国家、社会、企业如同自然人一样，都具有求生的本能，而生存必须基于利益。当数据成为稀缺资源而改变商业模式，决定市场额度与消费群体，并在事实上促成数据资产与数字社会时，数据封锁、数据争夺、数据侵权就成为一场场无硝烟的“战争”，如2017的顺丰控股与菜鸟平台、腾讯与华为之间的大数据“奶酪”争夺就是“冰山一角”。“京东和阿里都在从原来的流量竞争转化为用户黏度、用户数据之争。谁与用户关系密切，谁就能够抓住用户的潜在需求，这是未来新零售时代的竞争核心。”“大数据时代，数据日益成为企业竞争的核心，承载着巨大的经济价值。其性质与权属也成为各方关注的焦点。”对“人为刀俎，我为鱼肉”的信息主体而言，在被“围猎”的夹缝中，就不得不面临以下伦理性风险：一是数据权属不清。虽然人们为数据区分了数据产权、数据主权、数据特权与数据权利等属性，但是对于“唐僧肉”性的数据，其权与益究竟属于谁是一个比较难纠缠的问题。对此，研究者提出了不同的主张，如谁创造了数据，就属于谁。谁使用得好，就属于谁。权属不清不仅影响数据交易与流通，而且也会衍生连带性的负面效应，如交际障碍、资源浪费、保护不力与“公地悲剧”等。二是数据滥用。由于数据的非损耗性，大数据时代，数据就像一座神奇的矿藏，当它的初次价值被发掘后，其次生价值仍可以不断地得到开发，其绝大部分价值隐藏在初次价值之下。出于利益的最大化，数据占有平台就必然会加大数据的控制与利用，从而增加数据滥用的风险。三是隐私保护艰难。宁静的生活不受他人侵扰是隐私保护正当性的体现。虽然在新形势下，各国不断升级其隐私保护法令，如美国2016年出台《电子通讯隐私法案》，我国在《民法典》中设专章保护隐私与个人信息，同时又专门推出《个人信息保护法》，但是层出不穷的信息技术，使得民事、行政与刑事上的法律保护面临“空头支票”性的风险。隐私将被迫屈从于数据技术，这是大势所趋。“大数据给人类生活带来的转变是多方面的，最显著的就在于数据融合造成的隐私权衰落。”四是价值观念失范。网络时代，数据流量具有强大的经济利益。为了“圈粉”，数据制造与传播日益缺乏伦理底线，唯利是图下的“黑红也是红”，不仅诱导恣肆无忌地编造信息，随意就他人隐私在网络上进行“吃瓜”，对他人进行侮辱或诽谤。这不仅使得人人自危，影响信任与和谐，而且失范的操作也日益摧毁人们应有的价值观、善恶观与是非观，如荒诞的土网红“郭老师”现象便令人忧心忡忡。人是社会关系的总和。社会的基本事实是人存在于无法抗拒的连带关系之中。“人类社会最基本的一个客观事实是存在着社会连带关系。这是一个最基本的事实，不是一种道德判断。”连带关系不仅事关利益、生存、合作与团结，而且也决定着创新、未来、幸福与风险。现实说明，隐私保护与社会发展并不具有同向性，相反，以信息传播为核心的技术使得隐私保护面临一个伦理性的两难：一方面，人们渴望隐私得到甲胄式的法律保护;另一方面，数据记忆技术使得生活越来越透明。“大数据时代是一个开放的时代，数据的分享使得隐私的空间越来越小，分享与共享成为大众的共识。传统的小集团利益被打破，形成了一个透明、公开的社会。”由于互联网与大数据奉行的是开放与共享，表现的是人与人、人与物超越现实的虚拟交际，激励对个性与自由的追求与张扬。“这种网络文化造成的后果有可能是个人隐私的被剥夺，私人生活的价值流失。”人类的文明演进和信息公开与分享之间存在着正线数关系。然而，随着数据科技的发展，隐私、隐私权保护及如何保护等都成了一个个有名难实的命题。数据既是一种技术，更是一种观念与文化。虽然生活需要技术，但同时更需要给技术注入人文色彩，从而在科技与伦理之间达成和谐与统一。
3.安全：一个充满风险的伦理挑战
无论人类有多少价值追求，安全的重要性是不证自明，因为安全给人以稳定、秩序与预期，能消除无序、恐惧与焦虑。“安全有助于使人们享有诸如生命、财产、自由和平等等其他价值的状况稳定化，并尽可能地维系下去。”也正因为如此，霍布斯曾言：人民的安全是至高无上的法律。一般安全中包含着社会利益。在利益表现形式上，除了经济性外，数据还具有强烈的政治性与社会性。客观上，“数据安全作为网络安全的重要内容，不仅关系到个人利益、企业商业利益，而且直接影响着国家安全”。数据价值依赖于数据的收集与开发，但是无论是对于私人，还是对于国家治理而言，这之中也蕴藏着不安全的风险。“随着大数据的价值越来越大，数据安全问题将更加严峻。”如在金融领域，由于严重数据科技依赖，金融风险与日俱增地科技化，日益深不可测、难以把控。同时，鉴于货币越来越脱离实物而数据化，产权主体不仅对其货币资产日益丧失控制权与支配权，且也不得不时刻面临高效率的铸币税对财富的抢掠。此外，对于金融消费者而言，其也不得不遭受金融科技化所带来的账户安全的进一步风险挑战，因为虚有其表的隐私保护使得金融消费者的个人核心信息成为不法之徒时刻“窥觑”的对象。金融资源科技性配给的方式也会加深弱势群体的不安全感。诚如前文所述，金融科技促进金融普惠是一个真假掺半的命题。为了生存与发展，金融机构必须获利，在逻辑上，金融机构更倾向于和富人、有产者进行交易，而不太愿意和穷人、无产者或半无产者进行交易。当下，大数据分析就给金融机构对客户进行贫富的筛选提供了机遇。其结果并不是金融的普惠，而是有限金融资源配置不均的“马太效应”。其带来的并不是金融安全感，而是对金融正义的排斥与抑制。同时，数据安全更是对国家有效治理的考验，如“邪教组织借用网络传播其教义，国际恐怖组织利用虚拟空间发表激进言论、发动恐怖袭击，国际间谍利用网络盗窃国家机密，网络战和信息战危及国家安全和世界和平”。除了数据本身的安全外，技术风险更加难以控制。虽然在最初的研发中，价值判断主导了算法，但是计算机自我学习能力的提升打破了算法产出的模式。虽然技术突破将人从算法研发中解放出来，但是也增加了人们对算法理解与掌控的难度。现实中，即使人们不理解算法，但是也乐于享受计算机学习带来的便利。由此产生的后果是：无人能准确知晓算法效力的边界与失效的条件，因而也难以对算法失效及失效可能带来的后果进行判断及规划预案。计算机发达的学习能力使得算法越来越脱离人的控制。是算法日渐控制人，还是人控制算法，这是一个令人焦虑的问题。“风险社会的主题是面对社会、技术和精神暴力，即辩证暴力而产生的典型的后现代恐慌。”法律是特定时代的产物，风险社会决定了法律的变革必须体现安全思想。
4.记忆或遗忘：一个两难的选择
人类的文明是一个持续不断记忆与分享的过程。现实中，拥有良好的内外部记忆被视为卓越的标志。为了使积累的知识与经验代代传承，人类通过语言的交流与分享来强化与拓展记忆。问题是，仅仅借助内部记忆来弱化或消除遗忘是远远不够的。针对这一困境，人们开始借助绘画、文字与书本等外在的物体来加强外部记忆，但是由于介质自身的因素，记忆仍然价格不菲，非常人所能及。随着印刷与造纸技术的提升，外部记忆工具已可以量化生产，但是这并没有改变记忆成本远高于遗忘的实质。在飞速发展的信息科技带动下，网络、数据、云计算等日益嵌入世俗生活。数字革命、数字化、网络化带来了廉价的存储器、数据提取的便捷及全球性的覆盖。而且，由于数字拷贝是对原始文件的保真性复制，在数字社会，阻止他人分享信息及召回信息并非易事。时下，遗忘变得艰难且昂贵，记忆反而简易且便宜。事实是，遗忘与记忆之间的平衡已被颠覆。记忆成为常态，而遗忘成为例外。虽然数据记忆能让我们的思想、情感等恒久远，让生命以另一种方式延续，但是记住一切也会令人抓狂、痛苦与心绪难安。为了消除记忆纷扰，人们又基于隐私保护、言论自由等而提出被遗忘权新概念。“被遗忘权的提出代表了进一步扩张个人数据权利的倾向。在既往的删除权之上，增加数据主体撤回同意时的删除权，有其价值，尤其是针对社交网络服务而强调网络用户移除已发布个人信息的权利，体现了个人自治的法治精神。”记忆或被遗忘，这是一个具有伦理性的悖论，其也亟需法律上的本土化回答。
二、数据科技伦理的法律应对与窘境
（一）理论上的僵局：法律与道德的二分说
法律是什么?时至今天，虽然法律的体系日益庞杂、森然，但这依然是一个只可意会而难以明确言传的疑难杂症。实际上，这一法律中的“斯芬达克斯之谜”的症结在于“法律应该是什么”与“法律是什么”的两难困局。如果从“法律应该是什么”的角度来解析法律，那么法律就与讲究善恶的道德之间存在密切的关联，法律只是道德的另一种表述。反之，法律则与善恶无涉，而只是一个个是或不是的规范性命题。道德与法律的纠葛不清是一笔历史旧账。沧海桑田中，法律与道德的论战并没有休止符。而且，在某种程度上，反呈愈演愈烈之势。为了确保法律的“纯洁性”，法律实证主义者对各类自然法学流派的观点展开了猛烈的抨击，如凯尔逊即认为：“法律科学一直是在毫无批判的情况下被人们同心理学的、社会学的、伦理学的和政治理论的因素搅合在一起”。为了清算“法应该是什么”给法学所带来的非科学性与不确定性，尽管奥斯丁、霍姆斯等一直高举法律实证的大旗，但是哈特对于他们的贡献并不满意，其认为：“那些看上去同样奇怪的意见经常地被表达出来，不仅讲而且还以雄辩和激情去呼吁，宛如它们即法律真正之显示，而长期以来，这些真理却被关于法律本性的大量虚谬之辞掩盖起来了”。将法律从道德中准确地分离出来，是诸多法律人的梦想。然而，在这一长久的努力中，仍有以下问题值得我们穷根究底与质疑。其一是在法律人的持续奋斗中，为什么非要将法律与道德分开?实质上，它折射出的是法律人的不自信。如果法律与道德、政治等盘根错节，那么从源流上考察，法律终将存在于道德与政治等学科的阴影之下，其后果就是法律丧失法律人理想中的科学性与独立性，并影响法律职业共同体的形成与被公众认可。是故，法律人的设想是，若能将自然科学数理的、能证伪的研究方法引进到法律中，那么从法律的“纯知识性”中就能水到渠成地推演出法律科学与独立的逻辑。“假如法学家能够将法律体系的各个原则、规则和概念厘定清晰，像‘门捷列夫化学元素表’一样准确、直观，那么他就从根本上解决了千百年来一直困扰专业法律家的诸多法律难题。”其二是在法律的疆域中，为什么不采用法律与伦理，而采用法律与道德的表述?这是因为道德与伦理是等同性的概念，还是因为在词语自洽上道德优于伦理呢?如果法律是一门严谨性的学问，那么在对数据科技伦理的法治化进行抽象的逻辑探索中，就必须对这一困惑进行有理有据的释疑。实质上，作为日常生活中司空见惯的两个词，无论是在西方还是在东方的思想谱系中，“道德”与“伦理”的概念混乱问题并没有得到根本性的解决。然而，主流的认知是“伦理”是伦理学的一级性概念，而“道德”则是“伦理”层级下的二级概念。在核心语义上，伦理体现的是西方文化中的理性、规范、公共意志与科学等，而道德张扬的是东方的人文、个体修养与人生感悟等。“‘伦理’概念适合用于抽象、理性、规则、公共意志等理论范畴，而‘道德’概念适合于具体、情性、行动、个人修养等实践范畴。二者不能混同。”在人类知识的探索中，理论与实践是一个问题的两个方面，但是代表抽象逻辑的理论在位阶上高于作为形式逻辑的实践，因为理论代表的是思想的哲学性归纳与对事物规律的总结。基于此，庞德即认为：“法律记录着为理性所发展的经验和为被经验所考验过的理性这样一种教导传统”。为了保证法律的纯正性，一些人试图将法律的归法律，道德的归道德，但这注定是不现实的。倡导与宣扬法律的科学性无疑值得称道，但是认为法律可以在一个密不透风的容器中自生自发地“茁壮成长”不免有些牵强与一厢情愿。在法律文明的阶梯中，如果放任法律纯洁思潮的肆意发展，将后患无穷。作为一种社会现象，法律并非一种孤立的存在，其与社会中的政治、经济等因素相互影响、相互作用，共同服务于善与美的远大目标。如果法律特立独行，那么在缺失其他滋养的情况下，法学的发展与正义的实现必然就会走上穷途末路。虽然数据科技需要法律的引导，但是“我们必须永远牢记，创制这些规则和概念的目的乃是为了应对和满足生活的需要，而且我们还必须谨慎行事，以免毫无必要、毫无意义地强迫生活受一个过于刻板的法律制度的约束”。作为存在之家的语言不仅影响、决定资源的分配与族群的划分，而且它更是理性与逻辑的象征。在知识分类中，伦理是一个规范的表达，其优于道德。作为正义的法律亦是隶属于理性的伦理性概念。虽然数据科技促进创新、改善生活，但这并不是我们对其伦理风险视而不见的理由。创新与破坏本是一个问题的两个方面。在数据科技大步向前时，为了防止正义异化、算法控制、人沦落为机器的奴隶及社会资源的进一步板结等，科技伦理要求反倒显得比任何时候都急切、紧要。然而，一些人的短视与急功近利及法律与伦理之间的张力使得现实中的伦理法治化的前景晦暗不明。
（二）法律困局：数据科技与伦理诉求之间的紧张
科学技术是人类对客观规律的正确认知，其主旨在于求真，而伦理是维护人类和谐共处的标尺，其主旨在于求善，因为“善是保持生命，促进生命，使可发展的生命实现最高价值”。应然上，伦理高于技术与制度，但是在利益主导下，伦理诉求在法律中是否保有神圣不可侵犯的地位却可能是一个很骨感的问题。为了确立与巩固数据权利(力)，近年来，我国快节奏地出台了多部法律性的文件，如《数据安全法》《个人信息保护法》等。一些地方政府也竞相推出各自的数据管理条例，如《天津市数据安全管理办法(暂行)》《济南市公共数据管理办法》《深圳经济特区数据条例》等。然而，数据科技伦理是否得到恰如其分的体现仍值得认真检讨与审视。其一是对数据科技的“力量”认识不足。权力滥用不单纯是一个法律问题，更是一个伦理问题。在当下的法律文本中，对算法控制的法律属性认知不够。法律语境中，权力是整个法律体系构建的一个基础词汇，代表着强制力，其行使者为国家职能机构，昭示国家权力与意志。然而，算法对人的影响与控制表明旧有的权力观正面临被摧毁，新的权力观正应运而生。算法之下，“个人已经并将继续深入地‘智能利维坦客体化’，‘人—人’关系模式化为‘人—技术—人’关系模式，催生新的社会结构形成，国家与非国家力量、法律与算法、伦理与技术开始同构新秩序”。如果在大数据时代，我们还固守传统的权力观念，则不利于我们深入地洞察数据科技的某些反伦理、反法治与反人性的因素。权力意味着对自由与选择的强力否定。遗憾的是，如何在时新的法律中结合数据科技的算法对权力作出时代性的解释并没有得应有的体现。毫无疑问，这是数据科技伦理法治化的底层性硬伤。其二是有限的条文难以对伦理法治化提供足够的支撑。在评价法律规范文本的优劣中，虽然我们不能以条文的数量论“好坏”，但是由于语言自身的开放性与社会关系的复杂性，为了准确界分关系与利益，条文数的多寡不失为一个重要指标。同时，鉴于在法律体系中，伦理属于一个边缘性主题，如果总体上，条文数有限，则必然会进一步加剧伦理要求的边缘化。数字经济时代，数据私权、数据公权、数据主权、数据安全错综复杂、意义深远，但是《网络安全法》仅79条，《数据安全法》只有55条。大数据时代，个人信息的有效保护与公民对幸福生活追求之间的关联自不待言，但是法律人为之雀跃的《个人信息保护法》仅74条，略显势单力薄。在数据治理中，地方政府显得非常积极有为，但是其出台的规范文件的条文量亦是捉襟见肘，如《济南市公共数据管理办法》只有40条，《天津市数据安全管理办法》仅有36条，《深圳经济特区数据条例》有100条。客观而言，这些文本只是粗略地勾画出了数据治理的蓝图，并不细致，难以面面俱到。大数据时代，无物不数据，无物不互联。不容置疑，数据是新时代的标签与前进的基础，但是对于关键词“数据”，正如前文所言，人们并无一个精确的描述。同时，数据、信息、资料等关联词汇之间的界限也并不清晰。有人认为，“数据是数字比特的结构化结合……数据是对信息的记录，而信息是人对数据的读取、解读和沟通”。也有人认为，“数据与资料应属同一意义的词，两者无区分之必要”。在相应的法律文本中，这一分歧并没有被消除。法律概念涉及利益配置。在规范文件不能细致划分并保障利益的现实下，还去对虚幻的科技伦理问题进行较真，这似乎是一种奢想或空谈。其三是数据科技伦理在实体规则体现上的不足。科技伦理要求并非一个点，而是一条线。“科技伦理就其内容而言，包括三个基本方面：科学研究的伦理要求，技术创新、开发的伦理要求，技术成果使用的伦理要求。”如果依这一流程来考察当下关于数据治理的规范文件，则不难发现，在伦理法律化方面，其呈现出一种掐头去尾现象，即在法律规则的设计上，没有从生命周期的角度权衡科技伦理问题，如在《数据安全法》中，便是只规定数据处理与数据安全事宜，而没有从作为源头的技术研发、许可等视角来强化风险防范的伦理要求。当然，更好的生活与科技水平密不可分。人类已绝不可能返回到刀耕火种与食不果腹的初民状态，但是这并不意味着，除了利益索取之外，科技就可以不接受伦理的任何检视。科技从一开始起就获得“伦理免检权”和知识界宣扬的“技术中立”不无关联。“通过科学活动所获得的知识，只有真假之分，而没有善恶之分;如果一项科研成果是经得起实验并且符合广泛的人类经验的，那么这一科研成果就是真的。”虽然作为理性与经验综合体的科技自身并无善恶之分，但是人的观念有善恶之分，在科技作为手段而服务于人的目的时，科技就自然存在善恶之别。工业文明下的气候问题、环境问题等无不说明应对科技中立论进行认真的审视。“无论科学可能会变得多么抽象，它的起源和发展的本质却是人性的。”服务于人、满足人对真善美的渴求、生活得更加自由与体面等才是人类致力于科技最真实的意思表示。与科技和谐共处是理想使然，日渐暴露出的科技之伪之丑从另一层面说明，科技潜藏着成为不受绝大多数人控制的缺乏伦理的工具的风险。“随着科学与艺术的光芒在我们的地平线上升起，德行也就消逝了。”数据科技发展并不是背离伦理的理由，因为“任何技术在越是呈现出令人惊异的特征，越是改变人们生活的表象之下，也越是隐藏着深刻的风险”。在功能上，法律并不全然在于关系界定、利益分切与定纷止争，而更在于良好社会风尚与理想价值的正义性引领。因此，在保障数据科技的前行中，基于数据科技可能的伦理风险，通过具体法律规则的方式来体现伦理底线是对人类明天的佑护。然而，法律的设定与伦理要求似乎并不同步。“不授权即不可用”是许多App运营商的恶行。现实中，作为基础的《网络安全法》《个人信息保护法》所载的“用户同意即合法”有给平台运营商背书之嫌，如《个人信息保护法》第13条第1项规定，取得个人的同意，个人信息处理者方可处理个人信息。这是一个创新的时代，又是一个破坏的时代，同时更是一个因风险而需要变革的时代。算法、网络、数据、人工智能正在刷新我们对时间、空间、位置、情感、信任与正义等的感觉与定义。人们引以为傲的平等、自由、公正等信念正遭受严重的挑战。“当今法律体系是在工商业革命进程中不断发展而来的，当它遭遇智能互联网所带来的双层空间、人机共处和算法主导的生活场景时，必然会出现某些难以适应的困境。”数据科技伦理的强法律应对是这个时代的使命。
三、数据科技伦理法律化的路径思考
（一）伦理法律化的前提
在人类知识体系的建构中，逻辑拷问是保证一致性、合理性与严谨性必需的哲学性方法论。数据伦理法治化的逻辑是什么?任何事物从无到有、从始至终都存在一个规律性的生命周期，那么应从哪个点来切入数据伦理的法治化才能体现风险控制效率最优呢?此外，法律的创制是以人性恶为基点，而伦理则以人性善为依归，抽象的善恶如何具体化?诸如此类的困惑都是法治化中必须解构的范畴性问题。伦理事关人与人、人与物之间以善为轴心的关系建构。在法律演进中，伦理突出的价值是为现代科技的创新划出了不得逾越的边界与红线。泛互联时代，虽然对于究竟是人控制了数据，还是数据控制了人，在各种研讨中，人们并不以为然，但是由于人自身的缺陷及机器智能的升级，人与智能工具之间的关系陡然复杂起来。“人类，既是使用者(受益者)，又是被分析的对象;人工智能，既是服务于人类的工具，又是对人类(行动)的分析者。于是，人工智能在我们眼中，始终还是工具，但我们在人工智能的眼中，就变成了数据。”大数据时代，算法是什么?这是一个必须正视的问题。有人认为：“在人工智能时代，算法就是法律。”面对类似的逻辑混乱，法律人必须进行旗帜鲜明的反击。在这种反击中，必须准确无误地明确算法与人、算法与伦理、算法与法律之间的关系。利益可分为私人利益与公共利益。在法律上，则表现为权利与权力，而伦理则囊括了这两方面的内容。在科技伦理法治的条件上，应重点考虑以下因素：一是底线约束。科技是否需要伦理约束，这并不存在分歧。实际上，当下科技伦理难题的根本原因在于利益的多元与对立。基于此，底线思维至关紧要。数据科技之所以要讲究伦理，其目的在于维护人类最基础的生存与繁衍诉求，在于实现人类团结、友善、互助、友爱等人性目标。如果数据科技突破了人类和睦共处的底线，如“人肉搜索”“随意吃瓜”、数据滥用等，使人自身的人格迷茫、安全感丧失、人与人时刻处于“战争状态”等，那么就有必要将数据科技的伦理法律化，从而恢复人本位、人与人、人与环境等之间应有的正义关系。二是以保障私人权利为伦理法律化的基础。若伦理要求并不能产生良好的约束效果，其结果就可能是对他人权益的侵犯。“任何不道德都能危害社会，而实际上通常也都或多或少如此，这就赋予法律发言权，而决不能置若罔闻。”客观上，从倡导数据科技伦理到高强度的法律化之间还隔着很长的一段距离，但是数据科技对伦理的挑战已严重冒犯私人利益，影响人们对自由、平等、安全、幸福等的美好预期。“法治所要求和禁止的行为应该是人们合理地被期望去做或不做的行为。”维护人的主体地位与尊严、确保大数据时代个人隐私不被他人时刻窥视与不法使用、确保资产安全、使人不痴迷于智能化机器中而不自知等，是当下合理的权利预期。三是兼顾公共利益保护。虽然公共利益仍是一个莫衷一是的概念，但通识是，公共利益中包含着私人权利与利益，强化公共利益也能实现对个人权益的保护，并实现私益与公益的平衡。数据科技所产生的挑战不仅表现为对私人利益的侵犯，而且人工智能泛化所导致的主客体关系的模糊也说明，这是一个深度关涉公共利益的问题。“数据人”使人被深嵌于数据之中，人工智能正在破坏人与机器之间的主从关系，“我们都正在面对被我们的造物完全取代的未来”。伦理法律化已是迫在眉睫。“道德要求在转化为强制性法律规范时，除应满足于基本道德范畴的条件外，还应考虑违背这一道德要求的行为是否对他人权利或公共利益造成了侵犯。”四是应体现可行性。法律泛化是逆法治的表现。在社会治理中，法律不能强人所难。如果违背这一原则，其后果不仅是有法难依，而且也会直接影响人们对法律的确信。“仁慈总是自由的，不能被强求，仅仅由于缺乏仁慈不至于受到任何惩罚，因为这并不意味着要实际作恶。”事实上，伦理法律化也是在挤占公民的自由空间，这势必也会触发人们的憎恨与怨愤，从而悖于法律和平、秩序与稳定等目标。是故，在数据科技伦理法律化中，必须适度平衡法律与伦理之间的抵牾，必须考虑人们对伦理法律化的接受程度与可行性。
（二）数据科技伦理法律化的现实进路
“在我们这个时代，每一种事物好像都包含着自己的反面。”虽然数据科技给自由与发展提供了助力，但是它也给压抑自由、阻滞发展、模糊人格与人性等提供了可能。法律为社会治理之利器，但是伦理更是人类生息与共存之标杆。人们对美好生活的向往为数据科技治理中的伦理与法律的耦合提供了应然的逻辑，但是除了前述的抽象指引外，如何使法律能恰到好处地体现数据科技的伦理精神，这是一个试错性的实验问题。
1.确立人本主义思维
人之所以为人，就在于人的本位、独立与尊严。当被抛入这个世界时，人究竟处于一种什么样的位置，是严格服从于外在的必然性?还是以人为中心将世界作为意志与表象?这是一个人怎样认识自己存在的哲学问题。远古时期，人们认为，神才是世界的主宰，才是人生存在的出发点与归宿。在从理性自由步向意志自由中，“我思故我在”开启了人类中心主义的主体性哲学，而这也表明，在这个世界中，人才是世界的意义与中心，是人为自然立法，而不是相反。实质上，如何准确摆正人的位置不仅是一个高深的哲学问题，而且更可延伸为法律问题，或者说，所有法律关系的设立、变更或消灭，利益的取得、占有、保持或丧失等都是围绕人而展开，无论这里的人是自然人，还是人造的法人或其他非法人组织。也正因为如此，“人格尊严是一般人格权的基本内容之一，也是一般人格权三大利益中最重要的利益……所谓人格尊严，即把人真正当成‘人’”。人格尊严是整个法律体系的核心。然而，数据科技使得这一核心价值面临坍塌的风险。在我们论及区块链时，人们显得十分乐观，如“区块链本质上是一个去中心化的数据库……由于巧妙的设计并辅以密码学和共识算法，区块链实现了数据库历史记录的不可篡改”。为了分享与交流，互联网忠实地记录下了人们在网络中的一言一行，使片断的信息成为整体。“我们正处于一种不断变化但却日趋精密的被监视状态中。事实上，现在我们的一举一动都能在某个数据库中找到线索。”如果说数据不可篡改、去中心化及人的行为从随意性而变成可预测性代表了网络与大数据的优势性，那么这些所谓的优越也反衬出了新技术可能对人格尊严的剥夺与侵蚀。人不可能圣洁无瑕，是人都会犯错，而知错能改，善莫大焉。网络社会中，当事人不享有适度的被遗忘权与更正权是对人性的苛求。由于网络是兢兢业业的“史官”，每个人都毫无保留地裸露于机器及掌控机器者面前，惶惶然于机器与他人的监控之下。大数据也使得法律正义体现为不是因为做了什么而要遭受处罚，而是因为将要做什么而遭受处罚。国家的产生是源于人类共生共存的需要，去中心化能否保证安全、自由与秩序值得审视。网络、数据、科技并不会使人格得以升华，相反，人格尊严与独立会渐行渐远。人及人类将要走向何方?科技文明下，这是一个非常沉重的话题。“我们都能理解技术会产生生态后果，技术自由终究是一个生态事实。”现代化危机不仅可能使人类最终无家可归，而且也会使人在这个世界中最终失去自己的位置。在数据科技伦理治理中，为了防止技术性迷途，就必须时刻坚守以人为本的法律伦理化底线，如日本于2019年推出的《以人为中心的人工智能社会原则》就开门见山地表明了这一人本立场。
2.确立伦理性的权力观
如果法律是一种语言性的存在，那么就必须遵从“语言是存在的家”这个哲学命题。既然法律是存在于语言之中，那么如何对当下法律体系中的“权力”语言进行与时俱进的解释也是数据科技伦理法律化中必须精雕细刻的基础性问题。在既有认知中，法律代表着强制力，为一种有组织的威胁和抵制。如凯尔逊认为，法律为一种有关人的行为的强制性秩序，国家只不过是强制规范的总和。基于法律人对权利与权力的理解，法律关系也随之被分切为民事、行政与刑事关系。在权力关系中，主体一方必须为国家有权机关。虽然权力是权利的另一种表达，但是为了防止权力之害，在伦理上，人们对权力始终保持高度戒备，权力导致腐败，绝对的权力导致绝对的腐败。“抽象的权力也许可能是高尚的、公正的、无私的、而现世的权力必然是偏私的、压迫性的，或者说是罪恶的。”虽然数据企业属于民事主体的范畴，但是如何定位其对市场、社会、用户“说一不二”，甚至对国家的决断力，这需要法律审慎。权力是什么?在权力格局中，究竟是为了学科体系的齐整，竭力固守传统的权力观而裹足不前，还是直面数据科技的挑战而吐故纳新，这需要高瞻远瞩与深思熟虑。数据经济中，“二选一”“大数据杀熟”“数据壁垒”“数据割据”等是否为另一种弱肉强食的权力呢?“从政治学理论的视角来看，大数据既是一种权力范式，也是一种权力叙事，它遵循权力的逻辑，不断生产、重塑和支配的政治经济社会关系。”实质上，算法正在摧毁传统的“权力—权利”体系，它正悄然地侵蚀正义、平等与自由。“算法权力正在逐渐形成一种准公权力，使得传统的权力格局发生了权力主体中心化、权力作用范围的延展化和权力互动的双向化之变迁，改变了原有的权利—权力格局。”妥协与平衡事关和谐、稳定与安全。在数据治理中，为了防范算法“权利”下的权力性暴力，必须基于权力的伦理，对权力进行综合性的解释，即并不必然将“国家意志”作为权力的标签，而改成将“强力意志”作为权力识别的标准。“权力乃是这样一种可能性，即处于某种社会关系内的一个行动者能够不顾抵制而实现其个人意志的可能性，而不论这一可能性所依赖的基础是什么。”鉴于传统的法律理论与法律机制已难以应对人工智能所产生的科技性风险，为了防止社会分崩离析与正义塌陷，就必须对权力进行中性的再造，而将控制力、影响力、意志力、选择力等强力特征作为权力及其体系重构的伦理标识。
3.代码植入法律化的伦理要求
在计算机的系统与计算运行程序中，代码是完成预定指令最底层的技术架构与现象。客观上，代码既是数据开发与利用的规范，同时也是急需治理的技术力量，因为代码体现的不仅是技术，更是决定了利益分配、风险程度、正义实现与政府治理。随着代码技术在社会学科中的渗透，有人在信息法概念的基础上，主张代码法律说。“尽管代码即法律具体表达各不相同，但其核心特征是利用代码来定义人们需要遵守的规则。”代码是网络安全、隐私保护、数据共享与数字经济等的源头。在信息科技中，代码具有原始性的规范力，不同的代码意味着不同的计算、风险与挑战，具有隐秘性与专业性，对人类的行为具有潜移默化的塑造与控制力。虽然代码是信息工程师的“游戏积木”，但是代码应服从于法律安排，同时必须遵循技术伦理的要求，因为“代码毕竟不是真正的法律……仅有社会学上的有效性，而缺乏法律和伦理上的有效性”。科技风险存在巨大的不确定性，预防原则应是法律创新的重点。为了防患于未然，必须居安思危地在代码研发与编写中植入法律性的伦理规则。有学者提出：“计算机专业人士在软件开发过程中，应认真落实诚实、尊重、专业胜任、公正、适当关怀、效果、效率及无偏见等八个伦理原则。”“应在操作算法之外，设置另一套独立于操作算法的监控机制，以对操作算法的具体工作进行防控。”代码即规范与权力，是数据科技的基础。在重塑社会治理、经济发展模式及人际关系中，代码的作用举足轻重，而这也表明代码已是人类生活中不可缺少的部分。法律调整是对现实关系的反馈。除了针对代码“出生”设定伦理规范外，还必须通过制度化的方式对已存在的代码进行伦理性的筛查与复检。“机器学习已经广泛应用于恶意代码检测中，并在恶意代码检测产品中发挥了重要作用。构建针对恶意代码检测机器学习模型的对抗样本，是发掘恶意代码检测模型缺陷，评估和完善恶意代码检测系统的关键。”代码控制的目的在于检测是否存在数据无节制挖掘的风险、是否存在信息安全漏洞、是否窥探隐私及对人行为控制的影响等。
4.构建系统性的事中数据伦理法律治理机制
科技伦理治理是一个闭环性的体系工程。除了法定的伦理规范外，还必须将行业自律、内部治理、执业许可及职业伦理培育等纳入体系中，从而形成一个政府与社会、个体与企业、企业与行会共治的格局。在风险社会中，为了应对信息技术危机，信息行业组织也开启了伦理自治，如早在1972年美国计算机协会即推出《计算机协会伦理准则与专业行为规范》。1999年，该协会又与电气电子工程师协会联手发布《软件工程师职业道德规范与实践要求》。早在2002年，我国计算机行业协会就出台《中国互联网行业自律公约》，并倡导“积极发展、加强管理、趋利避害、为我所用”的基本路线。为了防止数据伦理要求的纸上谈兵化，还必须通过“硬法”对“软法”进行提质。基于此，必须要求数据平台企业在内部设立数据伦理委员会，以专司对数据技术开发、数据传输、数据存储、数据处理与使用的合伦理性审查与处置。此外，在计算机执业认证中，加入计算机伦理的知识与水平测试。在这一点上，信息系统安全师认证(CISSP)的做法值得推崇。作为国际上最权威的注册认证，除了考察申请者的专业技能、法律、政策等常规知识外，还专门对伦理等职业操守提出要求。国民素质对于文明国家建设的意义不言而喻。科技发展的目的并不是要将人变成唯利是图的经济动物，而是使人在物质与精神上更加富足与文明。因此，除了掌握网络与大数据等新知识外，国家、社会、企业与学校等都有义务与职责脚踏实地去开展数据伦理的启蒙与再教育，使人知晓网络、科技、数据、平台等都必须恪守的伦理底线，并理性地认识到，数据科技并不是要将人变成数据的傀儡，不是要将数据科技变成控制人、侵犯他人权益的工具，而是服务于人类对真善美的追求。
四、结语：不忘科技的初心
卢梭曾言：“人生而自由，却无往不在枷锁之中。自以为是一切的主人，反比一切更是奴隶。”理论上，人类科技文明之义在于自由、富足、安全、尊严等生存的核心价值。基于这一视角，科学与技术联袂的动因在于“人”与“人性”，人才是科技的中心。没有人的世界注定是荒凉、凄惨与虚无。“全部人类历史的第一个前提无疑是有生命的个人的存在。”人类的功利与短视注定了我们在应然与实然之间总是徘徊不定。客观地评价，在人类的知识体系与制度现实中，应然与实然总是表现出“两张皮”。高深莫测的哲学思考并不必然会成为人类改造世界与制度改良的指南。泛互联、数据统制的时代，如同核裂变般，大到经济发展、国家治理、国际关系，小到市井小民的衣食住行、人际交往等无不面临剧变。数据之下，数据与国家治理者、技术控制者、市场主导者及用户之间错综复杂的关系正在改变“权力—权利”组合的走向。在这个新时代，变化为一种新常态。数据科技一路狂奔之际，我们是否因为可能走得太远，以致于忘记了出发的初衷。人工智能机器的学习能力节节攀升，最终超越人本身也只是个时间问题。到那时，究竟是人控制机器，还是机器控制人?对此，必须未雨绸缪。社会治理中，尽管法律旨在惩恶扬善，但是若法律缺失了以善为中心的伦理导航，法律就可能沦为科技“文明”下作恶的帮凶。初民社会，法律不存，但是在恶劣的生存竞争中，人类胜出依然体现了适者生存与物竞天择的自然法则。之所以如此，就在于道德底线守护了人与人之间的友善、团结与合作。数据治理中，伦理是法律的底线与航标。人是数据模式的创造者，同时更应是数据文明的主宰者。（本文发表于《中国法学》2022年第4期。）
《数字法治》专题由华东政法大学数字法治研究院特约供稿。专题统筹：秦前松
责任编辑：楚予
