【作者】黄锫
【内容提要】
元宇宙的行政规制路径:一个框架性分析
黄锫 同济大学法学院副教授
摘要:元宇宙是新一代全真互联网形态,用户、数据、算法是元宇宙时代社会经济活动的三个重要支点,三者之中都存在着诸多风险,包括:因元宇宙用户身份匿名化导致阻碍人们之间深入合作的风险,因元宇宙数据集聚化导致对用户个人信息与隐私、市场主体创新动力、国家数据安全的侵害风险,因元宇宙算法权力化导致的信息数据再中心化、经济活动垄断化、社会观念操控化的风险。这些风险难以通过市场力量自行化解,需要行政规制的力量予以防范。具体的行政规制路径包括搭建统一的元宇宙身份认证平台、组织类用户实行准入与单一身份认证制、个体类用户实行多元身份认证制等身份真实性规制,实施强制性用户数据脱敏、限制元宇宙平台企业利用商业数据从事同业竞争、规范跨境数据流动等数据安全性规制,以及算法透明规制、算法伦理规制及算法问责规制等算法向善性规制。
关键词:元宇宙;行政规制;身份匿名化;数据集聚化;算法权力化
目录:
一、问题的提出
二、元宇宙的身份匿名化风险与真实性规制
三、元宇宙的数据集聚化风险与安全性规制
四、元宇宙的算法权力化风险与向善性规制
五、结语
一、问题的提出
广义上的元宇宙(Metaverse)是指一种具有沉浸式体验的三维虚拟世界(Immersive Three-dimensional Virtual Worlds),人们在其中可以摆脱现实世界的物理束缚通过各自的化身(Avatar)进行相互交往。简言之,它是“一种具有现实性的数字虚拟社会”。元宇宙的概念诞生于1992年,2021年出现了元宇宙建设的爆发式增长,这一年也被称为元宇宙元年。这一年初,沙盒游戏平台公司罗布乐思(Roblox)成为第一家把元宇宙概念写入招股说明书的公司,并成功在纽约证券交易所上市,首日市值就突破400亿美元,受到资本市场的热捧。芯片巨头公司英伟达(Nvidia)发布了名为“工程师元宇宙”(Omniverse Enterprise)的模拟和协作平台,致力于帮助其他公司和个人在网络虚拟空间中复制出真实世界的数字孪生项目。互联网巨头公司脸书(Facebook)更是毅然将其集团公司改名为“Meta”,全面拥抱元宇宙概念,以便增强公司的对外形象并传达商业模式转型的决心。国内的字节跳动公司斥资超过50亿收购了虚拟现实(VR)创业公司Pico,开始进军元宇宙领域。腾讯公司也申请注册了近百项元宇宙相关商标,投资入股诸多元宇宙相关的企业。其他诸如阿里巴巴、微软、亚马逊、百度等知名互联网公司也纷纷开始在这一领域发力,使元宇宙成为最为热门的话题。
元宇宙被认为是第三代互联网形态,它高度融合现有的大数据技术、云计算技术、VR/AR等交互技术、人工智能算法技术、区块链技术、物联网技术等一系列高新技术,将这些高新技术“连点成线”,形成一个与当下真实世界相互交融的虚拟世界。由于元宇宙代表了科技的创新发展方向与高阶形态,是一个国家科技创新能力的集中体现,既具有巨大的经济价值,又对提高国家竞争力具有重要意义,因此元宇宙不仅对各类市场主体产生了强大的吸引力,而且也应当成为国家层面设定的未来发展战略目标,成为创新科技发展的前进方向。目前,元宇宙正处于初创时期,正如早期移动互联网的发展经验所显示,元宇宙初期的发展也需要各类市场主体基于经济利益考量而互相竞争所提供的强大动力予以推进,市场的力量将会占据主导地位。然而,由于在数字化世界高度的密集性和复杂性背后,风险总会如影随形,也不能忽视市场力量在推动元宇宙发展过程中有可能伴随而生的种种风险。这些风险在元宇宙初创时期体现得或许并不明显,但是却始终会存在,并将伴随元宇宙的成长而不断显现,甚至最终成为阻碍元宇宙健康发展的负面力量。因此,需要一种不同于市场的力量将这些风险防患于未然,行政规制由此成为必要的选择。
对元宇宙的行政规制事实上就是对元宇宙发展过程中的风险进行规制,也即通过设立专业的行政规制机构,对元宇宙可能造成公共危害的风险进行评估和监测,并通过制定规则、监督执行等手段来消除或者减轻相应的风险。它属于元宇宙治理方式的选择问题,也是元宇宙治理中最重要的法律问题之一。政府应该妥善划定行政规制的必要路径,在维护市场力量建设元宇宙的同时,通过对市场主体持续的监督与管理,促使市场主体发现自身问题、制定应对方案、加强自身内部治理,充分降低元宇宙发展过程中的伴生风险。那么,在目前这样一个元宇宙的初创时期,行政规制机关应在哪些方面对元宇宙实施必要的风险规制?对此,本文将依据以下图示对这一核心问题进行框架性分析:
图1 元宇宙的行政规制框架图
如上图所示,本文选取了用户(身份)、数据、算法三个方面来探讨元宇宙的行政规制路径。这三者是构建元宇宙时代社会经济活动的三个重要支点:用户是元宇宙内的主要活动主体。元宇宙归根到底还是要为活跃在其中的用户服务,通过“网聚人的力量”促进用户之间的深入合作,推动社会经济的纵深发展。数据是元宇宙时代的基本生产要素。作为数字经济发展的高阶形态,元宇宙中实现了万物数字化后的互联互通,时刻产生着海量的数据,这些数据是元宇宙社会经济发展的基本生产要素。算法是元宇宙运行的基础治理工具。纯粹技术意义的算法在元宇宙时代已经发展为法律意义的算法,算法的功能也从单纯的技术产品发展为元宇宙的基础治理工具,具有不可替代的重要功能。但是,这三者都存在着妨碍元宇宙时代社会经济发展的潜在风险:元宇宙用户身份的匿名化会阻碍用户间合作的深入拓展;元宇宙中数据的集聚化会产生对个人信息及隐私、市场主体创新动力及国家安全的严重威胁;元宇宙中算法的权力化会导致元宇宙平台企业利用信息数据的再中心化实现经济活动的垄断化和社会观念的操控化。这些潜在的风险都难以通过市场力量予以有效约束,甚至市场力量本身就是这些风险存在的原因,因此必须要引入行政规制的力量加以防范和化解。
基于以上三个支点,本文将依次探讨元宇宙中身份匿名化风险和对应的身份真实性规制,元宇宙中数据集聚化风险和对应的数据安全性规制,以及探讨元宇宙中算法权力化风险和对应的算法向善性规制,以期为规划元宇宙行政规制的路径提供一点智识贡献。
二、元宇宙的身份匿名化风险与真实性规制
元宇宙之于人类社会最重要的功能在于能够为人们达成跨地域、跨国域合作提供全新的途径,最大限度地拓展人与人之间的合作关系。用户在元宇宙的虚拟空间中可以摆脱现实世界的物理束缚,通过虚拟化身与其他用户进行交往互动,实现合作共赢。但是,用户在元宇宙中的身份匿名化却会妨碍信任的产生,进而对用户之间达成深入合作关系造成阻碍,甚至还可能会释放用户内心的“恶性”,在身份匿名化的掩护下进行反生产性的活动。这不仅会对元宇宙本身的秩序产生破坏,还可能通过元宇宙与现实世界的密切关联,影响现实世界的社会秩序。因此,需要通过行政规制机关对元宇宙用户实施身份真实性规制,确保法律制度体系能够实际约束元宇宙用户的行为,为促成用户之间通过元宇宙平台达成合作提供信任基石。
(一)元宇宙的身份匿名化风险
人们之间合作关系的达成对于社会存续与长期发展而言极为重要,甚至社会本身的存在也就是人们之间合作关系的存在。在鲁滨逊式的孤岛之上没有人与人之间合作关系的存在,也就没有社会的存在。在现实世界中,现代工业化社会主要是依靠主权国家制定的法律制度体系促成人们之间合作关系的达成。因为工业化社会里随着规模化生产中劳动分工的细密和交通工具的便利,人员流动性大幅度增加,人与人之间的陌生化程度随之加深,形成了诸多区域性的陌生人社会或半熟人社会。在信息相互不对称下,人们无法合理预测彼此的行为,难以产生必要的信任,合作关系的达成也就趋于困难。于是,主权国家制定的法律制度体系的重要性由此凸显。法律制度体系是由主权国家制定的行为规则汇集体,通过国家强制力的支持,能够搭建起理想的法律秩序框架,为人们提供必须共同遵循的权威行为规则。当人们遵循这些共同的行为规则,并且相信他人也会遵循这些行为规则时,行为不可预测性的壁垒就被突破,陌生人之间的信任随之产生,合作关系也就得以达成。
不过,法律制度体系这种功能的实现存在一个重要前提,那就是负责法律实施的公权力主体必须确切掌握社会中人们的真实身份。因为只有掌握人们的真实身份,才能确保国家强制力直达社会中的每一个体——个体一旦违反了法律设定的行为规则,就会受到有效的制裁,并承担相应的法律责任。如果没有掌握人们的真实身份,那么一旦法律制度设定的行为规则遭到破坏,就无法准确定位具体的法律责任承担主体,国家强制力也就无法真正体现。同时,人们也只有“相信”合作对象身份的真实性,才会相信在合作对象违反行为规则时,国家强制力能够直达并迫使其遵守相应的行为规则、承担相应法律责任,使自身权益得到有效保障。如果合作对象的身份并不真实(也即匿名化),那么人们就难以相信对方未来的行为能受到法律强制力的有效约束,可能会认为己方利益得不到有效的保障,合作的达成也就难以实现。换言之,身份的真实性是法律制度对人们行为产生实际约束力的前提之一,人们相互之间相信对方的行为能够受到法律制度的有效约束是产生信任的必要条件,而信任则是达成合作关系的基础。由此,身份的真实性就成为人们之间达成合作的必要前提,它使人们可以合理预期到合作对象未来行为的可能性,建立相互之间的信任,并达成相互之间的合作关系。
无论是何种形态的元宇宙,本质上都是一个社会。元宇宙不能脱离现实世界而孤立存在,它应是现实世界的延伸区而非平行域,是拓展而非替代。就其对现实世界的拓展功能而言,元宇宙存在的主要意义在于它能够最大限度地超越现实世界中物理空间的限制,在一个全真的虚拟环境中通过虚拟化身(Virtual Embodiments)建立起人与人之间的合作关系,进而促进现实世界中的社会发展,增进现实世界中的社会总福利。如果不能有效促进人与人之间的合作关系,增进现实世界中人们的福祉,那么元宇宙存在的意义或许就只剩下单纯提供游戏的功能,成为一台大型的游戏机,而不是成为未来社会长期发展的依托和方向。
在元宇宙中活动的主体是现实世界中用户的虚拟化身,可以称之为“数字人”,它主要包括两种:虚拟数字人和全息数字人。虚拟数字人是由数字技术在元宇宙中创造的纯粹虚拟形象,通常都是由组织类的用户(主要是各类公司、企业)出于商业目的主动塑造。全息数字人则是个体类的用户在元宇宙中对应的数字3D形象,用户通过可穿戴的扩展现实设备(Extended Reality Devices)、数字孪生(Digital twins)技术、“交互现实”(Cross-Reality)技术将自己的细微动作捕获后实时同步于元宇宙中,达到镜像化的逼真效果。同时,元宇宙中全息数字人所处的场景信息也能同步传达至用户,且不限于传统互联网所传输的视觉信息、听觉信息,还会包括触觉信息、嗅觉信息乃至味觉信息,使用户感受到与现实世界中几乎无差别的沉浸式体验。这种沉浸式体验结合数字技术的可变性,使用户可以在元宇宙中拥有多重不同的身份,深度体验不同的角色,感受以假乱真的生活、工作、娱乐场景,甚至能够在元宇宙里搭建属于自己的小世界。
无论是虚拟数字人还是全息数字人,都与元宇宙用户密切关联、不可分割。虚拟数字人是作为组织的元宇宙用户设计创造出的虚拟产品,行为模式完全受控于用户在设计时的预先设定,其行为实质上反映了用户的所思、所想。全息数字人更是作为个体的元宇宙用户的全真影像,一举一动都受控于用户,并不存在脱离元宇宙用户的独立全息数字人,元宇宙中数字人的行为追根溯源还是反映了元宇宙用户的行为。因此,现实世界中法律制度体系对用户行为的调节功能自然也就可以辐射到元宇宙中数字人的行为。
然而在元宇宙中,数字技术控制下的数字人可以具有多重身份,这种多重身份的背后就是用户在元宇宙中的匿名化,数字3D模型像是一个真实且立体的面具掩盖了用户的真实身份。正如上文分析所显示,匿名化会削弱法律制度体系对元宇宙用户的强制力,同时也会使这些通过元宇宙产生关联的用户之间缺乏足够的信任——因为很难让用户信任一个不受主权国家法律制度体系强制约束的匿名合作对象——以致于用户只能通过操控元宇宙中的数字人从事一些适合个体性的或简单合作性的活动(如在元宇宙中单人游戏或与其他用户一起组队游戏),而对于事关重大利益的合作关系则很难形成(如在元宇宙中签订房产买卖合同)。于是,对于促进人们之间合作关系这一元宇宙最为重要的功能就无法实现,元宇宙也就可能成为一台纯粹的游戏机。
(二)行政规制机关的身份真实性规制
正是因为元宇宙中的身份匿名化会存在以上风险,所以必须有一种力量能够保障元宇宙用户的身份真实性,至少能让元宇宙用户相信其他用户身份的真实性,在用户的虚拟化身和真实身份之间建立某种映射关系,有效实现法律责任的追究和落实。目前搭建元宇宙的平台企业无法有效提供这一力量,因为元宇宙平台企业天然具有追求自身利益最大化的倾向,而用户身份的匿名化不会对元宇宙平台企业获取更多的经济收益带来障碍(如在元宇宙游戏中用户的匿名化并不妨碍元宇宙平台企业的收费),反而可能会扩大元宇宙平台企业的经济收益(如无需实名注册的元宇宙游戏总能吸引更多的用户),因而其并不会将促进元宇宙用户之间的合作关系作为目标。换言之,元宇宙用户身份的匿名化将实质上导致用户之间深入合作意愿的降低,阻碍社会经济的长期发展,但却不会损害元宇宙平台企业的当下利益,它也就没有动力去解决这一问题。
社会经济长期发展本身其实是一个公共品,具有非竞争性和非排他性的特质,这也是不能完全托付于市场主体的主要原因。于是,行政规制的力量就体现出自身的比较优势。对于一个政府而言,管辖区域内社会经济的长期发展在本质上决定了其存在的合法性,也是巩固其统治地位的牢固基础,所以政府具有推动管辖区域内社会经济长期发展的强大动力。通过行政规制促进人们之间在更广阔领域内的深入合作,进而不断推动社会经济的向上发展也就成为与政府激励相容的选项。为了防止元宇宙用户身份匿名化阻碍人们之间深入合作关系的实现,行政规制机关可以通过定位元宇宙用户真实身份的规制工具增进用户相互之间的信任,使用户们能够在这种信任的基础上通过元宇宙不断增进深入的合作。具体的行政规制路径包括:
第一,搭建全国统一的元宇宙身份认证平台。全国统一的身份认证平台是进行互联网可信身份认证的有效途径。统一身份认证平台依托政府公信力而建,能够提供权威的身份认证信息,且可以利用现有已经建成的身份认证数据库,提高建设效率、降低搭建成本。从目前元宇宙的建设情况看,存在着诸多不同平台企业搭建的元宇宙。出于自身利益的考量,不同平台企业搭建的元宇宙相互之间往往实行用户身份隔离,一个元宇宙中的用户身份通常不能无缝衔接入另一个元宇宙,需要用户重新注册、认证、登录。这就需要有一个能够统合所有元宇宙的统一身份认证平台,为各个不同元宇宙中的用户提供权威身份认证。由政府统一搭建的元宇宙身份认证平台是最合适的选择,因为政府具有统一协调各个平台企业的意愿、权威与能力,能够高效地提供中心化的身份真实性认证,并实现各个元宇宙之间用户的身份互通。或许会有观点认为,元宇宙中的区块链技术能够校验身份信息的真实性,所以不需要政府搭建统一的元宇宙身份认证平台。这种观点忽视了这样一种情况,即虽然目前元宇宙中的区块链技术能够提供去中心化的身份信息校验,但是这种校验只是对身份信息的“完整性”校验,也就是说只能确保用户提交的身份信息在提交之后不被篡改,而对于判断用户初始提交的身份信息本身是否“真实”则无能为力。因此,区块链技术并不能代替中心化的身份真实性认证,两者毋宁是互为补充的关系。
第二,对组织类用户实行元宇宙的准入制度与单一身份认证制度。所谓组织类用户,是指公司、社会团体等非人格化主体。在元宇宙中存在着大量的此类用户,它们利用元宇宙的平台功能从事各类社会经济活动,拓展自身经营活动范围。由于组织类用户进入元宇宙的主要目的在于从事社会经济活动,且通常会比作为个体的用户具有更强的活动能力,其行为在元宇宙中能产生比自然人行为更深远的影响。组织类用户一旦出现破坏元宇宙内行为规则的情形,造成的损害也就会更大。因此,行政规制机关应对元宇宙中的组织类用户实行准入制度,在组织类用户创建元宇宙中的虚拟化身之前需要获得行政规制机关的行政许可,然后才能进入元宇宙开展社会经济活动。组织类用户应实行单一身份认证制度,也即组织类用户在元宇宙中只能使用现实世界中的真实组织名称,并且在元宇宙中只能对应一个固定的、公开的虚拟形象,防止其通过匿名化从事反生产性的活动,破坏元宇宙中的秩序。
第三,对个体类用户实行元宇宙的多元身份认证制度,但不实行准入制度。所谓个体类用户,是指现实世界中作为个体的自然人。个体类用户虽然活动能力弱于组织类用户,但是在数量上远超组织类用户,并且也是元宇宙活力的主要来源。组织类用户在元宇宙中的存在最终也主要是为了服务于个体类用户,没有个体类用户,组织类用户也就可能会失去在元宇宙中发展的激励与动力。由此,行政规制机关对于个体类用户无须实行元宇宙的准入制度,应允许个体类用户自由出入元宇宙。同时,对于个体类用户也无须实行单一身份认证制度,应允许其在元宇宙中可以拥有不同的多元虚拟身份,给予其更广阔的创意想象空间,事实上这也是元宇宙的吸引力所在。不过,个体类用户这些不同的虚拟身份都应通过政府搭建的统一身份认证平台的校验,指向现实世界中个体的真实身份,采用“前端匿名、后端实名”的身份认证技术。也即个体类用户在元宇宙中的多元虚拟身份只能指向现实世界中的同一个个体,一旦出现利用元宇宙从事破坏法律规则的行为,都可以定位到现实世界中真正需要承担法律责任的自然人。
三、元宇宙的数据集聚化风险与安全性规制
现代社会中,数据的重要性日益凸显,已经成为社会经济活动中必不可少的生产要素,也是构建元宇宙的基础材料。然而,元宇宙在兴起的同时伴随着其所汇集的数据越来越密集、数据集聚化程度越来越高的情况。这些海量数据结合不断发展的大数据分析技术,使元宇宙平台企业对用户活动的数据有着全面的掌控。对于个体类用户而言,这意味着元宇宙平台企业对其个人信息可以一览无余,并且能够精确把握其行为动态,甚至精准预测其思维动向。对于组织类用户(特别是商业公司)而言,这意味着其通过支付试错成本获取的商业信息与有效经营模式可能会被元宇宙平台企业轻易复制,形成不公平竞争,阻碍市场创新。同时,如果元宇宙平台上集聚的海量用户数据被有意识地开发利用,还会对国家安全造成重大威胁。这些风险都无法通过市场本身的力量予以化解,必须通过行政规制的力量实施元宇宙的数据安全性规制,保护用户的个人信息与隐私、维系市场主体的创新动力和保障国家的数据安全。
(一)元宇宙的数据集聚化风险
元宇宙作为新一代全真互联网,将成为人们日常最主要的活动场所之一。由于元宇宙本身就是通过数字技术搭建,因此用户在元宇宙中的活动信息可以极为便捷地被系统记录成为数据形态。并且,可穿戴的扩展现实设备能够将用户几乎所有的生物特征都上传到元宇宙中,事无巨细地记录用户在其中的全部行为信息,包括活动轨迹、言语、动作、体温、心律、脉搏乃至神经活动(Neural Activities)。甚至有些扩展现实设备还会要求扫描并记录用户在现实世界中的周遭环境数据。这就使元宇宙中形成和储存的用户数据体量远远超过通过其他数字技术汇集的数据体量,成为真正意义上的大数据(Big Data)。元宇宙成为源源不断产出用户相关信息数据的源泉,收集与存储了用户近乎全部的信息数据,使用户成为“量化自我”(Quantified Self)或“可测量的自我”(Measurable Self)。一方面,这些用户大数据能够为元宇宙的不断完善提供数据生产要素,使元宇宙的真实性越来越接近于现实世界(例如,为虚拟数字人的人工智能自主学习提供数据原料,使虚拟数字人越来越接近于真实的生物人,具有自我主动学习进化的能力);但另一方面,这些用户大数据也会被元宇宙平台企业实际控制,从而导致以下风险:
第一,侵害用户的个人信息与隐私。元宇宙平台企业是追逐利益最大化的市场主体,它们建设、经营元宇宙的主要目的就在于营利。出于最大化自身利益的考量,这些元宇宙平台企业必然会对元宇宙中收储的用户个人信息数据进行最大化利用。由于元宇宙平台企业与用户之间存在严重的信息不对称,前者凭借自身的信息优势地位和对用户信息大数据的实际占有,能够采取元宇宙用户无法知悉的方式利用这些信息大数据,甚至为了谋取更多的收益交易并转让这些信息大数据,而用户对此知晓的可能性不高。其实,即使用户知晓了元宇宙平台企业对自身个人信息数据的侵害行为,在悬殊的实力对比之下,用户作为个体也缺乏能力追究元宇宙平台企业的责任,无法有效保护自身权益。
更加值得注意的是,元宇宙平台企业运用大数据技术能够精准预测用户的未来行为可能性,甚至推测出用户的所思所想,从而能够深度介入用户的个体隐私空间。大数据的主要功能在于预测,也即通过对海量信息数据的数学算法运算来预测事情发生的可能性——虽然大数据的种类繁多,但是从理论上而言,如果有足够的大数据作为样本,结合数据分析技术,就能够对未来作出较为准确的预测。例如,基于过往特定区域气候状况的数据预测未来气候变化的可能性,或者基于一个自然人过往移动的轨迹数据预测其未来选择何种交通工具的可能性。如上所述,元宇宙平台企业在元宇宙中收集的用户信息数据的体量远超普通数据技术收集的数据体量,因此在高度发达的大数据分析技术挖掘之下,元宇宙平台企业可以较为准确地预测用户未来的行为选择。更有甚者,通过对用户信息大数据的深入分析,元宇宙平台企业还能够推导出用户的思维活动,掌握用户的思想动态。因为用户的思维总是会通过其行为表现出来,不存在脱离思维活动的单纯行为。在现实世界中,用户的行为通常在实施后就消失,难以被重复观察。即使通过电子技术监控设备记录下来,其数据体量也总归有限,从中只能分析出用户的简单思维动态。然而在元宇宙中就有所不同,用户在元宇宙中的一举一动、甚至每次呼吸与心跳都会被丝毫不差地记录,转化为可供分析的数据。通过对这些行为信息数据的分析,理论上元宇宙平台企业可以精确推测出用户的主要思维活动,深度介入用户的个体隐私空间。
第二,妨碍市场主体的创新动力。元宇宙是一个高阶的互联网平台,在其中活动的主体除了个体类用户之外,还会存在许多组织类的用户,特别是作为市场主体的公司类用户。这些公司类用户是元宇宙经济活动开展的主要力量。在可预计的未来,或许所有的公司都会在元宇宙中开辟自己的经营场所(就如同现在几乎所有公司都有自己的网页一样),乃至将元宇宙作为自身经营的主要场所。与传统的互联网不同,元宇宙提供的全真虚拟环境能够使公司几乎所有的商业交流活动都在其中完成,与现实世界中进行的商业活动并无太大差别。甚至基于高度发达的交互现实技术,连制造业的公司也能通过元宇宙提供的虚拟环境,直接对现实世界中的机器设备进行远程精准操控,在元宇宙中完成所有的制造流程。
虽然元宇宙提供的这些高精尖技术能够大幅度降低经济交流的成本,也能降低商品制造的成本,但是高精尖技术的存在也意味着这些在元宇宙平台上运营的公司的所有商业数据都会被元宇宙平台企业一览无遗。商业数据的暴露不仅仅意味着商业秘密的泄漏(现实世界中对商业秘密已经有相对完善的法律保护),更重要的是,这些商业数据可能会被元宇宙平台企业利用,亲自下场经营同样的业务,形成与元宇宙平台上公司的不公平竞争关系,以实现自身利益的最大化。元宇宙平台企业通过对这些商业数据的技术分析能够准确把握特定商业领域的经营规律,掌握不同消费人群的消费习惯,规避无效的商业活动歧路,形成有效的商业经营模式。而探索这些商业经营信息和模式的试错成本却都是由元宇宙平台上的公司承担,一旦元宇宙平台企业开始经营相同的业务,“既当裁判员,又当运动员”,那么在大数据分析技术和雄厚资金的加持之下,原先这些元宇宙平台上的公司将几无还手之力,在竞争中处于绝对劣势地位。这种潜在风险的存在会导致元宇宙平台上的公司将会时刻提防元宇宙平台企业“下山摘桃子”,不敢投入高昂的成本进行研发创新,甚至完全丧失创新的动力,这对元宇宙时代社会经济的长远发展会产生严重阻碍。
第三,威胁国家的数据安全。元宇宙平台企业基于元宇宙收集的高度集聚化数据还可能会对国家数据安全造成潜在威胁。因为元宇宙具有跨国域的属性,许多搭建元宇宙的平台企业都是大型国际公司。一旦这些跨国的元宇宙平台企业通过元宇宙收集到足够数量的信息数据,便可以据此预测出许多涉及国家安全的信息。典型的例子是滴滴公司曾经通过出行APP软件收集了中央和国家机关大量的工作人员出行数据,并结合这些出行数据分析出特定国家部委工作人员的行为规律,其中包括许多可能会涉及国家安全的信息。滴滴此类商业公司目前仅仅掌握了特定细分领域内的大数据,就已经可能产生对国家安全的潜在威胁,更何况在元宇宙中收集的用户数据体量是全方位的,远远超出这类细分领域内商业公司获取的信息数据体量,由此可能存在的对国家安全的潜在威胁也就更为深远。“棱镜门事件”中披露的互联网全球监控项目更是凸显了这一点。
(二)行政规制机关的数据安全性规制
正是因为元宇宙中数据集聚化会存在以上风险,而且这些风险内在于元宇宙平台企业作为营利性组织的本质特征之中,难以通过市场力量加以防范与消解,所以必须通过行政规制的力量对元宇宙实施数据安全性规制,确保元宇宙中形成和收储的集聚化数据能够发挥正面的效用,避免造成实际损害。具体的行政规制路径可以从以下三个方面入手:
第一,实施强制性用户数据脱敏。元宇宙中用户信息数据的高度集聚化产生实际的个体类用户权益侵害存在一个必要的前提,即用户的信息数据必须能够与用户个体的真实身份相关联。因为只有信息数据能够被确认为特定身份用户的数据,才会导致对该特定用户个体的权益侵害,否则个体类用户信息数据仅仅只是单纯的信息本身而已。例如,曾在元宇宙中出现的“虚拟骚扰”案例中,如果作为受害者的一方在现实世界中的真实身份信息并未被人知晓,那么此类事件对受害人造成的影响被局限在特定范围内,损害相对较为有限。而一旦受害者在现实世界中的真实身份信息被披露,虚拟骚扰的事件信息与特定的受害人真实身份被公开勾连,那么对于受害人而言就可能会产生较之真实身份信息被隐瞒时更多的羞耻感和精神压力,从而受到更多的伤害。
因此,行政规制机关应要求元宇宙平台企业对元宇宙中集聚的个体类用户数据进行强制性数据脱敏。所谓用户数据脱敏,主要是指通过技术途径剔除个体类用户数据集束中可以直接识别用户真实身份的内容,防止数据与用户的真实身份直接勾连。只要元宇宙中用户数据无法与用户的个体真实身份直接勾连,那么对于用户个人信息及个体隐私造成侵害的风险就会大幅度减少。需要强调的是,这里所说的用户数据脱敏与上文所述的用户身份真实性规制并不矛盾,相反恰恰是彼此契合的。因为用户数据脱敏面向的是元宇宙平台企业,要求元宇宙平台企业不能收集可以确定个体类用户真实身份的信息,且如果收集的用户数据中包含了可以确认用户真实身份的数据,则必须剔除之后才能加以运用。而用户身份真实性规制是要求用户通过行政规制机关搭建的元宇宙统一身份认证平台的身份真实性认证,身份的真实性由行政规制机关认证,并非由元宇宙平台企业认证。例如,元宇宙平台可以与行政规制机关搭建的统一身份认证平台通过技术途径相链接,用户身份真实性认证的相关核验数据储存于统一身份认证平台,而非元宇宙平台。经过统一身份认证平台的认证之后,可以向元宇宙平台发送用户身份真实性认证的真伪结果,而不发送认证的身份数据。这样,元宇宙平台企业只能知晓用户身份是否通过统一身份认证平台的真实性校验,但并不掌握用户的真实身份具体是什么,充分平衡元宇宙平台企业与个体类用户之间的数据权益。
至于何种信息数据属于可以直接识别个体类用户真实身份的数据,则可以采用“有动机的侵入者”(a motivated intruder)这一标准来确定。“有动机的侵入者”,是指“具备普通人的合理能力,在目的明确的情况下可以通过常人能够使用的技术手段(如网络、图书馆、各类公共档案等)将个人数据与特定个体建立可靠联系,从而直接识别特定的个体身份”。它不能是具有高度专业技术的数据分析专家,也不能是掌握高科技数据分析工具的主体,具备的数据分析能力应介于普通民众与技术专家之间。如果一名有动机的侵入者能够通过特定数据识别相关个体的真实身份,则该数据就属于可以直接识别个体类用户真实身份的信息数据。在这一标准的约束之下,元宇宙中高度集聚的个体类用户信息数据就能够在作为建设元宇宙的生产要素的同时,最大限度降低对用户个人信息和隐私侵害的风险。
第二,限制元宇宙平台企业的同业竞争。元宇宙作为未来社会经济生活的主要平台,将会成为各类公司、企业从事经济活动的主要场所,由此而产生的海量商业数据蕴含着巨大的价值,如果得到妥善的利用,那么将会成为科技创新、商业创新的重要源泉。然而,掌握这些商业数据的元宇宙平台企业本身就是以营利为目的的经济组织,虽然其出于实现自身利益的需要也可能会进行科技创新、商业创新,但是创新是一项需要先期付出巨大成本,且具有高风险的投资活动,既有可能获取丰厚的利润,但也有可能血本无归,存在着强烈的不确定性。于是,当元宇宙平台企业发现能够通过对这些海量商业数据的分析,快速复制元宇宙平台上公司已经成熟的商业模式,避免创新带来的试错成本,获得确定的收益时,就很难寄希望于元宇宙平台企业能进行自我约束而不去利用这些商业数据开展与元宇宙平台上公司的不公平竞争。正如上文所述,元宇宙平台企业与元宇宙平台上公司之间的这种不公平竞争会最终导致平台上公司创新动力的不断削弱乃至消亡。因此,需要由行政规制这样一种非市场的力量来防止元宇宙平台企业与元宇宙平台上公司之间的不公平竞争。行政规制机关应严格限制元宇宙平台企业开展与平台上公司经营的相同业务,要求元宇宙平台企业不能利用获取的商业数据与平台上公司进行同业竞争。行政规制所要实现的理想目标,或许应该是将元宇宙平台企业塑造为一个纯粹服务性的互联网平台,使其为各类经济活动主体提供深入合作与公平竞争的全真虚拟世界,为科技创新、商业创新提供各种便利与可能性,并通过自身提供的这些服务获取必要与适当的收益,而不是异化为一个垄断了所有商业数据、随时准备摄取成熟果实的“商业利维坦”。在这个意义上,元宇宙平台企业的角色应类似于传统政府理论中的“守夜人”,是以提供服务为主而不能亲自参与到平台上的经济竞争中。虽然元宇宙平台企业逐利的本性使其难以自觉担任起“守夜人”的角色,但是行政规制可以成为迫使其担任“守夜人”角色的有效力量。
第三,规范用户数据的跨境流动。元宇宙作为新一代的互联网天然具有跨国境的特征,诸多跨国公司搭建的元宇宙都面向世界各地不同的人群,于是随之而来的问题是本国境内用户在元宇宙中活动所形成的数据有可能会跨境流动,这种流动存在巨大的国家安全隐患。许多国家已经意识到用户数据跨境流动可能存在的潜在风险并确立了相应的规制措施,如欧洲《一般数据保护条例》(General Data Protection Regulation, GDPR)中对跨境用户数据流动设定了严格的规制途径,并通过独具特色的“长臂管辖”条款规定只要是向欧盟居民提供商品或服务的企业在处理相关数据时都受GDPR的约束。我国目前也搭建了跨境用户数据流动的基础法律框架(如《网络安全法》第37条规定关键信息基础设施的运营者在我国境内运营中收集和产生的个人信息和重要数据应当在境内存储,如果出于业务需要,确需向境外提供的,应当进行安全评估;《地图管理条例》第34条规定互联网地图服务单位应当将存放地图数据的服务器设在我国境内);但是,总体而言这些法律规范对用户数据跨境流动的规定十分宽泛,未对用户数据跨境流动的重要数据范围、安全评估标准、流动程序等进行规定,也未确立细致的用户数据跨境流动分类规制途径。并且,不同行业的数据监管部门各自为战,仅对本行业数据的跨境流动进行监管,缺少有效的合作协调机制。这些用户数据跨境流动规制问题即使在传统互联网时代也会引发诸多涉及本国国家安全、社会安全的风险,在元宇宙时代,此类风险更会不断加剧,而且更加凸显了完善用户数据跨境流动规制体系的必要性。
完善元宇宙用户数据的跨境流动规制体系,并不代表禁止元宇宙用户数据的跨境流动,而是要实现经济发展、国家安全、公民权利等多个价值目标的有机协同,平衡跨境元宇宙用户数据流动中的自由流动与安全流动之间的关系。目前我国用户数据跨境流动审核的监管职责分散在网信部门、公安部门、中国人民银行、银保监会等不同行政机关之中。虽然这种按照行业归口分别监管的行政规制体系能够适应数据专业化的现状,但是在元宇宙时代,面对虚拟世界中高度集聚了不同行业数据的大数据集束,此种行业归口分散监管的规制体系会显得较为低效。因此,建立全国统一的用户数据跨境流动审查评估的行政规制机关就十分必要。与此同时,可以考虑建立全国统一的元宇宙用户数据托管服务,要求本国境内生成的元宇宙用户数据必须存储在本国境内的服务器上,并且只有经过专门的行政规制机关的安全审查评估才能跨境流动,避免用户数据无序流动到境外。这样一方面能够确保元宇宙的正常运行,元宇宙平台企业可以在境内合法地利用这些用户数据实现营利,以便激励其持续建设与维护元宇宙的运作;另一方面也能防止境内主体活动生成的用户数据不适当地外泄,产生危害本国国家安全、社会安全的实际风险。
四、元宇宙的算法权力化风险与向善性规制
元宇宙中一切事物都是以数字的方式存在,这就使得算法在元宇宙的运行中起着基础性的作用。通过对算法的控制,元宇宙平台企业能够在最根本的层面上引导与控制元宇宙用户的活动方式,迫使元宇宙中的用户顺从元宇宙平台企业的意志,由此产生了“算法权力”。算法权力存在异化的风险,会导致元宇宙用户权益存在被侵害的可能。基于高度的信息不对称,这种权益侵害的风险难以通过元宇宙用户自身防范,而只能通过行政规制机关的力量进行化解,引导算法向善。
(一)元宇宙的算法权力化风险
算法在计算机科学技术上的含义是指“一种有限、确定、有效的并适合计算机程序来实现的解决问题的方法”,它本质上是解决问题的数学过程,是一种特定的思维路径与方法。不过在元宇宙时代的大数据背景之下,这种纯粹的技术逻辑过程在结合了海量的信息大数据后,能产生马克斯·韦伯所谓“将个人之意志加诸于他人之行动的可能性”的支配性力量,从而使算法具有了韦伯意义上的权力属性。这是因为,人们总是通过获取的信息数据来决定自身的行为选择,元宇宙用户的活动也是一个不断通过元宇宙获取信息数据并作出行为决策的过程。元宇宙的跨地域乃至跨国域的特性更是拓展了可以获取信息数据的广度与深度。然而,元宇宙用户处理信息数据的能力毕竟是有限的,其生理局限(如精力分配、健康状况、寿命长短等)使得海量的信息数据难以在短时间内得到高效分析,于是算法就成为辅助元宇宙用户解析信息数据并生成高效决策的有力工具。通过模拟现实世界中生物人的思维过程,元宇宙中的算法在技术边界范围内能够不受限制地对海量信息数据进行持续高效分析,并且结合人工智能技术而具有了一定的自主学习和进化能力,能够辅助甚至替代元宇宙用户作出行为决策,从而大幅度提高元宇宙用户的决策效率。
然而算法是把双刃剑,在辅助元宇宙用户提高行为决策效率的同时,它可以通过预设的数学逻辑程序对元宇宙中海量信息数据依据特定的程式进行排列组合、筛选推送。这种预设的数学逻辑程序暗含了元宇宙平台企业自身的价值判断,实质上融合了元宇宙平台企业的偏好。元宇宙平台企业能够通过调整信息数据结果的输出引导元宇宙用户的行为决策与选择,通过编织凯斯·桑斯坦意义上“信息茧房”的不同形态隐秘地操控元宇宙用户的认知与偏好,使元宇宙用户自觉服从元宇宙平台企业的意志,从而对元宇宙用户的行为决策产生支配性的力量。这也就使得算法成为一种事实上的权力形态,有学者称之为信息支配权。
算法权力的支配是一种隐形的支配,不同于传统公权力命令式的显形支配,它并不会通过可直接观察的权力运作标识展现自身的意志,而是通过操控元宇宙用户赖以作出行为决策的信息数据内容,“润物细无声”地凭借自身的架构优势引导元宇宙用户的行动方向。由此,元宇宙用户对元宇宙平台企业意志的服从是一种不自觉的服从,甚至元宇宙用户自身也不会察觉到这是一种对算法权力的服从,反而会认为自身的行为决策与选择都是出于自主意识。也即,算法权力的支配不是来自于强制性力量的单方压制胁迫,而是来自于元宇宙平台企业对信息数据以及处理程式的单方隐形控制。元宇宙用户的服从也不是出于恐惧的顺从,而是出自信息高度不对称中的自我认同。因此,算法权力的运作比传统国家公权力的运作更加隐秘和难以察觉,其刚性较弱但韧性却更强。算法所具有的这种隐秘的信息支配权属性可能会导致元宇宙中存在三种风险:
第一,信息数据的再中心化。区块链技术的广泛应用是元宇宙不同于传统互联网的重要技术特质,元宇宙中基于区块链技术搭建的数字环境通常被认为具有“去中心化”的重要特征。区块链技术使得元宇宙中的信息数据采用分布式的存储方式,各个存储节点无法单独修改信息数据而不被其他节点所知悉,因此能够充分确保信息数据不被篡改。由此,基于区块链技术和智能合约(Smart Contract)技术形成的去中心化自治组织(Decentralized Autonomous Organizations, DOAs)被认为是实现网络社区自治的途径。然而,算法权力的存在却破除了这种传统的认知,元宇宙平台企业通过对数字环境中底层算法的控制,能够不露声色地实现对信息数据流向的把控。凭借算法技术的优势,元宇宙平台企业能够通过对元宇宙用户行为信息数据的深度挖掘预测用户的偏好,并加以适当地引导,导向其自身意志所欲的方向。这就与传统互联网中依赖垄断信息源而实现的中心化完全不同,实质上是在去中心化基础上依赖“算法黑箱”而实现再中心化的集权过程。也即“算法权力具有平台集权的倾向性,并通过隐性控制的支配模式,塑造了一个看似‘去中心化’,实质上‘再中心化’的过程”。信息数据再中心化过程使元宇宙平台企业拥有了专断的“私权力”,而这种权力并不容易被元宇宙用户所察觉。凭借这种信息上的优势,元宇宙平台企业能够成为元宇宙平台上的集权主体,躲在幕后实现自身利益的最大化。
第二,经济活动的垄断化。元宇宙将会是未来社会经济活动的主要场所,甚至因为有了非同质通证(Non-Fungible Token, NFT)的加持,元宇宙内部已经能够建构相对独立的经济交易系统。基于信息数据的再中心化,元宇宙平台企业可以实现对元宇宙中经济活动的垄断。目前投入大量资本搭建、维护并掌控元宇宙的主要是各类平台企业,能够真正掌控算法权力的也是这些平台企业,即“算法权力的背后是资本权力”。逐利是平台企业推动元宇宙发展的主要动力,成本的投入要以营利为目的,因此平台企业必然会利用算法权力来实现自身经济利益的最大化。而垄断是获取高额利润的最佳途径,因此掌控元宇宙的平台企业一旦发现算法具有垄断性的权力属性,那么自然会利用算法权力来增进自身利益,构筑经济活动的垄断壁垒。例如,它们可以排斥竞争对手通过元宇宙与用户建立经济合作关系,也可以通过算法编制有利于自身利益的信息茧房,将元宇宙用户隐秘地置身于这些信息茧房之中,引导用户作出符合平台企业利益的行为决策,排除用户接触到对平台企业不利的信息,从而最大限度实现平台企业自身的收益。这种对元宇宙中经济活动的垄断具有隐形的外衣,元宇宙用户并不会感受到自身受到了强制性的干涉,然而其作出的行为决策却总会符合元宇宙平台企业的最佳利益。
第三,社会观念的操控化。同样是基于信息数据的再中心化,元宇宙平台企业可以实现对社会观念的引导与操控,甚至依据自身利益的需要将社会观念导向极端化。具体而言,元宇宙平台企业可以通过算法设置元宇宙中的数字环境,引导元宇宙用户的行为方式,并通过“普罗透斯效应”(Proteus Effect)间接影响用户在现实世界的认知和行为方式。例如,在游戏元宇宙中通过给玩家角色设定诸多需要盗窃、暴力、凶杀的关卡,潜移默化地影响玩家对这些反社会行为的态度,不自觉地调整现实中自身的行为以与游戏元宇宙中的角色身份相适应,甚至在现实世界中改变自身的道德认知标准。元宇宙平台企业的这种能力如果被运用到政治意识领域中,就能够通过塑造元宇宙中用户的数字环境,控制其接触的信息数据内容,逐步引导用户在现实世界中所秉持的观念认知,慢慢改变其意识形态,甚至形成极端的政治观念。这种潜在的风险即使是在传统的互联网中也已经存在,而在作为互联网高级形态的元宇宙中此类风险发生的可能性更是进一步增加。
(二)行政规制机关的算法向善性规制
元宇宙平台企业是元宇宙中的算法权力主体,其所掌握的算法权力作为一把双刃剑,既有存在的正面意义同时也会存在异化的风险,必须进行有效规制,防止算法权力滥用风险的出现。运用国家公权力制约元宇宙平台企业的算法权力是一种可行的途径,行政规制的力量尤为重要。行政规制可以通过以下路径约束元宇宙中的算法权力,降低算法权力异化的可能性,引导算法权力向善:
第一,算法透明规制。算法权力本质上源自基于算法黑箱产生的高度信息不对称,元宇宙平台企业凭借算法黑箱所产生的信息优势具有了对元宇宙用户的支配性权力。为了约束算法权力,最重要的规制路径是提高算法透明度。算法透明是指“通过提供诸如详细的文档、技术上的合适API接口和允许使用条款等可进行监测、检查或复核的信息,使中立第三方能够探查和审查是否存在算法妨害。”具体的规制方式包含了告知义务、向主管部门报备参数、向社会公开参数、存档数据和公开源代码等不同的形式。当然,算法透明并非意味着算法技术细节的彻底公开,还需要考虑对算法设计者、使用者(如元宇宙平台企业)的知识产权、商业秘密的保护,否则可能会遏制经济领域的创新动力,甚至对国家利益产生负面影响。因此,算法透明必然是有限度的,需要依据具体场景确定不同的规制路径。我们可以将元宇宙中的算法透明规制区分为两个面向:
其一,面向元宇宙监管端的算法透明。这一算法透明规制的重点是算法相对于监管的“可解释性”(Explainable),着重于对算法模型本身技术框架的客观属性要求,强调元宇宙算法模型的设计结构应使行政规制机关的专业执法人员客观上能够对算法模型实施有效监管,而并不要求算法的设计使用者作出实际的算法解释。也即“算法可解释性本身不要求实际的算法解释,而只是要求算法考虑各种元素的具体机理能够为专业人士所清晰认知、能够通过明确的规制式语法表达,此种状态不一定能增进普通人对算法的理解,但却非常有利于专业监管的开展”。这种算法透明规制实质上是对元宇宙中算法技术实现路径的约束,要求算法技术路径的选择必须符合监管的要求,实现对行政规制机关的透明。
其二,面向元宇宙用户端的算法透明。这一算法透明规制的重点是保障元宇宙用户对于影响自身权利的算法决策的知情权,着重于对算法运行过程的主观属性要求,强调权利受到算法决策影响的元宇宙用户能够有机会获得算法设计使用者的解释和说明,了解决定算法输出结果的关键参数的设置方式,进而获得稳定的决策预期。这种面向元宇宙用户的算法透明又可以细分为“算法知悉”和“算法选择”两种实现途径。前者是指要求元宇宙平台程序设计中明确提示用户所接触的信息是特定算法推荐的结果,明确告知用户这些信息是依据何种算法参数推送,使用户知晓算法自动决策及相关参数的客观存在。后者是指要求元宇宙程序中应设置相关数字选项,使用户能够自主决定是否接受算法自动推送的信息,或者自主决定接受依据何种参数推送的信息,从而充分尊重元宇宙用户获取相关信息数据的自主权,实现对用户端的算法透明。
第二,算法伦理规制。如果说算法透明规制是通过对算法技术的外在形态的限制来约束算法权力,那么算法伦理规制就是通过对算法技术的内在价值的引导来约束算法权力。元宇宙中的算法权力具有一般人工智能算法潜在的多种伦理危机,包括:其一,元宇宙的用户被作为算法的客体对待,成为被计算、被数据化的对象,这实际上导致用户在元宇宙中丧失了人的主体性,成为生产信息数据的工具;其二,元宇宙中的算法将效率而非主体权利保障作为追求的主要目标,为了效率的实现会不惜牺牲用户的权益,导致技术价值取代了权利价值;其三,元宇宙中算法的输出结果依赖于输入的行为信息数据,这样就会产生“垃圾进—垃圾出(garbage in, garbage out)”的现象,也即输入数据中包含的偏见与歧视会被融入算法运行后的输出结果中,并呈现循环自我加强的算法歧视,这会导致特定群体用户被标签化、污名化,否定自我完善的可能性,使其无法摆脱刻板印象(Stereotype)的束缚。
这些元宇宙中算法权力潜在的伦理危机虽然与基于大数据的人工智能算法具有一定的自我学习进化能力有关,但是从根本上而言还是源自于算法设计使用者的价值观念,特别是源自于实际掌控算法权力的元宇宙平台企业的价值观念。因此,算法伦理规制要求行政规制机关应从算法设计的初始源头着手,在算法研发与构建阶段就介入进行算法技术的伦理审查,要求元宇宙算法程序在最初的编程阶段就遵守平等、公正等“共同善”的价值准则,将这些“共同善”的价值准则融入算法设计中,构建具有社会责任感的算法技术框架,防止算法技术在源头上出现偏颇与歧视。
第三,算法问责规制。无论是算法透明规制还是算法伦理规制,规制的侧重点更多在于事前预防算法权力异化的风险。如果这种预防性规制没有达到预期效果,元宇宙中算法权力滥用的风险还是实际发生,那么事后的法律责任配置就必不可少。法律责任的配置规则是“一套复杂的激励体系”,通过法律责任的配置可以改变相关主体的成本收益结构,从而对其产生行为上的引导。法律责任的配置规则也是行政规制实施的重要条件,为元宇宙中算法权力滥用的行政规制提供了合法性依据。因此,为了实现算法的向善,对于算法责任的法律配置就必不可少。
传统互联网时代对于算法责任的研究多聚焦于民事责任,常将算法责任界定为依托算法制造的产品责任,例如将自动驾驶汽车因芯片算法问题引发事故后的法律责任归于产品责任范畴进行讨论。但是,元宇宙作为下一代全真互联网,其中算法权力异化产生的责任与此不同。这是因为元宇宙并非是像自动驾驶汽车一样的单一产品,而是互联万物的跨地域、跨国域的网络平台,更是与现实世界交织融合、不可分割的虚拟世界。在这个虚拟世界里,人们通过化身从事着与现实世界几乎一样的社会经济活动,形成了与现实世界几乎一样的社会交互关系。因此,元宇宙已经具备公共领域的形态,甚至可能会具有“类国家”的形态。由此,元宇宙中的算法权力滥用也就具有对公共利益侵害的特征,不能仅通过民事法律责任予以约束,还应通过设置相应的行政法律责任,由代表公共利益的行政规制机关加以实施,约束元宇宙中算法权力的行使。这是我们为元宇宙中算法问责规制设置行政法律责任的理论基础。
那么在元宇宙算法问责规制中,谁应是承担相应行政法律责任的主体?有学者指出,算法涉及到复杂的技术生态,其开发应用会关联多元参与主体,所以相应的算法责任也具有流动性与模糊性,产生错误结果时往往很难界定是哪个主体的过错。因此,确定元宇宙中承担算法权力侵害的行政法律责任主体不宜采用依据过错区分的多元责任主体模式,而是应当采用单一的责任主体模式,也即由元宇宙平台企业作为单一的算法权力侵害的行政法律责任主体。虽然元宇宙算法的设计和应用会涉及到多元主体,但是元宇宙平台企业是算法权力的主要操控者,也是算法权力运行的最终受益者,只有它才有能力充分利用算法权力谋取自身的最大利益。只有让算法权力的受益者承担对应的算法权力侵害的成本,才能真正约束其行为。将算法权力侵害的行政法律责任配置给元宇宙平台企业,不但能够激励它约束自身操控的算法权力,而且还能够激励它去约束其他与算法相关联的主体,确保算法向善。同时,算法权力侵害的行政法律责任的单一性也能使行政规制机关在出现元宇宙内的算法权力侵害问题时,迅速定位责任主体,高效地实施算法问责,提高行政规制的效率,从而对元宇宙内的算法权力产生真正的有效约束,防止算法权力的异化,引导算法向善。
五、结 语
元宇宙将成为未来人们进行社会经济交往的主要场所。目前,在主要由市场主体推动发展的元宇宙中可能会出现身份匿名化导致的合作可能性降低风险,数据集聚化导致的个体信息与隐私侵害、市场主体创新动力下降及国家数据安全风险,算法权力化导致的信息数据再中心化、经济活动垄断化、社会观念操控化风险。单纯依靠市场主体的力量难以防范和化解这些风险,甚至市场主体的逐利趋向会增加这些风险产生的概率,使市场力量本身成为这些风险发生的原因。因此需要通过行政规制的力量来防范和化解这些可能出现的元宇宙相关风险。行政规制机关可以通过搭建全国统一的元宇宙身份认证平台,实施强制性的数据脱敏,限制元宇宙平台企业的同业竞争,规范数据的跨境流动,加强算法透明规制、伦理规制及问责规制的路径实现对这些元宇宙相关风险的管控,使元宇宙真正成为增进总体社会福祉的新时代全真互联网。