上海交通大学中国法与社会研究院

2021年02月10日【作者】中国法与社会研究院预览：

季卫东编著《AI时代的法制变迁》（“人工智能治理与法律”研究丛书① 上海三联书店，2020年12月出版）

内容简介

信息技术的广泛采用导致人类日常生活日益被数字覆盖、社会呈现出虚拟与实体交错互融以及智能网络化的特征，产业经济也在相当程度上已经由数据驱动。万物联通、大数据以及人工智能之间存在着互相促进的正比例关系，这种一日千里的动态对以物权为基石、以确定性为目标的既有法律体系构成严峻的挑战，但同时也带来了制度创新的机遇。人工智能技术在法律方面的应用的确提高了司法效率和同案同判意义上的公正水平，然而在算法黑箱化现象里也潜伏着瓦解问责机制的风险。一方面，代码框架和技术标准在很多方面正在改变权利义务的设置，甚至大有取代法律之势；另一方面，常识库构建难题与符号落地难题以及价值判断难题却划出了法律人工智能的界限。近来对人工智能在原则、伦理、规则以及政策等领域引发的各种问题进行反思，使得怎样对人工智能进行适当治理的讨论也终于进入公共话题和政治议程。以上述现象昭示的法律与社会大转型为背景，本书全面考察人工智能在秩序和规则方面导致的复杂而深远的变化，并从跨学科的视角对现代法治范式转换和理论创新的可能性进行了初步探索。

序：人工智能时代呼唤法律的范式革命

我们都能体会到中国整个的社会系统正在发生非常深刻的变化。主要体现在日常生活的方方面面被数字所覆盖，从网购、外卖、移动支付到电子保险。疫情期间，体温警察、健康码、群体检测更是为防控带来了技术保障。通过扫码和刷脸获得的这些便利的实质是什么？是几乎把生活中所有的场面、所有的活动都转换成了数字形式，并积累成大数据。数据被称为是21世纪的石油，是经济的驱动力量。市场的主要交易形态也从往日的物品转换成服务，例如便捷的网约车带来的就是服务，使个人购车的意义也大为下降。

人工智能时代社会系统变化，归纳起来呈现三个特征——智能网络化、算法黑箱化、机器自主化。一方面，科技的规格、代码似乎正在取代法律，另外一方面，人工智能也在参与辅助法律实施，加强法律的功能。这样的背景下，一些已经发生的实例和问题都不断昭示：法律秩序的基本概念和制度设计需要一场范式革命。

例如在2020年6月27日，上海开始提供滴滴自动驾驶网约车服务。随之而来的当然还有交通事故的风险、责任主体是谁、交通规则如何执行等一系列问题。从法律角度来看，首先要考虑共享乘车服务提供者的资质和信用。现有的《道路交通安全法》第19条规定驾驶者的资格要件，人工智能是否也需要获得驾驶执照？如何界定自动驾驶车辆的智能化级别与法律的关系？一旦导入人工智能，开始只是发挥辅助性作用，或者部分操作自动化；但到了附条件自动驾驶或者完全自动驾驶，软件系统本身就成为责任主体。如果出了问题，是找汽车厂商、程序开发商，还是数据提供商追究赔偿责任？这个责任如何认定？如何分配？人工智能的利用者具有不同的类型，但无论是消费利用还是商务利用，是否都应该采取利用者免责的原则？第五，如果车辆在抵达目的地前抛锚了，是意味着服务终结还是提供其他出租车？在交易对象是车辆时由买主承担后来的风险，但在交易对象是服务时是不是由卖主永远承担后续风险？既然上海已经有自动驾驶网约车上路了，这些问题就会迫在眉睫，需要有关机关及时调研和立法，制定自动驾驶的交通安全制度的设计方案。

从法律角度来看，数据保护有两端——知识产权法与信息安全。数据是人工智能的养料。数据越多，规模越大，数据的质量越好，人工智能预测能力也就越强。但数据的收集和应用确实存在着信息安全的风险。欧盟在1996年制定数据库权利法令，意在通过严格保护数据库知识产权的方式促进数据产业，结果失败了。2018年又出台《一般数据保护条例》(GDPR)，意在严格保护数据主体的隐私权，这当然是很有必要的，也是现代法治精神的体现。这个世界最严数据规则的好处是能够防止个人的信息隐私权受到侵犯。但问题是数据的本质在于信息，信息很难进行排他性的绝对保护，甚至很难确定数据究竟应该属于谁。正因为这种事态会助长数据利益分配上的不公平，所以才需要通过数据人权宣言的方式来制衡数据产业的暴利倾向、争取实现分配的正义，这种立法意图是可以理解、值得赞扬的。但是，过于严苛的隐私保护会使数据的收集和利用变得非常困难。如果整个数据世界被隐私权分割成一小块一小块，那就无法有效率地发展数据产业和人工智能产业。

中国在2020年5月颁布的《民法典》单独设立人格权编，这是一种鲜明的体例特色，也及时回应了大数据和人工智能时代的需求。《民法典》人格权编界定了隐私和个人信息的权利范围，特别在第1034条强调了保护个人的健康信息和行踪信息；在大数据的搜集上，规定了处理个人信息必须遵循的原则和条件以及信息安全保障的义务；《民法典》还规定了个人信息主体的权利构成，包括查阅权、复制权、更正权、删除权等等。在网络侵权责任方面强调了网络服务提供者要履行注意义务，明确了数据和虚拟财产受法律保护。然而正是在这里，制度设计不得不面对某种两难困境：注重个人信息和隐私的保护就有可能妨碍数据以及人工智能方面的产业发展，注重数据驱动的经济效益却又容易侵害个人尊严和隐私，甚至引发信息安全问题。要兼顾这两个方面，就需要认真对待制度设计问题。值得深入探讨的一种对策是设立数据托管机构，对寄存个人数据的主体给予适当的积分奖励。数据托管机构对数据进行匿名化处理，企业可以在通过资质审查后采取缴纳使用费的方式来获得和处理数据，而数据主体也可以适当分享数据产业的利益。在日本，已经出现了设立复数信息银行的构想，个人可以像存款那样把信息储蓄到银行，企业向信息银行借贷个人信息。在中国，也许公共性质的数据托管机构更适合国情。

美国学者劳伦斯·莱斯格教授在1999年提出一个命题：Code is law,代码就是法律。如今这样的例子很多。比如，为了保护电视节目的著作权，规定所有的DVD制作按某个技术标准只能复制一次，不能再复制到其他DVD上，以防不法者盈利。但这样也会妨害正常的学习和欣赏。无论如何，这种现象说明技术规格在相当程度上取代了法律来决定人们的行为方式。目前上海实行的“一网管通”上有政府机关的几乎所有服务项目，健康码成为一个非常方便的应用场景。然而有关信息收集、数据处理的权限和程序却并没有明确，所依据的法律根据也不清楚，并且可以瞬间改变。实际上，通过网络平台进行数字化治理以及经济活动，各种服务关系很难用法律来明确界定权利、义务关系。由此可见，人工智能的技术规格和数据的安全分级标准的制定工作已经迫在眉睫，立法也必须及时跟上。在这种背景下，也许将出现“代码与法律并行”的局面。中国存在“礼法并行”的文化传统，还有现代的“法律与政策并行”实践经验，对于代码与法律并行的治理方式也许不会产生抵触。正是在这里，我们可以找到治理方式创新的契机或者切入点。

在人工智能时代，从法学角度来看，算法黑箱化是一个严重问题，因为会导致责任政府和问责机制的动摇。要解决这个问题，强调算法透明化、强调人类的介入和监控固然必要，但很难收到预期效果。在这种情况下，以人工智能制衡人工智能、以代码制衡代码也许是更可行的对策。其中特别值得留意的是区块链技术。它的本质数据处理分散化、让中枢的作用简约化，通过加密的哈希值实现个人隐私的黑箱化，在网络共识中形成相互信任。在某种意义上，就是通过具体的智能合约来决定网络中的权利义务，并可以制衡人工智能的程序算法。另外，在算法黑箱化的情况下，人工智能系统越复杂出现操作失误的可能性就越大，问责也变得越困难。如果让人工智能系统的开发者、制造者为算法失误承担无限的连带责任，就会妨碍人工智能的发展。为了使这种责任有限化，为了确保智能合约的违约责任能够依法追究，有必要承认机器人的主体资格。实际上，只有当机器人有主体资格时，以人工智能来制衡人工智能的构想才能落到实处。

鉴于上述问题意识，上海交通大学中国法与社会研究院携手人工智能研究院设立了人工智能治理与法律研究中心，旨在对人工智能时代的治理方式和法律制度设计进行深入考察，从理论和实践两个方面提出中国方案。根据这一目标，该中心将加强文理交叉融合的跨学科、跨国界合作，围绕人工智能治理的原则、伦理、政策、技术标准以及法律法规积极开展研究和交流，在科技创新的背景下推动制度创新，进而探索与人工智能时代相适应的法治模式。本书就是中心成员以及合作伙伴的初步研究成果的蒐集，以便倡导相关学术活动、奠定今后更上层楼的基础。该书分为四大部分，即“智能网络化社会的法”“司法大数据与电子法院”“从数字经济到数据法律”以及“信息沟通技术与平台治理”，由二十八章构成。所有论文的作者简历和出处一览请参阅卷末附录。具体的编辑事务是由上海交通大学法学院博士研究生林浩舟、陈肇新、衣俊霖、赵帅分担的，特别是衣俊霖在梳理、核实、校对、调整格式等方面付出了很多辛劳，特此致谢。还要感激上海三联出版社杜鹃编辑高度专业化的技术处理，我们的合作总是非常愉快并富有成效。

季卫东

2020年8月28日