CISLS书讯|肖梦黎:《从平台治理到治理平台》
肖梦黎,江苏徐州人,上海交通大学法理学博士,华东政法大学博士后,现就职于华东理工大学法学院,任法律社会学研究中心副主任。研究领域为法社会学与法政策学,致力于探索数字社会中的治理变革与权利救济。在VOLUNTAS等SSCI期刊,《国家检察官学院学报》《探索与争鸣》《武汉大学学报(哲学社会科学版)》《南京大学学报(哲学·人文科学·社会科学)》《证券市场导报》《当代传播》等CSSCI期刊上发表多篇文章。主持3项省部级课题。2021年获《探索与争鸣》第四届(2020)全国青年理论创新奖三等奖。出版个人散文集2本,在省级以上期刊发表文学类作品数十篇。
序
我记得是在2011年9月,接到了来自一个本科生的邮件,表达了报考我的硕士研究生的志愿。因为她在高中就出过一本散文集、计划研究的课题也很有学术趣味,给我留下深刻的良好印象,立即回复表示欢迎,并提供了阅读文献的清单和治学建议。这个学生就是肖梦黎,她从2012年9月开始正式跟我硕博连读。梦黎颇有才华和活动能力,研究进展非常顺利,也不太让导师费心。仿佛在不经意间,她就完成了结婚、生娃、发文、获得博士学位、就职等一系列规定动作,宛若演奏节奏感很强的踩点音乐。她从进入博士生阶段起,就转而深入考察和分析那些正在崛起的互联网平台企业以及相关的治理和法律问题,先后发表了若干篇颇见功底的论文。现在,这些研究成果整合成一本专著出版,希望我撰写一篇序言,当然是要欣然命笔的。
本书的问题意识非常清晰,就是从风险社会和问责机制的角度来阐述网络大平台的自我规制和外部监控。作者采取法社会学的方法,从不同角度进行透视,指出平台兼有企业和市场双重属性,并形成了某种三位一体的治理创新机制——柔性的信用评价、隐性的交易撤销、刚性的处罚权力。这种通过平台进行的治理本质在于自我规制,但却伴随着系统故障、数据安全、利益垄断等风险。为此,需要加强平台与用户以及政府之间的风险沟通,也需要来自外部的强制性举措来防范平台失察和自治滥用等风险转化成现实的危害。在这里,公众参与和责任追究是两个关键性的操作杠杆。仅就问责而言,通过责任的类型化来确立更合理的规制框架具有重要的意义。
众所周知,在互联网2.0阶段,中国起初采取了鼓励数字化沟通和互动以及创新、创业的法律政策,行政权和司法权都乐见大数据不断积累并产生经济价值,从而迅速形成了以腾讯、阿里巴巴、抖音、百度、携程等为代表的网络平台巨头。正如本书作者指出的那样,出于现实需要和正当化考虑,平台不仅能广泛行使自治权,甚至还能代替政府对平台上的交易活动进行监管,享有广泛而强大的算法权力。但是,从2018年起,这些平台的市场支配地位的影响以及个人信息安全问题开始受到广泛关注,法律政策也开始调整,试图限制平台巨头们的市场行为。2020年,中国政府对某些大型网络平台采取了断然的反垄断举措。
在阅读书稿和回顾“互联网+”的发展过程之际,我的脑海突然浮现了一个主权利维坦(Sovereign Leviathan)和一群平台怪兽们(Platform Behemoths)互相博弈的意象。正如弗兰西斯•福山指出的那样,中国从秦代开始就形成了具有很强执行力的国家。20世纪的社会革命,又造成了一个空前巨无霸的主权利维坦。在改革开放时代,市场机制不断运作,导致个人自由逐渐扩大,也导致科技企业、特别是网络平台的迅速抬头,形成了评分社会和算法助推的权力。然而进入数字化时代后,这个主权利维坦摇身一变,通过赛博空间演化成一个算法利维坦(Algorithm Leviathan),对企业的算法助推和个人之间的网络合作进行监控。
从2022年末开始,ChatGPT风靡全球,并给个人以及平台企业赋能。据不完全统计,到2023年5月,中国科技企业和网络平台推出了79个各种类型的人工智能大模型,其中34个是通用类大模型。这意味着主权利维坦除了平台怪兽之外,面临来自几十个功能强大的大模型怪兽(Large Model Behemoths)的挑战。另一方,区块链技术的应用使互联网3.0在中国迅速普及,在游戏元宇宙、社交元宇宙以及工业元宇宙中,每个人俨然都变成了主权者,社区规则成为虚拟空间秩序的基础。这意味着主权利维坦还面临来自十四亿主权个人(Sovereign Individuals)的挑战。
鉴于上述五边形的合力不断塑造和重构的大变局,中国政府的对策是通过统一的基座模型来收编和整合几十个大模型怪兽以及平台怪兽,通过主权区块链来防范主权个人们之间点对点互动失控的风险。其结果,势必造成一个规模巨大、法力无边的算法利维坦。就像米歇尔•福柯所预感的那样,这种算法利维坦其实也就是一种全景敞视装置。在这里,亿万个探头形成视线的陷阱,造就大卫•莱昂所描绘的那种监视社会以及监视文化。这种算法利维坦无所不在、功能强大,只有通过人工智能系统内嵌的公正程序以及不同人工智能系统之间的分权制衡才能防止它的滥用。当然,还需要本书所强调的公众参与或者民主化人工智能(Democratic AI)来进行以同意为前提的规制以及柔性规制。
在本书的引言中,作者一开始就追问平台是什么、平台能做什么、平台改变了什么等尖锐的问题,并进行了深入而全面的考察和回答。在这条思路的延长线上还可以说,在进入大模型和生成式人工智能时代之后,平台治理以及治理平台都会进一步引起各种本质性变化,改变社会秩序的形状。特别是在主权利维坦、算法利维坦、平台怪兽、大模型怪兽以及个人主权意识之间互动的复杂关系中,现代法治的程序正义原则以及风险社会的沟通和问责机制也将被重新定义并发挥更加重要的作用。我认为,这正是关于打分社会、数字国家、算法助推以及平台治理的法社会学研究的价值之所在。已经担任华东理工大学法律社会学研究中心副主任的梦黎,或许正在考虑和布置数字化转型中理论和实证分析的新课题,期待她今后还将陆续推出更多更好的论著。
是为序。
季卫东
2023年端午时节
引言
面对平台这种新的组织形式,我们有很多问题想问,有很多答案还是未完成时,当展开这一系列问题的画卷,首先想知道:
1、平台到底是什么?平台企业兼具企业与市场的双重属性,因此难以匹配现有的规制模式。平台具有用网络效应吸引交易量、以高效的搜索匹配能力降低交易成本等特点,用户退出单一平台并不像离开美国去俄罗斯那么简单。平台的核心交易要素是数据而非商品,数据不是石油,其价值以大规模汇聚为基本前提。平台企业对数据的使用并非简单赚取差价,而是希望通过数据生产与算法预测提升决策效率,最终产生超额收益。
2、平台能做什么?平台做的好么?平台并不是恶兽,天然需要通过自我约束、自我治理来吸引两边的用户。看起来合规优秀、有企业责任感的大型平台才能真正屹立鳌头。平台自治是政府监管部门与企业默契合谋的潜在结果:一方面,“命令-控制型”的强力监管并不适合异质性较强的新兴技术领域,法律不完备与执法不足很难避免。另一方面,自我规制具有信息优势与架构优势,能够有效减缓风险认知中的二元对立,反过来降低政府的规制成本与规制责任。
3、平台改变了什么?互联网平台正经历着迅速崛起与超速发展,并且以席卷之势侵入每个个体的日常生活场景。平台通过算法的隐微控制改变了我们的距离、我们存在的形态、甚至是我们究竟是谁。亚马逊的预期派送、社交平台对特定话题的操纵与精准推送对我们的生活形态造成了深刻影响,使我们过上了一种迎合算法的生活。
4、平台需要被怎么管理?平台企业虽然努力进行自我管理,打造更优质的形象,但新的权力结构产生了无法消弭的新风险。平台企业的权力多数时候不表示为传统意义上的“压制”与“审查”,而更像是一种以“同意”为前提的,使用代码、软件、架构与协议,渗透到“最微妙的个体行为中”的权力。
公民权力与平台权力互相影响;国家权力既可能被平台权力所规避,也可能形塑、甚至收编平台权力。不同发展阶段、不同类型的平台会主动选择或被动接受不同的权力关系。平台企业利用权力建构出了“决定者”与“被决定影响者”,成为了各种风险产生的前提。
考虑到现代社会的风险的弥散性与平台自治中风险的再生性,需要加强“平台——政府——用户”关系中风险沟通的效率与信度。平台企业应将技术性问题拆解为可理解的话语,就规则创设、修改与执行的各个方面进行说明解释,从寻求“公开”变为追求“透明”。平台兼具自我规制者与专家知识掌握者的双重身份,很容易对其引发知识、资本与权力共谋的警惕,因此需要民主理念的进入使得平台权利的运转变得清晰可见。这种说明解释义务应该是非强制性的,由各方共同形成一种强大的外部压力,迫使平台进行自我设限并完善其风险沟通机制。
若潜在风险演化成了实质性的损害,平台企业还需要承担强制性的“归因-课责”责任。对自我规制进行风险规制时要考虑无序成本与权力成本,继而在自我规制、司法介入与行政监管与国有化等规制方式中做出选择。具体归责可参照“规制总强度恒定”与不同类型平台企业中规制阶梯的存在。不同阶段、不同类型的平台企业应该综合风险控制与成本收益等因素选择合适的外部介入模式,将预防原则与回复性原则的精神渗透到规制过程中,以期在尊重自我规制、保护用户权益与推动产业创新间达到一种平衡。
本书通过详实的法社会学分析研究平台权力的生成样态,对平台的创新治理机制等内容进行深入剖析,不仅致力于对社会的切实回应,还试图找寻技术与文明碰撞中的理论命题,如量化自我与评分社会的冲突,数字时代人权保护的薄弱与主体性的丧失等等,最终从法律规范与社会治理的双重角度为平台治理提供一些有益的思考建议。
目录