【作者】肖梦黎
【内容提要】
*肖梦黎
华东理工大学法学院讲师
上海交通大学中国法与社会研究院兼职研究员
关键词：平台企业 评分 信用体系 风险治理 规制
我们已经身处一个评分社会之中，平台信用构筑了我们的数字人格。在大数据和物联网的背景下，现代社会的理性人逐渐转化成可被计算的“微粒人”，智能化算法背后的权力行使者变得越来越隐秘，作为支持系统的信用评分机制更容易让用户放松对权力的警惕。面对线上线下不同场景的相互打通，我们已经处于物理世界与数字世界虚实同构的双层空间之中。平台公司不仅是简单的基于数据做出交易决策，其还构建了人们的数字身份、特征和相关联想，甚至会对用户的未来机会产生影响。
随着越来越多的企业参与到数字身份塑造的集体过程中，这一系列基于平台的评分判断会更深刻地塑造人们的生活。社会主体在不断深入的连接中积累了平台的“社会信用”，不同企业也会通过数据库购买、从其他公司导入算法判断等方式进一步节约成本，从而在整个社会广泛传播人们的算法声誉和数字身份。这一过程可能给持有数字身份的主体带来不合理的成本，比如在更多的领域中传播歧视、限制未来机会与加深脆弱性等。更甚者，评分机制可能会鼓励一种让生活符合算法要求的新模式，以削弱人们对真实生活的判断。与此同时，互联网平台产生的信用与国家信用体系的建设正以不同的方式产生联系：政府通过大数据技术搜集社会成员的信用数据，将评分作为失信联合惩戒的前提要件，以实现对金融领域的有效治理。政府希望通过平台信用的推广在社会领域中进一步提升国家能力，补强现有法律规范的效力，在政府集中供给的秩序之外提升社会治理效果。通过信用治理的层层推进，国家可以无限接近一个“数据库国家”与“智能社会”的想象。
平台的信用评分机制正变得越来越重要，学者们也开始对这一机制给予越来越多的关注。在平台中充当支持性基础设施的信用评分机制，究竟是横向的同侪评分，还是平台推动的新的等级化的排序社会？在过度互联与记忆颠覆的评分社会中，如何给予收到较低评价的用户弥补机会，或者是赋予收到错误评价的用户订正机会？当信用治理被扩展到各种社会活动中时，权力结构会发生何种变化？回应这些问题，需要对平台信用评分机制的治理属性进行分析，采取有效的规制措施以限制其负外部性效应，同时尽量避免公权力完全介入平台自治机制，这无疑是多元治理下的一项重大挑战。本文将从法社会学的角度，对平台信用评分这种个性化、低成本的规范生成与执行机制进行讨论，阐释其与现有法治模式的冲突与交融，从中透视出人工智能时代的治理变革趋向，最后尝试提出平台信用评分机制实现治理功能的法治化路径。
平台信用评分机制的规制逻辑与治理变革
平台信用评分机制起初是一种只影响特定平台上客户与商品/服务提供者的分布式信用，但这种评分正逐渐向集中式信用评分转变。平台信用评分与“征信”“社会信用体系”不但语义上有所重叠，在实际场景中也相互交融。平台信用评分机制对于用户信用数据的征集粒度更细密、适用场景更广泛，但该领域的公权力监管还未完全成熟，难以达到前两者的规制强度。于是，平台信用评分形成了一个“自我监管社区”，建构了一种新型的权力机制，对传统的征信逻辑与信任结构进行了挑战与重构。
（一） 平台信用评分机制的概念厘清
信用机制并不是新鲜产物，可以指代“理性行动者为了选择交易对象和交易策略而可能运用到的各类信息机制的集中呈现”。在讨论平台信用机制时，首先需要厘清“信用”“征信”“社会信用体系”等语词的确切概念。征信一般专属于经济金融领域，是基于资产状况等经济信息对主体未来履约能力的一种评价与预测。社会信用体系则以政务诚信、商务诚信、社会诚信和司法公信建设为主要内容，旨在建设一个全方位覆盖“政府—市场—社会—司法”等领域的全民社会信用体系。信用在不同场景中的含义有所差异：它既可能指代一种性格意象，一种人际关系约定，一种可追溯的契约，也可能代表一种可计量的债务责任。总体而言，信用一词被用于经济范畴时，与征信的含义较为类似；被使用在更广阔的场景时，就可能与社会信用体系发生重叠。
将视域切换回平台信用领域，就会发现平台信用评分机制更紧密地弥合了不同语词间的缝隙。平台信用评分机制中既存在类似于征信体系的B2C评分，如芝麻信用等；也有基于买卖双方互动的C2C评分，如滴滴、爱彼迎（Airbnb）的双方评价。一方面，由芝麻信用、腾讯征信、鹏元征信等共同发起的百行征信已经获得了首张个人征信业务许可，而由京东数科、小米、旷视等担任股东的朴道征信也正在申请第二家个人征信牌照。与此同时，芝麻信用下的花呗已被正式纳入征信轨道，央行2021年9月出台的《征信业务管理办法》也试图将更多征信主体纳入监管范畴。另一方面，全民社会信用体系的建立也需要平台企业的技术与数据资源。国务院办公厅《关于促进平台经济规范健康发展的指导意见》提出要利用平台数据补充完善现有信用体系，加强对平台内失信主体的约束和惩戒。《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》多个章节涉及社会信用体系的建设，并呼吁建立公共信用信息和金融信息的共享整合机制。在这个意义上，平台信用正与征信体系、社会信用体系彼此深度嵌入，逐渐同构。
（二）平台信用评分机制的规制逻辑
信用评分体系要处理“叙述”和“传播”两个问题：前者需要将定性问题转化为定量事实，将复杂生活空间中的具体场景转变为可以量化的指标体系；后者则要解决如何向用户发布此类消息的问题。不同平台会选择不同的信用评级方式（从简单统计到星级评定，从数字分数到等级排序，甚至是成就徽章），选择不同的模式就意味着遵循不同的规制逻辑。
首先，平台信用评分机制展现了数字化判断的治理指向。平台使用简单统计时可以保证其对信用评定的介入最少，允许用户基于自己的判断做出决定。缺点是只有用户对环境足够熟悉，才能得出正确的结论。星级评定和成就徽章在一定程度上解决了这个问题，能够更好地帮助用户消化信息，同时对评级质量做出明确的判断，适用于对信用评价质量有基本共识的场景。数字等级与排行榜等方式则更进一步，不仅赋予用户信用判断的权利，还展示了用户与他人的关系，在用户中引入了啄食顺序，对社区文化产生了强烈的影响。用户间的评级比较通常会提升贡献动机，增强信誉系统的过滤作用，但同时也灌输了一种竞争文化，可能会催生更多的操纵。平台信用评级方式的变更也会产生架构式的权力，从而在一定程度上引导用户的行为。
其次，平台信用评分机制塑造了新型的信誉生成机制。平台评分机制可以被抽象为显式的用户生成信誉与隐式的系统产生声誉两种范式。直接的信誉反馈通常与特定交易相关，例如，淘宝网允许用户从多个维度对卖家进行评价，这些评分汇总起来就构成卖家的声誉。这种信誉模式可视为分布式的，能够链接到独立于其他用户评价的用户行为。系统生成声誉通过对他人的回复、评分数量、交易频次等类似指标进行加权获得，平台可以通过赋予权重或重新排序的方式将其价值化，这也体现出平台信用评分从分布式向集中式的转换趋势。
再次，平台信用评分机制产生了场景化的信用外溢效应。与传统征信相比，平台评分机制采取了粒度更细的征信指标：既有传统征信所使用的金融借贷数据，又囊括了金融非借贷数据与非金融数据；还可能接入通信运营商、公安、法院、社保机构等来源的多种外部数据。以芝麻信用为例，其采取“FICO”的评分体系，将评估维度分为身份特质、信用历史、行为偏好、履约能力、人脉关系五个维度。信用分数高的用户可以在其他场合享有信用特权。以芝麻信用为例，芝麻积分可以关联多个平台，打通信用借还、免押出行、极速退款等服务，高积分用户还可以享有快速预约面签、多国免签等优待。随着线上线下不同场景的打通以及平台向社会信用体系的主动嵌入，平台信用体系会产生更明显的信用外溢效应（见表1）。
表一 芝麻信用数据来源
平台信用评分是一种被设计和开发出的声誉机制，在未来交易中提供了一个供买卖双方信息披露和沟通的窗口，从而为双方建立交易信任。平台建立评分机制的初衷是在匿名社会中鼓励信息披露，降低交易成本，解决陌生人线上交易引发的消费者事后权益无法保障等问题。评分机制在网络平台中充当着支持性基础设施的角色，可以有效缓解合同执行中的保证问题。
最后，平台信用评分机制创设了低成本的规范生成机制。平台信用评分机制将用户的行为经验转变为标准化的计分形式，使记录、修订与执行规范的速度大大提升，从而使标准化的“私人立法”成为可能。一方面，平台信用评分机制能够促进多元主体互相监督与自我审查，在“更多声誉、更少监管”的命题下建构自我监管社区，逐渐实现无需法律的秩序。另一方面，信用评分也会实现对其他权力机制的整合，更好地促进成文规范的实施，进一步压缩不成文规范和市场发挥作用的空间。在这个意义上，平台成为了行政机构授权的法律体系的私人执行者，并由其承担失败风险。由此政府可以在确定授权边界的基础上保持规制谦抑，通过助推的方式实现多元治理。
（三） 平台信用评分机制的治理变革
第一，实现了相对于传统征信与社会信用体系的飞跃。在信用数据的征集范围上，平台信用评分广泛采取替代性数据，在很大程度上解决了“信用不可见”（Credit-Invisible）的问题。平台信用机制中大量使用的替代性数据很好地解决了央行征信中心收录的9.9亿自然人中，仅5.3亿人有信贷记录这一问题，赋予了更多主体获取信用记录的资格。此外，网络技术的引入增加了信用预测的可靠性、数据的及时性，并且成本较为低廉。与此同时，相较于社会信用体系主要记录失信信息的特征，平台信用评分的信息记录更加全面（见表2）。
表二 不同信用征集机构的模式差异
第二，实现了对法治模式与传统信任机制的颠覆与重建。平台信用评分以“数据—算法—后果”的数字化信用系统取代了“法律—行为—后果”的传统法治模式，一定程度上促成了无需法律的秩序。这种强迫不再来自“枪的尖端”，也并非由国家权力所统摄。相反，信用评分机制的监督效力源自于“凝视”，来自一种不断观察的系统与不断被观察的自我意识的结合。平台主导的信用评分机制使传统的、经验性的信任秩序转而成为基于数据的算法控制与精确预测，实现了对传统信任模式的重构。信用算法在自身运转过程中产生了新的价值系统，看起来是平台基于现有的价值系统来识别与纠正用户行为，实则是数据控制者将原则转化为算法，通过算法的分析和决策产生评估结果。数据驱动的算法将传统的治理系统转变为数据生成器，而数据生成器本身则通过另一套原则和目标进行管理。
第三，催生了新的权力结构与权力生态。随着平台经济时代的到来，“国家—社会—平台”的三元权力结构逐渐冲击“国家—社会”的两元权力结构，平台成为了社会治理的重要力量。平台信用评分机制既催生出包裹在技术中的平台私权力，又拓宽了公权力的治理领域。平台与政府在该场域内的权力边界是相对模糊的，双方都在通过彼此的试探碰触，来尝试界定自己相对于其他权力主体的确定位置。在信用数据从商业化到治理工具化的过程中，政府期待通过吸纳平台信用来施行更为有效的算法行政。在这个意义上，对于平台信用评分机制的建设和发展，政府是乐见其成的。平台信用评分机制可视为国家信用体系建设的基础设施，在一定程度上提升了政府的统计能力与治理水平。
平台信用评分机制的规制功能
平台信用评分是一种参与式的信用征集方式。对用户而言，实现了一种新的赋权，将一定的权力让渡给被评级者自身；对平台而言，信用评分是一种重要的自我规制措施，能够以较为温和的方式执行平台规范。对现有的法律秩序而言，平台信用提供了一种新的维度与可能，塑造出智能时代分布式的决策与回应型的法律。
（一） 促进赋权与分权的平衡
信用评分机制实现了网络空间内对消费者的充分赋权与参与式治理，丰富并优化了市场的多元权力类型。平台信用评分机制最初是一种分布式、具体定制的评分方式。这种评分方式将评价权交还给用户与消费者，意在实现一种体现多元价值的“参与式治理”。消费者能够通过撰写和阅读在线评论来交流信息、观点和经验，促进商家改进行为。平台信用评分机制就像“第二只看不见的手”，可以有效引导市场，使第一只“看不见的手”变得更有力量。信用评分机制在效用上优于传统的强制披露方式，平台以评级、排名等柔性举措向消费者提供建议是更为可取的。信用评分体系一直在不断演进，从单纯提供警示黑名单到综合各类指标的中性系统，平台信用评分系统完成了从风险预防者到商业建构者的转变。
更为重要的是，平台信用评分在集中规制与消费者权利之间找到了新的平衡点。平台信用评分机制是一种由社群自主驱动的信用评价模式，声誉反馈可以催生出“更知情的消费者”。基于消费经历做出的分散化评价形式，能够对规制机构制定的集中式标准进行挑战。随着公共治理“更多声誉、更少监管”的转向，平台用户通过信用互评可以实现与商家的双向钳制，构成了新的权力平衡点。在社会治理的外部视角中，平台的声誉机制一定程度上替代了传统的政府监管，从而实现了对其他权力机制的限制与整合。
（二）生成自我规制秩序
平台出于声誉的考虑会主动进行有效的自律规制。对互联网平台而言，市场中过多的欺诈行为会影响流动性，减少平台的交易量，因而平台有动机制定并执行更高的自律准则，给市场参与者提供一个公平、透明与高效的市场。
首先，信用评分机制能够帮助平台对用户未来的行为进行精准预测。基于用户评价或系统反馈，平台可以相对准确地预测用户未来的行动方式。其次，信用评分机制能够帮助用户了解并执行平台规范。当评级与其隐含的反馈被用来指导其他用户的选择时，平台就建立了一个奖惩体系。平台声誉机制的广泛生成，提升了用户对重复博弈的预期。最后，信用评分机制充当着支持性基础设施，可以有效预防纠纷的发生。
对平台而言，通过声誉机制筛选出诚实交易者来避免未来的纠纷是至关重要的，这可以通过对信用较高者提供额外奖励来实现。在线声誉有更强的稳定性、及时性、丰富性和便利性，以声誉为依据的制裁也更有针对性。信用评分机制是对用户进行处罚的前提，平台通过声誉处罚实现了对平台用户的社会控制。
（三）塑造回应型法律生态
平台信用评分机制暗合了分布式决策下对规范的新认知：随着网络技术的迅猛发展，法律理论需要着眼于权力分散化的趋势与自治系统的合法生产。法律不再是自上而下、建立在预设规则体系上的系统，而是一个自下而上的，灵活、异构和不完全规则的生成过程。以平台信用评分为代表的新型规范机制与法律规范的特性并不相悖，隐于评分机制背后的代码同样承担着减少不确定性、稳定相互间期望与增加交互性等功能。信用评分等新型规范与传统法律间存在某种亲缘性，在很多场景下可以相互重叠、彼此替代。
在这种情况下，法律需要清楚意识到对网络自治系统直接干预可能产生的问题，法律仅需对其施以纠正性的干预，不可能也不必要塑造它们的基础规范。国家的直接干预措施既低估了社会制度的自我构成潜能，也高估了立法者的认知能力和权力行使能力。同时，平台企业也必须认识到自己不是一个拥有完全决策权的“孤岛”。法律生态应该具有回应性，推进公私合作间的合理划界与协调合作。
平台信用评分机制的规制风险
平台信用评分是一种行之有效的治理手段，在平台自治与政府监管两个维度都显著提升了治理效果，但仍不能忽视这一机制存在的规制风险。多维度的信用评分构成了个人的数字化行为履历，可能形成评分社会与排序社会，从而固化偏见, 给主体贴上难以移除的标签。一方面，由于平台与用户间的技术差距与数据鸿沟，算法透明与算法可知几乎无法真正实现。另一方面,平台信用评分机制面临着与其他算法有别的解释悖论：评分算法不透明会影响用户的知情权，但规则透明反过来又会增加操纵。
平台信用评价机制容易被包装成平等、民主的参与性行为，而忽略其作为处罚行为前置条件的权力属性。
（一）平台信用评分机制与传统征信系统的共性风险
平台主导的信用评分体系多通过数字表示，信用分值来自对用户单个操作的数据收集与对其未来行为的类型化预测。简单数值较难准确表达用户的预期情绪与精准行为，更无法与真实世界的信用水平划等号，这一点与传统征信系统类似。有效的信用系统必须仔细跟踪、报告用户行为的各个方面，确定哪些行动与声誉系统最为相关。这也就引发了新的悖论：若要提升评分的精准性，就需要收集用户更多更全面的数据，但这又会引发平台权力的进一步侵入，加剧评级用户的弱势地位。
平台主导的信用评分有着传统征信系统固有的不透明、任意评估与差别性影响等问题。平台出于保护商业秘密的考虑，通常拒绝提供评分系统的细节，被评分者与监管者无法真正理解评分过程，更遑论对其底层算法进行监督与审计。虽然不同平台在评价目标上有所不同，但是显著的评分差异表明了相当比例任意评估的存在。从某种程度上看，平台信用评分是在一个不完全严谨的信息收集过程之后得出的。平台架构者还需要解决信用评级中不真实报告与报告偏见的问题，用户可能通过刻意规避不良评价的方式进行不真实的报告，也可能在某些情形下更倾向于发布反馈。前者是不真实报告，而后者则属于报道偏差，两者降低了平台声誉评价的可靠性。
（二） 平台信用评分机制的规制困境
平台信用评分机制还会面临与传统征信体系不同的规制难题：替代性数据虽然有助于扩大信用评价的范围，但数据非标化也引发了不当联结与最弱环节的问题；平台信用评分中评价主体独立性的缺失可能引发更深层次的歧视；未知情同意与退出困难则使平台评分体系构成了一个规制闭环，将用户群体束缚其中，这种最初为了向消费者赋权的网络民主机制正催生出更深层次的结构不平等。
第一，非标化与不当联结。平台信用评分中替代性数据的使用会引发数据质量与正确性等方面的风险。与传统征信系统只涉及确定性指标不同，可替代数据包含了大量的行为数据、关联数据、教育数据与社交数据等。数据的多样性和繁琐性使平台很难及时公布评分依据。例如，FICO会公开自己的打分方法和标准，而沿用FICO计分方式的芝麻信用却较少公布所涉及的指标信息，数据的非标化对用户了解相关规则造成了障碍。
平台信用的可移植性是广泛存在的，行为信用与金融信用的联通使不同平台间很容易产生基于“同意”的反复授权。芝麻积分的场景拓展、与关联方分享信用报告以及大数据征信等就是典型的例子。那么谁来管理不同场景下信用评价的流动，如何处理跨站点、跨公司的信誉评价，就成了无法回避的问题。在不同平台与场景进行切换时，过度联结可能产生最弱环节的问题，即最不安全站点的贡献可能会损害整体评价的准确性。此外，平台评级系统有强大的吸引力，给人以精确和可靠的错觉，但预测算法可能并不准确。评价软件通常是在极端的时间压力下编写的，设计原则不完善、算法模型与简单编码的问题都可能导致谬误结果，声誉系统的缺陷就变成了连带责任。
第二，独立性缺失与歧视强化。平台信用评分机制并不符合传统征信机构所要求的“独立第三方”原则，无法真正满足“业务独立、治理机构独立、关联关系独立、信息采集者与信息产生没有关系”等要求。现有的平台信用评分普遍存在使用本集团服务越多，信用评分越高，以及向集团内从事金融业务的部门透露用户非公开信用信息等问题。当平台声誉产生广泛的外溢效力时，就更需要审慎考虑独立性的问题。
平台信用评分机制容易受到利益相关者的操纵。声誉指标越强大、越重要，意图捕获和颠覆它的力量就越大。信用评分算法非但没有消除现有的歧视性做法，反而可能以更为隐蔽的方式将它们系统化。例如，当大数据征信与线上小额贷款结合时，会吸纳社交平台、电商平台等的行为数据，可能导致居住在富裕板块的人更容易获得贷款。算法编写者的偏见与价值观会嵌入到算法中，通过信用共享进行传播，以任意或歧视的方式缩小人们未来的生活与选择机会。
第三，未知情而同意与退出困难。平台信用评分中“未知情而同意”与打包授权的状况频繁出现。2017年，支付宝年度账单一旦在朋友圈转发就意味着同意使用《芝麻服务协议》，引发舆论轩然大波。多数用户根本未曾阅读冗长的用户协议，可能构成未知情而同意，削弱了主体对个人信息的控制权。此外，参与者的退出机制也并不顺畅，轻易退出意味着话语权的丧失。网络效应使退出平台的成本显著提升，离开新浪微博并不像离开俄罗斯去美国，贴上“选择退出”的标签可能会加剧歧视。一些用户协议中规定，在用户与第三方关系尚未终止时，平台有权不支持用户撤销授权，因此想退出系统的人可能发现自己还在继续接受评级。
第四，价值层面的不平等与错配。平台信用评分催生了结构不平等与价值错配。这种不平等首先体现在生产与分配上，用户在评分过程中更像是商品而非主体，无法平等参与到评分过程中。在平台信用评分的具体场景中，作为数据提供者的用户成为了“沉默螺旋”中的大多数，产生了知识相对于知者的外移。继而，这种认知错位会加剧价值错位。对用户而言，平台评分是一种操作的副产品，用户被鼓励生产出尽可能多的评分数据（用户的态度要么是漠不关心，要么是警惕但被裹挟着无法作为）。对于平台而言，评分数据意味着能够带来巨额盈利的价值资本，但作为数据提供者的用户却无法参与这种利润分配。看似民主的信用评分中，平台主导了规则的设置。在虚拟交互的空间中，用户实际的不在场更可能进一步削弱控制感。
平台信用评分机制规制功能的法治路径
平台信用数据正逐渐由分布式向集中式转换，应用场景也逐步拓展到线下。互联网平台变成了规范化、大规模处理声誉信息的主体，征信回到了万物普遍联系的最初设想。监管部门需要在程序与理念上予以纠偏，对于平台信用评分机制的监管强度应略低于对传统征信业的监管，但仍应提取其立法精神加以参考。
（一）确立法治化的评分规制理念
公权力在对平台信用机制进行规制时，应秉持“增量赋权”的制度思路。遵循“国家立法权与民间创议权的良性互动，让政策指导与行业自治彼此交融”，在鼓励创新与保护用户权益间实现平衡。前提是要了解平台信用评分的规制机理与实现技术，赋予其一定的“飞地自由”，当其突破自我规制界限时允许公权力介入。监管理念要对创新驱动的自我规制秩序进行观察与修正，寻求制度结构和社会结构的匹配路径。对平台信用评分的治理既要保护网络的创新潜能，确保技术解决方案的安全性，也要保证它们的开放性和互操作性。
监管体系需要在平台自治与政府监管间维持一种微妙的均衡。在平台自我规制有效的情况下，政府需要保持克制，只对平台进行纠正性的干预，不要试图塑造它们已经形成的自律性基础规范。但当平台信用评分可能给用户权益或未来选择机会造成不利影响时，就需要公权力对其适用范围进行限制，严格限定使用评级的领域。具体而言，信息收集阶段需要秉承目的限缩、信息收集完整、敏感数据禁止收集等原则；使用与共享阶段要坚持消费者明确的知情同意原则，在向第三方提供消费者的信用数据时，需要最大限度地验证使用者的身份和使用目的，辅之以严格的监管与惩处规定，信用信息的公布只能在明文规定的有限场景下，并注意信用信息的及时更新。
政府应坚持技术赋权与正当程序的双重原则。一是要采取技术规制的思路，增强政府的数据治理能力，通过身份验证等技术进行有效追踪，以实现公共政策的治理目标。更为重要的是，政府不可直接以平台评价作为处罚依据，而应结合多种评价标准综合判定。二是清楚限定平台信用评分的适用场景，防止“一处失信，处处受限”的不当联结。三是鼓励平台建立信用评分的正当程序，完善救济手段。这可通过政府对透明度高的企业予以奖励的方式实现，助推其他企业提升规范制定水平与执行质量。
（二） 促进数据分享与控制的法治化平衡
对平台信用评分的治理要正视信用数据的公共性与可分享性，处理好不同主体间信息共享的区分性原则。个人信息保护主要适用于用户与平台之间，平台与其他主体间的数据共享不适用这一原则。其一，平台对用户行为数据进行精细化收集时，应列明负面清单，可参照《征信业管理条例》的相关规定，禁止收集可能引发歧视的信息。其二，商业主体与政府机构间的数据分享与整合是必要的，要有意识地限制一些超级平台为了追求所谓业务闭环，以保护用户隐私或者商业秘密的理由拒绝向政府披露相关信息。其三，信用评分数据因其特有的公共性价值，由国家所有可能会更好地行使“所有权优势”，继而通过税收等方式调节市场，最终实现对公共利益的“反哺”。因此，在平台主导的信用评分中，可考虑用公有化矫正数字基础设施的牟利性，用公权力的介入弥补公众参与的不足。
平台信用评分机制应区别用户评价与信用评分两个部分。用户评价属于企业的公开数据，每个人都可以查看。公开的评级能够提示潜在交易方，形成声誉压力，在管理此类数据时，对恶意抓取进行限制即可。用户的信用评分则属于可识别的个人信息，在用户知情并授权的条件下才能共享。用户需要清楚知悉自己的信用评分在哪些场景下可以使用，会产生何种不利后果。若平台信用评分存在错误，用户有权利提出异议、要求更正或撤销，或者要求恢复信誉、消除不利影响。
（三）实现评分算法治理的法治化
对平台信用评分算法进行治理的核心是用客观性矫正“算法黑箱”。在算法设计阶段，既要建立基准，进行技术规制，又要加入“人机回圈”等方式，注入除设计者外的民主化滤镜；在算法适用阶段，需要通过算法解释与算法审查并行的方式保障用户的知情权。
其一，算法设计阶段需建立基准。平台信用评分算法基准的建立是至关重要的，能够在一定程度上解决不同领域内信用算法的不当联结问题。从欧盟的经验来看，不同国家相异的声誉制度可能会给欧洲单一市场造成新的障碍，因此要在欧盟层面协调在线评级与审查系统的相关规则。现有对在线评级制度的监管举措是非均衡的，既有标准、指导方针、立法提案，也有不同法院的司法判决，需要提取其中的关键性要素，为后续的监管规范化提供参考。其中，基于买卖双方互动的C2C评分是规则混乱的重灾区。首先，要考虑透明度的问题。声誉系统的运营商必须公平、清晰、透明地向用户提供在线评论的发布与处理方式，说明评论发布前是否要受到平台的审查。用户协议中应包括提交评论的基本原则、评论权重与展示方法等，通过用户易于理解的方式进行说明。其次，架构问题也需要纳入考虑。评价系统是开放还是封闭，如何验证用户身份等可由市场自主决定，但平台不应就评论的来源误导用户。平台运营商可设置合适的激励机制，或通过技术手段减少报告偏差。例如，易贝（eBay）不给卖家提供对买家进行负面反馈的选择，以减少因害怕报复性反馈而不愿评价的问题。最后，要关注平台主导的综合评级的风险问题。综合评级有助于减轻信息过载，多以星级或分数的方式呈现，会深刻影响消费者的购买决策。综合评级是基于某种信息聚合的模型，意味着某种选择性披露，其中的算法透明更不易实现，因此适宜由司法部门根据个案具体裁决。
其二，算法适用阶段需完善算法解释与算法审查机制。监管机构针对不同类型的算法应采取分类治理的方式。高风险算法是对个体产生重要影响的算法，如信用贷款审批、电子招聘、医疗服务、教育或显著影响个人习惯或选择的自动化决策。在面对高风险算法时，GDPR规定“应为数据主体提供自动化决策中运用逻辑的有用信息，与对数据主体可能造成的后果”。美国《算法审查法案》则规定，应详细说明包括算法设计、训练数据和算法目标在内的信息。算法解释与算法透明是一体两面的，算法透明可视为对算法设计与使用方的义务设定，算法解释则是对受算法影响者的具体赋权。算法解释权可以通过软件验证、加密承诺、零智商证明原则等技术来实现，同时可引入统计模式识别和偏见评级的自动校正系统。“人机回圈”原则通过补足人类智慧的方式来优化算法，可为算法决策过程注入民主化要素。比如，淘宝网的“大众评审制度”与“闲鱼小法庭”就可为评分和处罚过程增加参与性与民主性。对作为规制者的平台而言，加强风险沟通有助于提升公众的信任度，促使其决定合法化，改善决策质量。对公众而言，无可能也无必要对每项算法都提出解释需求，若这样也等于基本告别了算法统治下的现代社会。
如果公布算法或者解释算法中的各项权重因素确有困难，可考虑制定类似药品说明书的算法说明书。虽然制药工艺受专利与商业秘密保护免于披露，但功能主治与禁忌说明应该公开。算法设计与使用者应对核心算法的逻辑、目的等加以公布，对涉及的敏感因素予以提示。平台信用评分也应向征信机构学习，公开指标体系，既提供信用评价与信用报告，也进行信用评分分析与信用信息的变化预警，从而更好地对用户进行信用教育。
（四）探索程序化的信用评分模式
在不断扩张的评分场景中，信用瑕疵很难修复，因此要警惕平台信用评分的边界，为用户提供有效的救济措施。若当事人对平台评分存在异议，应保证其有更正错误数据、获得名誉恢复以及退出算法决策的权利。修改权的前提是回应权，评分机制的经营者需要提供免费的申诉机制，允许用户在对评分真实性存疑时进行投诉，运营平台要在特定时间内尽快回复。算法解释只是开端，当算法的设计和使用者对自动决策做出解释后，受算法影响者还有要求修正决策的权利。退出自由也是对选择权的保护，用户自己决定是否选择进入信用评分，能够增强主体对个人信息的控制感。例如，美国的《格莱姆－里奇－布莱利法案》赋予一般消费者拒绝向金融机构的非关联方披露个人信息的权利，若消费者明确表示禁止，就可以选择退出。有些地区则要求金融机构获取消费者信息时要采取“选择进入”的方式，这比选择退出更加严苛，同样可考虑适用于平台信用评分的场景。
结语
在人人皆处其中的评分社会中，应肯定平台信用体系在降低交易成本与塑造信任等方面的积极作用。这一在线声誉体系对传统的消费者保护形式进行了有效补充，但仍可能因制度和设计上的缺陷对消费者造成误导或产生实质性伤害。更甚者，平台信用评分的外溢效应可能导致价值上的错位，营造出一种迎合算法生活的新趋势。在平台评分算法构筑的“规训”空间内，主体价值的找寻就成为了重要课题。因此有必要建立新型的监管框架，通过算法基准与程序机制的设置确保平台信用的有效性。监管核心在于厘清公权力与平台自治的边界，一方面运用程序规则限制平台的自由裁量与权力扩张，另一方面允许用户进行自我选择，使法律拥有更好的回应性。在工业社会向算法社会的转向中，通过个人自主性的提升来反对平台集权，是一种可行之道。
原文刊载于《探索与争鸣》2022年第2期。