上海财经大学法学院副教授、法学博士
摘要:我们似乎正处于一个大规模“评分社会”的初始阶段,本文试图为这一趋势的发生和演进给出一种法律社会学解释,即低成本的信息搜集和评价工具使经济和政治权力主体均有不同的动力和理由对大众日常行为进行评分:对商业力量而言,平台企业需要评分机制塑造私人化的市场基础设施,从而约束管理平台上发生的各类劳动和交易活动;对政府而言,需要依托信息技术的广泛应用将既有官僚机制下的行政权力转化成能进一步适应更大流动性社会的平台。本文认为,尽管算法可能加剧了现有法律和其他规则的转变,但从商业和公共管理的逻辑出发,广泛采用评分机制是更好的策略,不仅可以帮助将更多细节行为纳入管理,还可以为进一步优化法律和平台成文规则提供数据支撑,为算法权力提供更多可应用的场景。
01
引言
近年来随着政府公共信用治理实践的兴起,中国正在建设覆盖多个领域的“信用社会”。作为一种传统声誉监管方式的延伸,公共信用治理将公权力延伸至更多社会场域和个人活动场景,从而在当前法律规则体系中形成了一类独特的行为规范,即那些在特定领域被认定为“失信”的行为。关于这一治理实践和规范创制行为的解读,诸多讨论集中于公共信用信息在行政法上的创制过程及对其后果的约束、对隐私和个人信息不当使用的风险、政府内部公共信息的汇集与使用,以及对社会主体产生更加严格的约束效应。可以想见,随着公共信用治理模式的稳固和推广,将会有更多领域在条块主管部门的主导下推行这一看上去“自动化”的监管方式。
这一监管方式表面上体现为“评分”机制,在初步实施过程中部分依靠公示失范行为人身份信息等传统声誉机制,逐步过渡到依赖纯粹的评分惩戒,达到“一处失信、处处受限”的效果,从而间接地约束行政相对人的行为。这一评分机制十分类似于互联网平台企业业已广泛采用的信用评价机制,只是实施的主体和方式有差异。无论是商业力量还是国家机构,评分都代表了一种新型权力机制,这种机制和数据、算法紧密结合在一起,对数字时代社会主体行为产生重要影响。我们正处于“评分社会”的初始阶段,对于这种权力本身的性质和影响仍需要做进一步理解和探讨。
本文试图为这一趋势的发生和演进给出一种法律社会学解释,即低成本的信息搜集和评价工具使经济和政治权力主体均有不同的动力和理由对大众日常行为进行评分:对商业力量而言,平台企业需要评分机制塑造私人化的市场基础设施,从而约束管理平台上发生的各类劳动和交易活动;对政府而言,需要依托信息技术的广泛应用将既有官僚机制下的行政权力转化成能进一步适应更大流动性社会的平台。这一权力机制在某种意义上增强了所谓“国家能力”,同时也是对更多“社会权力”的再发现和整合。从积极的角度看,评分帮助约束更多传统法律和社会规范无法有效解决的社会问题(如老赖、医闹、行人闯红灯),另一方面则反映出社会规范、道德和市场在约束此类行为过程中的无力和衰退。由此,评分是公共管理逻辑和商业逻辑共同推动的结果,集中折射出具有高度流动性的大规模数字社会中新型社会权力如何出现并发挥作用。此外,在研究这一机制的过程中,还涉及如何约束算法权力、个人信息的采集和使用等诸多具体法律问题。
评分机制的出现对法律(与其他社会权力机制)的影响也亟待探讨。评分机制体现出至少三种社会功能:一是创设新的行为规则,并通过低成本大规模地高效执行;二是对现有成文/不成文规则的补充和提升;三是将源于社会关系和人际互动的权力要素,经由集中化的算法处理、放大,不断扩展其适用的空间。显而易见,这一机制将重塑不同社会权力之间的关系,并通过量化的方式连接打通不同场域中的权力关系(不仅连通线下诸多场域,也连通线上和线下世界),从而形成更加理性化的规则形式和结构。这一“算法统治”的过程对整个法律体系和法治建设将产生重要影响。尽管有研究集中于算法权力对法律形态与运作的直接或间接影响(例如通过智慧法院建设、法律服务机构的平台化影响法律运作),本文认为外在评分的普遍化为内在算法权力的扩张真正提供了坚实基础,即,即便法律本身的功用和能力在信息时代无疑会得到提升,但算法驱动的评分和信用机制帮助扩大和深入法律力所不逮的领域,成为法律体系有效的辅助,也是算法权力实现的具体方式。
02
理论分析框架:架构理论
(一)作为评分基础的架构
(二)评分机制的演进逻辑与特点
在工业经济时代,社会流动性开始增大,城市生活塑造了更多陌生人交往的环境,社会主要通过各类社会组织(如单位、居民委员会)对社会主体进行约束,同时强调依法治国,增强国家机器对社会主体的约束力,由此需要提升国家能力,为市场平稳有序运行提供公共信用基础设施。银行作为商业信用中心、工商机关作为黑名单执法机构、法院作为解决纠纷的专门机构、大众媒体作为汇聚公意的信息平台都起到重要作用。和熟人社会相比,隐私反而成为需要被保护的一种重要人格权利。这一阶段的评分主要通过市场基础设施对商事主体发生作用,逐步走向明确完善和理性化,对自然人的治理仍然主要依靠道德和社会伦理。
在数字经济时代,匿名交往的互联网促使资源的流动性进一步加大,为确保交易和交往的安全可靠,需要对上述信息机制进行创造性更新,以适应没有边界的在线社群的需求:(1)从信息生产和传播看,智能终端降低了用户沟通的成本,通过简单的点击即可对他人行为进行评价;(2)用户被鼓励不断自我披露,将原来属于隐私的行为转化为公开的信息,隐私不再重要;(3)评分成为用户了解和信任陌生人的重要保障,在评分精确的场景下,能够促进更多原来无法发生的交易,降低交易成本;(4)评分规则需要和法律一样得到公开、解释和公众参与,从而最大限度地对算法形成共识。在这一阶段,哪怕是个体的细微线上行为也开始被识别和搜集,迅速形成具有公意基础的在线规则,主要仍然依靠声誉机制起作用,更加精确的、理性化的评分机制开始逐渐对个体行为产生影响。
最后,依托于公共权力机关主导的公共信用制度,评分被广泛应用于各类公共服务和社会活动当中,这些领域是传统法律因成本原因无法涵盖的,由此和法律相比变成更加柔性灵活的权力机制,使公共权力的范围和能力大大增强。在这一阶段,评分机制重新回到线下,继续涵盖了诸多被认为是私人活动,但可能对公共交往产生影响的行为。其执行不主要依赖于声誉,而是依赖于更具强制力的失信惩戒手段。
不难发现,只有在大规模流动性的数字平台上,依托无处不在的传感器、摄像头、智能终端和强大的信息处理能力,作为新型权力技术的评分才能够逐步兴起。首先,这种评分机制帮助汇集社会主体的日常活动,将弥散化的社会意识与价值判断进行一定程度的集中,形成公意并强制执行。从经验看,这对于管理和预测大规模陌生人群体行为十分有效。其次,评分权力可能会造成道德与社会规范发挥作用空间的压缩,因为无论是线上还是线下,社会都处于高速流动过程中,稳定的社会生活状态变得愈加灵活,新秩序也更不容易形成,评分机制的重要功能是在资源流动过程中不断施加针对其行为的追踪和评价,反映了权力的实施方式更加深入和动态化。第三,进而,评分过程是一个动态汇总社会主体行为并将其类型化、理性化和规范化的过程,这主要体现在纳入评分的行为需要明确公布,为流动的社会主体形成指引;这可以形成超越了传统的地域界限和区域化场景的统一规则,但也可能产生脱离原始场景使用评分的问题。最后,评分机制将赛博空间与真实世界无缝融合在一起,借由数字架构的不断渗透逐渐成为一种主导力量,在商业力量和行政力量的共同推动下成为一种无处不在的量化系统。
如果模仿L框架的经典断言,某种意义上也可认为“评分就是法律”。实际上,如同本文第三、四节揭示的,评分机制具有商业生产和社会行为控制两个主要面向,与代码/架构的功能形成了互补。与技术架构相比,评分机制及其更加宽泛的社会信用机制在某种程度上是各类规范的升级和理性化,进而和正式法律更加接近:评分规范在形式上具备行为模式与后果模式,在执行上也会利用声誉等机制开展,更主要的是,评分完全具备和法律类似的社会功能:
1.行为评价与引导:评分将行为类型化,把更加细致的主体行为纳入各类规范,并引导主体根据评分高低采取进一步行动;
2.惩罚:通过失信惩戒划清底线,对严重的失信行为人在更加广泛的领域内进行惩罚,不利后果是其未来的特定活动将受到影响;
同时,评分机制超越了法律规范:不只是一种扩大法律内容范围的执行工具,其本身具有相对独立性和体系性,不仅违反法律或其他规范的行为都能够被记入信用记录,而且其体系本身涵盖了更多领域,形成相当复杂的行为评价系统。以下两节将更加细致地描述分析评分机制如何沿着商业和行政两种路径逐渐兴起,最终殊途同归。
03
评分的商业起源:从市场到平台
(一)从征信评分到行为评分
互联网平台上的评分若想充分发挥作用,至少需要从以下几个主要方面进行设计:
1.评分必须公开,让潜在的交易者和合作者易于看到,以形成直接的声誉压力;
2.评分需要匿名,以便激励用户评分,非匿名方式容易给评价者带来骚扰和压力;
3.在平台政策设计上对交易主体施加间接压力,使其意识到声誉不佳同样会导致减少未来交易与合作机会;
5.评分和语言、图片评价结合在一起,使其他参与者得以观察细节,避免误会和评分分值的模糊;
6.与基础身份信息的认证和基本信息披露相互补充;
7.根据大量的交易行为将人的不当行为具体化和类别化,形成统一的规范,并通过一个复杂的算法加以计算;
8.通过用户协议获得用户许可,内容上强调搜集用户的信息用以改进服务,并提示风险;
9.避免网络推手和虚假评分,服务结束后再通过账户进行评分的效果更佳;
10.资源的封闭与开放。和实名制起作用的方式类似,封闭社区和有限资源平台上的声誉机制更容易起作用。
(二)私人市场基础设施的建立
评分机制从简单的用户相互打分升级为涵盖更多行为的商业信用评分,本身就反映了平台商业活动的复杂和多元。互联网平台的特点在于其具有企业和市场的双重属性,一方面平台价值的生产过程超出了传统企业的边界,另一方面传统市场的运作越来越受到平台权力的影响,日益“平台化”,由此逐渐出现了为确保平台经济竞争力而打造的私人市场基础设施。这些基础设施包括技术服务、数据储存/分析(云服务)、支付/结算、物流、认证、信用评价、金融服务、纠纷解决、行为管理/调控等诸多方面,涵盖甚至取代了传统市场经济中的由公共行政机关提供的基础设施服务。评分机制既可以通过简单的用户打分发挥社会规范的声誉作用,也可以升级为商业信用评价,成为平台经济基础设施不可缺少的要素。
值得一提的是,在L框架中,平台规则原本只是各类规范的一种,但随着社会和市场的平台化,越来越多的社会交往与交易行为通过平台进行,平台规则及其一整套生产机制就从一般的社会规范中分离出来,成为突出的一类权力机制,并开始吸纳传统的各类规范和市场力量。由此可以将这一框架根据平台权力的演进加以改造(图2)。
(三)评分权力、黑箱优化与信息披露
平台商业化评分的负外部性在于,在将社会和市场一并纳入平台治理范围的时候,更加偏向市场建设而非社会建设,这势必使得成熟平台更愿意依赖更为精确的B2C评分方式而非模糊有争议的C2C方式。一旦所有在线行为都可被纳入生产性评分体系,就会挤压在线社群的自主性和场景化的社会规范。更多社会场景的行为被无差别地添加到一个统一的评分体系中,势必对行为主体产生不确定和无法预测性,这充分体现出平台作为评分黑箱的信息不对称。数字平台驱动的市场消除了交易者双方的信息不对称,但自身仍保持着不容置疑的权力地位,通过个人化定价等方式压缩生产者和消费者剩余。
04
社会信用建设:作为平台的政府
(一)从传统监管到社会信用治理
当下的社会诚信建设包括政务诚信、商务诚信、社会诚信和司法公信四部分,基本上涵盖了社会经济行政行为的方方面面。中央政府由此可以利用这一新型治理技术推进几方面目标:(1)约束整个官僚机构,改变组织内部规范;(2)约束传统企业、社会团体和新兴互联网平台,改变传统监管方式;(3)约束公民个人行为,推动形成新的社会规范。严格说来,社会信用治理是一个混合性概念,包含了既有法律无法涵盖的底层领域,也包括市场和社会规范无法有效解决的新老问题,甚至有时和信用无关。
传统而言,法律和各类社会规范分别处理不同领域的问题,无论是成文的组织规则,还是不成文的社会规范,其功能都在于填补法律的真空地带,特别是社会公共道德和伦理认同需要是维系社会成员日常活动的重要纽带。但随着社会流动性加大,人们就城市中的各种生活越来越难以达成规范共识,或者即使有共识也很难通过道德约束和强制执行。这为社会信用评分机制提供了发挥作用的场所,在表2的基础上,社会信用机制将法律与各类规范通过评分这一权力技术连接起来(图3)。
针对公民的社会信用机制往往通过两种路径得到执行:(1)羞辱与声誉,这主要以黑名单或失信行为人的信息公示为主要做法;和(2)记录评分,通过全国联网系统进行联合惩戒,这通过影响失信行为人在未来使用公共服务和私人生活发挥威慑和惩罚功能;更主要的是,这种联合惩戒可能会突破失信行为人的预期,因自己的行为使家人行为受限。与法律相比,社会信用评分的执行方式是渐进性、跨语境、去场景化和面向未来的。尽管联合惩戒的惩罚强度相对较低,但因广泛依赖传感器、摄像头和其他方式自动获得和汇总公民个人信息,记录失信信息,评分机制就越来越具有惩罚和预防的功能。
社会信用评分在各个行业已经得到广泛使用,在制度设计上也愈加复杂,已经形成了一个需要严肃对待的庞杂文件和规范体系(而且才刚刚开始),并不断渗透和影响传统组织的治理过程。对国家而言,评分行为逐渐由手段和基础设施层面的治理技术转向更为坚实的规则层面的治理机制。这一新型治理机制提出的新问题至少包括:公共信用信息目录管理、市场信用信息的采集、联动奖惩机制和信用的分类管理机制、针对不同主体的行政奖惩机制、信息主体的权益保护制度等,有待进一步观察研究。
(二)政府的平台化与问题
社会信用治理的更大背景是中央政府试图利用信息技术将政府平台化的努力,从不断推进的电子政务建设到政府数据公开,再到最近的“一网通办”,都从不同侧面展示出平台政府的轮廓。无论是社会信用中的联合惩戒,还是政府数据公开,其基础都在于政府内部的数据归集与整合,并通过一个界面提供一站式服务。这和商业化的平台企业有很多类似之处,其目标也是为了更好地应对高度的社会流动性,降低行政行为和公共服务带给社会主体的成本。无处不在的人脸识别摄像头、传感器和信息采集终端都在实时对社会主体进行追踪和识别,不断获取在公共领域和接收公共服务时的公民个人信息,并进行分类归集。由此,社会信用评分机制对法律、市场和技术架构形成了有效的补充。随着社会信用机制的推广和沉淀,部分严重行为可以上升为法律规范,这不仅解决了立法中的科学统计问题,还可以结合司法裁判等渠道进一步将各种行为类型化,纳入立法规制行为的统计与研究。
与平台企业的算法问题类似,面对平台政府的黑箱规则,也需要思考如何基于过去预测和影响未来的合法性问题。当社会信用机制能够收集越来越多的主体行为,行为需要越来越细化的规则的时候,对精确辨识和解释这些行为就提出了更高的要求。为了降低主体及其代理人的认知负担,势必需要更加智能化的辅助手段帮助人们了解所处的具体场景与具体要求,这就使行为主体避免了预测的风险,能够在不同场景下自动切换。同时,算法黑箱对主体的行为却能基于过去的数据进行预测,并创设新规则,调整社会规范,形成了新的信息不对称,仍需要像理性化的法律制度一样提供程序和实体上的保障。
05
评分对其他权力机制的整合性影响
(一)对法律与架构的增强
上文集中展示了,评分如何将社会声誉、社会活动转化为可供强制执行的量化规范,并分散在商业服务和公共管理两个维度。本节进一步探讨评分权力在L框架中的地位,及其对其他权力机制的影响本文认为,评分在整体上可能会巩固成文规范(法律、平台规则、其他组织规范)和技术架构的地位,进一步压缩不成文规范(社会道德、社会规范)和市场发挥作用的空间,从而形成独立于法律和平台权力之外的第三种主导性权力形态。
评分系统实际上帮助扩展了法律的触手,随着个人化的信息可以被事先越来越多地搜集和披露,某种程度上能够实现个人化的法律和规则。同时,为了避免个人对规则认知负担的加剧,评分系统还可以将规范的复杂性转变为默认设置,通过技术黑箱自动化地执行规则,减少人们的选择,增强强制性,从而潜在地减少纠纷。两者结合在一起的结果就是个人化的默认规则,其出发点在于降低社会集体行动的复杂性,实现最优设计,同时预防风险。
(二)对市场与规范的压缩
在算法权力巩固法律权力和架构权力的同时,也会造成社会规范与市场力量的削弱。如前所述,社会规范无法在高速流动的社会中快速形成,社群很难保持稳定,市场基于信息对称的个人选择变成了算法的自动化推荐。尽管传统的四种要素都能够通过数据的评分机制打通,但平台之外的社会和市场将变得更弱,由公共信用信息机制接纳,发生在平台上的社会和市场行为则由平台权力进行约束。同时,传统企业组织也越来越多地通过平台外包,使更多劳动者游离于组织规范之外,这都造成了各类规范的逐步萎缩。因此,我们可以把L框架进行重新调整(图4),突出评分权力的地位。
社会信用权力成为法律和平台权力之外的第三种主要社会权力,其共同的基础都是基于信息技术通过账户搜集行为主体的信息,并通过算法进行分析。由此才真正在移动互联网时代重新解释L框架提出的“代码就是法律”的意涵。在新的L框架下,社会主体行为可以被无限涵盖和追踪,并适时进行提炼和规则化,规则的变迁也真正和社会主体的历史行为数据直接联系起来,从而使社会治理更加有效。如果对比图4和图1,就会发现,L框架中的四大基本权力机制在微观层面上进一步趋同。这主要体现在:(1)规范的可计算性;(2)约束人的行为的方式和不同场景都可以通过数据搜集和算法打分实现,进而实现因人而异的法律、社会规范、市场和架构;(3)市场、架构和规则的边界愈加模糊,架构被设计成进一步搜集人的信息、设计双边市场塑造人的行为,使用价格和数据进行计算和预测;而规范也可以变得更加灵活,成为社会主体共同遵守的一种规则和预测。
在工业经济时代,市场更多地通过价格机制对企业和其他组织起作用,法律也对这些组织通过声誉监管等手段产生影响,但企业本身能够帮助统合社会个体、组织社会生产,自身成为生产和社会行为的重要方面,也能通过提供社会保障、征税、组织党建等活动成为社会稳定器和社会信任的维护者。在信息经济时代,评分机制兴起的重要前提是社会自身及其传统组织无法对社会的高度流动性形成有效的回应,以至于需要外力柔性介入,伴随着中国城镇化建设深入,这种状态势必还将持续。但并不是说社会规范就无法正常生长和起作用,需要线上和线下社会主体的共同参与,同时保留主体参与和选择的空间和能力,推动各类社会组织建设。这一思路实际上可以按照传统L框架展开:
1.公众参与。这一思路偏向社会规范,即通过探索社会规范的建立,特别是参与到评分机制的行为类型化和解释当中,推动各类纠纷解决机制;
2.信息披露与透明性。这一思路偏向市场,即通过信息披露本身增强黑箱算法的合规性,同时加强用户的选择权;
3.自主活动空间。这一思路偏向架构设计,即通过确定合理的架构边界为用户的自我创造行为和隐私保留空间。
06
结语
本文主要讨论了评分作为数字社会的新型权力的兴起与演进,并分析了评分权力和其他几种社会权力的关系。首先,本文认为,尽管算法可能加剧了现有法律和其他规则的转变,但从商业和公共管理的逻辑出发,广泛采用评分机制是更好的策略,不仅可以帮助将更多细节行为纳入管理,还可以为进一步优化法律和平台成文规则提供数据支撑,为算法权力提供更多可应用的场景。其次,评分机制的核心在于评分规则和算法黑箱的透明性,无论是商业算法还是行政管理的算法,都需要采取一定程度的信息披露,以确保行为主体的预测能力和选择能力。第三,在经典的L框架中,评分机制的逻辑要求强化已有的成文规则和默认技术架构,从而不断压缩处于中间地带的各类规范和市场自发力量,这体现为国家权力和平台权力的理性化双重扩张。为减缓这一趋势,仍有必要推动和激活社会基层的线上与线下社会组织建设,推动多元社会秩序和规范,增强社会和公共领域自身的力量,这也是依法治国理路的内在要求。