为了遏制互联网餐饮外卖平台使用算法活动侵害劳动者权益的乱象,我国出台了设置收入最低标准、算法取中、严禁最严算法、优化算法、设置工作量上限、算法公示等多种措施并举的规制体系。然而,用工算法内部构成复杂、高度流变、非中立性的特征导致了算法趋严的“类问题”,而现有各项措施缺乏清晰可行性、措施之间缺乏路径和力度的一致性、整体上缺乏灵活性,不能从根本上加以解决。根据算法正义理论,我国规制体系仅针对算法趋严的具体表现加以规制,而没有意识到该问题的本质并非被讨论最多的算法黑箱、算法滥用、算法歧视和偏见,而是劳动者对自身劳动力定价权的弱势地位。只有以劳动者“绝对收入”作为落脚点出台规制措施,方能对用工算法实现有效规制。
一、问题的提出
上述现状引发了一系列亟待解答的问题:(1)用工算法的工作原理和特征是什么,又是如何导致平台劳动者难以忍受的工作境遇,具体有哪些表现?(2)我国现有的规制体系能否对用工算法进行有效干预,实质性地改善平台劳动者的工作境遇?(3)如果我国规制体系的效果不如预期,背后的深层原因又是什么,是否还有更好的规制手段?正是基于这样的关心,本文以互联网外卖平台为例,深入互联网平台用工场景,并结合国内外算法规制的一般理论,试图完整地回答这些问题。
本文将在之后逐步证明,用工算法内部构成复杂、高度流变、非中立性的特征共同导致了算法趋严的“类问题”,不能简单归结为算法恶意或者技术原因,对法律规制提出了极大挑战。而我国规制体系的具体措施缺乏清晰可行性、措施之间缺乏路径和力度的一致性、整体上缺乏灵活性,不能从根本上遏制算法趋严持续发展。究其原因,我国规制体系仅仅针对算法趋严的具体表现加以规制,缺乏理论上的深层自觉,没有意识到该问题的本质是算法不正义。根据算法正义理论,算法趋严背后是劳动者失去自身劳动力定价权的弱势地位,只有对劳动者“绝对收入”划定底线,方能实现对用工算法的有效规制。
二、互联网平台用工场景下的算法
输出指的是算法给出的结果,例如完成订单过程中可供劳动者选择的不同路线。算法的输出在模型自动给出之后还受到平台管理者(并非开发者)的干预。一方面,管理者负责在分配订单时为劳动者个体提供算法结果;另一方面,管理者在发现算法输出结果不合理(某条送餐路线看上去不合逻辑或者不可行)的情况下会进行调整。算法的输出一般给出多个结果供选择,所以它本质上是一种工作“指引”或者“推荐”。算法的输出结果除了送餐路线,还有订单分配、任务进度报告(配送时限)、奖励金额、消费者评分等形式,都显示在劳动者使用的手机app等移动终端上。
既然用工算法存在被滥用的可能性,在不受制约的情况下是否必然会对劳动者权益造成损害?现实已经给出了答案。在国外,优食和户户送等餐饮外卖平台国际巨头使用算法的行为在近年来饱受争议,出现了诸如算法追求配送效率造成劳动者遭遇交通事故;算法追求利益最大化导致劳动者收入低下;算法分配订单时偏袒某些劳动者;算法过度控制引发劳动者与平台之间的紧张关系等问题,不一而足。在我国也出现了类似情况,但招聘阶段的歧视问题并不突出,更多地表现为用工算法在工作期间对劳动者的考核标准水涨船高,展示出日渐严厉的面目,背后主要有三种推动因素:
根据上述列举可以发现,算法趋严现象的背后有着多种互相作用的推动因素,属于有着多种表现的“类问题”,不能完全归结为平台企业滥用算法的恶意等人为因素,或者技术缺陷等客观因素。因此,相应的规制活动不能简单地以平台企业是否存在主观上滥用算法为切入点,而是要充分考虑用工算法所处的复杂环境,这也为法律规制提出了更多挑战。
通过对用工算法黑箱内部的观察可以暂时得出三点简单结论。一是用工算法应用场景具有特殊性,与个性化推送、检索过滤等其他类型算法的开发原理明显不同,发挥作用机制以及对劳动者的影响也无法简单与其他类型算法进行类比。二是法律规制用工算法很有必要。有国外学者指出,在劳动者与平台企业之间存在天然不平等的现实面前,希冀后者通过自我规制改善现状只能沦为天真的想法。三是规制用工算法极具挑战性,算法趋严的现象既有自身迭代调整的技术性原因,又有平台企业管理制度的原因,还有商家行为、算法设计和技术等外部原因互相影响,亟待精准、有效的规制方案加以调整。
三、反思现有用工算法规制体系
我国《推荐管理规定》与《指导意见》代表了简略的正式法律条文与具体化的指导性政策文件相结合的算法规制体系,符合科技法学者Ebers定义的“多层级立法”模式,据称其优势在于既可以防止科技快速发展对正式法律造成冲击,又可以随时调整指导性文件内容以保障规制措施的灵活性。然而,Fenwick等学者认为在科技发展已经超过法律反应速度的情况下,规制体系的合理性、有效性与立法类型没有必然联系,而是要细致分析规制体系的内容、形式和时机,即“什么规制”“怎么规制”“何时规制”三个关键方面。对于如何判断具体规制措施、规制路径、规制体系整体上的合理性和有效性,国内外理论均有相应的评价标准。据此可以引申出评价我国用工算法规制体系的三个维度:一是各项具体规制措施是否清晰准确并且能够切实可行地解决问题;二是规制措施之间在路径选择和干预力度上是否体现出一致性避免措施之间相互冲突;三是规制体系整体上是否存在法律原则的灵活性以跟上算法的快速变化。
在微观层面,不论立法者和政策制定者采用了哪种具体措施或规则干预算法,都应当使用清晰或易于理解的语言表述出来、而且被证实能够在现实中切实可行地解决现实问题。按照这一标准,《指导意见》提出的各项具体措施在细究之下有着或多或少的问题。
《指导意见》设置劳动者实际收入最低标准以及给予额外补贴措施看似清晰可行,但这些规制措施的缺陷不在于自身,而是与其他措施之间的冲突,下面将专门进行讨论。
总的来看,大多数规制措施有着各自的内在缺陷,归结起来主要有三种表现。一是规制措施本身概念模糊无法直接适用,比如算法取中。二是规制措施虽然看似明确,但缺乏法律和事实标准等保障有效性的关键部件,如严禁最严算法和设置工作量上限。三是规制措施的实际成本过高或者难以达到理想中的规制效果,如算法优化和算法公示。将这些措施直接用于实践可能带来更多法律上的不确定性,无法满足清晰可行的基本要求。
规制措施之间缺乏路径和力度一致性
立法者和政策制定者除了要保证规制措施本身是否清晰、具有可行性,还应当尽量让各项规制措施之间满足路径和干预程度上的一致性。
用工算法一直处于高度流变之中,但其产生的侵蚀劳动者权益等问题却是长期性的,这就要求规制措施在宏观上保持灵活性以跟上算法的快速变化。早在2010年代,Callon等学者就意识到法律在科技领域保持灵活性的重要性,认为针对科技的立法不应当被看作是一劳永逸的“最终事件”,而应当是对规制措施和路径不间断的选择活动。在判断灵活性的问题上,Fenwick等其他学者提出基于具体规则与基于法律原则两种范式的区分,前者是将具体规制措施直接用于科技引发的社会问题,后者指的是法律原则,不会由于规制过程中获得的新知识和新发现对规制体系和框架造成冲击;保持法律规制灵活性的关键在于前者向后者的范式转变。
上述列举的内容并不是为了说明立法者和政策制定者必须转向法律原则,而是在灵活性的维度看,法律原则单独确立或者作为具体规制措施的法律依据是必不可少的。而这正是我国当下用工算法规制体系的内在缺陷。
四、重构中国语境下用工算法的规制体系
我国用工算法规制体系难以达到预期目的主要原因在于仅仅根据算法趋严的种种表现加以规制,无法触及背后的真问题,加之算法快速变化不断产生新的表现,造成了相应规制措施模糊、内部冲突、僵化的严重漏洞。因此,重构的起点应当是识别出种种乱象背后的本质,并据此设计适合的规制路径和力度,再落脚到更为具体的规制措施上来。
第三步是评估算法是否有利于或者推动救济手段的实施。有些时候,对救济手段起到反作用的规制措施将被禁止使用,也有可能发现或者设立新的规制手段,这也是算法正义法律原则之下的规制体系灵活性的体现。这一步骤的核心理念是对算法进行“去中心化”处理,将其看作是救济手段的组成部分。Green仍然以预测再犯率的算法为例阐述如何评估算法不正义是否得到遏制:在关系性应对思路下考察非裔群体在获得更多社会福利之后是否出现了再犯率实质性的下降;在结构性应对思路下考察法院对算法测量之下的高再犯率非裔群体是否实质性地缩短了审前羁押期。回到我国用工算法语境,如果采用限制用工算法对劳动力对价的决定权,则需要在事后统计平台劳动者每个月的实际总收入所得是否有了实质性的提高。
综上所述,只有在识别出算法趋严背后的本质,才能为后续规制路径选择、具体措施的弃留提供坚实依据。
在确立实现算法正义作为规制用工算法的起点的基础上,我国应当配套以相应的规制路径和规制力度完成重构。在可能的规制路径中,只有结果导向型(算法认证),即为算法结果设置必须满足的标准,与算法正义原旨高度契合。首先,判断算法正义与否的依据就是令人怀疑的算法结果,比如预测出非裔群体更高的再犯率、平台劳动者难以忍受的工作境遇等等。其次,实现算法正义途径是干预算法决策的结果及其造成的社会影响,本质上仍然是以算法结果为规制重点。再次,算法正义的最终目的也是直接或者间接地使算法结果对社会、政治、经济、伦理价值的实现。其他诸如预设规范型、行为导向型路径由于自身存在的缺陷无法满足算法正义的所有要求。
识别出算法趋严的本质、选择解决这一本质问题的规制路径和力度是不够的,最终还是要具体化到微观层面的规制措施上来。根据之前的论证,规制措施应当以限制用工算法对劳动力的定价权为目标,在算法结果上对平台劳动者的绝对收入划定底线,减少算法不正义为平台企业带来的好处以及劳动者可能遭受的伤害。因此,制定措施的内容需要考虑两个方面的问题:
表2重构算法规制体系进路和具体内容
结语
算法引发的法律与社会问题由于算法种类、使用目的、使用领域以及参与主体不同而有着各异的表现,不能采取一刀切式的规制体系。本文对我国用工算法规制体系的反思恰好印证了将算法至于具体场景下加以检视的重要性,尤其是如何规制算法关系到数千万人的工作境遇和福祉,不可不察。此外,本文评估算法规制体系所依据“清晰可行性、规制路径与力度一致性、灵活性”评价标准以及重构算法所依据的识别问题本质、选择规制路径、设计规制措施进路具有方法论上的普遍意义,可以用于衡量和改进其他场景下的算法规制体系。