原创张健上海市法学会东方法学收录于合集#智慧法治5个
为了遏制互联网餐饮外卖平台使用算法活动侵害劳动者权益的乱象，我国出台了设置收入最低标准、算法取中、严禁最严算法、优化算法、设置工作量上限、算法公示等多种措施并举的规制体系。然而，用工算法内部构成复杂、高度流变、非中立性的特征导致了算法趋严的“类问题”，而现有各项措施缺乏清晰可行性、措施之间缺乏路径和力度的一致性、整体上缺乏灵活性，不能从根本上加以解决。根据算法正义理论，我国规制体系仅针对算法趋严的具体表现加以规制，而没有意识到该问题的本质并非被讨论最多的算法黑箱、算法滥用、算法歧视和偏见，而是劳动者对自身劳动力定价权的弱势地位。只有以劳动者“绝对收入”作为落脚点出台规制措施，方能对用工算法实现有效规制。
一、问题的提出
服务算法推荐管理规定》将调度决策类算法服务纳入规制范围；网信办在之前参与发布的《关于落实
网络餐饮平台责任切实维护外卖送餐员权益的指导意见》对规制此类算法指出基本方向，即对影响劳动者报酬收入、劳动强度、工作量、奖惩的算法提出“设置实际收入最低标准”“算法取中”“严禁最严算法”“优化算法”“设置工作量上限”“算法公示”等多种措施并举的规制体系。
上述现状引发了一系列亟待解答的问题：（1）用工算法的工作原理和特征是什么，又是如何导致平台劳动者难以忍受的工作境遇，具体有哪些表现？（2）我国现有的规制体系能否对用工算法进行有效干预，实质性地改善平台劳动者的工作境遇？（3）如果我国规制体系的效果不如预期，背后的深层原因又是什么，是否还有更好的规制手段？正是基于这样的关心，本文以互联网外卖平台为例，深入互联网平台用工场景，并结合国内外算法规制的一般理论，试图完整地回答这些问题。
本文将在之后逐步证明，用工算法内部构成复杂、高度流变、非中立性的特征共同导致了算法趋严的“类问题”，不能简单归结为算法恶意或者技术原因，对法律规制提出了极大挑战。而我国规制体系的具体措施缺乏清晰可行性、措施之间缺乏路径和力度的一致性、整体上缺乏灵活性，不能从根本上遏制算法趋严持续发展。究其原因，我国规制体系仅仅针对算法趋严的具体表现加以规制，缺乏理论上的深层自觉，没有意识到该问题的本质是算法不正义。根据算法正义理论，算法趋严背后是劳动者失去自身劳动力定价权的弱势地位，只有对劳动者“绝对收入”划定底线，方能实现对用工算法的有效规制。
二、互联网平台用工场景下的算法
（一）
作为“黑箱”的用工算法
算法原本是数学和计算机学科的常用概念，广义上指的是由多个步骤组成的用于解决问题或者达成某些目标的程序。由于被广泛应用于搜索引擎、社交媒体、电子商务甚至行政司法等不同场景，
（二）
用工算法的工作原理与特征
长）。用工算法模型在这些数据的基础上被设计、训练、投入使用，其中对劳动者影响最大的是输入、输出、吞吐。
1.算法输入（input）
2.算法输出（output）
输出指的是算法给出的结果，例如完成订单过程中可供劳动者选择的不同路线。算法的输出在模型自动给出之后还受到平台管理者（并非开发者）的干预。一方面，管理者负责在分配订单时为劳动者个体提供算法结果；另一方面，管理者在发现算法输出结果不合理（某条送餐路线看上去不合逻辑或者不可行）的情况下会进行调整。算法的输出一般给出多个结果供选择，所以它本质上是一种工作“指引”或者“推荐”。算法的输出结果除了送餐路线，还有订单分配、任务进度报告（配送时限）、奖励金额、消费者评分等形式，都显示在劳动者使用的手机app等移动终端上。
3.算法吞吐（throughput）
（三）
用工算法与“算法趋严”的现实问题
既然用工算法存在被滥用的可能性，在不受制约的情况下是否必然会对劳动者权益造成损害？现实已经给出了答案。在国外，优食和户户送等餐饮外卖平台国际巨头使用算法的行为在近年来饱受争议，出现了诸如算法追求配送效率造成劳动者遭遇交通事故；算法追求利益最大化导致劳动者收入低下；算法分配订单时偏袒某些劳动者；算法过度控制引发劳动者与平台之间的紧张关系等问题，不一而足。在我国也出现了类似情况，但招聘阶段的歧视问题并不突出，更多地表现为用工算法在工作期间对劳动者的考核标准水涨船高，展示出日渐严厉的面目，背后主要有三种推动因素：
其次，平台企业基于算法建立起来的管理制度加剧考核标准趋严。用工算法有能力为劳动者个体建立数据档案，帮助平台企业建立具有心理操纵色彩的管理方式，典型的如劳动者评级和消费者惩罚权。国内的饿了么平台就设置了从“普通骑士”到“神骑士”七个等级，与准时率、差评率、订单取消率等
算法数据挂钩，并且规定只有更高等级配送员才能抽取更高比例的佣金。为了提升等级获得更多
根据上述列举可以发现，算法趋严现象的背后有着多种互相作用的推动因素，属于有着多种表现的“类问题”，不能完全归结为平台企业滥用算法的恶意等人为因素，或者技术缺陷等客观因素。因此，相应的规制活动不能简单地以平台企业是否存在主观上滥用算法为切入点，而是要充分考虑用工算法所处的复杂环境，这也为法律规制提出了更多挑战。
通过对用工算法黑箱内部的观察可以暂时得出三点简单结论。一是用工算法应用场景具有特殊性，与个性化推送、检索过滤等其他类型算法的开发原理明显不同，发挥作用机制以及对劳动者的影响也无法简单与其他类型算法进行类比。二是法律规制用工算法很有必要。有国外学者指出，在劳动者与平台企业之间存在天然不平等的现实面前，希冀后者通过自我规制改善现状只能沦为天真的想法。三是规制用工算法极具挑战性，算法趋严的现象既有自身迭代调整的技术性原因，又有平台企业管理制度的原因，还有商家行为、算法设计和技术等外部原因互相影响，亟待精准、有效的规制方案加以调整。
三、反思现有用工算法规制体系
为了遏制用工平台算法日益侵蚀劳动者权益的现象，我国于2021年出台《互联网信息服务算法推
表1《指导意见》中算法规制措施
我国《推荐管理规定》与《指导意见》代表了简略的正式法律条文与具体化的指导性政策文件相结合的算法规制体系，符合科技法学者Ebers定义的“多层级立法”模式，据称其优势在于既可以防止科技快速发展对正式法律造成冲击，又可以随时调整指导性文件内容以保障规制措施的灵活性。然而，Fenwick等学者认为在科技发展已经超过法律反应速度的情况下，规制体系的合理性、有效性与立法类型没有必然联系，而是要细致分析规制体系的内容、形式和时机，即“什么规制”“怎么规制”“何时规制”三个关键方面。对于如何判断具体规制措施、规制路径、规制体系整体上的合理性和有效性，国内外理论均有相应的评价标准。据此可以引申出评价我国用工算法规制体系的三个维度：一是各项具体规制措施是否清晰准确并且能够切实可行地解决问题；二是规制措施之间在路径选择和干预力度上是否体现出一致性避免措施之间相互冲突；三是规制体系整体上是否存在法律原则的灵活性以跟上算法的快速变化。
现有规制措施缺乏清晰性与可行性
在微观层面，不论立法者和政策制定者采用了哪种具体措施或规则干预算法，都应当使用清晰或易于理解的语言表述出来、而且被证实能够在现实中切实可行地解决现实问题。按照这一标准，《指导意见》提出的各项具体措施在细究之下有着或多或少的问题。
1.关于劳动强度的规制措施：算法取中、严禁最严算法、优化算法
首先，“算法取中”概念模糊。作为调整劳动强度的主要手段，《指导意见》要求平台企业采用算法取中方式确定订单数量和配送时限，但未对其概念做出详细解释。特别是关于“取中”，按照字面意思至少存在三种解释：一是在算法结果中选取订单数量和配送时限的某一恒定值（比如平均值、中间值）作为考核劳动者的标准；二是考核标准的严厉程度在整体上实现“中庸”，对劳动者不应过于严苛；三是使用算法开发技术中的取中法，按照特定方式在订单数量和配送时限的多个算法排序结果中选定考核标准。这三种解释分别代表了立法者/政策制定者、劳动者、算法开发人员、社会公众对同一概念可能产生的不同认识，必然产生潜在问题。如果将“取中”理解为在算法结果中“锚定”某个固定的考核标准，就无法回避用工算法高度流变的事实。订单数量和配送时限不但会随着数据和参数变化在短期内发生波动，长期内会出现订单数量增多、配送时限逐渐缩短的趋势（算法趋严），使得这种做法在理
论上不具备可行性。同样地，如果将“取中”理解为考核标准不应过于严苛，必须事先划定订单数量和配送时限“严”与“不严”之间的界线，但是订单任务在配送距离和难度层面上的不均质性使得这种划分难以实现。如果将“取中”理解为特定的算法技术，则开发人员能否在现实当中应用该项技术以及向外界解释如何实现取中的功能就成了疑问。因此，算法取中最终很可能因为自身概念模糊无法成为具有可操作性的规制措施。
再次，“优化算法”难以控制方向和范围。《指导意见》中调整劳动强度的措施还有优化算法，虽然在法律上仍然是模糊概念，但在专业技术领域指的是调整算法输入（数据、参数）以达到输出最大值或者最小值的目的，一般借助增减输出参数、降低算法错误几率、简化算法模型、防止过度拟合、微调参数影响力、充分考虑算法使用场景等手段实现。优化算法是算法工程师等开发人员的日常任务，但是除了某些诸如定位信号不准确等暂时无法克服的技术难题外，在法律上如何控制优化的方向与范围也有着不确定性。就优化方向而言，开发者通常根据历史和现实数据做出有利于平台效率的优化，只有极少数情况下才会出现立法者和政策制定者期待的有利于（部分）劳动者的优化。优化的范围也是如此，平台企业更愿意对个别次级算法做出有利于劳动者的片面优化，因为整体优化就意味着技术投入、用工成本总体上升，与市场主体追求经济效率的内在要求相悖。这也从侧面印证了现实中平
台企业仅调整影响劳动强度的算法、不去触及决定劳动者收入（订单提成）、工作时长、工作量、奖惩、评级等其他算法的做法，背后可能有着对优化成本的考量。所以，过度相信算法优化能够改善劳动者工作境遇会产生诸多风险，很可能因为优化范围和方向难以控制、成本过高等现实困境而最终无法实现预设的规制目的。
2.关于工作量的规制措施：设置工作量上限
3.关于奖惩制度的规制措施：向劳动者公示
在知晓算法原理之后的算计行为，既有忽视算法给出的指令和奖励、操纵算法输入达到预期结果、批评投诉算法、切断算法监控和数据收集过程、更换新账号等不合作行为，也有私下要求消费者提前保证给出高评价、取消负面评价、用额外服务交换高评价等操纵算法的行为。概言之，对算法某一方面仅仅适用算法公示（透明）对改善劳动者工作境遇的意义不大。
4.关于报酬收入的规制措施：设置劳动者实际收入最低标准
《指导意见》设置劳动者实际收入最低标准以及给予额外补贴措施看似清晰可行，但这些规制措施的缺陷不在于自身，而是与其他措施之间的冲突，下面将专门进行讨论。
总的来看，大多数规制措施有着各自的内在缺陷，归结起来主要有三种表现。一是规制措施本身概念模糊无法直接适用，比如算法取中。二是规制措施虽然看似明确，但缺乏法律和事实标准等保障有效性的关键部件，如严禁最严算法和设置工作量上限。三是规制措施的实际成本过高或者难以达到理想中的规制效果，如算法优化和算法公示。将这些措施直接用于实践可能带来更多法律上的不确定性，无法满足清晰可行的基本要求。
规制措施之间缺乏路径和力度一致性
立法者和政策制定者除了要保证规制措施本身是否清晰、具有可行性，还应当尽量让各项规制措施之间满足路径和干预程度上的一致性。
使算法达成社会责任和伦理价值等实质性结果。当然也有学者对此提出异议，指出结果导向型路径对所有算法而言并非最优方案，选择何种路径应当参考算法具体应用场景加以综合判断，而且公平交易、公平劳动等程序性算法结果也同样重要。
规制体系整体缺乏灵活性
用工算法一直处于高度流变之中，但其产生的侵蚀劳动者权益等问题却是长期性的，这就要求规制措施在宏观上保持灵活性以跟上算法的快速变化。早在2010年代，Callon等学者就意识到法律在科技领域保持灵活性的重要性，认为针对科技的立法不应当被看作是一劳永逸的“最终事件”，而应当是对规制措施和路径不间断的选择活动。在判断灵活性的问题上，Fenwick等其他学者提出基于具体规则与基于法律原则两种范式的区分，前者是将具体规制措施直接用于科技引发的社会问题，后者指的是法律原则，不会由于规制过程中获得的新知识和新发现对规制体系和框架造成冲击；保持法律规制灵活性的关键在于前者向后者的范式转变。
上述列举的内容并不是为了说明立法者和政策制定者必须转向法律原则，而是在灵活性的维度看，法律原则单独确立或者作为具体规制措施的法律依据是必不可少的。而这正是我国当下用工算法规制体系的内在缺陷。
四、重构中国语境下用工算法的规制体系
我国用工算法规制体系难以达到预期目的主要原因在于仅仅根据算法趋严的种种表现加以规制，无法触及背后的真问题，加之算法快速变化不断产生新的表现，造成了相应规制措施模糊、内部冲突、僵化的严重漏洞。因此，重构的起点应当是识别出种种乱象背后的本质，并据此设计适合的规制路径和力度，再落脚到更为具体的规制措施上来。
以算法正义理论识别算法趋严的“真问题”
表面上看，发生在我国的算法趋严现象和国外的算法黑箱、算法歧视、算法偏见有着很多相似性。因此，一个简单的思路是我国在立法上借鉴国外的算法透明、算法责任、算法公正等法律原则加以回应，而且我国《推荐管理规定》第4条也提到公正公平、公开透明、科学合理和诚实信用的原则表现出了这种倾向。但这并不代表能够解决用工算法导致的“真问题”。首先，算法趋严并不是算法黑箱引发的，而且现有规制措施中也有算法公示等契合算法透明原则的内容，但实践证明其对救济劳动者而言无
多大益处。其次，将算法趋严等同于平台企业违反了算法向善、诚实信用等原则的滥用行为，那么引入国外的算法责任原则，要求平台企业对可能存在的算法滥用行为进行说明并承担相应责任看似可行。然而，鉴于用工算法本身的特征和所属场景，判断滥用行为属于主观故意、过失还是受限于技术原因的无过错、哪种情况下落入该原则的涵摄范围等问题原本就很困难，更不用说规制主体还必须在平台企业责任与劳动者权益受损之间建立令人信服的因果关系。再次，假定算法趋严属于算法歧视和偏见，那么确立算法公平原则，在程序上保障劳动者平等获得工作机会和收入的权利，似乎也能对平台劳动者进行有效救济。诚然，算法公平确实是为了解决算法偏见和歧视，在国外更多地来自于劳动者性别、年龄、种族、宗教信仰等个人特征，在我国劳动者基于同样理由被歧视的问题并不突出。虽然国内基于算法画像建立起来的劳动者评级制度放到国外很可能被认定为歧视，但它充其量也只是算法趋严问题的一个部分或者一个侧面。凡此种种说明，对算法趋严的病灶没有诊断清楚，就无法开出准确的药方。
第二步是在厘清算法不正义的本质之后考虑采用哪种应对方式。主要有两种思路。一种是重塑造成不同群体之间社会地位差距的关系，即所谓“关系型回应”。比如，预测再犯率的算法对非裔群体的不正义可以通过提高该族群的教育、社会福利、住房保障水平加以解决，即通过提高弱势群体的社会地位来预防可能遭遇的算法不正义。另一种思路则是降低算法不正义产生后果的权重、减少不正义带
第三步是评估算法是否有利于或者推动救济手段的实施。有些时候，对救济手段起到反作用的规制措施将被禁止使用，也有可能发现或者设立新的规制手段，这也是算法正义法律原则之下的规制体系灵活性的体现。这一步骤的核心理念是对算法进行“去中心化”处理，将其看作是救济手段的组成部分。Green仍然以预测再犯率的算法为例阐述如何评估算法不正义是否得到遏制：在关系性应对思路下考察非裔群体在获得更多社会福利之后是否出现了再犯率实质性的下降；在结构性应对思路下考察法院对算法测量之下的高再犯率非裔群体是否实质性地缩短了审前羁押期。回到我国用工算法语境，如果采用限制用工算法对劳动力对价的决定权，则需要在事后统计平台劳动者每个月的实际总收入所得是否有了实质性的提高。
综上所述，只有在识别出算法趋严背后的本质，才能为后续规制路径选择、具体措施的弃留提供坚实依据。
确立与算法正义理论相适的规制路径与力度
在确立实现算法正义作为规制用工算法的起点的基础上，我国应当配套以相应的规制路径和规制力度完成重构。在可能的规制路径中，只有结果导向型（算法认证），即为算法结果设置必须满足的标准，与算法正义原旨高度契合。首先，判断算法正义与否的依据就是令人怀疑的算法结果，比如预测出非裔群体更高的再犯率、平台劳动者难以忍受的工作境遇等等。其次，实现算法正义途径是干预算法决策的结果及其造成的社会影响，本质上仍然是以算法结果为规制重点。再次，算法正义的最终目的也是直接或者间接地使算法结果对社会、政治、经济、伦理价值的实现。其他诸如预设规范型、行为导向型路径由于自身存在的缺陷无法满足算法正义的所有要求。
以干预劳动者绝对收入为落脚点
识别出算法趋严的本质、选择解决这一本质问题的规制路径和力度是不够的，最终还是要具体化到微观层面的规制措施上来。根据之前的论证，规制措施应当以限制用工算法对劳动力的定价权为目标，在算法结果上对平台劳动者的绝对收入划定底线，减少算法不正义为平台企业带来的好处以及劳动者可能遭受的伤害。因此，制定措施的内容需要考虑两个方面的问题：
（四）
小结
表2重构算法规制体系进路和具体内容
结语
算法引发的法律与社会问题由于算法种类、使用目的、使用领域以及参与主体不同而有着各异的表现，不能采取一刀切式的规制体系。本文对我国用工算法规制体系的反思恰好印证了将算法至于具体场景下加以检视的重要性，尤其是如何规制算法关系到数千万人的工作境遇和福祉，不可不察。此外，本文评估算法规制体系所依据“清晰可行性、规制路径与力度一致性、灵活性”评价标准以及重构算法所依据的识别问题本质、选择规制路径、设计规制措施进路具有方法论上的普遍意义，可以用于衡量和改进其他场景下的算法规制体系。
原标题：《张健｜论我国平台用工算法的法律规制：反思与重构》