【摘要】算法歧视性后果的发生得以让人们重新定位算法并找寻新技术背景下人的尊严与价值。保障人的尊严从道德哲学的要求转变为法律体系的基础规范，蕴含着立宪者对人作为终极目的的肯认与推崇。人的尊严可以为抵制算法对人性的蚕食提供最高价值指引，并应进入到算法应用的正当性论证之中。过度依赖算法决策系统和将人数据化违背了人是目的这一道德哲学伦理要求，削弱了人的主体性，算法歧视缺乏对人的多样性的包容，背离了人的尊严的价值内核、价值目的和价值意蕴。治理算法歧视、规范算法的运用，应强调人的尊严的价值归依，要求把维护人的尊严作为科技发展的最高价值，强化国家对人的尊严的保障义务，制衡算法权力对人的尊严的侵蚀，在特定重大领域审慎使用算法决策系统。
【关键词】算法歧视人的尊严宪法价值算法权力平等权
智能算法的兴起、深度应用加速了人工智能时代的前进步伐。当阿尔法狗打败了世界围棋冠军时，人们在为技术喝彩的同时也在内心深处产生了隐忧。当智能算法广泛运用于各领域的自动化决策以后，人的主体性还如何得以保障？算法歧视就是在运用智能算法进行决策或辅助决策时产生了歧视的后果。当自动化决策造成了歧视性后果，如何理性地加以评价并提出可能的解决路径呢？这一系列的疑问并不是杞人忧天的疑虑，因为智能算法已经注入生活，有学者就将当前的社会称为算法社会（AlgorithmicSociety）。例如，算法预测模型广泛地应用于个性化定价和推荐、信用评分、工作应聘的简历筛选、警察搜集潜在嫌疑人等诸多领域。随着大数据和算法的深入运用，算法正在定义人们的信用资质、能力资质、生活品质层次等诸多方面，并进而决定了人们能否获得贷款、能否找到心仪的工作以及接受服务和购买商品的价格范围，等等，甚至可能还运用在刑事司法系统中，用以评估犯罪嫌疑人再犯的可能性，进而决定其能否获得假释或影响量刑。
当算法在定义人的品行、资质时，或当算法在勾勒人的形象之时，算法已经和宪法发生勾连。在算法系统中，每个个体都被转化为可计算的数据，相对于大数据而言，个体的数据是微不足道的，而在宪法面前，每个个体的权利保护又都是不可忽略的。正因为如此，当算法技术深度嵌入人类生活之时，算法歧视性后果的发生提醒人们有必要认真审视算法技术应用对宪法价值的冲击，重塑人的尊严的宪法价值内涵，检讨算法歧视对人的尊严的价值背离，并在算法歧视治理路径中强调人的尊严的价值，提防技术对人的统治。
一、算法歧视对人的价值的冲击
不可否认，智能算法的运用有着无可比拟的优势，立足于大数据之上，算法通过对海量数据样本的全盘分析可能得以窥探事物的全貌，避免人类因有限的观察体验而产生的局限性，可以更为准确地反映客观世界，并尽力排除人的主观因素的影响，由此作出更为科学的判断。然而，事实却告诉人们寄希望于新兴技术去克服人性的弱点并去解决人类社会存在已久的问题的想法未免过于天真。有学者便一针见血地指出，“算法社会并不是理想的社会”，算法社会只能使人的智性过度发展，从而使人丧失人性中更为宝贵和自然的组成部分，如心性和灵性。科技乌托邦并不是人类的未来。[3]还有学者认为，算法不具备内在观点与自主意识，人类社会的运作过分依赖算法，可能会产生现在尚无法清楚预估的高复杂度系统风险。算法歧视性后果的发生便是值得警惕的社会风险。算法歧视冲击着宪法中奠定的人的价值。首先，算法歧视挑战了平等原则，阻碍了人人平等的社会理想的实现。其次，面向过去的算法决策逻辑的局限性有固化社会不公之虞。最后，从根源上看，算法歧视的普遍发生，背后乃是算法权力的兴起与异化，放任算法技术的应用将会减损人的价值。
（一）算法歧视挑战平等原则
（二）算法决策逻辑的局限性有固化社会不公之虞
（三）算法权力的异化有减损人的价值之虞
二、作为宪法价值的人的尊严
拉德布鲁赫在题为《法律中的人》的演讲中指出：“对于一个法律时代的风格而言，重要的莫过于对人的看法，它决定着法律的方向。”当今社会正逐步进入人工智能时代，当智能算法在定义人并进而作出决策的时候，如果对人的形象没有清醒的认知，人的价值将会被弱化。因此，有必要重塑人的尊严的价值内涵，规范算法应用的价值取向。
（一）“人的尊严”争议背后的价值共识
（二）重塑“人的尊严”的价值内涵
人是目的构成了人的尊严的价值内核，奠定了以宪法为根基的法律体系的道德哲学基石。从这一基石出发，导出人的主体性地位这一价值目的，要求法律体系维护人的主体性地位，禁止将人作为客体对待。承认了人的主体性，就应包容不同个体的独特性，进而尊重人的多元性，禁止歧视，这便是人的尊严的价值意蕴所在。
第二，人的尊严的价值目的在于保障人的主体性地位。“人性尊严的基础在于自治”，在于每个人可以不受干涉地、按照客观的道德实践法则来行动。这意味着不允许人被当作客体、被物化，更不允许人受到非人的对待。尊严的内在价值性被界定为人的不可侵犯性（inviolability），以及附属于该属性的辅助性价值内涵和限制因素。人格尊严的目的，在于保护公民作为具有独立自由意志的主体而享有的、得到尊重的权利。保障人的主体性地位，不只是强调抽象意义的人或者是人类整体，更是直指一个个独立的个体应受尊重的权利。如日本《宪法》第13条规定“一切国民都作为个人受到尊重”；其第24条对婚姻自由、平等权利的规定中也强调“尊重个人尊严”。
第三，人的尊严的价值意蕴在于尊重人的多样性，包容每个个体的独特性，禁止歧视。“免于歧视”意味着尊严强调人在道德理性上的平等，同样有自由发展人格的资格与潜能。人的尊严强调人仅仅因为是人就应当受到尊重，尽管每个个体的情况千差万别，但不因个体的独特性而排斥其享有人的尊严。对尊严的理解要想达到新的共识，必须建立在感同身受、努力理解他人的生活与道德判断的基础上，人类对彼此的生活应该有宽容精神与同情心。这要求社会应该包容人的多样性，不应利用社会的压倒性认知作为对少数群体区别对待的理由。承认和保护人的多样性，在人与人之间构建和谐共处、求同存异的社会关系，最终也会扩展人发展的空间和人类社会的多重可能性。
三、算法歧视对人的尊严的价值背离
（一）算法歧视对人的物化有悖人是目的的伦理要求
（二）算法歧视削弱了人的主体性地位
（三）算法歧视排斥了人与社会发展的多样性
四、治理算法歧视的路径依赖：实现人的尊严的价值皈依
算法歧视的发生，从根本上来说，相对于技术因素而言，人的因素更甚，这就为规范算法的应用提供了可能，为防范算法歧视，落脚点仍应是规制算法设计者和决策者。当前的人工智能的发展并未超脱法律的基本规制框架，所谓的算法歧视问题也是如此，其最核心的问题仍是为什么要用算法决策的元问题，即运用算法决策的正当性问题。如果算法决策的运用通过了正当性基础的检验，那么接下来的问题就是怎么用，也就是技术上的规制了。这两个问题归结起来，仍是回归到人的价值的轨道上来解决的问题。技术的超速发展产生的技术崇拜使人迷失了本性，忽略了人的价值，矫正的首要路径便是要强调人的尊严的价值皈依。
（一）将人的尊严作为科技发展的最高价值
尊严不只是一个抽象空洞的原则性指引，而应是一个进入法律推理之中并影响公共决策的实质价值。新兴科技能够被纳入以尊严为中心的价值评判体现之中。就人工智能而言，尊严构成了技术实践的制约性伦理要素。2019年4月8日，欧盟委员会AI高级专家组（High-LevelExpertGrouponArtificialIntelligence,AIHLEG）制定并发布了《可信AI的伦理指南》，其中将人的尊严作为人工智能发展的核心价值，提出了可信AI的七项原则，其中包括人工智能不应该践踏人类的自主性，人们不应该被AI系统操纵或胁迫，并且，人类应该能够干预或监督软件做出的每一个决定。人工智能提供的服务应平等地面向所有人，不应该存在偏见。德国交通部部长任命的伦理委员会曾尝试制定算法设计者的伦理法则，核心内容就是把人的生命放在首位。并且，诸如伤害一个人以避免对更多人的伤害这样的伦理难题不能通过事先编程来处理，系统必须被设定为出现这种情况下请求人工处理。
缺乏价值指引的技术发展势必会背离实现对人的关怀这一终极目的。人才是技术的主宰，而不是相反。算法经常披着自动化决策的外衣，给人以不可规制的假象，其实算法都是根据人的意志设计的，留有一些可调参数可以被规制和引导。有研究指出，发展歧视感知的机器学习和数据挖掘（Discrimination-awaremachinelearninganddatamining）是可能的。在模型构建过程中，可以通过嵌入特定程序来构建限制歧视的算法模型。在训练算法和感知歧视时，受保护的个人信息的输入有助于机器学习算法感知歧视，只要是最终的算法模型运用于决策过程中排除受保护的个人信息即可。