【关键字】智慧司法；技术依赖；算法决策；司法公开；司法责任制
一、问题的提出
技术创新驱动了社会生产与生活方式的变革，也给司法领域带来了革命性改变。世界各个国家和地区的司法领域正在发生着深刻的“智慧”转向。[1]我国的智慧警务、智慧司法、智慧检务等重大建设方案也纷纷出台落地，人工智能技术在其中扮演了核心角色并发挥了重要作用。
在人工智能技术嵌入司法实践的制度落地方式中，欧洲各国和美国偏重于第一类的信息收集与管理技术，目标在于实现人工智能技术对司法审判的支撑协助。我国则偏重第二类的信息处理技术，因此，国家积极推进智慧检务、智慧司法等涉及司法实务各个流程的制度建设，提出了“全流程网上办案”并积极研发“数据+算法”的司法辅助系统。[2]在政策层面，《国家信息化发展战略纲要》和《“十三五”国家信息化规划》等重要规划都将智慧司法建设列入国家信息化发展战略。相比欧洲各国和美国，我国的人工智能司法裁判制度建设在国家战略指导与资源力量的保障下，成为了高歌猛进的“激进派”。[3]
对信息的收集数量与处理速度的追求是智慧司法建设的驱动力量，这隐含了“信息越多越好”“技术越先进越好”“系统越全面越好”的前提假设。本文则尝试从关于制度的讨论退回到关于制度前提的讨论，追问司法系统对信息技术的追求是否必然正确？技术应用于司法系统的边界又在哪里？在司法裁判中对信息量与处理速度的过度追求，可能造成司法裁判中的信息过载、司法决策权力让渡给算法决策系统、司法机关过度依赖技术公司等一系列问题。这些新问题对现有司法制度中的正当程序、权力专属原则等提出了挑战，我国如何在智慧司法如火如荼的建设中规避与应对此类问题，将成为人工智能时代必须解决的重要课题。
二、从技术辅助到技术主导：人工智能驱动下的智慧司法变革
我国的司法信息化建设已经经历了以司法统计和电脑办公为要素的信息化1.0阶段、以办公自动化和网络化为特征的信息化2.0阶段，并且已进入以司法大数据、云计算、人工智能和司法区块链为标志的信息化3.0阶段。[7]在智慧司法的3.0阶段，技术通过三种主要方式影响了司法系统：支持、取代与重塑。[8]在支持层面上，技术为司法实践提供了信息与便利性支持；在取代层面上，技术可以部分取代由人类执行的功能和活动；在重塑层面上，技术可以改变法官的工作方式，提供与以往不同的司法保障，革新司法流程和提供预测性分析，甚至重塑法官的决策。
然而，三种技术应用方式之间并非泾渭分明，支持功能的辅助性技术可能以一种“润物细无声”的方式实现对司法系统的改变乃至重塑。在智慧司法建设中，对司法系统影响最大的技术应用方式与逻辑可从三个方面展开：事关法律事实认定的证据收集与采信，有关司法决策的决策辅助系统，以及以技术主导为理念的司法系统改造工程。在国家大力推进的智慧司法系统建设中，技术的影响从辅助逐渐走向主导。
（一）证据运用中的技术应用
收集、存证与采信中的技术应用对法律事实认定的影响，逐渐从技术辅助作用转向了技术主导作用。
首先，从证据收集上来看，技术辅助手段下的证据收集更为便捷全面，进而深刻影响了司法活动中的证据规则。例如，证据收集技术的应用使得犯罪治理活动中取得的证据向刑事司法活动外溢。2016年，最高人民法院、最高人民检察院和公安部联合发布的《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》（以下简称《关于电子数据若干问题的规定》）第6条明确初查阶段收集、提取的电子数据可在刑事诉讼中作为证据被使用。
其次，从证据存证上来看，传统证据认定规则受到冲击。区块链证据的真实性审查很难得到传统规则的明确指引。法官在判断证据的真实性问题上遇到了障碍，既要判断载体的真实性，也要判断数据的真实性和内容的真实性。当电子证据真实性直接关系到案件的上诉率、改判率、发回重审率等考核指标时，法官很难对区块链证据的边界进行实质性突破，各地的区块链存证出现了“存高取低”的现象。[10]
最后，从证据采信上来看，这类证据技术系统不仅改变了证据的标准，更直接影响了证据所关联的法律事实。数据化证据标准系统可达到自动检验收集程序、形式要件和内容要件是否合规和合法的目的，进而对证据链进行逻辑分析，判断证据是否合法，证据之间有无矛盾。[11]例如，江苏省检察机关通过刑事办案智能辅助系统甄别判断证据疑点瑕疵。该系统在全省检察机关运行期间共发现违法及证据瑕疵问题2139处，系统提示检察官发现抽血使用醇类消毒液、超期送检等问题案件91件，在一定程度上防止了“带病起诉”。[12]
（二）具体司法决策中的技术支持
通过技术支持法官的日常工作与司法决策，减轻法官的事务性工作负担，提高司法效率一直是智慧司法建设的核心价值目标。对司法决策的技术支持，也从发挥简单的办公便利辅助功能逐渐深入到对法官的决策产生实质性影响。
首先，技术将法官从行政事务中解放出来。早在1986年，最高人民法院就提出要对运用电子计算机进行管理并辅助审判工作等问题着手研究。[13]2016年发布的《最高人民法院信息化建设五年发展规划（2016—2020）》的核心目标之一就是利用信息系统和智能化服务，将法官从大量具体、繁琐的事务中解放出来，提升法官的司法能力。
其次，技术系统为法官提供决策支持。分门别类提取案件要素和裁判标准的“专家系统”是我国法院系统致力于打造的主流办案辅助系统。[14]最高人民法院提出，要建设基于大数据智能服务的审判支持系统，实现“部分法院基于人工智能、虚拟现实完善审判支持系统，实现审判支持精准化、高效化”。[15]在目前各地的实践中，四川省高级人民法院主导开发了道路交通事故纠纷要素式审判信息系统，通过该系统对道路交通事故案件进行要素分类整理，包括庭审笔录信息的抓取和自动识别、统一裁判规则、一键计算损失数额、自动生成裁判文书等。[16]上海“206”刑事案件智能辅助办案系统，其全名是“推进以审判为中心的诉讼制度改革软件”，该软件旨在积极运用大数据、人工智能等现代科技破解司法工作难题，努力让司法变得更智能、更精准、更高效。[17]
最后，在某些司法场景中技术系统直接取代了人类的决策。在某种程度上，这也是我国智慧司法建设的重要目标。例如，《最高人民法院信息化建设发展纲要（2019—2023）》直接提出要“探索类脑智能推理等新技术应用”。这样的远景目标也体现在《人民法院信息化建设五年发展规划（2019—2023）》中，其规定，“需要构建大数据分析系统……，为人民群众提供司法公开和类案智能推送、诉讼结果预判等诉讼服务智能服务，为审判执行提供决策支持和监控预警智能服务，为司法管理提供司法研究和工作评估智能服务”。此类决策系统的应用并非遥远的未来。如爱沙尼亚的人工智能应用可以裁定7000欧元以下的索赔，算法系统通过分析上传的文件来达成初步决定，然后可以向人类法官提起诉讼。[18]浙江省高级人民法院组织研发的“凤凰金融智审”系统实现了对金融借贷和民间借贷案件的智能化审判。对于案件数量较大的简易案件，例如道路交通纠纷、金融借贷和民间借贷案件等，法院可在人工智能技术的辅助下实现“类案同判”。[19]
由此可见，技术对司法决策的实质性的支持作用，不仅是智慧司法建设的制度目标，也是逐步落地的现实情况。
（三）智慧司法系统建设中的技术主导
技术系统不仅是提高效率提供便利的工具，更是从深层次推动了治理能力现代化中的司法制度改革。这种技术对司法系统建设的深度影响体现在具体技术应用、司法技术系统建设等层面，其也对传统法律制度提出不容忽视的挑战。
首先，以具体技术应用中最为常见的类案推送为例，其已经从技术辅助系统升格为最高人民法院对法官的制度性要求。最高人民法院构建了跨层级、跨地域、跨部门、跨业务的“大数据管理和服务平台”，法官和普通公众可以利用其智能推送功能，从该平台海量裁判文书中搜索出相类似的案件材料。为了实现类案同判的目标，最高人民法院在2017年8月施行的《司法责任制实施意见（试行）》中就推出了类案与关联案件检索机制，规定承办法官在审理案件时应当对类案和关联案件进行全面检索并制作报告。
在技术建设的推进下，司法公开、公正、透明等价值得到凸显与放大，传统的司法制度也面临着变革。一方面，技术推动司法公开达到前所未有的水平，人民法院在裁判文书公开、庭审公开、审判流程公开和执行信息公开领域建设了四大公开平台，即中国裁判文书网、中国庭审公开网、中国审判流程信息公开网和中国执行信息公开网。[22]但另一方面，传统司法制度面临着技术变革带来的挑战。有学者直言，《中华人民共和国民事诉讼法》及其实践不能给智慧法院建设提供有效的制度支撑，这已经成为制约智慧法院建设的瓶颈因素。[23]技术正在推进制度变革，如在新冠肺炎疫情期间发展的“异步诉讼”从根本上改变了传统的庭审方式。[24]2022年《上海市高级人民法院关于在线异步诉讼的若干规定（试行）》对此首先作出了制度性回应。在智慧司法如火如荼的建设中，“中国创新”与司法体制改革应当最大程度地紧密协同行动，将智慧司法建设与司法体制改革充分耦合。[25]
综上所述，在智慧司法中本为辅助司法流程开发的技术应用，最终却导向了技术主导下的司法制度变革。因此，更合适的问题不是“技术应用是否会重塑司法制度”，而是“何时”以及“在何种程度上”技术会重塑司法制度？那么，在技术主导下的司法制度深刻变革中，智慧司法建设存在哪些隐忧与挑战呢？
三、从技术主导到技术依赖：智慧司法中技术应用的挑战与隐忧
在智慧司法建设中，技术逐渐发展为一种主导制度变革的力量。在技术介入司法这个过程中，可能发生司法决策与智慧司法系统建设的技术依赖，这种具体司法决策中人对技术的依赖和系统建设中司法机关对技术公司的依赖，可能给权力专属原则、司法监督制度和责任分配制度带来挑战。
（一）从技术主导到技术依赖：技术介入司法的挑战
如果说技术主导是指，在智慧司法的建设中，技术逐渐从辅助性角色变为了推进司法改革的力量，那么技术依赖则是指，在角色转变的过程中，人（法官与司法机关）与技术之间可能形成的特定依赖关系。技术依赖既是指在具体的司法决策中个体对技术支持的依赖，也是指司法机关在智慧司法建设中困于自身技术力量，不可避免产生的对技术公司的依赖。
1.司法决策中的技术依赖
传统的司法组织和法官的判断力及其威权在技术控制中逐步下降。[26]在智慧司法中，专业技术技能、技术手段、数据与自动化决策不可避免地成为司法实务运行的主要手段，一切貌似秩序井然和明白易懂，人类则在司法活动中愈加依赖技术而逐渐缺乏主观能动性。因此在智慧司法中，人（司法机关）与技术的关系从技术辅助走向技术主导，继续滑向技术依赖则在一线之间。
这种技术依赖体现在机器决策对人类决策的侵蚀。智慧司法建设所追求的与其说是“类案同判”，不如说是法律自动化的倡导者所认为的将决策权委托给算法系统，这是朝着“法治而非人治”的进化步骤。因此人类与人工智能技术混合型的司法决策，其目的之一就是尽量减少人类法官的自由裁量权。智慧司法建设在进行类案处理的算法决策中采用统一的技术标准，则会具有决策相对一致、快捷、无偏倚等优点。这被认为适用于我国法官水平不一、各地区差异较大的情况。
机器决策对人类决策的侵蚀所导致的技术依赖，是从司法决策转向依赖机器信息生成开始的，也就是司法决策依赖技术系统生产、提供信息，并将信息结构化与要素化。机器作出的司法决策则与法官的判断渐行渐远。此时法官作出司法决策，如同医生放弃了对患者倾诉症状的听取，转而只对化验结果、检测报告和病例检查照片保持信任，用一种片面的观点取代了另一种片面的观点。[27]司法决策中的灵活性和多样性则易受到损害。这并非智慧司法建设中的独特现象，医学治疗、保险、录取等决策都开始依赖技术手段，技术系统架构下僵化的信息种类、模式与评价指标必然导致信息多样化受损，灵活的人类决策模式逐步被替代。
追求类案同判与降低自由裁量权的制度目标，必然使司法决策变得可预期、普遍化与系统化。这进一步加大了推翻机器决策的难度。人类法官在与专家系统互动的时候，可能会接受其暗示、建议与限制，因为决策的模型与种类已被技术建构。智慧司法建设追求类案同判的制度目标，会导致人类法官在质疑或推翻机器决策建议时要提供具体理由、面临审查和批评，人类法官就会选择支持机器的决策。即使质疑和改变机器决策仅仅要经过一个固定的程序，也会由于其并不符合追求效率的制度目标，而被人类法官自觉或不自觉地规避。
由此可见，技术的深度应用与智慧司法的制度价值，共同推动人类法官与机器专家系统的互动，也会导致微观司法层面的技术依赖。
2.平台系统建设中的技术依赖
这种情况既是由于司法机关没有充分技术能力，也是缘于理念所限。司法机关将技术作为一项辅助工具的同时忽视了其对司法的重塑作用。有学者在调研我国智慧司法实践后指出：一方面，法律人群体不参与智慧司法创新的需求提炼、方案制定、科学研究、产品研发甚至试点运用等工作，而是纯粹地期望购买产品；另一方面，科技人群体不了解基本法律知识，也不全面学习司法体制改革的内容和导向等。[31]这忽视了智慧司法的制度目标本身，而只是创建科技范式的司法正义工程，“用信息技术破解依托传统方式无法解决或解决不好的问题”，[32]以信息化促进审判现代化，[33]不是技术服务和支撑司法，而是技术引领、驱动司法变革。[34]这会导致智慧司法制度建设落地后与制度目标形成偏差：过于重视技术是否“上马”而忽视了技术是否得到了合理应用。如同对医院的评级中，诊疗设备的数量和档次占据非常重要的比重，在针对法院判决的评价体系中，技术手段是否“高大上”成为了界定司法裁判能力的主要因素。各地法院急于开发应用技术系统并呈现了“竞赛式”甚至“攀比式”态势。[35]这也导致了在科技市场利润推动力作用下，目前以信息化技术为主业的公司及其技术供给，均已呈爆炸性增长。[36]
（二）智慧司法中技术依赖带来的隐忧
具体决策和系统建设中的技术依赖，可能导致以下问题：私营技术公司介入司法系统建设，在一定程度上违背权力专属原则；现阶段司法系统建设并无统一的技术标准与监督机制，容易造成司法监督的困境；当发生错误而需要追究责任时，技术系统开发者、司法机关与技术系统本身之间的责任链条如何认定与分配，现有制度无法解决。
1.正当性难题：对权力专属原则的挑战
2.监督难题：判定标准与程序的缺失
当把司法决策的部分权力交给技术，首当其冲的问题就是谁来监督和如何监督？既往针对人类法官的司法决策监督机制和程序遭遇了前所未有的挑战。
智慧司法中技术系统的输出结果直接关系到法律事实认定与司法裁判结果，但这缺乏具有公信力的、统一的技术标准，而标准对于司法公信力至关重要。在我国多起声呐电子警察案中，声呐是否经过检测、是否符合质量标准层成为其提供的电子证据是否有效的关键。2018年的无锡声呐电子警察案中，何先生认为声呐电子定位系统的定位与识别抓拍并不准确，但法院以其经过国家权威部门检测为由驳回了其诉讼请求。[45]但在郑州高女士作为原告的电子警察案中，由于郑州某交警大队未对电子眼进行安装检验和定期年度检验，高女士在这起案件中胜诉。[46]目前就电子证据问题，国家已经出台一系列标准。[47]技术部门宣称鸣笛的电子警察准确率是95%，[48]但5%的技术错误率代价将随机由公众承担。如果说交通行政处罚技术系统的错误尚在可容忍范围内，司法裁判结果直接关系到当事人的财产权甚至自由，然而各地百花齐放的智慧司法技术开发尚无国家技术标准。
对智慧司法中技术系统监督检测的程序也尚未建立。目前智能化建设标准规范主要集中在数据层面，其意在未来打通不同技术系统，实现数据共享。例如，最高人民检察院提出统一标准体系，在我国检察系统现有的三批电子检务工程标准规范意见的基础上，加快对全国检察系统智能化发展的各个数据代码、数据结构、数据质量、交换标准等影响检察机关数据化发展的标准体系进行规范。但各个利用数据作出自动化决策的地区性技术系统，并未将检测、审计等监督程序制度化。算法系统决策的准确率无法保证，一旦出错可能造成无法挽回的损失。国外就出现了类似的情况：2017年12月，美国伊利诺伊州儿童和家庭服务部宣布，终止一种评估儿童安全和风险的预测系统，因为算法预测的不准确造成了父母与子女错误分离的后果。[49]同年早些时候，美国洛杉矶郡也由于预测型算法的黑箱问题与高误报率终止了将预测型算法用于儿童受虐风险的评估。[50]
3.追责难题：责任链条分配的困境
如果发生错误决策，如何在人机混合决策的司法系统中分配责任？这一直是人工智能技术应用的法律难题，但在技术嵌入司法活动后变得更为严峻。按照技术在司法活动中扮演的角色，责任分配面临的难题大致有如下三个方面：
第一是多责任主体的责任分配问题。人工智能技术系统的开发和运行通常是在复杂和动态的环境中进行的。在智慧司法中，既可能因数据的质量问题导致证据证明力问题，也可能因量刑算法出现了偏差与歧视，抑或审判辅助系统本身设计存在缺陷而导致证据证明力问题。最终司法决策的作出，需要多个个体、公司、司法机关、技术系统、算法的合作。当发生错误决策时，如何在复杂的责任链条中认定责任与分配责任，这是一个难题。
第二是人类和机器之间的责任分配问题。人类法官和机器混合作出决策将逐渐成为未来司法的常态。例如，美国加利福尼亚州已经利用算法作出假释决定，法院也广泛使用量刑算法技术系统。如何在人机混合的决策系统中分配两者之间的责任呢？尤其是当这一决策的作出已经遵循了法律要求的“人在环中”[51]（humanintheloop）的规定时，这个问题更加突出。审判责任分配可能存在两种极端。第一种是完全让法官承担责任，这个方式必然会引发法官对技术系统的不信任，甚至彻底否认技术对司法的积极作用，这对智慧司法制度建设极为不利。第二种是完全由人工智能的设计者或者生产者承担责任，这极有可能导致司法机关对人工智能技术的滥用。
第三是多个算法系统之间交互产生的不可预测性和潜在风险的可能性。某种人工智能技术生成多种应用、多个技术叠加于某个系统、多环节技术系统互动已经成为智慧司法的常态。例如，自然语言处理（NLP）可用于文本挖掘分析、构建知识图谱、进行司法画像等，也可用于自动生成电子卷宗、分流繁简案件、甄别虚假诉讼、预测司法裁判等。法院的全国执行查控系统与全国司法评估平台、联合惩戒体系、执行办案平台共同联动，某个环节的数据出现错误，可能导致多个不同自动化决策体系的连锁反应。在技术之间出现交互错误时，难以勘定与及时更正，追究责任更是难上加难。
综上所述，技术对司法系统的改造经历了从技术辅助到技术主导的角色转换，更是由于技术应用理念、方式和多种因素可能引发技术依赖，体现为个体决策和司法系统对于技术的过度遵从以及技术对于司法活动的规训。智慧司法中的技术依赖可能导致权力专属原则受到挑战，监督标准与程序缺失，以及责任追究困难。
四、应对技术依赖的理念与制度：勘定技术嵌入司法权力的边界
无论是技术辅助、技术主导还是技术依赖，都是在描述智慧司法中人与技术的关系。技术依赖的出现起初难以察觉，私营的系统、平台和软件技术公司的影响也日益增强。法官培训中逐渐增加对使用系统技术的培训，当事人对纠纷解决的期待也在类案同判的制度建设中越来越具有可预料性。在“智慧司法”建设过程中，什么在技术的狂飙猛进中被逐渐放弃了？如何让技术最大化地助力司法而非颠覆司法？回答这个问题必须理清一个底层逻辑，也就是在智慧司法中人与技术应该如何分工的逻辑。人工智能时代的人机关系并非新的命题，但基于司法活动在人类社会中的定分止争作用与在权力体系中的地位，技术介入司法活动应更为谨慎。
智慧司法中人机分工的探讨可从信息流动与处理的角度展开，其本质是技术逐步取代人对信息的处理与收集。对于智慧司法中的人机分工，可从以下三个层次讨论：在利用技术收集信息阶段，对于信息流入与流出，司法系统应如何从质和量两个方面进行控制？在利用技术处理信息阶段，人类“算法”与机器算法又应如何分工？在技术信息系统建设过程中，技术权力嵌入司法权力的边界在哪里？
技术垄断者坚定不移地相信，世界需要更多的信息。[52]在智慧司法中，信息收集与司法公开是最重要的平台建设目标，无论是司法裁判需要的信息还是向社会公开的司法信息，都昭示着信息“多多益善”的理念。然而，当信息技术触及司法领域，需要受到司法活动自身规律的限制，智慧司法应当在信息的质与量上都进行合理的控制。否则，智慧司法将面临大量的信息噪声和信息失真现象，最终难以从纷繁的信息数据中提取真正有益的信息。
在司法裁判领域，穷尽信息后作出合理决策是一个伪命题。司法裁判依赖的信息包括两大类：一是有关案件本身的信息；二是为司法裁判决策提供支持的“类案”信息。这两大类信息均应贯彻“信息准入”的理念。
第一，在司法裁判中，有关案件本身的信息对法律事实认定与司法决策生成至关重要，因此，在智慧司法阶段仍然要坚持“信息准入制度”。司法裁判的决策一直是在有节制的信息量下作出的合理推断与决策，甚至一直以来，司法裁判扮演着“真相的仲裁机制”的角色。当外界信息过于纷繁复杂不能控制无节制的信息量时，由法庭来作出“真相”的认定与裁决。
2.司法信息流出的控制机制
在智慧司法大众化、便民化、公开化的推动下，司法信息以前所未有的规模与速度流出司法系统，实现了与社会公众的互动。2021年1月，中共中央印发的《法治中国建设规划（2020—2025年）》再次明确了“坚持以公开为常态、不公开为例外”的司法公开方向，并确立了逐步扩大公开范围、提升公开服务水平的发展目标。这对于促进司法公开透明具有推动作用，但从司法领域流出的信息也并非越多越好，而要受到司法规律和特点的限制，要从公开范围和信息种类的层面合理控制信息流出。
第一，司法信息公开的原则是尊重司法规律与法官尊严。一是尊重法庭尊严，控制司法信息流出的范围。对司法信息流出的范围需进行适当控制以使其符合法律规定与尊重法庭尊严。允许社会公众旁听，允许媒体旁听，允许录音录像，[59]允许媒体报道和庭审网络直播，这就是在逐步扩大司法信息的流出范围，尽管尺度不同但均符合司法信息公开的要求。司法信息公开的主要价值在于避免暗箱操作与司法腐败，充分说理以使当事人与公众理解信服，因此应基于不同案件的公开目的符合比例地设置公开尺度，避免过度曝光与过度公开。二是保障法官主体性地位，控制司法信息公开的种类。首先，国内外都曾有舆论影响法庭判决的既往事例，法官的独立判断受到了舆论干扰。其次，对法官庭上审理行为的监控系统应以达到内部监督管理效用为限，如法官是否迟到、早退、着装不规范、用语不文明等，不应以数字法庭庭审核查系统或庭审直播的形式向全社会公开。最后，司法信息公开的种类也应以满足对案件管理、司法监督、案件追责方面的要求为限，不宜将法院内部的行政事务事无巨细地纳入司法信息公开的范围。
（二）司法决策：人类“算法”与机器算法的合理分工
在智慧司法体系中，司法决策逐渐成为人机共同作出的混合决策。这不仅指具体司法决策中算法技术系统为人类决策提供支持，也指在智慧司法整体系统中由技术系统为司法决策提供技术指标、信息种类、决策架构等一系列可以潜移默化影响具体司法决策的外部支持。一个具体司法决策并不是人类决策和机器决策的简单加合，而是一个有机混合的系统。人类算法与机器算法的合理分工，意味着具体司法决策可兼顾司法的公平、效率、灵活、人文关怀等价值，并避免人类决策和机器决策的弊端。
1.避免技术支持滑向技术依赖的外部制度构建
在具体司法决策中避免人类对机器决策的技术依赖，需将具体司法决策看作整体社会系统的一部分，而非单纯的人类与算法决策的关系问题。[63]从广义上来说，人类必然参与技术系统的设计、运行和维护，即使微观的司法决策由算法作出（如假释决定或犯罪风险预测），其中也必然有人的参与。因此，避免司法决策中的技术依赖，应从信息收集、技术系统设计理念、技术系统的架构与更新等路径展开。
第一，智慧司法的技术系统设计需注重信息收集的多样化，避免信息减损影响决策质量。技术系统使用标签、标准化表格等技术加工信息的方式，将社会真实简化为分值、统计数字、分类系统等形式，智慧司法将其作为处理道德、社会和法律问题的基础。技术系统处理信息的机械化造成了系统内信息与现实生活的偏离，技术产生对人的强制性要求，同时还产生广泛的系统性要素来贯彻其强制性要求。正如贝尼格指出，标准化的发明是官僚主义的构建，它摧毁情景中的一切细枝末节，它需要我们检查方格、填充空格，只允许数量有限的正式、客观、非个性化的信息。[64]我国现在智慧司法系统建设需要的初始数据缺失仍是重大的制度建设短板，在数据的标注和输入过程中，应避免淘汰过多信息，以最大限度发挥信息的效能。
第二，智慧司法的技术系统需重视人文主义的设计理念，应避免具体决策中人类法官过于依赖技术系统，充分发挥人的主体性作用以规避技术系统可能带来的机械化偏差。智慧司法的技术支持系统强调精准与高效，但更应该强调机器内嵌的理念。只有人类实质性地参与设计，才能将人类的心理、情感和道德等得天独厚的能力融于司法裁判中。一些国家已经尝试了这种保护模式。例如，美国阿勒格尼县使用算法来进行儿童是否需要福利机关照护的预测。在采用该工具之前，该县专门咨询独立的伦理学家团队并公开了分析摘要。[65]我国法律要求对符合一定风险等级的算法系统和个人信息处理活动进行事前评估，在这种法律规范下，我们可以考虑将智慧司法的技术系统作为高敏感技术系统，对其进行专门的事前评估。通过这一制度在技术系统中嵌入人文主义的价值观，尽量避免人类得天独厚的那种照观全局的能力被机器消解。
第三，智慧司法的技术系统需注重架构设计与更新频次。一是应注重智慧司法系统中法官与技术系统互动的架构设计，在设计层面留足人类决策的空间。已有研究显示，技术系统的数字界面对使用者的选择和输入能够产生重大影响，选择架构可以通过塑造作出决定的环境来引导人们选择一个特定的选项，使得架构本身成为工具。[66]即使架构不是为了达到特定结果而设计，也必然会影响人们的选择。如在调研中曾有法官指出，由于在系统中选择“其他”按键必须单独填写理由，为了避免额外的工作量，法官往往选择一个相近但不准确的选项。为了在技术系统中不减损人类的主体性地位，应在架构设计层面为人类留足选择空间。二是智慧司法的技术系统必须强制更新。法官的职业转换、退休和死亡等人员流动意味着法官队伍处于不断的代际变化状态，并以此保证对系统外部作出有效反应。如果过于强调技术系统的权威性与类案的指导性作用，则可能会减损司法系统有机的更新形式。尽管智慧司法系统还在建设过程中，但必须需求技术系统纳入更新的方式与频次，避免法律系统的僵化。
2.人类与算法在司法决策中的内部合理分工
第二，设置鼓励人类参与的司法责任追究制度。在世界范围内，监管机构不约而同采取的措施是通过保留算法决策中参与的人，来回应社会对于自动化决策的担忧。例如，美国有四十多项政府政策要求人类监督或者参与各种算法的决策过程。[70]但法律责任的设置反而阻止了人类有效参与算法的自动化决策过程。有学者指出，医疗事故责任可能阻碍医生和算法在共同诊断中发挥实质性作用。[71]因为一旦医疗算法的性能达到足够高的水平，算法的建议将成为医生遵循的标准，任何的偏差都可能使医生承担相应的侵权责任，人类对算法的服从将造成技能的萎缩。
（三）系统建设：谨慎应对技术权力与司法权力的共建
技术公司对智慧司法系统建设的技术支持，可能形成司法权力对技术公司在系统建设层面上的技术依赖，导致权力专属原则存疑、追责链条不清晰等问题。在智慧司法的制度建设中，应谨慎应对技术权力与司法权力的共建，在智慧司法系统谋求高质量技术支持的同时，增强司法机关对技术权力的掌控能力，避免司法系统对技术公司的技术依赖。
1.增强司法系统的技术掌控能力
避免智慧司法系统建设的技术依赖，需要突出强调司法机关在与技术资本合作中的相对独立性和主导性。
第一，要抑制司法机构的惰性，避免将智慧司法建设简单地全盘外包给各类技术公司，由技术公司全盘承建智慧司法系统建设任务。这会导致司法机关从技术到人员乃至工作过程、系统维护都依赖技术公司的现象。在智慧司法建设中，我们需厘清私营公司与司法机关之间的边界，保证核心的司法决策内容有司法人员的实质性参与。鼓励法官等司法机关工作人员了解智慧司法信息技术运行的原理与轨迹，并对偏离正常情况的自动化决策结果保持敏感度。
第二，应强化司法部门技术能力，保证司法部门最低限度的识别、监督和验证能力。在智慧司法建设中，司法系统从信息获取、技术应用到数字基础设施的建设都严重依赖技术公司的供给。加强司法系统中技术部门的建设，能保证司法机关具有基本的技术能力，以及对于智慧司法一般系统的识别与评估能力，能够对司法系统与技术公司的合作关系事宜作出合理判断，并适时调整与技术公司的合作策略与方式，避免智慧司法系统建设被算法绑架、被技术公司控制。在此过程中，吸纳多个企业参与并由其展开充分竞争，对于司法部门运用更优质的技术服务具有重要作用。例如，北京互联网法院联合25家互联网技术公司，将大数据、人工智能和区块链等运用到法院智慧司法体系的技术支撑建设中。同时也可考虑引进社会力量参与智慧司法系统技术的评估与检测，增强司法部门技术能力。例如，最高人民法院与清华大学共建互联网司法研究院，借助高校的技术优势展开对一些智慧司法技术支撑系统的检测、评估工作。[72]
第三，智慧司法建设应构建技术标准体系，还需要通过建立详细的采购程序来进行控制。当技术系统取代了审理和上诉等司法机关的功能时，司法机构具有的自由裁量、合理裁判的能力就会被技术系统减损。国家层面应尽快完善智慧司法的技术支持系统的标准化管理制度和工作机制，建立健全人民法院信息化标准体系，推进标准制定、修订工作和标准的贯彻实施。按照最高人民法院的“顶层设计、规划引领和标准规范”，目前全国3500多家法院构建并联通了以中国移动微法院、人民法院调解平台等为载体的在线诉讼和调解平台。最高人民法院还通过《人民法院在线诉讼规则》集成以往规划标准，通过制度规制和约束全国法院的系统建设、应用、保障和管理。[73]例如，《人民法院在线诉讼规则》第5条至第13条分别确定了智慧法院九大信息运行的网系、服务的对象、包含的子系统、应当具备的功能。同时，智慧司法应考虑不同层级法院的智慧司法系统的设计，应对技术给司法权力带来的影响审级效力的扁平化风险。通过标准制定和采购制度，激励私营公司开发的算法程序能够充分竞争，更加符合智慧司法建设的技术需要。
2.明晰智慧司法的责任链条
规避技术依赖最重要的是防止无责任的权力和无代价的技术。因此有必要贯彻司法问责制等传统制度，进而维持司法系统的稳定和秩序，避免过于强调效率、利益的智慧司法系统对司法责任制的冲击。
结语
在人工智能时代，如何处理人机关系是时代的核心命题。在我国智慧司法如火如荼的建设中，如何处理人类和技术在信息收集处理、具体司法决策和司法系统建设中的关系，则是这一时代命题在司法领域的体现。技术始终是人类文明进步的主导性力量。如果说人工智能时代到来之前，技术长期退隐在时代幕布之中，那么如今则走到了舞台的中央。个体、政府、司法机关等都面临着技术和技术权力崛起带来的挑战。技术已不仅仅是人类的工具和媒介，而是一种深刻改变人与自然关系的力量。[78]本文围绕我国智慧司法系统建设中技术扮演的角色和发挥的作用展开。技术嵌入司法系统必须有明确的权力边界，以避免技术依赖的产生。技术嵌入司法系统既要避免混淆技术处理海量信息的边界，有效筛选对于司法有意义的信息，控制司法信息的流出与流入；又要在人类和机器之间合理分工，明确人类与机器决策之所长，充分利用各自的决策优势而规避其劣势。除此之外，要警惕技术公司、技术资本对司法权力的侵蚀，增强司法系统对于技术权力的掌控能力，并合理进行司法责任的分配。
张凌寒，中国政法大学数据法治研究院教授。
【注释】
[2]参见陈甦、田禾主编:《中国法院信息化发展报告No.4（2020）》，社会科学文献出版社2020年版，第9-15页。
[3]参见刘品新：《智慧司法的中国创新》，《国家检察官学院学报》2021年第3期，第84页；魏斌：《智慧司法的法理反思与应对》，《政治与法律》2021年第8期，第116页；高童非：《数字时代司法责任伦理之守正》，《法制与社会发展》2022年第1期，第151页。
[4]参见钱学森：《现代科学技术与法学研究和法制建设》，《政法论坛》1985年第3期，第1页。
[5]参见马长山：《人工智能的社会风险及其法律规制》，《法律科学》2018年第6期，第46页；季卫东：《人工智能时代的法律议论》，《法学研究》2019年第6期，第49页；齐延平：《数智化社会的法律调控》，《中国法学》2022年第1期，第95页。
[6]学者们从不同角度讨论了人工智能技术运用与不同领域的法律运行逻辑内在机理存在的冲突及其应对的问题。参见刘宪权：《人工智能时代我国刑罚体系重构的法理基础》，《法律科学》2018年第4期，第47页；吴汉东：《人工智能生成发明的专利法之问》，《当代法学》2019年第4期；齐延平：《论人工智能时代法律场景的变迁》，《法律科学》2018年第4期，第37页；左卫民：《AI法官的时代会到来吗——基于中外司法人工智能的对比与展望》，《政法论坛》2021年第5期，第4页；王禄生：《智慧法院建设的中国经验及其路径优化——基于大数据与人工智能的应用展开》，《内蒙古社会科学》2021年第1期，第104页；胡铭、张传玺：《人工智能裁判与审判中心主义的冲突及其消解》，《东南学术》2020年第1期，第213页。
[7]参见芦露：《中国的法院信息化：数据技术与管理》，载《法律和社会科学》（第15卷·第2辑），法律出版社2016年版，第22-50页。
[8]SeeTaniaSourdin,“JudgevRobot:ArtificialIntelligenceandJudicialDecision-making”,UniversityofNewSouthWalesLawJournal,Vol.41,No.4(2018),p.1114.
[9]参见裴炜：《信息革命下犯罪的多主体协同治理——以节点治理理论为框架》，《暨南学报（哲学社会科学版）》2019年第6期，第86-87页。
[10]参见伊然：《区块链存证电子证据鉴真现状与规则完善》，《法律适用》2022年第2期，第106-117页。
[11]参见潘庸鲁：《人工智能介入司法领域路径分析》，《东方法学》2018年第3期，第109-118页。
[13]参见郑天翔：《最高人民法院工作报告——一九八六年四月八日在六届全国人大四次会议上》，《中华人民共和国最高人民法院公报》1986年第2期。
[14]参见魏斌：《智慧司法的法理反思与应对》，《政治与法律》2021年第8期，第116页。
[15]《最高人民法院信息化建设发展纲要（2019—2023）》。
[16]参见曾学原、王竹：《道路交通纠纷要素式审判探索：从四川高院的改革实践出发》，《中国应用法学》2018年第2期。
[17]参见余东明、仇飞:《研发“刑事案件智能辅助办案系统”避免冤错案》，《法制日报》2017年10月13日，第6版。
[19]参见李占国：《网络社会司法治理的实践探索与前景展望》，《中国法学》2020年第6期，第5-23页。
[20]参见陈甦、田禾主编:《中国法院信息化发展报告No.4（2020）》，社会科学文献出版社2020年版，第9-15页。
[21]徐隽：《网上纠纷网上解——杭州互联网法院成立一年多来再造诉讼流程》，《人民日报》2018年9月25日，第9版。
[22]参见李林、田禾主编:《中国法院信息化发展报告No.1（2017）》，社会科学文献出版社2017年版，第16-19页。
[23]参见蔡立东：《智慧法院建设：实施原则与制度支撑》，《中国应用法学》2017年第2期，第19-28页。
[24]参见林洋：《互联网异步审理方式的法理思辨及规则建构》，《甘肃政法学院学报》2020年第4期，第115-128页。
[25]参见刘品新：《智慧司法的中国创新》，《国家检察官学院学报》2021年第3期，第97-98页。
[26]SeeRebeccaCrootof,“CyborgJusticeandtheRiskofTechnological-LegalLock-In”,ColumbiaLawReview,Vol.119,No.7(2019),p.233.
[27]参见[美]尼尔·波斯曼：《技术垄断：文化向技术投降》，何道宽译，中信出版社2017年版，第121页。
[31]参见刘品新：《智慧司法的中国创新》，《国家检察官学院学报》2021年第3期，第97-98页。
[32]参见赵志刚、金鸿浩:《智慧检务的演化与变迁:顶层设计与实践探索》，《中国应用法学》2017年第2期，第29-38页。
[33]《最高人民法院关于加快建设智慧法院的意见》指出，“为了以信息化促进审判体系和审判能力现代化，努力让人民群众在每一个司法案件中感受到公平正义，制定本意见”。
[34]参见刘品新:《法律与科技的融合及其限度》，《中国检察官》2018年第15期，第78-79页。
[37]SeeSarahGiest,“BigDataforPolicymaking:FadorFastTrack”,PolicySciences,Vol.50,No.3(2017),p.367.
[39]参见刘品新：《智慧司法的中国创新》，《国家检察官学院学报》2021年第3期，第99-100页。
[40]笔者在数个智慧司法的研讨会中谈及此话题，遇到了技术公司的反驳，其认为技术公司只是遵照技术服务合同而并未有影响司法的意图，技术依赖的观点是一种“有罪推定”。
[41]参见王禄生：《我国司法改革的内卷化风险及其治理》，《法商研究》2022年第3期，第16-29页；郑曦：《人工智能技术在司法裁判中的运用及规制》，《中外法学》2020年第3期，第674-696页。
[42]参见张凌寒：《算法规制的迭代与革新》，《法学论坛》2019年第2期，第16页。
[43]SeeRichardM.Re&AliciaSolow-Niederman,“DevelopingArtificiallyIntelligentJustice”,StanfordTechnologyLawReview,Vol.22,No.2(2019),p.276.
[44]参见刘奕群、吴玥悦:《信息化与智能化:司法语境下的辨析》，《中国应用法学》2021年第2期，第15-30页。
[45]参见上海市第一中级人民法院行政判决书，（2018）沪01行初216号。
[47]国际标准化组织（InternationalOrganizationforStandardization，ISO）与国际电工技术委员会（InternationalElectronicalCommission，IEC）联合制定并持续更新“ISO27k”，统一电子数据的实践操作和司法鉴定程序；中国司法部司法鉴定管理局制定了《手机电子数据提取操作规范》（SF/ZJD0401002-2015）、《数据库数据真实性鉴定规范》（SF/ZJD0402002-2015）、《计算机系统用户操作行为检验规范》（SF/ZJD0403003-2015）、《即时通讯记录检验操作规范》（SF/ZJD0402003-2015）等取证规范。
[49]SeeAnnaBrown,AlexandraChouladechova,EmilyPutnam-Hornstein,etal.,“TowardAlgorithmicAccountabilityinPublicServices:AqualitativeStudyofAffectedCommunityPerspectivesonAlgorithmicDecision-makinginChildWelfareServices”,Proceedingsofthe2019CHIConferenceonHumanFactorsinComputingSystems,pp.1-12.
[50]SeeAnnaBrown,AlexandraChouladechova,EmilyPutnam-Hornstein,etal.,“TowardAlgorithmicAccountabilityinPublicServices:AqualitativeStudyofAffectedCommunityPerspectivesonAlgorithmicDecision-makinginChildWelfareServices”,Proceedingsofthe2019CHIConferenceonHumanFactorsinComputingSystems,pp.1-12.
[51]例如，《中华人民共和国个人信息保护法》第24条规定：“通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”对个人权益有重大影响的决定，个人有权拒绝“仅通过自动化决策”的方式作出，个人信息处理者需在决策过程中保证有人类的实质性参与。
[52]参见[美]尼尔·波斯曼：《技术垄断：文化向技术投降》，何道宽译，中信出版社2017年版，第89页。
[53]参见[美]尼尔·波斯曼：《技术垄断：文化向技术投降》，何道宽译，中信出版社2017年版，第101页。
[54]参见郑曦：《证据规则体系及其中国构建》，《证据科学》2016年第2期，第192页。
[55]当前，类案检索信息平台在中央一级有中国裁判文书网和法信平台。前者主要涉及司法裁判文书公开和汇编，截止目前已有9887万份文书；后者则更具分析性，提供了专门的“类案检索”和“同案智推”等功能。地方各级有北京市高级人民法院的睿法官系统和办公平台的智能搜索系统、上海市高级人民法院牵头的“206系统”、安徽省高级人民法院的“类案指引项目”、贵州省高级人民法院的类案裁判标准数据库、重庆市高级人民法院的类案智能专审平台、厦门市湖里区人民法院的“全在线”诉讼平台等。商业类案检索平台有北大法宝、威科先行、元典智库、无讼等。
[56]参见《美国联邦法院2020年年终报告》，黄斌、杨奕译，《人民法院报》2021年1月8日，第8版。
[57]SeeCharlesW.Joiner,“LimitingPublicationofJudicialOpinions”,Judicature,Vol.56,No.5(1972),p.195.
[58]《最高人民法院关于统一法律适用加强类案检索的指导意见》（2020年）第4条规定：“除指导性案例以外，优先检索近三年的案例或者案件；已经在前一顺位中检索到类案的，可以不再进行检索”。
[59]最高人民法院制定的《中华人民共和国人民法院法庭规则》（2016年）第3条规定：“有新闻媒体旁听或者报道庭审活动的，旁听区可设置专门的媒体记者席。”第17条规定，全体人员在庭审活动中不得“对庭审活动进行录音、录像、拍照或者使用移动通信工具等传播庭审活动”。
[60]参见左卫民：《反思庭审直播——以司法公开为视角》，《政治与法律》2020年第9期，第98页。
[62]参见《最高人民法院关于人民法院在互联网公布裁判文书的规定》（2016年）。
[63]参见张玉洁：《智能量刑算法的司法适用:逻辑、难题与程序法回应》，《东方法学》2021年第3期，第14页；左卫民：《AI法官的时代会到来吗——基于中外司法人工智能的对比与展望》，《政法论坛》2021年第5期，第4页；王禄生：《智慧法院建设的中国经验及其路径优化——基于大数据与人工智能的应用展开》，《内蒙古社会科学》2021年第1期，第104页。
[64]参见张咏华：《媒介分析领域的重要理论成果——贝尼格的“控制革命”论评析》，《新闻大学》2000年第4期，第29-33页。
[65]SeeAliciaSolow-Niederman,YooJungChoi,andGuyVandenBroeck,“TheInstitutionalLifeofAlgorithmicRiskAssessment”,BerkeleyTechnologyLawJournal,Vol.34,No.3(2019),p.705.
[66]SeeAyeletSela,“e-NudgingJustice:TheRoleofDigitalChoiceArchitectureinOnlineCourts”,JournalofDisputeResolution,Vol.2019,Issue2(2019),p.127.
[67]参见王禄生：《司法大数据与人工智能技术应用的风险与伦理规制》，《法商研究》2019年第2期，第107页。
[68]SeeNicholasCarr.,TheGlassCage:WhereAutomationisTakingUs,RandomHouse,2015,p.43.
[69]参见季卫东：《人工智能时代的司法权之变》，《东方法学》2018年第1期，第132页。
[70]SeeBenGreen,“TheFlawsofPoliciesRequiringHumanOversightofGovernmentAlgorithms”,ComputerLaw&SecurityReview,Vol.45,(Jun.,2022),p.105681.
[71]SeeFrankPasquale,“ARuleofPersons,NotMachines:TheLimitsofLegalAutomation”,GeogetownWashingtonLawReview,Vol.87,No.1(2019),p.1.
[73]参见刘峥、何帆、李承运：《人民法院在线诉讼规则的理解与适用》，《人民司法》2022年第19期，第33-39页。
[74]参见季卫东:《人工智能时代的司法权之变》，《东方法学》2018年第1期,第132页。
[75]参见魏斌：《智慧司法的法理反思与应对》，《政治与法律》2021年第8期，第116页；高童非：《数字时代司法责任伦理之守正》，《法制与社会发展》2022年第1期，第151页。
[77]SeeCharlesHelm,MarioMorelli,“StanleyMilgramandtheObedienceExperiment:Authority,Legitimacy,andHumanAction”,PoliticalTheory,Vol.7,No.3(1979),pp.321-345.
[78]参见张旭：《技术时代的责任伦理学:论汉斯·约纳斯》，《中国人民大学学报》2003年第2期，第66页。