【作者】雷磊(中国政法大学钱端升讲座教授,法学博士,北大法律信息网签约作者)
内容提要:数字司法标志着司法3.0阶段的到来。在这一阶段,人工智能的角色已从“数字书记员”演变为“法律同伴”,技术深度赋能司法体现为最大化司法裁判的可计算空间,表征为法律规则的再规则化,事实认定的数字模型化以及自动联结案件事实和裁判结论。但数字司法也产生了用技术手段消解程序空间,用数据运算隐匿评价余地和用可能性取代规范性的问题,问题产生的根源在于用技术替代主体意义上的“人”的倾向。由此,要强化对数字司法的人工监管,既确保其追求数字正义的正确价值导向,也要建构和完善相应的监管机制。数字司法的力量来自数字技术与司法裁判之价值目标间的相符,弱点则来自两者的相悖。因此,数字司法何去何从,最终还是取决于法律(或者说人)的调控。
关键词:数字司法;可计算空间;机械裁判;人工监管;司法3.0
目次一、引言:司法3.0阶段的到来?二、数字司法的意义:技术深度赋能司法三、数字司法的问题:技术能否替代司法?四、数字司法的人工监管五、结语:法律与技术的纠葛
一
引言:司法3.0阶段的到来?
当下,数字经济已成为中国式现代化的重要驱动力量。在数字经济早期,为了给新技术和新产业留下发展空间,相比于“通过系统立法全面控制风险”,更有效的途径是“通过灵活判例解决实践问题”。因为法律系统在本质意义上是做出决断,维持有关法律沟通与社会运作,而承担起中心任务的就是司法与法院。因此,如何让数字司法成为保障数字经济健康发展的良法善治,为高质量发展和高水平安全保驾护航,已经成为推动司法工作现代化的重要议题。近年来,最高人民法院先后颁布《人民法院在线诉讼规则》《关于加强区块链司法应用的意见》《关于加快建设智慧法院的意见》《关于规范和加强人工智能司法应用的意见》等文件,助推数字司法建设。数字司法建设被认为是新时代实现数字社会治理的内在要求,是助力实现数字正义的关键环节,是护航数字中国建设和助力国家治理现代化的题中应有之义和重要实现路径。
这种转变意味着什么?法律人应如何在数字技术的热潮中对于数字司法的趋势进行冷思考?下文将首先阐明数字司法对于司法实践的现实意义(第二部分),接着剖析它可能带来的问题,即数字司法对“司法”活动的性质及其意义带来的挑战(第三部分),然后尝试指明如何对数字司法本身进行人工监管(第四部分),最后得出结论。
二
数字司法的意义:技术深度赋能司法
(一)从“数字书记员”到“法律同伴”
在司法治理技术的同时,技术也在赋能司法。从司法1.0阶段到司法3.0阶段的发展过程,也是技术赋能司法的程度不断加深的过程。
在司法1.0阶段,人工智能扮演着“数字书记员”的角色。人工智能可以对司法工作中的一项或几项独立的事务提供智能支持,但法官依然需要完成主要司法工作。如最高人民法院于2022年12月发布的《关于规范和加强人工智能司法应用的意见》(法发[2022]33号)对于人工智能司法应用的定位就基本只是这一角色的定位,因为它将司法人工智能系列应用场景设定为全流程辅助办案、辅助事务性工作、辅助司法管理、服务多元解纷和社会治理等等。因此,司法1.0阶段的人工智能基本只是人类法官的“数字化工具”,只不过相比于传统机械工具更加高级和高效而已,对法官的主体地位、裁判结果没有实质影响
总之,传统的智慧法院建设过程中,法院的工作流程、机制、方式并没有发生根本性的变化,主要是把立案、审判、执行、管理等工作,由线下转为线上,也就是“业务数据化”,整体水平仍然处于数据生成和数据载体阶段。数字法院不仅仅是一种技术变革,更是一种理念、思维和机制的根本性改造,是综合运用大数据思维,通过新技术收集和分析海量司法数据,推动“数据业务化”,通过数字化改造重塑业务流程、组织架构和体制机制,最终带动审判质量和效率发生重塑性变革。可以说,从智慧法院建设到数字法院建设,是由“器”而“道”的转变。当然,这种转变并非取代,而是升级。因为数字司法是对人工智能辅助司法的延续和发展,是智能化司法的最新阶段。
(二)最大化司法裁判的可计算空间
技术深度赋能司法的最大体现不在于节约司法成本、提升司法效率,有效化解“案多人少”的矛盾,或者推进因司法公开和数据留痕而实现程序公正的客观效果,而在于最大化了司法裁判的可计算空间。
就此而言,司法裁判至少在最低限度(如果不是最高限度)的意义上与机器学习算法的运行保持着一致性,即依据既定的规则“计算出”结论的理性活动。司法裁判中规则的决定空间,就是它的可计算空间。司法裁判的可计算空间预设了两个前提:一是法律语言的可计算,也即法律语言可以用形式上的逻辑符号来表达,实现计算语言与法律语言的互译;二是法律推理的能计算,也即司法人工智能在有限步骤内甚至在特定的步骤内得出确定的结果。而生成式人工智能对司法裁判的深度赋能,就展现为最大化地利用了这两个前提及可计算空间。具体而言,这表征在三个方面:
二是事实认定的数字模型化。生成式人工智能能够运用数学语言来表达事实认定领域的认知过程,即运用数学概率以及符号将待证案件事实要素表达为一组数字,再依次审查证据的真实性、合法性、关联性。具体而言,生成式人工智能进行证据审查要经过四个步骤:第一,对待证案件中的各种要素进行提取、储存、分析,建立相应的数据集;第二,通过深度学习能力和算力,进行场景文字识别、证据瑕疵手动标注等分析校验;第三,通过对历史案件文书、证据材料生成若干规则,分析证据的真实性、合法性、关联性;第四,构建可视化的证据链条、案件知识图谱,辅助法官进行事实证据认定。此外,生成式人工智能可能凭借自身智能,输出超越输入证据数据限定的结果,从而弥补案件事实中的缺失环节,或至少给法官完整还原案件全貌提供参考。
所以,只要依法裁判是司法裁判的基本要求,而依法裁判又可以在功能上被还原为理性计算,那么数字司法就有其存在的可能性甚至必要性。在此前提下,就像2017年《最高人民法院关于加快建设智慧法院的意见》所指出的那样,要深挖法律知识资源潜力,提高海量案件案情理解深度学习能力,基于案件事实、争议焦点、法律适用类脑智能推理,满足办案人员对法律、案例、专业知识的精准化需求,促进法官类案同判和量刑规范化。因为司法裁判的确存在着这种意义上的可计算空间。但是,这并不代表司法裁判活动的全部。
三
数字司法的问题:技术能否替代司法?
正所谓成也萧何、败也萧何,对智能化司法之“机械裁判”的批评的确包含着部分真理。智能化司法的这种“机械性”体现在:忽视了司法的对抗性与亲历性,用技术手段消解了程序空间;忽略了对个案的特殊考量,用数据运算隐匿了评价余地;将规范问题还原为事实问题,用可能性取代了规范性。
(一)用技术手段消解程序空间
司法裁判是一个三维的立体过程,而非二维的平面活动。当事人、代理人和法官在受到法律规则导控的过程(也即法律程序)中展开对话和论辩,达成共识。法律程序的意义恰恰在于,通过程序化商谈的过程来寻求正确的裁判结论。有时候,相比于特定裁判结论本身,达致这一裁判结论的程序同样重要。因为它是程序的多方参与者达成从认识到行动之整合的“整全性实践”。这种程序之展开,其实是对各方参与者之主体性的认可:特定司法裁判结论不仅是恰当的,而且更重要的是,它是“我们”通过程序参与塑造出来的。这就是“司法的剧场化”所蕴含的价值:在以“剧场”为符号意向的人造建筑空间内进行的司法活动内化了人们的理性精神和品质,凸显出程序和秩序观念,促成了法律活动的技术化和专门化,增强了法律的神圣性和权威性。
但是,数字司法对司法裁判的过程作了扁平化处理,用算法的二维程序去取代司法的三维程序。当技术手段、数据与自动化决策不可避免地成为司法实务运行的主要手段时,一切貌似秩序井然和明白易懂,人类却在司法活动中愈加依赖技术而逐渐缺乏主观能动性。平面化的机器决策不断侵蚀立体化的人类决策,而数字司法所追求的与其说是“类案同判”,不如说是法律自动化的倡导者所认为的将决策权委托给算法系统。因此,数字驱动下预测性司法的运行逻辑与程序公正的核心要素(尊重、中立、可信、参与)会产生不同程度的内生冲突。
(二)用数据运算扼杀评价余地
有学者归纳出人工智能司法裁判存在“三不能”,即对复杂性案件的理解不能、对法治热点案件的调控不能、对新型疑难案件的推理不能。进而论者倡导,未来司法的构造,应当是“人类法官解决复杂案件”“智能算法解决简单案件”两种裁判模式及其诉讼程序的展开与衔接。事实上,因为社会背景的变迁和特殊事实因素的存在,很多案件都可能成为复杂案件。算法化运行的人工智能只能确保统一裁判,但无法确保正确裁判,因为形式上的“类案同判”却可能因忽略对个案的特殊考量,导致实质上的“同错同犯”。这里所说的“个案”,可以指先前的“类案”,也可以指待决案件。
它能够对法律规则进行再规则化,这固然可以将人类(前案法官)的价值判断转化为可中立适用的具体规则,但也会使得先前的价值判断被一再固化,从而扼杀了后案裁判中“有所不同”的评价余地。司法创新的空间,正在于对价值判断保持向着历史传统和社会变迁的适度开放性。但是,人工智能却是无历史、无社会、无价值观的,它要做的只是程序运行和结果输出。所以,算法决策面对复杂疑难案件,能够促进形式正义,却很难实现实质正义。
(三)用可能性取代规范性
上述数字司法的问题,可以被统称为“数字代码化的悖论”。若要消解这一悖论,就要界定代码化的场域,明确司法裁判在什么情况下可以代码化,什么情况下不应当代码化。可以肯定的是,法律不可能全部被代码化,代码运行的规则不能完全替代法律规则。智能化审判系统的价值在于辅助法官更好地行使审判权,而不是替代法官判决。数字司法的运用产生了用技术手段消解程序空间,用数据运算扼杀评价余地,用可能性取代规范性三个问题。无论是哪一个问题,其根源都在数字司法用技术替代了主体意义上的“人”,而无论是在司法裁判还是在别的法律活动中,人永远是不可替代的。
四
数字司法的人工监管
确保一切技术的运用符合人类的福祉,促进科技向善,永远是新科技时代的主基调。数字技术能够深度赋能司法,但也会在司法活动中带来更多和更深层次的问题。由此,确保数字司法活动始终处于人类的监管之下,就成为重要议题。这种监管不仅要求数字司法有正确的价值导向,更要求数字司法在此价值导向下构建或完善相应的制度机制。
(一)数字司法的价值导向
数字司法要追求“数字正义”。数字正义并非全新的正义类型,而是正义价值在数字技术背景下的新表达与新形态。因此,数字正义仍然具有传统正义蕴含的维护人权、秩序、伦理等方面的良好价值取向,只是其优势在于依托数字技术提升正义的效率与效果。在司法活动中,数字司法要追求两项正义原则,即“触达司法”与“接近正义”。
(二)数字司法的监管机制
价值导向要落实为制度机制。《最高人民法院关于规范和加强人工智能司法应用的意见》(以下简称《意见》)提出,应“保证人工智能司法应用不得违背公序良俗,不能损害社会公共利益和秩序,不能违背社会公共道德和伦理,健全风险管控、应急处置和责任查究机制,防范化解人工智能司法应用中可能产生的伦理道德风险”。这也应当成为数字司法人工监管的总方针。具体而言,数字司法的人工监管要建构和完善如下五套机制。
其四,裁判纠偏机制。哪怕是生成式人工智能,在司法活动中也应仅起到辅助性作用,最终决策仍需由司法人员审查后自行做出。也即,以轻推为限度确保司法人员的决策自主性。这里包括三个方面:第一,必须坚持司法人工智能的辅助地位和审判组织的自主地位。正如《意见》指出的,无论技术发展到何种水平,人工智能都不得代替法官裁判,人工智能辅助结果仅可作为审判工作或审判监督管理的参考,确保司法裁判始终由审判人员做出,裁判职权始终由审判组织行使。通过司法人工智能系统获得的结论只能作为审判工作的参考,审判组织做出的司法裁判才具有法律效力。第二,必须坚持明确司法活动参与者应用司法人工智能技术时的选择权与豁免权。法官在选择司法人工智能辅助办案中,发现人工智能产品和服务存在问题时,有权随时退出。各类用户有权选择是否利用司法人工智能提供的辅助,有权随时退出与人工智能产品和服务的交互。第三,必须明确司法责任最终由裁判者自己承担。法官一旦发现自动化裁判过程及其后果违法背德,就应对裁判进行纠偏,否则将承担相应的法律后果。
其五,责任承担机制。人工智能司法不能违背社会公共道德和伦理。中共中央办公厅、国务院办公厅2022年印发的《关于加强科技伦理治理的意见》指出,要将科技伦理要求贯穿科学研究、技术开发等科技活动全过程,促进科技活动与科技伦理协调发展、良性互动,实现负责任的创新。为此,要明晰科技伦理审查和监管职责,完善科技伦理审查、风险处置、违规处理等规则流程。当司法人工智能技术应用产生社会风险时,司法人工智能技术的开发者、服务提供者与使用者各自应当承担具体法律责任。应当组建司法人工智能伦理委员会等机制,综合采用伦理审核、合规审查、安全评估等方式,防范化解人工智能应用过程中的安全风险。在构建责任机制时,也要处理好安全与发展的关系,法律责任的设定应当合理适度,不能因为追责机制的建立而束缚研发人员的创新精神,阻碍司法人工智能技术的创新发展。在追究通用人工智能活动中的司法责任时,要总体保持包容合理的限度,严格区分故意、过失与不可抗力等行为人主观状态,构建科学的司法责任追究机制。
显然,上述五套机制的建立主要依靠的是软法(softlaw)而非硬法(hardlaw)。它们既不将“安全”作为至高价值,从而避免过度严苛地限制司法人工智能和数字司法在未来的发展;也不将“自由”作为至高价值,从而避免过于倾向产业保护而忽视了司法活动的特性。它们要实现的,更多是两者之间的平衡,既最大限度地利用司法的可计算和智能化空间来获得红利,也要抑制其不符合司法价值追求的面向,从而实现合乎司法裁判之性质的数字正义。之所以运用软法而非硬法,也正是因为如何达致这种平衡尚无固定的模式,需要为未来司法实践的探索容留较为灵活的余地。
五
结语:法律与技术的纠葛
数字司法既有其力量,也有其弱点。其力量来自数字技术与司法裁判之价值目标在某个面向(依规则裁判)上的相符乃至强化,而其弱点恰恰来自数字技术与司法裁判之价值目标在其他面向上的相悖。2024年2月和5月,OpenAI公司先后推出了文生视频大模型Sora和多模态大模型GPT-4o,它们在司法裁判领域的应用值得期待。但无论怎样发展,“机器而非人类终将成为正义的仲裁者”这一景象不能也不应成为未来的现实。归根到底,数字司法活动所展现的,并非“机器与人类”的关系,而依然是人与人之间(以机器为媒介)的关系。数字司法何去何从,最终还是取决于法律(或者说人)的调控,取决于我们对数字正义的追求。
-向上滑动,查看完整目录-
《交大法学》2024年第6期目录
【习近平法治思想研究】
1.更高水平开放需适配高端涉外法治研究和运用人才
龚柏华
2.涉外法治的知识体系及其互动性建构
江河
3.气候变化应对类ESG国际商事仲裁:优势、困境与中国进路
欧福永、黄思瑞
4.国际法适用中的双重标准问题研究
韩逸畴
【名家演讲录】
5.认真对待案件事实
——一种结构形态的事实观
张志铭
【科技创新与数字法治】
6.数字司法的理论反思:意义、问题与监管
雷磊
7.论普惠金融的数字司法源头治理
杨力
8.区块链个人信息保护的“同意”难题及进程化应对
康宁
9.“信息换给付”下捆绑禁令的内在体系与规范构造
——对《个人信息保护法》第16条的解读
付举乾
【研讨与观点】
10.滥用相对优势地位的性质区分与规制体系
焦海涛
11.环境执法正面清单制度:法理阐释与实效保障
邓可祝、李晓艳
《交大法学》于2010年以“以书代刊”形式创刊,2012年获批正式刊号,并于同年以季刊发行,2022年改为双月刊。期间历时整整12年,恰是地支一轮。作为卷帙浩繁法学期刊中的如米苔花,秉承“君子有所为,有所不为;知其可为而为之,知其不可为而不为”之理念,默默成长,希望以点滴努力,开辟言路,传达百家之言,给时代留下可供回望和审思的法学作品和思想。本刊改为双月刊后,每单月出版一期。在此之际,片刻驻足、冷静回望,如何提高学术品位,构建表里澄澈的学术公共场域,任重而道远,我们自当立意勤勉耕耘。