中国社会科学院国际法研究所是中国国际法学的研究重镇。她的前身是中国社会科学院国际法研究中心、中国社会科学院法学研究所国际法研究室和最早时的中国社会科学院法学研究所国际法组。
小
中
大
【内容摘要】随着人工智能(AI)的普及,机器和软件机器人对人类行为的监控产生了所谓的机器证据。这种新型证据对传统上为人类的证言证据量身定制的世界各国司法系统的刑事程序提出了新的挑战。本文的重点是在刑事审判中作为证据提出的、由人工智能驱动的系统产生的信息,此类系统观察和评估人类使用者的行为,预测其未来的行为,以便提高产品使用的安全性。
这类证据源于消费品产生的数据,一个鲜明的例子是自动化驾驶:以安全为特征的驾驶辅助系统会观察和评估驾驶员在必要时重新控制车辆的能力。以欧洲为例,从2022年开始,包括睡意检测和分心警告系统在内的新型智能设备将成为新车的强制性配置。在人机互动造成伤害的情况下(例如,涉及自动化汽车的事故),可能会有大量的机器证据,或者说,人工智能驱动系统产生的数据,可供刑事审判使用。
目前还不清楚人-机交互过程中产生的数据能否以及如何在刑事案件事实调查中用作证据,而且对抗式和审问式庭审制度处理这一问题的方式上也非常不同。对抗式诉讼具有对立双方进行审查的优势,这使得双方都有机会对作为证据提供的消费品提出质疑。相比之下,审问式制度有特定的机制来引入法庭外记录的专家证据,包括确立事实,而且这一特定机制对于彻底测试人工智能装置是十分必要的。
【关键词】刑事程序比较刑法德国机器证据人工智能专家证据
一、导论
如果法庭可以接受人机合作中人工智能产生的数据,那么此类数据有可能被归类为一种书面证据,甚至是一种证人证言。但无论如何,根本的问题仍然是:如何有意义地评估人工智能及其产生的数据的可靠性(reliability)和可信性(credibility),特别是当呈现在法庭上的数据是由评估人类行为的技术产生的,这些技术不是为了产生有形的证据(tangibleEvidence),而是为了满足特定的商业需求,并没有考虑到刑事司法制度方面的问题。
1、人工智能的法律定义
并非只有法律学者在持续为定义人工智能[6]、机器人[7]或自动程序等技术术语而努力[8]。这种(技术术语仍不明晰的)困难表明技术在快速而重大的进展着而法律还没有跟上。无论如何,人工智能缺乏法定定义的现状,不应妨碍我们分析外围的智能环境(即那些能够监测和响应人类行为环境的电子设备)会如何影响刑事司法。恰恰相反,只有当律师和法律学者讨论新技术的各个方面及其对法律制度的潜在影响时,一致的法律定义才有可能形成。就本文的目的而言,重点在于人工智能驱动的系统,这些系统观察和评估人类使用者的行为,并预测其未来的行为,以便在自动和自主地做出反应的同时提高安全性[9]。这种系统可能采用机器人或软件机器人的形式[10],但是始终拥有它们自己的(程序)议程、自动性和自主评估的能力[11]。
2、方法论
二、人工智能产生的机器证据
本文的这个部分认为,自动化驾驶在各种刑事司法领域提出了新的、但又相互交织的问题。刑事责任问题在实体法上没有得到解决,这将导致人机互动造成损害情况下的证据问题,因为人工智能可否与人类驾驶员共同承担刑事责任的问题还未明确,这也给该如何处理人工智能生成的机器数据造成了困惑——是将这些机器数据视为提供专家证言或者感知证言的证人,还是应将其归为共同被告人的陈述?
1、自动化驾驶
自动化驾驶是技术迅速发展使得人工智能得以监控人类行为的一个常见例子。随着这项技术的进步,人类将越来越多地与所谓的"驾驶辅助系统(驾驶助手)"或者说软件机器人共享转向盘,这类设备可以支持人类驾驶员的驾驶表现,并在特定情况下协助甚至接管驾驶[16]。然而,在后一种情形下,目前还不清楚在任何给定的时刻,谁将会被视为驾驶员,而这对责任归咎有着重大的影响[17]。
自动化驾驶技术已经能够不依赖于人类驾驶员而执行一系列复杂的动作。这些系统可以监测车辆在车道上的位置以及驾驶员的转向(控制)模式、体温和面部动作(尤其是眼球运动)[18]。它们能够学习驾驶员的典型姿势、头部位置、眨眼率、面部表情和转向模式。在检测到异常时,会警告驾驶员停车休息(例如,用闪烁的橙色咖啡杯标志)。尽管有些驾驶辅助技术看起来几乎像玩具,但在人类对车辆放手而不加控制时,监控人类驾驶行为的系统就至关重要。此时,自动化驾驶技术就是主要的驾驶员,但如果驾驶辅助技术无法处理特殊的情境,人类还是必须响应系统的干预请求,并接管对汽车的控制[19]。因此,接管-请求(TOR:take-over-request)设备会持续不断地监测着人类驾驶员必要时是否有接管的能力[20]。
由于许多事故都是由疲倦不堪的驾驶员引起的,因此,或许睡意检测系统中最关键的安全特性就在于它能够观察人类驾驶员并记录他们的行动和反应。欧盟修订了其《通用安全条例》,从2022年开始将睡意检测系统指定为欧洲车辆的强制性安全配置[21]。该技术很可能建立在面部识别技术的快速发展及其令人印象深刻的成功的基础之上,同时该技术也是一个不断发展的行业的一部分——该行业投资于涉及人类监控的人机界面[22]。
虽然显得有些未来主义(未来派),但是有标准睡意检测系统和其他能够持续监控人类驾驶员系统的汽车不会是科学幻想。除欧盟之外,还有一些司法管辖区已经允许自动化驾驶中的人机互动。例如,2017年6月,德国就此问题通过了一项法规[23],瑞士政府目前正在考虑最终允许全自动车辆的法律[24]。美国多个州也有类似的法律[25]。
在何种条件下一个设备只是一个工具,而在何种条件下它又会达到软件机器人或机器人的水平(而被视为软件机器人或者机器人)?驾驶自动化和驾驶辅助的应用,既体现了围绕使用人工智能进行取证的分界线,也体现了其灰色地带。利用实用功能测试,考察使用此类证据的事实问题[26],我们可以区分以下两种情况:一种是人工智能驱动的设备,它本身不传递任何信息(即仅仅是为人类使用者服务的工具),另一种是自主性程度更高,可以被认为是人工智能生成的、提供意见的机器证据(例如,评估人类驾驶汽车的能力)。只有后者会被要求在法庭上进行单独的可信性测试[27]。自20世纪50年代以来,为汽车安装防抱死制动系统(ABS)已是常例。这种安全配置会进行自动顿挫制动,来防止车轮锁死,比仅靠驾驶员的制动能更有效地保持与路面的摩擦[28]。防抱死制动技术已日趋成熟,但该技术仍被视为只是对非人类实体(路况)做出反应的东西,因此,它只是一个供驾驶员使用的工具,并没有添加它自己的任何信息,即它不会在制动过程中评估人类的表现并提供意见。
相比之下,睡意检测系统是驾驶辅助软件机器人,它通过观察和评估人类驾驶员的行为,并在驾驶员打盹时发出警报,从而提高驾驶安全。这些系统可以在驾驶员保留对车辆的控制时使用,或者也可作为接管-请求(TOR)助手的一部分。该系统发挥作用的技术可能包括监视转向模式、车道位置、驾驶员的面部变化以及驾驶员的坐姿[29]。与防抱死制动系统(ABS)相反,睡意检测系统会添加自己的信息;也就是说,如果它们评估到驾驶员犯困要打盹,就会发出警报。然后,这个警报会被记录和存储,并有可能用作刑事审判中的证据。
2、实体法
尽管人们期望的是自动驾驶或使用驾驶辅助技术会提升道路交通安全,但是随着人机互动的新的可能性的增加,造成损害(这种互动合作的一种后果)的可能性也增加了。当此类损害发生时,就有必要进行责任归咎[34]。在这个方面,可以说,人工智能驱动的设备(或者其创造者)可能会被视为与人类使用者共同承担责任的潜在的被告。
就目前的情况来看,我们并不认为任何形式的人工智能在伦理上可以代理被告接受审判。它的智能在很大程度上是单一维度的,至少目前还缺乏反思和解释过去行为的能力[35]。尽管如此,技术的发展已经引发了一场关于机器人责任的学术辩论,大家承认,虽然责任(Blame)是一种社会性建构(socialconstruct),但在某些时候,社会不得不认为机器人是合适的责任代理人,那么责任就会扩张适用到机器[36]。这种发展的可能性似乎与人工智能在不同领域能够准确评估信息的程度有关,也与它们能否发展出类似于人类常识的推理能力有关。
即使肯定那些否认人工智能代理的传统观点[37],人工智能不承担法律责任也不一定意味着它们就是中立的旁观者。在某种程度上,机器人或软件机器人可以被视为次要的(也许不一定要承担法律责任)嫌疑人,或者甚至是汽车制造者的代理嫌疑人。因此,虽然我们认为人工智能缺乏代理权和道德指针,但它可能会有一些过错,大多数人都希望它为这些错误承担一定形式的责任。例如,某睡意检测系统可能是不精确或者模糊的——它可能包括带有偏见的算法或者标准化数据等等。沿着这个思路,一些人工智能已经被证明在软件设计中存在有利于企业自身利益的"自动偏差"[38]。
当有人类受到自主运行的汽车的伤害时,谁应承担责任以及如何分配罪责的问题是紧密相联的[39]。最早出现的一批法律问题是对实体法的挑战,随着更多的人工智能进入我们的生活,我们对代理的概念、罪责应该如何分配、谁是犯罪行为人(正犯)或者共犯等问题的理解很可能要发生变化。到目前为止,实体刑法倾向于将人类作为道德代理者、有能力的行为人以及某些情形下的刑事风险承担者。虽然国内立法者确实已经对于诸如公司等非自然人可以承担刑事责任的观点有更大的接受度,但起诉的基本理念仍然是只有人类行为才需要承担刑事责任[40]。
3、人工智能和刑事审判中的证据周期
与之前出现的其他形式的技术一样,机器证据有可能成为新的信息源,从而为在刑事审判中更为准确地查明事实提供机会。然而,在刑事诉讼中引入无法解释某种结果的内在暗箱技术是要付出代价的。事实认定者将不得不决定是否采信人工智能生成的、专家也只能解释明白一部分的陈述。过去,法院反对使用呼气酒精分析仪等法庭鉴定工具,认为它们是"协助检方给公民定罪的魔法暗箱"[41]。随着人工智能在未来数代法庭鉴定工具中越来越多地融入,法院对此问题保持怀疑态度是明智的。为解决消费者的需求而开发的人工智能,并不当然意味着它可以是为法庭提供证据的工具,这就对如何认定在消费品(如驾驶辅助)中产生的机器证据提出了新的挑战。
起初,人工智能在我们日常生活中使用的扩张,不太可能增加机器证据在刑事审判中对建构事实的重要性,特别是考虑到法庭过去对使用一切可用技术手段(如测谎仪)的犹豫态度,但持续的技术发展可能会转变法官的观念。随着人工智能的普及,如果这种技术能够对人类行为进行准确的评估,那么更多的人就可能愿意承认它是可靠的和值得信赖的信息源。尽管存在这种可能性,但这种信息能否以及怎样为法庭(courtoflaw)所接纳,仍不清楚。早在人工智能出现之前,其他领域技术的发展也创造出了新的证据形式(如DNA检测),而当这些新的证据形式突然被引入刑事审判中的时候,就更加凸显刑事诉讼程序对此毫无准备[42]。
1)从沉默的证人到数字分析工具
每当新型记录技术出现时,法院都面临着登记或记录手段是否可靠、准确和客观的问题[43]。后文将把这一过程称为证据生命周期[44]。这一周期涉及根本性的利益,因为它产生的法律问题超越了证据层面,涉及到重要的宪法问题,如对质条款(ConfrontationClause)。这还涉及到在刑事审判中使用新技术进行事实调查和专家证据基础的基本问题。值得注意的是,从比较的角度来看,目前美国学者的辩论似乎更集中于对质不利证词的权利(质证权—译者)[45],而在德国,这种争论(仍然)主要是在隐私权的问题领域展开[46]。
随着某种形式的技术进入我们生活的各个领域,数字化证据进入刑事诉讼程序也就不足为奇[47]。有趣的是,"数字化证据(digitalevidence)"一词在教科书和法学期刊中被广泛使用,但它似乎并不是一个技术性的法律术语,而是对于在刑事侦查中和在法庭上以二进制形式存储或者传输信息的现象(或者需求)的描述[48]。数字化证据可以存在于计算机的硬盘、云端技术为基础的存储(云存储)、手机或个人数字化助手、闪存盘(flashdrives)甚至数码相机中。数字化证据可以给人们提供大量的信息,包括电子邮件的内容、电子邮件的发送者和接收者的身份、摄像录影镜头的连续监控报告、移动位置的跟踪记录[49]、浏览器跟踪信息或者社交网络映射数据(mappingdata)。它可以是"小数据",也可以是大数据[50]的某一类,它可以由人类产生,也可以由机器产生。当下,它最常被用于起诉犯罪[51],但像DNA测试一样,它最终也有可能有利于辩方[52],因为使用者越来越意识到此类消费品提供不在场证明的能力。
以"0"和"1"编码的数字化信息给法院带来的迫在眉睫的问题是,此类信息想要发挥作用,必须由专家将其转化为类似(/模拟)形式[53]。有时,专家只有在信息被解密后才能获取信息,此时还需要其他的专家来解释信息是怎样获得的以及信息的含义是什么。不过,如果仅仅是存储格式的问题,即信息只是以不同的形式存在(例如,以电子邮件代替书面说明,以JPG文件代替打印的照片等),那么这还不会给刑事司法系统的应对造成太大困难。
然而,随着技术持续快速发展,刑事侦查中的数字化证据很快变得更加复杂:呼气酒精分析仪配备了智能技术,提供个性化基因信息的DNA试剂盒向公众开放,而不再为执法部门所独享[54]。虽然这种数字化分析工具可以由人工智能驱动,但它首先是一种仅供检测使用的测量工具,如检测某人呼气中的酒精含量[55]。即便如此,基本的问题仍然是:事实认定者在什么情况下(以及为什么)能开始信任这项技术?什么条件下我们会达到这样一个程度,即技术变得如此受到信任,以至于它不再受到强烈而充分的质疑(挑战)?而在什么情况下又会对其值得的可信性产生新的怀疑?
2007年,艾琳墨菲(ErinMurphy)提出了将第一代法庭鉴定证据(如指纹分析、弹道学)与第二代证据进行区分的方法[56],区分的基础是第一代证据在适用、观测功能和机械功能十分有限并且设计狭窄;第二代法庭鉴定证据的特点是更为复杂、科学性更强,因此使用范围更广(如DNA分析、位置跟踪)。
法庭鉴定中的数字化分析工具可以与第一代证据(如指纹鉴定或者笔迹鉴定)区分开来,因为前者是由源代码而不是人的专业知识[57]指导,而且更难看到其背后的运作基本机制[58]。仅仅是这种透明度的缺乏就给查明案件事实中的可信性带来了巨大的风险,因为潜在的缺陷很难被事实认定者发现。虽然最近DNA测试的可信性引发了热烈的讨论,但其根本的技术却截然不同,因为DNA测试并不存在人工智能所能实现的代理(可能性),包括监控周围环境、评价人类行为和自主行动的能力。因此,机器生成的证据必须被视为第三代法庭鉴定的证据类型。
2)数字化分层和可信的事实调查
a.暗箱问题和专家证据
虽然使用者可能还看得见汽车中睡意检测系统的特定组件,但其背后的评估过程对使用者或法庭上的事实认定者来说并不完全透明。即使是被法庭传来解释机器证据的专家,在深入全面解释人工智能驱动的设备如何评估人类使用者的行为,或者展示清晰的因果关系链的方面也束手无策[60]。正是这些问题构成了当下研究人员正在研究的机器证据中的"暗箱问题"[61]。迄今为止,研究表明,人工智能可以被解释的程度与系统准确性(或者其他性能目标)成反比[62]。尽管如此,为了达到对证据充分的理解和对事实调查的值得信赖,我们仍然必须使用人类专家向事实认定者解释机器数据。但是说到准确的数据收集和评估,机器当属无可否认的超级优秀的"专家"。
无论事实认定者是陪审员还是法官,就一般的人的知识范围和理解能力来说,如何理解与可靠性问题有关的此类能自主进行评估的设备,以及设备在重构案件事实方面到底有用还是没有用等问题,都已经超纲了。正因如此,在查明事实中使用复杂的技术,使得专家证据在对抗式和审问式司法系统中都至关重要。
b.人工智能产生的机器证据
这场辩论主要集中在用于刑事诉讼的法庭鉴定工具上——即在后续进程中(可以)产生作为事实提供的证据的工具。围绕着为法庭使用而设计的数字化工具的可适用性问题另当别论,不是本文的重点。就机器生成的数据而言,它的生成并没有考虑刑事诉讼,而更重要的是,其产生过程中包括了机器对人类的观察和评估。
c.生成机器证据的消费品
连接人类和机器人的数字化界面经常被设计成针对消费品技术解决方案的一部分,比如自动化驾驶,如果这些数字化界面也能被用于执法目的,这些消费品就会提供巨大的可能性。
挖掘人工智能驱动设备的潜力也带来了大量的证据法方面的问题和在刑事诉讼中确定事实的一些问题,其中一些问题已经提到过【参见上文二3.2).a】。机器人和软件机器人具有一种几乎无限的、不知疲倦的能力来记录所处的环境信息,并且由于它们能够持续记录、评估和归档人类行为,因此它们也不只是单纯提供测试结果那么简单。在自动化驾驶的情况下,这种持续的监测为判定人类是否适合驾驶提供了大量的数据。
尽管有能力收集大量数据,但人工智能驱动的设备无法解释它们自己是如何评估人类行为或者做出决定的。因此,执法部门和法院必须谨慎对待他们从机器生成的数据中了解到的信息。
d.应对证据方面的挑战
前面的解释已经说明,机器证据对很多方面都构成了挑战。首先,人工智能产生的信息是以数字化方式存储的,必须由专家检索调取出来并予以解释。其次,更重要的问题是,使用人工智能来评估驾驶员灵敏度(alertness:/清醒程度)的证言可能会被定义为专业意见,但由于人类的理解力受到黑箱问题的限制,许多细节无法解释清楚[67]。尽管存在这些问题,但人工智能可能会扮演目击证人的角色,表明被告人的不法行为。人们担心事实认定者会像偶尔相信目击证人那样,毫不犹豫地相信这种陈述,这种担心似乎是有理由的。
3)证据周期和协助执法的消费品
今天,我们大多数人认为,在事实调查中越来越多地使用机器数据,包括法庭(如DNA测试)和非法庭(如GPS*的跟踪)技术,使得重建案件事实的准确性和客观性全面提高[75]。然而,除了巨大的隐私问题外,这个假设还带有盲目相信机器准确性的风险,而且鉴于大多数人,包括刑事案件中的法官和陪审员,都不了解基本的技术,因此这个假设是有悖于直觉的。
虽然对抗制的学者(特别是在美国)越来越多地谴责对这种不透明机制的盲目信任,并列举了20世纪60年代错误使用呼气分析器和21世纪DNA测试的错误鉴定的两个例子,但在欧洲却没有出现类似的辩论。此外,尽管美国有这样的学术争论背景,但是对于审查已被广泛认定为可靠证据的诉讼请求,大多数美国法院仍然十分慎重[76]。
在这个数字化的时代,我们还不清楚上述这种普遍问题将如何转化。随着人工智能驱动的消费品(如自动化汽车)的增加,评估机器证据的可信性问题可能会变得更加紧迫。随着高科技产品的增加和普及,随着机器证据在证据生命周期中的后移,特别是从太新而不可靠的阶段到新的但有待测试的阶段,其可信性也将变得日益重要。
机器证据目前仍处于第一阶段,其中原因有很多。首先,迄今为止,还没有已受认证的程序来支持生成的机器数据在刑事审判中使用的可靠性,因为这些人工智能产品的设计并不是为了准确记录用于刑事审判事实调查的具体数据,而是为了满足更广泛的消费需求。此外,这些数据由私人或者公司拥有,并存储在云系统中;而在云系统中,这些数据还可能被制造商以商业秘密特权为由进行加密和屏蔽[78]。
在这一点上,政府方对于消费品产生的任何一项机器证据的可靠性几乎一无所知。以睡意检测系统为例,在驾驶员不知道的情况下,算法的编写者可能将监测人类行为的智能系统设计得有些偏颇,从而使其将责任从汽车本身转移到人类驾驶员身上[79],以保护企业的自身利益。
造成系统输出不精确的方式有很多,包括编程阶段的人为错误、有偏见的算法或者有偏见的标准化数据,等等。相较于更受管控的政府设施,能够产生数据信息的消费类产品可能更容易存在不易为我们察觉的(可能是无意的)主观倾向。即使假设使用狭义人工智能的制造商会确保机器证据的最佳中立性,计算机工程师也会在无意中、不可避免地造成误差[80]。以睡意检测系统为例,选择某些特定的设计来捕捉驾驶员的脸部表情或者身体姿态,以及为实现一定功能而做出的牺牲,都可能会导致严重的后果。例如,需要考虑到不同种族之间眼睑位置的差异,以避免将个体差异错误地解释为困倦的迹象。类似的保障措施亟需制定,以确保算法设计特定程度的透明和真实[81]。
三、法庭上的人工智能:比较视角
1、对真相的追求
在任何刑事诉讼中,事实调查的主要目标是确立真相[82]。在德国和美国,人们寄希望于法院根据"真实的"事实作出有罪或者无罪的决定,因而真相的确定代表着极大的公共利益[83]。今天,这两种制度都以某种类型的辩诉交易(pleabargaining)来结束大多数刑事诉讼,这一制度并不一定与其寻求真相的承诺相矛盾,因为这两种制度运行的基础,都是假设被告人的坦白悔罪会揭示真相[84]。
当然,以寻求真实可信的证据为基础,这两种法律制度有着类似的规则,包括独立、公正的法官以及围绕证据程序的形式要求。尽管如此,对抗式审判和审问式审判所采用的程序方法还是非常不同[85]。产生这些不同最主要的原因在于事实调查主体的不同:在审问制中,事实调查机构是由法官和非专业人员组成的全体法官(/法官席bench),而在对抗制中则是法官或者陪审团。这种差异塑造了证据规则,包括如何使用陈述来确立事实,以及是否有必要作出经得起上诉审查的合理判决[86]。这两个司法管辖区追求真相的共同目标(尽管在程序上不同),以及它们对自动化驾驶和人工智能驱动设备的信任,就促成了有趣的比较研究。
2、对抗制和审问制法庭中的人工智能
近年来,随着人们越来越愿意与技术和人工智能驱动的设备进行互动,机器监测人类行为的机会大大增加。由此产生的机器证据可能会有力地促进事实调查,但是由于缺乏特定的工具来彻底审查其可靠性或者有效性,审问制和对抗制都必须依靠专家证人向事实认定者解释这种肉眼无法理解和把握的证据,因此,目前世界各地的刑事司法制度还不具备充分处理此类数据的能力。
1)现代法庭上的机器证据
在传统的证据与程序设计中,人们以正式的方式交流沟通、寻求真相,但是机器证据并不适合于此。因此,人们要么选择创造一种全新的模式来评价机器证据在刑事诉讼中的可靠性,要么重新思考现有的证据类型,并检视法律制度和司法过程中的薄弱环节,看看法官、检察官和辩护律师是否能够在现有法律制度的框架内,以某种方式充分审查此类证据[87]。
对于在刑事审判中机器证据的使用来说,专家证人至关重要。除了解释特定自主学习设备的影响、说明造成事实发现错误的可能原因外,他们还必须捕捉并释明特定数据是如何被记录的。在对抗式诉讼中,专家证据通常被用作案件当事人的部分陈述;而在审问制的调查中,检察官通常会委托专家,随后将他们的报告加入到案卷材料当中。需要注意的是,这些报告往往只是描述方法、解释结果,并不解释如何测量原始数据,也不说明数字化证据手段是如何设置和使用的[88]。因此,还不等辩方能够提出主张,质疑不同形式的证据为何应该或者不应该进入事实调查,专家报告对案件的叙述就已经纳入了卷宗。如果案卷中有证据报告,法官可以根据书面报告选择采纳专家证据,可以传唤专家出庭作证,也可以召唤其他专家提交新的报告[89]。法官还可以预见到进一步收集事实的需要,并在口头审理时传唤其他专家[90]。
在德国,辩护律师在审前调查结束前可以查阅整个案卷卷宗,并能请求法庭传唤专家出庭,以便对其进行询问。如果律师对专家的可信性有严重怀疑,他们可以带他们自己的专家到庭(只要有相应的资源),但法官作为事实调查的推动者,并不是必须听取这种证词。如果在法官看来,被质疑的事实已经被第一个专家意见明确证明(或反证),德国法律允许驳回(基于怀疑的申请)[91]。值得注意的是,这一规则不适用于以下情况:"第一位专家的专业能力受到怀疑,或者其意见基于不正确的事实,或者意见内容中有自相矛盾的地方,或者新专家掌握的研究手段可能优于前一位专家"[92]。随着证据在证据周期中位置的变化,这一法律规定有着不同的适用:法官更有可能允许多个专家对一项新颖的法庭技术发表意见,但是却很难倾向于请第二位专家对一项普遍可靠的、甚至是被盲信的证据发表意见。
德国的诉讼法是在十九世纪发展起来的,但是它至少在某种程度上受到了来自二十世纪五十年代欧洲人权法院(ECtHR)的判例法中对抗性理念的影响,该著名的人权法院是以《欧洲人权公约》(ECHR)为根据建立的[93]。特别是公平审判的理念,包括审查定罪证据的权利(《欧洲人权公约》第6条),对欧洲大陆的事实调查产生了深远的影响,并常常成为救济传统的审问制对个人权利保护不周时的手段[94]。根据《欧洲人权公约》第6条第3款(d)项[95],用质问不利证人的权利来质疑机器证据的可靠性的想法短期内不太可能被德国法院接受[96],但最近来自高等地区法院(即州的最高法院)的案例法确实表明,越来越多的法官可能对允许获取所谓"原始测量数据(实测数据)"的想法持开放态度,以便更彻底地审查类似数字化雷达枪一样的机器证据[97]。这些判决力求实现“双方信息平等(knowledgeparity)”,以努力达到关于《欧洲人权公约》第6条的欧洲判例法基准,进而实现控辩双方“武装对等(equalityofarms)”,并强化辩方在法官面前的庭审地位[98]。这一理念,虽然看起来是对抗性的,却是欧洲人权法院以大陆法和普通法传统为基础,建立一种跨法域的程序公平理念的尝试结果[99]。
这种新的论证思路在某种程度上与美国学者的呼吁相类似,即把机器证据看作是当事人提出的、为证明己方主张的真相(并且需要语境)的庭外证词[100]。即使人们认同,人工智能驱动的设备因其具有精密的设计、标准化数据的基础或者内置机器学习软件,而应接受与证人类似的可信性测试,也必须意识到,一旦这一论证观点被接受,可能会不恰当地使此类机器处于近似于自然人证人的地位。
为了说明这一点,如果让汽车中的人类乘客出庭作证来证明被告人的驾驶能力,证人在感知能力、潜在的偏见、错误的判断,甚至是故意撒谎(有可能被起诉并受到因伪证的刑罚处罚)等方面都会受到对方质问。就目前而言,即使仅仅是评估人类使用者并得出结论(比如驾驶员是否具有操作车辆的能力)这一方面,人工智能驱动的设备也无法接受相当于交叉询问(cross-examination)的同等审查。如果人工智能作出的这种测定被用作证据,法庭就应当特别审查它的设计、算法和机器的学习(/训练)数据方面。
考虑到人工智能驱动设备的复杂程度,以及企业保护自己商业机密的愿望,对设备内部运作的彻底评估和理解就只能在法庭之外进行,这使得事情就变得异常复杂。结果就是,在对抗制中,这种评估将不可能被庭审接纳。相反,只能请专家作为一种代理人,与特定设备直接接触之后,再出庭汇报检索、审查数据的结果,以及对设备的可靠性和有效性的判断。
2)机器证据关联性和可靠性的检测
在德国或美国,只有具备关联性和可靠性的证据才能在法庭上提出。虽然德国法律缺乏明确的有关证据可采性的要求、如何确定证据的可靠性的通行规则体系,但法院遵循的原则是,所有具有关联性的证据都应被认作其寻求真相任务的自然组成部分<[101]。
这一原则在普通法中也有规定,例如《美国联邦证据规则》在第401条和402条。虽然只有具备关联性的证据才可以被采纳,但并不是所有具备关联性的证据都可以被采纳。如果证据与其所提供的证明或者反驳的事实之间有特别的联系,该证据便是具有关联性的。不过这种联系不一定要强烈到仅凭单一项证据就可以决定某事实的可能性[102],如果该证据能够成为证据信息链中的一个环节,那就足以满足关联性的要求。设备在监测人类驾驶员的脸部表情时,或者因启动睡意警报时收集的数据可能具备关联性。但是,如果驾驶辅助系统对驾驶员行为的总体评估,被纳入证据之后与排除它相比,使一项重要事实更有可能或者更不可能,那么该证据也可能具备关联性。
证据除了需要具有关联性外,还必须是可靠的。例如,测谎仪所得证据缺乏可靠性,因此,美国联邦法院一般禁止使用测谎仪[107]。用托马斯大法官在Scheffer案中的话说,"对于测谎仪提供的证据是否可靠,根本没有达成共识。"[108]不过,一些联邦上诉法院已经放弃了这一排除规则,而是根据Daubert案确立的原则(多伯特标准)将采纳或排除的决定权交给地区法院自由裁量[109],为将来判断新技术的关联性和可靠性留出更多的回旋空间[110]。随着人工智能技术越来越有用且普遍,法官的态度可能会继续改变。
鉴于欧洲法院对使用测谎仪并未明确表态,人们可能会猜想,类似美国的情况是否会很快出现。1998年,德国联邦最高法院(Bundesgerichtshof)认为测谎仪证据是"一种完全不合适的证明手段",没有任何证明价值[111]。法院还认为,测谎仪对身体机能的测量,特别是对数据的登记和评估,缺乏足够的科学依据,不能被视为可靠的证据[112]。
尽管世界各地的法院对测谎证据态度不一,但技术仍在不断发展,人工智能驱动的面部识别技术和其他通过机器监测和评估人类行为的程序被使用的越来越多。因此,如果继续认为机器生成的证据不足以评估一个人的精神状态或预测人类的行动,刑事法庭可能会面临更大的困难。关于睡意检测系统,有证据表明,它们能很好地预测驾驶员短暂的打盹[113],正因为如此,这种技术将成为欧盟车辆安全措施的一部分。因此在欧洲,机器证据可能不久就会进入证据的生命周期[114]。
3)使用书面报告引入机器证据
如果机器证据被确定为足够可靠,那么是否可以在审判中以专家提交的书面报告的形式提出(而不是通过口头证词提出)证据?或者,因为机器的认定被作为所主张事项的真实性而提出的,从而引发了对质权,包括证人质询和传闻规则,这类报告是否会被排除?在德国,只要双方当事人信任法院指定的专家,并且可以通过案卷共享充分查阅报告,原则上这种报告是可以接受的。然而,在美国,鉴于长期以来对证据可信性需要进行当庭评估的传统,以及对何为"证词"(及其构成)有很宽泛的不同理解,此类报告提交庭审可能会遇到相当大的阻力。
a.德国
在调查阶段,被告人可以通过向首席检察官提供专家报告,非正式地提供专家证据来支持其主张。当然,这取决于被告人是否有财力聘请专家,以及是否能获得必要的案件资料[116]。这样的报告一旦产生,就会被控方加入到案卷材料中,然后被告方就会提出自己的证人意见。这样,案卷中的所有文件就成了法院调查真相任务的一部分,在案件进入审判之前,所有当事人都可以查阅案卷[117]。
审问式司法程序是建立在以下一般假设基础之上的:法官作为专业人员,在每个案件开始时都是公正的,并且有足够的经验来识别不可靠的证据。关于法庭的科学证据(forensicevidence)*,人们对与检方密切合作的各政府机构给予了很大的信任,而检方也必须寻找既能定罪又能免责的证据[118]。米里扬达马什卡(MirjanDamaka)认为,欧洲大陆阶段分工的案卷移送制度和非对抗性的诉讼传统,很可能是导致其缺乏明确证据规则的主要原因,而且这个问题在未来可能持续存在[119]。然而,审问制的一个特别重要的方面是允许在法庭外对专家进行充分的询问,人们也可以说,缺乏明确的证据规则为更灵活的制度选择提供了余地。
虽然如此,信任法官足够开明、执法机构足够公正显然是理想化的,而且需要人们对国家抱有很大的信心。传统上,所谓的安全网是通过上诉法院对事实的认定进行审查而形成的[120]。因此,在实践中,法官在执行诉讼程序时,都会考虑到上诉审查的可能性,因此,尽管缺乏严格的证据规则,但证据审查的程序是可以预见的。相应地,法官有义务在判决书中解释自己为何如此评价证据,法官的说理可能是全面的,这有利于法律程序透明化,但法官的判决也可能导致武断的千篇一律、一刀切,后者在上诉时或许能经得住审查、维持原判,但是却没有顾及到特定案件的具体情况[121]。
鉴于在调查阶段有各种方式获取证据,机器证据在这个制度中的发展路径就有些难以预料。机器证据会如何发展,在很大程度上将取决于检察机关,他们很早就通过案件卷宗设定了事实调查的蓝图,也取决于法官,因为法官最终决定一项证据在成为确定真相的可靠依据之前,到底需要受到多少审查。有趣的是,在过去的几年里,经过认证的数字化证据工具围绕着案卷的获取范围,或者更广泛地说,围绕着“信息对等”的理念,引发了一场激烈的辩论[122]。从目前的情况来看,检方或者法官只是将专家报告加到档案中,以便辩方查阅,但是报告并不包括数字化工具是如何工作的详细信息,法官也不向辩方提供任何收集或者获取这些信息的手段。最近,各地区高等法院的判例法对这一不足之处进行了审查[123],但联邦法院尚未就此作出裁决。不过,看来今后专家很可能会提出比现在更加详细的机器证据,无论是采取书面报告还是口头报告的形式。
b.美国
与欧洲大陆相比,在美国记录不出庭的专家调查结果的报告会遇到更多来自辩方的阻力[124]。也就是说,在现行的证据制度下,法院在法庭上询问证人时,往往依靠法律备忘录和科学文件资料,而不是口头听证[125]。这种做法是否也应该适用于在法庭上出示的机器证据?反对这种新事物的学者们已经详细解释了使用机器证据在设计上的缺陷(暗箱问题),同时其他的人机错误也会导致的不可靠的事实认定。他们将这种缺陷比作隐藏在证人证言中的传闻危险,因此反对采用书面证据的提议[126]。
传闻规则是否以及何时应适用于专家报告[127],或者是否应将报告(和其他书面证据)作为事实的主张予以接受,这是一个有争议的问题,判例法也尚未作出任何澄清[128]。下文的论述也是证人证据问题讨论的一部分【见二、3、3)】。值得注意的是,有学者提出这样的论点:就机器证据而言,用多样的代替性方案取代要求严格的言词(口头)听证,对于需要复杂手段才能全面检测的智能仪器来说,可能更为有效[129]。鉴于当今的法院和立法机构往往更愿意进行庭外的评估和实验,这一主张可能会得到支持[130]。
从比较的角度看,如果机器证据可以作为书面证据提出(例如,作为传闻规则例外的实验室报告),其可信性可以通过披露来评估。换句话说,被告人将有权与执法部门对证据可靠性有同等程度的了解。根据传闻例外所采纳的庭外机器的或者自然人的主张,可以通过辩护方主张机器是陈述人(declarant)来进行测试。辩护方可以利用"陈述人"任何前后不一致的叙述来质疑其可信性[131],包括引用睡意检测系统的有效性测试(亦或缺乏有效性测试)。
尽管有这一义务,但在消费品产生的定罪性机器证据的案件中,检方往往不掌握那些有可能会破坏法院对汽车驾驶辅助系统所产生的数据的信任的材料。睡意检测系统所使用的源代码、机器训练数据和算法通常会由汽车制造商掌握,制造商可能会以商业秘密特权为由拒绝出示这些材料[139]。因此,被告人如果想寻求质疑这些数据的可用材料,就不能仅仅依靠检方已经掌握的东西。机器证据不同于专门设计用于事实调查的法庭数字化工具(如呼吸测试器或者DNA采样),因为《联邦刑事诉讼规则》强制要求披露后一类信息[140]。尽管有这一规则,但法院一直不愿意批准披露任何用于编制最终报告的"基本文件",尤其拒绝披露使用的数字化工具进行法庭电子取证的文件[141]。类似的问题很可能出现在人工智能使用大数据进行预测的情况中。此外,法院将如何应对作为证据的、由消费品产生的数据,还有待观察[142]。
4)机器证据与情景化和质询的需要
当机器证据被作为事实真相提出时,法律保障措施无论是在德国(如查阅案卷、直接言词原则、证人出庭义务和对质权)还是在美国(如对质和质询证人的权利、反对传闻的规则),都不能保证有效的事实调查,因为这两种制度都缺乏足够的手段在法庭上"对质"这类证据,并对其进行彻底的审查,以及为事实认定者提供必要背景。
如果假设通过书面报告提出的机器证据可以作为预先录制的证词,作为所主张事项的真相提出,那么问题就有根本上的不同。根据最高法院在Crawfordv.Washington一案中的裁决,一项被视为属于证供性质的陈述,不得针对被指控人在审讯中提出,除非被指控人已经有机会质证作出该陈述的人,而后者又无法在庭审中作证[150]。然而,如果一份陈述不被视为证言性质,则对质条款对采纳该陈述不会构成什么障碍。
"证言"一词的含义,或者说,哪类证人会触发对质条款,一直是激烈辩论的主题[151]。在欧洲,欧洲人权法院曾处理过第6(3)(d)条下的对质权产生的一些诉讼[152]。美国的主流原则规定,如果控方证人不能在审判中作证,则除非辩方事先有机会通过交叉质询对该等陈述提出质疑,否则控方证人的陈述必须予以排除[153]。欧洲的学说(原则上)则含糊得多,因为欧洲人权法院目前采用的是在Al-Khawaja&Taheryv.U.K.一案中首次提出的三步分析法[154]:(1)审判中证人缺席是否有充分的理由;(2)定罪是否完全或决定性地基于缺席证人的陈述;(3)是否存在足够的平衡因素,"以补偿因采纳未经检验的证据而给被告造成的障碍,并确保整个审判是公正的"[155]。"欧洲人权法院在最近一个涉及德国的案件中适用了这一检验方法,强调审判法院有义务"谨慎对待缺席证人的未经检验的证据",并寻找确凿的证据[156],这说明了这一判例法的不可预测性[157]。
虽然对美国权利的严格解释在实践中可能也在减弱[158],但学者们坚持认为,宪法保护要求证人宣誓,并由被告人亲自对质,在交叉质询下坚持其主张[159]。为了防止虚假指控,使得事实认定者更准确评估陈述的可信性,通常宣誓作证者也需要出庭,以便事实认定者能察其言观其色。
但是以上问题在机器证据的情况下显得毫无意义,因为它不可能在法庭上经历类似的审查过程。将人工智能驱动的设备替换成它的创造者的方式,似乎也不太可行。这不仅仅是因为人工智能的制造和操作通常涉及到许多个人,即便在使用了可以自主学习的机器的情况下,也没有一个人能够完全解释机器人的行动[160]。在审核自然人的证词时,我们希望知道特定的事实因素是如何被感知并考虑的,以及这些因素如何导致人类得出特定的结论,但是今天的技术下,人工智能还无法回答这些问题。尽管人们在"可解释的人工智能"或者可被人类解释的机器自主学习模型的开发以及能够自我解释的人工智能的创建方面已经做了大量工作,但在可解释的决策方面,有意义的进展微乎其微[161]。鉴于某些信息可以仅从其系统中获得,对人工智能进行充分的审核似乎是不可能的;但研究人员仍在努力实现这一目标,尝试使人工智能自行解释内部运行机制。最近,在教会图像识别软件展示其做出结论的证据基础这一方面,各方科学家小有进展[162]。
目前,我们需要功能相当的手段来评估人工智能的陈述,这不仅需要专家证人的解释,而且要提供机器运行的全部过程,具体包括:数据的输入、数据如何被处理以及直接来自机器的、而不是经过专家解释的一手运行结果(就像我们不允许专家作为人类证人证言的中间媒介一样)。
审问式传统允许在诉讼程序中使用传闻证据,这是它与对抗模式的若干根本的区别之一[173]。乍一看,人们可能会认为德国的制度与美国坚持严格适用传闻证据规则形成了鲜明的对比[174]。然而,仔细比较德国和美国的联邦证据规则,就会发现这两种制度之间的一些共同点。例如,两者对于详细说明实验室调查结果的报告都采取了类似的办法,包括必须传唤谁出庭解释实验结论[175]。
由于法律改革和对法官的高度信任,对证人陈述的可信性的评估由法院负责。证人不会被安排到(控方或者辩方)"一方"(选边站队),而是中立的,作为法院整体真相调查任务的一部分[178];控辩双方询问证人的权利,其行使方式也不如对抗制的当面诘问形式正式。鉴于德国的这种诉讼结构,要求对作为准证言提供者的机器人进行相当于对证人的询问,似乎并没有不合理的地方。
如果联邦法院将机器证据视为一种预先录制的证人陈述,需要接受交叉询问以确定其主张的真实性,那么谁会被传唤到证人席?是机器?还是机器背后的人?
有趣的是,这个问题引起了美国法律学者的激烈争论[181],但它也暗示了对抗制与审问制的交叉融合。在美国对抗式诉讼制度的集体记忆(传统观念——译者)中,传闻证据排除是不可或缺的。在Crawford一案中,斯卡利亚大法官解释了为什么在美国法庭上向裁判官提供的证词通常是不充分的,尽管在大陆法系司法管辖区认为并不如此[182]。虽然在审问式事实调查过程中,证人证言和专家证言可以由双方当事人和法官进行评估,但是在对抗式诉讼中,这些信息仍然是不可采纳的,除非属于例外情况。因此问题就在于:证据的可靠性和可信性的基础是某一项复杂的技术,而这项技术的运作原理必须能被人们理解、被后续测试,并能向事实认定者充分解释。正是由于这个原因,一些学者认为,应当扩大现有的可信性测试形式,或者为机器证据创造一个类似于测试证人证言可信性的检测方式[183]。
与其对负责设计具体软件的程序员进行口头质询,不如在审判前通过让双方获得某些信息,以便发现机器在错误的设计和数据生产方面存在的总体上潜在的缺陷。理想的情况下,此类信息包括源代码、标准化数据和训练数据(在适用的情况下尊重商业秘密),以及对机器进行实验和分析算法系统的可能性[188]。对机器的这种测试可能相当于庭外的"对抗",随后需要由参与评估的专家向法院介绍以上的所有内容。
5)机器证据通过专家证言翻译的必要性
由于必须对人工智能生成的数据进行解释,机器证据和专家证词密不可分。在德国的制度中,法官作为事实调查者,通常会在认为自己缺乏必要的专业知识时聘用专家,但被告人却几乎没有可采用的方式质疑法院的专家证据。在美国,由于专家由当事人一方聘请,所有可能存在偏袒、片面的陈述,所以这些专家提供的结论有可能不再只是一般的科学知识,而是误导事实认定者的内容。当经济拮据的被告人没有资源聘请受人尊敬又有经验的专家时,面临的这种风险会更大。
在审核人类专家证言时,程序法一般允许对专家得出结论的过程进行评估。在人工智能生成的信息被认定为证据时,类似的评估也是必须的,但很可能有不同的评估模式。尽管如此,事实认定者必须明白机器如何收集信息、评估信息并做出判断。最好的方式是事实认定者直接了解人工智能驱动的设备或者软件本身,但就目前的情况而言,我们不得不借助于人类专家的解释去理解智能设备的运行,而专家的解释又受到暗箱问题的限制,我们还要考虑到这一不利事实:解释若追求能被普遍理解,就必定会失于精确[189]。那么问题就来了,面对一个既不能为自己说话,也不能解释其评估结论的人工智能驱动的设备,人类专家虽然可以对它进行解释,但是又如何保障专家证言背后可能存在的对于可信的事实调查的风险呢?
一种行之有效的方式是,允许对机器证据进行全面的庭外测试,并将复杂的测试结果汇编成各方共享的案卷,特别是针对人类专家提供有关机器数据证据的情况下。这种形式能够使得法庭充分评价人工智能驱动设备准确评估人类行为的能力的优势和弱势,但是缺点在于,无法确保公正性和法官自行评估的准确性[190]。
虽然侦查期间的事实调查和庭审前的准备工作由检方和法院决定,不过被告人试图质疑法院接受书面专家意见时,则有三种选择。首先,被告人可以带自己的专家出席口头听证会[194]。然而,在审问式诉讼中,自行聘用并自行支付专家出庭是例外而不是常规。除了实际上的困难之外[195],如果发现待证明的事实已经确定,或者法院认为被告方提出要求专家意见的动议只是为了拖延诉讼[196],当然还有其他原因,那么被告人还需要克服法律规定允许法官拒绝听取专家意见所带来的障碍[197]。
其次,辩方可以在主审准备期间提议提交新的专家意见,此时被告人必须陈述这样做的事实理由以支持提取新的证据。理由说明可以在检方向法院登记案卷后进行[198]。如果检方在审前调查期间已经委托了一名专家,应立即通知辩护律师[199]。
第三种也是最有效的方式,是根据第244条要求审判法庭为被告人指定一名额外的专家[200]。然后,法官必须传唤专家,除非它认为额外的专家意见"是多余的,因为该事项是众所周知的,要证明的事实与本案无关或者已经得到证明,证据完全不合适或者无法获得,提出申请是为了延长诉讼程序,或者一项旨在提供证明以使被告人免罪的重要说法,可以像所称的事实属实那样来对待(即一项若被证实则会脱罪的重要指称——译者)。"[201]如果法院本身拥有必要的专业知识"或"如果第一个专家意见已经证明了与指称事实相反的事实"[202],法院也可以驳回提供额外专家证据的动议。"然而,该规则不适用于"以下情况:第一位专家的专业能力受到怀疑,他的意见是基于不正确的事实假设,意见中包含矛盾,或者新专家掌握的研究手段有可能优于前一位专家的研究手段"[203]。
由于辩方可以查阅全部卷宗,至少在假设的情况下,它应该知道提出的专家意见是否符合一般标准,或者是否有新的方法。值得注意的是,法院驳回补充专家证据的动议是可以上诉的[204]。然而,虽然有大量的判例法涉及到法官何时可以驳回这种动议,但大多数判例法并没有深入探讨在对抗性诉讼中经常受到质疑的事实调查的可信性问题,而是侧重于法官本身在没有专家协助的情况下评估有争议问题的能力问题[205]。
遗憾的是,如果法官认为自己能够回答机器证据本身的具体而复杂的科学问题(往往是不太现实的自我评估),或者已经倾向于相信某位专家,那么任何一方都没有办法对此信念提出质疑[206]。在这些案件中,如同在处理法官过早评估事实问题的其他案件中一样,可能特别难以确保法院对新类型的证据保持开放的态度[207]。
美国法律提供了一个带有高度倾向性的结构来检验专家证据,这是一种彻底的庭外测试手段(尽管还不发达),其强烈倾向于让事实认定者能够不受干预地接触任何特定意见。以自动化驾驶为例,这将转化为希望所有人工智能的证据用途在法庭上公开化,以确保它在司法程序上的可信性[209]。在机器证据的评估方面,美国的制度在庭外证据测试方面完全没有变通,仍然坚持人们应当能与人工智能技术的"直接"交流。这也让人相信,尽管人们试图通过向事实认定者提供客观的科学知识来提高事实调查的可信性,但专家可能存在偏见。
使用多伯特(Daubert)标准来确定机器证据的可采性,将有助于排除明显不可靠的机器证据。然而,这一特测试对于人工智能生成的人机交互数据的有效性仍不清楚,因为生成数据的消费品将如何作为法庭证据还不甚明晰。那么问题就变成了,除了最极端的案例之外,这种听证会还有多大用处?可能的情况是,只要有一些验证性研究证明机器的出错率很低,而应用的方法是合理的[213],大多数法官就会接受机器证据;但是,几乎可以肯定,商业自动化系统不会被公开、接受同行评审,针对机器设备的研究依旧有必要进行。显然,多伯特(Daubert)标准并不适用于机器生成的结论,而是适用于包含这些结论的证人陈述。正因为如此,问题其实是多伯特测试是否可以、是否应该被修改。如果陪同机器进入法庭的专家是机器信息的"单纯抄写者"[214],那么专家必须通过多伯特(Daubert)测试;如果机器的评估被用来证明对案件有重要意义的事实(比如评估驾驶员事实上已经犯困),那么机器本身必须通过多伯特(Daubert)标准测试。
涉及在法庭环境中使用数字化工具(如DNA测试)的判例法表明,数字化工具就类似于上述的证据生命周期[224]。如今,大趋势是采用更严格的标准,联邦证据规则咨询委员会讨论了可能增加第707条规则的问题,该规则将限制司法自由裁量权,以提高专家证据的可靠性[225]。它还将扩大适用至庭外陈述,以便事实认定者能更好地理解复杂的证据问题。
6)文本化(情境化)和可信性测试的新机制
对审问式和对抗式刑事司法系统的比较分析表明,如果机器证据进入法庭,就会出现新的证据问题,而且可能没有统一的解决方案。人机互动在增加的同时,我们获取海量信息的潜力也在释放,前提是我们不考虑其可靠性的基本问题,也不考虑我们尚无有效手段充分评估这些信息。此外,使用这些数据还会引起对商业秘密和隐私的进一步问题,但是这些超出了本文的范围[227]。
尽管如此,对比分析为机器证据的独特性质提供了有价值的信息,也为人工智能在各法域的法庭上可能造成的证据问题提供了更加清晰的认知。传统上,纠问式(如今的审问式)和对抗式系统维持事实调查可信性的方式,都是指出证据程序中的人为错误。如果试图在刑事诉讼中引入机器证据,这两种诉讼模式都必须修正其传统方法。在某些方面,这两个司法管辖区的结论是相同的:必须承认人工智能的独特地位,必须让诉讼各方,以及法院和公众,看到人工智能所承载的信息。
在对抗制中,这将意味着改变以法庭为中心的证言模式[229]。为了确保智能机器的可信性及其证据的可靠性,可能要在独立于案件的法庭之外对基础技术的复杂性能进行更好的审查[230]。评估机器的设计、学习模式、源代码和其他编程的专家,可能在法庭外能够更好地对其可靠性和可信性做出初步决定,这些初步决定可以作为对案件中所提供的证据的个人评估[231]。法庭可以考虑接受此类新的证据代理方式,因为他们在评估智能机器证据可信性方面做出了必要的贡献[232]。
在审问制中,必须设法解决事实调查程序中对传统辩护工具的坚定信任的问题,而传统辩护工具的基础是假定法官能够在整个诉讼过程中保持开放的心态。要做到这一点,可以赋予被告人(必要时)对法官和专家提出质疑的权利,这就超越了目前仅仅允许被告利用案卷中的报告准备辩护的框架。这也是因为现有的证据工具可能无法解决机器证据可靠性的关键问题[233]。关于机器证据,需要从以法官为主导的模式转变为以审查为导向的模式,即根据《欧洲人权公约》第6条对所有提供定罪性证言的证人进行评估[234]。德国大多数地方高等法院都采用了这种更具对抗性的方法处理机器证据,用这种方式在审查数字化证据工具方面也更有前景[235]。
四、结论
在刑事审判中,如果机器证据被作为证据提出,就必须对其进行充分的背景分析和可靠性测试。这种证据——就像人类的证词一样——不是无懈可击的[236]。有些智能设备难以被人们理解,而且最初作为满足消费者需求而生,当这些不透明的设备的数字化输出逐渐被法庭接受为事实或者间接证据时,立法机构和法院必须以开放的心态和批判的态度处理这个问题[237]。
随着人工智能在人类生活各领域的兴起,法律学者指出,我们对机器运作的规律性和公正性的假设往往是不准确的,这一点很重要[238],必须考虑多方面的因素。跨领域的研究表明,人工智能驱动设备的物理形状和认知能力直接影响我们对其可靠性、健全性和整体“特性”的认知[239]。我们很少意识到这一事实,遑论质疑设备的哪些特征,会引起我们对其结果的可靠性的信任或者怀疑[240]。
从法律角度来看,如何在刑事诉讼中使用人工智能生成的证据仍然是无解的。法律没有提供围绕审查"智能机器"可信性的规则,只要机器和软件缺乏必要的特征来使其就其结论接受有意义的交叉询问,法律就会继续把它们只是当作没有传达自主信息的、只会数字化运算的工具。这种武断的做法受到了批评,认为它没有暴露出刑事诉讼中可靠的事实调查的所有潜在风险[241]。
比较的视角可以帮助我们发现解决机器证据问题的潜在方法。对抗制创造了审查证据可靠性的工具,而审问制则发展了一种连续的庭外证据收集模式,使各方能够有意义地评价复杂的证据。
机器证据的基本问题对所有法域都是一样的。鉴于人工智能产生的数据无法像人类证人那样经过审查,但在数据处理和评估系统中,人工智能仍然可能出现类似人类的偏见,那么到底如何对其进行充分的审查呢?我们知道机器和软件虽然在法庭上看不见,但却可能成为起诉的积极推动者,我们如何利用这些数据?
如何处理像刑事诉讼中机器证据的使用这样的新问题,是普遍存在于所有司法系统的众所周知的困境[242]。我们是从技术角度还是法律角度入手,即代码服务于法律抑或法律服务于代码?[243]这一阶段的决定不仅决定了对抗制和审问制在未来面临的问题是相似的还是不同的,也决定了事实调查是否仍然是我们所熟知的以人为本的程序,即专注于向事实认定者提供透明的、(理想的)客观的信息以帮助决策。
因此,现在是为高度智能化环境下的刑事诉讼的事实调查做准备的时候了。要做到这一点,我们首先必须了解各类机器证据的特点,并与有资历的专家合作,既要了解技术,又要搞清基本的法律概念[245]。只有这样,才能在法庭上从所有必要的角度对人工智能驱动的设备进行有意义的评估。如果从技术角度(从而要求技术为法律服务)解决将机器证据纳入刑事审判事实认定的问题,对抗制和审问制将面临同样巨大的挑战。理论上,两种诉讼模式都可以采取类似的行动,比如对人工智能驱动的设备进行认证,提供对源代码的开放访问,以及指定机器学习的标准参数等。如果要寻求新的法律解决方案,每种模式都需要找到自己的答案,不过向对方借鉴经验仍然是可取的。机器证据可能会遵循技术证据的生命周期:起初,证据被认为形式太新而不可靠;随后,它被纳入需要经过检验的新证据,进而成为总体可靠的、偶尔出差错的证据;最后,许多证据达到了被盲目信任的程度。回顾刑事司法的近代史,它告诉我们,扭转证据循环是一场艰难的战斗,而在这场战斗胜利之前,司法错误给人类造成了巨大的痛苦。对于法庭上的人工智能,人们应该采取哪些程序性保障措施,将是非常重要的。
无论人工智能是否成为入罪[246]或者出罪[247]的新工具,在刑事诉讼中使用机器证据的事实调查过程中,我们必须确保其可信性。一般来说,尽管有大量证据的可靠性受到质疑,但人类还是会相信对方的证词。我们能够被证据说服,因为我们可以诉诸人类的感知和经验来求证其真实性;总之,我们拥有同理心。机器证据可以试图创造一个类似的印象,或许,正是因为机器缺乏人类的同理心,反而能够弥补我们缺失的所谓的客观性。我们目前还不完全清楚,为什么人们倾向于直接相信人类同胞的陈述。也许是因为我们相信人们固有的善良,或者我们认为人类害怕因作伪证而受到处罚。然而,我们今天所知道的人工智能却不受这些限制。
如果法律要跟上科技快速发展的步伐,这些问题亟待解决,而解决这些问题的最好办法就是对抗式和审问式司法制度之间的相互学习。没有任何一种证据制度是完美的,但是让美国的司法制度引以为豪的,正是它的强大、灵活和勇于尝试新的方法[248],现在是再次发挥这些优势的时候了。事实认定者不应仅仅因为出现了一种我们不熟悉的、目前还不能被有效质证的新证据,因此就在证据的可靠性和可信性上做出让步。为了维护刑事审判中事实调查的真实性和合法性,我们的法庭(事实认定者)仍然必须坚持以人为本的原则。
【注释】
中国人民大学法学院杨文萱同学和中国社会科学院大学梁旭婷、刘砥柔同学对译文进行了仔细校对,中国政法大学证据科学研究院林静副教授对译文进行了批判性审读,对她们的专业贡献在此特致谢意。
[1]围绕人工智能的定义问题的详细讨论,参见MatthewU.Scherer,RegulatingArtificialIntelligenceSystems:Risks,Challenges,Competencies,andStrategies,29Harv.J.L.&Tech.353,358–69(2016).
[2]SeegenerallyMireilleHildebrandt,AmbientIntelligence,CriminalLiabilityandDemocracy,2Crim.L.&Phil.163(2008)(讨论的是环境智能对刑法的影响).
[3]AndreaRoth,MachineTestimony,126YaleL.J.1972,1979(2017).
*black-box:电子技术用语上,是指未知框;航空术语,是黑匣子;鉴于所指的是不透明的意思,本文采用便于理解的“暗箱”——译者注。
[5]参见ErinMurphy,TheNewForensics:CriminalJustice,FalseCertainty,andtheSecondGenerationofScientificEvidence,95Calif.L.Rev.721(2007);BrandonL.Garrett,BigDataandDueProcess,99CornellL.Rev.Online207(2014);ChristianChessman,A“Source”ofError:ComputerCode,CriminalDefendants,andtheConstitution,105Calif.L.Rev.179(2017).
[10]RyanCalo,RoboticsandtheLessonsofCyberlaw,103Calif.L.Rev.513,530–31(2015).
[11]Id.
AnIntroductiontoComparativeLaw33(3ded.1998).
[13]AxelTschentscher,DialektischeRechtsvergleichung–ZurMethodederKomparatistikimffentlichenRecht(辩证的法比较——论公法中比较学的方法),17Juristenzeitung807(2007)(Ger.).
[14]AnneliseRiles,Wigmore'sTreasureBox:ComparativeLawintheEraofInformation,40Harv.Int’lL.J.221,225(1999);Foranexampleofcomparativecontextualization,seeMirjanR.Damaka,OfHearsayandItsAnalogues,76Minn.L.Rev.425,431(1991–1992).
[15]OliverBrand,ConceptualComparisons:TowardsaCoherentMethodologyofComparativeLegalStudies,32Brook.J.Int’lL.405,415(2007)(传播了另一种功能比较理论,这种作者使用了其中的一个变种).
[16]参见MarkusEnzweiler,TheMobileRevolution–MachineIntelligenceforAutonomousVehicles,57Info.Tech.199(2015).
[17]SabineGless,EmilySilverman,&ThomasWeigend,IfRobotsCauseHarm,WhoistoBlameSelf-drivingCarsandCriminalLiability,19NewCrim.L.Rev.412(2016);SusanneBeck,RoboticsandCriminalLaw.Negligence,DiffusionofLiabilityandElectronicPersonhood,inDigitizationandtheLaw41,46(EricHilgendorf&JochenFeldleeds.,2018);SabineGless&ThomasWeigend,IntelligenteAgentenunddasStrafrecht,126ZeitschriftfürdieGesamteStrafrechtswissenschaft561,578(2014)(Ger.).
[18]YanchaoDongetal.,DriverInattentionMonitoringSystemforIntelligentVehicles:AReview,12IEEETransactionsonIntelligentTransp.Sys.596(2011);LuisM.Bergasaetal.,Real-TimeSystemforMonitoringDriverVigilance,7IEEETransactionsonIntelligentTransp.Sys.63(2006).
[19]MadelineRoe,Who’sDrivingThatCarAnAnalysisofRegulatoryandPotentialLiabilityFrameworksforDriverlessCars,60B.C.L.Rev.315,319(2019).
[20]Cf.VivienMelcheretal.,Take-OverRequestsforAutomatedDriving,3ProcediaManufacturing2867(2015);TobiasVogelpohletal.,AsleepattheAutomatedWheel—SleepinessandFatigueDuringHighlyAutomatedDriving,126AccidentAnalysis&Prevention70(2018);JoelGonalvesetal.,DrowsinessinConditionalAutomation:Proneness,DiagnosisandDrivingPerformanceEffects,2016Inst.OfElectricalandElectronicsEng’rs(IEEE)19thInt’lConf.onIntelligentTransp.Sys.(ITSC)873.
[21]参见Regulation(EU)2019/2144of27November2019onType-ApprovalRequirementsforMotorVehiclesandtheirTrailers,andSystems,ComponentsandSeparateTechnicalUnitsIntendedforsuchVehicles,asRegardstheirSafetyandtheProtectionofVehicleOccupantsandVulnerableRoadUsers,2019O.J.(L325)1.
[23]AchtesGesetzzurnderungdesStraenverkehrsgesetzes[EighthAmendmenttotheRoadTrafficLaw],BGBlIat1648(Ger.).
[26]Lemley&Casey,supranote9.
[27]然而,人工智能驱动的设备在传达自身诉求的层面上有所不同。因此,区分它们的复杂性、不透明性、对(特定情形)人类操作的敏感性以及在案例中的具体用途,将是非常重要的。参见,e.g.,Roth,supranote3,at1979,1986-93,2002-22。
[28]自动化技术的运行速度和效率远远超过了大多数驾驶员的处理能力。
[29]See,e.g.,hrisSchwarz,JohnGaspar,ThomasMiller&RezaYousefian,TheDetectionofDrowsinessUsingaDriverMonitoringSystem,20TrafficInj.Prevention157-161(2019).
[30]现有的技术并没有止步于此——执法机构还广泛使用新的工具,例如,在决定保释还是释放时,以及在追捕嫌疑人或者潜在行为人时,计算风险。AndreaRoth,TrialbyMachine,104GEO.L.J.1245(2016)。
[31]McCarthy,supranote6;Bathaee,supranote6.
[32]Calo,supranote10,at534.
[33]Scherer,supranote1,at358–69.
[34]Gless,Silverman&Weigend,supranote17.
[35]DafniLima,CouldAIAgentsBeHeldCriminallyLiableArtificialIntelligenceandtheChallengesforCriminalLaw,69S.C.L.Rev.677(2018);YingHu,RobotCriminals,52U.Mich.J.L.Reform487(2019);seealsoJohnC.Coffee,NoSoultoDamn:NoBodytoKick:AnUnscandalizedInquiryintotheProblemofCorporatePunishment,79Mich.L.Rev.386(1981)(广泛地分析了对非-人类的处罚).
[36]MonikaSimmler&NoraMarkwalder,GuiltyRobotsRethinkingtheNatureofCulpabilityandLegalPersonhoodinanAgeofArtificialIntelligence,30Crim.L.F.1(2019).
[37]Gless,Silverman,&Weigend,supranote17,at412.
[38]Id.
[39]Scherer,supranote1,at358,366–67;WolfgangWohlers,Individualverkehrim21.Jahrhundert:dasStrafrechtvorneuenHerausforderungen(21世纪的私车交通:面临新挑战的刑法),3BaslerJuristischeMitteilungen113(2016)(Ger.).
[40]参见SabineGless&SylwiaBroniszewska-Emdin(eds.),ProsecutingCorporationsforViolationsofInternationalCriminalLaw:JurisdictionalIssues,88Int’lRev.ofPenalL.(SpecialIssue)1(2017)(提供的是一个比较性的概览).
[41]Statev.Lance,No.48-2012-CT-000017-A/A,slipop.at24(Fla.OrangeCountyCt.Sept.22,2014).
[42]Murphy,supranote5,at728–44.
[43]SeeJamesE.Bibart,MetadatainDigitalPhotography:TheNeedforProtectionandProductionofthisSilentWitness,44Cap.U.L.Rev.789(2016).
[44]SeeinfraPartIII.B.3.
[45]See,e.g.,Murphy,supranote5,at775;Roth,supranote3,at1979,1986–93,2002–22;JosephC.Celentino,Face-to-FacewithFacialRecognitionEvidence:AdmissibilityUnderthePost-CrawfordConfrontationClause,114Mich.L.Rev.1317,1331–33(2016).隐私权问题方面的讨论,seeKatherineStrandbergh,Home,HomeontheWeb:TheFourthAmendmentandTechnosocialChange,70Md.L.Rev.614(2011);JasonM.Weinstein,WilliamL.Drake&NicholasP.Silverman,Privacyvs.PublicSafety:ProsecutingandDefendingCriminalCasesinthePost-SnowdenEra,52Am.Crim.L.Rev.729(2015).
[47]OrinS.Kerr,DigitalEvidenceandtheNewCriminalProcedure,105Colum.L.Rev.279,285–306(2005).
[48]See,e.g.,DonaldA.Dripps,“DearestProperty”:DigitalEvidenceandtheHistoryofPrivate“Papers”asSpecialObjectsofSearchandSeizure,103J.Crim.L.&Criminology49,53–54(2013);Kerr,supranote47.
[49]See,e.g.,JoshuaA.T.Fairfield&ErikLuna,DigitalInnocence,99CornellL.Rev.981,1032–38(2014).
[50]Garrett,supranote5,at208–09.
[51]从历史上看,号称"客观"的新技术首先被用来对付被告人,但最近被告人(至少部分地)已经把这一观念扭转了过来。Roth,supranote30,at1254-64.
[52]参见Fairfield&Luna,supranote49,at990(倡导将数字化设备转化为证明无罪技术的要求).
[53]Kerr,supranote47,at298–99.
HelpedCracktheGoldenStateKillerCase,MercuryNews(Apr.30,2019),
www.mercurynews.com/2018/04/26/ancestry-23andme-deny-assisting-law-enforcement-in-east-area-rapist-case(illustratingthesuccessfuluseofan“opensource”genealogywebsite).
[55]Roth,supranote30,at1254–64(提供了此种工具的历史).
[56]Murphy,supranote5.
[57]源代码是驱动着人类程序员的创造行动的IT程序的基本组成部分。
[58]Roth,supranote30,at1269–76.
[59]ThomasWeigend,EvidenceLawimanglo-amerikanischenStrafverfahren,inBeweis253–65(ThomasFischered.,2019)(Ger.).
[60]参见FinaleDoshi-Velez&MasonKortz,AccountabilityofAIUndertheLaw:TheRoleofExplanation(BerkmanKleinCtr.WorkingGrp.onExplanationandtheLaw,BerkmanKleinCtr.forInternet&Soc’y,WorkingPaper,2017).
[61]参见CaryCoglianese&DavidLehr,RegulatingbyRobot:AdministrativeDecisionMakingintheMachine-LearningEra,105Geo.L.J.1147,1160–1,1167(2017)(讨论的是暗箱问题);seealsoFrankPasquale,TheBlackBoxSociety:thesecretalgorithmsthatcontrolmoneyandinformation(2015)(提供的是更为详细的讨论).
[62]参见Doshi-Velez&Kortz,supranote60,at2.
[64]Fed.R.Evid.706.
[66]参见Roth,supranote3,at1979,1986–93,2002–22;Roth,supranote30,at1301(创造的是“机器证言”和“自动化证明”两个术语);cf.Chessman,supranote5,at197,183,206,222(使用的是“计算机程序创造的证据”这个短语).
[67]DanielJ.Grimm,TheDarkDataQuandary,68Am.U.L.Rev.761,819(2019).
[68]参见JenniferL.Mnookin,OfBlackBoxes,Instruments,andExperts:TestingtheValidityofForensicScience,5Episteme343(2008);Bathaee,supranote6.
[69]See,e.g.,UnitedStatesv.Beasley,102F.3d1440,1448(8thCir.1996);USv.McCluskey,No.10-2735JCH,2013WL1239717at2(D.N.MJuly2,2013);Texasv.JosiahSutton(DistrictCourtofHarrisCounty,CauseNo.800450)(2003);Peoplev.Castro,545N.Y.S.2d985,987(N.Y.Sup.Ct.1989);Statev.Butterfield,7P.3d1133,1143(Utah2001);Spencerv.Commonwealth,384S.E.2d785,797–98(Va.1989).
[70]SeeJayD.Aronson,GeneticWitness:Science,LawandControversyintheMakingofDNAProfiling(RutgersUniversityPress2007).
[72]FrederikaA.Kaestle,RickyA.Kittles,AndreaL.Roth&EdwardJ.Ungvarsky,DatabaseLimitationsontheEvidentiaryValueofForensicMitochondrialDNAEvidence,43Am.Crim.L.Q.53,85–87(2006).
[73]Roth,supranote3,at1975.
[74]SeeinfraPartIII.B.5.同样,就本文而言,这些数据是作为直接证据(TOR请求已经启动的事实)还是作为间接证据(如果睡意检测系统观察到身体信号,并将其记录为驾驶员疲劳的迹象,即睡意的证据),并不重要。.
*全球定位系统的跟踪技术。——译者注。
[75]Roth,supranote3,at1975–76.
[76]See,e.g.,EdwardJ.Imwinkelried,ComputerSourceCode:ASourceoftheGrowingControversyovertheReliabilityofAutomatedForensicTechniques,66DePaulL.Rev.97,99–101(2016).
[77]See,e.g.,Kaestle,supranote72,at81–86(讨论的是DNA证据);Celentino,supranote45,at1325–30(讨论的是面部识别技术).
[78]SeeRebeccaWexler,Life,Liberty,andTradeSecrets:IntellectualPropertyintheCriminalJusticeSystem,70Stan.L.Rev.1343(2018)(描述了关于解决被告人辩护权和商业秘密之间利益冲突的争论);NatalieRam,InnovatingCriminalJustice,112Nw.U.L.Rev.659(2017).
[79]Cf.Roth,supranote30,at1272.
[81]Berman,supranote80,at1325–27.
[82]StPO§244,第2段(规定"为了确定真相,法院应自行将取证范围扩大到与裁决有关的所有事实和证据手段");ThomasWeigend,ShouldWeSearchfortheTruth,andWhoShouldDoit?REG.389,389(2011).然而,无论是美国宪法还是联邦法律都没有明确要求调查人员、检察官或法院寻求真相。似乎恰恰相反,《联邦刑事诉讼规则》提出,某些原则应当指导解释工作,"为每一个刑事诉讼提供公正的裁决,确保程序的简单性和管理的公平性,并消除不合理的费用和延误"。"FED.R.CRIM.PROC.R.2.然而,判例法确实指出,寻求真相是刑事诉讼的基本指导原则。例如,见Tehanv.UnitedStates,383U.S.406,416(1966);UnitedStatesv.Havens,446U.S.620,626(1980);Coloradov.Connelly,479U.S.157,166(1986)。更详细的讨论,参见JeniaIontchevaTurner,TheExclusionaryRuleasaSymboloftheRuleofLaw,67SMUL.REV.821,829(2014).
[83]JeniaIontchevaTurner&ThomasWeigend,ThePurposesandFunctionsofExclusionaryRules:AComparativeOverview,inDoExclusionaryRulesEnsureaFairTrial255,260(SabineGless&ThomasRichtereds.,2019)..
[84]ThomasWeigend,ThePotentialtoSecureaFairTrialThroughEvidenceExclusion:AGermanPerspective,inDoExclusionaryRulesEnsureaFairTrial61,64(SabineGless&ThomasRichtereds.,2019).
[85]Weigend,supranote59,at253–265.
[86]Damaka,supranote14,at426.
[87]Myers,supranote71.
[88]See,e.g.,Oberlandesgericht[OLG]Bamberg,June13,2018,3SsOwi626/18(Ger.);Oberlandesgericht[OLG]Karlsruhe,July16,2019,1Rb10Ss291/19(Ger.),Verfassungsgerichtshof[VerfGH]Saarbrücken,Apr.27,2018,Lv1/18(Ger.);Kammergericht[KG]Apr.2,2019,3Ws[B]97/19–122Ss43/19(Ger.)(解决用于侦测超速驾驶的雷达枪).
[89]StPO§221,§222,§244,§256.
[90]Id.§245.
[91]Id.§244,para.4.
[92]Id.
[93]SeeRobertoE.Kostoris,EuropeanLawandCriminalJustice,inHandbookonEuropeanCriminalProcedure47–56(RobertoE.Kostorised.,2018)(详述欧洲人权法院的判例和对成员国法院的约束力);Weigend,supranote82,at64(具体描述了在德国的影响).
[94]SeegenerallyJohnD.Jackson&SarahJ.Summers,TheInternationalisationofCriminalEvidence:BeyondtheCommonLawandCivilLawTraditions79–95(2012).
[95]《保护人权和基本自由公约(ConventionfortheProtectionofHumanRightsandFundamentalFreedoms)》art.6,Nov.4,1950,213U.N.T.S.222.
[96]Cf.Oberlandesgericht[OLG]Bamberg,June13,2018,3SsOwi626/18(Ger).
[97]Cf.Oberlandesgericht[OLG]Karlsruhe,July16,2019,1Rb10Ss291/19(Ger.);Verfassungsgerichtshof[VerfGH]Saarbrücken,Apr.27,2018,Lv1/18(根据《欧洲人权公约》第6条准许获取测量数据).
[98]JürgenCierniak&HolgerNiehaus,NeuereEntwicklungenimRechtaufEinsichtnahmeinMessunterlagen(阅取测量文件材料权利的最新发展),14DeutschesAutorecht[DAR]541,541–44(2018)(Ger.).
[99]SeeJackson&Summers,supranote94,at79–80.
[100]SeeJolleVuille,LucaLupària&FrancoTaroni,ScientificEvidenceandtheRighttoaFairTrialunderArticle6ECHR,16L.ProbabilityandRisk55(2017);PaulRoberts&MichaelStockdale,Introduction:ForensicScience,EvidentialReliabilityandInstitutionalReform,inForensicScienceEvidenceandExpertWitnessTestimony:ReliabilityThroughReform22(PaulRoberts&MichaelStockdaleeds.,2018).
[101]SeeStPO§261;seealsoWeigend,supranote82,at389.
[102]SeeSanfordH.Kadish,StephenJ.Schulhofer&RachelE.Barkow,CriminalLawanditsProcesses:CasesandMaterials25–26(10thed.2017).
[103]SeeEdwardJ.Imwinkelried,TheMeaningofProbativeValueandPrejudiceinFederalRuleofEvidence403:CanRule403BeUsedtoResurrecttheCommonLawofEvidence,41Vand.L.Rev.879,881–86(1988)(describingadditionalinformationaboutRule403).
[104]Id.at884,886–89.
[105]JohnNawara,MachineLearning:FaceRecognitionTechnologyEvidenceinCriminalTrials,49U.LouisvilleL.Rev.601,607(2010).
[106]SeesupraPartII.C.2.a.
[108]UnitedStatesv.Scheffer,523U.S.303(1998).时至今日,全世界的科学界对于测谎技术的可靠性仍然存在着极大的分歧。See,e.g.,JacquelineElton,ThePolygraphintheEnglishCourts:ACreepingInevitabilityoraSteptooFar81J.Crim.L.66,68–74(2017);seealsoUnitedStatesv.Posado,57F.3d428,434(5thCir.1995);UnitedStatesv.Cordoba,104F.3d225,228(9thCir.1997)(forU.S.examples).至少有一家联邦上诉法院最近重申了其禁令.SeeUnitedStatesv.Sanchez,118F.3d192,197(4thCir.1997).第二巡回法院最近指出,它"还没有决定用测谎仪测谎是否已经达到了足够可靠的状态,可以被接受”UnitedStatesv.Messina,131F.3d36,42(2dCir.1997)。
[109]Daubertv.MerrellDowPharm.,Inc.,509U.S.579(1993);DavidE.Bernstein&JeffreyD.Jackson,TheDaubertTrilogyintheStates,44Jurimetrics351(2004)(explainingDaubertindetail).
[110]Nawara,supranote105,at605.
[111]Bundesgerichtshof[BGH][FederalCourtofJustice]Dec.17,1998,1StR1998,156/98(Ger.).
[112]Id.at44–74.
[113]Vuraletal.,supranote9(声称他们的系统预测驾驶人机博弈中与睡眠有关的车祸的准确率为96%).
[114]Kaestle,supranote72,at53(描述了DNA证据的这种循环).
[115]StPO§214.
[117]Id.§261.
*forensicevidence与普通证据相比,还多出了科学论证这一步,一般是法医证据、科学证据、电子取证。——译者注。
[118]Id.§256,para.1;MatthiasKrüger,CommentaryStPO§256,inMünchenerKommentarzurStrafprozeordnungBd.2:§§151–332(Kudlichetal.eds.,2016)(Ger.).
[119]Damaka,supranote14,at428–29.
[120]AndreasMosbacher,DasIdealrichterlicherWahrheitsfindungunddieBetrübnissedeswirklichenLebensRichterlicheSchuldfeststellungunddieGefahrdesFehlurteils,9ForensischePsychiatrie,Psychologie,Kriminologie82,86(2015)(Ger.).
[122]RudolfWendt,DasRechtaufOffenlegungderMessunterlagenimBussgeldverfahren30NeueZeitschriftfürVerkehrsrecht,441,442–443(2018)(Ger.)
[123]Oberlandesgericht[OLG]Bamberg,June13,2018,3SsOwi626/18(Ger.).ButseeOberlandesgericht[OLG]KarlsruheJuly16,2019,1Rb10Ss291/19(Ger.),Verfassungsgerichtshof[VerfGH]SaarbrückenApr.27,2018,Lv1/18;Kammergericht[KG]April2,2019,3Ws[B]97/19–122Ss43/19(Ger.)(根据《欧洲人权公约》第6条,准许获取测量数据).
[124]See,e.g.,Melendez-Diazv.Massachusetts,557U.S.305(2009);Bullcomingv.NewMexico,564U.S.647(2011);Williamsv.Illinois,567U.S.50(2012);seealsoCelentino,supranote45.
[125]See,e.g.,Hayesv.State,660So.2d257,262–64(Fla.1995);UnitedStatesv.Porter,618A.2d629,635(D.C.1992);UnitedStatesv.Havvard,117F.Supp.2d848,854(S.D.Ind.2000);Peoplev.Palmer,145Cal.Rptr.466,472(Cal.Ct.App.1978).
[126]Roth,supranote3,at1989–99;Chessman,supranote5,at209.
[127]SeegenerallyMadelineSmedley,Note,HearsayintheModernAge:BalancingPracticalityandReliabilitybyAmendingFederalRuleofEvidence801(d)(1)(A),87Geo.Wash.L.Rev.207(2019),foradditionaldetailsaboutFederalRuleofEvidence802.
[128]SeeChristopherB.Mueller,LairdC.Kirkpatrick,&LiesaL.Richter,EvidenceUndertheRules:Text,Cases,andProblems313–19(9thed.2019);PaulC.Giannelli,TheAdmissibilityofLaboratoryReportsinCriminalTrials:TheReliabilityofScientificProof,49OhioSt.L.J.671(1988);seealsoLyleDenniston,TheConfrontationClause––Again,andAgain,SCOTUSBlog(May.9,2014,2:24PM),
[129]SeeMaayanPerel&NivaElkin-Koren,BlackBoxTinkering:BeyondDisclosureinAlgorithmicEnforcement,69Fla.L.Rev.181,185(2017).
[130]Roth,supranote3,at2028(使用了"有意义地获取机器证据"这一短语).
[131]Roth,supranote3,at2033.
[132]SeeIonMeyn,DiscoveryandDarkness:TheInformationDeficitinCriminalDisputes,79Brook.L.Rev.1091,1094,1103(2014).
[134]SeeKerr,supranote47,at309–10(providinginformationonthegeneralissueofcybercrime).
[135]Bradyv.Maryland,373U.S.83(1963).
[136]Id.Evidenceisdeemed“material”iftheprosecutor’sfailuretoproduceitwouldunderminethecourt’sconfidenceintheoutcomeoftheproceedings.KennethM.Miller,NixonMayHaveBeenWrong,butitIsDefinitelyMisunderstood(or,aFederalCriminalDefendant’sPretrialSubpoenasDucesTecumProperlyReachesPotentiallyAdmissibleEvidence),51WillametteL.Rev.319,324(2015).
[137]SeeMiller,supranote136,323-–26(foradditionalinformation).
[138]U.S.Dep’tofJustice,JusticeManual9.5.001(F)(2018),ttps://www.justice.gov/jm/title-9-criminal.
[139]SeeWexler,supranote78;Ram,supranote78,at701–4.
[140]SeeMellon,supranote63,at1113–14(认为当"科学报告"一词被解释为包括在创建最终专家报告时明确或隐含地依赖的任何信息时,被告人有权获得法庭环境中的数字化工具的源代码,尽管大多数司法管辖区尚未接受这一解释)。
[141]参见UnitedStatesv.Iglesias,881F.2d1519,1524(9thCir.1989)(denyingdiscoveryofachemist'slognotes);Robertsv.State,396S.E.2d81,81(Ga.Ct.App.1990)(拒绝专家的笔记、工作成果、数据记录、内部文件或图表中的发现);Statev.Parnell883N.W.2d652,667(Neb.2016)(州政府在审判前一周披露细胞分析师的意见并没有违反正当程序).
[142]需要对商业秘密特权采取新的立场.See,e.g.,Wexler,supranote78.
[143]SeeBerman,supranote80,at1325.
[144]Garrett,supranote5,at211–12;seeDanielleKeatsCitron&FrankPasquale,TheScoredSociety:DueProcessforAutomatedPredictions,89Wash.L.Rev.1(2014);TomBaker&BenedictG.C.Dellaert,RegulatingRoboAdviceAcrosstheFinancialServicesIndustry,103IowaL.Rev.713(2018).
[145]Roth,supranote3,at2033.
[146]参见UnitedStatesv.Ruiz,536U.S.622,629(2002)(讨论政府在达成认罪协议前披露重要弹劾证据的义务);另见ColinMiller,TheRighttoEvidenceofInnocenceBeforePleadingGuilty,53U.C.DAVISL.REV.271,293-299(2019)(认为根据正当程序条款,被告人有权在认罪协商前获得自己无罪的证据)。
[147]SeegenerallyMiller,supranote146,at293–99,320–21.
[148]Murphy,supranote5,at749.
[149]参见StephenA.Saltzburg,TheDutytoInvestigateandtheAvailabilityofExpertWitnesses,86FordhamL.Rev.1709,1715–20(2018).
[150]Crawfordv.Washington,541U.S.36,36(2004).
[151]See,e.g.,RichardD.Friedman,GrapplingwiththeMeaningofTestimonial,71Brook.L.Rev.241,242(2005).
[152]SeeVuille,supranote100,forreferencestoapplicablecaselaw.
[153]SeeDenniston,supranote128,foradetaileddiscussion.
[155]SeeAl-Khawaja&Taheryv.U.K.,supranote154,at37.
[157]SeeDeborahParuch,TestimonialStatements,Reliability,andtheSoleorDecisiveEvidenceRule:AComparativeLookattheRightofConfrontationintheUnitedStates,Canada,andEurope,67Cath.U.L.Rev.136–137,147–48(2018).
[159]Celentino,supranote45,at1331.
[160]SeeChessman,supranote5,at179.
[161]参见JohannesFhndrich,SebastianAhrndt,&SahinAlbayrak,TowardsSelf-ExplainingAgents,inTRENDSINPRACTICALAPPLICATIONSOFAGENTSANDMULTIAGENTSYSTEMS:11THINT'LCONF.ONPRACTICALAPPLICATIONSOFAGENTSANDMULTI-AGENTSYS.147-150(JavierBajoPérezetal.eds.,2013)(关于自解释系统的一般思想)。
[163]SeegenerallyMichaelBohlander,PrinciplesofGermanCriminalProcedure145–57(2012).
[164]该法确实包括了一种审问式的交叉询问,尽管在实践中并没有以任何有意义的方式使用它。《刑事诉讼法》第239条.
[165]Cf.id.§244,250,261.
[166homasWeigend,DefenseRightsinEuropeanLegalSystemsundertheInfluenceoftheEuropeanCourtofHumanRights,inTheOxfordHandbookofCriminalProcess165–188(DarrylK.Brown,JeniaL.Turner&BettinaWeissereds.,2019).
[167]StPO§2442(Thepresidingjudgeisprimarilyresponsiblefordecidingwhatevidencewillbepresentedatthetrial.Theprosecutionaswellasthedefensemayproposeadditionalpiecesofevidence,butthecourtdecidesontherelevanceandadmissibilityoftheproposedevidence.).《刑事诉讼法》第244条第2款(主审法官主要负责决定将在审判中提出什么证据。控方和辩方都可以提出其他证据,但由法庭决定所提出的证据的关联性和可采纳性)。
[168]Damaka,supranote14,at446.
[169]一些辩护律师已经开始指出审问式制度的缺陷,并测试他们可用工具的界限。See,e.g.,RalfNeuhaus,KriminaltechnikfürdenStrafverteidiger–EineEinführungindieGrundlagen,24Strafverteidiger-Forum393(2006)(Ger.).
[170]Weigand,supranote166,at183.
[171]Wendt,supranote122;Cierniak&Niehaus,supranote98;seealsoOberlandesgericht[OLG]KarlsruheJuly16,2019,1Rb10Ss291/19(Ger.);Verfassungsgerichtshof[VerfGH]Saarbrücken,Apr.27,2018,Lv1/18;Kammergericht[KG],April2,2019,3Ws[B]97/19–122Ss43/19(Ger.).
[172]Cf.BenjaminKrenberger,AnmerkungzuVerfassungsgerichtshof(VerfGH)Saarbrücken,Apr.27,2018Lv1/18,30NeueZeitschriftfürVerkehrsrecht282–83(2018)(Ger.).
[173]严格说来,在德国的刑事诉讼中不存在可采性测试。
[174]参见Crawfordv.Washington,541U.S.36,40(2004).
[175]Bundesgerichtshof[BGH][FederalCourtofJustice]May25,2011,2StR,2011,585/10(Ger.);KathleenSchnoor,BeurteilungderSchuldfhigkeit–eineempirischeUntersuchungzumUmgangderJustizmitSachverstndigen(2009)(Ger.).
[176]虽然是一般规则的例外,但控辩双方均可自行带其证人出庭,或要求法官传唤证人。SeeStPO§244.
[177]Id.§250.
[178]即"意见规则",排除非专业证人的结论性事实陈述,或者"最佳证据规则",要求原始文件证明文书的内容。
[179]Damaka,supranote14,at425,448n.64(drawingalinefromCarlMittermaiertoEnglishevidentiarylaw);seealsoEseretal.,AE-Beweisaufnahme,GA2014,1,13ff.;ThomasWeigend,DasKonfrontationsrechtdesAngeklagten–wesentlichesElementeinesfairenVerfahrensoderFremdkrperimdeutschenStrafprozess,inGesamteStrafrechtswissenschaftininternationalerDimension:FestschriftfürJürgenWolterzum70.Geburtstagam7.September2013,1145(MarkA.Zlleretal.eds.,2013)(Ger.).
[180]StPO§251,para.2.
[181]See,e.g.,Roth,supranote3,at2046;Friedman,supranote151,at256–59.
[182]Crawfordv.Washington,541U.S.36,53–56(2004);seealsoPeoplev.Lopez,286P.3d469,494(Cal.2012)(Liu,J.,dissenting)(“由于技术越来越强大,我们的司法系统越来越依赖刑事诉讼中对关键事实的单方面计算机判定——以前是由人做的。犯罪实验室对气相色谱法的依赖,可能比准确度较低或主观性较强的血液酒精含量测定方法有明显改进。这种技术的魅力在于它的无懈可击、精确性和廉洁性。但我想知道,这种诱惑是否应该促使我们对宪法方面的问题保持警惕,以免我们通过机器而不是裁判官,逐渐重现大陆法系中单方面出示证据的模式,而这种模式构成了'对质条款所针对的主要弊端'”)(quotingCrawford,541U.S.at50.).
[183]Roth,supranote30,at1283–85,1300–01.
[184]Chessman,supranote5,at220n.310.
[185]Id.
[186]Roth,supranote30,at1278.
[187]Roth,supranote3,at2046.
[188]SeePerel&Elkin-Koren,supranote129,at198–212;Roth,supranote3,at2050(建议程序员可以在一个类型的科学委员会面前提供现场证词,并在软件被改变或者更新的任何时候回到这个委员会).
[189]参见Doshi-Velez&Kortz,supranote60.
[190]参见MichaelBohlander,supranote163,at154–56,170–71.
[191]StPO§256.
[192]在实践中,当专家证据对指控至关重要时,特别是当被告的精神健康状况受到质疑时,法官会在指定专家之前与控方和辩方联系,让他们有机会在传唤专家在口头听证会上提出意见。See,e.g.,KlausDetter,DerSachverstndigeimStrafverfahren(刑事程序中的鉴定人)-eineBestandsaufnahme,18NEUEZEITSCHRIFTFüRSTRAFRECHT57,58(1998)(Ger.).当专家证据更多的是机械性的评估,如读取自动车辆的数据时,检方一般会在侦查阶段与专家联系,决定是否要提出指控,并将书面报告加入案卷。一般来说,专家的选择会被法官接受。参见Beck'scherOnline-KommentarStGB[BeckOK][Beck'sOnlineCommentaryofGermanPenalCode](45thed)§20(C.H.Beck2020)。
[193]Damaka,supranote14,at425,454–55.
[194]StPO§220,para.1.
[195]被辩护人传唤的人只有在被告人向法院交纳保证金的情况下才必须出庭。同上,第220条第2款。§即使在有补偿的情况下,被告也需要熟练的律师来询问专家。值得注意的是,如果被告传唤的专家证人被证明对澄清案情有用,法院应从国库中对其进行补偿。Id.§220,para.3.
[196]法官不能仅仅因为发现专家的证词没有必要(因为他们自己也是知情人),或者以被告人而非法官选择专家为由,拒绝被告人传唤的专家出庭作证。显然,合法与不当拒绝辩护专家之间的界限是不固定的,如果法院非法拒绝听取这种专家意见,可以对最终判决提出上诉。
[197]Id.§245,para.2.
[198]Id.§219,para.1.
[199]Id.§147,para.3.
[200]Id.§244,para.3.
[201]Id.
[202]Id.§244,para.4.
[203]Id.
[204]Id.§337.
[205]Bundesgerichtshof[BGH][FederalCourtofJustice]July6,2011,2Strafrecht[StR]124/11,2011(Ger.);Bundesgerichtshof[BGH][FederalCourtofJustice]July9,2015,3Strafrecht[StR]516/14,2015(Ger.);Bundesgerichtshof[BGH][FederalCourtofJustice]July12,2017,1Strafrecht[StR]408/16,2017(Ger.).SeeVuille,supranote100,at231–32,forfurtherdetailsontheexpertconceptinContinentalEurope;seealsoJackson&Summers,supranote94.
[206]UlrichEisenberg,BeweisrechtderStPO:Spezialkommentar,1518(10thed.2017)(Ger.).
[207]Bundesgerichtshof[BGH][FederalCourtofJustice]May30,2000,1Strafrecht[StR]582/99,2000(Ger.).
[209]参见DanielJ.Capra,Expanding(orJustFixing)theResidualExceptiontotheHearsayRule,85FordhamL.Rev.1577,1581–4,1608–9(2017).
[210]参见Daubertv.MerrellDowPharm.,Inc.,509U.S.579(1993);Bernstein&Jackson,supranote109;seealsoMellon,supranote63,foradetaileddiscussion.
[211]Gen.Elec.Co.v.Joiner,522U.S.136,145(1997);KumhoTireCo.v.Carmichael,526U.S.137,149(1999).
[212]参见Daubert,509U.S.at593–94.
[213]参见Roth,supranote3,at1981–82,forfurtherdiscussion.
[214]Id.at2032–33.
[215]Myers,supranote71.
[216]Chessman,supranote5,at179.
[217]参见DavidE.Bernstein&EricG.Lasker,DefendingDaubert:It’sTimetoAmendFederalRuleofEvidence702,57Wm.&MaryL.Rev.1,5(2015);seealsoSuedabehWalker,DrawingonDaubert:BringingReliabilitytotheForefrontintheAdmissibilityofEyewitnessIdentificationTestimony,82EmoryL.J.1205,1207(2013).
[218]特别是当政府在起诉时遗漏了某些证据,但却将其保存在一个单独的"调查档案"中,不考虑潜在的无罪证据,或者当辩护人想参考第三方掌握的某项证据时,就会出现这种情况。
[219]参见UnitedStatesv.Armstrong,621F.2d951,954(9thCir.1980);UnitedStatesv.Nixon,418U.S.683(1974);Pennsylvaniav.Ritchie,480U.S.39(1987);UnitedStatesv.Soape,169F.3d257,269(5thCir.1999);Miller,supranote136,at326.
[220]美国诉Yee案,129F.R.D.629(俄亥俄州北区,1990年)(判决认为,根据第16(a)(1)(C)条,联邦调查局持有的实验室匹配条件和标准、环境损害测试、人口数据和能力测试数据是可予披露的)。但见UnitedStatesv.Iglesias,881F.2d1519,1524(9thCir.1989)(判决认为,测试过程中产生的日志记录-lognotes不能作为科学报告予以披露)。
[221]FED.R.CRIM.R.CRIM.P.17(c)(1)(“传票可命令证人出示传票指定的任何书籍、文书、文件、书籍和其他物品。法庭可指示证人在审理前或者在证据提出之前,在法庭上出示指定的物品。当物品到庭时,法院可允许当事人及其律师检查全部或部分物品")。)
[222]BowmanDairyCo.v.UnitedStates,341U.S.214,222n.5(1951).
[223]参见Saltzburg,supranote149,at1720。
[224]参见supraPartIII.B.3.(前面第三部分B3)
[226]Roth,supranote3,at2048.
[227]参见Nawara,supranote105,at614(是关于商业秘密的问题);seealsoWexler,supranote78;Ram,supranote78,at665–683,701–03.
[228]Roth,supranote3,at2028.
[229]参见,比如Celentino,supranote45,at1331–33.
[230]Roth,supranote3,at2028.
[231]参见Perel&Elkin-Koren,supranote129,at186–98.
[232]比较Damaka,supranote14,at425,446.
[233]参见JürgenCierniak,ProzessualeAnforderungenandenNachweisvonVerkehrsverstssen,12ZeitschriftfürSchadensrecht664(2012)(Ger.).
[234]EuropeanConventionfortheProtectionofHumanRightsandFundamentalFreedomsart.6,Sept.3,1953,213U.N.T.S.222;seealsoVuille,Lupària&Taroni,supranote100,at59–62;Cierniak&Niehaus,supranote98.
[235]Oberlandesgericht[OLG]Bamberg,June13,2018,3SsOwi626/18(Ger.);Oberlandesgericht[OLG]KarlsruheJuly16,2019,1Rb10Ss291/19(Ger.);Verfassungsgerichtshof[VerfGH]Saarbrücken,Apr.27,2018Lv1/18;Kammergericht[KG]April2,2019,3Ws[B]97/19–122Ss43/19(Ger.).
[236]参见Roth,supranote30,at1283–85,1300–01;ErinMurphy,Databases,Doctrine&ConstitutionalCriminalProcedure,37FordhamUrb.L.J.803,825–26(2010);EllenM.Ayoob,AaronSteinfeld&RichardGrace,Identificationofan“Appropriate”DrowsyDriverDetectionInterfaceforCommercialVehicleOperations,47Proc.Hum.Factors&ErgonomicsSoc‘yAnn.Meeting1835,1840–44(2003).
[237]参见SergeyBratus,AshlynLembree&AnnaShubina,SoftwareontheWitnessStand:WhatShouldItTakeforUstoTrustIt,inTrustandTrustworthyComputing396–416(AlessandroAcquisti,SeanW.Smith&Ahmad-RezaSadehieds.,2010)(identifyingandcritiquingseveralcriminalcases);EricVanBuskirk&VincentT.Liu,DigitalEvidence:ChallengingthePresumptionofReliability,1J.DigitalForensicPrac.19,20–21(2006).
[238]Murphy,supranote236,at804;Garrett,supranote5,at213;Chessman,supranote5;Roth,supranote3,at1989–99.
[239]参见,比如KateDarling,PalashNandy&CynthiaBreazeal,EmpathicConcernandtheEffectofStoriesinHuman-RobotInteraction,Proc.24thIEEEInt’lSymp.onRobotHum.InteractiveComm.772–75(2015),foradetaileddiscussion;seealsoJacquelineM.Koryetal.,EffectsofFramingaRobotasaSocialAgentorasaMachineonChildren’sSocialBehavior,Proc.25thIEEEInt’lSymp.onRobotHum.InteractiveComm.689–93(2016).
[240]虽然前面的设计和算法肯定很重要,但其他元素也可能被证明是重要的。如果一个驾驶助手具有拟人化的元素,并且能够在法庭上对其行为进行说明(例如,"晚上11点,我建议驾驶员休息一下,但她拒绝了我的建议。"),对可信性测试的需求可能会更强。机器声音的音调、音量、语气和口音是否会影响其感知的可靠性也将可能成为一个问题。
[241]Mellon,supranote63,at1101;PamelaS.Katz,ExpertRobot:UsingArtificialIntelligencetoAssistJudgesinAdmittingScientificExpertTestimony,24Alb.L.J.Sci.&Tech.1,36(2014).
[242]参见Hildebrandt,supranote2,at165.
[243]RogerBrownsword,WhattheWorldNeedsNow:Techno-Regulation,HumanRightsandHumanDignity,inGlobalGovernanceandtheQuestforJustice203(RogerBrownsworded.,2004);RonaldLeenes,FramingTechno-Regulation:AnExplorationofStateandNon-StateRegulationbyTechnology,5Legisprudence143(2011).
[244]Hildebrandt,supranote2,at166.
[245]参见Perel&Elkin-Koren,supranote129,at185.
[246]从历史上看,新的"客观"技术首先被用来对付被告人;而最近,被告人一直在利用技术来为自己谋取利益。Roth,supranote30,at1254-64.
[247]Fairfield&Luna,supranote49,at990.
[248]MirjanR.Damaka,EvidenceLawAdrift151(1997).
作者:萨比娜·格雷斯(SabineGless),瑞士巴塞尔大学法学院刑法学、刑事诉讼法学和国际刑法学教席教授。
译者:樊文,德国弗莱堡大学法学博士,中国社会科学院大学法学院副教授,中国社会科学院法学研究所副研究员。