sis banner sls2
欢迎光临上海市法学会!   您是第位访客 今天是
标题 内容 作者
  • 财税法学研究会
  • 法理法史研究会
  • 法学教育研究会
  • 港澳台法律研究会
  • 国际法研究会
  • 海商法研究会
  • 金融法研究会
  • 禁毒法研究会
  • 经济法学研究会
  • 劳动法研究会
  • 民法学研究会
  • 农业农村法治研究会
  • 商法学研究会
  • 社会治理研究会
  • 生命法研究会
  • 诉讼法研究会
  • 外国法与比较法研究会
  • 未成年人法研究会
  • 宪法研究会
  • 消费者权益保护法研究会
  • 网络治理与数据信息法学研究会
  • 刑法学研究会
  • 行政法学研究会
  • 知识产权法研究会
  • 仲裁法研究会
  • 反恐研究中心
  • 教育法学研究会
  • 航空法研究会
  • 卫生法学研究会
  • 立法学研究会
  • 法学期刊研究会
  • 法社会学研究会
  • 自贸区法治研究会
  • 竞争法研究会
  • 非公经济法治研究会
  • 人民调解法治研究会
  • 欧盟法研究会
  • 海洋法治研究会
  • 破产法研究会
  • 财富管理法治研究中心
  • 法学翻译研究会
  • 慈善法治研究会
  • 司法研究会
  • 海关法研究会
  • 环境和资源保护法研究会
  • "一带一路"法律研究会
  • 案例法学研究会
  • 互联网司法研究会
  • 文化产业法治研究小组
  • 体育法学研究小组
  • 人工智能法治研究会
  • 刑罚执行与回归社会研究小组
  •       
当前位置: 网站首页 > 学会活动

刘宪权:涉人工智能犯罪中的归因与归责标准探析

2020-04-29 09:49:35 字体:

刘宪权  华东政法大学刑事法学院教授、博士生导师。

内容摘要
涉人工智能犯罪中归因问题的解决,依赖于对涉人工智能犯罪行为与造成的严重危害社会结果之间纯客观因果关系的认定,而涉人工智能犯罪中归责问题的解决,则应根据对行为人主观罪过等要件的认定。在遵循刑法中因果关系认定的一般规律的基础上,应结合涉人工智能犯罪的特点,将双重筛选的条件说作为涉人工智能犯罪的归因标准。双重筛选的条件说是在条件说的基础上,吸取客观归责理论的合理成分而建立的因果关系认定标准。在涉人工智能犯罪中,不应采用没有主观罪过仍追究刑事责任的绝对严格责任原则,而应采用只要有主观罪过但不用加以证明就应追究刑事责任的相对严格责任原则。

image.png

关键词:人工智能  客观归因  综合归责  主观罪过  严格责任  因果关系

一、问题的缘起

人工智能技术的发展在为人类社会带来福祉的同时,也带来了相应的风险,尤其是刑事风险。

以自动驾驶汽车引发的刑事风险为例,我们可以将其分为以下几种情况:

第一,自动驾驶汽车系统本身出现故障。在此情况下,自动驾驶汽车应对使用者发出警报,使用者收到警报后应采取相应措施。使用者在故意或者过失的心态支配下未采取相应措施或利用自动驾驶汽车的故障制造交通事故,最终导致严重危害社会的结果发生。

第二,自动驾驶汽车系统本身并无任何故障,使用者故意操纵自动驾驶汽车实施严重危害社会的行为。

第三,自动驾驶汽车系统本身出现故障,并对使用者发出警报,但使用者收到警报采取相应措施后无任何作用,严重危害社会的后果仍然发生。

分析上述几种情形,我们不难发现,随着人工智能技术的发展和人工智能时代的到来,犯罪的样态也随之发生改变。涉人工智能犯罪本身具有复合性和复杂性,尤其当牵涉两个或两个以上主体时,如何认定不同主体的刑事责任?如何在不同主体之间进行刑事责任分配?也即如何对涉人工智能犯罪行为进行归因和归责?这些都应当成为刑法学者关注和致力解决的问题。

涉人工智能犯罪中的归因与归责问题,是两个独立且有关联的问题——归因是归责的基础和前提,归责是归因的可能后果。因为近现代刑法文明和人道的标志之一就在于坚守罪责自负:任何人只对自己的不法行为及其引起的危害结果承担责任,而不对他人的不法行为及危害结果承担责任。

因此,要解决涉人工智能犯罪行为的归因与归责问题,我们首先要明确两者的顺序,即只有在解决归因问题之后才能解决归责问题。同时,笔者还认为,涉人工智能犯罪中归因问题的解决,依赖于对涉人工智能犯罪行为与造成的严重危害社会结果之间的因果关系的认定;而涉人工智能犯罪中归责问题的解决,则应依赖于对行为人主观罪过等构成要件的认定。

二、涉人工智能犯罪认定应坚持客观归因

正是因为涉人工智能犯罪中的归因问题的解决,依赖于对涉人工智能犯罪行为与造成的严重危害社会结果之间的因果关系的认定,因此,采用什么样的标准和准则来认定涉人工智能犯罪中的因果关系,就显得至关重要。

(一)传统刑法因果关系学说

在人工智能时代到来之前,刑法理论中有关认定因果关系的学说主要有条件说、原因说、相当因果关系说、客观归责理论等。

条件说认为,一定的前行事实(行为)与一定的后行事实(结果),如有所谓“如无前者,即无后者”的论理条件关系时,则其行为即为对于结果的原因,两者之间有因果关系。简言之,若行为与结果之间存在“若非A,则非B”的关系,则A是B的原因。有学者指出,条件说存在无限制地扩大刑法上的因果关系范围的缺陷。对条件说进行批判的经典案例是,杀人犯的母亲生了杀人犯,是否也是杀人行为的凶手?这一说法的荒谬之处笔者将在下文中详述,在此不作赘述。原因说是为了避免条件说不适当地扩大刑事责任的范围而产生的,所以又称“限制条件说”。该说主张,在导致结果发生的数个条件中,根据某种标准挑选出一个条件作为原因,这一条件和结果之间才具有因果关系,其他诸条件与结果之间都没有因果关系。这一学说完全忽视了多因一果的状况,且判断标准极具争议性和随意性,在当今的刑法学界已无影响力。相当因果关系说以条件关系的存在为前提,认为由其行为发生该结果在经验上是通常的,即限于被认为是“相当”的场合,肯定刑法上的因果关系。关于认定何为“相当”的标准,在相当因果关系说内部,又分裂成客观说、主观说、折中说三派。但事实上,相当因果关系说内部分裂出的三派学说侧重的是对判断资料的筛查,而非对判断规则的确立,因此有本末倒置的嫌疑。而在涉及具体判断规则的确立时,相当因果关系并未提供确定标准,仍只能以经验法则作为实际意义上的实施标准。法律规则的制定可以以人类累积的经验作为素材,但是当把经验本身作为判断标准时,就会陷入具有不确定性的经验主义泥淖。“累积的经验法则可以作为规范制定的来源,但其本身上升为一种标准时,在以法官作为裁决终端的司法体制中,最终会演变成为裁判者个人价值偏好背书的万能公式。”简言之,每个法官的“相当”事实上都是不相当的。关于客观归责理论,有人认为,“区别于条件说主要解决归因的问题,客观归责理论解决的是归责问题”。但是,由于我们是在论述刑法中因果关系背景下讨论这一问题的,因此,笔者认为,此处客观归责理论所论述的“归责”,本质上仍应属于归因的范畴,即是在对行为与结果进行事实因果关系的判断过程之后的规范判断,以此最终确定行为与结果之间是否具有法律意义上的因果关系。换言之,刑法因果关系中的客观归责理论所论述的本质问题是客观归因问题,是探讨能否将结果归结于行为,即通过对行为与结果进行规范判断来确定因果关系能否得以证成。根据这一理论,在行为与结果具有事实上的因果关系的基础上,当符合三个条件(行为制造了不被允许的危险,行为实现了不被允许的危险,结果没有超出构成要件的保护范围)时,才能将结果归因于行为。因此,笔者在本文论述对涉人工智能犯罪行为归因问题的部分,探讨刑法中客观归责理论,意在吸取客观归责理论的合理之处,完善涉人工智能犯罪行为归因的法则。

image.png

(二)应结合涉人工智能犯罪的特点确定归因标准

涉人工智能犯罪极具复杂性,其中多因一果、一因多果等现象也并不罕见,且在犯罪过程中,可能会有系统故障、研发者、生产者和使用者行为的介入,从而使原本简单的因果链条变得错综复杂。

由此,在认定涉人工智能犯罪行为与造成的严重危害社会的结果之间的因果关系时,要考虑到涉人工智能犯罪的特点,从复杂多变的犯罪现象中总结、发掘规律,确立能够适用于涉人工智能犯罪的因果关系认定标准。笔者认为,在探讨对涉人工智能犯罪行为的归因问题时,仍应以现有的刑法因果关系理论为基础,同时结合涉人工智能犯罪自身的特点,对原有理论进行完善,从而确立一套既符合刑法一般理论,又能适应涉人工智能犯罪自身特点的科学的归因体系。

由上文论述可知,刑法理论上有关因果关系的学说中,原因说和相当因果关系说有一个共同的缺陷,就是它们均会产生判断随意性的问题。尽管笔者承认,相当因果关系说仍有诸多可取之处,因此在很长时间内占据着大陆法系因果关系理论的支配地位。但是正如笔者在上文所言,在具体案件中运用相当因果关系说时,每个人对“相当”的判断标准恰恰是不相当的。反观涉人工智能犯罪,每个人的“不相当”在这一领域的判断会被扩大化。人工智能技术是一门新兴的前沿科技,在这一领域存在着很多未解的问题。个人的知识水平、理解能力以及在技术发展的不同阶段,所谓的“相当性”的判断都会变得恣意。可能会有人提出,在相当因果关系说内部存在主观说、客观说和折中说三种学说,以行为人认识的情况为判断基础的主观说确实具有一定程度的随意性,但是客观说和折中说都是以客观情况和一般人的认识标准作为主要判断标准的,并不具有随意性。笔者不赞同这一观点。人工智能技术是一门前沿技术,不同人对其认识和掌握的程度会存在巨大的个体差异。正如一个目不识丁的老太与一个证券交易所的工作人员对内幕交易行为的认识程度不同,具有人工智能专业技术知识的人与对此一窍不通乃至闻所未闻的人,对涉人工智能犯罪行为的认识也绝不相同。试问,谁的认识可以算作“一般人”的认识?正因如此,笔者认为,在确定涉人工智能犯罪中的归因标准时,参考原因说和相当因果关系说的观点应该是不可行的。有学者提出,条件说将“若非A,则非B”的成立作为认定“A是B的原因(即A与B之间存在因果关系)”的标准,将会不当扩大因果关系的成立范围,进而扩大处罚范围。例如,甲将乙打成轻伤,乙被送往医院治疗。在治疗期间,由于医生的重大过失导致乙死亡。根据条件说的观点,若甲没有把乙打伤,乙就不会前往医院治疗,最终也不会发生由于医生重大过失而导致乙死亡的结果,因此甲打伤乙的行为与乙的死亡结果之间存在因果关系。这一案例认定中存在的问题与前文笔者所述的“杀人犯的母亲生了杀人犯,其生杀人犯的行为与被害人死亡的结果之间也有因果关系”案例中存在的荒谬之处如出一辙。上述两个案例中因果关系认定出现荒谬错误的原因并非条件说的认定标准存在错误,而是判断者错误地提取了判断素材或判断资料。在甲打伤乙的案例中,对乙死亡事实的准确描述应是“乙在医疗事故中死亡”,我们把“乙在医疗事故中死亡”称之为具体结果,则我们仅需提取造成这一具体结果的行为作为原因,其他无关的因素不予考虑。与之相同,在杀人犯的案例中,可以把具体结果表述为“被害人被杀死”,则我们也仅需提取造成被害人被杀死这一结果的行为,对诸如杀人犯出生这一无关因素也无须加以考虑。可能会有学者提出,虽然甲打伤乙的案例中甲把乙打成轻伤的行为与乙死亡的结果之间不存在因果关系,杀人犯的案例中杀人犯的母亲生杀人犯与被害人死亡的结果之间也不存在因果关系,但是这两个案例中否定因果关系成立的原因并不相同。在前一案例中,可以适用因果关系中断的理论,即医生的重大过失是异常的介入因素,中断了前行为(甲把乙打成轻伤)与结果(乙死亡)之间的因果关系;而在后一案例中,杀人犯的母亲生杀人犯这一行为并非刑法上禁止的行为,因此根本无须纳入刑法中因果关系评价的范畴中去。

笔者认为,上述判断标准在适用于一般犯罪的因果关系存在与否的判断时颇具合理之处,但是在适用于涉人工智能犯罪的因果关系判断问题时则并不可取。原因在于,在涉人工智能犯罪中,最终导致结果发生的原因可能是多方面的,且这些原因的产生时间与最终结果的发生时间可能会存在很长的间隔。
例如,自动驾驶汽车撞死行人这一结果的发生,可能与研发者和生产者制造的系统有关,也可能与使用者的不当使用行为有关,还可能是两者共同作用的结果。当系统发生故障,且使用者存在不当使用行为时,对于最终造成的危害结果如何归因?使用者的不当使用行为是否可以被认定为异常的介入因素,判断的标准是什么?尤其是在相关法律法规不完善的情况下,谁有权力确定判断的标准?
笔者认为,如果我们能够确定一个适用于涉人工智能犯罪中因果关系判断的标准,在上述问题解决之前就可以准确合理地认定涉人工智能犯罪行为与严重危害社会的结果之间是否存在刑法上的因果关系,这将会对涉人工智能犯罪认定的规范化、准确化产生有利的影响,从而也有利于发挥刑法为人工智能技术的发展保驾护航的积极作用。

(三)应将双重筛选的条件说作为涉人工智能犯罪的归因标准

正如笔者在上文所述,由于涉人工智能犯罪与普通犯罪相比更具复杂性,因果链条更为复杂,因此我们在遵循刑法中因果关系认定的一般规律的基础上,应结合涉人工智能犯罪的特点,设定涉人工智能犯罪中因果关系认定的特别适用标准,以此作为涉人工智能犯罪的归因标准,同时作为涉人工智能犯罪中的归责前提。笔者在此需要说明的是,这里所谓涉人工智能犯罪中因果关系认定的特别适用标准,是指在当前弱人工智能时代所适用的标准,这一标准并未违反刑法条文及刑法理论中有关因果关系认定的标准,而是在原有刑法规定及刑法理论的基础上,探索契合涉人工智能犯罪特点的因果关系判断标准。

笔者认为,应将双重筛选的条件说作为涉人工智能犯罪的归因标准。双重筛选的条件说是在条件说基础上,吸取客观归责理论的合理成分而建立的因果关系认定标准。应当看到,相当因果关系说和原因说无论如何也无法摆脱其在认定因果关系时的随意性和随认定主体而变动的个体差异,而条件说和客观归责理论则确实避免了上述缺陷。条件说和客观归责理论并非互相独立的两个学说,它们之间存在重合的部分。正如笔者在上文所强调的,在探讨涉人工智能犯罪中的归因问题时,我们是将归因与归责问题的探讨完全独立开来的。因此,在描述条件说和客观归责理论之间的联系和重合部分的时候,应该不涉及归责问题。

image.png

适用条件说判断涉人工智能犯罪中的因果关系的流程可以被表达为:涉人工智能犯罪行为所导致的严重危害社会的结果——涉人工智能犯罪行为——因果关系;而适用客观归责理论判断涉人工智能犯罪中的因果关系的流程可以被表达为:涉人工智能犯罪行为所导致的严重危害社会的结果——涉人工智能犯罪行为——因果关系——危险判断(制造不被允许的危险、实现不被允许的危险、结果没有超出构成要件的保护范围)。从两种学说所表述的对因果关系的判断流程中,可以看到,在“结果——行为——因果关系”的判断层面,两者是完全重合的,而客观归责理论是在后续的危险判断层面进行了对危险的再次判断。在此,笔者需要说明的是,上文所述的两种学说的异同之处成立的前提是对条件说进行宽泛理解,也即当条件说所描述的“若非A,则非B成立,则A与B存在因果关系”中的原因A和结果B未经筛选的情况。如果在适用条件说时经过下述筛选,条件说完全可以通过吸收客观归责理论的合理成分而更具合理性和可操作性。

1.第一重筛选

法律对社会生活的调整是有选择的,刑法就更是如此。只有当严重危害社会的结果被刑法条文所明确禁止时,才有必要考虑此结果由哪个(或哪些)原因(行为)造成的。因此,条件说所要求的原因A并非指所有行为,而只能是作为引起结果发生原因的行为;结果B并非指所有结果,而只能是刑法规制范畴中的结果。换言之,条件说描述的并非任一行为与任一结果之间的因果关系,而只能是引起结果发生原因的行为和刑法规制范畴中的结果之间的因果关系。由此,就形成了对条件说适用之前的第一重筛选,即确定刑法规制范畴中的结果。例如,医生在人工智能手术机器人的协助下成功为病人截肢,挽救了病人的生命,这一手术结果并非刑法规制范畴中的结果,我们也就无须探讨医生的行为与病人疾病得以治愈的结果之间的因果关系。再如,母亲生育婴儿,甲把乙打成轻微伤等案例中,由于婴儿的出生和乙轻微伤的结果都不在刑法规制范畴中,因此也无须探讨前述案例中行为与结果是否存在刑法中的因果关系。但是,如果医生在人工智能手术机器人的协助下为病人截肢,由于操作不当,而导致病人死亡;或者甲把乙打成轻伤。在这些案件中病人死亡或者乙被打成轻伤的结果都是在刑法规制范畴之中,因此就有必要探讨医生操作人工智能手术机器人行为与病人死亡、甲的打人行为与乙轻伤结果之间的因果关系。综上所述,“第一重筛选”是指筛选出刑法规制范畴中的结果,而将其他结果剥离出去。这是对因果关系判断流程简化的前提。而这种简化的实现是从刑法的基本理论出发,从因果链条中的众多事实中剥丝抽茧,避免重复且无效的劳动。

2.第二重筛选

当结果发生之前存在众多事实时,判断者容易受到相关因素的干扰,使得因果关系的判断存在困难。此时,需要区分“原因”和“条件”,将“条件”剥离出去,以免干扰判断思路。笔者举两个简单的例子对此加以说明。例一,甲以杀人的故意在乙的食物中放置了足以导致乙死亡的毒药,乙在吃完食物(毒药的药性发作前)后,被丙枪击致死。如果没有丙的枪击行为,乙死亡的结果也不可避免。因为甲投毒的行为完全可以导致乙的死亡,并且正在向着此危害结果发展的进程之中,也即丙的枪击行为只是加速了乙死亡结果的发生,但并未改变甲行为所导致结果的方向。换言之,没有丙的行为,乙死亡的结果仍然会发生;没有甲的行为,乙死亡的结果也仍然会发生。所以甲的行为和丙的行为都可以作为乙死亡结果的原因。由于丙的行为是直接导致乙当时受枪击死亡结果发生的原因,因此,丙的行为与乙死亡结果之间是必然因果关系;甲的行为与乙提前发生的死亡结果之间是偶然因果关系。例二,甲伤害乙(导致乙轻伤),但是乙有血友病,最终血流不止而死亡。在这个案例中,存在两个导致乙死亡的事实:一是甲伤害乙的行为,二是乙本身具有血友病。但是乙有血友病这一事实本身并不会直接导致乙死亡的结果,只是被害人本身所具有的特殊体质,而并非任何意义上的行为,只能作为乙死亡结果发生的“条件”而非“原因”。诸如此类的“条件”不应作为因果关系判断过程中需要考虑的因素,因为刑法中的因果关系指的是行为与结果之间的因果关系,作为这一关系中的原因只能是人的行为,而不能是其他任何条件。由此,甲伤害乙的行为就成为导致乙死亡的唯一原因。综上,“第二重筛选”是指筛选出导致结果发生的原因(即引起结果发生的人的行为),而将诸多条件剥离出去。

3.吸收客观归责理论的合理因素进行双重筛选

笔者认为,可以吸收客观归责理论的合理因素来对危害行为、危害结果进行双重筛选,以实现上述双重筛选流程的规范化、定型化。广义的客观归责理论如笔者在上文所述,既包括对事实上因果关系的认定,也包括对结果归属的判断;狭义的客观归责理论只包括对结果归属的判断。由于条件说本身就包含了对事实上因果关系的认定,因此在吸取客观归责理论的合理成分时,仅需考虑狭义的客观归责理论对结果归属的判断规则,即可以将客观归责理论中对结果归属判断的标准用于筛选(限制)条件说中的原因和结果的判断素材(判断范围)。具体而言,客观归责理论中结果归属于行为的条件有三:一是行为制造了不被允许的危险;二是行为实现了不被允许的危险;三是结果没有超出构成要件的保护范围。其中,第一个条件和第二个条件用于限制条件说中因果关系成立所要求的要素之一——行为;第三个条件用于限制条件说中因果关系成立所要求的要素之一——结果。换言之,“行为制造了不被允许的危险”和“行为实现了不被允许的危险”即是对行为的规范判断,“结果没有超出构成要件的保护范围”即是对结果的规范判断。举例而言,自动驾驶汽车系统发生故障,导致刹车失灵(人为操纵刹车系统也一并失灵)。自动驾驶汽车载着使用者甲在路上行驶。此时,车前方走过行人乙。甲不知系统故障(即甲不采取任何措施,汽车也会向乙撞去),由于报仇心切,人为操纵汽车向乙撞去,最终行人乙被撞身亡。在此案例中判断行为与结果之间的因果关系,按照经过双重筛选的条件说,其流程应为:第一重筛选,将客观归责理论中对结果归属判断条件中的第三个条件作为判断标准来筛选判断素材。在上述案例中,最终的结果是“行人乙被撞身亡”,而乙死亡的结果当然在刑法规制范畴之中,可以被认定为因果关系判断中的“结果”。第二重筛选,将客观归责理论中对结果归属判断条件中的第一个条件和第二个条件作为判断标准来筛选判断素材。我们可以发现,自动驾驶汽车本身的故障并未直接制造不被允许的危险,也并未实现不被允许的危险,即上述自动驾驶汽车故障这一要素经过第二重筛选,应被判断为“条件”而非“原因”。因此,在第二重筛选的过程中,我们可以将自动驾驶汽车刹车系统失灵这一条件予以排除。经过双重筛选之后,仅存的行为是“甲操纵自动驾驶汽车向乙撞去”,结果是“乙被撞身亡”,则可以肯定“甲操纵自动驾驶汽车向乙撞去”与“乙被撞身亡”之间存在因果关系。

综上所述,在适用双重筛选的条件说时,应先根据客观归责理论中对结果归责判断标准的第三个条件(结果没有超出构成要件的保护范围)在因果链条中的众多要素中进行第一重筛选,进而根据客观归责理论中对结果归责判断标准的第一个条件(行为制造了不被允许的危险)和第二个条件(行为实现了不被允许的危险),进行再次筛选,将对具体结果的发生具有“引起”意义的行为挑选出来。最终的结论就是,经过了双重筛选之后的原因和结果之间具有刑法上的因果关系。
基于人工智能技术的前沿性和涉人工智能犯罪的复杂性,人们对人工智能技术和涉人工智能犯罪的认识未必会全面、准确。采用双重筛选的条件说认定涉人工智能犯罪中的因果关系,似乎可以更有利于准确、简洁地判断行为与结果之间因果关系存在与否,既避免了采用相当因果关系说和原因说的不确定性,又避免了采用原有条件说需要同时适用因果关系中断说来处理异常介入因素时对“异常性”判断的不确定性。之所以要尽力排除涉人工智能犯罪中因果关系认定的不确定性,是由上述人工智能技术的特征和涉人工智能犯罪的特征所决定的。因此,采用双重筛选的条件说是人工智能时代判断涉人工智能犯罪中的因果关系的最佳选择。

image.png

三、涉人工智能犯罪认定应坚持主观归责

(一)客观归因基础上的主观归责

涉人工智能犯罪的归责问题中所指的“归责”,是在肯定了危害行为与危害结果之间存在因果关系之后,对能否让行为人为此承担刑事责任所作的探讨。因此,涉人工智能犯罪中的归责问题也就从根本上区别于客观归责理论中的“归责”。换言之,客观归责理论中的“归责”探讨的是能否将结果归属于行为;而涉人工智能犯罪中的归责问题,是在确定可以将结果归属于行为的基础上,探讨能否将结果归属于实施这一(或这些)行为的行为人。对于前一个基础问题,即能否将结果归属于行为,实质是在探讨行为与结果之间是否具有因果关系,如上文所述,可采用双重筛选的条件说来解决。而对于后一个问题,即能否将结果归属于实施这一(或这些)行为(与结果有因果关系的行为)的行为人,关键要看符合主体构成要件的行为人在实施行为时是否具有主观罪过(故意或者过失)。这是由主客观相一致的刑法原则所决定的。如果在肯定行为与结果具有因果关系的前提下,即认定实施行为的行为人应承担刑事责任,有可能不当地扩大处罚范围,且违反了主客观相一致的原则。
对涉人工智能犯罪归责问题中的“归责”含义的澄清,同时也可以进一步说明,采取双重筛选的条件说来认定涉人工智能犯罪中的因果关系不会不当扩大处罚范围。例如,自动驾驶汽车的系统发生故障,而之前并未发出故障警报以提醒使用者,自动驾驶汽车即将撞上行人乙时依然保持原有车速行进,使用者甲因未收到任何提醒而未采取人为操纵刹车措施,最终行人乙被撞身亡。根据双重筛选的条件说,应当承认自动驾驶汽车的使用者甲未及时采取人为操纵刹车措施等行为与行人乙被撞身亡的结果之间存在因果关系。但承认二者之间的因果关系,根本不会不当地扩大刑法处罚的范围。其原因在于,即使在承认自动驾驶汽车的使用者甲的行为与行人乙死亡的结果之间具有刑法上的因果关系,也不必然意味着自动驾驶汽车的使用者甲需要对乙的死亡负刑事责任。只有当自动驾驶汽车的使用者甲存在主观罪过时,才可能对乙死亡的结果负刑事责任。而根据当时的情况,甲并未收到自动驾驶汽车发出的警报,也就没有任何义务采取人为操纵刹车措施,对于乙死亡的结果,甲既不存在故意也不存在过失的主观罪过,因此甲当然不应承担任何刑事责任。

由此可见,在涉人工智能犯罪中,承认行为与结果之间的因果关系,并不会不当扩大刑法处罚的范围。正如笔者在上文所述,归因是归责的基础和前提,归责是归因的可能后果而非必然后果,即归因是归责的必要而非充分条件。换言之,行为人的行为与刑法规制范畴中的结果存在因果关系,行为人并不一定会对这一结果承担刑事责任,而行为人如果对这一结果要承担刑事责任的,其行为与这一结果之间必须具有因果关系。

(二)涉人工智能犯罪认定不应适用绝对严格责任原则严格责任原则

最早出现于英美刑法中,其大体含义是,在某种没有罪过的场合仍可将行为定性为犯罪并对行为人追究刑事责任。严格责任原则确立的初衷主要有两方面:其一,在现代社会中,随着生产力和科学技术的飞速发展,各种社会关系趋于复杂,社会整体面临的威胁更加多元和紧迫。严格责任的确立是个人利益向公共利益的让步,以保证社会生活的安全这一社会最大利益的实现。“实行严格责任,可以有助于保证社会团体或组织的负责人采取一切可行的措施去贯彻执行有关社会福利方面的重要法规。不考虑犯罪意图也给予定罪,可以制约或迫使人们不去做不允许做的事,同时也保证了人们可以去做允许做的事。”其二,在有些犯罪中,行为人不具有主观罪过,只是行为在客观上导致了危害结果,为了达到不放纵犯罪的目的,于是在实体法中只强调客观行为及后果而对罪过不作规定。可能会有学者认为,人工智能技术的发展在为人类社会带来极大便利的同时,也可能会带来极大的风险。正如霍金所言,“未来人工智能也许会是人类的终结者”。基于人工智能技术的滥用可能会给人类社会带来巨大危害乃至带来毁灭性的灾难,因此,应严格追究行为人利用人工智能技术造成严重危害社会结果行为的刑事责任。即使在行为人不存在主观罪过,但行为客观上造成了严重危害社会结果的情况下,仍可追究行为人的刑事责任。笔者认为,上述第二点理由不能成立。刑事诉讼活动是司法机关依照法律规定的程序,解决被追诉者刑事责任问题的活动。而被追诉者刑事责任的有无和轻重是由刑事实体法规定的,刑事实体法对刑事责任的规定主要考虑行为的社会危害性大小和被追诉者的主观恶性高低。如果被追诉者主观上没有罪过,就无法体现其主观上的恶性程度,在此情况下仍追究其刑事责任,显然不符合刑法中主客观相一致的原则。上述第一点理由确实表明了严格责任原则在现代社会中有可能发挥一定的积极作用,但是我们要用全面的视角看待和评价一个行为或规则的利弊。即严格责任原则在发挥上述积极作用的同时,也会产生严重的恶果。对此,笔者将在下文中进行详细阐述,在此不再赘述。

image.png

总之,在涉人工智能犯罪的认定过程中,不应采用严格责任原则,仍要严格按照客观归因和主观归责的认定路径,来确定涉人工智能犯罪中行为人的刑事责任。理由如下。

第一,民法领域和英美刑法中对“严格责任”的规定不能成为认定涉人工智能犯罪时适用严格责任原则的参照。在民法领域中存在无过错责任原则,也可被称为严格责任原则,是指当行为人的行为符合下述两个条件时即可让行为人承担民事责任。这两个条件为:(1)行为人造成他人损害的事实客观存在;(2)行为人的活动与造成的损害后果之间有因果关系。显而易见,在民法领域让行为人承担无过错责任的条件与上文所述在刑事犯罪中的归因条件基本等同。应当看到,民法侧重的是对社会关系的维护和修复,这一点,从民法中的公平原则就可见一斑。刑法侧重的是对行为人行为的定性和处罚,其侧重点与民法存在明显不同。而导致英美刑法中较多地出现严格责任原则的规定,其根本原因在于刑罚的制裁手段由以自由刑为中心转向大规模地适用财产刑,从而造成犯罪外延的急速膨胀,使刑法同其他部门法的界限变得模糊。我们暂且不谈英美刑法中的这种做法是否可取,至少我国现今的刑法体系与英美刑法所仰赖的主要环境存在很大的不同。“橘生淮南则为橘,生于淮北则为枳,叶徒相似,其实味不同,所以然者何?水土异也。”在立法与司法环境与英美法系国家迥异的我国,照搬英美刑法中的严格责任原则显然会造成“水土不服”。当然,笔者所言不能参考民法或英美刑法中的严格责任原则,并非意味着法律对于人工智能领域中对个人或社会造成损害却缺乏主观罪过的行为和现象完全作壁上观、放任自流,而是将其移除出刑法的规制范围,由其他法律予以规制。

第二,适用严格责任原则可能会遏制人工智能技术的发展。笔者之所以反对认定涉人工智能犯罪时适用严格责任原则,一个重要的理由是,适用严格责任原则可能会将为人类社会带来巨大福祉的人工智能技术发展扼杀在摇篮之中。人工智能技术虽然经过了60余年的发展,已经取得了很大的成就,但是对于一个技术的发展历程而言,目前仍处于蓬勃发展之前的起步阶段。尽管人工智能技术的发展蕴藏着风险,但是不可否认,其给人类社会带来的利益可能会超出以往的任何技术。在人工智能时代,人类的身体和大脑功能会在一定程度上被智能机器人取代,人类不仅可以获得双手的解放,还可以获得大脑的解放。人类将不再为了生存而劳作,而有更多的时间和精力去追寻人之为人的更深层次的价值。在第一次工业革命中,人类发明了火车和轮船;在第二次工业革命中,人类发明了汽车和飞机。这些交通工具的发明极大地拓展了人类的出行范围,节约了人类的出行时间,可以说,新的交通工具的发明和使用为人类的生活带来了极大的便利。但是,我们也应看到,随着上述交通工具的发明和使用,交通事故也频频出现在人类的社会生活中。试想,当第一起火车事故发生时,如果立法者规定对火车事故适用严格责任原则,即只要火车事故发生,无论火车的研发者、生产者或者使用者是否有主观罪过,一律追究其刑事责任,交通工具的更新换代还从何发生?又有谁会冒着被追究刑事责任的风险来研发、生产和使用新型的交通工具?技术的发展会不可避免地带来一定的风险,这是为了追求人类整体的发展和进步而不得不付出的代价。正如我们不可能因为交通事故的发生就禁止汽车上路一样,我们也不能因为智能机器人可能会对人类造成一定的危害就从立法上确立涉人工智能犯罪的严格责任原则,这无异于在人工智能技术发展的初期就将其扼杀,使其失去发展和更新的动力。

第三,排除严格责任原则的适用不等于否认涉人工智能犯罪中间接因果关系的认定。可能会有人提出,在涉及公共安全的领域,严格责任原则的适用是必要的,如果人工智能技术危害到了公共安全,技术也应为安全让步。在我国刑法中,其实也存在类似于严格责任原则的规定。例如,根据《刑法》第134条第2款的规定,强令他人违章冒险作业,因而发生重大伤亡事故或者造成其他严重后果的,构成强令违章冒险作业罪。在这一条文中,立法者只强调了两点:一是行为人的行为造成他人损害的事实客观存在;二是行为人的行为与造成的损害后果之间有因果关系(体现为“因而”二字),这就与民法领域的无过错责任原则(也称严格责任原则)如出一辙,可以作为刑法中采纳严格责任原则的代表。笔者不赞同以上观点,理由是:其一,刑法条文未明确强调行为人的主观罪过并不代表成立该罪不需要行为人具有主观罪过。在刑法条文当中,不仅存在明示(或显性)的构成要件,还存在默示(或隐性)的构成要件。例如,《刑法》第232条规定故意杀人罪的构成要件为“故意杀人的”,则对“故意”这一主观罪过的要求是明示的构成要件。而《刑法》第263条规定抢劫罪的构成要件为“以暴力、胁迫或其他方法抢劫公私财物的”,其中对行为人主观罪过(故意)的规定即是默示的构成要件。其二,在强令违章冒险作业罪的条文当中,对行为人的行为与重大伤亡事故和其他严重后果之间的规定属于对间接因果关系的规定,而非类似于严格责任的规定。在强令违章冒险作业的构成中,直接违章冒险作业的行为人的行为与危害结果之间具有直接的因果关系,而该强令者一般就是处于监督地位的监督者,其行为与危害结果之间并无直接的因果关系,而与直接违章冒险作业的行为有直接联系,进而间接造成了危害结果,也即强令者的行为与危害结果之间只是一种间接因果关系。刑法将强令者的行为规定为犯罪行为,由此我们可以得出的结论是,这意味着刑法不仅承认直接因果关系,也在某种情况下承认间接因果关系。但我们不能进而认为,强令者在缺乏主观罪过的情况下仍可构成犯罪。事实上,构成强令违章冒险作业罪,要求强令者至少存在过失的心态,即“行为人对自己行为造成的严重后果具有过失,而不是指对行为违章性的认识过失”。

与之类似,在涉人工智能犯罪中,排除严格责任原则的适用,也并不意味着否认间接因果关系。在人工智能时代,智能机器人的“智能”程度逐渐增强,一旦智能机器人被投入使用,在很大程度上,其会处于不受人的直接支配而独立运作的状态。在这种情况下,对智能机器人的系统正常工作的要求就会提高,保证智能机器人的控制系统正常以及在系统不能正常工作的时候及时停止工作并发出警报提醒使用者采取相应措施,就成为对智能机器人的研发者和生产者的基本义务要求。当研发者和生产者未履行此注意义务而导致危害结果发生时,其行为与危害结果之间就具有间接因果关系。对此追究刑事责任理应不违反刑法的基本原理,且能起到保障技术向着更加安全可靠的方向发展的作用。

需要说明的是,笔者曾在相关文章中提到,“由于人工智能可能造成的社会危害性大,并且研发者、生产者和使用者在大多数情况下对人工智能产品具有一定的把控能力,因此可以考虑在刑法中确立人工智能产品研发者、生产者和使用者的严格责任”。笔者在此处所说的“严格责任”(亦称为相对严格责任)与本文所说的严格责任(亦称为绝对严格责任)实际上是有区别的,应理解在某些涉人工智能犯罪中,法律追究相关行为人的刑事责任时会比追究普通犯罪中行为人的刑事责任更加严格,也即为智能机器人的研发者、生产者或者使用者设定了更加严格的注意义务。而法律法规建立了智能机器人的研发者、生产者和使用者义务体系之后,当研发者、生产者和使用者违背了注意义务,即使在其主观罪过难以判断(但起码应为过失)时,仍需要承担相应的相对严格责任。笔者在上文中反对在涉人工智能犯罪中适用的严格责任原则,指的是在行为人无罪过的情况下追究其刑事责任的绝对严格责任。二者具有本质不同,不应混同。

笔者在此需要补充说明的是,如果在相关涉人工智能犯罪中,对于研发者、生产者或者使用者的主观罪过难以判定时(并非没有主观罪过),仍可追究其刑事责任。此种相对严格责任处理方式可能会更加契合涉人工智能犯罪本身的特点。

image.png

举例而言,在有人驾驶汽车的交通肇事犯罪案件中,如果驾驶员违反交通规则导致交通事故发生,则应追究驾驶员交通肇事罪(过失犯罪)的刑事责任,而非追究汽车的研发者或者生产者的刑事责任。但是在全自动驾驶汽车违反交通规则导致严重交通事故发生的案件中,因不存在驾驶员,则当然没有追究驾驶员刑事责任的可能性,应由谁承担刑事责任就成为值得探讨的问题。根据弱人工智能时代全自动驾驶汽车本身的特点,我们不难发现,全自动驾驶汽车在马路上的行进路线、行进速度等,均受研发者和生产者为其设计和编制的程序控制。全自动驾驶汽车违反交通规则时,也仍受程序控制。正如同刹车系统、方向盘、发动机等属于传统汽车的一部分,程序也属于全自动驾驶汽车的一部分,这是全自动驾驶汽车本身的特点和性能所决定的。因此,全自动驾驶汽车违反交通规则是程序瑕疵所导致的,而程序又属于全自动驾驶汽车这一“产品”的组成部分,所以全自动驾驶汽车违反交通规则导致严重交通事故发生的结果,理应归责于程序的研发者或者生产者,也即全自动驾驶汽车的研发者或者生产者。问题在于,根据刑法规定,生产伪劣产品的行为构成犯罪均须以行为人主观方面为故意。如果将全自动驾驶汽车违反交通规则导致严重交通事故发生的交通肇事结果归责于全自动驾驶汽车的研发者或者生产者,就相当于让研发者或者生产者承担了原本属于过失犯罪的交通肇事罪转化而来的故意犯罪——生产伪劣产品罪的刑事责任。

解决这一问题的方法有二:

其一,在生产伪劣产品罪等犯罪中增加过失这一主观要件;其二,确定涉人工智能犯罪中对行为人犯罪的特殊认定标准,无须区分行为人主观上的故意或者过失,即只要行为人所实施行为的客观方面符合相关犯罪的构成要件,在行为人至少存在过失的情况下,即可按照相关刑法条文追究行为人的刑事责任。

结语

涉人工智能犯罪行为的归因与归责问题,是两个独立且有关联的问题——归因是归责的基础和前提,归责是归因的可能后果。涉人工智能犯罪中因果关系链条更为复杂多元,从中通过双重筛选的条件说确定行为与结果之间的因果关系,并将此作为归责的基础。双重筛选的条件说是在条件说基础上,吸取客观归责理论的合理成分而建立的因果关系认定标准。在涉人工智能犯罪中,在行为人不存在主观罪过的情况下追究其刑事责任的绝对严格责任原则不可取;但是,当确定行为人存在主观罪过(最起码存在过失),却难以具体判断其存在何种主观罪过时,可以依据相对严格责任原则追究行为人刑事责任。

上海市法学会欢迎您的投稿  fxhgzh@vip.163.com

相关链接

《东方法学》2020年第3期目录

来源:《东方法学》2020年第3期(总第75期)。转引转载请注明出处。