sis banner sls2
欢迎光临上海市法学会!   您是第位访客 今天是
标题 内容 作者
  • 财税法学研究会
  • 法理法史研究会
  • 法学教育研究会
  • 港澳台法律研究会
  • 国际法研究会
  • 海商法研究会
  • 金融法研究会
  • 禁毒法研究会
  • 经济法学研究会
  • 劳动法研究会
  • 民法研究会
  • 农业农村法治研究会
  • 商法学研究会
  • 社会治理研究会
  • 生命法研究会
  • 诉讼法研究会
  • 外国法与比较法研究会
  • 未成年人法研究会
  • 宪法研究会
  • 消费者权益保护法研究会
  • 网络治理与数据信息法学研究会
  • 刑法学研究会
  • 行政法学研究会
  • 知识产权法研究会
  • 仲裁法研究会
  • 反恐研究中心
  • 教育法学研究会
  • 航空法研究会
  • 卫生法学研究会
  • 立法学研究会
  • 法学期刊研究会
  • 法社会学研究会
  • 自贸区法治研究会
  • 竞争法研究会
  • 非公经济法治研究会
  • 人民调解法治研究会
  • 欧盟法研究会
  • 海洋法治研究会
  • 破产法研究会
  • 财富管理法治研究中心
  • 法学翻译研究会
  • 慈善法治研究会
  • 司法研究会
  • 海关法研究会
  • 环境和资源保护法研究会
  • "一带一路"法律研究会
  • 案例法学研究会
  • 互联网司法研究小组
  • 文化产业法治研究小组
  • 体育法学研究会
  • 人工智能法治研究会
  • 刑罚执行与回归社会研究小组
  •       
当前位置: 网站首页 > 会员服务 > 会员风采

涉人工智能犯罪的类型及刑法应对策略

2019-09-11 13:07:14 字体:

作者刘宪权系华东政法大学法律学院教授、博导;作者房慧颖系华东政法大学刑法学博士研究生。

内容摘要

在人工智能时代,我们应秉持前瞻性的刑法理念。前瞻性的刑法理念不同于缺乏可靠科学依据的科幻小说,也不能列入“过度刑法化”倾向的范畴之中。我们可以将涉人工智能犯罪划分为现行刑法规定能够规制的、现行刑法规定规制不足的以及现行刑法规定无法规制的涉人工智能犯罪三种类型。针对三种犯罪类型,我们应当分别采取不同的刑法应对策略:完善相关司法解释,将财产犯罪中的“当场性”解释为行为人的行为及其延伸与被害人在同一时空;调整相关犯罪的构成要件,在交通肇事罪等过失犯罪的构成要件中增加智能机器人的设计者或生产者这一主体;完善刑法规定,增设滥用人工智能产品罪和人工智能产品事故罪等新罪名。

关键词:涉人工智能犯罪 刑法理念 前瞻性思考 犯罪类型 刑法应对

1956年达特茅斯会议以来,人工智能技术在半个世纪的时间内取得了突飞猛进的发展,其影响力渗透到人类社会生活的方方面面。人工智能技术在提高人们生活质量的同时,更成为促进社会发展、提升综合国力的重要力量。正如习近平总书记在2018年10月中共中央政治局第九次集体学习时所指出的,“加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。但我们也应看到,人工智能技术的发展也带来了一系列的社会问题和法律问题,冲击着我们现有的法律体系。2017年9月22日,浙江省绍兴市公安局破获“全国首例利用AI犯罪案”,这是我国首例利用人工智能技术侵犯公民个人信息的犯罪。由此可见,“加强人工智能发展的潜在风险研判和防范,加强人工智能相关法律、伦理、社会问题研究,建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德”,具有重要且深远的价值和意义。

根据人工智能技术的发展程度,我们可以把人工智能时代划分为普通机器人时代、弱人工智能时代和强人工智能时代。其中,普通机器人和弱智能机器人的区分标准在于机器人是否具有深度学习的能力,弱智能机器人和强智能机器人的区分标准在于机器人是否能够在自主意识和意志的支配下,超出设计和编制的程序实施行为。目前,具有深度学习能力的智能机器人已经在诸多领域取得了“卓越”成就,如AlphaGo战胜围棋国手,“智医助理”高分通过医师执业资格考试,人工智能法律机器人在案件咨询比赛中完胜人类律师……毫无疑问,我们现在已经进入了弱人工智能时代。在弱人工智能时代,智能机器人在设计和编制的程序范围内实施行为,不具有独立的意志,其行为体现的是人类的意志。如果人类利用智能机器人实施犯罪行为,抑或是人类在正常使用智能机器人的过程中出现严重危害社会的后果,都会涉及刑事责任的认定和分配问题。为了保障人工智能技术的健康发展、防范相关风险,我们的刑法理念以及刑事立法和司法体系应当适时作出相应的调整和更新,这是人工智能这个“最好的时代”抑或“最坏的时代”不可回避的诉求。

人工智能时代应秉持刑法新理念

人工智能时代为人们的生活带来无与伦比的便利,也带来前所未有的风险。应当看到,现有的刑法规定难以妥善解决人工智能时代层出不穷的新问题。为了更好地发挥刑法的保护机能,促进人工智能技术的健康发展和社会的稳定繁荣,我们需要树立前瞻性的刑法理念,建立和完善适应人工智能时代要求的刑事立法和司法体系。

(一)人工智能时代需要革新刑法理念

1986年德国学者乌尔里希·贝克出版了《风险社会》一书,自此“风险”一词成为诠释社会变化发展的关键词。在《辞海》中,“风险”被解释为“人们在生产建设和日常生活中遭遇能导致人身伤亡、财产受损及其他经济损失的自然灾害、意外事件和其他不测事件的可能性。”不可否认,人工智能技术为人类的社会生活带来了极大的便利,“美国亚马逊超级仓库内,无数机器人正在货架间疯狂奔跑;欧洲快餐店内,机器人端着汉堡和薯条7x24小时来去自如;而在南非矿井下,电脑正操作精密仪器,向幽暗处进发……”但是风险实际上与红利成正比,人工智能技术为人类社会带来的刑事风险也在急剧增加。笔者认为,我们可以将现阶段(即弱人工智能时代)涉人工智能刑事风险分为两类:其一为行为人在正常利用智能机器人时产生的刑事风险;其二为行为人利用智能机器人实施犯罪行为的刑事风险。

行为人在正常利用智能机器人时产生严重危害社会结果的情况屡见不鲜。例如,2018年美国亚利桑那州发生了一起Uber无人车撞死行人的事故。时隔不久,一辆开启了Auto-pilot模式的特斯拉汽车撞上高速路旁的隔离带,车主不幸丧生,并引发两车追尾。早在2016年,邯郸一辆处于“定速”状态的特斯拉自动驾驶汽车未能按照程序设定躲避障碍物,从而撞上前车,车主不幸身亡。再如,购物平台通过对消费者购买商品的品种、数量、频率等各种数据的分析整合,为消费者提供个性化服务。这在提升用户购物体验、为用户带来便利的同时,背后也隐藏着侵犯公民个人信息的风险。再如,手术机器人可以运用微创方法,实施复杂的外科手术。但是在英国首例机器人心瓣恢复手术中,机器人把病人的心脏放错位置,并戳穿大动脉,最终导致病人在术后一周死亡。又如,2015年,大众汽车厂的一名工作人员在安装机器人的过程中,被机器人抓住胸部继而压到金属板上,最终这名工作人员不治身亡。此类事例不胜枚举,笔者不再一一赘述。

行为人利用智能机器人实施犯罪行为的情况也层出不穷。例如,犯罪分子利用无人机和红外照相机寻找大麻农场,并操纵无人机实施盗窃大麻的行为。也有犯罪分子给无人机装上手枪、扩音器等装置,在几百甚至几千米外操纵无人机对行人进行抢劫。再如,在“全国首例利用AI犯罪案”中,“犯罪分子利用具有深度学习能力的智能机器人,识别图片验证码,轻松绕过互联网公司设置的账户登录安全装置,给网络诈骗等黑色产业提供犯罪工具。”又如,军事领域的人工智能技术可以帮助完成扫雷等任务,维护人类安全,但是其一旦被恐怖分子利用,则会导致我们设置的各种安全防范措施均告无效等难以想象的恶果。

刑法必须敏感地应对时代变化。面对人工智能技术带来的各式各样的刑事风险,现行刑法规定难以从容应对,我们理应顺应时代需求,树立刑法新理念,调整立法和司法体系。有学者认为,对智能机器人刑事责任和刑事主体地位的探讨纯属无稽之谈,智能机器人本质上只是人类处理某一类具体事务的辅助工具。笔者认为,虽然现阶段的智能机器人仍属于弱智能机器人,只能在人类设计和编制的程序范围内实施行为,体现的是人类的意志而非自身的意志,不具有刑事责任主体地位。利用智能机器人实施犯罪行为时,仍然只能追究利用者的刑事责任,而不可能追究被利用的智能机器人的刑事责任。但我们并不能因此认为,其与普通犯罪对象和犯罪工具无异,从而认为智能机器人的出现对行为人刑事责任的认定并无任何影响。事实上,无论智能机器人作为犯罪对象,还是作为犯罪工具,都有可能对刑事责任的认定产生影响。其一,智能机器人作为犯罪对象时,会对行为人刑事责任的认定产生影响。应当看到,早在普通机器人时代,被赋予部分人脑功能(识别功能等)的普通机器人的出现就会对刑事责任的认定产生影响。以ATM机为例,2008年4月18日最高人民检察院《关于拾得他人信用卡并在自动柜员机(ATM机)上使用的行为如何定性问题的批复》,拾得他人信用卡并在自动柜员机上使用的行为,属于刑法第196条第一款第三项规定的“冒用他人信用卡”的情形,构成犯罪的,以信用卡诈骗罪追究刑事责任。2009年12月3日最高人民法院、最高人民检察院《关于办理妨害信用卡管理刑事案件具体应用法律若干问题的解释》第5条也作了类似的规定。有学者认为,机器是不能被骗的,即机器因为没有意识而不会陷入认识错误,更不会基于认识错误处分财产。在ATM机上冒用他人信用卡的行为应被认定为盗窃罪。而笔者认为,最高检及两高的司法解释将在ATM机上冒用他人信用卡的行为认定为诈骗类犯罪而非盗窃类犯罪,主要原因在于,经过编程后的ATM机,实际上是作为业务人员代表金融机构处理相关金融业务,既然金融机构的业务人员可以成为诈骗罪的对象,经过电脑编程后的ATM机当然也可以成为诈骗罪的对象。换言之,经过电脑编程后的ATM机不同于一般的机械性机器,其具有人脑的识别功能,在作为犯罪对象时,可能会对刑事责任的认定产生影响。当然,笔者同时还认为,ATM机虽然具有部分人脑的识别功能,但因其不具有人的其他功能,所以充其量也只能算作是“机器人”而不能理解为是人。我们将ATM机称之为“机器人”其实还有更深层次的考虑,即如果行为人利用ATM机的识别功能上的认识错误获取钱财的,其行为的性质属于诈骗类的犯罪,刑法将冒用他人信用卡的行为纳入信用卡诈骗罪即为实例;而如果行为人利用ATM机的机械故障获取钱财的,其行为的性质则当然属于盗窃类的犯罪,因为“机械故障”中不存在“人的认识错误”问题。可见,经电脑编程后的ATM机在作为犯罪对象时也会对行为人行为的刑事责任产生影响。当人类从普通机器人时代进入弱人工智能时代,智能机器人具有了深度学习能力,相当于具有了更多的人脑功能,其对行为人所要承担的刑事责任的认定毫无疑问会产生更大的影响。其二,智能机器人在作为犯罪工具时,也会对行为人刑事责任的认定产生影响。当智能机器人作为人类实施犯罪行为的工具时,研发者或使用者之间的刑事责任分配可能会随着智能机器人“智能”的增长而有所不同。例如,对于普通汽车而言,在汽车本身不存在安全隐患,仅因驾驶员违反交通运输管理法规进行驾驶导致发生重大交通事故而构成交通肇事罪的情况下,普通汽车的设计者无需承担刑事责任,而应由普通汽车的使用者(即驾驶员)承担全部刑事责任。对于全自动驾驶汽车而言,汽车的行驶方式、路径全部都由自动驾驶程序控制,车上仅有乘车人而无驾驶员,对于程序本身存在问题(包含全自动驾驶汽车违反交通运输管理法规等)而导致发生重大交通事故的情况,可能就需要由全自动驾驶汽车的设计者承担全部刑事责任。由此可见,在人工智能时代,人工智能技术带来的风险急剧增加,智能机器人会对行为人刑事责任的认定或分担产生影响,不能完全等同于普通的“工具”。

根据“库兹韦尔定律”,技术的力量正以指数级的速度迅速向外扩充。人类正处于加速变化的风口浪尖上,这超过了我们历史上的任何时刻。早在2015年,霍金等人就在公开信中警示人们要防范人工智能技术带来的潜在风险,在进行人工智能技术研究的同时必须采取相应的防范措施。法律在很大程度上是国家为了有意识地达到某一特定目的而制定的。刑法理念及刑事立法和司法体系也应该顺应时代潮流进行调整,以发挥刑法作为“社会最后一道防线”对于社会稳定健康发展的保障作用。人类社会的发展经历了原始社会、农业社会、工业社会、信息社会,现在已经迈入了智能社会。每一种社会形态中的刑法理念和体系都是不同的,这是刑法顺应社会发展潮流的体现。当前我们所处的弱人工智能时代,具有深度学习能力的智能机器人在社会生活的各个方面都发挥着重要作用,已经并将持续对社会形态的发展和演变产生影响。正因如此,我们应当适时调整和革新刑法理念,以达到保障人工智能技术健康发展、防控和治理人工智能技术带来的刑事风险的目的,最终实现维护人类整体利益、促进社会发展进步的目标。这也是在人工智能时代革新刑法理念的意义所在。

(二)人工智能时代应秉持前瞻性的刑法理念

在人工智能时代,我们应树立前瞻性的刑法理念。人工智能时代的刑法规定所立足的技术背景和社会条件都处于急速的变化发展之中。我们必须提前预想到人工智能时代可能发生的刑事风险,并提前想好应对策略。只有未雨绸缪,方可临危不乱。正如2018年11月全国人大常委会委员长会议组成人员进行专题学习时,栗战书委员长所指出的,“人工智能是影响面广的颠覆性技术,其双刃剑效应尤为明显,必须未雨绸缪,加强前瞻预防和约束引导,有效应对技术不确定性带来的新挑战,确保其安全、可靠、可控。”在此,笔者有必要澄清以下两个误区。

误区之一:前瞻性的刑法理念与缺乏可靠的科学依据支撑的科幻小说无异。笔者认为,树立前瞻性刑法理念的目的是解决技术的飞速发展与刑事立法相对滞后之间的矛盾,即为了防止出现刑法无法妥善处置具有严重社会危害性行为的尴尬局面。应当看到,这种尴尬局面在我们初步进入弱人工智能时代的今天已经屡次发生。例如,全自动汽车事故接二连三地发生,已经并将可能继续危害到公共安全、公民的人身和财产安全,但我们目前却并未建立行之有效的法律体系对这些风险进行良好的规制。“我们今天正处于一种大变革的时期,过去的许多行为其传统意义正在蜕变或消失,与此相随不知不觉中行为又被涂抹上新时代的若干色彩;一些过去见所未见、闻所未闻的光怪陆离的新事物也四处滋生。”在此背景下,用以指导刑事立法与刑事司法的刑法理念,毫无疑问也将面临着一个是否需要调整以及如何调整的问题。刑法理念属于意识形态的范畴,其本身是主观的,但是人们最终选择什么样的刑法理念,天然地受制于人们所处的特定时代。笔者建议在人工智能时代树立前瞻性的刑法理念,并非是脱离技术的实际发展水平,凭借主观想象,设立未来的刑事立法和司法体系,而是在洞察和明悉时代背景与技术发展状况的前提下,破解人工智能时代刑罚应对的难题。同时,我们也要防患于未然,在正确理念的指导下,促使科技“向善”,将人工智能技术可能带来的风险降至最低。

误区之二:前瞻性的刑法理念体现了“过度刑法化”的趋势。关于社会治理,学界存在“过度刑法化”的批判,有学者认为过度刑法化是对刑法“谦抑和沉稳品格”的背弃,势必造成刑罚谴责功能的退化,引起社会治理的巨大风险。依笔者之见,前瞻性的刑法理念与过度刑法化趋势是毫不相干的两个事物。两者之间不存在逻辑上的联系。过度刑法化导致的结果是能够采用道德上的谴责、行政或者民事手段规制的具有社会危害性的行为,刑事立法者仍将其规定为犯罪行为。这种因为风险无处不在,所以刑法无处不在的做法,是过度刑法化的主要体现。而前瞻性的刑法理念则不等同于盲目扩大犯罪圈,也不会导致刑罚的泛化使用。前瞻性的刑法理念可以为涉人工智能犯罪的刑法规制预留必要的解释空间和缓冲空间,避免刑法的修改过于频繁。我们应该吸取网络犯罪刑法规制中的相关教训,避免在涉人工智能犯罪规制时再犯类似的错误。“在网络犯罪立法中经常出现这样的情况,当一国的立法经过复杂而冗长的立法程序将某种网络行为纳入本国法律进行规制时,却惊奇地发现该种行为在网络上已经趋于销声匿迹了,代之而起的是新型的、法律尚未关注的行为,法律生效后很快就实质性失效的情况在网络中更易发生。”前瞻性的立法理念可以避免我们重蹈前述网络犯罪立法的覆辙。在应对涉人工智能犯罪时,践行前瞻性的刑法理念,就是我们既需要立足于人工智能技术的发展现状和已经产生的风险,又需要预见到未来人工智能技术的发展趋势和将会产生的风险,从而根据现状适度调整刑法规定,并为应对未来可能发生的刑事风险预留足够空间,使得刑法规定既能应对当前风险,又能适应未来发展,从而增强和延长刑法条文之生命力。同时,需要说明的是,正如在网络时代,传统犯罪大量向网络犯罪转移,随着人工智能技术的发展,许多传统犯罪可能会失去生存的空间,即传统犯罪可能会向涉人工智能犯罪转移,因此,在人工智能时代树立前瞻性的刑法理念并不必然导致犯罪圈的扩大,与过度刑法化趋势更是毫无关联。

涉人工智能犯罪的类型划分

正如网络犯罪的本质是犯罪,涉人工智能犯罪的本质也依然是犯罪。涉人工智能犯罪只不过是人工智能时代产生的新样态的犯罪,是人工智能时代的新事物。新旧事物之间的关系从来都是“藕断丝连”而非“一刀两断”的。对于涉人工智能犯罪的研究仍需要以现行刑法规定为切入点和立足点。笔者认为,根据现行刑法规定对涉人工智能犯罪的规制能力,我们可以将涉人工智能犯罪划分为现行刑法规定能够规制的涉人工智能犯罪、现行刑法规定规制不足的涉人工智能犯罪和现行刑法规定无法规制的涉人工智能犯罪三种类型。

(一)现行刑法规定能够规制的涉人工智能犯罪

现行刑法规定能够规制的涉人工智能犯罪,指的是现行刑法条文完全可以规制或者仅需用司法解释明确刑法条文适用范围和方式的涉人工智能犯罪。在处理涉人工智能犯罪时,我们既不能仅将智能机器人当作简单的工具而认为其对犯罪行为的定罪量刑没有任何影响,也不能陷入“工具决定论”的误区而认为利用智能机器人犯罪的行为都比传统犯罪行为的社会危害性更严重。我们仍然应当具体问题具体分析。应该看到,当智能机器人成为犯罪行为的“臂膀”或“羽翼”时,确实会给传统犯罪的实施带来诸多的便捷,但是,从本质上看,智能机器人的存在其实并没有改变传统犯罪的行为方式和结构,因此,我们仍然可以运用现行刑法的规定对之加以规制。即使现行刑法规定得过于笼统或模糊,我们也完全可以通过司法解释加以明确,对此类犯罪行为予以精确、全面评价。

例如,在“全国首例利用AI犯罪案”中,犯罪分子利用智能机器人的深度学习能力,通过编程和训练,让智能机器人掌握有效识别图片验证码的技能。这项技能可以帮助犯罪分子获取用户登陆各个网站的账号和密码。究其本质,这是非法获取公民个人信息的行为,属于刑法第253条之一第三款——“窃取或者以其他方法非法获取公民个人信息”的规制范围,理应按照侵犯公民个人信息罪定罪。又如,杀手机器人的出现,一度引起人们的恐慌。它的可怕之处在于其可以识别各种伪装,精准地搜寻到打击对象并一击即中。这种致命性的自主武器成本低,却威力巨大。但探究其工作机制,我们可以发现,用杀手机器人夺取人的性命,与用刀、枪、棍棒等夺取人的性命并无本质上的不同,都是非法剥夺他人生命的行为,按照故意杀人罪定罪量刑即可。或许会有人提出,如果行为人意图针对的打击目标与杀手机器人最终打击的对象不一致,即杀手机器人实施的行为与行为人预想的行为存在偏差,应当如何处理?笔者认为,这种情况可以用事实认识错误的理论解决。正如行为人放狗咬人,本来希望狗咬死甲,但狗却咬死了乙,狗的“错误”不影响对行为人行为的定性,对行为人仍应以故意杀人罪(既遂)来认定。杀手机器人作为完全受行为人设计和编制的程序控制的个体,其在执行杀人指令时,与上文中所说的狗并无本质区别,因此其所犯的“错误”也不应影响对行为人行为性质的认定。再如,行为人给无人机装上手枪、扩音器等装置,在犯罪现场以外的地方操纵无人机上的装置对被害人进行威胁,要求其交出随身携带的财物,否则就将对被害人的头部进行射击。根据2005年6月8日最高人民法院《关于审理抢劫、抢夺刑事案件适用法律若干问题的意见》,抢劫罪表现为行为人劫取财物一般应在同一时间、同一地点,具有“当场性”。在无人机抢劫的场景中,行为人并未在犯罪现场,其行为似乎不具备成立抢劫罪所要求的“当场性”要件,但应当看到,“当场性”要件的存在,代表着行为人的行为对被害人的人身权利和财产权利能够造成实质危害或者紧迫威胁。利用传统手段进行抢劫时,如果行为人不在犯罪现场,很难达到这个程度。无人机的出现,使得行为人所在的位置和行为实施的位置存在空间上的分离;更有甚者,如果行为人预先设定好抢劫的程序,让无人机自主执行,行为人设定抢劫程序的时间和无人机对被害人进行抢劫的时间也会出现时间上的分离。但这种时空上的分离并未使得犯罪现场中被害人的人身权利和财产权利受到损害的程度或可能性有丝毫减小。换言之,利用无人机进行抢劫虽然出现了行为人行为实施的时空和被害人遭遇抢劫的时空出现了分离,但行为的社会危害性程度并未减小,仍然侵犯了被害人的人身权利和财产权利,仍应按照抢劫罪对行为人进行定罪量刑。

(二)现行刑法规定规制不足的涉人工智能犯罪

现行刑法规定规制不足的涉人工智能犯罪,指的是传统犯罪在人工智能背景下出现了新特点,而现行刑法无法有力应对的犯罪类型。如果把传统犯罪行为比作“走兽”,人工智能技术为其增添“羽翼”之后,“走兽”变成了“飞禽”,虽然其根本属性并未发生改变,但其行为模式发生了巨大变化,我们原来规制“走兽”的刑法规定无法有力规制“飞禽”。在当下的弱人工智能时代,智能机器人的行为受人类设计和编制的程序控制,体现人类的意志和意识,是人类身体和智力的延伸。跟传统犯罪工具相比,由于其不仅是人类身体的延伸,还是人类智力的延伸,因此其“智能”性有时会导致人类原有行为模式的变化。众所周知,围棋机器人(包括AlphaGo、AlphaGoZero等)战胜了世界围棋冠军。围棋机器人是在人类设计和编制的程序支配下实施行为的,但是为其设计和编制程序的研发者本身并不可能战胜世界围棋冠军,而围棋机器人凭借其深度学习能力和快速反应速度可以做到。换言之,围棋机器人的行为来源于人类设计和编制的程序,但可能会超出人类在这一领域的本来能力。这一特征同样出现于全自动汽车、智能医生等身上。由于智能机器人延伸了人类的身体和大脑,其所实施的行为也在一定程度上替代了人类。刑法规定的“行为”有广义与狭义之分,广义上的行为指“人的意思可以支配的具有社会意义的身体的外部态度(动静)”;狭义上的行为指“危害行为”,即由行为人意志支配之下违反刑法规定的危害社会的客观活动。无论采广义说还是狭义说,刑法上的行为都必须是行为人在自主意识和意志支配之下进行的客观活动。“无行为即无犯罪”,行为是对行为人进行定罪和处罚的基础和决定性要件。而智能机器人在一定程度上替代了人类的行为,理论上,也就应该分担一部分本应由人类承担的刑事责任。这就导致了原本以人类承担全部刑事责任为前提构建的刑法体系在处理部分涉人工智能犯罪时力有不逮。例如,在过去,对于汽车行驶过程中引发的交通肇事(假设驾驶员负事故全部或主要责任),如果是汽车本身质量问题导致的,则应当由汽车的设计者或生产者承担有关产品质量的责任;如果是在驾车过程中违反交通规则导致的,则应当由驾驶员承担交通肇事的责任。目前的自动驾驶汽车,在行车过程中也需要驾驶员的参与,所以我们仍可按照上述的责任分配模式来进行处理。但是当自动驾驶发展到全自动驾驶阶段,即不存在驾驶员,全自动汽车的行驶完全在设计和编制的程序控制之下进行。对于全自动汽车行驶过程中引发的交通事故,如果是全自动汽车本身质量问题导致的,我们仍可按照原有模式,让全自动汽车的设计者或生产者承担有关产品质量的责任;但对于全自动汽车行驶过程中违反交通规则导致事故发生的情况,由于不存在驾驶员,所以我们无法按照原有模式,让驾驶员承担交通肇事的责任。而由于全自动汽车仍属于弱智能机器人的一种,即其只能在设计和编制的程序控制和支配下实施行为,不具备自主意识和意志,不能作为刑事责任主体,不能承担刑事责任。因此本应由驾驶员承担的交通肇事的刑事责任无法转移归全自动汽车承担。在这种情况下,是否可以将本应由驾驶员承担的交通肇事的刑事责任转移归全自动汽车的设计者或使用者承担?如果让全自动汽车的设计者或使用者承担,那么他们承担的是产品质量事故还是交通事故的刑事责任?目前刑法及相关法律法规尚未有明确规定。与之相类似的是智能医生导致的医疗事故的责任承担问题。笔者在此不再赘述。又如,在证券、期货交易市场中,有行为人利用智能机器人超乎常人的反应速度实施操控市场的行为,最典型的便是“幌骗”和“塞单”行为,即申报大量订单后迅速撤销,从中牟取利益。该行为违背了证券、期货市场的“三公”原则,本质上是行为人利用技术优势操控证券、期货市场的行为。根据刑法第182条“操纵证券、期货市场罪”的规定,操纵证券、期货市场的行为是指行为人利用自己手中掌握的资源优势操纵证券、期货交易价格或者交易量。而“资源优势”指的是资金优势、持股优势、持仓优势、信息优势,并不包括技术优势。因此,运用现行刑法中的操纵证券、期货市场罪很难规制利用技术优势操纵证券、期货市场的行为。

(三)现行刑法规定无法规制的涉人工智能犯罪

现行刑法规定无法规制的涉人工智能犯罪,指的是由于人工智能时代的特殊性而出现的在人工智能时代之前难以想象也无需探讨的严重危害社会的行为。这类行为无法用现行刑法规定进行规制,主要存在两种情况:

第一,现行刑法中规定的罪名的构成要件没有涵括人工智能时代的新型行为方式。例如,目前,随着人工智能技术的发展以及人工智能技术与生命科学、神经科学的结合,科学家研发出了人工智能假肢,可以帮助广大的残疾人群体解决肢体残缺带来的麻烦和痛苦。如果行为人损毁与人体配合良好的人工智能假肢,可能会给人工智能假肢的使用者带来巨大的肉体和精神上的痛苦。因此,我们如果仅仅将人工智能假肢作为使用者的财物对待,并进而认为损毁人工智能假肢的行为只是毁坏财物似乎是不妥当的;而如果将人工智能假肢作为使用者身体的一部分对待,则对于损毁人工智能假肢行为的定性似乎会有向侵犯人身健康等角度转化的可能。根据现行刑法中故意伤害罪的规定,只有当行为人故意伤害被害人的躯体并达到轻伤程度时才能构成本罪,损毁人工智能假肢的行为显然不能被认定为本罪。同时随着科技的发展,人工智能假肢越来越廉价,如果单纯按人工智能假肢的价格计算,其价格甚至可能达不到构成故意毁坏财物罪的数额标准,也即现行刑法对行为人损毁他人的人工智能假肢的行为根本无法规制。

第二,现行刑法中缺乏与人工智能时代的新型行为方式相对应的罪名。例如,微软研发的聊天机器人Tay(微软将其设定为19岁的少女),其设计原理是从对话交互中学习。一些不良网民利用Tay的这一学习机制,刻意引导她模仿偏激言论。于是仅在上线一天之后,Tay就因发表种族歧视等言论而被微软公司紧急关闭。微软研发聊天机器人的本意是为用户带来乐趣,但由于受到他人的恶意利用,Tay变成了散布种族歧视言论的“机器”。根据我国刑法的规定,发表煽动分裂国家、颠覆国家政权、暴力抗拒法律实施的言论或者发表煽动民族仇恨、民族歧视的言论等都有可能构成犯罪。试想,如果行为人刻意诱导具有聊天功能的智能机器人发表上述言论,是否可以构成相应的故意犯罪?另外,智能机器人的设计者在为智能机器人设计和编制程序时,并没有设置相应的反制功能(即指智能机器人能够自动抵御不当言论的功能),是否需要承担过失犯罪的刑事责任?如果需要,则相关前置法应如何构建与完善?又如,在2018年俄罗斯世界杯期间,莫斯科的一个酒店提供“机器人妓女”服务,利用智能机器人向游客提供特殊服务。由于这项服务经过政府特别许可,因此是合法的。荷兰政府也拟于2050年之前推出“机器人妓女”项目。应当看到,在俄罗斯和荷兰等国,卖淫行为可以因经政府许可而具有合法性。但是在我国卖淫行为是违法的。如果在我国推出“机器人妓女”项目,相关人员是否会涉嫌组织、容留、介绍卖淫等犯罪?如果答案是肯定的,那么在“机器人妓女”提供的特殊服务与传统意义上的卖淫行为存在本质不同的情况下,将这种行为认定为组织、容留、介绍卖淫等犯罪,是否属于类推解释并为罪刑法定原则所禁止?如果答案是否定的,则“机器人妓女”提供服务的行为是否完全不会妨害我国的社会管理秩序,即其本质上不具有严重的社会危害性?以上问题,根据现行刑法规定,我们根本无法得出确定的答案。

综上,笔者认为,随着人工智能技术的发展,会出现更多的类似问题需要得到解答,因此我们亟需完善现行刑法规定,以适应人工智能时代发展的需求。

涉人工智能犯罪的刑法应对策略

如上文所述,我们可以将涉人工智能犯罪划分为现行刑法规定能够规制的涉人工智能犯罪、现行刑法规定规制不足的涉人工智能犯罪与现行刑法规定无法规制的涉人工智能犯罪。针对三种不同的犯罪类型,笔者认为,应当分别采取完善相关司法解释、调整相关犯罪的构成要件及设立新罪名的刑法应对策略。

(一)完善相关司法解释

针对现行刑法规定能够规制的涉人工智能犯罪,可能会存在规定过于模糊的问题,我们需要完善相关司法解释,从而对此类犯罪予以全面、准确评价。例如,对于财产犯罪中涉及到的“当场性”问题,需要结合人工智能时代的特点予以进一步明确。根据2005年6月8日最高人民法院《关于审理抢劫、抢夺刑事案件适用法律若干问题的意见》,抢劫罪中的“当场性”表现为行为人劫取财物一般应在同一时间、同一地点。按照通常理解,“同一时间”“同一地点”应指行为人与被害人同时出现于同一时空中,但是在人工智能时代,由于行为人可以操控智能机器人(如无人机)对被害人进行人身威胁甚至是直接的打击,更有甚者,行为人只要为智能机器人设置好相应的程序,智能机器人就可以自主选择抢劫对象、抢劫时间和抢劫地点,实际的抢劫过程无需行为人参与。以非法占有为目的,实施暴力威胁的情况下,抢劫罪和敲诈勒索的界限之一在于威胁的方式不同。敲诈勒索罪中的威胁可由行为人直接向被害人口头或书面提出,也可以通过第三人间接提出;抢劫罪中的威胁只能由行为人当场向被害人提出。结合上述行为人利用智能机器人实施抢劫的案例,我们可以发现,如果把智能机器人按照程序设定或者行为人的操控对被害人作出的威胁理解为“通过第三人间接提出”,则上述行为应被认定为敲诈勒索罪而非抢劫罪。但事实上,抢劫罪和敲诈勒索罪的上述界限存在的主要原因是,敲诈勒索罪中的暴力威胁不具有当场发生的可能性,而抢劫罪中的暴力威胁具有当场发生的可能性。反观上述案例,利用智能机器人抢劫的场景中,智能机器人(如无人机)上面装配着手枪等装置,随时可以对被害人实施暴力,因此可以说,本案中的暴力威胁具有当场发生的可能性,以敲诈勒索罪认定显然不合法理和常理,而应以抢劫罪来认定。这就需要我们通过司法解释来明确“当场性”在人工智能时代的具体含义。在人工智能时代,“当场性”成立所要求的“同一时间”“同一地点”显然不应是行为人与被害人在同一时空中,而是行为人的行为(包括行为的延伸)与被害人在同一时空中,至于抢劫行为的启动形式在所不论。抢劫行为可能是由行为人直接对被害人实施的(此时行为人与被害人在同一时空中),也可以是行为人操控的智能机器人对被害人实施的(此时行为人与被害人在同一时间但未在同一空间),甚至可以是智能机器人在行为人设计和编制的程序操控下对被害人实施的(此时行为人与被害人既未在同一空间,也未在同一时间)。但无论如何,在利用智能机器人抢劫的场景中,被害人的人身安全和财产安全受到了实际的威胁或实际的侵害,且都是由行为人的行为或者行为的延伸所直接导致的。

(二)调整相关犯罪的构成要件

针对现行刑法规定规制不足的涉人工智能犯罪,我们需要调整相关犯罪的构成要件,将更新之后的行为方式纳入刑法条文的调整范围之内。例如,对于全自动汽车引发的交通事故,在由汽车本身存在质量问题导致事故发生的情况下,应由汽车的设计者或生产者承担有关产品质量事故的责任。但是在由全自动汽车违反交通法规引发交通事故的情况下,应由谁承担责任,法律并未给出答案。根据刑法第133条“交通肇事罪”的规定,本罪的主体是从事交通运输的人员或者非交通运输人员。其中,非交通运输人员是指没有合法手续,却从事正常交通运输的人员。应当看到,在传统的交通肇事罪的构成要件中,能够承担交通肇事刑事责任的是从事交通运输的人员(包括有合法手续的人员和无合法手续的人员)。而在人工智能时代,全自动汽车在行驶过程中,似乎并不存在从事正常交通运输的人员。全自动汽车是在设计和编制的程序控制之下从事交通运输的,汽车上只有乘客而无驾驶员,在乘客没有违反操作规则干预全自动汽车正常行驶的情况下,乘客对交通事故的产生没有任何原因力,不应承担任何责任。全自动汽车是在设计和编制的程序控制之下在道路上行驶的,其之所以违反交通规则,也是在程序支配之下进行的。退一步讲,即使全自动汽车程序发生了紊乱,导致全自动汽车违反交通规则,其根本原因也可以追溯到程序设计和编制中发生的错误或疏忽。由此可见,将全自动汽车违反交通规则造成交通事故的过失犯罪的刑事责任归于全自动汽车的设计者或生产者似乎不应有疑义。但是应当看到,过失犯罪的成立取决于三点:一是违反注意义务;二是对危害结果的预见可能性;三是危害结果发生。毫无疑问,对于全自动汽车造成交通事故的危害结果,无人汽车的设计者或生产者是有预见可能性的。问题的关键在于全自动汽车的设计者或生产者是否有保证全自动汽车遵守交通规则从而避免交通事故发生的注意义务。“根据危险控制原则,未能控制危险的发生,是行为人归责的基础。具体地说,控制危险是行为人的义务,如果行为人有能力避免危险的发生,却未履行控制的义务,以致发生危险的,就应该对此承担刑事责任。”全自动汽车的设计者或生产者在设计和编制程序时,通常是有能力为全自动汽车设置相应程序,从而使其遵守交通规则的,如果其未设置相应程序,使得全自动汽车在行驶过程中违反交通规则引发交通事故,理应承担过失犯罪的刑事责任。在弱人工智能时代,应构建和完善相应的前置性法律法规,明确全自动汽车的设计者或生产者的注意义务,否则对其追究过失犯罪的刑事责任时将缺乏依据。对于智能医生在进行医疗活动时导致的医疗事故的责任承担,与全自动汽车造成交通事故时责任承担的原理类似,在此不再赘述。笔者建议,在人工智能时代,应完善相应的前置性法律法规,明确智能机器人的设计者或生产者的注意义务,在其违反注意义务而使得智能机器人在运行过程中造成严重的社会危害时,可以追究智能机器人的设计者或生产者的过失犯罪的刑事责任,具体路径有如下两种:第一,在如交通肇事罪等过失犯罪的构成要件中增加智能机器人的设计者或生产者这一主体。具体理由笔者已在上文论述,在此不再赘述。第二,扩大传统意义上的承担产品事故责任的范围。将智能机器人的设计者或生产者纳入交通肇事罪的主体之中这一路径的合理之处在于,全自动汽车在交通运输过程中发生交通事故的原因是基于违反交通规则,而不是直接基于全自动汽车产品质量;其不合理之处则在于,全自动汽车的设计者或生产者并未直接参与交通运输活动,而直接参与交通运输活动的是全自动汽车。但是,全自动汽车上因为没有驾驶员,其违反交通规则导致的交通事故又是基于全自动汽车的设计者或生产者在设置程序时存在瑕疵。换言之,构成交通肇事罪这一过失犯罪的前提是违反了“遵守交通法规”这一注意义务,而全自动汽车的设计者或生产者并未直接违反这一注意义务,而只是在设置程序时违反了程序质量的注意义务。因为程序是控制全自动汽车上路行驶必不可少的组成部分,也应被作为产品看待,全自动汽车因违反交通规则而引发的交通事故就变成了由于产品(程序)瑕疵而引发的产品质量事故。如果全自动汽车的设计者或生产者因此而承担相应的产品事故责任,实际上就必然要扩大传统意义上的产品事故责任的范围。为此,刑法似乎应增加相应罪名(笔者将在下文中作详细说明)。当然,“法律不强人所难”,囿于人工智能技术发展阶段与水平的限制,完全可能存在智能机器人的设计者或生产者无法消除的人工智能安全风险的情形。在这种情况下,我们应将智能机器人在运行过程中造成的严重危害社会的结果作为意外事件处理,不应追究智能机器人的设计者或生产者的刑事责任。

针对现行刑法中规定的罪名的构成要件没有涵括人工智能时代的新型行为方式的情况,我们应当完善现有的刑法条文,在其中增加适应人工智能时代特点的新型行为方式。例如,在证券、期货交易市场中,行为人利用技术优势操控证券、期货市场,而技术优势并不属于刑法第182条“操纵证券、期货市场罪”所规定的资金优势、持股优势、持仓优势或者信息优势这四种优势,因此应当采用修正案的方式,在刑法第182条之中增加利用技术优势操纵证券、期货交易价格或者证券、期货交易量这种行为方式,完善操纵证券、期货市场罪的行为方式,适应人工智能时代的需求。

(三)设立新的罪名

针对当前弱人工智能时代出现的新的严重危害社会的行为,我们需要设立新的罪名加以规制。人工智能时代出现的新的严重危害社会的行为可以分为两类:一是行为人滥用智能机器人的深度学习能力,通过对从事正常合法行为的机器人进行训练,使之具备实施严重危害社会的行为的能力;二是智能机器人的设计者或生产者在为智能机器人设计和编制程序时,未履行相应的注意义务,导致使用者在使用智能机器人的过程中发生严重危害社会的结果。

笔者建议,针对第一种情形,应增设滥用人工智能产品罪;针对第二种情形,应增设人工智能产品事故罪。应当看到,在构成滥用人工智能产品罪或者人工智能产品事故罪的同时,仍有可能构成其他犯罪。例如,在“微软聊天机器人Tay案”中,行为人通过对智能机器人Tay进行教唆,使其发表不当言论,有可能构成煽动类型的犯罪(如煽动颠覆国家政权罪、煽动分裂国家罪、煽动民族仇恨、民族歧视罪等),但同时又可以构成滥用人工智能产品罪;在全自动汽车违反交通规则引发交通事故的情况下,全自动汽车的设计者或生产者可能构成交通肇事罪,也可能构成人工智能产品事故罪。笔者认为,出现上述可能适用不同法条的现象是不可避免的。原因在于,在人工智能时代,技术的发展日新月异、一日千里,而刑事立法需要具有相对稳定性,即社会的发展是无限的,而立法者的智慧是有限的,在设立新的涉人工智能犯罪的罪名时,立法者只能尽量出于对一般犯罪的考虑来设定条文,如果立法者对各种具体情况考虑得面面俱到,将会导致刑法条文过于庞杂。对于上述可能适用不同法条的问题,我们应尽量通过刑法条文的完善加以解决;如果涉及到法条竞合的,就应遵循特别法条优于普通法条、重法优于轻法的法条竞合处理原则。其中,滥用人工智能产品罪和人工智能产品事故罪属于普通法条。滥用人工智能产品罪侧重于处罚行为人故意利用智能机器人实施犯罪的行为,而人工智能产品事故罪侧重于处罚行为人由于过失导致严重危害社会结果发生的行为。可见,设置上述两个罪名是适当的前瞻性立法,是平衡人工智能技术发展速度和刑法条文稳定性之后作出的恰当选择。未来当人工智能技术发展到更加成熟的阶段,可以通过司法解释对之作出更为具体的规定。

结语
关于刑法理念和应对策略的探讨,并非形而上的坐而论道,而是由人们身处的社会发展阶段和生产力发展水平所决定的。在目前的弱人工智能时代,智能机器人只能作为人类身体和大脑的延伸,在设计和编制的程序范围内实施行为,实现人类的意志和意识。就目前的人工智能技术发展水平而言,我国现行刑法规定可以规制大部分涉人工智能犯罪,但是需要针对条文规定过于模糊的地方,通过司法解释予以明确,或者通过调整部分犯罪的构成要件,将人工智能时代出现的新型行为方式予以包涵。对于人工智能时代出现的特有的新型犯罪,需要践行人工智能时代刑法的前瞻性理念,增设滥用人工智能产品罪和人工智能产品事故罪等罪名,实现技术飞速发展和刑法条文相对稳定性之间的平衡。

上海市法学会欢迎您的投稿  fxhgzh@vip.163.com

来源:《上海法学研究》集刊2019年第3卷,《人工智能刑事法律理论研究——上海市法学会刑法学研究会文集》