sis banner sls2
欢迎光临上海市法学会!   您是第位访客 今天是
标题 内容 作者
  • 财税法学研究会
  • 法理法史研究会
  • 法学教育研究会
  • 港澳台法律研究会
  • 国际法研究会
  • 海商法研究会
  • 金融法研究会
  • 禁毒法研究会
  • 经济法学研究会
  • 劳动法研究会
  • 民法研究会
  • 农业农村法治研究会
  • 商法学研究会
  • 社会治理研究会
  • 生命法研究会
  • 诉讼法研究会
  • 外国法与比较法研究会
  • 未成年人法研究会
  • 宪法研究会
  • 消费者权益保护法研究会
  • 信息法律研究会
  • 刑法学研究会
  • 行政法学研究会
  • 银行法律实务研究中心
  • 知识产权法研究会
  • 仲裁法研究会
  • 反恐研究中心
  • 教育法学研究会
  • 航空法研究会
  • 卫生法学研究会
  • 立法学研究会
  • 法学期刊研究会
  • 法社会学研究会
  • 自贸区法治研究会
  • 竞争法研究会
  • 非公经济法治研究会
  • 人民调解法治研究会
  • 欧盟法研究会
  • 海洋法治研究会
  • 破产法研究会
  • 财富管理法治研究中心
  • 法学翻译研究会
  • 慈善法治研究会
  • 司法研究会
  • 海关法研究会
  • 环境和资源保护法研究会
  • "一带一路"法律研究会
  • 案例法学研究会
  • 互联网司法研究小组
  • 文化产业法治研究小组
  •       
当前位置: 网站首页 > 最新消息

人工智能时代的个人信息保护

2019-05-14 09:32:06 字体:

“2049:我与人工智能”为主题,上海市法学会、中国知网、《东方法学》编辑部面向全球征文,上海市法学会将邀请部分获奖作者到沪参加2019世界人工智能大会有关活动,欢迎投稿(6月30日截稿)。

征稿将按不同年龄组别、不同体裁类型(学术作品、文学作品)分别进行评奖

微信公众号“上海市法学会”择优刊登大赛征文

中国知网《中国法律知识资源总库-会议论文库》择优刊登优秀学术类文献,并给作者颁发收录证书

本文作者简介

陈大元,24岁,华中师范大学

点击链接了解更多详情:“2049:我与人工智能”有奖征文大赛

微信号推送时注释已略。

内容摘要

个人信息权利是近些年来随着科技发展而逐渐进入法学界视野的新生事物。近些年来,随着科技发展,也别是人工智能的进步,侵害个人信息权的案件时有发生。对于个人信息权建立完整的保障体系很有必要。从性质上来说,个人信息权应当属于隐私权的一种。对于个人信息权的保护应当在隐私权的框架中进行。从立法上来讲,具体结合当下人工智能科技发展的背景,制定有效的专门的符合实际的法律或规定。

关键词:人工智能  个人信息权  隐私权  性质  立法

image.png

1950年,图灵提出图灵测试,科学家们逐渐开始了对于人工智能技术的思考与探索。时至今日,人工智能已成为现代社会未来科学技术发展的方向。我们看到,人工智能智能机器人在某些领域已经开始广泛的应用,各种各样的类人机器人成为科技展会的焦点。

人工智能时代正向我们走来,从最初的工业用机器人到后来战胜围棋高手的“阿尔法狗”,人工智能已经在多个领域展示出其人类难以望其项背的高超技术。在科技日新月异的当下,人工智能的发展会不会对个人的合法权利带来损害或是有一些潜藏的威胁?答案肯定的。特别是对于个人合法权利带来了威胁,首当其冲的便是公民的个人信息权益。

一、人工智能技术概述

有学者认为,可以从“能力”和“学科”两方面对人工智能进行理解。人工智能(Artificial Intelligence)从本质上讲,是指用人工的方法在机器上实现智能,是一门研究如何构造智能机器或智能系统,使之能够模拟人类智能活动的能力,以延伸人们智能的学科。

笔者认为,目前的人工智能技术是很大程度上基于互联网与计算机技术而建立起来的,人工智能与计算机程序技术、大数据应用、云计算技术等现代科技与工业体系有着密切的联系。

大众通常认为,人工智能就是机器人,是实体的存在物,这种观点是片面的,人工智能已经参与了社会生活的方方面面。不仅在机器人、智能终端设备上,我们可以看见人工智能的“身影”,而且在信息处理、智能服务等看不见的领域,也有它们的存在。

例如,消费者在打开购物软件时,首页总是能推送想要购买的物品或服务;当打开音乐软件时,其总是能为听者推荐所喜欢类型的音乐。在这种情况下,人工智能就像“管家”一样,了解人,并能够及时地提出下一步的方案或措施。

在大数据与云计算的背景下,人工智能的模式可以表示为:数据收集与整理→数据分析与应用→行为输出。简要来说,即数据输入与行为输出。

人工智能从根本上来说还是一种模仿人类智能的技术,其很多考量因素都是以人的智力水平作为标准,大量的数据都是来源于对人类行为活动的记录,继而分析而形成的智能知识体系。

因此,有学者提出,人工智能的核心技术是数据与算法,这意味着人工智能越智能,越需要海量的个人信息作为支撑,同时也意味着处理个人信息的能力也就越强,由此引发严重的隐私危机。笔者认同该观点。

可以说,人工智能是融互联网技术、大数据分析技术、计算机技术、机器人工业技术为一体的一种技术模式,功能强大。基于强大的互联网捕捉、检索技术,人工智能收集的个人信息可以在平台上进行传播,这将给个人信息的保护带来严峻的挑战,这是所有人包括法律人需要面对的问题。

二、人工智能时代的个人信息权风险

在当前的技术水平下,人工智能是没有自主意识的,他们还不能完全像人类一样进行独立的思考。可能在未来科学技术发展到一定的水平,但是今天我们讨论的是就目前和近期的水平状况下的人工智能技术。具有自主意识的人工智能需要更为细致与深入的研究,不在本文讨论的范围内。

(一)人工智能数据收集阶段对个人信息的侵犯

人工智能对数据的收集与整理就决定了人工智能需要对人的行为进行观察和记录。这种观察与记录在一定程度上就相当于“监控”。在智能手机普遍使用的背景下,数据的收集变得更加便捷,人工智能技术通过手机上的使用记录可以清楚地知道行为人当天的活动轨迹,可以得知消费者点了何种外卖甚至是什么口味,浏览了什么网页以及对何种知识较为感兴趣。

不仅手机,其他的终端设备也为记录与收集数据提供了方便。比如,智能手环可以实时记录佩戴者的运动或健康状况,各类数码感应实施可以记录温度、湿度乃至气味,摄像头可以实时记录公共场所和家庭影像。

在一定程度上,这样的记录和收集方便了人们的生活,但也带来了隐患,这些记载的个人信息如果处与无约束的情况下,将会侵犯个人信息权益。各种新型人工智能产品层出不穷,使得原本私密的空间和信息不断受到侵蚀,人工智能带来了更多的隐私获取性。

2017年的“360摄像头”事件是近年来违法收集个人信息,侵犯公民权益的一个典型事件。在一些地区,360水滴直播平台公开直播摄像头拍摄内容,范围从幼儿园到高中,也有课外的辅导机构、美甲美容培训班等,甚至还有内衣店等商铺等更为隐私区域的直播视频。

在强大的舆论压力下,最终360公司关闭了水滴直播平台。该事件引发了公众对于个人信息泄露的担忧,关闭平台并不能够彻底解决问题,需要更为有效的措施防止类似事件的发生。在人工智能收集数据时就应该采取强有力的干预。

(二)人工智能技术为违法、犯罪带来一定便利条件

人工智能对数据进行收集与整理后,本来目的是为了便利人们的生产生活。在当前现有的技术条件下,人工智能技术还是受人控制的。人工智能设备在人设定的程序下运行,行为模式主要还是人来决定的,通常人可以在后台操作人工智能设备来从事相应的工作。

但是若人工智能技术为意图不轨的人掌握,就会带来侵犯他人的合法权利。科学技术是一把双刃剑,利用得当有利于社会生活,非法利用就会损害他人、社会和国家利益。

人工智能技术致人损害主要有两种情形: 一是侵权人对智能系统进行非法控制而造成的损害。例如黑客、病毒等人为因素侵入互联网;二是智能系统自身的产品瑕疵而造成的损害。第二种情形即算法错误、程序系统错误等。

由于没有有效的制约手段,人工智能的输出成果被恶意利用,以此在达到牟取非法利益等目的。有一些伪装性极强的网络诈骗、电信诈骗案件,犯罪分子就是利用数据分析结果,掌握了受害人的基本信息甚至是日常作息习惯,运用这些信息来实施诈骗行为,这种诈骗行为具有迷惑性区别于传统的诈骗行为,能够让受害人更快地钻入他们设下的圈套之中,同时受害人还深深地相信他们。这种披上科技外衣的诈骗手段让人防不胜防,危害性极大。时下猖獗的营销电话轰炸现象在一定程度上也是搭上了人工智能的便车。

有学者提出,人工智能可能只需通过侵入个人空间或住宅内的监控视频、通信网络设备、智能家居系统等就可侵入个人空间或住宅,且不留下任何外力痕迹。这种通过智能终端设备窥探他人信息的行为不仅侵犯了他人的个人信息权益、隐私权等人格权,而且由此可引发严重的犯罪和道德问题。

试想,在作为人的避风港的“家”里,个人信息和隐私在持续被监视并将可能在网络上传播,人的生活将没有任何安全感可言,人的基本尊严都有可能遭到践踏。

(三)人工智能对个人信息保护影响极大

在网络发展的基础上,个人信息一经记录,便将长期以数据形式存于网上。一旦通过上述形式泄露,会造成不可逆转的损害后果。当隐私数据流入人工智能系统,不是说切断电源就可以“停止侵害”的,个人信息会在数据占有者、数据处理者以及不同的数据利用者之间反复流动。

这种损害是难以消除的,以数据形式为载体的个人信息隐藏在互联网络之上,在合适的空间中还通过一定的技术手段、或者采用其他方式多次出现,其影响的时间是漫长的,绝大部分情况下唯一能做的只有等待。

三、人工智能时代的个人信息立法保护

在人工智能兴起的时代,现有的法律法规能否全面地对个人信息进行保护呢?笔者认为是要不够的。人工智能时代对于个人权利的侵犯方式越来越多样,对很多的遗留问题还没有得到解决,例如个人信息权益的属性问题以及个人信息权与隐私权的关系问题,学界存在多种学说,莫衷一是。在风险防范、侵权责任归属、赔偿等制度上同样需要进一步完善。

(一)个人信息权益应是一种特殊的隐私权

对于个人信息权的性质问题,理论界存在不同的见解。国外及我国一些学者认为个人信息权是一种“宪法基本权利”。还有学者认为,个人信息权是种人格权利益,应适用人格权的法律框架加以保护。在此有基础上有学者提出,例如马俊驹教授提出个人信息权归属于一般人格权,个人资料体现的人格利益远远超出了具体人格权的范围。

台湾学者王泽鉴认为,隐私权的保护范围包括个人的私密空间及信息自主 (信息隐私 ) 个人资料(信息)的法律规范并非自始基于一个预先设计的规划,而是因应侵害形态,科技进步、保护必要性及人民的权利意识而形成。

美国法律在个人信息保护的上也是采该种观点,在对于个人信息和隐私的关系方面,美国法采取了以隐私统一保护个人信息的模式。从美国相关法案的名称也可以体现出来,例如《隐私法》,该法以隐私权保护为基础,通过隐私权对个人信息加以保护。 

同时,还有其他的一些观点认为,个人信息与隐私在覆盖范围上存在重叠,个人信息既包括公开的个人信息,也包括隐秘的个人信息,因此隐私属于一种没有公开或者所有者不愿意被公开的个人信息。  

当前主流观点认为,个人信息权与隐私权是不同的。有学者认为,个人信息权就其主要内容和特征而言,在民事权利体系中,应当属于人格权的范畴。个人信息权应当作为一项独立的权利来对待。个人信息的内容主要是隐私,但也包括姓名、肖像等内容,与某个特定主体相关联,可以直接或间接地识别本人,与民事主体的人格密切相关,是一项综合性的权利,可成为一项人格权。正因为个人信息权具有特定内涵,这是其可以成为独立权利的基本依据。

综合主流观点,个人信息权与隐私权存在很大区别,个人信息也被称为“信息自决权”,强调一种合理的开放空间,有针对性地对这些信息加以运用;隐私权具有封闭性、保密性,强调保护。

随着数字时代的发展,个人信息权的人格利益与财产利益均日益凸显,将个人信息权视为一种独立的人格权就是要正面回答大数据时代下个人信息保护的问题。

有学者不禁发出感叹,“尽管笔者也曾心存不惜殚精竭虑而嗅探推究隐私权定义的企盼和梦想,但最终也不得因为无法克服法学定义之局限性而只得作罢。”其提倡从实用角度出发,不再深究隐私权的含义究竟如何,借鉴美国法学界的通常做法。

该种观点不作评价,但从侧面可以看出隐私权是具有包容性的、范围是较为广泛的,以至于对概念的定义争论了多年也还没有让所有人信服之定义。在这些隐私权定义之观点中,相当部分是根植于于不同空间、不同领域的,不能够统领所有与隐私权相关的部分。

笔者认为,应从实际出发,从互联网络、智能科技、创新发展的大视野来看待个人信息的属性问题。个人信息权主要是在互联网络兴起的背景下出现的,在互联网出现和普及之前,鲜有学者研究个人信息的利用与保护。法的本质由特定社会的物质生活条件决定,法律是随着社会实践的进行而向前发展的。我国《网络安全法》的制定和实施说明了个人信息的重要性和时下保护个人信息的必要性。

那么有没有必要将将个人信息权上升为一种独立的、具体的人格权?笔者认为是没有必要的。

在科技发展,特别是目前人工智能日新月异大发展的情况下,个人信息权在方向上基本是朝着隐私权靠近的,即注重对于个人信息的保护,而不是着重对该权利的利用。引用王泽鉴教授提出的,隐私权保护私生活不受干扰及信息自主两个生活领域。更为深层次的考虑,现代科技对于个人信息的运用已经到达了过度利用甚至滥用的地步,而且对于个人信息的保护也是在个人信息被滥用、公民权利被侵犯的数个典型案件中总结出来的经验。

在我国《网络安全法》中的网络信息安全一章中主要是关于个人信息保护的条文。隐私权的内容具有包容性和开放性,随着时代的发展能够注入新的内容,将个人信息权确定为特殊隐私权,有利于加强个人信息的保密和保护,从立法上确定这样的制度,将促进在科技发展背景下个人信息保护机制的完善,会带来良好的社会效应。

可以说,当前利用智能科技(AI)进行信息(包括个人信息)收集与运用的技术已经达到了相当高的水平,各主体已经有能力在合理的尺度内运用各种技术去进行社会实践活动,对于信息的合理利用已有了行业规范和标准。

笔者这样的观点是不是全面否定当前的主流观点-“独立的个人信息权是一项具体人格权”呢?显然不是。将个人信息权利视为一项独立的权利是有利于个人信息的保护与利用的。问题的关键在于“个人信息权”在什么范围内独立亦或是独立于哪一些权利。

笔者认为,个人信息权是独立于传统的“隐私权”,即指私人生活安宁不受他人非法干扰,私人信息保密不受他人非法搜集、刺探和公开。所以在一定程度上,隐私权的适用将发生一定范围的外延,将“个人信息权”纳入隐私权保护的范围。同时上文已论述过,在智能科技发展的背景下,个人信息权作为一种特殊的隐私权,是符合实际情况的。

从立法上来讲,创设一种新权利是一项重大的事项,法律要保持歉抑性,对于重大制度的创设必须是符合实际情况且有需求的,不能在现实生活中出现一些现有规定没有明确的问题时就要求从立法上来解决现实中存在的问题,而应当考虑在现有法律框架范围内用尽可能的手段。法对千姿百态、不断变化的社会生活的涵盖性和适应性不可避免地存在一定的局限。

科学立法的要义是尊重立法规律、克服立法中的主观随意性和盲目性,避免或者减少错误和失误,降低成本,提高立法效率。个人信息权是一种隐私权是符合法理学理论的,通过法律解释等方法适用隐私权在司法实践中已经成熟的保护模式,将会有效地节约立法资源、司法资源。

有学者曾研究过一些典型的侵害个人信息权益民事案件的定性问题,在其收集的6起典型案件中,法院将绝大多数个人信息以隐私权进行保护,对侮辱性地发布个人信息或发布其他能造成他人社会评价降低的判定为侵犯名誉权。

在现有的零散规定和学界对个人信息权与隐私权争论不休的情境下,一味强调以立法来区分二者的界限是不利于现实的社会生活需要的,同时关于个人信息方面的纠纷完全可以通过隐私权救济方式或其他人格权利的救济来得到解决。这些都说明了不论从学理或是从实践中来说,在近期都没有必要将“个人信息权”提高为一项独立的人格权利,制定专门的体系模式对其进行保护与利用。

(二)完善个人信息权保护体系

对于这样一种“特殊的隐私权”,同时在人工智能技术飞速发展的背景下,个人信息保护,还需要进一步通过立法来完善。当然,这与上节提到的科学立法(或称立法克制)并不冲突。前文所提到的是不创设新的权利类型,此处阐述的是基于现实情况,为个人信息提供完善的立法保护,建立健全救济机制。两处的前提条件是不一致的,在此作一说明。

个人信息权利的保护,在我国《民法总则》及《刑法》中都有相关的条文规定。《民法总则》第111条规定,自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的,应当依法取得并确保信息安全,不得非法收集、使用、加工、传输他人个人信息,不得非法买卖、提供或者公开他人个人信息。

《刑法》第253条规定了侵犯公民个人信息罪。在2017年6月开始实施的《网络安全法》也有相关规定来加强对于个人信息的保护,该法第40条至第50条详细规定了在网络中对于个人信息的保护。这些都标志着我国法律对于公民个人信息的保护体系越来越完善,更加强调在网络环境下对于个人信息权益的保护。

有学者曾对个人信息立法进行过实证研究,包括现行有效的法律、行政法规、地方性法规和司法解释等不同立法层次中有关个人信息保护的内容。

通过梳理分析得出:我国目前主要在各层级法律规范文件中对个人信息进行了分散保护,并在征信业和网络个人信息保护方面进行了专门规定,但由于特定领域保护个人信息范围很狭窄,所以,总体上,我国的个人信息保护还是分散立法保护的状态。

这种分散于各个层级、多个领域的立法现状不仅会带来司法适用上的混乱,而且在一定程度上会出现立法冲突的情况。完善的中国特色社会主义法律体系是有机联系的统一整体,讲究内在的协调。

笔者认为,在人工智能发展到融互联网、物联网、机械工业等为一身的今天,制定一部专门的《人工智能法》或者相关法律中增补关于人工智能时代对于个人信息的保护是很有必要的。

第一,总结经验和教训,将以往各层次立法的优秀成果以及司法实践中总结的有益的办案经验都纳入到全新的《人工智能法》或者相关法律中来,统一适用,形成完善的个人信息保护体系。这样做有利于各个立法部门、领域之间的交流,打破隔阂,建议一套完善的具有创新意义的符合实际、面向未来的人工智能法律,对于立法、司法和守法都是有积极意义的。

第二,借鉴国外有益经验。在美国,个人信息概念的兴起是以20世纪60年代后计算机技术的兴起为背景的,美国政府、国会采取了一系列措施或立法来加强个人信息的保护,且集中于某些风险较大的领域。同美国类似,德国有关个人信息的立法也是在公法或消费法的框架下进行的。这些国外还有中国台湾地区经验是可以借鉴的,针对重点领域,特别是消费领域、网购领域、家庭领域、学校领域、涉及未成年的,以及司法领域等的重点领域加加强对个人信息的管理与保护。

同时有学者提出,在立法路径层面,应充分认识到欧盟数据保护指令及《数据保护通用条例》中知情同意架构为核心的传统路径的局限,应将基于场景的风险管理理念贯穿于个人信息保护的立法和执行之中。中国台湾对于个人信息的保护依具体情况做具体的专门规定,内容详尽,保护体系基本完善,王泽鉴教授做过详细的研究,他认为台湾关于隐私权(特别是信息隐私)已形成基本的规范架构。

目前学界对于“知情同意”制度以及平台的“避风港制度”还存在很多的争论,笔者认为,在人工智能时代的背景下,要充分考虑过严或是过松的制度设计是否对个人信息保护与救济有利。应当采取妥当的规定、依具体情景采取不同的措施。

第三,在“万物皆可互联”的人工智能时代,制定这样的法律是有必要的。这不意味着以其他手段侵害个人信息的将得不到保护,其他领域的都能够适用这些规定。实际情况我们看到,很多个人信息侵权案件都是在互联网、大数据等人工智能组成部分相关的运行阶段中发生的,脱离这些阶段的案件极少,且造成的危害没有前者的深远。所以基本上的类型侵权案件都可以纳入到该法或有关规定的救济体系中。

四、结语

人工智能社会中的自然人都与智能技术产生着种种联系,对于个人信息的保护就显得尤为重要。个人信息权应当是一种特殊的隐私权,立法中建立完善的保障救济体系,从实际出发,切实保障个人信息权益。

随着时代的进步、科技的发展,人工智能也会演变出多种形态。但人工智能究其最终目的就服务于人类,便利人类生活、推动社会文明与进步,通过立法和其他方式构建完善的约束体系,使人工智能技术在合法合规的轨道上运行,才能更大程度的发挥技术的作用,更好造福人类。

道阻且长,研究人工智能技术以及智能时代下的法律体系还需要付出很大的努力,我们要做的就是从实际出发,克服专研,不断提高法治水平,推动法治国家建设。