sis banner sls2
欢迎光临上海市法学会!   您是第位访客 今天是
标题 内容 作者
  • 财税法学研究会
  • 法理法史研究会
  • 法学教育研究会
  • 港澳台法律研究会
  • 国际法研究会
  • 海商法研究会
  • 金融法研究会
  • 禁毒法研究会
  • 经济法学研究会
  • 劳动法研究会
  • 民法研究会
  • 农村法制研究会
  • 商法学研究会
  • 社会治安综合治理研究会
  • 生命法研究会
  • 诉讼法研究会
  • 外国法与比较法研究会
  • 未成年人法研究会
  • 宪法学研究会
  • 消费者权益保护法研究会
  • 信息法律研究会
  • 刑法学研究会
  • 行政法学研究会
  • 银行法律实务研究中心
  • 知识产权法研究会
  • 仲裁法研究会
  • 反恐研究中心
  • 教育法学研究会
  • 航空法学研究会
  • 卫生法研究会
  • 立法学研究会
  • 法学期刊研究会
  • 法社会学研究会
  • 自贸区法治研究会
  • 竞争法研究会
  • 人民调解法治研究会
  • 欧盟法研究会
  • 海洋法治研究会
  • 破产法研究会
  • 财富管理法治研究中心
  • 法学翻译研究会
  • 慈善法治研究会
  • 司法研究会
  • 海关法研究会
  • 环境和资源保护法研究会
  • "一带一路"法律研究会
  • 案例法学研究会
  •       
当前位置: 网站首页 > 新闻报道

“人工智能与法治”高端研讨会专家观点集锦丨赵春学:中国AI数据安全技术发展与法律保障

2018-09-25 10:14:21 字体:

编者按9月19日,2018世界人工智能大会“人工智能与法治”高端研讨会成功召开。会议研讨阶段,在法律和人工智能领域具有广泛影响的领导、顶尖研究专家、教授学者、业界精英围绕“发展应用与法治保障”的主题,作了专题发言。公号将陆续摘编部分嘉宾的精彩演讲,以飨大家。

image.png

赵春学(北京优炫软件股份有限公司联合创始人) 

一、安全形势和市场需求是AI数据安全技术发展的第一动力

1、AI数据安全威胁日益复杂

AI数据安全威胁主要来源于黑客群体、敌对势力和敌对国家,他们重点针对AI数据财富、AI数据设施和国家AI数据主权进行攻击,AI数据安全威胁攻击模型如下图。

image.png

AI数据安全攻击模型图(根据沈昌祥院士2018央视演讲整理)

(1)内部威胁日益复杂。AI数据安全堡垒最容易被内部人攻破,事实上大多数AI数据安全事件就是数据中心内部工作人员或协作单位内部员工所为,大量内部AI数据泄密事件就是最好的例证。

(2)外部威胁日益复杂。随着中美博弈进一步加剧,中国人工智能安全外部威胁必然会日益复杂。中国在人工智能领域有先发优势,同时也存在先发劣势,中国的人工智能大厦建立在美国的“两软一芯”(核心芯片、操作系统软件和数据库软件)基础之上,对此应当有清醒的认识。

 2、AI数据安全风险越来越大

(1)管理风险越来越大。先发优势带来快速发展,先发劣势带来管理滞后。AI数据管理缺乏有效抓手,存在内部人员违规使用数据,外包人员数据泄露,互联网+等第三方APP接入数据保护,数据分权管理,数据分级管理等风险。

(2)技术风险越来越大。面对新的AI数据安全威胁,传统安全技术显得滞后。传统网安设备很难应对操作系统漏洞、应用系统漏洞、数据库漏洞、硬件芯片漏洞、数据共享需求膨胀等威胁。常常出现数据使用日志缺失、数据泄露安全事件难于追溯、安全事件难于定位、无法实现主动防御、无法主动阻断风险等事故。

 3、传统安全防护效能日益下降

(1)传统防护不能满足AI数据安全需要。传统防护系统依靠原有已知攻击特征库的模式匹配不能识别未知威胁,未知威胁一击命中。

(2)攻击者与防御者在信息上不对称。防御者常常不成体系,纯粹的堆积安全设备,单纯的等保防护措施根本不够防范新攻击。

(3)APT未知威胁层出不穷。APT攻击采用的攻击手法通常都是利用未知漏洞(0day)、未知恶意代码等未知行为,依靠传统方式理论上无法检测。

4、AI数据安全事件日益增多

(1)AI安全事件大幅增加。国家互联网应急中心报告,联网智能设备被恶意控制,并用于发起大流量分布式拒绝服务攻击的现象更加严重;具有国家背景黑客组织发动的APT攻击事件直接威胁了国家安全和稳定。统计数据显示,2017年上半年泄露及被盗数据达19亿条(超过2016全年的14亿条),2017全年信息泄露超过50亿条。

(2)勒索病毒尤其猖獗。国家互联网应急中心报告,欺诈勒索软件在互联网上肆虐。2017年5月12日,全球近百个国家遭受勒索病毒“WannaCry”影响,超过10万台计算机中毒致使大量用户文件资料被锁,受害用户只有支付高额赎金才能恢复。中国部分高校校园网用户中招,医疗、能源、公安等行业皆受到严重影响。

 5、AI数据安全需求增长十分强劲

(1)AI数据安全投资潜力巨大。从国内外AI数据安全投入规模现状对比来看,国内AI数据安全投入在AI中的占比约为1%左右,而发达国家AI数据安全投入占比已经达到10%左右,潜力空间巨大。

(2)AI数据安全需求市场巨大。应对威胁,中国会不断地加大对于AI数据保护的安全投入,AI数据安全市场会是安全行业价值最高、规模最大的细分市场之一,足以支撑未来千亿级市场空间。

二、法律保障促进AI数据安全技术加速发展

 1、AI数据安全政策法规促进技术加速发展

(1)中央重视是制定相关政策法规的第一推力。2014年2月,中央网络安全和信息化领导小组宣告成立,习近平任组长。2018年3月,中央网络安全和信息化领导小组改为中国共产党中央网络安全和信息化委员会。中央重视网络安全工作是第一推动力。

(2)行业规定尤其是《信息安全等级保护管理办法》促进行业加速发展。等保三级及以上等级信息系统建设其数据要采取加密、主动防御、审计等技术来保护数据安全。等保三级及以上等级信息系统建设数据保密要求,提供或支持云租户部署数据安全方案。行业规定严格执行带来行业刚需,加速行业发展。

 2、《中华人民共和国网络安全法》促进技术加速发展

(1)有关等级保护规定促进大发展。第二十一条规定,国家实行网络安全等级保护制度。网络运营者应当按照网络安全等级保护制度的要求,履行下列安全保护义务,保障网络免受干扰、破坏或者未经授权的访问,防止网络数据泄露或者被窃取、篡改。国家等级保护规定系统性执行带来大投资促进大发展。

(2)有关重点保护规定促进大发展。第三十一条规定,国家对公共通信和信息服务、能源、交通、水利、金融、公共服务、电子政务等重要行业和领域,以及其他一旦遭到破坏、丧失功能或者数据泄露,可能严重危害国家安全、国计民生、公共利益的关键信息基础设施,在网络安全等级保护制度的基础上,实行重点保护。国家重点保护规定系统性执行带来大投资促进大发展。

(3)有关同步规划建设使用的规定促进大发展。第三十三条规定,建设关键信息基础设施应当确保其具有支持业务稳定、持续运行的性能,并保证安全技术措施同步规划、同步建设、同步使用。三同步的规定确保投资落地,推动技术大发展。

三、中国AI数据安全技术发展日新月异

1、传统架构AI数据安全技术大发展

(1)终端安全技术大发展。新威胁与创新技术一起,将终端安全技术带入了深度防御架构时代,安全防护由多种产品共同构成,形成立体防护体系。

(2)网络安全技术大发展。网络安全遵循木桶原理,系统的各个环节都有可能成为攻击者的突破口,从而导致整个系统被攻击者击溃。网络安全技术大发展主要包括防火墙(Firewall)、入侵检测系统(IDS)、入侵防御系统(IPS)、虚拟专用网络(VPN)、工业控制系统等数据安全技术大发展。

(3)大数据安全技术大发展。2016年国务院发布《“十三五”国家信息化规划》指出,要“实施大数据安全保障工程,加强数据资源在采集、传输、存储、使用和开放等环节的安全保护”。《规划》推动了大数据采集、存储、清洗、分析、发掘、可视化、安全与隐私保护等关键技术攻关。中国信息安全标准化技术委员会发布了《大数据安全标准化白皮书(2017)》白皮书,从基础标准、平台和技术、数据安全、服务安全、行业应用五个方面构建大数据安全标准体系框架,规划设置了中国大数据安全标准体系的工作路线,促进相关数据安全技术大发展。

 2、云架构AI数据安全技术大发展

(1)Iass架构AI数据安全技术大发展。在强劲的市场需求和法规强制规定下,Iass架构网络远程访问带来传输安全、接入认证、接入可靠性等技术进步,虚拟化、多租户带来性能保障、互相影响、互相隔离等技术进步,运行在非客户自有资产带来了第三方服务人员权限问题管理技术进步。

(2)Pass架构AI数据安全技术大发展。在强劲的市场需求和法规强制规定下,Pass架构AI数据安全技术在安全产品功能虚拟化、自动化部署、与业务进行自动化关联、高可靠性、高性能、开放标准化接口、集中管理运维、统一可视化展示与关联调度等方面取得大发展。

(3)Sass架构AI数据安全技术大发展。在强劲的市场需求和法规强制规定下,Sass架构AI数据安全技术在建立硬件环境防范体系和多层级备份机制、启用防火墙和入侵检测系统、实施网络监控和数据传输控制、系统加固和漏洞扫描修复及防病毒、应用安全控制策略、管理安全控制策略等方面取得大发展。

 3、AI数据安全人工智能化技术大发展

(1)AI数据安全态势感知技术大发展。习近平总书记提出:“安全是发展的前提,发展是安全的保障,安全和发展要同步推进加快构建关键信息基础设施安全保障体系,全天候全方位感知网络安全态势,增强网络安全防御能力和威慑能力。”

《网络安全法》和《国家网络安全战略》出台进一步促进了安全态势感知大发展。态势感知系统具备网络空间安全持续监控能力,能够及时发现各种攻击威胁与异常;具备威胁调查分析及可视化能力,可以对威胁相关的影响范围、攻击路径、目的、手段进行快速判别,从而支撑有效的安全决策和响应;能够建立安全预警机制,来完善风险控制、应急响应和整体安全防护的水平。

“态势感知”已经成为网络空间安全领域聚焦的热点,也成为网络安全技术、产品、方案不断创新、发展、演进的汇集体现,代表了当前网络安全攻防对抗的最新趋势。

(2)AI数据安全大脑技术大发展。在强劲的市场需求和法规强制规定下,AI数据安全大脑技术快速发展。AI数据安全大脑利用数以亿计的智能终端,采集数据和信息,经过智能化的分析,感知安全风险;具备自我学习、自我演进的能力,实现对新威胁的识别;依据安全大数据及先验知识或规则进行推理;对未来可能发生的网络安全威胁和攻击进行预测;同时,综合利用各种技术,实现对网络安全威胁的分析、判断、处置、响应、反制等决策进行辅助。

 4、结论:中国AI数据安全技术发展动力模型

AI数据安全威胁和需求与法律保障共同推动了AI数据安全技术大发展。 AI数据安全威胁和需求是AI数据安全技术发展的第一动力,法律保障促进AI数据安全技术加速发展, AI数据安全威胁和需求与法律保障共生演化构成AI数据安全技术发展动力模型。