sis banner sls2
欢迎光临上海市法学会!   您是第位访客 今天是
标题 内容 作者
  • 财税法学研究会
  • 法理法史研究会
  • 法学教育研究会
  • 港澳台法律研究会
  • 国际法研究会
  • 海商法研究会
  • 金融法研究会
  • 禁毒法研究会
  • 经济法学研究会
  • 劳动法研究会
  • 民法研究会
  • 农业农村法治研究会
  • 商法学研究会
  • 社会治理研究会
  • 生命法研究会
  • 诉讼法研究会
  • 外国法与比较法研究会
  • 未成年人法研究会
  • 宪法研究会
  • 消费者权益保护法研究会
  • 网络治理与数据信息法学研究会
  • 刑法学研究会
  • 行政法学研究会
  • 知识产权法研究会
  • 仲裁法研究会
  • 反恐研究中心
  • 教育法学研究会
  • 航空法研究会
  • 卫生法学研究会
  • 立法学研究会
  • 法学期刊研究会
  • 法社会学研究会
  • 自贸区法治研究会
  • 竞争法研究会
  • 非公经济法治研究会
  • 人民调解法治研究会
  • 欧盟法研究会
  • 海洋法治研究会
  • 破产法研究会
  • 财富管理法治研究中心
  • 法学翻译研究会
  • 慈善法治研究会
  • 司法研究会
  • 海关法研究会
  • 环境和资源保护法研究会
  • "一带一路"法律研究会
  • 案例法学研究会
  • 互联网司法研究小组
  • 文化产业法治研究小组
  • 体育法学研究会
  • 人工智能法治研究会
  • 刑罚执行与回归社会研究小组
  •       
当前位置: 网站首页 > 学会活动

2019世界人工智能大会法治论坛主题演讲专家观点集萃(六)

2019-09-04 14:14:41 字体:

image.png

嘉宾简介

Thomas Cort Rubin托马斯·卡特·鲁宾

斯坦福大学法学院荣誉讲师

Thomas Cort Rubin在斯坦福大学法学院担任荣誉讲师,教授人工智能,科技政策以及知识产权。同时他也是昆鹰国际律所的特聘法律顾问。在此之前的许多年间,他在微软担任知识产权首席战略官,并帮助微软的各个商业部门领引了一系列复杂的产品发展,授权许可以及国际策略。他在人工智能领域已有二十多年的工作经验,并常在科技与创新领域进行全球演讲。

人工智能的监管框架——从监管到治理

(根据演讲嘉宾现场发言整理,未经本人审阅)

我想把这次讨论,与过去25年间席卷社会的技术创新浪潮背景相结合。从互联网的出现到逐渐占据主导地位,其发展历史提供了需要吸取的教训,也正是AI发展壮大过程中需要避免的错误。这次讨论是从AI的角度展开。

结合具有普遍适用效力的观察结果来回顾25年前互联网时代的开端,当时互联网并没有得到公众或决策者的广泛认可。就科技产业本身,甚至包括当时的微软,也只是其中一小部分。互联网上的每一个参与者都是进入该领域很好的入口,因为商业活动是未知、未开发的领域,参与者们试图通过促进投资来启动互联网产业。政策制定者十分关注法律的不确定性和财务风险,即平台自身对他人行为承担责任,但最终也是托管并交付给公众。

美国国会在20世纪90年代中期颁布了大量的法律,制定了为互联网平台提供实质性的责任限制、数字千年版权法中的通信体面法案等,以期解决不确定性所带来的问题。这些法律规定,尽可能地为推动科技公司培养充分的金融风险意识而努力。在互联网气球投资进行了多项重大诉讼和法院判决测试之后,互联网服务提供商的首选地位基本上保持了数年。然而,互联网不仅给公民带来了力量、启迪和便利,也带来了一系列弊端。更多的关注在于推动该平台的开放发展过程中人们如何保护个人隐私和防范安全漏洞,比如被遗忘权(the right to be forgotten)。接着,欧洲颁布《通用数据保护条例(GeneralData Protection ules,GDPR)》,开始从保护服务提供商转向保护网络上的弱势群体。这些问题一直在美国酝酿,但从来没有达到同等水平的重视和解决。直到Facebook信息在2016年的总统选举过程中操纵和滥用这一爆炸性事件的揭露,对民主和社会产生极大影响后,公众的关注才促使立法者和监管者采取行动。

image.png

为解决网上的不端行为,各种各样的建议相继出台或列入制定计划中,包括削减加利福尼亚州的《通信体面法案(the Communications Decency Act)》和当中所包含的安全港,这些法案与《全球发展规划法(the Emerging Regulatory Rramework of Artificial Intelligence )》有共通之处。由此可见,我们正在转向努力构建新兴人工智能管理框架。

虽然人工智能在亚洲的商业化还处于起步阶段,但人们更多关注于管理人工智能的法律框架构建及进一步完善监管的探索。我认为,新兴的监管框架既涉及内部行动,也涉及影响新技术领先AI公司的外部因素。大型人工智能公司试图通过公开宣布指导他们产品的原则和价值观来扰乱市场,其中包括了公平、安全、隐私、透明、问责或承诺,虽然没有法律的强制约束力,但远远超出了互联网平台在其发展早期所承诺的。在8月29日召开的2019世界人工智能大会上,腾讯CEO称人工智能治理任务紧迫,微软的人工智能研究负责人也强调了对人工智能负责和进行伦理审查的必要性。

部分公司甚至建立外部咨询委员会,为企业的决策过程提供更广阔的视角。人工智能的力量在于它能用机器取代人,并且取代人的判断。因此,编码其决策过程中的算法必须遵循社会规范,在公平性和可靠性方面要避免产生争议,要经得起时间的考验。公民、消费者、公共利益组织和立法者与人工智能之间存在利害关系,公司不仅是在人工智能领域的审查阶段,甚至更早的阶段,就已经开始积极监测和应对事态的发展。这些行为构成了人工智能时代一种新的规制形式,被称为非传统规制,从而影响当事人对技术的发展和运用。在演讲的最后一部分中,我将简要地讨论这一过程最近的三个实例,分别是人工智能语音辅助训练和发布、自主车辆安全和测试、面部识别技术准确性和响应性。

image.png

语音辅助是一个类别,许多公司都在竞争使用人工智能,以创造最全面的对话和数字的存在。据新闻调查显示,美国的每一家大型科技公司都雇佣了员工或承包商来窃听顾客家中语音助理的私人谈话。

对于这种行为的处理,已经有了一种传统的管理形式,即提起诉讼,以此主张这一行为没有得到用户的适当同意。但另一种形式的监管压力,即表示公开反对公司的行为,强调用户的隐私是不可侵犯的,私人谈话不应被窃取,迫使所有公司在实践中的改变这种做法。举个例子,去年优步(Uber)的一辆自动驾驶汽车在亚利桑那州撞死了一名行人。事故发生后,最早的报道迅速指责行人在一条黑暗的街道中间横穿。然而,经过调查人员的仔细观察,发现了一些完全不同的证据。可以说,是因为监管失误从而导致了行人死亡。优步汽车虽出现在亚利桑那州的街道上,但其测试实际上是在旧金山进行的,而该公司拒绝了相对较小程度的市政监管,并将其项目在一夜之间迁至亚利桑那州。为什么选择了亚利桑那州?原因是,吸引生意。该州州长宣布,在道路上测试不会受到监管或安全审查。采取非常宽松的控制措施的后果是什么?它使沃尔沃汽车中的一些基本安全装置失效。尽管,优步还雇用了一位在手机上观看视频的安全司机,但也并非是监控汽车行驶的性能。只有在汽车撞死了行人之后,监管机构才会迫使甚至鼓励你把安全放在第一位,而它又是如何通过确定安全的优先次序来管理自己的安全的呢?目前很大程度上,只能靠公司自己设计和部署符合自己的规范和安全标准来进行监管。联邦政府和亚利桑那州的专家委员会都被任命为自动驾驶汽车的监督员,因为他们是第一次公开使用自动驾驶汽车。但在这两种情况下,这些努力基本上是无用的。时间会告诉大家,监管是否会在这一领域发挥作用。

image.png

目前,美国人脸识别技术已经发生了很大的变化。人们对这项技术进行了大量的细致研究,特别是研究人员已经证明其中存在着严重的错误和种族歪曲的问题。像旧金山这样的潜在客户已经完全禁止或停止使用这项技术。现在该领域的一些领先公司,包括亚马逊和微软,已经公开呼吁对面部识别技术进行联邦监管,以确保其公正性和准确性。日前,这一问题甚至还在美国总统竞选中提及。与受监管雷达下驾驶的自动化车辆不同,面部识别技术在公司内部经受到非常严格的审查,这些公司既是由政府部署的,也有大量公众在使用。

综上所述,这三个例子表明,尽管一些人工智能公司本身在内的许多人承认,人工智能需要密切监督和管理,但这也只是一个结果不一致的临时过程。也许这对于一项新技术来说并不奇怪,但开发一个跨多个产品的合适框架以及评估部署高度复杂的技术需要大量时间。最近,美国国会提出了一项名为《算法问责法(the Algorithmic Accountability Act)》的法案,表示政府将会付出更多的努力去正式管理这些问题。在此之前,公司内部的治理流程和市场上客户的拒绝,可能提供了对AI不受约束的发展来说最为清晰的检查。