sis banner sls2
欢迎光临上海市法学会!   您是第位访客 今天是
标题 内容 作者
  • 财税法学研究会
  • 法理法史研究会
  • 法学教育研究会
  • 港澳台法律研究会
  • 国际法研究会
  • 海商法研究会
  • 金融法研究会
  • 禁毒法研究会
  • 经济法学研究会
  • 劳动法研究会
  • 民法学研究会
  • 农业农村法治研究会
  • 商法学研究会
  • 社会治理研究会
  • 生命法研究会
  • 诉讼法研究会
  • 外国法与比较法研究会
  • 未成年人法研究会
  • 宪法研究会
  • 消费者权益保护法研究会
  • 网络治理与数据信息法学研究会
  • 刑法学研究会
  • 行政法学研究会
  • 知识产权法研究会
  • 仲裁法研究会
  • 反恐研究中心
  • 教育法学研究会
  • 航空法研究会
  • 卫生法学研究会
  • 立法学研究会
  • 法学期刊研究会
  • 法社会学研究会
  • 自贸区法治研究会
  • 竞争法研究会
  • 非公经济法治研究会
  • 人民调解法治研究会
  • 欧盟法研究会
  • 海洋法治研究会
  • 破产法研究会
  • 财富管理法治研究中心
  • 法学翻译研究会
  • 慈善法治研究会
  • 司法研究会
  • 海关法研究会
  • 环境和资源保护法研究会
  • "一带一路"法律研究会
  • 案例法学研究会
  • 互联网司法研究会
  • 文化产业法治研究小组
  • 体育法学研究小组
  • 人工智能法治研究会
  • 刑罚执行与回归社会研究小组
  •       
当前位置: 网站首页 > 学会活动

2020世界人工智能大会法治论坛主题演讲嘉宾观点集萃(七)

2020-07-14 09:19:50 字体:

image.png

秦裕林[美]

秦裕林,上海交通大学凯原法学院访问特聘教授,卡内基-梅隆大学(CMU)认知心理学博士,师从人工智能奠基者之一的赫伯特·西蒙 (Herbert A. Simon)。CMU资深研究心理学家,在美国科学院院士约翰·安德森实验室用fMRI开展人类认知总体结构ACT-R的神经基础研究。曾在《美国科学院院刊》《认知科学》《认知科学趋向》和《中国社会科学》等刊物发表多篇论文。

倡导开发能够自觉守法的人工智能系统

人工智能给人类社会的发展带来了机遇,同时也带来了问题与挑战。我们既要制定和落实执行相应的法律、法规来预防、制止可能有损人类根本利益的人工智能技术,使得人工智能技术不敢违法,不能违法,没有必要违法。例如,“数据合规,合则生,不合则亡”;也要倡导符合人类根本利益的负责任的人工智能技术,例如开发能够以人为本,尊重人类伦理,自觉遵纪守法,具有利他心理,能友好为人类服务的人工智能。

开发自觉守法的人工智能系统,可以分成三个层次:

最基本的层次是,对使用于规则简单的环境的人工智能系统,直接编码植入相关的法律、法规。譬如下围棋,对于一般的人来讲,围棋很难下得好,因为可能的棋局太多了。但是,从守法的角度来讲,只要定义了下子规则,因为规则清楚、确定、数量有限,人工智能系统很容易就能做到。

第二个层次是,对于运行性人工智能系统(Operational AI systems),开发具有学习能力的自主人工智能系统(autonomous AI systems)和人工智能监管系统(AI oversight systems)。以无人驾驶汽车为例,复杂的外部环境,使得不可能事先在固定的程序中穷尽所有可能遇到的状况,包括法律与道德问题。必须让系统成为具备一定的能自己作出抉释(有自主能力)的学习系统。问题是,这样的学习系统的行动有可能超越程序设计的本意,突破安全、法律与道德的限制;而光靠人力又很难实时控制。这时就需要一个人工智能的监管系统来实现一定程度的监管和调控,以确保人工智能运行系统的行为守法和遵守拥有和使用它们的人的道德价值。这种系统可以是一个检查者(Interrogator)、审计者(Auditor)、监控者(Monitor)、执法者(Enforcer),或者伦理机器人(Ethics bots),并且把最终的开关权力交由人来掌控。

第三个层次是,对于直接服务于人的人工智能系统,需要进一步把人工智能的发展与认知心理学和认知神经科学的发展结合起来,使得这种人工智能系统能够像人类能理解他人的心理与行为一样,在与人类交往的过程中,从有利于人的动机出发,通过观察他人的行为,揣测、理解对方的目的、愿望、意图、信念和情绪,适时主动配合人类的行动,同时也能让人理解它的行为意图的人工智能系统。

这里是选取几个关于 Theory of Mind 的研究例子。Theory of Mind指的是人类理解自己与他人心理的能力。这是人的社会活动的基础,也是人工智能通过与人打交道,向人学习的基础。包括:

认识到他人的存在,知道他人有他们自己的思想(thoughts)、信念(beliefs)、价值观(values)和需求(needs),并且这些也许与自己的有所不同

根据观察到的行为,判断他人内心的信念(belief),目的(goal)、愿望(desire),预估其行为

认识到他人是否需要帮助,依照所观察到的需求而有道德地行动

让人容易理解,例如,采用身体语言等(不只是人工口头语言),让人明白机器人的行动意图

不仅是对于社会机器人、服务机器人这种直接和人类打交道,为人类服务的机器人,即使是运行性人工智能系统,例如自动驾驶汽车,及时了解前后、左右车辆的状态和动机的theory of mind的能力也非常重要。例如左前方有一辆车,虽然没有打方向灯,但是在逐步靠近自己所在的车道,很可能是想到自己这条道上来。

认知学者通过多种实验途径揭示了Theory of Mind的表现、特点与神经基础。其中,一个典型的研究范式叫做“错误信念”(false belief)。例如:“小明把一盒巧克力放在了自己放玩具的盒子里,然后离开房间。之后,妈妈进来了,把那盒巧克力放进了冰箱,然后离开房间。问小明回来以后,会到什么地方去拿他的巧克力?”实验显示,4岁以前的儿童,多半会错误地回答“去冰箱”。4岁左右的儿童,多半能推测出小明心里所想,正确地推断小明的(错误的)信念:巧克力在他放玩具的盒子里。

目前,人工智能研究者正在开发具有Theory of Mind能力,以便更好地与人类合作的人工智能系统。例如,2018年,DeepMind开发的Theory of Mind 神经网络 ToMnet已经能够通过类似上述“错误信念”检验。ToMnet是一个采用能够深度强化学习的自动学习系统,能通过少量的行为观察导出关于对象的行为特征和心理状况,并据此预报对象的行为。

2020年3月,Google Brain和DeepMind发表的关于纸牌游戏Hanabi的研究,也以理解人类的意图与人类合作为方向。Hanabi纸牌游戏为具有theory of mind功能的人工智能研究提供了新的范式,因为它是以下三点的组合(combination):

1)协作(cooperation)。与通常的纸牌游戏参加者相互竞争不同,Hanabi是小组成员群体协作,以求得分最高的游戏。协作是人类社会活动的基础。

2)不完全信息(imperfect information)。与通常的纸牌游戏不同。每个玩家看不到自己的牌,但能看到其他玩家的牌。每个玩家只能通过看他人手里的牌和出牌情况,以及小组其他成员提供的提示,判断自己的牌,并在成为活跃玩家的时候决定自己该采取的行动(提示,出牌,弃牌)。

3)有限的信息交流(limited communication)。活跃玩家选择的行动为“提示”时,只可以给一个其他的玩家提供一个提示,并且提示只能是:有一张具有某个点数的牌,有一张具有某种颜色的牌,或者指出另一个玩家所有与给定点数或颜色相匹配的牌。

image.png

什么是一个好提示?(1)互相能懂(也许需要动一下脑筋);(2)信息量尽可能大(但不一定是最大的选项);(3)效用最大。

这就使人工智能系统的theory of mind任务比“错误信念”测试更接近社会环境状况。

国内中科院自动化所类脑智能研究中心开发的具有theory of mind能力的人工智能系统有两个特点:(1)在认知神经科学关于theory of mind研究的基础上,建立的类脑脉冲神经网络。(2)利用theory of mind指导机器人的行为。

国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》第1条指出“人工智能发展应以增进人类共同福祉为目标;应符合人类的价值观和伦理道德,促进人机和谐,服务人类文明进步;应以保障社会安全、尊重人类权益为前提,避免误用,禁止滥用、恶用。”

北京智源人工智能研究院人工智能伦理与安全研究中心正在进行的伦理道德的智能自主学习与获取模型研究的目标是“通过基于自我模型、思维揣测和自主学习的智能计算模型,通过交互理解和自动习得符合人类价值观的道德行为,实现人工智能行为与人类价值观的校准,在模拟环境与真实场景中进行验证。”

结语

我们在预防人工智能可能带来的危害的同时,也应当建立相应的法律法规,且与市场的力量相结合,倡导这类能自觉守法,友好地为人类服务的人工智能技术和系统的研究与开发。

人类一旦取得人工智能在伦理道德自主学习与获取方面的突破,将会对传统的法学理论和实践,特别是权利理论、程序理论和正义理论等提出严重的挑战,并且极大扩展人工智能在司法审判领域的应用前景。

中国法学界应该用更加宽广的心胸看待法律与其它学科的交叉研究。在尊重传统的法教义学的同时,也在资源投入、考核机制等方面做出适当转变,积极推动各种交叉研究的互动和融合。

image.png

上海市法学会欢迎您的投稿  fxhgzh@vip.163.com

相关链接

2020世界人工智能大会法治论坛 探讨“人工智能的权利义务与法治实践”

2019世界人工智能大会法治论坛精彩回顾

2020世界人工智能大会法治论坛H5

东方法学讲堂【人工智能法治专题】第一讲:刘宪权谈人工智能与刑事责任

东方法学讲堂【对话名家】:刘宪权

东方法学讲堂【人工智能法治专题】第二讲:季卫东谈疫情监控的智能网络与法律制度创新

东方法学讲堂【对话名家】:季卫东

东方法学讲堂【人工智能法治专题】第三讲:胡凌谈从刷脸到扫码

东方法学讲堂【对话名家】:胡凌

东方法学讲堂【人工智能法治专题】第四讲:马长山谈司法人工智能的可能与限度

东方法学讲堂【对话名家】:马长山

东方法学讲堂【人工智能法治专题】第五讲:彭诚信谈算法 数据 规则 法治

东方法学讲堂【对话名家】:彭诚信

东方法学讲堂【人工智能法治专题】第六讲:王迁谈人工智能与知识产权保护

东方法学讲堂【对话名家】:王迁

“2020世界人工智能大会法治青年论坛”即将开幕

讲堂报名丨季卫东 金耀辉:AI的权利和义务,人类说了算?

重磅阵容丨2020世界人工智能大会法治论坛嘉宾介绍(一)

重磅阵容丨2020世界人工智能大会法治论坛嘉宾介绍(二)

一图了解丨2020世界人工智能大会法治论

峰会时刻丨2020世界人工智能大会云端峰会排片表

讲堂丨季卫东  金耀辉:AI的权利和义务,人类说了算?

2020世界人工智能大会云端峰会开幕

2020世界人工智能大会法治论坛

官宣丨2020世界人工智能大会法治论坛征文活动获奖名单

2020世界人工智能大会法治论坛主题演讲嘉宾观点集萃(一)

2020世界人工智能大会法治论坛主题演讲嘉宾观点集萃(二)

2020世界人工智能大会法治论坛主题演讲嘉宾观点集萃(三)

2020世界人工智能大会法治论坛主题演讲嘉宾观点集萃(四)

2020世界人工智能大会法治论坛主题演讲嘉宾观点集萃(五)

2020世界人工智能大会法治论坛主题演讲嘉宾观点集萃(六)