新闻 综合新闻
人工智能时代法治新课题:机器人要承担刑事责任吗?
华夏经纬网   2018-09-07 14:33:34   
字号:
近期热词
深港通  洪秀柱  朴槿惠  复兴航空  菲德尔卡斯特罗  特朗普  “东方之星”长江倾覆  控烟  

  机器人要承担刑事责任吗

   ——回应人工智能时代的法治新课题

  本报见习记者 陈瑜

  不论是弱人工智能时代,还是强人工智能时代,人工智能与大数据对法学和法律实践所造成的变革都已是不争的事实。法学研究对人工智能时代所提出的新课题的回应,将会为未来的司法实践赢得主动权。

  关于人工智能和法律,前美国国家安全顾问和国务卿基辛格在近日发表于 《大西洋月刊》的文章中曾谈及一个自动驾驶汽车版本的 “电车难题”:如果自动驾驶汽车因突发情况,被迫在杀害老人和杀害孩子之间作出选择,它会选择谁?为什么?再进一步思考,如果这辆汽车撞死撞伤了人,谁又该为此负刑事责任?是这辆车,还是这辆车的设计者?

  这个假设的场景只是人工智能面对法律问题的一个缩影。伴随着人工智能和大数据技术的迅速发展,一系列类似的问题也接踵而来:人类生产生活方式的深刻变革将会给法律制度和社会治理带来哪些挑战?现行法治体系又该如何调整和应对?近日,由华东政法大学人工智能与大数据指数研究院主办,上海市大数据社会应用研究会和律新社协办的“人工智能、国家治理与法治论坛”在华东政法大学举行,与会专家们针对上述问题展开了讨论,为我们勾勒了人工智能时代下法治世界的图景。

  人工智能如何实现未来的精准法治

  在美剧《西部世界》中,主角福特有一句著名台词:“我们给机器编码,是为了解码人类。”在人工智能时代,随着越来越多的社会活动转移到互联网上进行,人们在互联网上留下海量数据,使得原本不可预测和追踪的社会行为变得可以被计算。无论是对企业的经营还是政府的管理来说,这种“社会的计算化”都意义重大:企业可以通过分析客户数据、投放定制化广告来兜售自己的产品,政府可以利用海量数据对个人进行分类、评分和社会信用评级来实现预测性执法,从而更好地进行精准化治理。

  但是,由于如今的“社会计算化”主要由商业力量推动和控制,这给政府的治理工作带来了新的问题。上海交通大学凯原法学院教授郑戈就指出,传统上人们认为,政府掌握了最充分的个人数据,从出生、入学、就业、婚姻、生育到死亡,但这些数据都是静止的,它并不能生成对一个人动态的行为模式的分析。现在,由于人的大部分线上活动不是在政府平台上进行,而是在搜索引擎、购物平台、社交网络等由私人企业运营的商业平台进行,因此大量的数据实际是掌握在私人企业手里。政府虽然可以在行政、司法和执法的过程中要求企业提供特定的个人数据,但这种要求只能在具体个案中针对特定人物,不能成为可供机器学习的大数据。而且,也可能遭到企业以保护商业秘密或合同关系为由的拒绝。

  郑戈的担忧并非空穴来风。在近日发生的“女孩坐滴滴顺风车遇害案”中,滴滴公司就以保护司机隐私为由,未在第一时间向警方提供车牌、驾驶人信息,致使救援行动延误。更为“讽刺”的是,滴滴一方面拒绝与政府合作披露用户信息,另一方面又偷偷地滥用用户的个人信息,典型的例子即是前不久因“空姐遇害案”引发争议而下线的顺风车用户标签和车主评价功能。

  “从法律的角度来看,我们在考虑人工智能在所谓的精准治理中的应用时,首先要面对的就是政府和企业的关系问题——政府既需要与企业合作来获取数据、购买产品和服务,又需要作为企业与消费者之间的中立第三方来对企业进行监管,保护消费者的个人数据。”在郑戈看来,基本公共服务领域的公、私权力关系是未来治理需要解决的首要问题:“一方面,要将透明、公开、程序合法、说明理由等对公权力行使者的要求延伸到实际上行使着 ‘准公权力’的企业,使算法等技术化的监控和决策手段不再是无法被问责的‘黑箱’;另一方面,要调整传统的公法概念和规制手段,以应对现时代公私合作、公私共治的普遍现象。”

  人工智能可以替代法律工作者吗

  如今,“智慧司法”已然是大势所趋:已在上海市全面推广应用、覆盖上海刑事案件的90%以上的“刑事案件智能辅助办案系统”,就是人工智能新科技和司法改革深度融合的典范。在对上海几万份刑事案件的卷宗、文书数据进行“深度学习”后,该系统已具备初步的证据信息抓取、校验和逻辑分析能力。今年8月,一场法律界的“人机大赛”在重庆举行,由重庆研发的人工智能法律机器人“大牛”与从全国公开招募的6名资深律师进行了法律服务比拼,比赛结果令人瞠目结舌——“大牛”的得分远远高于这6位资深律师。

  上述这些例子都表明,法律从业人员的许多具体工作可以被人工智能所取代,这是否意味着人工智能会全面取代法律工作者?答案显然是否定的。“人工智能所体现的技术理性有明显的化约主义倾向,我们可以借助它来提高效率,取代一部分无需创造性和价值判断的工作,比如闯红灯罚款,但不能由它来做出事关人类福祉的最终决策。在涉及事实争议和价值选择的复杂问题上,人工智能只能被用来强化人类智能,而由人来作出最终的选择和判断。”郑戈这样说。

  上海市法学会党组书记崔亚东则进一步指出:“在未来的法律人才培养上,一方面要在高校设立法律人工智能研究中心,开设相关法律科技等方面的课程,培养法律和科技的复合高端人才。另一方面,我们也要明确在人工智能时代,法学教育的主业仍然是法律,人工智能的引入应该是辅助法律从业人员更加高效、便捷、公正公开地处理法律事务,至于这个证据能不能用、怎么用,如何量刑等问题,最终的决定权仍在法官、检察官手中,这一点决不能走偏。”

  人工智能偏离人类的预设怎么办

  美国波士顿动力公司曾设计出一款可以 “随机应变”的机器人:给它设定一个“搬箱子”的任务,无论实验人员怎么妨碍它 (把箱子移到别处,或者直接把机器人推倒),它还是会“顽强地”爬起来完成任务。但是,有学者担心,给机器人植入一个 “排查妨碍”的程序,如果它突然产生意识、学会自我学习,它发现每次害自己完不成任务的人是这个实验人员,那它会不会为了完成任务直接把这个实验人员撂倒?可见,当智能机器人被设定为一种由程序编码而成并由此产生深度学习能力的物体时,它完全有可能超越人类对它的预设,独立实施某些犯罪行为,这就对现有的刑罚体系产生了冲击。

  对此,华东政法大学刑事法学研究院院长刘宪权教授在他的新书《人工智能时代刑事责任的演变》中指出,人工智能已经远远不是作为犯罪工具那么简单,它影响着刑事责任的分配。他这样说:“现在一般将人工智能时代分为三类:前人工智能时代、弱人工智能时代、强人工智能时代。前人工智能时代中的机器人,我们称之为普通机器人,比较典型的是ATM机和工业机械手。如果ATM机出了问题,我们不太可能去追究它的研发者和使用者。但在我们正处于的弱人工智能时代中,在自动驾驶技术日益普及的当下,我们对研发者和使用者的责任定义就有了很大变化。比如,委内瑞拉无人驾驶的炸药,还有韩国的杀人机器,从法律的角度来看,这应当是研发者的责任。未来,如果强人工智能时代到来,机器人拥有了自由意志,就需要独立承担刑事责任。”尽管目前在“强人工智能时代是否会到来”这一问题仍有很大的争议,但刘教授认为法律工作者的态度应是宁可信其有、不可信其无:“我们必须预先设定一些应对的法律,否则一旦强人工智能时代到来,关于人类的颠覆性问题就会出现,甚至到时候,不是人类制定法律规制它,而是它制定法律规制人类,这并不是天方夜谭。”

  类似地,《华东政法大学学报》主编马长山教授也强调了要对现有法学理论进行颠覆性创新来应对眼下的这场人工智能革命,他指出:“这个重建分为以下几个方面:一是研究理念的转向。我们传统的研究理念是建立在以罗马法学为基础的法律体系,罗马体系是以人和人、人和物的关系为重要基础,但随着生产关系的变化,当下的智能社会是以数据、信息、算法为基础,这意味着整个生产管理和人们的生活方式都发生了巨大变化,沿用传统的理念可能无法解决许多问题。二是知识谱系的更新。现代法律体系是建立在理性主义和个人主义的基础之上,但现在社会发展的去中心化、扁平化趋势使得原先的‘理性人假设’等基础理论被颠覆。此外,如果将来机器人产生意识,我们还需重新考虑主客体关系。三是理论与逻辑的重建。我们现在处理一些网络信息、人工智能的案件是完全套用原本物理空间的逻辑而进行,但存在许多问题,比如网络赌博案件,很难找到合适的管辖范围,因此必须重建适用于智能互联网时代的新逻辑。”

  由此可见,不论是弱人工智能时代,还是强人工智能时代,人工智能与大数据对法学和法律实践所造成的变革都已是不争的事实。法学研究回应人工智能时代提出的新课题,将会为司法实践赢得主动权。未来已来,法律工作者们将手执正义女神朱斯提提亚的长剑,用法治为人工智能的健康发展护航。

 

来源:文汇报


 

责任编辑:徐亚旻

共1页
  网友评论 更多评论>>>
  网友: 密码:   
 
 
 
  已有( ) 条评论 剩余 字 验证码:    
 
相关文章
   
·“飞入寻常百姓家" 卫星应用开启“大众时代”
·重庆两江之星9月再发射 民营火箭将首亮相国家发射场
·自媒体解码:流量掺水是行业潜规则 有人靠造谣渔利
·国际脑科学实验室期待中国架构融入
·中国散裂中子源项目通过国家验收投入正式运行
·4米大口径碳化硅非球面光学反射镜研制成功
·中国研制成功世界最大口径单体碳化硅反射镜
·“终结者”会否出现?专家:机器人的发展方向是帮助人
·新时代航天科技战线的主旋律
·国际新研究:直立人灭绝可能源于“懒惰”
·打开人造生命的大门 这回中国人工合成领先一步
·中国高校首次赢得国际水下机器人大赛冠军
·科学研究,容不得半点浮夸
·科技部:打出政策“组合拳” 让科研生态环境更净化
热门点击
  更多
五年间,“一带一路”建设在合作中不断发展,吸引着全球的目光。
雅加达亚运会的战幕即将拉开,而中国代表团的健儿们也会为荣誉而展开拼搏。
精彩时评
 
·00后男女比例失衡加剧 传统婚育观亟待更新
·以"工业标准"招标来的营养餐能吃吗
·按电子书包购买情况分班是变相强制
·堂吉伟德:找准病根才能根治抢跑的幼小衔接
·王传涛:正视贫困村盛产大学生背后的求学情
·最严网约车整改,该出手时必须出手
·人生固然百态 丑行却不能放纵
新闻推荐
  更多
·皖台高校校长合肥交流 促培养创新创业人才
·第八届“中山·黄埔·两岸情”论坛在北京举行
·台湾媒体走访太行山区:赞农村电商有声有色
·物流业积极备战双十一 包裹量将迎来10年最高点
·板门店会晤后韩朝关系发展大事记
·揭秘朝鲜化妆品:赶超国际大牌 却从不做广告
·台风袭击菲律宾致60余死 数十人被泥石流掩埋
精彩博文
 
·[张富学]大陆应积极应对金门期盼实行一国两制诉求
·[袁周]印航更名对蔡英文所谓“维持现状”的警示
·[贾永辉]融合发展 汇聚起两岸和平发展强大正能量
·[阳光不锈]网信办整顿娱乐八卦账号 “全民星探”等被关
·[宠辱不惊]地铁设女性车厢防色狼? 大声说“不”更有效
·[坐看云起]各国考试防作弊啥招? 印度高科技韩国查厕所
·[张良骅]台湾人为何对大陆“好感”首次超越“反感”
华夏周刊
  更多
新闻排行
   
下月你的工资迎来4大好消息 第一个就开心
下月你的工资迎来4大好消息 第一个就开心
54小时“金文会”再促半岛和解 朝鲜展开
解读好用的微单相机 佳能EOS M6
MARMOT土拨鼠户外运动自行车品牌:中
遭蔡正元批“蓝皮绿骨” 徐巧芯:我也是醉
世界顶级高端MARMOT土拨鼠自行车领导
台军8人验出一级毒品反应 高层驳斥:因吃
赏樱团车祸事故33人死 "蓝委"要官员负
力拼司法改革 蔡英文决定亲任司改会议召集
  图片新闻   更多
  精彩视频   更多
新闻中心
大陆新闻 | 台湾新闻 | 港澳新闻 | 国际新闻 | 综合新闻 | 图片新闻 | 热门点击 | 重大新闻 | 滚动新闻 | 国台办新闻发布会 | 热门评论 | 新闻说吧
媒体时评 | 看 世 界 | 国际热点 | 港澳风情 | 大陆人看台湾 | 社会广角 | 酷文辣评 | 星闻情报站
---华夏经纬网版权所有---