新闻 新京报专区
谁来给觉醒前的机器人念伦理紧箍咒
华夏经纬网   2018-05-25 14:26:27   
字号:
近期热词
深港通  洪秀柱  朴槿惠  复兴航空  菲德尔卡斯特罗  特朗普  “东方之星”长江倾覆  控烟  

  人机未来

  《西部世界》充满魔幻的科技反乌托邦前景所折射出的文明焦虑可追溯至基督教之前就已产生的诺斯替主义。

  烧脑神剧《西部世界》第二季震撼来袭,人造人觉醒后的暴动使人类的脆弱暴露无遗,而人造人自身亦被散布于世界的各种控制的脚本和欲望的陷阱所网罗。

  集生化人与机器人于一体的人造人,不仅像人类那样具有自我意识,而且还能够把活人的思维、意识、记忆和情感移植进去,成为所谓的转生人。不论这些真假莫辨的剧情是否在以预言的方式昭示着新人类文明的未来,人们已经着手埋下另一条时间线——用伦理的紧箍咒哪怕在机器人觉醒之前一刹那勒紧价值的缰绳。

  机器人造反?还早着呢

  其实,不论是《罗素姆万能机器人》与《机器管家》,还是《银翼杀手》或《机器姬》,都不是对人工智能或机器人研究路线图的描绘,而主要体现了人们将人工智能与人工生命的制造和人类未来联系在一起时的选择焦虑。

  尤其是《西部世界》的场景完全建立在绝对权力和极度欲望之上,是以恶为目的设计出的具象化的魔鬼乐园,其殖民主义式的末世妄想决非人与科技应有的融合之道。

  当然,《西部世界》充满魔幻的科技反乌托邦前景所折射出的文明焦虑可追溯至基督教之前就已产生的诺斯替主义。其核心思想是:世界并非源于神的完美创造,而出自某个篡位的恶魔之手,人类恐怕只是这个低劣的制造者的玩物,宇宙及其秩序不过是邪恶之昭彰。

  其追随者据此认定,人类是被困在物质世界里意识的火花,所幸知识可以帮人获得自由。在1929年出版的《世界、众生和恶魔:理性灵魂三大敌人的未来之探索》一书中,英国晶体学家与科学社会学家贝尔纳提出了诺斯替思想的现代版本:科学将让进化发生转折,人不仅可通过外科手术成为具有机械身体的赛博格,甚至有办法让人类的心灵最终逃脱物质的束缚。库兹韦尔的灵魂机器和奇点观显然与此一脉相承。

  反观《西部世界》,德洛丽丝等人造人的自我觉醒与反叛,或许恰好受了诺斯替主义的启示而发现,像诺斯替主义者质疑人和世界可能源于低劣制造那样,貌似仁慈上帝的福特原本是无异于冷酷无情的恶魔。福特与《美丽的新世界》中的上帝重名则表明,其“创造一切”的神力来自尚在试验和探索中的科技,但为了“掌控一切”,他只能让人和人造人服从其拙劣的制造魔法和机器逻辑,加之对奴役和杀戮的崇拜,最后必然以失控甚至毁灭告终。

  至于福特的魔法,无疑具有鲜明的现代版诺斯替色彩,不只涉及智能的程序化设计,更试图操纵与控制记忆、认知、情感和意识等心智过程。

  造反还没造,伦理规则已先行

  鉴于制造是尝试性和不完美的,最令以奴役人造人为宗旨的魔法实施者心虚的莫过于人造人造反。近年来,有些学者提出了机器道德的构想,试图通过程序和算法使智能机器像人一样遵守伦理规范、具有道德认知能力,已有人将这种研究应用到自动驾驶汽车和陪伴机器人的设计上。

  尤其是随着人工智能和机器人的新一轮热潮的兴起,世界上很多国家、地区和机构相继推出了伦理指南、标准和宣言,提出了有针对性的伦理原则。当然,目前人工智能和机器人还远不具备自我意识和道德自觉,让它们明辨是非的设想一时还难以照进现实。

  相关各方已经意识到,人工智能与机器人伦理原则与标准的制定实际上是在抢占未来产业发展的制高点。IEEE(国际电气电子工程师学会)于2017年底发布《人工智能设计的伦理准则》(第二版)提出,人工智能的设计、开发和应用应遵循人权、福祉、问责、透明和慎用等伦理原则,仔细探讨了自动系统的透明性、数据隐私、算法偏见、数据治理等当前备受关注的伦理问题。

  今年3月,欧盟发表的《人工智能、机器人与自动系统宣言》则强调了人类尊严,自主,负责,公正、平等与团结,民主、守法与问责,保密、安全与身心完整,数据保护与隐私等九大伦理原则。

  国内的相关研究也在紧锣密鼓地展开。中科院于2017年下半年启动了咨询项目“人工智能伦理研究”及“大数据伦理问题与社会治理”,中国标准化委员会目前正在组织实施中国机器人伦理标准和人工智能的法律及社会伦理标准的研究。

  其中,北大哲学系在今年3月颁布的《中国机器人标准化白皮书》立足多元、植入、正义和繁荣等优化共生框架,提出了人的尊严与人权、责任、透明度、避免滥用以及共生繁荣等五大伦理目标。

  在机器人觉醒之前,人类给机器人、更确切地说是给自己,念起了这些伦理的紧箍咒。这不是诺斯替魔法预先编制的程序,而是在我们尚有选择的自由时,为人类的权利与尊严抵挡人类注定拙劣制造的戕害撑起雅典娜之盾。

  □段伟文(科技哲学学者)


来源:新京报(http://www.bjnews.com.cn/)

 

责任编辑:徐亚旻

共1页
  网友评论 更多评论>>>
  网友: 密码:   
 
 
 
  已有( ) 条评论 剩余 字 验证码:    
 
相关文章
   
·推租赁型集体宿舍:让务工者住得更体面
·520告白季大作战 爱又米商城分期消费创新高
·“甜蜜定制”:难掩“援交”与“包养”本质
·公众号被指“洗稿”却获投资,谁该“差评”?
·优质P2P推荐:拍拍贷、宜人贷、极光金融、米缸金融
·“全民补碘”20多年,调整一刀切补碘此其时矣
·寻找失踪儿童,打造移动版“安柏警报”
·给穷忙族的理财建议:余额宝、极光金融、人人贷、唐小僧
·让赚钱变得简单:铜板街、极光金融、积木盒子、PPmoney
·红岭创投、陆金所、极光金融、小牛在线,稳健理财的好选择
·云财富金服:最美理财师大赛开启 新华网邀理财精英展风采
·犀牛云·网赢战车:1元钱做SEO优化,教你挖掘90%的潜在客户!
·瑞宝墙纸“20年正青春 感恩奉献”启动仪式在全国隆重启幕
·空气净化器,还你室内清新
热门点击
  更多
还没来得及告别多日雾霾天,我国北方多地遭遇大范围沙尘天气,空气质量"爆表".
第90届奥斯卡颁奖礼举行,《水形物语》拿下4个奖成最大赢家。
精彩时评
 
·朋友圈的"网红减肥药"有人管吗?
·同服藿香正气和头孢"马上丧命"?
·提高质量 用"分散休假"代替黄金周
·杨朝清:大数据志愿填报没有想象得那么神通
·陈广江:从胡红岩到王天荣,还有多少人在无
·作文“论政”考察学生家国情怀
·杭州允许设吸烟区 再证控烟“不进则退”
新闻推荐
  更多
·宁台妇女交流联谊 40个家庭结对共扬中华文化
·第八届赣台基层农会交流恳谈会举行
·为何“网红”直播违法屡发生? 法律意识淡薄
·逾8成受访者担心用照片特效程序会泄露个人信息
·特朗普称美国不再面临来自朝鲜的“核威胁”
·“太和殿上的小精灵”走进悉尼中小学
·美媒:采用高考成绩,美大学打开一扇门
精彩博文
 
·[我心飞扬] 美“台旅法”生效 对蔡当局不是“好果子”
·[袁周]特朗普签署“台旅法”开启潘多拉魔盒 须丢掉幻想
·[贾永辉]融合发展 汇聚起两岸和平发展强大正能量
·[阳光不锈]网信办整顿娱乐八卦账号 “全民星探”等被关
·[宠辱不惊]地铁设女性车厢防色狼? 大声说“不”更有效
·[坐看云起]各国考试防作弊啥招? 印度高科技韩国查厕所
·[我心飞扬]观察:柯文哲的无常 加速台湾政治生态恶化
华夏周刊
  更多
新闻排行
   
难过侯友宜挨轰 张善政质疑柯文哲操作文大
不当党产条例“违宪”? 邱大展称“德不
《中国新说唱》融合传统文化元素
棋牌类APP背后的“涉赌江湖”:发展下线
黄子韬现身成都 自拍互动忙不停
夏靖:让信和财富成为一个有温度的财富管理
土拨鼠MARMOT碳纤维自行车品牌析共享
遭蔡正元批“蓝皮绿骨” 徐巧芯:我也是醉
世界顶级高端MARMOT土拨鼠自行车领导
赏樱团车祸事故33人死 "蓝委"要官员负
  图片新闻   更多
  精彩视频   更多
新闻中心
大陆新闻 | 台湾新闻 | 港澳新闻 | 国际新闻 | 综合新闻 | 图片新闻 | 热门点击 | 重大新闻 | 滚动新闻 | 国台办新闻发布会 | 热门评论 | 新闻说吧
媒体时评 | 看 世 界 | 国际热点 | 港澳风情 | 大陆人看台湾 | 社会广角 | 酷文辣评 | 星闻情报站
---华夏经纬网版权所有---