新闻 新京报专区
谁来给觉醒前的机器人念伦理紧箍咒
华夏经纬网   2018-05-25 14:26:27   
字号:
近期热词
深港通  洪秀柱  朴槿惠  复兴航空  菲德尔卡斯特罗  特朗普  “东方之星”长江倾覆  控烟  

  人机未来

  《西部世界》充满魔幻的科技反乌托邦前景所折射出的文明焦虑可追溯至基督教之前就已产生的诺斯替主义。

  烧脑神剧《西部世界》第二季震撼来袭,人造人觉醒后的暴动使人类的脆弱暴露无遗,而人造人自身亦被散布于世界的各种控制的脚本和欲望的陷阱所网罗。

  集生化人与机器人于一体的人造人,不仅像人类那样具有自我意识,而且还能够把活人的思维、意识、记忆和情感移植进去,成为所谓的转生人。不论这些真假莫辨的剧情是否在以预言的方式昭示着新人类文明的未来,人们已经着手埋下另一条时间线——用伦理的紧箍咒哪怕在机器人觉醒之前一刹那勒紧价值的缰绳。

  机器人造反?还早着呢

  其实,不论是《罗素姆万能机器人》与《机器管家》,还是《银翼杀手》或《机器姬》,都不是对人工智能或机器人研究路线图的描绘,而主要体现了人们将人工智能与人工生命的制造和人类未来联系在一起时的选择焦虑。

  尤其是《西部世界》的场景完全建立在绝对权力和极度欲望之上,是以恶为目的设计出的具象化的魔鬼乐园,其殖民主义式的末世妄想决非人与科技应有的融合之道。

  当然,《西部世界》充满魔幻的科技反乌托邦前景所折射出的文明焦虑可追溯至基督教之前就已产生的诺斯替主义。其核心思想是:世界并非源于神的完美创造,而出自某个篡位的恶魔之手,人类恐怕只是这个低劣的制造者的玩物,宇宙及其秩序不过是邪恶之昭彰。

  其追随者据此认定,人类是被困在物质世界里意识的火花,所幸知识可以帮人获得自由。在1929年出版的《世界、众生和恶魔:理性灵魂三大敌人的未来之探索》一书中,英国晶体学家与科学社会学家贝尔纳提出了诺斯替思想的现代版本:科学将让进化发生转折,人不仅可通过外科手术成为具有机械身体的赛博格,甚至有办法让人类的心灵最终逃脱物质的束缚。库兹韦尔的灵魂机器和奇点观显然与此一脉相承。

  反观《西部世界》,德洛丽丝等人造人的自我觉醒与反叛,或许恰好受了诺斯替主义的启示而发现,像诺斯替主义者质疑人和世界可能源于低劣制造那样,貌似仁慈上帝的福特原本是无异于冷酷无情的恶魔。福特与《美丽的新世界》中的上帝重名则表明,其“创造一切”的神力来自尚在试验和探索中的科技,但为了“掌控一切”,他只能让人和人造人服从其拙劣的制造魔法和机器逻辑,加之对奴役和杀戮的崇拜,最后必然以失控甚至毁灭告终。

  至于福特的魔法,无疑具有鲜明的现代版诺斯替色彩,不只涉及智能的程序化设计,更试图操纵与控制记忆、认知、情感和意识等心智过程。

  造反还没造,伦理规则已先行

  鉴于制造是尝试性和不完美的,最令以奴役人造人为宗旨的魔法实施者心虚的莫过于人造人造反。近年来,有些学者提出了机器道德的构想,试图通过程序和算法使智能机器像人一样遵守伦理规范、具有道德认知能力,已有人将这种研究应用到自动驾驶汽车和陪伴机器人的设计上。

  尤其是随着人工智能和机器人的新一轮热潮的兴起,世界上很多国家、地区和机构相继推出了伦理指南、标准和宣言,提出了有针对性的伦理原则。当然,目前人工智能和机器人还远不具备自我意识和道德自觉,让它们明辨是非的设想一时还难以照进现实。

  相关各方已经意识到,人工智能与机器人伦理原则与标准的制定实际上是在抢占未来产业发展的制高点。IEEE(国际电气电子工程师学会)于2017年底发布《人工智能设计的伦理准则》(第二版)提出,人工智能的设计、开发和应用应遵循人权、福祉、问责、透明和慎用等伦理原则,仔细探讨了自动系统的透明性、数据隐私、算法偏见、数据治理等当前备受关注的伦理问题。

  今年3月,欧盟发表的《人工智能、机器人与自动系统宣言》则强调了人类尊严,自主,负责,公正、平等与团结,民主、守法与问责,保密、安全与身心完整,数据保护与隐私等九大伦理原则。

  国内的相关研究也在紧锣密鼓地展开。中科院于2017年下半年启动了咨询项目“人工智能伦理研究”及“大数据伦理问题与社会治理”,中国标准化委员会目前正在组织实施中国机器人伦理标准和人工智能的法律及社会伦理标准的研究。

  其中,北大哲学系在今年3月颁布的《中国机器人标准化白皮书》立足多元、植入、正义和繁荣等优化共生框架,提出了人的尊严与人权、责任、透明度、避免滥用以及共生繁荣等五大伦理目标。

  在机器人觉醒之前,人类给机器人、更确切地说是给自己,念起了这些伦理的紧箍咒。这不是诺斯替魔法预先编制的程序,而是在我们尚有选择的自由时,为人类的权利与尊严抵挡人类注定拙劣制造的戕害撑起雅典娜之盾。

  □段伟文(科技哲学学者)


来源:新京报(http://www.bjnews.com.cn/)

 

责任编辑:徐亚旻

共1页
  网友评论 更多评论>>>
  网友: 密码:   
 
 
 
  已有( ) 条评论 剩余 字 验证码:    
 
相关文章
   
·推租赁型集体宿舍:让务工者住得更体面
·520告白季大作战 爱又米商城分期消费创新高
·“甜蜜定制”:难掩“援交”与“包养”本质
·公众号被指“洗稿”却获投资,谁该“差评”?
·优质P2P推荐:拍拍贷、宜人贷、极光金融、米缸金融
·“全民补碘”20多年,调整一刀切补碘此其时矣
·寻找失踪儿童,打造移动版“安柏警报”
·给穷忙族的理财建议:余额宝、极光金融、人人贷、唐小僧
·让赚钱变得简单:铜板街、极光金融、积木盒子、PPmoney
·红岭创投、陆金所、极光金融、小牛在线,稳健理财的好选择
·云财富金服:最美理财师大赛开启 新华网邀理财精英展风采
·犀牛云·网赢战车:1元钱做SEO优化,教你挖掘90%的潜在客户!
·瑞宝墙纸“20年正青春 感恩奉献”启动仪式在全国隆重启幕
·空气净化器,还你室内清新
热门点击
  更多
金砖国家领导人第十次会晤7月25日至27日在南非约翰内斯堡举行,习近平主席应邀
7月19日至28日,习近平将访问中东非洲五国并出席金砖国家领导人会晤。
精彩时评
 
·北极变暖,影响的不止北极熊
·用异烟肼毒狗无法倒逼养狗文明进步
·盗版低俗德育教材怎么混入学校的
·堂吉伟德:找准病根才能根治抢跑的幼小衔接
·王传涛:正视贫困村盛产大学生背后的求学情
·城镇化别再走粗放式发展老路
·慈善组织公开“三公经费”为公信加分
新闻推荐
  更多
·时空穿越紫禁城 两岸大学生走进北京故宫
·两岸大学生游南锣鼓巷 体验京味文化
·港澳台人士看好“取消就业许可”连锁效应
·河北省签发首张“一次性台胞证”
·菲律宾宿务机场计划启用中文引导标识
·韩亚运团今赴雅加达 韩朝代表团开幕式将共同入场
·1亿澳元乐透奖金引爆澳洲!1/3澳人买彩票碰运气
精彩博文
 
·[张富学]大陆应积极应对金门期盼实行一国两制诉求
·[袁周]印航更名对蔡英文所谓“维持现状”的警示
·[贾永辉]融合发展 汇聚起两岸和平发展强大正能量
·[阳光不锈]网信办整顿娱乐八卦账号 “全民星探”等被关
·[宠辱不惊]地铁设女性车厢防色狼? 大声说“不”更有效
·[坐看云起]各国考试防作弊啥招? 印度高科技韩国查厕所
·[张良骅]台湾人为何对大陆“好感”首次超越“反感”
华夏周刊
  更多
新闻排行
   
国民党暂缓处分 林为洲:不会改变决定
冠群驰骋以合规促转型,九年征程稳步前行
解读好用的微单相机 佳能EOS M6
夏靖:让信和财富成为一个有温度的财富管理
户外运动健身自行车品牌土拨鼠MARMOT
MARMOT土拨鼠户外运动自行车品牌:中
全球顶级碳纤维自行车品牌MARMOT土拨
世界顶级高端MARMOT土拨鼠自行车领导
赏樱团车祸事故33人死 "蓝委"要官员负
杨佳袭警案回顾
  图片新闻   更多
  精彩视频   更多
新闻中心
大陆新闻 | 台湾新闻 | 港澳新闻 | 国际新闻 | 综合新闻 | 图片新闻 | 热门点击 | 重大新闻 | 滚动新闻 | 国台办新闻发布会 | 热门评论 | 新闻说吧
媒体时评 | 看 世 界 | 国际热点 | 港澳风情 | 大陆人看台湾 | 社会广角 | 酷文辣评 | 星闻情报站
---华夏经纬网版权所有---