新闻 媒体时评
人工智能的偏见能消除吗?
华夏经纬网   2017-04-21 14:33:15   
字号:
近期热词
深港通  洪秀柱  朴槿惠  复兴航空  菲德尔卡斯特罗  特朗普  “东方之星”长江倾覆  控烟  

   当人们在为人工智能进入人类生活的方方面面欢呼,并以为人工智能可能让人类进入新的文明时代而充满无限美妙的憧憬之时,一种新忧虑产生了:人工智能也会像人类一样产生种种偏见和歧视,而且,这种偏见和歧视与生俱来,是人类教会了它们。英国媒体《卫报》近日发表的一篇文章指出,计算机在学习人类语言时吸收了人类文化中根深蒂固的观念,产生了偏见和歧视。

  在人们孜孜以求实现社会公平和正义之时,人工智能如果带有偏见,就不可能更好地完成其替代人类工作和服务于人类的任务。这是人工智能应用面临的另一种巨大挑战,如果不能解决这个挑战,显然没法寄予人工智能以厚望和赋予其更大、更艰巨和更崇高的使命。

  人工智能的偏见和歧视早就引起了人们的注意,较典型的是微软2016年3月23日推出的人工智能聊天机器人Tay。设计的最初目的是让其成为一个善解人意的小女孩,为用户排忧解难。但是,上线第一天Tay就变成了一个满口粗言秽语的种族主义者,发表了不少白人优越的言论,甚至还变成了希特勒的粉丝,要发起种族灭绝战争。眼见不妙,微软公司立刻将Tay下线,并删除所有不适言论。经过调教,Tay于2016年3月30日再次上线,但旧病复发,不得不再次下线。

  现在,一项发表于《科学》杂志(2017年4月14日)的研究揭示了人工智能的毛病来源于人类。美国普林斯顿大学信息技术政策中心计算机科学家阿尔文德·纳拉亚南(Arvind Narayanan)等人在网上用“爬虫”软件收集了220万个词的英语文本,用来训练一个机器学习系统。这个系统采用了“文字嵌入”技术,是一种普遍应用于机器学习和自然语言处理过程的统计建模技术。其中,也包括根据心理学家揭示人类偏见时使用的内隐联想测验(IAT)。

  文字嵌入的核心是采用一种称为词语表达全局向量的无监督学习算法,通过对词语库中词对词同现的统计结果进行训练,在处理词汇时,主要根据各种因素来观察词语之间的相关性,即不同的词共同出现的频率。结果,在最为相邻相关的词语上出现了与人类语言使用相似的语义组合和联系情景。

  比较中性的结果是,鲜花与女人相联,音乐与愉快相关;但极端的结果是,懒惰,甚至犯罪与黑人相联;隐秘的“偏见”则把女性与艺术、人文职业和家庭联系得更为紧密,让男性与数学和工程专业更为接近。

  其实,这不能怪人工智能,而要怪人类。人类自诞生以来和在演化进程中一直充斥着偏见,而且从人类社会组成以来,更充满相当多的负面和人性的弱点,所有这些都会体现在人类的文化中。而文化的载体就是语言,所以所有的偏见都可以从语言和语义中找到根源。

  教会人工智能更为客观和公正,至少比人类更客观和公正,在目前似乎还难以做到。因为人类文化中的偏见和歧视是一种与生俱来的“原罪”,人类要么在除掉自己的原罪后才能教会人工智能更为公正和客观,要么就是引进社会监督的相生相克原理来教会和监督机器公正和公平。

  当人类设计和研发的人工智能尚不足以做到更客观、更公平和更公正(正义)时,人工智能的应用就有可能受到限制。例如,如果让人工智能来处理招聘,不公正的情况会像人工处理一样出现,甚至更多,因为假如申请者的名字是欧洲裔美国人,所能得到的面试机会将比非洲裔美国人要多出50%,男性名字的申请者也可能比女性名字的申请者获得面试机会多。

  即便是人工智能记者(写作软件)能写稿了,但由于偏见(尤其是语言使用和语义联系、联想必然会产生的偏见)存在,也只能让机器人写财经统计类的稿,而不能写调查类的稿件,更不能写评论稿,尤其不能写辛普森案件一类的稿,否则字里行间就会体现出偏见和歧视。

  在人工智能天然会习得人类的偏见和歧视的弱点未能克服之时,对于人工智能的发展前景就不能抱太大的期望。(张田勘)

来源: 北京青年报

 

责任编辑:程金玉

共1页
  网友评论 更多评论>>>
  网友: 密码:   
 
 
 
  已有( ) 条评论 剩余 字 验证码:    
 
相关文章
   
·“中国天眼”有望2019年全面运行
·大洋钻探:中国从“参与”走向“主导”
·菠萝科学奖“开奖”:一个游泳池平均含尿量75升
·人工智能,新起点上再发力
·国产机器人低端过剩魔咒:90%关键零部件靠进口
·揭秘:“三亲婴儿”会造出“超人”吗
·“蛟龙”号载人潜水器将赴南海展开科学调查
·科研评价新指标将提高中国期刊国际影响力
·中国首个大飞机拆解基地8月亮相哈尔滨
·山东理工大学一科研成果卖出5亿元天价
·虚拟现实离大众有点远?未来几年将迎来集中爆发期
·中国4500米载人潜水器整体国产化率超90% 性能超蛟龙号
·2016年深圳机器人产业产值约787亿元
·中国“远望七号”出海执行“天舟一号”海上测控任务
热门点击
  更多
世界互联网大会与会嘉宾齐聚小镇,共享"中国红利"、共治"世界网事"。
李克强出席中国-中东欧国家领导人会晤并访匈牙利、出席上合组织成员国总理会议
精彩时评
 
·长城内生火 熏黑了素养
·让慈善捐赠进“玻璃口袋”
·"第一批90后"体是网络伪话题
·姚桓:深刻理解坚持和加强党的全面领导
·曹林:好人的自信不需要佳话滋养
·手术签字与患者利益最大化
·“甲醛超标”风波折射监管缺位
新闻推荐
  更多
·两岸确认2018年春节加班等航空运输安排
·北京地区今冬电网负荷将创新高 电采暖占40%
·南宁警方严打赌博 上千台赌博游戏机秒变废铁
·“黄牛”扰乱理赔市场:欺瞒当事人赚高额差价
·美国首次公布伊朗违反核协议证据 伊朗:系编造
·日本小学教师呼吁日本向南京大屠杀死难者道歉
·性丑闻酿苦果!美政客接连落马 肯塔基州议员自杀
精彩博文
 
·[我心飞扬]“鸵鸟心态”的蔡英文当局还能装多久?
·[张良骅]蔡办为何弹压“绿委”为“赦扁”集体逼宫
·[贾永辉]融合发展 汇聚起两岸和平发展强大正能量
·[阳光不锈]网信办整顿娱乐八卦账号 “全民星探”等被关
·[宠辱不惊]地铁设女性车厢防色狼? 大声说“不”更有效
·[坐看云起]各国考试防作弊啥招? 印度高科技韩国查厕所
·[我心飞扬]观察:柯文哲的无常 加速台湾政治生态恶化
华夏周刊
  更多
新闻排行
   
黄国昌罢免案未通过 台"中选会":19日
何守正要求“离婚不得拿赡养费” 小娴心寒
余光中先生走了 为我们留下了安静而美好的
黄晓明出演《琅琊榜2》不惧比较:不为别人
袁立怒撕《演员的诞生》 真人秀的真与秀,
《宅人食堂》第三季回归 陆怡璇寻特色美食
国民党团声援马英九:检调不应沦为斗争工具
PPTV聚力入驻云财富金服 智慧金融生态
土拨鼠MARMOT自行车山地车品牌:共享
赏樱团车祸事故33人死 "蓝委"要官员负
  图片新闻   更多
  精彩视频   更多
新闻中心
大陆新闻 | 台湾新闻 | 港澳新闻 | 国际新闻 | 综合新闻 | 图片新闻 | 热门点击 | 重大新闻 | 滚动新闻 | 国台办新闻发布会 | 热门评论 | 新闻说吧
媒体时评 | 看 世 界 | 国际热点 | 港澳风情 | 大陆人看台湾 | 社会广角 | 酷文辣评 | 星闻情报站
---华夏经纬网版权所有---