军事 军事文摘
人工智能界为何对“杀手机器人”说不
华夏经纬网   2018-04-10 08:28:55   
字号:

    新华社北京4月9日电新闻分析:人工智能界为何对“杀手机器人”说不

    新华社记者

    联合国《特定常规武器公约》政府专家小组9日在瑞士日内瓦召开会议,预定讨论致命自主武器系统研发,也就是常说的“杀手机器人”可能带来的影响。

    50多名世界知名人工智能和机器人研究人员4日宣布,将联合抵制韩国科学技术院,抗议该机构研发人工智能武器的计划。

    与此同时,一封公开信已在美国谷歌公司内部流传数周,超过3000名谷歌员工签名要求公司退出一项美国五角大楼人工智能军事计划。

    人工智能迅速发展给社会各个领域带来深远影响,对军事作战系统研发也带来全新理念。然而,人工智能界的专家学者及防务分析人士认为,机器人暴动仅是科幻小说式的终极噩梦,军事机器人革命带来的伦理、法律及政策等问题,尤其是自主武器能否自行判断杀敌与否,才是人们亟须担忧和讨论的现实问题。

    大多数专家学者一直认为,使用致命武器时,人应当是负责启动的关键要素。对什么样的人工控制才是最适宜的讨论还未结束,相关的政策制定又已被人工智能技术的飞速发展甩在身后。随着具有认知能力人工智能系统的出现,更复杂的问题出现了。

    新美国基金会研究人员、防务政策分析人士辛格在其著作《连线战争:21世纪机器人革命和冲突》中指出,地缘政治、知识前沿领域不断前进的动力甚至是追求利益的科技企业,都是人工智能发展不可阻挡的力量。简单来说,大部分人现在最感到恐惧的是该不该让能够“思考”的人工智能系统决定是否杀人。

    新美国安全中心技术和国家安全项目主管沙雷表示,自主武器系统可能因代码问题或黑客攻击而失灵,机器人攻击人类部队,人类无法作出反应或局部局势迅速升级的情况都有可能发生。自主武器系统的可靠性难以测试,会“思考”的机器系统可能以人类操控者从未想象到的方式行事。

    美国国防部前副部长米勒认为,自主武器系统在战事激烈的地区执行任务,让机器全权负责的诱惑可能会难以抵制,技术上的可能总是让人们作出利于形势的选择。

    对于自主武器系统,人工智能界的专家学者频频说“不”,拒绝进行相关领域的研发。例如,韩国科学技术院研制的机器人曾经赢得2015年美国国防部高级研究项目局机器人挑战赛的冠军。据《韩国时报》报道,韩国科学技术院和军工企业韩华系统合作成立研发中心,目的就是为了研发可以“无需人工控制就能搜寻并清除目标”的人工智能武器。

    对此,50多名顶尖人工智能研究人员在公开信中说,他们将抵制和韩国科学技术院的任何合作,直到该机构宣布不会研发任何缺乏人类控制的自主武器。韩国科学技术院随后发表声明说,他们没有研发“致命自动武器系统或杀手机器人”的计划。

    美国五角大楼“梅文计划”始于2017年,旨在找到加速军方应用最新人工智能技术的方式。尽管五角大楼和谷歌都表示,谷歌的产品不会创造出无需人类操作者就能开火的自主武器系统,但谷歌员工在公开信中说,参与“梅文计划”将对谷歌的品牌和人才吸引力造成不可挽回的伤害,谷歌不应卷入战争,谷歌及其合约商永远不应该发展战争科技。

    在2017年人工智能国际会议上,有硅谷“钢铁侠”之称的马斯克、苹果联合创始人之一沃兹尼亚克、研发“阿尔法围棋”的深度思维公司哈萨比斯等人,都曾签署公开信,呼吁联合国应像禁止生化武器一样,禁止在战争中使用致命的自主武器和“杀手机器人”。

 

责任编辑:胡光曲

共1页
  网友评论 更多评论>>>
  网友: 密码:   
 
 
 
  已有( ) 条评论 剩余 字 验证码:    
 
相关文章
   
·韩国大学研发机器人武器 多国专家宣布将与其断交
·美刊称美军应开发机器人对付中俄
·如何让杀手机器人有“正义感”
·美刊畅想22世纪战争:人机融合 激光武器风靡
·中国这条生产线令人震撼:机器人生产另一批机器人
·军事机器人将带来空前革命
·扫地机器人市场大趋势 智能时代比拼谁更胜一筹?
·机器人“叛乱” 让它当战士还有多远
·智伴机器人代理队伍日渐庞大,实体店老板成主力军
·集群参战:战争机器人将引发怎样的军事新变革?
·机器人行业高估值不能解读为泡沫 本土业高端品牌不足
·商业化时程 人形机器人进入家庭至少还需要五年
最新酷图
  更多
兵器大观
  更多
VP-11防雷车
导弹护卫舰衡水舰
导弹驱逐舰西安舰
“临汾”号护卫舰
热点新闻排行
   
日亲潮级潜艇将装瑞典斯特林发动机
律师“探监祝寿”并与萨达姆长谈六小时
2009年前俄罗斯将至少发射11颗卫星
美军司令称终统不利两岸关系
乌克兰总统因刻赤海峡危机中断南美行
潜艇走俏亚太国家:日潜艇技术始终居世界前
对华军售禁令-中欧关系发展的绊脚石
进行中的伊拉克空战:地面部队主导空中行动
9?11事件四周年:我们的悲伤开始"掺水
伊拉克境内反美力量“越剿越强”
网上谈兵
  更多
军事观察
  更多
中美擦枪走火可能性增
美军近期在南海举行了频繁的舰机抵近侦察行动和前所未有的军事演习,并且拉拢日、澳在南海地区对中国进行围堵。
大国长剑:盘点火箭军
火箭军是中国军队战略威慑的核心力量,是我国大国地位的战略支撑,是维护国家安全的重要基石。
战争回顾
  更多
朝鲜战争爆发60年
60年一甲子,战争的阴霾始终笼罩在朝鲜半岛上空,直至今天,伤痛依旧。
昆仑关战役
1939年12月爆发的昆仑关战役是中国军队对日军攻坚作战的首次重大胜利。
  精彩视频   更多
军事频道
大陆军情 | 台湾军情 | 国际军情 | 周边军情 | 军事文摘 | 军事钩沉 | 战争回顾 | 兵器大观 | 最新酷图 | 台军资料库 | 军事文艺 | 军事游戏
---华夏经纬网版权所有---