确保人工智能武器听命于人

　　确保人工智能武器听命于人

　　■胡建新

　　自人工智能问世以来，有关它违抗命令以致发生致命错误的事件时有发生。面对人工智能屡屡出错、惹祸的状况，不少有识之士和专业人士提出，要避免此类事件再次发生，关键在于让人工智能听人的话、服从人的意志，不僭越事先为其设定的目标、程序、行动细节等，确保其在人的指令和预期范围内行动。

　　从已有实践和既有经验看，要让人工智能听命于人，非常重要的一点，就是设定它听得懂、听得准且易于理解执行的指令。据外媒报道，在外军的一次模拟演习中，人工智能武器认为人类操作员不允许发动攻击的命令正在干扰其执行任务，所以，其在受过不得违抗操作员指令训练的前提下，仍攻击了操作员用来与其联系的通信塔，然后实施摧毁行动。由此可以看出，如何设定指令，并确保指令被不折不扣地执行，业已成为规避人工智能误读误判的关键一环。用于作战的人工智能，因其具有很强的自主攻击力和杀伤力，更须严谨、周密、清晰地设定指令，使其没有“为所欲为”的空间和余地。

　　在进攻端，应将人工智能武器的自主能力限制在人所允许和可以控制的范围内，以防失去对它的有效控制，在猝不及防的状态下伤及自己、损害自身战斗力，或造成不可预见、难以逆转的其他严重后果。这就要求设计制造者充分考虑人工智能武器自主发挥和“任意出错”的各种可能性，用比作战文书更加精准、细腻、详尽、排他的语言预设指令和程序，使人工智能武器能够准确理解和严格执行，做到完全听从人的命令，从而最大限度地压缩和降低其出错的空间和概率。同时，人工智能武器的操作使用者需要具备应对人工智能出错的应急处突能力、严密防范能力和有效控制能力，能够规避和遏阻因人工智能武器误读误判而发生意外事故，尤其是防范和制止其伤害自身或者无辜平民。

　　在防御端，亦要了解掌握对手人工智能武器的性能特点及其出错的可能性，防止其给己方作战行动带来各种不利影响。尤其应该注意的是，人工智能武器具有极大的破坏性、杀伤性乃至毁灭性，但某些国家军队可能会人为地放大人工智能武器的这些特性，使其攻击手段更加残酷，攻击方式更加诡异，攻击结果更加惨烈。为此，需要像制定详尽、细致、严密、精确且具有很强可行性和可操作性的作战方案一样，精心拟制各种防范、反制、摧毁对手运用人工智能武器实施高强度大规模攻击的风险防范预案，切实做到有备无患、万无一失。同时，还要下大力研发针对进攻性、杀伤性人工智能武器的智能型防御武器及其相关设施设备，完善各种措施、方法和手段，在广泛空间构筑强大的人工智能武器防御体系，做到百密无疏、固若金汤。

　　备豫不虞，为国常道。当前，人工智能的发展速度远超人类的想象。不久前，外国一份调查报告称，快速发展的人工智能或对人类构成“毁灭级”风险，必须对人工智能进行干预。然而，如何进行干预、干预到何种程度、达到什么样的干预标准，则是人工智能管理的关键问题和主要目标，需要付出巨大努力才能实现。面对一浪高过一浪的技术革命和军事革命浪潮，只有具备高瞻远瞩的战略眼光和视通未来的超前思维，善于未雨绸缪，勇于抢占先机，切实加强对人工智能的有效运用和有力管控，确保人工智能武器听命于人，才能“任凭风浪起，稳坐钓鱼船”。