人工智能给军事安全带来的机遇与挑战
电话|010-82030532 手机|18501361766
微信 | tech99999 邮箱 | yw@techxcope.com
来源：信息安全与通信保密杂志社作者：文力浩,龙坤摘要：人工智能有望成为新一轮科技革命和军事变革的核心驱动力，对国家安全领域产生重大影响，而军事安全是国家安全的重要组成部分。人工智能给军事安全领域既带来了诸多机遇，同时也不乏新的挑战。机遇方面，人工智能将降低军事人员执行作战任务的危险性、提升军事情报分析效率、创新军事训练方式、强化网络攻防能力等；挑战方面，人工智能的军事应用将带来非预期事故风险、人工智能军备竞赛风险、跨域安全风险等挑战。在此背景下，我国需要抓住此次人工智能技术革命机遇，加快军事智能化建设，运用人工智能赋能军事安全各领域，并注重管控其中的安全风险，积极参与和推进人工智能国际安全治理进程。
内容目录：1人工智能为强化军事安全带来的机遇
1.1降低军事人员执行作战任务的危险性
1.2提升军事情报分析效率
1.3提升军事网络攻防能力
1.4为军事训练和培训提供新方式
1.5给军事理论和作战样式创新带来新的启发
2人工智能给军事安全带来的风险和挑战
2.1人工智能军事应用带来的非预期事故
2.2人工智能军备竞赛的风险
2.3扩展威胁军事安全的行为体范围和行为手段
2.4人工智能产生的跨域安全风险
3结语
引言安全通常是指主体既没有外在威胁也没有内在疾患的客观状态。当安全的主体是国家时就构成了国家安全，其内涵可界定为：一个国家处于没有危险的客观状态，即“国家既无外部威胁又无内部混乱和疾患的客观状态”。军事安全是国家安全的重要组成部分，是指“国家不受外部军事入侵和战争威胁的状态，以及保障这一持续安全状态的能力”。随着以深度学习为代表的人工智能第三次浪潮的到来，人工智能技术不断发展应用，在围棋、智力问答、“星际争霸”游戏等过去被认为人类专属的智慧领域一路攻城略地，对经济、政治、教育、医疗、军事等带来了深刻影响，同时引发了人工智能如何变革国家安全的热烈讨论。例如，牛津大学哲学家尼克·博斯特罗姆（NickBostrom）担忧人工智能会给人类带来“生存威胁”（existentialthreat）。著名企业家埃隆·马斯克（ElonMusk）大胆预言，世界各国在人工智能领域开展军备竞赛可能引发第三次世界大战，俄罗斯总统普京（VladimirPutin）则在公开场合声明，在人工智能领域占据领导地位的国家将主宰世界。
历史上，军事领域向来是对科学技术最为敏感、也是竞争和对抗最为激烈的领域。技术是一把双刃剑，作为一项新兴颠覆性技术，人工智能在军事安全领域既带来了诸多机遇，也带来了风险和挑战。本文拟从机遇和挑战两个维度出发，重点考察人工智能对于军事安全领域的影响，并在此基础上提出治理建议。
1、人工智能为强化军事安全带来的机遇当前，人工智能正逐步走向军事应用领域，推动信息化战争向智能化战争加速转变，给军事安全带来不可忽视的影响。概括来看，人工智能为维护军事安全带来的机遇主要有以下几个方面。
1.1降低军事人员执行作战任务的危险性机器人的非生命性、有效性、隐蔽性等特点使得它能够替代人类从事许多危险工作而无悖于人类伦理道德。早在上个世纪中期机器人诞生之初，阿西莫夫就提出了“机器人三定律”，从本质上诠释了机器人为人类服务的工具性。处处充满危险的战场正是机器人大展身手的“舞台”，机器人逐步“参军”走上作战一线势所必然。本世纪以来，随着人工智能技术的快速进步，军用智能机器人迎来了发展的“黄金时期”，排爆机器人、搬运机器狗等智能机器人不断问世，在侦查监视、后勤保障、排雷排爆等军事任务领域得到广泛应用，为降低军人战场危险性和提升作战效能发挥了重要作用。比如美军研制的“大狗机器人”能够有效辅助战士搬运物资、进行伴随保障。俄军正在大力研制可以驾驶汽车的类人机器人，拟组建能够与人类并肩作战的机器人部队。我国目前也已经研制了多种可供战场使用的机器人，比如排爆机器人“灵蜥”、四足步行机器人“大狗”等。随着智能机器人自主性的逐步提升，它们将在越来越多的任务场景中辅助和替代人类，降低军人在执行作战任务中的风险。
1.2提升军事情报分析效率随着信息技术的发展，人类正在迎来一个“数据爆炸”的时代。目前地球上两年所产生的数据比之前积累的所有数据都要多。瀚如烟海的数据给情报人员带来了极大的困难和挑战，仅凭增加人力不仅耗费大量钱财，问题也得不到根本解决。与此同时，伴随大数据技术和并行计算的发展，人工智能在情报领域日益展现出非凡能力。目前，美军已经敏锐地捕捉到了人工智能在军事情报领域的巨大应用潜力，成立了“算法战跨职能小组”。该小组的首要职能就是利用机器视觉、深度学习等人工智能技术在情报领域开展目标识别和数据分析，提取有效情报，将海量的数据转换为有价值的情报信息，为打击ISIS等恐怖组织提供有力的技术支撑。机器算法的快速、准确、无疲劳等特点使其在大数据分析领域大展身手，展现出远超人类的能力。因此，美国防部联合人工智能中心主任沙纳汉中将就直言不讳地表示，算法就是“世界上最优秀、训练最有素的数据分析师”。
1.3提升军事网络攻防能力网络空间已经成为继陆、海、空、天之外的“第五维空间”，是国家利益拓展的新边疆、战略博弈的新领域、军事斗争的新战场。习近平主席在中央网络安全和信息化领导小组第一次会议上指出，“没有网络安全就没有国家安全”。网络攻防是军事安全领域中的重要一环，基于人工智能技术的自动漏洞挖掘可以显著提升军事系统的网络防御能力。目前，网络防御领域存在两大问题：一是网络技术人才短缺；二是当前的网络防御系统面对未知漏洞表现不佳。人工智能的新发展为提升网络防御水平提供了新途径，主要体现在网络系统漏洞自动化检测和自主监视系统等方面。以深度学习为代表的机器学习技术有望使得网络防御系统不仅能从以往的漏洞中学习，而且能在监视数据中不断提升对未知威胁的应对能力。有研究表明，人工智能可以从大量网络数据中筛选出可疑信息，以此增强网络防御能力。比如“蒸馏网络”公司（DistilNetworks）就利用机器学习算法来防御人类难以察觉的高级持续性威胁（APT）网络攻击。目前，美国亚利桑那州立大学的科学家已经研发出了一种能够识别“零日漏洞”的机器学习算法，并能够追踪其在黑客界的流动轨迹。麻省理工学院（MIT）“计算机科学和人工智能”实验室的研究人员也启动了PatternEx研究项目，意在构建一个机器学习系统，预期每天能检查36亿行日志文件，监测85%的网络攻击，并在投入使用时进行自动学习和采取防御措施。美国国防部高级研究计划局正计划将人工智能用于网络防御，重点发展的功能包括在投入使用之前自动检测软件代码漏洞以及通过机器学习探测网络活动中的异常情况等。
1.4为军事训练和培训提供新方式人工智能为军事训练和培训也提供了新方式。在作战训练领域，人工智能技术与虚拟现实技术相结合能够极大提升模拟软件的逼真度和灵活性，为针对特定战场环境开展大规模仿真训练提供高效手段，真正实现“像训练一样战斗，像战斗一样训练”。首先，通过收集卫星图像、街景数据、甚至是无人机拍摄的三维图像，虚拟现实程序能够在人工智能的帮助下快速、准确地生成以全球任何一处场景为对象的综合训练环境（STE），帮助士兵进行更有针对性的预先演练，提升士兵执行特定任务的能力。其次，人工智能赋能军事训练模拟软件在不降低真实度的情况下快速生成训练环境、设计交战对手，摆脱了以往军事训练耗费大量人力物力布置训练场景的传统模式。再次，人工智能具备的自主性使得模拟军事训练不会以可预测模式进行，士兵必须使用各种设备和不同策略在复杂多样的环境中战斗，有利于提升士兵和指挥官在作战中的应变能力。最后，人工智能通过在模拟对战中与人类反复交手从而迭代学习，系统借助大量复盘模拟可以不断完善应对方法，为参谋人员提供参考借鉴。这一过程类似于与AlphaGo进行围棋对战。换言之，人工智能不仅可以扮演模拟军事训练中人类的强大对手，还可以在每次胜利时向人类传授一种针对这次战役或行动的新策略。除此之外，人工智能在军事训练的其他领域也有着广泛应用。目前，一个名为“神探夏洛克”（SHERLOCK）的智能辅导系统已经被用于美国空军的培训中。这个系统能够为美国空军技术人员提供如何操作电子系统对飞行器进行诊断的培训。同时，南加州大学的信息科学学院已经研制出了一个基于替身的训练程序，能够为派驻海外的军人提供跨文化交流训练。
1.5给军事理论和作战样式创新带来新的启发诚如恩格斯所言：“一旦技术上的进步可以用于军事目的，他们便立刻几乎强制地，而且往往是违背指挥官的意志而引起作战方式上的改变甚至变革。”技术进步作用于军事领域必然引起作战方式的改变甚至变革，这是恩格斯100多年前就向人们揭示的军事技术发展规律，人工智能技术当然也不例外。总体来看，以人工智能技术为支撑的智能化武器装备较传统武器装备具有突防能力强、持续作战时间长、战术机动性好、训练周期短以及综合成本低等显著优势。智能化无人系统可采用小型化甚至微型化设计，使用复合材料和隐身技术，以隐蔽方式或集群方式接近目标，让敌人难以察觉或无法防范。无人武器系统还可以突破人类生理局限，装备的性能指标和运转时长只需考虑制造材料、各类机械电子设备的承受极限和动力能源的携带量，不但使得系统在机动、承压方面能力得到革命性提升，并且能够实现远距离侦察打击和在目标区域的长时间存在。同样重要的是，与传统武器系统操控训练周期一般长达数年不同，无人系统操控员仅需数月或一年左右的训练即可远程操控“捕食者”“死神”等无人武器参加实战，更多作战人员不必直接踏上战场，有望大大降低战死率和随之而来的社会舆论压力。基于人工智能技术军事化应用的上述特点，近年来美军提出了以算法较量为核心的算法战、无人武器系统蜂群式作战、具有高度自适应性的“马赛克战”等一系列新作战样式。可以预见的是，随着人工智能技术的进一步发展，智能化条件下的军事理论和作战样式创新不会停止。
总而言之，人工智能可以帮助军事力量更加精准高效地运转，同时降低人类面临的生命危险。人工智能在无人作战、情报搜集与处理、军事训练、网络攻防、智能化指挥控制决策等军事领域的广泛运用具有“改变游戏规则”的颠覆性潜力，有望重塑战争形态，改写战争规则，推动智能化战争的加速到来。中央军委科技委主任刘国治中将等专家认为，人工智能必将加速军事变革进程，对部队体制编制、作战样式、装备体系和战斗力生成模式等带来根本性变化，甚至会引发一场深刻的军事革命。
2、人工智能给军事安全带来的风险和挑战人工智能作为一种科学技术，同样具备“双刃剑”属性。人工智能一方面为人类社会发展进步和维护军事安全提供了新的动力和机遇，另一方面也带来了一系列威胁与挑战。综而观之，人工智能给军事安全带来的威胁和挑战主要有以下几个方面。
2.1人工智能军事应用带来的非预期事故人工智能的军事应用存在诸多不确定性，容易带来非预期事故的发生。这主要由以下两点原因所致：一是由于人工智能内部的脆弱性问题（internalvulnerbility）。当前，人工智能还停留在弱人工智能阶段，而弱人工智能系统的特点在于它们接受了非常专门的任务训练，例如下棋和识别图像。战争可以说是最复杂的人类活动之一，巨量且不规律的物体运动仿佛为战场环境蒙上了一层“迷雾”，难以看清和预测战争全貌。在这种情况下，系统的应用环境无时无刻都在发生变化，人工智能系统可能将难以适应。因此，当前弱人工智能存在的根本脆弱性（brittleness）很容易损害系统的可靠性。交战双方部署的人工智能系统交互产生复杂联系，这种复杂性远远超出一个或多个弱人工智能系统的分析能力，进一步加剧了系统的脆弱性，发生事故和出错的概率将大大增加。此外，人工智能算法目前还是一个“黑箱”，可解释性不足，人类很难预测它的最终结果，也容易带来很多非预期事故。二是外部的攻击利用问题（externalexploitation)。研究人员已证明，图像识别算法容易受到像素级“毒”数据的影响，从而导致分类问题。针对开源数据训练的算法尤其容易受到这一挑战，因为对手试图对训练数据进行“投毒”，而其他国家又可能将这些“中毒”数据用于军事领域的算法练。目前对抗性数据问题（adversarialdata）已经成为一个非常严峻的挑战。此外，黑客攻击还可能导致在安全网络上训练的算法被利用。当训练数据受到污染和“投毒”，就很可能产生与设计者意图不符的人工智能应用系统，导致算法偏见乃至更多非预期事故的发生。最后，人机协同也是一个很大的难题。无论是强化学习、深度学习，还是专家系统都不足以完全准确地反映人类的直觉、情感等认知能力。人工智能的军事运用是“人—机—环境”综合协同的过程，机器存在可解释性差、学习性弱、缺乏常识等短板，或将放大发生非预期事故乃至战争的风险。
2.2人工智能军备竞赛的风险与核武器类似，由于人工智能可能对国家安全领域带来革命性影响，世界各国将会考虑制定非常规政策。目前，世界各国（尤其是中、美、俄等军事大国）都认识到人工智能是强化未来国防的关键技术，正在加大人工智能领域的研发力度，并竭力推进人工智能的军事应用，力图把握新一轮军事技术革命的主动权，全球人工智能军备竞赛态势初露端倪。具体而言，美国将人工智能视为第三次抵消战略的核心，建立“算法战跨职能小组”，筹划基于人工智能的算法战。2018年7月，美国防部设立专门的人工智能机构——联合人工智能中心（JAIC），大力推动军事人工智能应用。2019年2月12日，美国防部正式出台美军人工智能战略，并将联合人工智能中心作为推进该战略落地的核心机构。美国2021财年国防授权法案草案中也特别强调对人工智能、5G、高超声速等关键技术进行投资，建议对人工智能投资8.41亿美元，对“自主性”（autonomy)投资17亿美元。这些举措都体现出美国积极推动人工智能军事化、在人工智能领域谋求新式霸权的意图。俄罗斯在这一领域也不甘落后。2017年1月，普京要求建立“自主机器复合体”（AutonomousRoboticComplexs）为军队服务。中国政府则于2017年7月20日出台《新一代人工智能发展规划》，正式将发展人工智能上升到国家战略高度。军事领域也在通过“军民融合”战略加快“军事智能化发展”步伐，“促进人工智能技术军民双向转化，强化新一代人工智能技术对指挥决策、军事推演、国防装备等的有力支撑，推动各类人工智能技术快速嵌入国防创新领域”。
鉴于人工智能强大而泛在的技术本质以及军事领域对于强大技术的强烈需求，人工智能走向军事应用是难以阻挡的趋势，当前各国竞相推动人工智能军事化和发展人工智能武器便是其现实体现。大国间在人工智能领域的军备竞赛将会危及全球战略稳定，对国家安全带来严重威胁，埃隆·马斯克关于人工智能军备竞赛可能引发第三次世界大战的预言并非危言耸听。如同所有军备竞赛一样，人工智能领域的军备竞赛本质上都是无政府状态下安全困境的体现，如果缺乏信任和有效的军备控制措施，这将成为一场“危险的游戏”，直到一方把另一方拖垮或双方共同卷入战争，上演一场智能时代的“零和博弈”。
2.3扩展威胁军事安全的行为体范围和行为手段传统上，威胁军事安全的主要行为体是主权国家的军队，但随着网络和人工智能技术的发展，这一行为体范围正在拓展。以网络攻击为例，根据攻防平衡理论，重大军事技术的出现将对攻防平衡产生重大影响，而有的军事技术天然偏向于进攻方。当前，人工智能技术的发展对提升网络攻击能力同样提供了极大机遇。可以预见，人工智能与深度学习的结合有望使得“高级持续威胁”系统成为现实。在这种设想下，网络攻击方能够利用APT系统24小时不间断地主动搜寻防御方的系统漏洞，“耐心”等待对方犯错的那一刻。随着人工智能逐步应用，将有越来越多的物理实体可以成为网络攻击的对象。例如，不法分子可经由网络侵入军用自动驾驶系统，通过篡改代码、植入病毒等方式使得军用无人车失去控制，最终车毁人亡。又比如通过入侵智能军用机器人，控制其攻击己方的人员或装备。同时，人工智能与网络技术结合可能进一步降低网络攻击的门槛。当智能化网络攻击系统研制成功，只要拥有足够多的资金便能有效提升自己的网络攻击能力，而不需要太高的技术要求。因此，未来恐怖分子利用人工智能进行网络攻击或攻击自主系统的算法、网络等，继而诱发军事系统产生故障（如军用无人车、无人机撞击己方人员），或者直接损坏军事物联网实体设备等，都会对军事安全产生很大威胁。
此外，人工智能的发展应用还将催生新的威胁军事安全的方式和手段。人工智能表现出诸多与以往技术不一样的特点，也自然会带来威胁军事安全的新手段，深度伪造（deepfakes）就是其中的典型代表，该技术为煽动敌对国家间的军事冲突提供了新途径。例如，A国雇佣代理黑客使用人工智能技术制作“深度伪造”视频或音频材料，虚构B国密谋针对C国采取先发制人打击，并将这段“深度伪造”材料故意向C国情报部门秘密透露，引发C国的战略误判，迫使其采取对抗手段。B国面对这种情况也将不得不采取措施予以应对，一场由A国借助人工智能技术策划的针对B、C两国的恶意情报欺诈就完成了。当前，“深度伪造”技术的发展速度远超相关的检测识别技术，“开发深度伪造技术的人要比检测它的人多100到1000倍”，这给各国安全部门抵御人工智能增强下的信息欺诈和舆论诱导制造了很多困难。此外，运用人工智能系统的军队也给自身带来了新的弱点，“算法投毒”、对抗性攻击、误导和诱骗机器算法目标等都给军事安全带来了全新挑战。
2.4人工智能产生的跨域安全风险人工智能在核、网络、太空等领域的跨域军事应用也将给军事安全带来诸多风险。例如，人工智能运用于核武器系统将增加大国核战风险。一方面，人工智能应用于核武器系统可能会强化“先发制人”的核打击动机。核武器是大国战略威慑的基石，人工智能增强下的网络攻击将对核武器的可靠性构成新的威胁，在战时有可能极大削弱国家威慑力、破坏战略稳定。因此，尽管目前人工智能增强下的网络攻击能力的有效性并不确定，危机中仍将大大降低对手间的风险承受能力，增加双方“先发制人”的动机。信息对称是智能化条件下大国间进行良性竞争的基础和保障，但现实情况往往是，在竞争激烈的战略环境中，各国更倾向于以最坏设想来揣测他国意图并以此为假设进行斗争准备，尤其当面对人工智能赋能下的愈加强大的针对核武器系统的网络攻击能力，“先下手为强”确乎成为国家寻求自保的有效手段。另一方面，人工智能技术在核武器系统领域的应用还将压缩决策时间。人工智能增强下的网络攻击几乎发生在瞬间，一旦使核武器系统瘫痪，国家安全将失去重要屏障，给予决策者判断是否使用核武器的压力将激增。尤其在一个国家保持“基于预警发射”（lauch-on-warning)的情况下，核武器系统遭到人工智能增强下的网络攻击时几乎无法进行目标探测并且发出警报，更不可能在短时间内进行攻击溯源和判定责任归属，决策时间压缩和态势判断困难会使决策者承受巨大压力，极有可能造成战略误判，给世界带来灾难。
人工智能与网络的结合会极大提升国家行为体和非国家行为体的网络能力，同时也会催生出一系列新的问题。首先，人工智能技术的网络应用将提升国家行为体的网络攻击能力，可能会加剧网络领域的冲突。如前所述，基于人工智能的APT攻击可使得网络攻击变得更加便利，溯源问题也变得更加困难。与此同时，人工智能的网络应用可能会创造新的缺陷。目前人工智能的主要支撑技术是机器学习，而机器学习需要数据集来训练算法。一旦对方通过网络手段注入“毒数据”（如假数据），则会使得原先的人工智能系统非正常运行，可能带来灾难性后果。其次，由于人工智能算法的机器交互速度远超人类的反应速度，因此一旦将人工智能用于军事领域的网络作战，还有可能带来“闪战”风险，即人类还没来得及完全理解网络空间的战争就已经发生。此外，人工智能在太空领域的应用可能对全球战略稳定和军事安全带来破坏性影响。在人工智能的加持下，传统的反卫星手段将变得更加精准、更具破坏性、更难追溯，从而加大“先发制人”的动机，寻求先发优势。这容易破坏航天国家的军事安全和全球战略稳定，因为攻击卫星尤其是预警卫星往往被视为发动核打击的前兆。
3、结语总体国家安全观强调，发展是安全的基础和目的，安全是发展的条件和保障，二者要同步推进，不可偏废。既要善于运用发展成果夯实国家安全的实力基础，又要善于塑造有利于经济社会发展的安全环境，以发展促安全、以安全保发展。因此，维护人工智能时代的军事安全并不代表放弃人工智能的发展，反而要大力推动其应用，使其成为维护军事安全的重要手段和支撑，并注重化解风险。如今，我国正处在由大向强发展的关键时期，人工智能有望成为驱动新一轮工业革命和军事革命的核心技术。因此，我们需要抢抓此次重大历史机遇，积极推动人工智能的研发和军事应用，推动军事智能化建设稳步发展，为建设世界一流军队增添科技支撑。
在当今时代，没有谁是一座孤岛，人工智能对于军事安全领域的影响是全球性的，因此推动人工智能领域的国际安全治理、构建人类命运共同体就显得尤为重要。由于人工智能的迅猛发展，目前对于智能武器尤其是致命性自主武器系统的相关法律法规还并不完善，各国在如何应对这些问题方面也没有明确的方法、举措和共识，但这些问题确关人类社会的未来前景和国际体系稳定。为了维护我国的军事安全以及整体的国家安全利益，应当推动人工智能技术治理尤其是安全领域的全球治理，在人工智能的军事应用边界（如是否应当将其用于核武器指挥系统）、致命性自主武器系统军备控制等领域开展共同磋商，在打击运用人工智能进行恐怖犯罪等领域进行合作，构建人工智能时代的安全共同体和人类命运共同体，维护国家军事安全和人类和平福祉。
一网打尽系列文章，请回复以下关键词查看：创新发展：习近平 | 创新中国 | 协同创新 | 科研管理 | 成果转化 | 新科技革命 | 基础研究 | 产学研热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 国家重点研发计划 | 装备采办 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 军工百强 | 试验鉴定 | 双一流 | 净评估 前沿科技：颠覆性技术 | 仿生 | 脑科学 | 精准医学 | 基因编辑 | 虚拟现实 | 增强现实 | 人工智能 | 机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 电池 | 量子 | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 5G | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 脑机接口 | 传感器 | 数字孪生先进武器：无人机 | 轰炸机 | 预警机 | 运输机 | 直升机 | 战斗机 | 六代机 | 网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空战 | 反卫星 | 混合战 | 电子战 | 马赛克战前沿机构：战略能力办公室 | DARPA | 快响小组 | Gartner | 硅谷 | 谷歌 | 华为 | 阿里 | 俄先期研究基金会 | 军工百强其他主题系列陆续整理中，敬请期待……人工智能在军事领域的渗透与应用思考
人工智能(artificialintelligence，AI)技术现已进入新的高速增长期，是公认最有可能改变未来世界的颠覆性技术。世界许多国家已将发展人工智能上升到国家战略，从政策导向、战略规划、资金预算层面予以大力支持。人工智能武器的出现则将从根本上改变战争方式，即由“人对人”的战争变成“机器自主杀人”的战争。以美国为代表的世界军事强国，预见到人工智能技术在军事领域的广阔应用前景，认为未来的军备竞赛是智能化的竞赛，并已提前布局了一系列研究计划，发布“第三次抵消战略”，力求在智能化上与潜在对手拉开代差。落后即意味着受制于人，为避免因丧失发展先机而造成巨大代差，中国亟待迎头赶上，大力发展人工智能技术的军事应用研究。
01人工智能发展分析
人工智能的涵义
人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门技术科学。从智能化水平看，人工智能大体可分为运算智能、感知智能和认知智能3个层次。
[[203732]]
1)运算智能即快速计算和记忆存储能力。旨在协助存储和快速处理海量数据，是感知和认知的基础，以科学运算、逻辑处理、统计查询等形式化、规则化运算为核心。在此方面，计算机早已超过人类，但如集合证明、数学符号证明一类的复杂逻辑推理，仍需要人类直觉的辅助。
2)感知智能即视觉、听觉、触觉等感知能力。旨在让机器“看”懂与“听”懂，并据此辅助人类高效地完成“看”与“听”的相关工作，以图像理解、语音识别、语言翻译为代表。由于深度学习方法的突破和重大进展，感知智能开始逐步趋于实用水平，目前已接近人类。
3)认知智能即“能理解、会思考”。旨在让机器学会主动思考及行动，以实现全面辅助或替代人类工作，以理解、推理和决策为代表，强调会思考、能决策等。因其综合性更强，更接近人类智能，认知智能研究难度更大，长期以来进展一直比较缓慢。
人工智能的发展趋势
人工智能技术产生于20世纪50年代。当时世界的科学技术已经进入一个新的发展阶段，信息量急剧增加，信息传递日益加快，人类的自然智能已经无法迅速处理如此巨大数量的信息，于是开始探索通过计算机执行需要使用人的智能才能完成的任务。人工智能发展至今，主要经历了三轮浪潮。20世纪60年代，人工智能技术主要用于弈棋、定理证明和简单的人工智能专家系统研究。20世纪70年代，随着微型电子计算机技术和集成电路技术的迅猛发展，人工智能专家系统研究进入应用开发阶段。20世纪80年代以来，人工智能技术得到迅速发展，应用于遗传工程、化学合成、业务管理、石油勘探、法律断案及军事领域中的专家系统相继研制成功。20世纪90年代，人工智能技术发展进入加速阶段，国际商业机器公司(IBM)国际象棋高手“深蓝”战胜了世界冠军加里卡斯·帕罗夫，标志着人工智能技术取得了具有里程碑意义的成功。当前的人工智能发展浪潮始于2010年，随着大数据技术和计算能力的发展，联网大数据为改进机器学习方式和算法提供了有力支撑。
2014年秋，斯坦福大学发起了人工智能百年研究(onehundredyearstudyonartificialintelligence)调研项目，主要考查人工智能的发展现状，展望未来发展潜力并分析其对社会的影响。2016年9月，作为该项研究的一部分，斯坦福发布了《2030年的人工智能与生活》报告，分析了人工智能过去15年的发展状况，并预测了其在未来15年的发展趋势。
人工智能革命得益于多个因素协同作用，技术的积累和日趋成熟使人工智能呈现爆发增长之势。未来15年，人工智能领域将集中关注人类意识系统的开发，主要包括以下6项核心技术。[[203737]]
[[203733]]
1)计算机视觉。用摄影机和计算机代替人眼对目标进行识别、跟踪和测量等机器视觉，并进一步做图像处理，成为更适合人眼观察或传送给仪器检测的图像。计算机视觉技术运用由图像处理操作及机器学习等技术所组成的序列将图像分析任务分解为便于管理的小块任务。
2)机器学习。机器学习是计算机模拟人类的学习活动，通过对已有的案例进行学习，借助归纳和总结的方法，对本身的能力加强或改进，使机器获得新知识和新技能，在下一次执行相同或类似任务时，会比现在做得更好或效率更高。机器学习是从数据中自动发现模式，模式一旦被发现便可以做预测，处理的数据越多，预测也会越准确。日前颇受瞩目的AlphaGo深度学习就是集中于深层神经网络的机器学习的分支之一。
3)文本语言处理。对自然语言文本的处理是指计算机拥有与人类类似的对文本进行处理的能力。例如从文本中提炼出核心信息，计算机可从自然语言写成的文本中自主解读出含义，做到对文本的“理解”。例如自动识别文档中被提及的人物、地点等，或将合同中的条款提取出来制作成表。
4)自然语言处理。通过建立语言模型预测语言表达的概率分布，确定某一串给定字符或单词表达某一特定语义的最大可能性。选定的特征可以与文中某些元素结合识别文字，通过识别这些元素，将某类文字同其他文字区分开，例如垃圾邮件和正常邮件。
5)机器人技术。即机器+人工智能，将机器视觉、自动规划等认知技术整合至极小却高性能的传感器制动器以及设计巧妙的硬件中，使机器人具有与人类一起工作的能力，能在各种未知环境中灵活处理不同任务。近年来，随着算法等核心技术的提升，机器人技术已取得重要突破。
6)生物识别技术。生物识别可融合计算机、光学、声学、生物传感器、生物统计学，利用人体固有的身体特性如指纹、人脸、虹膜、静脉、声音、步态等进行个人身份鉴定，最初应用于司法鉴定。近年来，随着暴恐、偷盗等各种危害社会治安的事件逐渐增多，对体征形态的数据进行采集、比对、分析的需求愈加迫切，生物识别技术由此迎来发展良机。
02人工智能战争时代
[[203734]]
人工智能是未来战场新高点
近年来，随着大数据、云计算和深度学习等新技术和新概念的出现，人工智能在感知智能领域和认知智能领域取得了重大进展，可能使未来的战争场景发生翻天覆地的变化，“智能化战争”指日可待，并可能成为战争史上继火药、核武器之后的“第三次革命”。火药的出现是“第一次革命”，在此阶段，不易受个人能力影响的武器(枪和火炮)实体化了，军队构成更加大众化和大量化;核武器实用化是“第二次革命”，拥有核武器意味着可以进行以破坏整个国家为前提的战略性对峙，持核武器的国家具有重要国际影响力。这两次革命分别使此前的战争方式完全发生变化。人工智能具有从根本上改变战争方式的潜力，使得战争从“人对人”变成“机器自主杀人”。
目前，世界主要大国正在构想建成仅由人工智能武器组成的武装机构(部队)，人工智能武器在武力纠纷和战争中占有较大比重的未来正在来临。为了避免“未打先输”，世界军事大国必然全力争夺这一未来战场“新制高点”。
美国军事领域人工智能现状
2016年10月，美国国家科技委员会连续发布了两个重要的战略文件《为人工智能的未来做好准备》和《国家人工智能研究与发展战略规划》，将人工智能上升到了国家战略层面，为美国人工智能的发展奠定了宏伟计划和发展蓝图。2017年初，美国公布的《2016—2045年新兴科技趋势报告》明确了20项最值得关注的科技发展趋势，其中就包括人工智能、云计算、量子计算、大数据分析等新兴技术。足见在未来的30年，这些技术都将成为影响美国国家力量的核心科技，以确保其在未来战场上的战略优势。
美军很早就开始探索人工智能技术在军事领域的应用。美国国防高级研究计划局(DefenseAdvancedResearchProjectsAgency，DARPA)于2007年启动了“深绿(DeepGreen)”计划，目的是将仿真嵌入指挥控制系统，从而提高指挥员临机决策的速度和质量。2009—2014年，DARPA先后启动了大量基础技术研究项目，探索发展从文本、图像、声音、视频、传感器等不同类型多源数据中自主获取、处理信息、提取关键特征、挖掘关联关系的相关技术。近年来，美国在军事装备领域部署了一系列人工智能技术研究项目(表1)。
美国对人工智能的未来发展充满了信心，而人工智能则已成为巩固其全球霸主地位的一个重要筹码。美国国防部的行动计划指出，人工智能技术使五角大楼重新调整了人和机器在战场上的位置，新的人工智能武器将具有人力无可匹敌的速度和精确度，同时又能减少士兵伤亡。同时，美国五角大楼也已将人工智能置于维持其主导全球军事大国地位的战略核心，以应对未来可能的“反介入/区域拒止”威胁，并将自主技术、人工智能及先进导弹视为支撑美国反制未来数十年威胁的关键。
03人工智能在中国军事领域应用的思考
当前，世界科技正酝酿着新突破的发展格局。以人机大战为标志，人工智能发展取得了突破性重大进展，并加速向军事领域转移，这必将对信息化战争形态产生冲击甚至“颠覆性”的影响。因此，应紧跟人工智能技术变迁，加紧做好技术创新的战略性布局，科学应对战争形态可能的演变。
敏锐感知人工智能发展趋势
对战争的理解程度，本身就是敌对双方对抗的重大内容。中国在信息化军事变革中最大收获就是，顺势强化了技术敏感性，对人与武器之间关系的认识更加科学辩证，将技术与装备因素提高到了应有高度，军队建设对先进技术的吸纳能力更强。当前以智能化为代表的军事技术群的发展，推动战争形态处在实时流变之中。从军事变革史看，军事技术在历次变革中发挥了源头促发性、基础支撑性作用，谁具有技术变化的敏感性并首先实现技术上的突破，谁就能掌握新的战争规则、控制打赢未来战争的制高点。
当前，人工智能是技术发展的最新成果，在智能、神经、思维等领域，对信息化具有“范式”突破意义。对军队而言，如果不能正确预判军事科技的突破方向、把握战争形态变化，不仅会导致“技术代差”，更会导致核心能力和国家安全等危机。作为战争的主体、技术的主人，必须要有高度敏感性，洞悉战争形态演变规律。从人工智能的思想认知域与行动控制域的双重维度，实现智能技术对信息化、机械化的重大突破。
美国“第三次抵消战略”就是利用人工智能和自主性等“颠覆性”技术发展，将这些技术嵌入到美国国防部的作战网络中，使美国的传统威慑能力登上一个新的台阶，创设下一场战争的制胜规则。因此，中国不仅要着眼于信息化技术发展，更要放眼于人工智能等“颠覆性”技术发展，谋求战略超越、“弯道超车”，在后信息化战争形态上掌握先机。中国很早就开始探索人工智能技术在军事领域的应用，经过研发的决策支持系统(decisionsupportsystem，DSS)借助计算机，基于模型库、数据库、知识库、方法库等，为决策人员提供帮助，这些系统在实际军事行动中得到了应用。当前，随着新军事变革对体系致胜概念的不断深入，更要充分利用人工智能技术，压缩指挥员在观察—判断—决策—行动(OODA)循环中的时间，实现多域联合作战指挥和控制的目标，以取得未来战争的制胜权。
[[203735]]
把握识别人工智能战争属性
军事智能化是军事信息化的继承与发展，成为推动信息化战争形态逐步演变的强大技术力量。评价一种军事技术的战争属性是否强大，关键看其向军事领域全面渗透、转化为战争决胜能力的强弱。智能化具有控制思想与控制行动的双重能力，可以渗透到军队指挥决策、战法运用、部队控制等活动中;或直接用“智慧炸弹打击对手思想意识，瓦解战斗意志;或将智能物化到武器、指挥系统，尝试用机器学习、迁移学习等智能算法解决对抗条件下态势目标的自主认知，帮助指挥员快速定位、识别目标并判断其威胁程度等，以智能方式控制机械化、信息化装备，以“智慧释放”替代“信息主导”，激发最大作战效能。
1)智能化军事指挥。指控系统是作战体系的中枢神经，是战争制胜规则的核心部分，指挥控制方式智能化，能克服人性弱点困扰，提升指挥决策的正确性。
2)智能化军事装备。主要是各种无人化武器的运用，打造立体无人作战体系。将人与机器深度融合为共生的有机整体，让机器的精准和人类的创造性完美结合，并利用机器的速度和力量让人类做出最佳判断，从而提升认知速度和精度。如美军发明的“意识头盔”，能感应人的脑电波，具有识别敌我的“读心术”功能。
3)智能化作战方式。从搜索发现目标，到威胁评估，到锁定摧毁，再到效果评估，均不需要人参与，作战中实现无人化。此外，还可以思想、心理为打击控制目标，通过智能化方式手段，遵循思想认知规律，进行思想控制和精神“软打击”的作战行动，其中也包括“文化冷战”和“政治转基因”等意识形态渗透破坏行为。
重视完善人工智能基准标准
标准、基准、测试平台，以及人工智能在军事领域的应用对于引导和促进人工智能技术的研发来说是必不可少的。标准的制定必须加快跟上人工智能在军事领域应用的快速发展，为智能化战争水平的评估提供基础和可靠依据。
1)制定人工智能标准。标准包括可以持续使用的要求、规范、准则或特性，以确保人工智能技术满足军事领域功能性和互操作性等关键目标要求，并能够可靠安全地运行。
2)建立人工智能技术基准。由测试和评估组成的基准，为制定标准和评估标准遵从性提供了量化措施。基准通过促进旨在解决战略性选择的想定的进展来驱动创新;还可以提供客观数据来追踪人工智能科学和技术的发展。为了有效地评估人工智能技术，必须制定并标准化相关的且有效的测试方法和指标。标准测试方法将规定评估、比较和管理人工智能技术性能的协议和程序，并通过指标量化人工智能技术水平。
3)建立人工智能测试平台。测试平台是至关重要的，研究人员可以使用实际运行数据，在现实系统和良好测试环境下的想定中进行建模并实验。军事领域拥有大量独有的任务敏感型数据，应当建立安全且精准的测试平台环境，为人工智能研究人员提供独特的研究机会等分享和验证人工智能模型和实验方法。
加强确保人工智能安全防护
从技术层面看，人工智能在军事领域应用利于减少专业军事人员数量，降低培养和维护成本，可以最大限度保障人的生命安全;而且，人工智能不会感到疲倦，也不受感情因素影响，可以避免人为失误，从而准确完成任务。但人工智能也存在着一些不足，主要是由于下列原因而面临着重要的安全和防护方面的挑战。
1)技术复制。在开发和制作方面不需要高端技术，可能被恐怖集团掌握，用于制造自杀性恐怖袭击等。由于小国也较容易制造出更有威力的武器，因而可能引发新的纠纷和扩军竞争。
2)黑客攻击。无法排除系统遭黑客攻击、程序被修改而导致人工智能武器错误行动等的可能性。
3)复杂和不确定的环境因素。在很多情况下，人工智能系统被设计为可以在有大量的不能被详尽检查或测试的各种潜在情况的复杂环境中工作，一个系统甚至可能会面对设计期间从未考虑过的环境。
4)突发行为。对于部署后再进行学习的人工智能系统来说，系统的行为在很大程度上是由无监督情况下的学习阶段来决定。在这种情况下，很难对系统的行为进行预测。
5)目标误设。由于很难将人类目标转化为计算机指令，所以为一个人工智能系统设定的目标可能无法与程序员的预期目标相匹配。
6)人机交互。在很多情况下，人工智能系统的性能在很大程度上受到人机交互的影响，由此，人类反应的变化可能会影响系统的安全性。
为解决上述问题及其他可能存在的问题，需要加强人工智能的安全和防护，包括改进可解释性和透明度、建立信任、加强验证和确认、制定防攻击安全策略等，使人工智能系统最终实现“递归自我改进”，从而确保长期人工智能的安全性和价值一致性。
04结论
[[203736]]
人工智能的诞生与发展是20世纪最伟大的科学成就之一，也是新世纪引领未来发展的主导学科之一。要敏锐把握人工智能快速发展的契机，打破固化思维，促进智能化向军事领域内深度扩散与渗透，加快推进中国军队智能化在变革战争形态中的基础主导作用。
1)人工智能的快速发展使得新的战争形态——“智能化战争”指日可待，中国要敏锐把握并布局人工智能技术在军事指挥、军事装备、作战方式等方面需突破的关键核心技术，控制打赢未来战争的制高点。
2)人工智能技术的发展是技术群的发展，在促进智能化向军事领域渗透过程中，要注重基准标准的建立，以及安全防护的整体统筹，确保人工智能技术群的协调发展以及在军事领域的规范与安全使用。