清华大学：人工智能全球安全治理的发展态势与新动向（附下载）
报告下载：添加199IT微信公众号【i199it】，回复关键词【人工智能全球安全治理的发展态势与新动向】即可下载
2022年底，ChatGPT凭借强大的信息收集和处理能力而爆火“出圈”，社会上掀起了对人工智能技术发展和应用风险的热烈讨论。这其中不乏对ChatGPT在军事上对作战行动影响的讨论。2023年3月14日俄罗斯的一架苏-27战斗机与一架美军地MQ-9“死神”无人机发生碰撞，美军无人机受损并最终坠入黑海海域。该事件似乎验证了关于未来战场有人和无人装备将更加频繁互动的观点。这在一定程度上强化了国际社会对自主武器和人工智能军事化开展全球安全治理的关切和推动意愿。有鉴于人工智能军事化风险及其全球安全治理的讨论已成为一项热点话题，本文将重点分析人工智能全球安全治理的发展趋势，并结合近期荷兰主办全球军事领域负责任的人工智能峰会的主要观点进行评论。
报告下载：添加199IT微信公众号【i199it】，回复关键词【人工智能全球安全治理的发展态势与新动向】即可下载
更多阅读：清华大学：人工智能之知识图谱（附下载）清华大学&中国人工智能学会：2019人工智能发展报告（附下载）清华大学：2018云计算和人工智能产业应用白皮书（附下载）清华大学：2018人工智能芯片技术白皮书（附下载）斯坦福大学：2022年人工智能指数北邮、清华、字节表现抢眼Accenture：调查显示企业不愿花钱对员工进行人工智能培训清华大学人工智能研究院：中国声纹识别产业发展白皮书-语音识别（附下载）清华大学：2023年AIGC发展研究报告1.0版（附下载）清华大学&智谱AI：2021全球联邦学习研究与应用趋势报告易凯资本：2017中美人工智能产业玩家图谱（附下载）普华永道：CEO如何深挖人工智能的全部潜力（附下载）中国信通院：2017年中国人工智能产业数据报告（附下载）高力国际：人工智能技术兴起对房地产市场的影响（附下载）IBM：人工智能之旅和以平台为中心的业务架构之崛起（附下载）IDC&CAICT：人工智能时代的机器人3.0新生态（附下载）清华大学：人工智能全球安全治理的发展态势与新动向
2022年底，ChatGPT凭借强大的信息收集和处理能力而爆火“出圈”，社会上掀起了对人工智能技术发展和应用风险的热烈讨论。这其中不乏对ChatGPT在军事上对作战行动影响的讨论。2023年3月14日俄罗斯的一架苏-27战斗机与一架美军地MQ-9“死神”无人机发生碰撞，美军无人机受损并最终坠入黑海海域。该事件似乎验证了关于未来战场有人和无人装备将更加频繁互动的观点。这在一定程度上强化了国际社会对自主武器和人工智能军事化开展全球安全治理的关切和推动意愿。有鉴于人工智能军事化风险及其全球安全治理的讨论已成为一项热点话题，本文将重点分析人工智能全球安全治理的发展趋势，并结合近期荷兰主办全球军事领域负责任的人工智能峰会的主要观点进行评论。世界军事强国的人工智能军事应用发展战略规划
随着人工智能在军事领域的广泛应用，战时敌我双方将首先围绕“感知—理解—推理—判断”等环节激烈对抗，争夺支撑作战体系高效运转的人机混合智能的“思考”速度和质量优势。美、俄等军事强国认为，未来的战争将是智能化战争，未来的军备竞赛将是智能化军备竞赛，把人工智能视为“改变战争游戏规则”的颠覆性技术，并已提前布局、顶层设计、规划引领，将人工智能技术的新发展用于军事应用，如监视、侦察、威胁评估、水雷战、网络安全、情报分析、指控、教育和训练等，以夺取未来智能化战争的主动权。
美国的人工智能军事应用发展战略规划
2016年，美军提出了以人工智能为关键支撑技术的第三次“抵消战略”，发布了《国家人工智能研究与发展战略规划》《2009—2034财年无人系统联合路线图》，并提出了“分布式作战”“蜂群”等一系列新型作战概念，推动“智能化导弹”“无人自主空中加油”等相关人工智能军事应用项目的部署，加快人工智能技术向武器装备系统和无人作战体系的转化进程，提升战场态势感知、军事情报分析、远程精确打击、反导反卫等能力，体现了美军利用人工智能科技抵消对手作战能力、形成绝对军事优势的发展思路。
2019年11月，美国总统特朗普签署人工智能行政命令
美军提出第三次“抵消战略”的目的，是利用人工智能和自主能力等先进技术，以实现作战效能的阶梯式飞跃，从而增强美国的常规威慑。美国国防部出台《人工智能战略》，成立“联合人工智能中心”，明确人工智能是保持军事优势的关键，确定借助人工智能加快提升美军战力的途径和方法，目标是加速人工智能的新能力交付，扩大人工智能在国防部的影响，以支持国防部的军事任务和业务功能，确保美国在人工智能领域的技术优势。美军各军种先后制定了“智能化发展路线图”，如《无人系统综合路线图（2017财年—2042财年）》《海军无人系统战略路线图》《地面无人系统路线图》《机器人路线图》等，探索有人与无人系统统一编组、无人装备平台的实战化应用，以及未来科技条件下的战争制胜模式，形成针对主要对手的新“代差”优势。
美国国防部已将人工智能置于维持其主导全球军事大国地位的战略核心，以应对未来可能的“反介入/区域拒止”威胁，并将自主技术、人工智能及先进导弹视为未来数十年支撑美国反制威胁的关键。2018年1月美国发布的《国防战略》认为，先进计算、大数据分析、自主性、机器人等新技术的发展是影响安全环境的重要因素，人工智能技术是确保美国打赢未来战争的关键。“高级自主武器”成为《国防战略》确立的美军现代化八项重点之一。2018年4月，美国国防部开始拟定《国防部人工智能战略》，希望借此推动人工智能技术和关键应用能力的发展，加快人工智能战略部署。美国国防部已经把人工智能纳入决策和作战范畴，以此来降低部署兵力面临的风险，并形成军事优势。
2018年11月，美国设立人工智能国家安全委员会，该委员会承担三大职责：考察人工智能技术在军事应用中的风险，考察人工智能技术在国家安全和国防领域的伦理道德问题，以及制定公开训练数据标准和推动公开训练数据共享。2018年7月，美国国会发布了一份协议，要求国防部成立一个包括国防部长、商务部长和国会国防委员会成员在内的15人委员会，重点关注人工智能、机器学习以及其他与国家安全有关的技术，评估美国在人工智能领域的竞争力、国外在人工智能领域的最新进展、潜在的人力与教育激励措施等。
俄军天王星-6（小图）与天王星-9（大图）无人战车
2019年2月12日，美国国防部网站公布了《2018年国防部人工智能战略摘要》，提出了美国国防部应用人工智能的目标，指出实现战略的方式。11月21日，美国国会研究服务处对其在2018年4月向国会提交的《人工智能与国家安全》报告的内容进行了更新，指出人工智能是一个快速发展的技术领域，对国家安全具有潜在的重要意义。该报告分析了人工智能在国防领域的应用，包括情报、监视和侦察；后勤；网络空间行动；信息操纵和深度伪造；指挥和控制；半自动和自动驾驶车辆；致命自主武器系统。人工智能将对未来战争带来潜在影响，包括商业投资率、国际竞争力、促进人工智能的能力、对AI应用的军事态度、AI特定战争概念的开发。
依赖信息化和数字化建设所构建的框架，美军已开始步入军事体系人工智能化建设的稳定发展之路，各军种及国防部所属各机构都在有序地提出并发展人工智能化能力。美国国防部预计在2020财年向人工智能和机器学习技术研发投资9.27亿美元。美国国防部高级研究计划局2020财年预算申请包括1.38亿美元的先进地面系统技术项目，其他预算还包括1000万美元的“高度网络化的相关数据分发”项目，以及1.61亿美元的“AI人机共生”项目。新项目表现出网络化、无人驾驶和广泛分布的网络空间能力等特征。利用人工智能支持自主系统的发展，符合美军“拥有更多自主系统，在拒止竞争环境中支持作战人员”的国防战略。
俄罗斯的人工智能军事应用发展战略规划
俄罗斯正在投入相当大的资源，以保持与美国在人工智能军事领域应用竞争中的平衡。为了缩小差距并保持竞争力，俄罗斯国防部为提高其军事人工智能开展了一系列的活动。尤其是在普京总统发表声明称“谁能成为人工智能领域的领导者，谁就可能主宰世界”之后，俄罗斯不断加大将人工智能系统与无人机、导弹等相结合的步伐。
2015年12月16日，俄罗斯总统普京签署“成立国家机器人发展中心”总统令，将发展军用、特种和军民两用机器人系统作为俄联邦科学、工艺和技术的优先发展方向。俄罗斯出台了《2030年前人工智能国家发展战略》《2018年—2025年国家武器发展纲要》《2025年先进军用机器人技术装备研发专项综合计划》等战略规划，明确提出人工智能发展的目标，将人工智能、无人自主技术作为俄罗斯军事技术在短期和中期的发展重点。《2025年先进军用机器人技术装备研发专项综合计划》明确提出，人工智能、机器人技术是重点研发的新军事技术，无人作战系统在俄军武器装备中的比例在2025年将占到30%。为加快推进人工智能在军事领域的应用，俄罗斯组建人工智能和大数据联盟、国家人工智能中心、隶属国防部的机器人技术科研试验中心和国家机器人技术发展中心，主要用于建设人工智能创新型基础设施，开展人工智能领域的理论和应用研究。
日本守护者无人机
俄罗斯国防部长批准了《2025年前发展军事科学综合体构想》，加快研制可以驾驶车辆的类人机器人、组建在战场上可与人类战士并肩战斗的机器人部队。俄罗斯考虑使用无人机进行监听和侦察、巡逻和火力支援、哨兵和现场安保、弹药运送、伤员疏散、布雷和排雷、掩护和隐蔽等。但到目前为止，大多数的作战机器人还没有完全融入到作战部队中，但是俄罗斯正在采取相关措施加速这一进程。俄罗斯国防部长希望作战机器人能够从2018年开始批量生产。
俄罗斯正聚焦侦察监视、指挥决策、火力打击、作战支援等多领域，展开智能化武器装备的研制和列装工作。俄军从2015年开始在各军区和舰队组建战斗机器人连，于2017年开始大量列装机器人，并加快制定无人作战力量参与城市战斗的战术方案。据俄罗斯卫星通讯社2019年11月23日报道，到2025年，俄罗斯将组建可执行战斗任务的多功能机器人部队。在操作员最小协助的情况下，该部队可以自主操纵5个作战机器人，每个机器人将完成自己的特殊任务。目前，俄军机器人部队协作技术正在“指向标”实验平台进行验证，该平台于2019年10月首次在马格尼托戈尔斯克“机器人系统和综合体”试验场公开亮相。
俄罗斯以天王星系列、平台-M和阿尔戈等型号为代表的地面无人战车发展迅猛，型号多、数量大，已具备快速机动、远程侦察、情报处理、排雷破障和火力打击等支援与作战能力。随着系列先进军事技术综合集成的不断创新发展，俄军的战斗机器人正在向着体系化、智能化、模块化和通用化的方向发展，未来战场将形成无人与有人作战系统交互融合的新型作战体系，无人作战军团必将成为俄军未来战场上的主力军。
日本的人工智能军事应用发展战略规划
日本2014年发布的《防卫生产和技术基础战略》中，把智能科技作为“可能对军事战略和军力平衡产生重大影响的技术突破方向”。2016年发布的《日本防卫省中长期技术展望》中，将无人化、智能化作为未来防卫技术发展重点，试图借助智能科技实现军事能力的跨越发展。2016年8月，日本防卫装备厅公布了《未来无人装备的研发前景》，强调随着AI自主控制技术的发展，推动陆上、水面水下、空中三大领域装备“无人化”的条件正在成熟，特别是无人机技术的跨越式发展。
2018年以来，作为AI技术研发的主要大国之一，日本高度重视人工智能的军事应用，并将其明确列入年度防卫大纲，力争在新一轮军事革命中占得先机。2018年的日本《防卫计划大纲》更是明确强调对于人工智能等最尖端技术，应当有选择性地重点投资，以大幅缩短研发周期；要求调查分析国内外尖端技术的发展动向，力争发掘和培养革命性的技术。
2019年6月，日本政府出台《人工智能战略2019》，旨在建成世界上最能培养人工智能人才的国家，并引领人工智能技术研发和产业发展。该战略设有三大支柱：一是奠定未来发展基础，大规模培养人工智能人才，通过重构研发体系推动人工智能基础性和融合型研发；二是构建社会应用和产业化基础，包括推动人工智能社会应用，完善数据基础，支持中小企业和风险企业；三是制定并应用人工智能伦理规范，包括推行以人为本的人工智能社会原则，构建国际合作机制。
日本人工智能战略的实施，将大幅提升日本自卫队的智能化水平。日本希望其无人装备的智能化水平，在2019年—2023年能达到第四级（自动生成飞行轨迹、遵守交战规定），2024年—2028年达到第五级（自动躲避、空中加油），2029年—2033年达到第六至七级（敌机情况判断和应对、敌机位置推定、任务重新分配），2034年后确保日本能在相关领域处于领先地位。
印度罗斯托姆-2长航时察打一体无人机
日本虽然制定了人工智能军事应用的发展规划，但也意识到这一过程将主要面临两大困难：一是从基础理论研究向应用技术过渡，需要耗费相当长的时间；二是虽然存在AI技术从民用向军用直接转化的可能性，但必须根据装备性能和作战目标编辑专门算法，并通过长期的深层学习提高智能化水平。
日本的智能化武器装备研发非常重视民间资本和民间企业的参与，即所谓“官民产业合作”。日本防卫装备厅2018年公布的三项重大合作研究课题都与人工智能有关，分别是“利用执行器技术加快对设备的无人化控制”“利用人工智能构建船舶自动识别装置的分析工具”“推动无人机监控、侦察的自动化和效率化”。在防卫省内部，近几年围绕陆上、水面水下和空中三大领域，展开了大量的人工智能应用研究，正按照既定时间表推动相关技术的稳步发展。
印度的人工智能军事应用发展战略规划
在“数字印度”的强力推动下，印度逐步关注人工智能、机器人、量子通信、区块链、机器学习和物联网等颠覆性技术，挖掘并利用人工智能的潜力，加快推进人工智能技术在军事领域的应用。2018年2月，印度政府任命了一个由17人组成的人工智能特别工作小组，研究人工智能的和平与商业用途，对未来革命化武器的开发进行构想，研究将人工智能用于监视非国家行为体，并开发用于军事用途的智能机器人系统，以提高印度军队的防御和进攻作战能力，重点研究方向包括模拟演习和训练、网络安全、航空安全以及发展无人监视技术、智能和侦察技术等。这个特别工作小组将研究各军事强国的人工智能技术，并为印度武装部队提出具体的应用建议，总体目标是使印度成为军事领域的人工智能大国，特别是在航空、地面系统、海军、网络、核战和生物战领域。
2018年5月，印度国防部长尼尔马拉·西塔拉曼宣布，政府对于研发用于国防的人工智能技术态度是严肃的，并称这些技术将能够用于空中、陆基和海上平台，使它们有效执行多种任务，包括守卫边境和网络、保卫外太空以及监控化学和核环境。5月21日，印度报业托拉斯网站发表题为《印度准备好迎接人工智能战争》的报道称，印度政府开始推动一项雄心勃勃的国防计划，希望融入人工智能技术，大幅提升武装部队的战备能力，包括给相关部队配备无人坦克、无人船、无人机和机器人武器。这是印度政府为提高陆海空三军应对下一代战争的能力所采取的宏观政策规划的一项内容。印度国防生产局负责人阿贾伊·库马尔表示，印度政府决定把人工智能引入全部三大军种，因为鉴于未来战场的要求，人工智能将成为一个“大领域”，军队与民间机构将以一种“合伙模式”落实计划内容，印度国防研究和发展组织将成为这一计划的主要参与方。
2018年6月，印度政府发布《人工智能国家战略》，以实现“AIforall”为目标，指出了印度人工智能的发展优势与问题，特别关注军事安全与道德隐私领域，并就印度人工智能国家战略的构建提出了框架方案。该战略以“AI卓越研究中心”与“国际AI转型中心”两级综合战略为基础，投资科学研究，鼓励技能培训，加快人工智能在整个产业链中的应用，最终实现将印度打造为人工智能发展高地的宏伟蓝图。印度人工智能国家战略的实施，将进一步推动人工智能技术在军事领域的应用。
人工智能应用于军事领域，将对情报分析、任务规划、指挥决策、作战机动、火力打击等产生重要影响，推动战场获取信息、传输信息、分析信息、制定决策、执行任务的整个流程自主化、快捷化，最终掌握战争主动权。人工智能在军事领域的应用水平，将成为大国之间军事实力比拼的重要标志，围绕军事智能话语权的争夺将日益激烈。
版权声明：本文刊于2020年9期《军事文摘》杂志，作者：季自力、王文华。
声明：本文来自军事文摘，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系anquanneican@163.com。
美国军事人工智能发展及其安全问题的思考
2020年初，美国海军发布《人工智能技术安全性》。该报告重点关注对此项技术带来的安全性问题。美国海军乃至整个国防部系统，都在严肃认真地对待军事人工智能的发展。2019年的2、6、9月，美国先后公布《国防部人工智能战略》、《国家人工智能战略》《空军人工智能战略》三大战略，表明其在国家、军队、军种三个层面的“智能化战略”全面启动。可看出美国人工智能在军事领域的发展态势日趋激烈。
一、推出多项政令战略规划，聚力发展人工智能
人工智能作为驱动第四次工业革命的重要引擎，深刻影响着经济产业和各技术学科的发展，为此美国以国家战略地位提升对人工智能在社会发展各领域（特别是国防领域）的动能，以推动人工智能技术的研发。2019年10月，世界经济论坛发布制定国家人工智能战略的框架白皮书，创建了最低限度可行的人工智能国家战略制定框架，指出国家人工智能战略的制定应考量具有战略意义的优先事项人口需求资源限制和地缘政治等因素，旨在指导尚未或正在制定人工智能国家战略的政府。
美国多措并举，继续把发展人工智能技术作为提升国力维护国家安全的重大战略，从国家战略层面强化人工智能技术布局。2019年2月，美国政府科技政策办公室发布由美国总统特朗普签发的《维持美国在人工智能领域的领导地位》行政令，提出了美国发展人工智能的政策和原则战略目标和重点领域，启动旨在推进美国在人工智能领域领导地位的美国人工智能倡议，指示联邦政府整合资源，聚力发展人工智能。
同年2月，美国国防部公布《2018年国防部人工智能战略》的摘要部分（题为《利用人工智能促进安全与繁荣》）。该战略是美国国防部首个人工智能战略，旨在落实美国政府《国家安全战略》和《国防战略》提出的人工智能重要事项，为美国国防部谋求军事人工智能优势发展军事人工智能实战化能力提供战略指导。2019年7月，美国空军推出数字空军计划，旨在改进其在数据管理信息技术架构和业务运营方面的不足，使美国空军保持竞争力。2019年9月，美国能源部成立人工智能与技术办公室，旨在为美国人工智能研究人员提供联邦数据模型和高性能计算资源。2019年9月，美国空军以美国《国防部人工智能战略》附录形式发布《2019空军人工智能战略》，详细阐释在数字时代如何有效管理引导和引领所必须的基本原则职能和目标。2020年初，美国海军分析中心发布专题报告《人工智能技术安全性———对海军的行动方案建议》。该报告从当前美国海军推动军事领域人工智能技术运用过程中引发的公众关注进行介绍入手，提出了海军乃至整个国防部系统在军事领域接收采用新兴技术手段的总体态度与思路。
二、多家军事机构开展研发项目，探索人工智能技术的军用新场景
作为军事大国，美国对于人工智能军事作战赋能的目标非常清晰，强力推动美国顶尖人工智能研究走向新的技术突破，促进科学新成果的发现、增强经济竞争力、巩固国家安全。2019年3月，美国参议院军事委员会举行主题为国防部人工智能计划的听证会，美国国防预先研究计划局DARPA、国防创新小组（DIU）、国防部联合人工智能中心（JAIC）等机构主管分别发言，阐述所在部门的人工智能项目及运行机制等情况，巩固并强化了人工智能技术及应用与军方之间的联系，保障美国的人工智能军用化步伐进一步加快。以DARPA为例，DARPA正将投资和研发重点转向第三代人工智能技术，用于创建能在特定语境下进行推理的机器。资助的主要项目包括终身学习机器（L2M，2017年启动），可解释人工智能（XAI，2018年启动）和机器常识（MCS，2018年启动）等，探索提高人工智能技术水平的方法，实现语境推理能力。DARPA认为，将这些技术集成到与军事作战人员合作的军事系统中，将有助于在对空间敏感的复杂战场环境中做出及时决策，了解不完整或者相互矛盾的海量信息，并使用无人系统安全自主地执行关键任务。
2019年1月，DARPA启动知识导向型人工智能推理模式（KAIROS）项目，旨在提升面向复杂战场环境挖掘和理解海量信息中的复杂事件及其相互关系的能力。2019年1月，美国陆军研究实验室（ARL）启动异构战术环境中的分布处理（DPHTE）计划，基于雾计算平台在对抗性军事环境中为作战人员提供更多的态势感知。2019年2月，美国空军研究实验室发布多域战和目标定位支持信息分析项目，旨在开发基于算法战和人工智能等技术，针对时敏有价值的敌对移动目标进行快速预判和打击。2019年5月，DARPA启动旨在将人工智能应用于空战演变（ACE）项目，人工智能空战应用成熟后可替代飞行员完成部分空战任务。2019年5月，麻省理工学院发布为美国空军打造人工智能加速器项目，该项目研究领域包括救灾和医疗准备、数据管理、维护物流、车辆安全以及网络还原能力。2019年9月，美国国防部联合人工智能中心宣布美国军方网络安全数据制定新框架，重点为未来人工智能网络防御体系奠定基础。
2020年初，美国特朗普政府向国会提交2021财年预算申请，加速发展人工智能等技术。提议政府预算从2020财年1560亿美元削减至1422亿美元，下降138亿美元，但预算申请仍强调优先发展“未来产业”，必须加速发展人工智能等技术。其中，500万美元用于能源部新立“人工智能与技术办公室”，加强人工智能的项目研发。
三、夯实人工智能实践应用的道德准绳和安全边界
随着人工智能技术的发展，人权伦理、隐私保障、歧视偏见、安全问题等困境日益突出。美国亦在探索中多措并举，确保人工智能在充分的监督和控制之下发展。特别是在2019年发布的国家级人工智能战略和2020年初发布人工智能技术安全性报告中，将道德、隐私、安全等问题摆在突出位置，认为应在尊重道德、重视安全的前提下最大限度地发挥其社会效益。
（一）明确战争中使用人工智能技术的道德原则和标准
美国推动多项研究，阐明美国合法道德地使用人工智能的愿景和指导原则，引导负责任的人工智能应用和开发。2019年1月，美国国防部要求国防创新委员会制定在战争中使用人工智能的道德原则，用以指导军方在战争中使用人工智能技术和武器，并向硅谷科技公司确认其人工智能产品将如何被使用。美国国防部这一举措被认为旨在形成全球军用人工智能规范的指导方针，并吸引硅谷科技公司参与防御工作；10月，人工智能原则：国防部人工智能应用伦理的若干建议推出，被认为是美国对军事人工智能应用所导致伦理问题的首次回应。2019年1月，美国著名智库布鲁金斯学会发布《自动化和人工智能：机器对人及地区的影响》报告，着重分析了过去近30年间的资助系统与人工智能对行业、就业、地理和人口的影响，并对当前至2030年的趋势进行了预测。最后针对国家、州和地方的政策制定者提出一个综合响应框架，为人们理解并规范自动化和人工智能的作用提供参考。
（二）人工智能对军事领域尚属新兴技术，安全性不容忽视
人类历史上，充斥着军队利用技术取得军事优势的实例。比如战车。战车，是出现在战场上的第一种车辆装备，由民间通用马车提高速度和机动性改进而来，在军事运用方面取得了显著的优势。战车被描述为当时的“超级武器”。又比如火药。火药源起于一个偶然发现，它的出现，使得军队能够驾驭化学反应能量来提高速度与威力，由此彻底改变了战争的形态和样式。再比如内燃机。这种发动机继承并发展了蒸汽机的优势，改变了战争活动的速度与范围。对内燃机的应用方案，包括为后勤物流（补给运输卡车）提供动力以及为潜艇、飞机与导弹赋予持久的远程监视及打击能力。
对大多数技术手段的接收和运用，一度都曾起到了改变了战争样式的作用。而其中有几项，更是彻底颠覆了以往战争活动的样式和范围，其中便包括火药与核武器。人工智能技术，亦被认为位居此类。此项技术能够应用于整个战争事业的方方面面，大幅提高了战争活动的效能与效率。各类人工智能技术，也因其各自独有的特性而有所区别。首先应注意到，现实世界中人工智能技术应用方案，是用以解决特定领域问题的狭义人工智能技术，而非具备普遍通用性的通用人工智能技术应用方案。人工智能技术在军事领域的应用，可以与美国军队对核武器的运用方式进行类比：安全方面的关键性技术领域知识，必须在很大程度上由军队文职机构掌握，在很大程度上亦属技术范畴。
（三）给予人工智能技术安全性“恰到好处”的信任
人工智能技术安全性，也与对其信任程度有关。美国军方运用人工智能技术方面的一个关键问题是，军方人员和美国政府高层领导能否相信这些系统确实有效且不会引发意外问题。2016年国防科学委员会对自主控制技术的研究报告指出：“决定在特定任务中部署运用某系统的个人，必须信任该系统。”在伊拉克和阿富汗的行动表明，负责实施特定行动的指挥官和战斗/操作人员在不完全了解后果的情况下，不一定会使用某些系统。当某些系统被部署至战场以满足紧急需求时（如反简易爆炸装置系统或用于提供关键性情报的监视系统），一些部队还是选用了他们已经熟悉的武器系统和情报监视侦察平台，即便是老系统的功能指标比不上那些已经可以选用的新系统。
对人工智能系统的信任度过低是一种危险，会阻止部队运用他们所需的功能。而另一种危险，则是对某项能力的过度信任。人类倾向于过度信任机器，即便在有证据表明不能够给予这种程度的信任情况下，也是如此。战争活动中的过度信任，也有具体案例。如，2003年，陆军“爱国者”防空导弹系统曾击落1架海军F/A-18飞机，该系统将飞机误判定为战术弹道导弹，并向操作人员提出了建议，要求其发射导弹实施拦截。操作人员在没有独立核实可用信息的情况下，批准实施了这项建议。这表明，在实际作战行动中，军方需要对人工智能给予程度“恰到好处”的信任，不能过热也不可太冷，避免滑向两个极端。需要达成的目标，是程度恰当的信任，并且应该让人来参与决策过程。而这种决策过程，则需要以各种相关能力及对系统功能所具备的经验与知识为依托。
（四）军事人工智能安全问题将写入政策方针
军方和政府的高层领导，还应通过政策方针层面的决策对相关军事行动的性质施加影响，包括确定战争活动中应该使用哪些特定的技术手段。这些方针政策，可能会对监管程度构成影响。例如，国防部第3000.09号指令，就要求对某些类型的自主控制系统进行高级别审核。明确战争活动中允许使用的技术手段（例如，对白磷（弹药）运用的限制和使用集束弹药时相关设定要求以及对其它此类武器具体性能参数的限制要求），并且对某些特定类型作战行动中的策略原则进行限制。例如，《2013版总统政策指导（PresidentialPolicyGuidance，PPG）》及《2017版总统政策指导》中，对某些反恐行动的批准与监管流程的总体原则框架进行了明确。这些政策方针原则，有助于确保相关军事活动符合美国的原则、价值观及利益。这些政策方针层级的决定，都有反映出对此类系统或作战行动可靠性所应持有的信任程度的意味。
值得注意的是，以上这些实例内容都涉及到了安全性原则问题，而《国防部第3000.09号指令》的目的，就在于避免“意外交战（inadvertentengagements）”事件的出现（例如致使平民伤亡）。限制白磷弹药和集束弹药的目的，还在于减少使用这些武器时给平民带来的危险。《2013版总统政策指导》中，直接将致使平民伤亡明确列为作战行动批准程序中的否决条件（no-gocriterion）。因此可以预见，安全性问题，势必将成为未来高层领导人对于将人工智能技术手段运用于战争活动方面所明确的相关指导与指令内容中的一部分。
（五）军方须与业界协助解决安全问题
人工智能技术的巨大进步，也使美国政府产生了对业界新的依赖性。自第二次世界大战以来，美国政府一直在很大程度上依赖于自身投入的研发资金。然而，人工智能技术方面的研发投资，越来越多地由私营机构所主导。其特征，是过去十年来科技行业的研发支出急剧增加。在图1中，我们将整个美国政府在网络和信息技术研发方面的支出与美国排名前五位的高科技公司（亚马逊、谷歌/阿尔法控股、英特尔、微软、苹果）的研发投资进行了对比。如图1所示，科技行业企业在研发方面的投入明显更多，而且两者间的差距正在扩大。2010年，科技行业企业的研发支出，已经是美国政府整体科技研发投资规模的6倍。8年后，企业在这方面的投入规模将激增至美国政府的15倍。总体而言，美国政府在尖端技术方面研究工作的投资面临着迅速扩大的缺口。这种现状，为美国政府营造出了一种处于不断变化中的环境。在这种环境中，与业界的协作，对于美国政府实现其战略目标必须保持的技术优势而言至关重要。在这个意义上，人工智能技术安全性应该是业界关注的问题——正如谷歌等公司放弃了对美国政府军事领域应用方案的支持，并开始运用伦理性审查程序对其内部工作流程进行监测所证明的那样，美国政府必须与业界协作，依托其帮助解决此类问题。
图1美国政府与科技行业企业研发投资差距对比图
四、美国军事人工智能面向未来的发展趋向
人工智能技术一般可分为弱人工智能、强人工智能、超人工智能3个等级，预计强人工智能技术可能在2050年前问世。未来美军智能化建设发展可能经历三个阶段：
2025年前，美军重点是搭起智能化军队框架，总体水平处于弱人工智能阶段。美军建设主要围绕构建“全球监视打击体系”，以升级水下、网电、空天、全球快速打击和导弹防御作战系统为重点，突出发展无人化、隐身化、远程化作战平台，提升“全球公域”介入能力，确保可信的“拒止”和“惩罚”威慑。这一阶段，美军无人系统在数量上将逐步超过有人系统，自主无人系统将成为美军前沿作战的重要力量，无形、无人、隐形、灵巧等力量将成为美军事干预的主要手段。
2035年前，美国初步建成智能化作战体系，总体水平进入强人工智能阶段。美军建设主要通过发展智能化作战平台、信息系统和决策支持系统，以及定向能、高超声速、仿生、基因、纳米等新型武器，对主要对手形成新的军事“代差”。在这一阶段，美军无人系统的投资将超过有人系统，无人系统建设规模及作战运用皆居于主导地位。
2050年前，美军智能化作战体系将更先进、更完善，总体水平达到超强人工智能阶段。美军在强人工智能、通用量子计算、可控核聚变、纳米机器人、再生、创生、脑联网等技术方面可能取得突破。作战平台、信息系统、指挥控制可能全面实现智能化、无人化，更多样的仿生、基因、纳米等新型武器走上战场，作战空间进一步向生物空间、纳米空间、智能空间拓展，人类进入“机器人战争时代”。