人工智能对国家经济安全的影响研究人工智能对国家安全的坏处

发表时间：2023-07-13 20:47:55

人工智能对国家经济安全的影响研究

摘要

人工智能作为一项引领全球新一轮科技革命和产业变革的战略性技术，已经成为大国经济竞争的重要筹码。人工智能对国家经济安全的影响需要从国际政治经济和国家安全的角度来系统阐释，人工智能会给国家经济安全带来诸多风险，包括失业风险、平台垄断风险以及经济网络风险等。世界各国在加快发展人工智能的同时，必须改变对人工智能的定性，只有将该项技术视为一种全球性公益产品，并针对这些风险因素采取有效的政策管控措施，才能最大限度发挥出人工智能的技术优势，促进经济社会可持续发展。

内容目录：

1人工智能与平台的垄断性影响

2人工智能对国际经济竞争的影响

3人工智能对劳动力市场的影响

4人工智能对网络经济战的影响

5结语

0引言

关于人工智能（AI）的普遍定义在国际上经常被视为机器学习、计算机视觉等领域的统称。在当前国际经济竞争和国家经济安全愈发重要的时代背景下，对于人工智能的讨论在术语上缺乏针对性。在全球价值链网络紧密分工的今天，人工智能得到迅猛发展的证据不仅从投入的资源数量来衡量，而且需要从其产出的贡献来比对。根据美国麻省理工计算机科学与人工智能实验室估算，在2017—2030年间，全球大约55%的GDP影响将来自人工智能技术进步带动的生产率的提高。人工智能的图像识别的错误率从2010年的29%下降到2020年的不到2%，超过了人类的表现。更令人吃惊的是，这些快速的进步不仅适用于人工智能，同样也适用于机器人、传感器，以及通过数字化建立起来的工业4.0。

在人们对人工智能促进经济增长的强大能力感到吃惊的同时，很多学者也表达了对计算机算法完全替代人类功能的深度担忧。特别是在国家的经济安全层面上，人工智能技术在现实生活中的诸多不确定性，给整个社会可能带来的消极后果和安全风险需要进行深入研究。可以预见的是，与传统的工业革命相比，人工智能不仅在推动财富、技术和权力的变革过程体现得更为积极，基于人工智能“头雁效应”带动的多重技术叠加也正在对经济发展、社会进步、国际政治经济格局等多个方面产生重大而深远的影响。目前国内外文献关于经济安全的研究大多数聚焦于体系和制度本身，而很少从技术的角度来理解它。因此，本文的主要目的是，通过人工智能在平台垄断、地缘政治经济竞争、网络经济战等层面上的风险阐述，表明未来的国家经济安全的风险应更多地聚焦于技术要素，是因为拥有成熟人工智能技术和完善的产业技术生态的国家不仅能在激烈的国际经济竞争中脱颖而出，而且能具备维护本国经济安全的技术基础。

1人工智能与平台的垄断性影响

2020年新冠疫情爆发以来，生产力和劳动力因素变动的趋势展示了理解人工智能对经济安全影响的重要性。疫情隔离造成的全球经济停滞，突显出人工智能在提升社会潜在生产力效益方面不可替代的作用。疫情期间，基于AI技术的远程跟踪和检测、无人机配送以及在线办公和教育系统的迅速发展，让这项技术成为经济复苏的“启明星”。事实上，无论是从理论视角还是历史视角，亦或是技术角度来判断，人工智能在给生产力带来颠覆性变革的同时，也会带来显著的负面影响，并引发其他层面的担忧。

经济合作与发展组织（OECD）的报告多次指出人工智能和更广泛的数字化有可能在创新方面削弱竞争。人工智能技术带来高度的资源集中，在强大的网络效应包裹下愈发呈现出垄断市场的典型特征。事实证明，迄今为止互联网市场倾向于拥有高市场份额的大型数字平台。在此背景下，传统的实体企业被迫加入各大互联网平台的厮杀，成为平台巨头垄断道路上的牺牲品。要了解数字化新市场的竞争意义，还需要进行更细致的分析。数字经济市场在许多方面不同于“传统经济”市场。互联网大幅度降低了中小企业的成本，提高了它们快速扩大规模、收集潜在消费者信息以及创造新产品的能力。然而这些差异改变的不是市场结构而只是商业模式。“平台”模式是随着人工智能技术而蓬勃发展的一种商业模式，它严重依赖于直接和间接的网络效应来获得发展机会。直接的网络效应是指，使用同一平台的客户数量不断增加。这对于脸谱（Facebook）、推特（Twitter）和领英（LinkedIn）等这类社交媒体平台来说尤为重要。间接网络效应则是指，在平台的另一端，客户的价值和客户数量都在同步增加。正是由于这些间接的网络效应，企业可以通过从市场的另一方获利来补贴市场的支出成本。例如，社交媒体网站一边向用户提供免费服务，一边通过植入广告对广告公司收费。

因此，这对我们试图确定互联网市场的最佳竞争水平，提出了一大挑战。经济学家通常使用价格作为衡量竞争水平的指标，但在这种情况下，仅仅依靠价格是不够的，因为互联网平台市场两端的价格严重失衡。在搜索和社交网络领域占据主导地位的大公司，往往控制着人们获取新闻的渠道。持有准垄断地位的公司不但会失去继续提高其产品质量的动力，还可能利用人工智能技术达到生态和规模的双重垄断效应。当数字资产集中在少数几个主要平台上时，对人工智能初创企业的影响可能是毁灭性的。

首先在规模上的数据控制，对于那些想要创建或使用人工智能系统的公司来说，大规模的数据集是一个关键的输入，人工智能算法的初始训练和微调都离不开这些数据。即使是最好的人工智能算法，如果没有大数据集的辅助，也只能存在于理想蓝图当中。大型平台依据自身的规模优势强制平台商家把经营管理软件、数据等放在平台数据库中。服务平台商家的服务商必须使用该数据库以调取消费者数据，这就迫使部署在其他云平台的服务商被迫迁移至平台打造的服务器。如此一来，初创企业的数据来源就被彻底掐死。其次，鉴于人工智能相关产品和服务的开发及商业化将带来更大的生产力增长，生态垄断对于一个国家的经济安全来说，更是一个值得重视的问题。一旦互联网巨头手持资金、数据、流量、渠道和技术等关键发展资源，逼迫其他互联网企业选择站队，就将极大地破坏互联网竞争环境和产业生态。经济不仅不能得到迅速发展，而且将损害创业创新的活力，还将影响整个国家治理的进展和实效。

2人工智能对国际经济竞争的影响

国际上很多技术流派的政治学家都看到了人工智能技术在外交政策方面运用带来的变化和影响力。目前借助人工智能技术在改进决策过程的效率方面运用较为广泛，但事实上一些人工智能技术发展程度较高的国家已经开始基于人工智能预警系统，修改国家经济政策，包括预判国家经济安全面临的经济风险、及早制定预防政策，并用以确立国家经济安全的目标。可以说，人工智能技术中的机器学习、大数据分析和量子计算等技术共同构成了改变传统经济力量的等量方程式。

如果说人工智能技术是经济治国的工具的话，从更长远的周期来把握，它也将成为国际经济竞争的试金石。首先，一个国家人工智能技术水平的高低，直接反映在经济平衡账户的变化上，从而改变了各国经济安全的特征。发展中国家在人工智能开发方面处于绝对的弱势，虽然大力推广人工智能的应用也为这些国家的发展提供了新的机遇。发展中国家依靠人工智能技术刺激了新的消费需求，为政府增创收入贡献不小。但从经济发展的底层逻辑考虑，人工智能在不同国家、不同经济结构的土壤中，其发展的进程是非线性的。在一些欠发达地区由于技术和资金的局限性，人工智能技术往往用于创作实际回报率最低的新产品，在其国内投机性资本的推波助澜下，人工智能技术如果被无节制地引入实体经济部门，那么这些国家通过全球化浪潮所建立的工业资本链和资源流通链将面临解体的风险。也就是说，盲目的技术引进，可能带来的经济负面效应远大于实际收益。随着时间的推移，经济收益加在一起并复合起来，经济收益最高的国家集团和经济收益最低的国家集团之间的净经济影响差距可能会变得更大。

其次，面对不可抗拒的人工智能驱动型经济，技术民族主义将加速推动各国从顶层设计上制定人工智能发展战略。传统发达国家依靠技术优势和雄厚的资金支持，率先启动了人工智能的全球竞赛以获得更多经济实力的提升，达到重塑经济实力平衡的目的。美国作为世界上的人工智能创新中心，同时也成为全球人工智能霸主的有力候选者。拥有技术优势的国家，会选择把人工智能作为经济武器演化为维持全球性霸权的手段，不仅损害到其他国家的经济安全，也意味着自由主义世界经济秩序的基础受到侵蚀。霸权国家如果把人工智能当作一种战略性治国工具，那么世界上其他国家都有可能为了本国经济利益而试图争夺和控制人工智能。随着基于人工智能技术对经济利益的深度挖掘，技术塑造的新的财富生产和分配方式甚至可能颠覆原有的政治经济秩序。从全球实力动态核心的变化趋势来判断，并非所有的发达国家都具有维持人工智能优势的经济实力。全球范围内大幅度增长的人工智能投资引发的溢出效应，如中国所倡导的“数字丝绸之路”等议程也正在帮助发展中国家技术创新和经济增长。可以预见的是，拥有强大经济基础的新兴国家会依托人工智能优势在未来世界格局中占有一席之地。但那些人工智能产业发展滞后的国家，必然被全球价值链市场所抛弃，从而更广泛地加剧了国家之间的不平等。

3人工智能对劳动力市场的影响

对于大部分发展中国家来说，在面对无法逾越的人工智能技术鸿沟的同时，本国的经济还要承受大量缺乏技能的工人失业的阵痛。纵观历史，人们对自动化，包括机械化、计算机，以及人工智能等技术扼杀就业机会，并对劳动力市场造成损害的担心从未停止。早在20世纪30年代，英国经济学家凯恩斯就对“技术性失业”进行了详细定义。同样，诺贝尔经济学奖得主瓦西里·里昂惕夫（WassilyLeontief）注意到计算机芯片处理能力的显著提高，担心人类将被计算机所取代，就像内燃机的发明淘汰了马一样。历史上虽然出现了三次工业革命浪潮，但整个社会对人类劳动力的需求依然存在。

值得警惕的是，在第四次工业革命大背景下孕育的人工智能和以往任何一项技术都不同。人工智能作为一项变革性的经济技术，在增强创新动力和提高劳动生产率方面都有着显著的成效。麦肯锡的研究表明，每千名工人增设一台机器人，就业比率就会下降0.18～0.34个百分点，工资下降0.25～0.5个百分点。工业机器人的规模正在发达国家中扩展，2019年制造业大国德国有约190万台工业机器人活跃在工业4.0场景中，预计2025年，这一数字将增长至700万。按照预测的趋势，人工智能引发的失业浪潮不亚于经济大萧条。根据加拿大皇家银行全球资产管理公司的一项研究，机器人和自动化的成本已大幅下降。过去，工业机器人的高成本限制了其在汽车行业等少数高薪行业中的使用。但是，近年来机器人的平均成本大幅度降低，导致在亚洲的一些关键行业中，机器人的成本和低工资劳动力的单位成本正在逐渐趋同，机器人现在已成为劳动力的可行替代品。

人工智能技术的迅速增长，证明了它们对劳动力产生的重大影响。许多大型科技公司在没有大量员工的情况下实现了广泛的经济规模。美国《大西洋》杂志主编德里克·汤普森（DerekThompson）写道：“Google的市值达3,700亿美元，但只有大约55,000名员工，不到1960年代鼎盛时期大企业员工人数的十分之一”。美国人工智能专家马丁·福特（MartinFord）也发出同样强烈的警告。他在《隧道中的灯：自动化、加速技术和未来经济》一书中指出，“随着技术的发展，人工智能技术最终可能渗透到经济中，以致工资收入不再为广大消费者提供足够的可支配收入和对未来的信心。如果这个问题得不到有效解决，结果将是经济的螺旋式下降”。他甚至预言，“在将来的某个时刻，机器将能够全面接管所有的工种，我们当中大多数人将找不到任何新的工作机会”。

不可否认的是，人工智能叠加效应下的技术变革步伐不仅难以预估，对所有行业的传导和渗透速度更是超出人们想象。如果真的像《奇点临近》中所描述的那样，人工智能全面取代了人类劳动，那么由人工智能技术对就业以及劳动力市场造成冲击，从而引发社会秩序混乱，对国家的经济安全来说是灾难性的。就全球市场范围看，如果失业的工人考虑移民到其他国家，进而引发经济体之间的移民潮、甚至是难民潮，接收国的国家经济安全也必将遭受严重的威胁。在这种情况下，一场由人工智能引发的经济战争将不可避免，而战争的结果可能改变全球价值链的模式。

4人工智能对网络经济战的影响

就技术本身而言，在数字化时代利用人工智能技术摧毁一个国家的经济网络正变得更加切实可行。像人工智能这样能够进化的新兴技术，被各国家决策层视为经济治国的灵丹妙药[13]各国政府致力于开发复杂的算法，一方面是为了取得本国经济实践的成功，另一方面则是为了打击虚假网络信息，保障国家经济安全。虽然到目前为止，对“网络经济武器”并没有明确的定义，也没有出台具体的对抗措施。但随着将人工智能用作经济治国工具的频率增加，极有可能对国家安全产生影响。风险首先存在于人工智能在指挥与控制或决策支持系统中的应用。基于人工智能分析目标经济体的海量数据来实施经济破坏任务，或者通过社会操纵来制造有针对性的宣传以引起金融恐慌，正日益成为国家层面经济政策制定过程中必须考虑的现实问题。因此，无论是从应对其他国家的决策速度的角度，还是维护本国经济安全的政治考量，未来政策的制定和出台势必要得到技术官僚或者是人工智能技术的支持。

如果从战术特征看人工智能在网络经济战中的应用，该项技术让“蜂群战术”成为未来经济战的一个新兴特征。它既可以用来增加反介入和经济政策区域封锁能力，也可以对更强大的经济工具——如经济胁迫或摆脱经济监护——发起进攻。澳大利亚迪肯大学阿尔弗雷德·迪肯研究所的研究员马哈茂德·帕古（MahmoudPargoo）明确指出美国的制裁严重打击了伊朗的经济，伊朗的国家机器运转却依旧顺畅。背后的原因离不开伊朗人工智能技术部门对本国经济网络的保护。

除了能对经济安全实施保护，在人工智能的帮助下，国家从网络上提取恐怖主义相关内容也要容易得多。国家安全部门可以更积极地打击网络上的激进主义和极端主义。于是，我们不仅可以看到来自美国国防部主持的Maven项目中人工智能在反恐行动中展示的出色动态分辨能力，也可以感受卫星系统操控地面人工智能设备，进而指挥地面的无人机枪扫射和炸弹爆炸，暗杀伊朗核计划负责人、首席核科学家穆赫辛·法赫里扎德的强烈震撼。与此同时，技术的双面属性决定了当非国家行为者掌握人工智能并利用其获取非法来源，甚至为恐怖主义融资和洗钱时，人工智能技术对国家的金融稳定就是一项严重威胁。如果基于人工智能和区块链技术的比特币交易使用端对端的加密，国家监管机构几乎难以发现洗钱或资助恐怖主义的活动。一旦此类现象得不到有效的遏制，将给每一个国家带来经济安全的困境。对此，基于经济安全的全球性技术合作具有极高的迫切性。

5结语

在即将到来的人工智能时代，国际经济竞争被赋予了“双重意义”，在短期内它是一个与国家安全息息相关的议题，而从长期来看它又是一个国际治理的问题。与历史上的其他通用技术相比，人工智能在经济层面上的影响同样是无法估量的。然而，人工智能生态系统的不确定性和复杂性带来的风险，对国家经济安全也构成了结构性的挑战。越来越多的科学文献不仅注意到了人工智能对创新和经济的带动作用，更加关注如果人工智能技术的开发和部署未能得到有效处理，不平等现象引发的社会内部冲突可能会加剧，甚至威胁到国际就业市场和现有的全球经济秩序。在人工智能打造的新秩序下，基于经济竞争的考量而释放出更大的技术民族主义浪潮，将从根本上改变各国的经济政策。

此外，从人工智能改变财富分配方式的后续影响来看，全球顶级财富在发达经济体之间共享的现象引发的社会动荡隐患，决定了拥有人工智能霸权的利益集团必然需要通过全球合作并提供全球公共产品，来维护全球金融体系的基本稳定。表面上看，政府和国际组织对人工智能技术进行规制似乎能达到权力平衡的效果，但事实上并不能解决技术带来的系统性风险。在新的财富分配方式下，国家间对人工智能霸权的竞争已然成为既定现实。庆幸的是，人工智能竞赛尚处于早期阶段，寡头垄断式的市场结构并没有完全形成。因此，各国政府需要共同采取积极主动的监管政策，而不是把全部重心放在将人工智能作为国家经济治国的工具上。

在应对人工智能技术风险和国家治理方式上，欧盟可以说走在世界前列。在人工智能方面做出的种种举措透露出其致力成为制定全球技术标准的野心。欧盟所提倡的基于国际合作获得人工智能互惠互利的潜在机遇，不失为避免竞争带来生存危险的好办法。令人遗憾的是，在传统的国际共识中，国家间合作信任受到搭便车和缺乏集体行动等问题困扰。鉴于目前的国际无政府状态，各国只是在寻求其经济利益，而不是全球公共利益。总的来说，人工智能技术对国家经济安全的的结构性挑战在于对人工智能的定性。只有将该项技术视为一种全球公益产品，才能有利于确保人工智能革命的附加值在所有国家平等地传播，最终保护国际经济安全，促进可持续发展目标的实现。否则人工智能一直都将是悬在各国经济安全头顶的“达摩克利斯之剑”。

引用本文：戢仕铭.人工智能对国家经济安全的影响研究[J].信息安全与通信保密,2021(5):10-17.

作者简介

戢仕铭（1993—），男，博士，上海市人民政府决策咨询基地/余南平工作室研究员、华东师范大学国际关系与地区发展研究院博士研究生，主要研究方向为技术与国际关系、国际政治经济学、国家安全问题。

选自《信息安全与通信保密》2021年第5期（为便于排版，已省去原文参考文献）

声明：本文来自信息安全与通信保密杂志社，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系anquanneican@163.com。

人工智能给军事安全带来的机遇与挑战

1.2提升军事情报分析效率

随着信息技术的发展，人类正在迎来一个“数据爆炸”的时代。目前地球上两年所产生的数据比之前积累的所有数据都要多。瀚如烟海的数据给情报人员带来了极大的困难和挑战，仅凭增加人力不仅耗费大量钱财，问题也得不到根本解决。与此同时，伴随大数据技术和并行计算的发展，人工智能在情报领域日益展现出非凡能力。目前，美军已经敏锐地捕捉到了人工智能在军事情报领域的巨大应用潜力，成立了“算法战跨职能小组”。该小组的首要职能就是利用机器视觉、深度学习等人工智能技术在情报领域开展目标识别和数据分析，提取有效情报，将海量的数据转换为有价值的情报信息，为打击ISIS等恐怖组织提供有力的技术支撑。机器算法的快速、准确、无疲劳等特点使其在大数据分析领域大展身手，展现出远超人类的能力。因此，美国防部联合人工智能中心主任沙纳汉中将就直言不讳地表示，算法就是“世界上最优秀、训练最有素的数据分析师”。

1.3提升军事网络攻防能力

网络空间已经成为继陆、海、空、天之外的“第五维空间”，是国家利益拓展的新边疆、战略博弈的新领域、军事斗争的新战场。习近平主席在中央网络安全和信息化领导小组第一次会议上指出，“没有网络安全就没有国家安全”。网络攻防是军事安全领域中的重要一环，基于人工智能技术的自动漏洞挖掘可以显著提升军事系统的网络防御能力。目前，网络防御领域存在两大问题：一是网络技术人才短缺；二是当前的网络防御系统面对未知漏洞表现不佳。人工智能的新发展为提升网络防御水平提供了新途径，主要体现在网络系统漏洞自动化检测和自主监视系统等方面。以深度学习为代表的机器学习技术有望使得网络防御系统不仅能从以往的漏洞中学习，而且能在监视数据中不断提升对未知威胁的应对能力。有研究表明，人工智能可以从大量网络数据中筛选出可疑信息，以此增强网络防御能力。比如“蒸馏网络”公司（DistilNetworks）就利用机器学习算法来防御人类难以察觉的高级持续性威胁（APT）网络攻击。目前，美国亚利桑那州立大学的科学家已经研发出了一种能够识别“零日漏洞”的机器学习算法，并能够追踪其在黑客界的流动轨迹。麻省理工学院（MIT）“计算机科学和人工智能”实验室的研究人员也启动了PatternEx研究项目，意在构建一个机器学习系统，预期每天能检查36亿行日志文件，监测85%的网络攻击，并在投入使用时进行自动学习和采取防御措施。美国国防部高级研究计划局正计划将人工智能用于网络防御，重点发展的功能包括在投入使用之前自动检测软件代码漏洞以及通过机器学习探测网络活动中的异常情况等。

1.4为军事训练和培训提供新方式

人工智能为军事训练和培训也提供了新方式。在作战训练领域，人工智能技术与虚拟现实技术相结合能够极大提升模拟软件的逼真度和灵活性，为针对特定战场环境开展大规模仿真训练提供高效手段，真正实现“像训练一样战斗，像战斗一样训练”。首先，通过收集卫星图像、街景数据、甚至是无人机拍摄的三维图像，虚拟现实程序能够在人工智能的帮助下快速、准确地生成以全球任何一处场景为对象的综合训练环境（STE），帮助士兵进行更有针对性的预先演练，提升士兵执行特定任务的能力。其次，人工智能赋能军事训练模拟软件在不降低真实度的情况下快速生成训练环境、设计交战对手，摆脱了以往军事训练耗费大量人力物力布置训练场景的传统模式。再次，人工智能具备的自主性使得模拟军事训练不会以可预测模式进行，士兵必须使用各种设备和不同策略在复杂多样的环境中战斗，有利于提升士兵和指挥官在作战中的应变能力。最后，人工智能通过在模拟对战中与人类反复交手从而迭代学习，系统借助大量复盘模拟可以不断完善应对方法，为参谋人员提供参考借鉴。这一过程类似于与AlphaGo进行围棋对战。换言之，人工智能不仅可以扮演模拟军事训练中人类的强大对手，还可以在每次胜利时向人类传授一种针对这次战役或行动的新策略。除此之外，人工智能在军事训练的其他领域也有着广泛应用。目前，一个名为“神探夏洛克”（SHERLOCK）的智能辅导系统已经被用于美国空军的培训中。这个系统能够为美国空军技术人员提供如何操作电子系统对飞行器进行诊断的培训。同时，南加州大学的信息科学学院已经研制出了一个基于替身的训练程序，能够为派驻海外的军人提供跨文化交流训练。

1.5给军事理论和作战样式创新带来新的启发

诚如恩格斯所言：“一旦技术上的进步可以用于军事目的，他们便立刻几乎强制地，而且往往是违背指挥官的意志而引起作战方式上的改变甚至变革。”技术进步作用于军事领域必然引起作战方式的改变甚至变革，这是恩格斯100多年前就向人们揭示的军事技术发展规律，人工智能技术当然也不例外。总体来看，以人工智能技术为支撑的智能化武器装备较传统武器装备具有突防能力强、持续作战时间长、战术机动性好、训练周期短以及综合成本低等显著优势。智能化无人系统可采用小型化甚至微型化设计，使用复合材料和隐身技术，以隐蔽方式或集群方式接近目标，让敌人难以察觉或无法防范。无人武器系统还可以突破人类生理局限，装备的性能指标和运转时长只需考虑制造材料、各类机械电子设备的承受极限和动力能源的携带量，不但使得系统在机动、承压方面能力得到革命性提升，并且能够实现远距离侦察打击和在目标区域的长时间存在。同样重要的是，与传统武器系统操控训练周期一般长达数年不同，无人系统操控员仅需数月或一年左右的训练即可远程操控“捕食者”“死神”等无人武器参加实战，更多作战人员不必直接踏上战场，有望大大降低战死率和随之而来的社会舆论压力。基于人工智能技术军事化应用的上述特点，近年来美军提出了以算法较量为核心的算法战、无人武器系统蜂群式作战、具有高度自适应性的“马赛克战”等一系列新作战样式。可以预见的是，随着人工智能技术的进一步发展，智能化条件下的军事理论和作战样式创新不会停止。

总而言之，人工智能可以帮助军事力量更加精准高效地运转，同时降低人类面临的生命危险。人工智能在无人作战、情报搜集与处理、军事训练、网络攻防、智能化指挥控制决策等军事领域的广泛运用具有“改变游戏规则”的颠覆性潜力，有望重塑战争形态，改写战争规则，推动智能化战争的加速到来。中央军委科技委主任刘国治中将等专家认为，人工智能必将加速军事变革进程，对部队体制编制、作战样式、装备体系和战斗力生成模式等带来根本性变化，甚至会引发一场深刻的军事革命。

人工智能给军事安全带来的风险和挑战

人工智能作为一种科学技术，同样具备“双刃剑”属性。人工智能一方面为人类社会发展进步和维护军事安全提供了新的动力和机遇，另一方面也带来了一系列威胁与挑战。综而观之，人工智能给军事安全带来的威胁和挑战主要有以下几个方面。

2.1人工智能军事应用带来的非预期事故

人工智能的军事应用存在诸多不确定性，容易带来非预期事故的发生。这主要由以下两点原因所致：一是由于人工智能内部的脆弱性问题（internalvulnerbility）。当前，人工智能还停留在弱人工智能阶段，而弱人工智能系统的特点在于它们接受了非常专门的任务训练，例如下棋和识别图像。战争可以说是最复杂的人类活动之一，巨量且不规律的物体运动仿佛为战场环境蒙上了一层“迷雾”，难以看清和预测战争全貌。在这种情况下，系统的应用环境无时无刻都在发生变化，人工智能系统可能将难以适应。因此，当前弱人工智能存在的根本脆弱性（brittleness）很容易损害系统的可靠性。交战双方部署的人工智能系统交互产生复杂联系，这种复杂性远远超出一个或多个弱人工智能系统的分析能力，进一步加剧了系统的脆弱性，发生事故和出错的概率将大大增加。此外，人工智能算法目前还是一个“黑箱”，可解释性不足，人类很难预测它的最终结果，也容易带来很多非预期事故。二是外部的攻击利用问题（externalexploitation)。研究人员已证明，图像识别算法容易受到像素级“毒”数据的影响，从而导致分类问题。针对开源数据训练的算法尤其容易受到这一挑战，因为对手试图对训练数据进行“投毒”，而其他国家又可能将这些“中毒”数据用于军事领域的算法练。目前对抗性数据问题（adversarialdata）已经成为一个非常严峻的挑战。此外，黑客攻击还可能导致在安全网络上训练的算法被利用。当训练数据受到污染和“投毒”，就很可能产生与设计者意图不符的人工智能应用系统，导致算法偏见乃至更多非预期事故的发生。最后，人机协同也是一个很大的难题。无论是强化学习、深度学习，还是专家系统都不足以完全准确地反映人类的直觉、情感等认知能力。人工智能的军事运用是“人—机—环境”综合协同的过程，机器存在可解释性差、学习性弱、缺乏常识等短板，或将放大发生非预期事故乃至战争的风险。

2.2人工智能军备竞赛的风险

与核武器类似，由于人工智能可能对国家安全领域带来革命性影响，世界各国将会考虑制定非常规政策。目前，世界各国（尤其是中、美、俄等军事大国）都认识到人工智能是强化未来国防的关键技术，正在加大人工智能领域的研发力度，并竭力推进人工智能的军事应用，力图把握新一轮军事技术革命的主动权，全球人工智能军备竞赛态势初露端倪。具体而言，美国将人工智能视为第三次抵消战略的核心，建立“算法战跨职能小组”，筹划基于人工智能的算法战。2018年7月，美国防部设立专门的人工智能机构——联合人工智能中心（JAIC），大力推动军事人工智能应用。2019年2月12日，美国防部正式出台美军人工智能战略，并将联合人工智能中心作为推进该战略落地的核心机构。美国2021财年国防授权法案草案中也特别强调对人工智能、5G、高超声速等关键技术进行投资，建议对人工智能投资8.41亿美元，对“自主性”（autonomy)投资17亿美元。这些举措都体现出美国积极推动人工智能军事化、在人工智能领域谋求新式霸权的意图。俄罗斯在这一领域也不甘落后。2017年1月，普京要求建立“自主机器复合体”（AutonomousRoboticComplexs）为军队服务。中国政府则于2017年7月20日出台《新一代人工智能发展规划》，正式将发展人工智能上升到国家战略高度。军事领域也在通过“军民融合”战略加快“军事智能化发展”步伐，“促进人工智能技术军民双向转化，强化新一代人工智能技术对指挥决策、军事推演、国防装备等的有力支撑，推动各类人工智能技术快速嵌入国防创新领域”。

鉴于人工智能强大而泛在的技术本质以及军事领域对于强大技术的强烈需求，人工智能走向军事应用是难以阻挡的趋势，当前各国竞相推动人工智能军事化和发展人工智能武器便是其现实体现。大国间在人工智能领域的军备竞赛将会危及全球战略稳定，对国家安全带来严重威胁，埃隆·马斯克关于人工智能军备竞赛可能引发第三次世界大战的预言并非危言耸听。如同所有军备竞赛一样，人工智能领域的军备竞赛本质上都是无政府状态下安全困境的体现，如果缺乏信任和有效的军备控制措施，这将成为一场“危险的游戏”，直到一方把另一方拖垮或双方共同卷入战争，上演一场智能时代的“零和博弈”。

2.3扩展威胁军事安全的行为体范围和行为手段

传统上，威胁军事安全的主要行为体是主权国家的军队，但随着网络和人工智能技术的发展，这一行为体范围正在拓展。以网络攻击为例，根据攻防平衡理论，重大军事技术的出现将对攻防平衡产生重大影响，而有的军事技术天然偏向于进攻方。当前，人工智能技术的发展对提升网络攻击能力同样提供了极大机遇。可以预见，人工智能与深度学习的结合有望使得“高级持续威胁”系统成为现实。在这种设想下，网络攻击方能够利用APT系统24小时不间断地主动搜寻防御方的系统漏洞，“耐心”等待对方犯错的那一刻。随着人工智能逐步应用，将有越来越多的物理实体可以成为网络攻击的对象。例如，不法分子可经由网络侵入军用自动驾驶系统，通过篡改代码、植入病毒等方式使得军用无人车失去控制，最终车毁人亡。又比如通过入侵智能军用机器人，控制其攻击己方的人员或装备。同时，人工智能与网络技术结合可能进一步降低网络攻击的门槛。当智能化网络攻击系统研制成功，只要拥有足够多的资金便能有效提升自己的网络攻击能力，而不需要太高的技术要求。因此，未来恐怖分子利用人工智能进行网络攻击或攻击自主系统的算法、网络等，继而诱发军事系统产生故障（如军用无人车、无人机撞击己方人员），或者直接损坏军事物联网实体设备等，都会对军事安全产生很大威胁。

此外，人工智能的发展应用还将催生新的威胁军事安全的方式和手段。人工智能表现出诸多与以往技术不一样的特点，也自然会带来威胁军事安全的新手段，深度伪造（deepfakes）就是其中的典型代表，该技术为煽动敌对国家间的军事冲突提供了新途径。例如，A国雇佣代理黑客使用人工智能技术制作“深度伪造”视频或音频材料，虚构B国密谋针对C国采取先发制人打击，并将这段“深度伪造”材料故意向C国情报部门秘密透露，引发C国的战略误判，迫使其采取对抗手段。B国面对这种情况也将不得不采取措施予以应对，一场由A国借助人工智能技术策划的针对B、C两国的恶意情报欺诈就完成了。当前，“深度伪造”技术的发展速度远超相关的检测识别技术，“开发深度伪造技术的人要比检测它的人多100到1000倍”，这给各国安全部门抵御人工智能增强下的信息欺诈和舆论诱导制造了很多困难。此外，运用人工智能系统的军队也给自身带来了新的弱点，“算法投毒”、对抗性攻击、误导和诱骗机器算法目标等都给军事安全带来了全新挑战。

2.4人工智能产生的跨域安全风险

人工智能在核、网络、太空等领域的跨域军事应用也将给军事安全带来诸多风险。例如，人工智能运用于核武器系统将增加大国核战风险。一方面，人工智能应用于核武器系统可能会强化“先发制人”的核打击动机。核武器是大国战略威慑的基石，人工智能增强下的网络攻击将对核武器的可靠性构成新的威胁，在战时有可能极大削弱国家威慑力、破坏战略稳定。因此，尽管目前人工智能增强下的网络攻击能力的有效性并不确定，危机中仍将大大降低对手间的风险承受能力，增加双方“先发制人”的动机。信息对称是智能化条件下大国间进行良性竞争的基础和保障，但现实情况往往是，在竞争激烈的战略环境中，各国更倾向于以最坏设想来揣测他国意图并以此为假设进行斗争准备，尤其当面对人工智能赋能下的愈加强大的针对核武器系统的网络攻击能力，“先下手为强”确乎成为国家寻求自保的有效手段。另一方面，人工智能技术在核武器系统领域的应用还将压缩决策时间。人工智能增强下的网络攻击几乎发生在瞬间，一旦使核武器系统瘫痪，国家安全将失去重要屏障，给予决策者判断是否使用核武器的压力将激增。尤其在一个国家保持“基于预警发射”（lauch-on-warning)的情况下，核武器系统遭到人工智能增强下的网络攻击时几乎无法进行目标探测并且发出警报，更不可能在短时间内进行攻击溯源和判定责任归属，决策时间压缩和态势判断困难会使决策者承受巨大压力，极有可能造成战略误判，给世界带来灾难。

人工智能与网络的结合会极大提升国家行为体和非国家行为体的网络能力，同时也会催生出一系列新的问题。首先，人工智能技术的网络应用将提升国家行为体的网络攻击能力，可能会加剧网络领域的冲突。如前所述，基于人工智能的APT攻击可使得网络攻击变得更加便利，溯源问题也变得更加困难。与此同时，人工智能的网络应用可能会创造新的缺陷。目前人工智能的主要支撑技术是机器学习，而机器学习需要数据集来训练算法。一旦对方通过网络手段注入“毒数据”（如假数据），则会使得原先的人工智能系统非正常运行，可能带来灾难性后果。其次，由于人工智能算法的机器交互速度远超人类的反应速度，因此一旦将人工智能用于军事领域的网络作战，还有可能带来“闪战”风险，即人类还没来得及完全理解网络空间的战争就已经发生。此外，人工智能在太空领域的应用可能对全球战略稳定和军事安全带来破坏性影响。在人工智能的加持下，传统的反卫星手段将变得更加精准、更具破坏性、更难追溯，从而加大“先发制人”的动机，寻求先发优势。这容易破坏航天国家的军事安全和全球战略稳定，因为攻击卫星尤其是预警卫星往往被视为发动核打击的前兆。

结语

总体国家安全观强调，发展是安全的基础和目的，安全是发展的条件和保障，二者要同步推进，不可偏废。既要善于运用发展成果夯实国家安全的实力基础，又要善于塑造有利于经济社会发展的安全环境，以发展促安全、以安全保发展。因此，维护人工智能时代的军事安全并不代表放弃人工智能的发展，反而要大力推动其应用，使其成为维护军事安全的重要手段和支撑，并注重化解风险。如今，我国正处在由大向强发展的关键时期，人工智能有望成为驱动新一轮工业革命和军事革命的核心技术。因此，我们需要抢抓此次重大历史机遇，积极推动人工智能的研发和军事应用，推动军事智能化建设稳步发展，为建设世界一流军队增添科技支撑。

在当今时代，没有谁是一座孤岛，人工智能对于军事安全领域的影响是全球性的，因此推动人工智能领域的国际安全治理、构建人类命运共同体就显得尤为重要。由于人工智能的迅猛发展，目前对于智能武器尤其是致命性自主武器系统的相关法律法规还并不完善，各国在如何应对这些问题方面也没有明确的方法、举措和共识，但这些问题确关人类社会的未来前景和国际体系稳定。为了维护我国的军事安全以及整体的国家安全利益，应当推动人工智能技术治理尤其是安全领域的全球治理，在人工智能的军事应用边界（如是否应当将其用于核武器指挥系统）、致命性自主武器系统军备控制等领域开展共同磋商，在打击运用人工智能进行恐怖犯罪等领域进行合作，构建人工智能时代的安全共同体和人类命运共同体，维护国家军事安全和人类和平福祉。

免责声明：本文转自信息安全与通信保密杂志社，原作者文力浩,龙坤。文章内容系原作者个人观点，本公众号转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

李峥：总体国家安全观视角下的人工智能与国家安全

第二，经济领域。人工智能可提升政府对经济社会的把控能力，通过早期预警预防系统性风险。经济社会瞬息万变，监管部门与市场参与主体的信息不对称和监管部门不能正确处置苗头性风险容易导致系统性风险放大、传导甚至失控。人工智能可协助政府监控微观经济行为，预先判断政府的调控措施是否有效，是否会带来预期之外的影响。在经过深度学习后，成熟的人工智能能够为政府调控经济社会提供多个选项，帮助政府选择最优路径及应对外部金融冲击的最优方案。

第三，社会领域。人工智能将帮助政府变得更加智能、全能和超能，辅助政府日常社会管理，提升公共服务效率，增强社会安全。基于人工智能技术，政府能够预先发现、解决问题，并且在意外发生后的最短时间内设计出行之有效的解决方案。运用先进的人工智能技术，政府可准确预测城市交通情况，在发生严重拥堵前施加干预。人工智能也可用于犯罪预防和处置，提升城市治安水平。这些应用将使政府更加“自动化”，可在最短时间内做出正确决策。美国一些地方政府已经开始运用人工智能监测食品安全和预防犯罪。如拉斯维加斯卫生署运用一个软件监测社交媒体，可在早期发现食品安全危机。英国杜伦郡警方启用一套犯罪预测系统，用来分析刑满释放人员和犯罪嫌疑人的犯罪行为，辨别其社会危险性。德勤会计师事务所（Deloitte&Touche）发布报告称，政府一直希望变得更“聪明”，人工智能技术就是实现这一目标最便捷的途径。

第四，网络领域。人工智能在网络安防领域已经有部分应用成功的实践，可有效降低发生大规模网络灾难的风险。其效果主要体现在提升漏洞挖掘效率、迅速应对分布式拒绝服务攻击和主动识别具有恶意的网站和邮件。利用人工智能技术，网络安全维护者可布设更为广泛的网络防线，在早期发现网络异常情况，并通过历史比对判断其性质。

人工智能发展

对国家安全带来的挑战

人工智能对国家安全带来的挑战主要体现在三个层面：一是技术滥用风险。作为一项技术，人工智能并不能甄别、判断使用者的身份和意图，这使得该技术也可能被犯罪分子、网络黑客或恐怖分子使用。这些恶意行为将危及民众的生命和财产安全。二是技术竞争风险。人工智能存在着技术水平优劣的差异，先进技术对落后技术具有显著优势，甚至可能在战场或产业竞争中产生决定性作用。因此，各国都不希望本国在人工智能的国际竞赛中居于下风。人工智能技术发展所依托的数据、算法、人才成为各国国力竞争的新焦点，并随之引发出一系列国际政治问题。三是对民众生活方式和劳动方式的挑战。人工智能在个别领域达到了“超越人类”的能力，但其整体发展仍处于雏形阶段，无法实时应对复杂的环境。然而，随着算法的演进，人工智能的进步不但不会停止或倒退，反而可能在越来越多的领域起到替代人类的角色。一旦“强人工智能”出现，将对人类社会带来革命性影响。届时，民众生活和劳动所依赖的法律、道德和伦理体系都会受到巨大冲击。

上述三个层面的安全挑战存在着递进关系，即随着人工智能技术愈发先进，其带来的主要威胁将从一国内部上升到国家间关系，最后上升到对整个人类社会的挑战。当前，人工智能带来的安全挑战主要体现在第一个层面。人工智能让电脑生成逼真视频和音频内容变得越来越容易，人们可以在网络视频、网络通信工具上仿冒他人，甚至仿冒政治领导人等知名人物。此类伪造音视频通过互联网和社交媒体快速传播，对社会和经济秩序带来冲击。

人工智能控制的交易程序、交易产品也容易成为引发金融市场闪崩的罪魁祸首。2012年，美国“骑士资本”就因其高频交易程序发生故障导致超过四亿美元的亏损，并造成美国股市大幅波动。随着人工智能在军事、安全领域的应用，其带来的风险也开始向国家间层面扩展。一方面，人工智能与武器系统结合产生的自主性武器对现有战争规则和军事行为准则带来挑战。自主性武器可能发生错判或误判，可能在两军军事对峙时制造危机，这种风险并未在传统军事规则中有所体现。另一方面，西方国家也意识到人工智能的战略重要性，开始积极围绕该技术保护本国科技产业和科技资源，推行科技保护主义政策。例如，美国推动改革“外国投资委员会”，重点审查他国对美国人工智能、大数据等“专有技术”的并购和转让。这种做法对他国经济安全和产业安全带来负面冲击。

监管和规则滞后于技术发展是人工智能带来安全问题的主要原因。与其他由人类操控的技术不同，人工智能在一定程度上拥有自主的反应和行动能力，这让如何认定人工智能的责任存在困难。作为一项具有革命性潜力的技术，政府需要在促进技术发展与规制技术安全中找到平衡，借助法律、伦理等约束性手段抑制人工智能“作恶”的苗头。由于技术的全球化，一国也可能遭遇他国人工智能恶意行为的伤害。试图用人工智能“作恶”的技术人员将不断寻找各国监管制度的空白，从不同国家的监管差异上套利。因此，只有国际社会在人工智能治理上达成普遍共识，才能真正管控该技术带来的威胁。目前，国际组织已开始关注人工智能的安全问题。2018年4月，联合国“致命性自主武器系统问题政府专家组”在日内瓦召开会议，讨论人工智能的武器化问题。80余国官员及专家参与讨论，各主要国家借此会议表达了本国对该议题的基本立场。

从总体国家安全观

看人工智能

对中国国家安全的意义

人工智能对于国家安全来说是一把“双刃剑”，是中国保证国家安全、推进国家治理体系和治理能力现代化所面临的新问题。人工智能影响范围广泛，需要以一种综合、系统、全面、辨证、发展的安全理论框架才能够正确把握人工智能带来的机遇与挑战。2015年以来，美国、英国、日本、欧盟等西方国家均提出了关于发展人工智能技术、应对安全挑战的战略文件，各国结合自身国情特点提出了本国的发展重点和主要安全关切。中国也需要从本国实际情况出发，结合自身具有纲领性的国家安全理念处理人工智能与国家安全的关系。

2014年4月，中共中央总书记、中央国家安全委员会主席习近平在主持召开中央国家安全委员会首次会议时提出了“总体国家安全观”，具体阐释了该理念的内涵与外延。坚持总体国家安全观，是习近平新时代中国特色社会主义思想的重要内容，是指导新时代国家安全工作的强大思想武器。“总体国家安全观”所提出的11种安全正好能够涵盖人工智能对我国带来的诸多机遇和挑战，其强调统筹发展和安全，增强忧患意识的原则也与人工智能的“双刃剑”特质相吻合。结合“总体国家安全观”的内容和理论体系，我国处理人工智能与国家安全关系时需要把握以下几点。

第一，以维护政治安全为根本，着力应对人工智能所带来的突出性安全挑战。总体国家安全观以政治安全为根本，其核心要义在于坚持党对国家安全工作的绝对领导。习近平总书记指出，“我们治国理政的本根，就是中国共产党领导和社会主义制度……推进国家治理体系和治理能力现代化，绝不是西方化、资本主义化”。坚持以政治安全为根本意味着我国在发展人工智能产业时不能走西方自由放任的道路，中国共产党的相关负责机构应当成为引领我国人工智能治理的支柱力量。人工智能的产业发展和技术应用不能违背党的各项大政方针，不能被用于破坏社会主义制度和党的领导。在这一前提基础下，我国应着力发展人工智能对党的执政能力、国家治理能力现代化的“赋能”作用，充分运用先进人工智能技术提升各级党和政府的管理能力、应急能力，让党和政府在应用人工智能上走到全社会的最前列。

第二，以人民安全为宗旨，权衡人工智能的经济机遇与社会冲击。人民安全高于一切，是总体国家安全观的精髓所在，体现了党的性质宗旨和唯物史观。人民安全是国家安全的基石和归宿，人民安全感越强，国家安全就越有依靠，人民安全感和归属感越弱，国家安全就越脆弱。人民安全理念要求我国在发展应用新科技时需要照顾、考虑广大人民群众的获得感和感受，新技术不应成为破坏社会稳定、扩大贫富差距的推动力。像以往的先进技术一样，人工智能技术也有着较高的门槛，技术精英和数字经济企业是人工智能技术的主要获益者，但人工智能带来的就业替代却会影响一些劳动者的生计。以人民安全为宗旨要求我国政府应重视人工智能对社会和人民发展机会的潜在负面效应，预先采取措施加以应对。政府应避免人工智能强化互联网企业的垄断地位，提高关于人工智能的公共教育投入，加强全社会使用、适应人工智能的能力，限制人工智能在对社会具有破坏性领域的应用。

第三，以经济安全为基础，促进人工智能在经济治理体系中的应用。经济安全不仅涉及经济的各个方面，也与其他领域的国家安全交织。维护经济安全，核心是坚持社会主义基本经济制度不动摇，不断完善社会主义市场经济体制，提高经济实力、竞争力和抵御内外冲击的能力。人工智能作为一项“赋能”技术，能够在完善经济体制、抵御内外风险上发挥显著作用。例如，人工智能能够增强政府的宏观和微观调控效果，降低政府调控失误的风险。人工智能也可用于市场监管、风险排查、打击经济犯罪等经济社会治理领域，提升政府管控市场秩序的能力。上述“赋能”效果需要中国加强对经济社会的统计和监控，获得更多真实、准确、及时、有效的数据。运用人工智能提升经济社会治理能力是一项系统性工程，也是中国经济社会治理现代化的重要方向之一。

第四，以军事安全为保障，运用人工智能推动军事变革。军事安全是中国各项安全的重要保障。我国军事实力建设的基本目标是建立一支听党指挥、能打胜仗、作风优良的世界一流军队。当今世界并不太平，我国维护主权和领土完整面临着严峻的外部挑战。美国等西方军事大国运用人工智能技术开发自主性武器、人工智能作战系统对中国国家安全带来了新的安全挑战，或将扩大中国与西方国家的军事力量差距。军事竞争不进则退。西方将人工智能运用于军事安全领域违背了该技术的设计初衷，也使得其他国家必须有所回应。中国应从本国安全利益出发，积极探索人工智能在军事领域的应用和创新，借助该技术提升中国军事实力，推动基于该技术的军事变革，满足未来战场需求。

第五，以共同安全为目标，推进人工智能治理的国际合作。习近平总书记提出“人类命运共同体”理论，倡导建设持久和平、共同繁荣的和谐世界。“人类命运共同体”理念孕育于全球化深入发展、非传统安全风险突出、国际治理体系亟待改革的大背景下，提出了解决国与国之间利益冲突、各国共同应对全球性安全挑战的路径。人工智能所带来的多数安全挑战具有全球性特征，技术滥用和监管失控的风险将通过互联网在全球范围内广泛传导。在这些挑战面前，世界各国也是“命运共同体”，存在着一荣俱荣、一损俱损的关系。因此，各国需要在人工智能领域一些根本性、原则性的规则和伦理上达成共识，对该技术衍生出的犯罪行为持统一态度。中国作为维护全球共同安全的重要力量，应积极参与人工智能治理领域的国际合作，推动美国、俄罗斯等主要大国在该领域协调立场，充分顾及发展中国家的利益和诉求，推动人类社会共同应对人工智能所带来的颠覆性挑战。

（责任编辑：徐海娜）

（平台编辑：徐海娜、邓长淼）返回搜狐，查看更多

人工智能安全：挑战与机遇

【环球科技】

人工智能技术和应用飞速发展，推动经济社会创新发展的同时，也在重塑人类安全的未来。作为2018世界人工智能大会的重要组成部分，题为“人工智能安全：挑战与机遇”的安全高端对话9月18日在上海国际会议中心举办。此次对话活动由上海赛博网络安全产业创新研究院、中国信息通信研究院安全研究所联合承办，上海社会科学院互联网研究中心等协办。

对话围绕伦理问题、国家安全、网络安全三大主题展开，研判人工智能时代的安全挑战，探索人工智能安全发展的创新之道，促进人工智能产业的健康发展，确保人工智能发展造福人类未来。

本版邀请参与对话的两位嘉宾撰文，为读者深度解读人工智能与人类自身发展的现实与未来。

一、人工智能技术迅猛发展

军事历来是推动技术变革的主要力量之一，特别是在一些战略性领域，新技术与军事变革之间的互动，不仅推动了技术的发展，也影响了军事变革。算法上的突破、数据数量和质量的不断提升以及计算能力的增长为人工智能在军事领域的应用提供了无限的想象空间。

从现有的技术条件来看，人工智能至少可以在机器人、战场环境的分析和目标识别、后勤组织计划、情报分析、信息管理、信息行动等方面在一定程度上提升或改变原有对军事的认知。

人工智能的发展可以减少军人的伤亡程度、增强指挥决策、控制战争的杀伤范围方面改变未来的战争形态。

第一，当越来越多的无人驾驶飞机、坦克、汽车，以及自主决策武器开始走向战场，军人直接暴露在战场杀伤环境将会减少，军人的伤亡率较传统的战争也会下降。这会使得跟传统军人形象迥异，一群戴着眼镜，像在网吧中玩着网络游戏的新的职业军人和军事单元出现在战斗序列中。

第二，人工智能在辅助战场决策可以发挥重要作用，包括制定军事计划、后勤组织保障、战场环境实时信息获取、分析、目标的图像识别等方面可以大幅度提高战场的指挥决策能力。

第三，人工智能时代战争将更多是特种战争，而非全方位的战争。人工智能在网络战、信息战，以及类似的“斩首行动”“定点清除”等特种作战领域将会发挥重要的作用。这从很大程度上而言这也会改变战场的形态，人工智能领域的特种作战将会先与大规模冲突的爆发，改变人们传统上认为，战争就是工业化时代的大规模飞机、坦克、军舰等武器之间直接对抗的印象。

鉴于人工智能在军事领域的重要作用，各国的军队和政府都高度重视从国防角度来看待人工智能，越来越多的国家开始发展和使用人工智能武器，制定人工智能国防领域的发展战略。

2016年2月，时任美国情报总监詹姆斯·克莱伯在参议院武装力量委员会的听证会上认为，人工智能系统的欺骗性和破坏性难以预测和理解，将会对国家安全和关键信息基础设施带来巨大风险。特朗普政府开始加大对人工智能国家战略的制定和资源的投入，美国国防部门的国防创新咨询委员会和国防科学委员会不遗余力地推动美国军方向人工智能转型，并且成立了国防部联合人工智能中心；近期，美国国防高级研究计划局（DARPA）作为美军重要的技术创新部门宣布对人工智能的投资增加20亿美元，用以布局下一代人工智能。

俄罗斯也高度重视人工智能在国防领域的发展。俄罗斯国防力量积极的开发人工智能武器，包括超级坦克、无人蜂群、无人导航水下航行器等，根据媒体报道，俄罗斯已经开始在叙利亚战场中使用基于人工智能的武器系统。在美俄之外，包括中国、英国、澳大利亚、韩国、印度等越来越多的国家开始重视人工智能在军事领域的发展和应用。

二、安全领域挑战不容小觑

人工智能拥有巨大潜能，但事情往往具有两面性，为了获取战略竞争优势，各国人工智能在国防领域的竞争，也带来了安全方面的风险——包括为了获取竞争优势而忽视人工智能的伦理问题、人工智能技术扩散，以及过度强调人工智能的国家安全属性对正常的技术发展和商业所带来的威胁挑战。

首先，致命性自主武器的伦理问题。致命性系统是一种直接或间接地对人类造成伤害或死亡的系统。现有系统如装备了武器的无人机，就在某种程度上将自动化与致命性结合起来，但是这一系统需要人类的参与。完全自主的致命性自主武器系统还需要能够识别和选择目标，确定拟对目标施加的武力级别，并在特定范围的时间和空间内对目标实施规定的武力。半自主、全自主系统包括杀伤人员地雷、反舰雷达、各种精确制导导弹、鱼雷、巡航导弹、反卫星武器、空中和海上无人机、无人机群以及网络蠕虫。从不含情报的地雷到精确制导导弹以及依据地形的巡航导弹，这些系统中的情报数量差异巨大。

国际社会存在着很大的反对发展致命性自主武器的声音。如此众多的自主武器带来的问题是机器是否有权力去自主决定杀伤目标，以及由于算法黑箱或者自主武器失控而导致的误杀和误伤成为致命性自主武器发展必须要面临的伦理问题。虽然战争和伤亡是需要极力去避免的，但是由机器来决定伤亡则更加难以接受。不仅如此，人工智能的应用会在一定程度上降低战争的门槛，这会鼓励减少自我约束，采取进攻性的行动来达到相应的目的，但同时也会对国际安全形成新的不稳定因素。

其次，作为人工智能发展核心的算法和数据都存在着潜在的安全问题，这会导致人工智能决策的风险。从编程的角度来看，任何的代码都是由人编写，因此无法确保程序完全安全、可靠、可控、可信。从数据角度来看，人工智能依赖大数据，同时数据的质量也会影响算法的判断。军事数据质量获取、加工、存储和使用等环节都存在着一定的数据质量和安全风险，从而增加了军事领域使用人工智能的安全风险。

再次，人工智能技术扩散给全球安全带来的威胁。伴随着人工智能武器的开发，国际社会面临的另一大难题就是反扩散问题，恐怖主义组织以及不负责任的国家获取人工智能武器，并威胁国际安全和平。人工智能从某种意义上而言，也是一种程序和软件，因此，它面临的扩散风险要远远大于常规武器。类似于美国国家安全局的网络武器库被黑客攻击，并且在暗网交易，最后被黑客开发为勒索病毒的案例，也有可能在人工智能武器领域重现。

最后，人工智能的军备竞赛会对技术逻辑和商业逻辑产生破坏。人工智能具有军民两用性质，其发展最初的目的是为了发展经济，增加社会福利。过度的强调军事用途会对人工智能的全球研发体系和产业链造成严重威胁。近期，美国政府对《外国投资审查法案》进行修订，其中重点就是要阻止其他国家对美国人工智能初创企业的并购。法国政府也采取了相应做法提高外国企业对法国人工智能技术、人才的并购门槛。再加上，出口管制和人才交流限制。人工智能技术尚未发展成熟，各种鸿沟已经在各国之间开始构筑，会严重影响正常的技术研发，并且破坏全球化的商业逻辑。

三、治理机制构建刻不容缓

人工智能在军事领域的发展和应用已经成为很多国家的国家战略，相应的治理工作应当在现有的国际安全架构开展。今年9月在日内瓦召开的联合国常规武器公约的讨论中，各方并未就制定禁止人工智能驱动的致命性完全自主武器的条约达成共识。全球约有共26个国家支持全面禁止人工智能武器，而绝大多数国家还在观望。在规则不确定和大国战略竞争的背景下，人工智能在军事领域发展面临的风险和威胁在不断增加。加强人工智能的国际治理工作，降低军备竞赛风险则是当务之急。

经过2014年和2015年的两次非正式会议后，在2016年12月16日关于特定常规武器公约的联合国会议上成立了致命性自主武器系统（LAWS）政府专家组（GGE）。该小组的任务是研究致命性自主武器领域的新兴技术，评估其对国际和平与安全的影响，并为其国际治理提出建议。

人工智能引发的安全问题是专家组的一大重要分歧，技术强国与弱国之间存在截然不同的观点。技术弱国认为应当完全禁止致命性自主武器的开发使用，技术大国则持相反意见，认为开发致命性自主武器可以降低人员损伤，有利于打击恐怖主义和维护国家安全，并且很多系统已经在战场上进入实战。

军事是推动技术进步的重要因素，互联网就是由美国军方所发明，人工智能的技术发展背后也有军事因素的强力推动。但是，人工智能的科技竞赛也非技术之福，特别是致命性自主武器的扩散会造成更为严重的后果。因此，从联合国层面制定相应的规范，并且促成大国之间在发展致命性自主武器上达成一定的军控条约是当务之急。

联合国政府专家组应制定致命性自主武器系统和人工智能军事应用的目标。其中，最重要的一个目标是制定相应的国际法，在国际法不明确的情况下，各国应克制在军事领域使用人工智能武器。联合国政府专家组也应考虑对国际法此前未曾预见的情况追加法律限制，并以道德或伦理为由尽量减少对人和平民的伤害。更进一步的目标包括管理以下情况的操作风险，包括降低使用武力门槛、意外导致不应有的伤害、造成意外的升级螺旋式增长以及产生军备竞赛和扩散。

当然，从联合国角度来达成一项谈判可能需要十年甚至更长的时间，鉴于越来越多的风险，大国之间应当及早就人工智能在军事领域应用可能带来的潜在风险开展对话，及早启动相应的军控进程。短期内促成技术强国在谋求战略优势和国际安全体系稳定之间的妥协。

各国政府在制定人工智能在军事领域的战略时，还应当高度重视人工智能的治理工作。比如，无论是半自主和全自主的武器系统的设计，应允许指挥官和作战人员在使用武力方面作出适当的人为判断。为保证这一要求的实现，需要严格的设计、对设计的测试和评估、操作验证和测试，解决系统错误和故障的安全工程以及避免人为错误的认知工程。

在决定是否使用人工智能武器时，应当制定明确的规范和流程，避免造成不可预测的后果。同时，还应当加强对人工智能武器的安全性，避免安全泄露，或者是随意转让相关技术。无论是无意或者有意地扩散都会增加军备竞赛的风险，威胁国际安全体系。

（作者：鲁传颖，系上海国际问题研究院副研究员）

人工智能对国家经济安全的影响研究 人工智能对国家安全的坏处