新局与危局：人工智能的国家安全问题思辨
作为一项蕴涵广泛应用前景和高度战略价值的技术，人工智能的发展与应用将对国家安全带来一系列影响。一方面，人工智能可以为国家安全提供更为有效的维护与保障机制；另一方面，人工智能发展与应用的不可知性将对国家安全带来一系列的潜在风险。当下人工智能所导致的风险已随着其发展而逐步显现，客观且全面评估这一技术所带来的机遇与风险，并据此做出相应的政策部署、制度安排与监管防范，则是保证其良性发展的关键所在。
内容目录：
0引言
1新局：人工智能赋能国家安全治理
2危局：人工智能加剧国家安全风险
3危局中育新机：发展与安全的平衡
4结语
0引言
第四次工业革命是一场集信息技术、新能源、新材料、生物技术等诸多技术领域于一体的革新运动。其中，作为一项具有通用性和使能性的技术，人工智能具备嵌套及主导其他技术发展的包容度与统摄力，因此被视作推动第四次工业革命的关键要素。与此同时，作为国家安全的重要组成部分，技术安全被视为保障其他国家安全领域的重要支柱。然而，人工智能的特殊性，使其对国家安全的影响存在着一种“技术悖论”的困境，即人工智能在国家安全领域的应用有助于提升安全治理的水平与效能，但同时也造成了国家安全向度和维度的深化，继而使国家安全面临一系列新挑战。
1新局：人工智能赋能国家安全治理
从应用领域来看，人工智能主要从传统安全与非传统安全两方面赋能国家安全。前者主要为人工智能在军事与战略层面的使用，后者则主要为人工智能在社会治理层面的应用。
第一，人工智能赋能传统国家安全。最初对于人工智能军事化应用的讨论集中在无人机、机器人、战略决策和网络安全等常规军事领域，而后逐步拓展至核威慑等非常规军事领域。但作为一项通用性技术，人工智能具有在各个军事领域实现“全面渗透”式应用的特性，而不仅局限于单一的军事领域。目前，人工智能军事化应用的主要成果集中在武器自动化、情报、监视和侦察（ISR）与战略决策等方面，为“马赛克战”“多域作战”等作战方式提供了有力的支撑，并催生了诸如“影响力机器”等新型对抗方式。需要说明的是，在当下的军事化应用中，人工智能尚处于提升作战的信息化水平和打击精确度的“初智”阶段，但伴随其技术突破，人工智能将逐步实现作战对抗的“无人化”与“智能化”，并使之跃升为广泛整合多项技术与统筹整体作战安排的“高智”阶段。
第二，人工智能赋能非传统国家安全。在非传统安全领域，人工智能的应用集中在为各类社会风险的处理提供更为精准的预测和纠错机制。其作用机制主要基于对多源数据进行全方位的挖掘、聚合与清洗，并构建相应的模型来演算各类风险因子的作用路径及其发生的概率，从而实现安全态势感知与预测的智能化，并推动防御机制的优化。目前，人工智能技术已被应用于网络安全、反恐与安防、经济与金融安全、医疗卫生、环境与能源安全等多个领域，简要列举如下：
危机预测与管理方面，通过扩大数据收集、减少信息未知性以及建立相关分析模型，人工智能可以应用于针对战争冲突、传染病扩散、气象灾害等危机事件的预测与分析，继而提前介入其中以阻止危机的发生或者减缓危机所造成的破坏。
反恐与安防方面，基于对已有恐怖主义活动的案例以及其他犯罪数据的分析，人工智能可以对潜在的恐怖活动或犯罪活动的目标、组织及其可能的行径进行预判，并据此制订相应的反恐方案。与此同时，人工智能可以用于辅助公安部门及其他安全部门进行嫌疑人辨别与追踪、犯罪现场搜索、城市交通管理、开展救援活动、排列警务任务及分配警力资源，继而提升安防活动的整体运行效率。
网络安全方面，人工智能通过推动端点检测响应和网络检测响应，能够在信息交互的过程中识别和防止勒索软件、恶意软件、DDS攻击等恶意在线威胁，提前对潜在的风险进行及时阻断，为网络安全提供更为有效的防护手段。
金融安全方面，通过构建多维度、全方位的交易检测与验证模型，人工智能可以为风控等金融业务提供高效的反洗钱、反欺诈以及信用评估机制。
总的来看，人工智能的应用有助于提升国家在传统安全领域的防护能力与非传统安全领域的治理水平。同时，由于国家安全本身由诸多交叉的议题和治理机制组成，人工智能在传统安全与非传统安全的应用上存在着一定交叉。例如，无人机既可用于情报侦察、军事打击、物资运输等传统安全领域，又可用于电力巡线、搜索救援、城市管理、遥感测绘等非传统安全领域。此外，尽管人工智能之于非传统安全领域应用的逻辑相对简单，但由于非传统安全在当下所涉及的领域更为多样，因此人工智能在非传统安全领域的应用更为广泛与频繁。
2危局：人工智能加剧国家安全风险
从技术悖论的视角来看，尽管人工智能蕴涵了广泛的应用前景和高度的战略价值，但这一技术的应用与发展也造成了国家安全向度与维度的深化，对于国家安全也带来了诸多挑战：
第一，技术的不对称发展或将激化人工智能军事领域的战略竞争。出于对技术安全性的考虑，各国对于人工智能的军事化应用较为审慎。然而，由于国家间技术水平本身就存在不对称性，并且相对于其他技术，国家更难以直观地判断人工智能的技术不对称性的程度。当然，人工智能军事化应用所具备的“全面渗透”特性还将导致国家间竞争领域的扩展。因此，对于技术优势的争夺以及对技术差距的猜疑会扩大国家间对于国家安全偏好的差异性，而由技术差距所导致的“生存性焦虑”也就存在被放大为“生存性威胁”的可能。与此同时，人工智能军事化应用的无人化、智能化特性将削弱作战伤亡、作战周期及规模等传统因素对于战争决断及其进程的限制，并且人工智能应用所催生的一系列新型战法还将进一步模糊战争与冲突的界限。换言之，人工智能军事化应用所带来的作战预期成本的下降会拉低发动战争或者直接进行军事对抗的门槛，并且由于误判所导致冲突加剧的可能性也同样将被放大。
第二，人工智能或将加剧发展中国家所面临的“技术边缘化”风险。人工智能可以助推经济的整体增长，但其所带来的收益并不会如预期那样得到均衡的分布，而是可能出现巨大的失衡与落差。正如联合国贸易和发展会议（UNCTAD）发布的《2021年技术和创新报告》所言，技术变革将极大地加剧发达国家与发展中国家间的差距，后者面临技术创新能力低、融资机制薄弱、技术转让受限、数字鸿沟以及收入能力不足等诸多挑战。人工智能所推动的自动化、智能化生产变革将稀释发展中国家在劳动力资源上所具备的比较优势。这意味着，发展中国家通过承接全球化所带来的“现代性扩散”所获得的产品转型与升级可能难以延续，并且其现有获得的外资红利与全球技术知识外溢的红利也可能缩减。与此同时，具备人工智能技术优势的发达国家将在全球价值链跃升的过程中取得并保持更显著的领先地位，并基于这一绝对的先发优势，主导人工智能的技术标准、产业划分与治理规则的制定，继而塑造新的技术围墙和获得新的不对称技术权力。对此，日本经济学家井上智洋就指出，提前应用强人工智能的国家与其他未能实现此目标的国家之间将形成“第二次大分流”。
第三，人工智能或将强化甚至恶化国家在科技地缘政治中的竞争关系。作为国家竞争的重要技术基础，人工智能同经济、政治等议题之间存在紧密的关系。然而，人工智能所具备的技术组合性与目的通用性使得国家间竞争形成叠加效应和全域式竞争的趋势。然而，当国家间的竞争涉及多领域、多议题时，相互间的敌对认知往往会得到强化。同时，人工智能是一种典型的军民两用技术，具有鲜明的“技术纠缠”（TechnologicalEntanglement）的特征。为了防止本国所出口的民用人工智能技术助推他国军事能力的提升，以及规避因在关键领域使用他国人工智能技术所带来的潜在风险，国家之间就不得不对现有的经贸关系进行切割，进而对正常技术合作形成了挤压。科技优势的同质化所催生的“技术民族主义”将恶化国家间正常的竞争关系，即后发国家在人工智能领域的进步将削弱先发国家的技术优势，而先发国家为了保持原有技术垄断所带来的优势地位，就极易会对后者进行打压。当然，部分技术强国还能够凭借不对称的技术优势以及部分技术弱国对自身的依赖，采取组建技术联盟的方式来对竞争对手实施打压。这一过程中，两国竞争关系的激化将使得国家间的局部竞争逐步升级为不同技术联盟间的竞争，继而导致这一恶化的竞争关系在更大范围内得到扩散。
第四，人工智能所导致的大国竞争加剧或将凸显治理缺失的风险。尽管各国愈发重视对人工智能发展与应用的监管，并主张施加限制性监管措施来规避潜在的风险，但鉴于人工智能的重要性以及大国竞争加剧的客观现实，多数国家往往更强调满足人工智能的发展需求，继而弱化了对人工智能的监管需求。良性的国家间竞争在一定程度上能够提升国际社会的整体技术水平，但是当国家间竞争超出了正常的范畴时，就会导致出现以技术封锁、对抗和割裂为表征的“科技脱钩”。实际上，在全球性规则和制度缺失的情况下，现有的国际秩序本就难以对新兴技术及其威胁进行有效规制。而在“科技脱钩”的状态下，各国在技术及其标准体系上的高度分化不仅会抬高人工智能应用与发展的成本，阻碍其进步，也难以在全球层面对潜在风险进行有效管控，继而加剧人工智能的无序发展状态。
第五，人工智能或将推动资本权力的扩张与恶化技术红利的分配。目前，人工智能的发展成果多数体现在跨国科技公司所开创的技术与产品上，并且跨国科技公司的扩张将进一步提升人工智能的要素集中度。因此，资本在人工智能的研发与部署上的作用将得到提高。科技巨头们的技术优势还使其能够在人工智能的技术标准及其治理准则的制定与实施中拥有相当大的话语权。数据、算法等人工智能技术的组成要素在一定程度上能够脱离主权和地理空间的限制，这也为资本规避政府部门的监管提供了便利。与此同时，人工智能技术的介入将重塑现有的社会整体利益再分配机制。人工智能可以通过提高社会整体生产力和创造新的产品及需求，带来新的就业机会和经济增长，但是人工智能的应用将不可避免地对现有社会就业结构产生一系列的负面影响。最为突出的表现便是人工智能应用所可能导致的结构性失业。其中，从事“事务性劳动”的低信息化水平的劳动者可能面临被“出清”的风险。
第六，人工智能技术滥用及其演进路径不确定存在诱发“技术恐怖”的可能。就技术层面而言，人工智能主要存在因技术滥用而导致的外溢风险与因技术自身缺陷而产生的内生风险。前者主要是指人工智能技术的拓展应用所衍生出的被动技术风险。例如，犯罪分子同样可以利用人工智能从事更为便捷、隐蔽的犯罪活动。后者则是指因不确定的技术缺陷与安全防护措施不完善所带来的风险。其中，因数据质量缺陷和平衡机制缺失所引起的潜在算法歧视就是较为典型的内生风险。当然，人工智能的通用性也意味着，人工智能与其他技术的聚合及其在广泛场景中的应用，会扩大其技术隐患所波及的范围。
3危局中育新机：发展与安全的平衡
人工智能是提升我国国家竞争力的关键性要素，也是保障我国国家安全的重要技术支柱。正如习近平总书记在中央政治局集体学习会议上所指出的，加快发展新一代人工智能是我国赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。为此，我们更应处理好人工智能对国家安全所带来的一系列挑战。基于上述分析，并结合当前我国人工智能技术的发展现况，本文有以下三方面的建议：
第一，以战略布局的持续完善与发力打破技术高墙。我国已将推进人工智能的发展上升至国家战略的高度，也已初步构建了支持其发展的政策框架。然而，我国现阶段的人工智能发展主要集中在技术相对成熟、应用场景清晰的横向领域，但在基础理论、底层技术等纵向领域相对乏力。为此，我们应继续强化对人工智能技术的敏感性与理解力，制定以基线和指标为支撑的、更为具体的发展战略路线图。与此同时，我们还应加快构建自主可控的技术创新体系和产业体系，采用渗透性和开放性方法促进人工智能相关人才的培养与吸收，促进技术与产业紧密结合的相互增益，提高人工智能发展的灵活性。
第二，以风险评估与防范机制的设立弱化风险危害。对于人工智能应用可能带来的技术、法律、伦理等问题，设立系统、完整的风险评估与防范机制尤为必要。我们应在保持与产业界、学术界密切合作的基础上，由相关部门牵头组织开展人工智能投资和应用审查，加快构建技术风险评估机制与灾难性风险预防机制等安全管理体系，并设置容错机制、漏洞检测和技术错误纠正机制等技术配置机制来提升人工智能的安全性。
第三，以推进国际合作和参与全球治理为契机提升技术安全。全球科技的进步本身需要各国的积极参与，而技术风险的防范更是需要各国的充分合作。有鉴于此，我们应秉承构建人类命运共同体和推动科技向善的理念，积极推动国际社会就人工智能开展常态化的多边沟通并在此基础上，综合参考各国的人工智能原则，推动建立一套普适的技术标准规范体系和较为一致的人工智能监管框架，为人工智能的发展搭建更为广泛的国际合作网络与治理平台。
4结语
在百年未有之大变局之下，国家科技竞争逐步激化，如何把握人工智能的发展主动权与处理好相应的风险，并实现良性、合理的国际合作与竞争，已经成为我国国家安全治理亟需解决的议题。我们应在充分维护自身战略利益的基础上，推动、容纳和接受人工智能的突破和创新，保持自身在这一技术领域的领先性与自主性，并自觉关注该技术对国家安全可能造成的风险，对潜在风险进行研判与预防。当然，我们还需着眼于人工智能相关技术规范的构建，积极提升我国在人工智能治理领域的议程设置能力。
引用本文：张纪腾.新局与危局：人工智能的国家安全问题思辨[J].信息安全与通信保密,2021(5):27-32.
作者简介
张纪腾（1994—），男，博士，复旦大学国际关系与公共事务学院博士研究生，主要研究方向为国际政治经济学、全球治理与中美关系。
声明：本文来自信息安全与通信保密杂志社，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系anquanneican@163.com。
人工智能与信息安全之间有何作用
人工智能领域涉及的安全问题较多，如国家安全、社会安全、人的安全，还包括一些伦理问题和隐私问题。人工智能主要是基于信息基础构建的一些应用，它离不开信息的采集、存储、分析、传播。同时，人工智能领域的思想、方法、理论对信息安全也有很多的应用。
[[259446]]
1.信息安全的基本要求
没有网络安全就没有国家安全，没有信息化就没有现代化。这充分表达出了信息化与现代化、信息安全与国家安全的关系。同时，从新技术，比如“互联网+”、物联网、云计算、大数据到区块链等新技术的进一步发展，都要以信息技术为引导，人工智能也是如此，通过一系列技术的创新，最终才能真正发展国家经济，提升国家综合实力。从这个意义上说，没有信息化就没有现代化，包括人工智能在内的新技术的发展，都需要以信息技术为主导。
信息化是一个双刃剑，带来很多便利的同时，也出现了很多安全问题，因此应当把信息安全提高到国家安全重要组成部分的高度。保密性、完整性、可用、可控和不可抵赖性是信息安全的五个基本属性。信息安全要实现的目标是，对信息的使用和处理均经过所有权人的授权、严格按所有权人要求、真实地顺畅地合理地进行。要经过所有权人授权，主要是指身份识别问题，身份是有所有权的，要经过授权对信息进行使用;在使用中是可读、可写还是可改，就需要按照授权人的授权要求进行;真实指信息的使用要真实，不是经过篡改或者伪造的，要保证其真实性;顺畅是指在信息使用过程中，能够保证信息系统能够正常使用;合理性就是要理性使用，主要是对信息的管控，如要对有害信息进行有效治理。
信息的采集、传输、存储、管理以及信息的处理和使用等环节中，都会涉及到安全问题。
信息采集主要是指控制问题，如是不是按照真实情况进行采集?采集数据过程中是不是是否严格遵守规定?信息传输中要有效地进行保护，做好保密工作，要保证它的真实性不被篡改，保证传输过程的可靠性，能够抗干扰。信息存储和管理，强调的是真实性和保密性，不会被篡改，不会被滥用。以后，很多的信息都会放在云上面，那么要如何保证个人信息的安全呢?要知道云的管理者是不可信的，每个用户的信息对他也要进行保密，因此说云的安全或大数据的安全，只是指存储和管理方面的安全。那么在信息处理和使用中，就会存在另外一个问题，就是怎样进行身份识别和权限的有效管理?末尾，处理的结果要进行签名，保证它的真实性，同时可以对信息使用的整个生命周期进行追溯。
总之，信息安全不仅仅是在于信息本身的安全，信息的作用也不仅仅只是针对设备而言，它甚至延展到了人的身上，因此提高信息的安全性显得尤为重要。
2.人工智能应用的信息技术体系
当前社会引发了一轮又一轮的人工智能热潮，很多都是由于数据驱动，正是在云计算、大数据等技术的发展下，人工智才有了一次又一次的飞跃。所以数据的安全、信息的安全贯穿着人工智能应用的过程中。
人工智能大体分为几个层面。
感知层，各类传感器采集各类信息，也就是信息的采集，这涉及到很多安全问题。传输层，采集过程要进行处理，进行反作用，靠的是基础网络，涉及到传输过程的安全。数据层，可能进行数据汇聚，通过大量数据的分析和协同，来产生新的知识和价值。应用层，也就是服与控制，提供服务，对终端进行反控制，类似一个循环吧，一个有机的循环回路。3.人工智能应用的安全需求
人工智能的每一层都涉及到安全问题和数据安全问题。在身份识别认证中，人和设备是不是可信的，是不是有正当权限的人和设备。数据保护中，不管是传输还是存储过程，都要保证数据的可控性、真实性和可追溯。如果数据在传输或存储过程中被篡改了，那到后面通过算法推导出的结果，也必然是不真实和不可信的。
但在这个过程中也存在一个问题，保证数据能够进行有效地汇聚，既要保证数据所有者的权益，同时又能够通过这种大数据的汇聚产生价值，在可控的范围之内，这里的安全问题也是现在研究的重点和难点。
4.人工智能应用的安全建设
安全问题在重视应用的同时也要考虑到安全和应用建设的同步发展。
政府要主导，在人工智能应用中深入分析安全需求，进行顶层的设计，提出安全要求;加强安全制度建设，建立安全准入制度和检测评估方法、机制。
企业应该从感知、传输、分析协同、服务控制等方面建立一些安全标准。同时既要重视机制的保障还要重视技术的保障，使人工智能的应用和网络安全建设同步发展。
5.需要关注的网络安全技术
(1)身份识别和生物特征识别。身份识别的核心是密码技术，但对于轻量级设备、便携的智能设备而言，它们的计算能力还较弱，使用成熟的密码技术会存在一些问题，这需要对原来的身份识别进行改造。生物特征识别也是如此，目前的生物识别技术还没有建立一个安全的逻辑链条。
(2)移动安全。现在各种智能应用的终端主要以手机为主，手机与PC机相比更不安全，因为手机更便捷、成本低、更新快，所以安全隐患更多，更难解决，建立体系建立难度更大。
(3)大数据安全。大数据安全比一般意义上的云安全难度更大，云安全主要是用户信息是放在云上，仅供用户使用，同时云的管理者是不能看到用户的信息。而大数据安全相对来说更加复杂，它是将很多用户的数据都放在云上，将不同用户的信息进行融合处理，每个用户需要自己进行加密，否则无法保证数据的安全，但是加密之后如何让其他人使用，或在一定限度内实现共享，既要加密保护，又要能够有效地进行数据的融合和利用，这是很难解决的问题，同时也涉及到加密检索，保证数据的完整性，安全的计算外包。
(4)系统脆弱性。目前网络攻防态势非常严峻，主要就是是利用信息系统，要知道现在的信息系统还不完善，具有脆弱性，将来人工智能应用也是一个程序、一段代码，如果出现严重漏洞，就会被恶意代码取得它的控制权，带来极大的危害，所以系统的脆弱性也是网络安全非常重要的问题之一。
6.网络安全中的人工智能
人工智能在网络安全领域也得到越来越多的应用，它在主动安全防护、主动防御、策略配置方面发挥的作用越来越大，但是当前仍旧处于探索阶段。比如基于神经网络，在识别垃圾邮件、发现蠕虫病毒、侦测和清除僵尸网络设备、发现和阻断未知类型恶意软件执行等方面进行了大量的探索;基于专家系统，在安全规划、提高安全运行中心效率、量化风险评估、威胁情报等方面也做了很多探索，收到了良好的效果。
人工智能技术的蓬勃发展，也必然对网络空间安全带来重大的机遇和挑战。网络安全促进人工智能的未来发展，人工智能改变网络安全的未来!
【本文为51CTO专栏“柯力士信息安全”原创稿件，转载请联系原作者(微信号：JW-assoc)】
戳这里，看该作者更多好文