李峥：总体国家安全观视角下的人工智能与国家安全人工智能对国家安全的影响有哪些呢

发表时间：2023-07-04 15:14:44

李峥：总体国家安全观视角下的人工智能与国家安全

第二，经济领域。人工智能可提升政府对经济社会的把控能力，通过早期预警预防系统性风险。经济社会瞬息万变，监管部门与市场参与主体的信息不对称和监管部门不能正确处置苗头性风险容易导致系统性风险放大、传导甚至失控。人工智能可协助政府监控微观经济行为，预先判断政府的调控措施是否有效，是否会带来预期之外的影响。在经过深度学习后，成熟的人工智能能够为政府调控经济社会提供多个选项，帮助政府选择最优路径及应对外部金融冲击的最优方案。

第三，社会领域。人工智能将帮助政府变得更加智能、全能和超能，辅助政府日常社会管理，提升公共服务效率，增强社会安全。基于人工智能技术，政府能够预先发现、解决问题，并且在意外发生后的最短时间内设计出行之有效的解决方案。运用先进的人工智能技术，政府可准确预测城市交通情况，在发生严重拥堵前施加干预。人工智能也可用于犯罪预防和处置，提升城市治安水平。这些应用将使政府更加“自动化”，可在最短时间内做出正确决策。美国一些地方政府已经开始运用人工智能监测食品安全和预防犯罪。如拉斯维加斯卫生署运用一个软件监测社交媒体，可在早期发现食品安全危机。英国杜伦郡警方启用一套犯罪预测系统，用来分析刑满释放人员和犯罪嫌疑人的犯罪行为，辨别其社会危险性。德勤会计师事务所（Deloitte&Touche）发布报告称，政府一直希望变得更“聪明”，人工智能技术就是实现这一目标最便捷的途径。

第四，网络领域。人工智能在网络安防领域已经有部分应用成功的实践，可有效降低发生大规模网络灾难的风险。其效果主要体现在提升漏洞挖掘效率、迅速应对分布式拒绝服务攻击和主动识别具有恶意的网站和邮件。利用人工智能技术，网络安全维护者可布设更为广泛的网络防线，在早期发现网络异常情况，并通过历史比对判断其性质。

人工智能发展

对国家安全带来的挑战

人工智能对国家安全带来的挑战主要体现在三个层面：一是技术滥用风险。作为一项技术，人工智能并不能甄别、判断使用者的身份和意图，这使得该技术也可能被犯罪分子、网络黑客或恐怖分子使用。这些恶意行为将危及民众的生命和财产安全。二是技术竞争风险。人工智能存在着技术水平优劣的差异，先进技术对落后技术具有显著优势，甚至可能在战场或产业竞争中产生决定性作用。因此，各国都不希望本国在人工智能的国际竞赛中居于下风。人工智能技术发展所依托的数据、算法、人才成为各国国力竞争的新焦点，并随之引发出一系列国际政治问题。三是对民众生活方式和劳动方式的挑战。人工智能在个别领域达到了“超越人类”的能力，但其整体发展仍处于雏形阶段，无法实时应对复杂的环境。然而，随着算法的演进，人工智能的进步不但不会停止或倒退，反而可能在越来越多的领域起到替代人类的角色。一旦“强人工智能”出现，将对人类社会带来革命性影响。届时，民众生活和劳动所依赖的法律、道德和伦理体系都会受到巨大冲击。

上述三个层面的安全挑战存在着递进关系，即随着人工智能技术愈发先进，其带来的主要威胁将从一国内部上升到国家间关系，最后上升到对整个人类社会的挑战。当前，人工智能带来的安全挑战主要体现在第一个层面。人工智能让电脑生成逼真视频和音频内容变得越来越容易，人们可以在网络视频、网络通信工具上仿冒他人，甚至仿冒政治领导人等知名人物。此类伪造音视频通过互联网和社交媒体快速传播，对社会和经济秩序带来冲击。

人工智能控制的交易程序、交易产品也容易成为引发金融市场闪崩的罪魁祸首。2012年，美国“骑士资本”就因其高频交易程序发生故障导致超过四亿美元的亏损，并造成美国股市大幅波动。随着人工智能在军事、安全领域的应用，其带来的风险也开始向国家间层面扩展。一方面，人工智能与武器系统结合产生的自主性武器对现有战争规则和军事行为准则带来挑战。自主性武器可能发生错判或误判，可能在两军军事对峙时制造危机，这种风险并未在传统军事规则中有所体现。另一方面，西方国家也意识到人工智能的战略重要性，开始积极围绕该技术保护本国科技产业和科技资源，推行科技保护主义政策。例如，美国推动改革“外国投资委员会”，重点审查他国对美国人工智能、大数据等“专有技术”的并购和转让。这种做法对他国经济安全和产业安全带来负面冲击。

监管和规则滞后于技术发展是人工智能带来安全问题的主要原因。与其他由人类操控的技术不同，人工智能在一定程度上拥有自主的反应和行动能力，这让如何认定人工智能的责任存在困难。作为一项具有革命性潜力的技术，政府需要在促进技术发展与规制技术安全中找到平衡，借助法律、伦理等约束性手段抑制人工智能“作恶”的苗头。由于技术的全球化，一国也可能遭遇他国人工智能恶意行为的伤害。试图用人工智能“作恶”的技术人员将不断寻找各国监管制度的空白，从不同国家的监管差异上套利。因此，只有国际社会在人工智能治理上达成普遍共识，才能真正管控该技术带来的威胁。目前，国际组织已开始关注人工智能的安全问题。2018年4月，联合国“致命性自主武器系统问题政府专家组”在日内瓦召开会议，讨论人工智能的武器化问题。80余国官员及专家参与讨论，各主要国家借此会议表达了本国对该议题的基本立场。

从总体国家安全观

看人工智能

对中国国家安全的意义

人工智能对于国家安全来说是一把“双刃剑”，是中国保证国家安全、推进国家治理体系和治理能力现代化所面临的新问题。人工智能影响范围广泛，需要以一种综合、系统、全面、辨证、发展的安全理论框架才能够正确把握人工智能带来的机遇与挑战。2015年以来，美国、英国、日本、欧盟等西方国家均提出了关于发展人工智能技术、应对安全挑战的战略文件，各国结合自身国情特点提出了本国的发展重点和主要安全关切。中国也需要从本国实际情况出发，结合自身具有纲领性的国家安全理念处理人工智能与国家安全的关系。

2014年4月，中共中央总书记、中央国家安全委员会主席习近平在主持召开中央国家安全委员会首次会议时提出了“总体国家安全观”，具体阐释了该理念的内涵与外延。坚持总体国家安全观，是习近平新时代中国特色社会主义思想的重要内容，是指导新时代国家安全工作的强大思想武器。“总体国家安全观”所提出的11种安全正好能够涵盖人工智能对我国带来的诸多机遇和挑战，其强调统筹发展和安全，增强忧患意识的原则也与人工智能的“双刃剑”特质相吻合。结合“总体国家安全观”的内容和理论体系，我国处理人工智能与国家安全关系时需要把握以下几点。

第一，以维护政治安全为根本，着力应对人工智能所带来的突出性安全挑战。总体国家安全观以政治安全为根本，其核心要义在于坚持党对国家安全工作的绝对领导。习近平总书记指出，“我们治国理政的本根，就是中国共产党领导和社会主义制度……推进国家治理体系和治理能力现代化，绝不是西方化、资本主义化”。坚持以政治安全为根本意味着我国在发展人工智能产业时不能走西方自由放任的道路，中国共产党的相关负责机构应当成为引领我国人工智能治理的支柱力量。人工智能的产业发展和技术应用不能违背党的各项大政方针，不能被用于破坏社会主义制度和党的领导。在这一前提基础下，我国应着力发展人工智能对党的执政能力、国家治理能力现代化的“赋能”作用，充分运用先进人工智能技术提升各级党和政府的管理能力、应急能力，让党和政府在应用人工智能上走到全社会的最前列。

第二，以人民安全为宗旨，权衡人工智能的经济机遇与社会冲击。人民安全高于一切，是总体国家安全观的精髓所在，体现了党的性质宗旨和唯物史观。人民安全是国家安全的基石和归宿，人民安全感越强，国家安全就越有依靠，人民安全感和归属感越弱，国家安全就越脆弱。人民安全理念要求我国在发展应用新科技时需要照顾、考虑广大人民群众的获得感和感受，新技术不应成为破坏社会稳定、扩大贫富差距的推动力。像以往的先进技术一样，人工智能技术也有着较高的门槛，技术精英和数字经济企业是人工智能技术的主要获益者，但人工智能带来的就业替代却会影响一些劳动者的生计。以人民安全为宗旨要求我国政府应重视人工智能对社会和人民发展机会的潜在负面效应，预先采取措施加以应对。政府应避免人工智能强化互联网企业的垄断地位，提高关于人工智能的公共教育投入，加强全社会使用、适应人工智能的能力，限制人工智能在对社会具有破坏性领域的应用。

第三，以经济安全为基础，促进人工智能在经济治理体系中的应用。经济安全不仅涉及经济的各个方面，也与其他领域的国家安全交织。维护经济安全，核心是坚持社会主义基本经济制度不动摇，不断完善社会主义市场经济体制，提高经济实力、竞争力和抵御内外冲击的能力。人工智能作为一项“赋能”技术，能够在完善经济体制、抵御内外风险上发挥显著作用。例如，人工智能能够增强政府的宏观和微观调控效果，降低政府调控失误的风险。人工智能也可用于市场监管、风险排查、打击经济犯罪等经济社会治理领域，提升政府管控市场秩序的能力。上述“赋能”效果需要中国加强对经济社会的统计和监控，获得更多真实、准确、及时、有效的数据。运用人工智能提升经济社会治理能力是一项系统性工程，也是中国经济社会治理现代化的重要方向之一。

第四，以军事安全为保障，运用人工智能推动军事变革。军事安全是中国各项安全的重要保障。我国军事实力建设的基本目标是建立一支听党指挥、能打胜仗、作风优良的世界一流军队。当今世界并不太平，我国维护主权和领土完整面临着严峻的外部挑战。美国等西方军事大国运用人工智能技术开发自主性武器、人工智能作战系统对中国国家安全带来了新的安全挑战，或将扩大中国与西方国家的军事力量差距。军事竞争不进则退。西方将人工智能运用于军事安全领域违背了该技术的设计初衷，也使得其他国家必须有所回应。中国应从本国安全利益出发，积极探索人工智能在军事领域的应用和创新，借助该技术提升中国军事实力，推动基于该技术的军事变革，满足未来战场需求。

第五，以共同安全为目标，推进人工智能治理的国际合作。习近平总书记提出“人类命运共同体”理论，倡导建设持久和平、共同繁荣的和谐世界。“人类命运共同体”理念孕育于全球化深入发展、非传统安全风险突出、国际治理体系亟待改革的大背景下，提出了解决国与国之间利益冲突、各国共同应对全球性安全挑战的路径。人工智能所带来的多数安全挑战具有全球性特征，技术滥用和监管失控的风险将通过互联网在全球范围内广泛传导。在这些挑战面前，世界各国也是“命运共同体”，存在着一荣俱荣、一损俱损的关系。因此，各国需要在人工智能领域一些根本性、原则性的规则和伦理上达成共识，对该技术衍生出的犯罪行为持统一态度。中国作为维护全球共同安全的重要力量，应积极参与人工智能治理领域的国际合作，推动美国、俄罗斯等主要大国在该领域协调立场，充分顾及发展中国家的利益和诉求，推动人类社会共同应对人工智能所带来的颠覆性挑战。

（责任编辑：徐海娜）

（平台编辑：徐海娜、邓长淼）返回搜狐，查看更多

人工智能运用于国防领域是大势所趋

美军无人潜航器

俄罗斯“阿尔戈”战斗机器人

美军无人机蜂群作战示意图

作为新一轮科技革命的重要代表之一，人工智能是当今科技领域最前沿的课题。AlphaGoZero通过自我学习碾压“AI前辈”AlphaGo、百度无人汽车上路、苹果手机开启新的刷脸认证方式……近年来，人工智能的实际应用显示其技术巨大的驱动力。

在人工智能技术不断进步的背景下，人工智能在国防领域目前发展如何？人工智能在国防领域能发挥什么作用？未来应如何发展人工智能使其更好服务国防领域？围绕这些问题，记者采访了国防科技大学研究员朱启超。

人工智能成为国际竞争新焦点――

军事强国纷纷抢滩部署

“从世界局势来看，世界各国尤其是军事强国都在抢先布局人工智能，美、俄等国家政府部门均发布了人工智能相关战略或规划，彰显国家层面对人工智能的高度重视。”朱启超表示。

资料显示，俄罗斯始于2008年的“新面貌改革”将人工智能作为重点投资领域。此外，俄罗斯还发布《2025年前发展军事科学综合体构想》，强调人工智能系统将成为决定未来战争成败的关键要素。欧盟在2013年提出为期10年的“人脑计划”，拟斥资12亿欧元进行人类大脑研究。2016年10月，美国白宫发布《国家人工智能研究和发展战略规划》，构建美国人工智能发展的实施框架。

在朱启超看来，不少国家都在推进人工智能在国防领域的发展运用，从最初的无人机到智能化信息处理系统、仿生机器人等，人工智能逐步渗透到国防和军队各个领域。

近年来，美国曾在阿富汗战争、伊拉克战争中大量运用无人机和后勤作业机器人。2014年以来，美军已将智能化无人系统作为“第三次抵消战略”的颠覆性技术领域给予重点投资。去年4月，美国国防部宣布成立算法战跨职能小组，旨在将人工智能用于国防情报搜集和分析领域。据报道，日前美国国防部正式下令建立一个新的人工智能研究中心，整合国防部所有的人工智能相关工作。

其他国家也在这个领域加快步伐，推动军队智能化建设。俄罗斯军事工业委员会计划在2025年之前实现俄军装备30%的机器人化，其军队轮式和履带式地面作战机器人已经投入叙利亚战场。韩国和以色列开发和使用具有自动监视和自主决定开火能力的边境巡逻机器，以色列已在其境内部署自主性很高的“哈比”无人机，韩国国防部也在近期表示将在2020年之前投入75亿韩元用于推动人工智能在情报侦察、指挥控制等领域的运用。

“可以预见，各类智能化无人系统与作战平台将在地面、空中、水面、水下、太空、网络空间以及人的认知空间获得越来越多的应用，深刻改变着未来战争人工智能的技术比重。”朱启超说。

人工智能运用于国防领域是大势所趋――

国防运用需求前景广阔

从历史发展趋势和未来战争需求看，人工智能越来越成为推动新一轮军事革命的核心驱动力，未来战争需求也越来越呼唤人工智能的军事应用。新美国安全中心研究员格雷戈里・艾伦在其主笔的一份题为《人工智能与国家安全》的报告中强调：“人工智能对国家安全领域带来的影响将是革命性的，而不仅仅是与众不同的。世界各国政府将会考虑制定非凡的政策，可能会像核武器刚出现时一样彻底。”

纵观历史，世界历次军事变革经历了从冷兵器时代、热兵器时代、机械化时代到信息化时代的发展历程，从冶炼技术到火药技术、机械化技术、原子能技术，再到信息技术，四次军事革命的发生都贯穿着技术革命的核心作用。“人工智能逐步走向战场，势必会引起武器装备、作战样式、部队体制编制和战斗力生成模式显著更新，进而引发一场深刻的军事革命。”面对人工智能在国防领域的发展态势，朱启超表示。

在朱启超看来，人工智能的国防运用需求非常广阔。当下，战争形态由机械化、信息化向智能化转型的趋势愈发明显，夺取未来战争的胜利越来越取决于军队的信息优势、智力资源和决策速度。而人工智能在减少战场人员数量、获取和分析情报信息、快速决策和反应等方面具有巨大的潜力。2016年，美国辛辛那提大学研发的人工智能程序“阿尔法”在模拟空战中击败了美军资深飞行员，人工智能技术对于军事革命的颠覆性意义已初步显现。

“人工智能越来越成为推进国防和军队信息化建设的重要驱动力，不断提升国防领域的信息处理能力、指挥控制效率、精确打击能力和精准管理保障能力。”朱启超对人工智能提升国防领域智能化运用非常期待，他表示，随着军民融合发展战略的实施推进，人工智能技术、大数据技术、云计算技术等新一代信息技术将在国防领域发挥越来越重要的作用，推动国防和军事智能化水平不断提升。

警惕人工智能成为“战争毒药”――

人类是人机关系主导者

近年来，随着人工智能技术的发展，军事领域涌现出各种人工智能相关作战概念和装备技术项目，但朱启超认为，目前人工智能相关技术与应用还处于快速发展的初级阶段，不应忽视人工智能军事应用的局限性。

“首先，人工智能并不能取代人类智能。人工智能在解决可编程范围外的战争问题时，需要人类的理性分析能力、灵活应变能力、道德分辨能力等，因此，要在遵循战争制胜机理的前提下进行人工智能研究。”他分析道。

朱启超进一步说明，长期来看，还需要警惕人工智能可能带来的安全、法律、伦理等诸多问题。

安全方面，军事对抗环境下，人工智能系统或武器装备一旦被对手通过恶意代码、病毒植入、指令篡改等手段攻击，将带来战术失利甚至灾难性后果；人为错误、机器故障、环境扰动等因素也可能使得系统失去战斗效力。

法律方面，国际武装冲突法中的核心原则――必要性、区别性、相称性和人道性都将面临如何适用和调整的问题。比如，战场机器人无法区分军人与平民而造成滥杀无辜给区别性原则构成挑战。

伦理方面，由于智能化评估决策技术、无人机、机器人等的应用，人类奉为最高价值的生命和尊严可能受到漠视甚至践踏，而战争的指挥者却远离战场享受战争胜利的果实，战争或将成为搬上战场的“电子游戏”，这将冲击人类的道德底线。是否应该将人类的道德标准嵌入日益智能化的机器、嵌入什么样的道德标准以及如何嵌入？这些问题需要世界各国的广泛研究和探讨。

针对人工智能在国防领域运用过程中可能出现的安全、法律、伦理等问题，朱启超建议，应加强社会安全监督管控，形成适应人工智能时代的社会治理模式；积极参与人工智能国际军备控制讨论与谈判，为应对人工智能带来的安全、法律与伦理问题贡献中国智慧和中国方案；牢固确立人类是人机关系主导者的思想，实现对人工智能的安全有效控制，让其为人类的和平福祉服务，而不是使人工智能成为“恶魔的帮凶”。（潘娣）

新局与危局：人工智能的国家安全问题思辨

作为一项蕴涵广泛应用前景和高度战略价值的技术，人工智能的发展与应用将对国家安全带来一系列影响。一方面，人工智能可以为国家安全提供更为有效的维护与保障机制；另一方面，人工智能发展与应用的不可知性将对国家安全带来一系列的潜在风险。当下人工智能所导致的风险已随着其发展而逐步显现，客观且全面评估这一技术所带来的机遇与风险，并据此做出相应的政策部署、制度安排与监管防范，则是保证其良性发展的关键所在。

内容目录：

0引言

1新局：人工智能赋能国家安全治理

2危局：人工智能加剧国家安全风险

3危局中育新机：发展与安全的平衡

4结语

0引言

第四次工业革命是一场集信息技术、新能源、新材料、生物技术等诸多技术领域于一体的革新运动。其中，作为一项具有通用性和使能性的技术，人工智能具备嵌套及主导其他技术发展的包容度与统摄力，因此被视作推动第四次工业革命的关键要素。与此同时，作为国家安全的重要组成部分，技术安全被视为保障其他国家安全领域的重要支柱。然而，人工智能的特殊性，使其对国家安全的影响存在着一种“技术悖论”的困境，即人工智能在国家安全领域的应用有助于提升安全治理的水平与效能，但同时也造成了国家安全向度和维度的深化，继而使国家安全面临一系列新挑战。

1新局：人工智能赋能国家安全治理

从应用领域来看，人工智能主要从传统安全与非传统安全两方面赋能国家安全。前者主要为人工智能在军事与战略层面的使用，后者则主要为人工智能在社会治理层面的应用。

第一，人工智能赋能传统国家安全。最初对于人工智能军事化应用的讨论集中在无人机、机器人、战略决策和网络安全等常规军事领域，而后逐步拓展至核威慑等非常规军事领域。但作为一项通用性技术，人工智能具有在各个军事领域实现“全面渗透”式应用的特性，而不仅局限于单一的军事领域。目前，人工智能军事化应用的主要成果集中在武器自动化、情报、监视和侦察（ISR）与战略决策等方面，为“马赛克战”“多域作战”等作战方式提供了有力的支撑，并催生了诸如“影响力机器”等新型对抗方式。需要说明的是，在当下的军事化应用中，人工智能尚处于提升作战的信息化水平和打击精确度的“初智”阶段，但伴随其技术突破，人工智能将逐步实现作战对抗的“无人化”与“智能化”，并使之跃升为广泛整合多项技术与统筹整体作战安排的“高智”阶段。

第二，人工智能赋能非传统国家安全。在非传统安全领域，人工智能的应用集中在为各类社会风险的处理提供更为精准的预测和纠错机制。其作用机制主要基于对多源数据进行全方位的挖掘、聚合与清洗，并构建相应的模型来演算各类风险因子的作用路径及其发生的概率，从而实现安全态势感知与预测的智能化，并推动防御机制的优化。目前，人工智能技术已被应用于网络安全、反恐与安防、经济与金融安全、医疗卫生、环境与能源安全等多个领域，简要列举如下：

危机预测与管理方面，通过扩大数据收集、减少信息未知性以及建立相关分析模型，人工智能可以应用于针对战争冲突、传染病扩散、气象灾害等危机事件的预测与分析，继而提前介入其中以阻止危机的发生或者减缓危机所造成的破坏。

反恐与安防方面，基于对已有恐怖主义活动的案例以及其他犯罪数据的分析，人工智能可以对潜在的恐怖活动或犯罪活动的目标、组织及其可能的行径进行预判，并据此制订相应的反恐方案。与此同时，人工智能可以用于辅助公安部门及其他安全部门进行嫌疑人辨别与追踪、犯罪现场搜索、城市交通管理、开展救援活动、排列警务任务及分配警力资源，继而提升安防活动的整体运行效率。

网络安全方面，人工智能通过推动端点检测响应和网络检测响应，能够在信息交互的过程中识别和防止勒索软件、恶意软件、DDS攻击等恶意在线威胁，提前对潜在的风险进行及时阻断，为网络安全提供更为有效的防护手段。

金融安全方面，通过构建多维度、全方位的交易检测与验证模型，人工智能可以为风控等金融业务提供高效的反洗钱、反欺诈以及信用评估机制。

总的来看，人工智能的应用有助于提升国家在传统安全领域的防护能力与非传统安全领域的治理水平。同时，由于国家安全本身由诸多交叉的议题和治理机制组成，人工智能在传统安全与非传统安全的应用上存在着一定交叉。例如，无人机既可用于情报侦察、军事打击、物资运输等传统安全领域，又可用于电力巡线、搜索救援、城市管理、遥感测绘等非传统安全领域。此外，尽管人工智能之于非传统安全领域应用的逻辑相对简单，但由于非传统安全在当下所涉及的领域更为多样，因此人工智能在非传统安全领域的应用更为广泛与频繁。

2危局：人工智能加剧国家安全风险

从技术悖论的视角来看，尽管人工智能蕴涵了广泛的应用前景和高度的战略价值，但这一技术的应用与发展也造成了国家安全向度与维度的深化，对于国家安全也带来了诸多挑战：

第一，技术的不对称发展或将激化人工智能军事领域的战略竞争。出于对技术安全性的考虑，各国对于人工智能的军事化应用较为审慎。然而，由于国家间技术水平本身就存在不对称性，并且相对于其他技术，国家更难以直观地判断人工智能的技术不对称性的程度。当然，人工智能军事化应用所具备的“全面渗透”特性还将导致国家间竞争领域的扩展。因此，对于技术优势的争夺以及对技术差距的猜疑会扩大国家间对于国家安全偏好的差异性，而由技术差距所导致的“生存性焦虑”也就存在被放大为“生存性威胁”的可能。与此同时，人工智能军事化应用的无人化、智能化特性将削弱作战伤亡、作战周期及规模等传统因素对于战争决断及其进程的限制，并且人工智能应用所催生的一系列新型战法还将进一步模糊战争与冲突的界限。换言之，人工智能军事化应用所带来的作战预期成本的下降会拉低发动战争或者直接进行军事对抗的门槛，并且由于误判所导致冲突加剧的可能性也同样将被放大。

第二，人工智能或将加剧发展中国家所面临的“技术边缘化”风险。人工智能可以助推经济的整体增长，但其所带来的收益并不会如预期那样得到均衡的分布，而是可能出现巨大的失衡与落差。正如联合国贸易和发展会议（UNCTAD）发布的《2021年技术和创新报告》所言，技术变革将极大地加剧发达国家与发展中国家间的差距，后者面临技术创新能力低、融资机制薄弱、技术转让受限、数字鸿沟以及收入能力不足等诸多挑战。人工智能所推动的自动化、智能化生产变革将稀释发展中国家在劳动力资源上所具备的比较优势。这意味着，发展中国家通过承接全球化所带来的“现代性扩散”所获得的产品转型与升级可能难以延续，并且其现有获得的外资红利与全球技术知识外溢的红利也可能缩减。与此同时，具备人工智能技术优势的发达国家将在全球价值链跃升的过程中取得并保持更显著的领先地位，并基于这一绝对的先发优势，主导人工智能的技术标准、产业划分与治理规则的制定，继而塑造新的技术围墙和获得新的不对称技术权力。对此，日本经济学家井上智洋就指出，提前应用强人工智能的国家与其他未能实现此目标的国家之间将形成“第二次大分流”。

第三，人工智能或将强化甚至恶化国家在科技地缘政治中的竞争关系。作为国家竞争的重要技术基础，人工智能同经济、政治等议题之间存在紧密的关系。然而，人工智能所具备的技术组合性与目的通用性使得国家间竞争形成叠加效应和全域式竞争的趋势。然而，当国家间的竞争涉及多领域、多议题时，相互间的敌对认知往往会得到强化。同时，人工智能是一种典型的军民两用技术，具有鲜明的“技术纠缠”（TechnologicalEntanglement）的特征。为了防止本国所出口的民用人工智能技术助推他国军事能力的提升，以及规避因在关键领域使用他国人工智能技术所带来的潜在风险，国家之间就不得不对现有的经贸关系进行切割，进而对正常技术合作形成了挤压。科技优势的同质化所催生的“技术民族主义”将恶化国家间正常的竞争关系，即后发国家在人工智能领域的进步将削弱先发国家的技术优势，而先发国家为了保持原有技术垄断所带来的优势地位，就极易会对后者进行打压。当然，部分技术强国还能够凭借不对称的技术优势以及部分技术弱国对自身的依赖，采取组建技术联盟的方式来对竞争对手实施打压。这一过程中，两国竞争关系的激化将使得国家间的局部竞争逐步升级为不同技术联盟间的竞争，继而导致这一恶化的竞争关系在更大范围内得到扩散。

第四，人工智能所导致的大国竞争加剧或将凸显治理缺失的风险。尽管各国愈发重视对人工智能发展与应用的监管，并主张施加限制性监管措施来规避潜在的风险，但鉴于人工智能的重要性以及大国竞争加剧的客观现实，多数国家往往更强调满足人工智能的发展需求，继而弱化了对人工智能的监管需求。良性的国家间竞争在一定程度上能够提升国际社会的整体技术水平，但是当国家间竞争超出了正常的范畴时，就会导致出现以技术封锁、对抗和割裂为表征的“科技脱钩”。实际上，在全球性规则和制度缺失的情况下，现有的国际秩序本就难以对新兴技术及其威胁进行有效规制。而在“科技脱钩”的状态下，各国在技术及其标准体系上的高度分化不仅会抬高人工智能应用与发展的成本，阻碍其进步，也难以在全球层面对潜在风险进行有效管控，继而加剧人工智能的无序发展状态。

第五，人工智能或将推动资本权力的扩张与恶化技术红利的分配。目前，人工智能的发展成果多数体现在跨国科技公司所开创的技术与产品上，并且跨国科技公司的扩张将进一步提升人工智能的要素集中度。因此，资本在人工智能的研发与部署上的作用将得到提高。科技巨头们的技术优势还使其能够在人工智能的技术标准及其治理准则的制定与实施中拥有相当大的话语权。数据、算法等人工智能技术的组成要素在一定程度上能够脱离主权和地理空间的限制，这也为资本规避政府部门的监管提供了便利。与此同时，人工智能技术的介入将重塑现有的社会整体利益再分配机制。人工智能可以通过提高社会整体生产力和创造新的产品及需求，带来新的就业机会和经济增长，但是人工智能的应用将不可避免地对现有社会就业结构产生一系列的负面影响。最为突出的表现便是人工智能应用所可能导致的结构性失业。其中，从事“事务性劳动”的低信息化水平的劳动者可能面临被“出清”的风险。

第六，人工智能技术滥用及其演进路径不确定存在诱发“技术恐怖”的可能。就技术层面而言，人工智能主要存在因技术滥用而导致的外溢风险与因技术自身缺陷而产生的内生风险。前者主要是指人工智能技术的拓展应用所衍生出的被动技术风险。例如，犯罪分子同样可以利用人工智能从事更为便捷、隐蔽的犯罪活动。后者则是指因不确定的技术缺陷与安全防护措施不完善所带来的风险。其中，因数据质量缺陷和平衡机制缺失所引起的潜在算法歧视就是较为典型的内生风险。当然，人工智能的通用性也意味着，人工智能与其他技术的聚合及其在广泛场景中的应用，会扩大其技术隐患所波及的范围。

3危局中育新机：发展与安全的平衡

人工智能是提升我国国家竞争力的关键性要素，也是保障我国国家安全的重要技术支柱。正如习近平总书记在中央政治局集体学习会议上所指出的，加快发展新一代人工智能是我国赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。为此，我们更应处理好人工智能对国家安全所带来的一系列挑战。基于上述分析，并结合当前我国人工智能技术的发展现况，本文有以下三方面的建议：

第一，以战略布局的持续完善与发力打破技术高墙。我国已将推进人工智能的发展上升至国家战略的高度，也已初步构建了支持其发展的政策框架。然而，我国现阶段的人工智能发展主要集中在技术相对成熟、应用场景清晰的横向领域，但在基础理论、底层技术等纵向领域相对乏力。为此，我们应继续强化对人工智能技术的敏感性与理解力，制定以基线和指标为支撑的、更为具体的发展战略路线图。与此同时，我们还应加快构建自主可控的技术创新体系和产业体系，采用渗透性和开放性方法促进人工智能相关人才的培养与吸收，促进技术与产业紧密结合的相互增益，提高人工智能发展的灵活性。

第二，以风险评估与防范机制的设立弱化风险危害。对于人工智能应用可能带来的技术、法律、伦理等问题，设立系统、完整的风险评估与防范机制尤为必要。我们应在保持与产业界、学术界密切合作的基础上，由相关部门牵头组织开展人工智能投资和应用审查，加快构建技术风险评估机制与灾难性风险预防机制等安全管理体系，并设置容错机制、漏洞检测和技术错误纠正机制等技术配置机制来提升人工智能的安全性。

第三，以推进国际合作和参与全球治理为契机提升技术安全。全球科技的进步本身需要各国的积极参与，而技术风险的防范更是需要各国的充分合作。有鉴于此，我们应秉承构建人类命运共同体和推动科技向善的理念，积极推动国际社会就人工智能开展常态化的多边沟通并在此基础上，综合参考各国的人工智能原则，推动建立一套普适的技术标准规范体系和较为一致的人工智能监管框架，为人工智能的发展搭建更为广泛的国际合作网络与治理平台。

4结语

在百年未有之大变局之下，国家科技竞争逐步激化，如何把握人工智能的发展主动权与处理好相应的风险，并实现良性、合理的国际合作与竞争，已经成为我国国家安全治理亟需解决的议题。我们应在充分维护自身战略利益的基础上，推动、容纳和接受人工智能的突破和创新，保持自身在这一技术领域的领先性与自主性，并自觉关注该技术对国家安全可能造成的风险，对潜在风险进行研判与预防。当然，我们还需着眼于人工智能相关技术规范的构建，积极提升我国在人工智能治理领域的议程设置能力。

引用本文：张纪腾.新局与危局：人工智能的国家安全问题思辨[J].信息安全与通信保密,2021(5):27-32.

作者简介

张纪腾（1994—），男，博士，复旦大学国际关系与公共事务学院博士研究生，主要研究方向为国际政治经济学、全球治理与中美关系。

声明：本文来自信息安全与通信保密杂志社，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系anquanneican@163.com。

人工智能安全：挑战与机遇

【环球科技】

人工智能技术和应用飞速发展，推动经济社会创新发展的同时，也在重塑人类安全的未来。作为2018世界人工智能大会的重要组成部分，题为“人工智能安全：挑战与机遇”的安全高端对话9月18日在上海国际会议中心举办。此次对话活动由上海赛博网络安全产业创新研究院、中国信息通信研究院安全研究所联合承办，上海社会科学院互联网研究中心等协办。

对话围绕伦理问题、国家安全、网络安全三大主题展开，研判人工智能时代的安全挑战，探索人工智能安全发展的创新之道，促进人工智能产业的健康发展，确保人工智能发展造福人类未来。

本版邀请参与对话的两位嘉宾撰文，为读者深度解读人工智能与人类自身发展的现实与未来。

一、人工智能技术迅猛发展

军事历来是推动技术变革的主要力量之一，特别是在一些战略性领域，新技术与军事变革之间的互动，不仅推动了技术的发展，也影响了军事变革。算法上的突破、数据数量和质量的不断提升以及计算能力的增长为人工智能在军事领域的应用提供了无限的想象空间。

从现有的技术条件来看，人工智能至少可以在机器人、战场环境的分析和目标识别、后勤组织计划、情报分析、信息管理、信息行动等方面在一定程度上提升或改变原有对军事的认知。

人工智能的发展可以减少军人的伤亡程度、增强指挥决策、控制战争的杀伤范围方面改变未来的战争形态。

第一，当越来越多的无人驾驶飞机、坦克、汽车，以及自主决策武器开始走向战场，军人直接暴露在战场杀伤环境将会减少，军人的伤亡率较传统的战争也会下降。这会使得跟传统军人形象迥异，一群戴着眼镜，像在网吧中玩着网络游戏的新的职业军人和军事单元出现在战斗序列中。

第二，人工智能在辅助战场决策可以发挥重要作用，包括制定军事计划、后勤组织保障、战场环境实时信息获取、分析、目标的图像识别等方面可以大幅度提高战场的指挥决策能力。

第三，人工智能时代战争将更多是特种战争，而非全方位的战争。人工智能在网络战、信息战，以及类似的“斩首行动”“定点清除”等特种作战领域将会发挥重要的作用。这从很大程度上而言这也会改变战场的形态，人工智能领域的特种作战将会先与大规模冲突的爆发，改变人们传统上认为，战争就是工业化时代的大规模飞机、坦克、军舰等武器之间直接对抗的印象。

鉴于人工智能在军事领域的重要作用，各国的军队和政府都高度重视从国防角度来看待人工智能，越来越多的国家开始发展和使用人工智能武器，制定人工智能国防领域的发展战略。

2016年2月，时任美国情报总监詹姆斯·克莱伯在参议院武装力量委员会的听证会上认为，人工智能系统的欺骗性和破坏性难以预测和理解，将会对国家安全和关键信息基础设施带来巨大风险。特朗普政府开始加大对人工智能国家战略的制定和资源的投入，美国国防部门的国防创新咨询委员会和国防科学委员会不遗余力地推动美国军方向人工智能转型，并且成立了国防部联合人工智能中心；近期，美国国防高级研究计划局（DARPA）作为美军重要的技术创新部门宣布对人工智能的投资增加20亿美元，用以布局下一代人工智能。

俄罗斯也高度重视人工智能在国防领域的发展。俄罗斯国防力量积极的开发人工智能武器，包括超级坦克、无人蜂群、无人导航水下航行器等，根据媒体报道，俄罗斯已经开始在叙利亚战场中使用基于人工智能的武器系统。在美俄之外，包括中国、英国、澳大利亚、韩国、印度等越来越多的国家开始重视人工智能在军事领域的发展和应用。

二、安全领域挑战不容小觑

人工智能拥有巨大潜能，但事情往往具有两面性，为了获取战略竞争优势，各国人工智能在国防领域的竞争，也带来了安全方面的风险——包括为了获取竞争优势而忽视人工智能的伦理问题、人工智能技术扩散，以及过度强调人工智能的国家安全属性对正常的技术发展和商业所带来的威胁挑战。

首先，致命性自主武器的伦理问题。致命性系统是一种直接或间接地对人类造成伤害或死亡的系统。现有系统如装备了武器的无人机，就在某种程度上将自动化与致命性结合起来，但是这一系统需要人类的参与。完全自主的致命性自主武器系统还需要能够识别和选择目标，确定拟对目标施加的武力级别，并在特定范围的时间和空间内对目标实施规定的武力。半自主、全自主系统包括杀伤人员地雷、反舰雷达、各种精确制导导弹、鱼雷、巡航导弹、反卫星武器、空中和海上无人机、无人机群以及网络蠕虫。从不含情报的地雷到精确制导导弹以及依据地形的巡航导弹，这些系统中的情报数量差异巨大。

国际社会存在着很大的反对发展致命性自主武器的声音。如此众多的自主武器带来的问题是机器是否有权力去自主决定杀伤目标，以及由于算法黑箱或者自主武器失控而导致的误杀和误伤成为致命性自主武器发展必须要面临的伦理问题。虽然战争和伤亡是需要极力去避免的，但是由机器来决定伤亡则更加难以接受。不仅如此，人工智能的应用会在一定程度上降低战争的门槛，这会鼓励减少自我约束，采取进攻性的行动来达到相应的目的，但同时也会对国际安全形成新的不稳定因素。

其次，作为人工智能发展核心的算法和数据都存在着潜在的安全问题，这会导致人工智能决策的风险。从编程的角度来看，任何的代码都是由人编写，因此无法确保程序完全安全、可靠、可控、可信。从数据角度来看，人工智能依赖大数据，同时数据的质量也会影响算法的判断。军事数据质量获取、加工、存储和使用等环节都存在着一定的数据质量和安全风险，从而增加了军事领域使用人工智能的安全风险。

再次，人工智能技术扩散给全球安全带来的威胁。伴随着人工智能武器的开发，国际社会面临的另一大难题就是反扩散问题，恐怖主义组织以及不负责任的国家获取人工智能武器，并威胁国际安全和平。人工智能从某种意义上而言，也是一种程序和软件，因此，它面临的扩散风险要远远大于常规武器。类似于美国国家安全局的网络武器库被黑客攻击，并且在暗网交易，最后被黑客开发为勒索病毒的案例，也有可能在人工智能武器领域重现。

最后，人工智能的军备竞赛会对技术逻辑和商业逻辑产生破坏。人工智能具有军民两用性质，其发展最初的目的是为了发展经济，增加社会福利。过度的强调军事用途会对人工智能的全球研发体系和产业链造成严重威胁。近期，美国政府对《外国投资审查法案》进行修订，其中重点就是要阻止其他国家对美国人工智能初创企业的并购。法国政府也采取了相应做法提高外国企业对法国人工智能技术、人才的并购门槛。再加上，出口管制和人才交流限制。人工智能技术尚未发展成熟，各种鸿沟已经在各国之间开始构筑，会严重影响正常的技术研发，并且破坏全球化的商业逻辑。

三、治理机制构建刻不容缓

人工智能在军事领域的发展和应用已经成为很多国家的国家战略，相应的治理工作应当在现有的国际安全架构开展。今年9月在日内瓦召开的联合国常规武器公约的讨论中，各方并未就制定禁止人工智能驱动的致命性完全自主武器的条约达成共识。全球约有共26个国家支持全面禁止人工智能武器，而绝大多数国家还在观望。在规则不确定和大国战略竞争的背景下，人工智能在军事领域发展面临的风险和威胁在不断增加。加强人工智能的国际治理工作，降低军备竞赛风险则是当务之急。

经过2014年和2015年的两次非正式会议后，在2016年12月16日关于特定常规武器公约的联合国会议上成立了致命性自主武器系统（LAWS）政府专家组（GGE）。该小组的任务是研究致命性自主武器领域的新兴技术，评估其对国际和平与安全的影响，并为其国际治理提出建议。

人工智能引发的安全问题是专家组的一大重要分歧，技术强国与弱国之间存在截然不同的观点。技术弱国认为应当完全禁止致命性自主武器的开发使用，技术大国则持相反意见，认为开发致命性自主武器可以降低人员损伤，有利于打击恐怖主义和维护国家安全，并且很多系统已经在战场上进入实战。

军事是推动技术进步的重要因素，互联网就是由美国军方所发明，人工智能的技术发展背后也有军事因素的强力推动。但是，人工智能的科技竞赛也非技术之福，特别是致命性自主武器的扩散会造成更为严重的后果。因此，从联合国层面制定相应的规范，并且促成大国之间在发展致命性自主武器上达成一定的军控条约是当务之急。

联合国政府专家组应制定致命性自主武器系统和人工智能军事应用的目标。其中，最重要的一个目标是制定相应的国际法，在国际法不明确的情况下，各国应克制在军事领域使用人工智能武器。联合国政府专家组也应考虑对国际法此前未曾预见的情况追加法律限制，并以道德或伦理为由尽量减少对人和平民的伤害。更进一步的目标包括管理以下情况的操作风险，包括降低使用武力门槛、意外导致不应有的伤害、造成意外的升级螺旋式增长以及产生军备竞赛和扩散。

当然，从联合国角度来达成一项谈判可能需要十年甚至更长的时间，鉴于越来越多的风险，大国之间应当及早就人工智能在军事领域应用可能带来的潜在风险开展对话，及早启动相应的军控进程。短期内促成技术强国在谋求战略优势和国际安全体系稳定之间的妥协。

各国政府在制定人工智能在军事领域的战略时，还应当高度重视人工智能的治理工作。比如，无论是半自主和全自主的武器系统的设计，应允许指挥官和作战人员在使用武力方面作出适当的人为判断。为保证这一要求的实现，需要严格的设计、对设计的测试和评估、操作验证和测试，解决系统错误和故障的安全工程以及避免人为错误的认知工程。

在决定是否使用人工智能武器时，应当制定明确的规范和流程，避免造成不可预测的后果。同时，还应当加强对人工智能武器的安全性，避免安全泄露，或者是随意转让相关技术。无论是无意或者有意地扩散都会增加军备竞赛的风险，威胁国际安全体系。

（作者：鲁传颖，系上海国际问题研究院副研究员）

人工智能时代对信息安全的影响分析

摘要人工智能技术的蓬勃发展，产生许多新应用的同时，对网络信息安全工作也产生了深远的影响，特别是信息泄露、网络攻击、电信诈骗等欺诈、盗窃行为的升温，更加引起人民的警觉。本文从四个方面分析人工智能技术对信息安全的影响，从四个方面思考利用人工智能技术提升信息安全工作水平的途径，为做好信息安全工作提供思考。

关键词人工智能;信息安全;计算机

人工智能是计算机科学的一个分支，用以泛指让机器实现智能行为的一系列技术。这些技术包括机器视觉和听觉、自然语言处理、人工神经网络、机器学习、认知与推理、博弈论、机器人学等[1]。自1956年“人工智能”一词第一次出现在达特茅斯会议上，已经过去60多年。在经历了第一阶段的符号主义、第二阶段的数学建模之后，人工智能来到了移动互联网、大数据、超级计算、万物互联为技术基石的信息时代。

随着网络应用的全面普及，大量的隐私数据在互联网上流通，网络信息安全问题也在日渐成为人们的关注焦点。特别是信息泄露、黑客攻击、电信诈骗等欺诈、盗窃行为的升温，更加引起人民的警觉。人工智能时代对网络信息安全产生哪些影响，如何有效利用人工智能技术对提升网络信息安全防护水平，逐渐成为网络安全领域的重要问题之一。

1人工智能对信息安全的影响

（1）人工智能技术能有效提升信息安全工作的效率。现如今各个安全团队面临的最大困扰之一就是大量安全警报造成的疲劳。北美企业每天接到的安全警报数量高达1000条。大量恶意攻击行为被淹没在警报中没有得到认真对待。人工智能利用大数据、并行计算等技术，整合多个信息源，能够快速梳理处理数以百万计的数据流，并生成分析报告，有助于企业和网络安全公司获得准确的安全风险评估报告，有效提升网络安全工作的效率。

（2）人工智能技术为黑客攻击提供新的便利。人工智能技术的进步，为黑客的网络攻击也提供了新的便利。一方面，人工智能技术发现了计算机系统许多新的漏洞，为攻击提供了可能。另一方面，人工智能技术产生的新应用，成为黑客攻击的新目标。在GeekPwn2017国际安全极客大赛上，白帽黑客们上演了一场与现代科技的巅峰对决，攻击对象包括当下最火的人脸识别，以及声纹识别、使用银行卡在智能POS机消费等场景，令人惊叹的项目破解秀，揭露了新应用存在的安全問题。

（3）人工智能应用本身会产生新的安全问题。以智能交通领域为例，随着无人驾驶汽车以及智能交通系统的普及，有效提升了交通运行的效率，大大降低了交通事故的概率。但是在已有风险消除的同时，新的风险被引入：黑客可以从无线渠道侵入智能汽车终端、从有线渠道侵入后台信息控制系统，从而接管无人驾驶汽车甚至智能交通系统的控制权。实际上，无人驾驶汽车或者智能交通系统由复杂的自动化机器和信息系统组成，其信息采集、传输、处理各个要素环节都面临安全风险，目前已有黑客通过盗取移动App账号密码进而控制自动驾驶汽车的案例。

（4）人工智能对国家信息安全带来新的挑战。人工智能是把“双刃剑”，大数据、内存计算、区块链、并行计算等新技术、新业态的发展，一方面提升了信息化水平，另一方面也模糊了国家安全的边界[2]。人工智能技术本身并没有道德属性，对于使用者的身份、思想、动机不能进行有效的甄别和判断。从使用者角度来说，完全可能利用人工智能技术进行犯罪、网络诈骗，甚至进行恐怖主义活动，西方国家通过谷歌、脸书等网络应用，对全球信息进行整合，给国家信息安全带来全方位挑战。

2人工智能时代做好网络信息安全的思考

①将网络安全提升到国家战略的高度统一谋划。网络安全与国家安全息息相关，没有网络安全就没有国家安全，没有信息化就没有现代化，充分体现了网络安全、信息化、现代化对国家安全的重要作用。人工智能技术的进步，可以有效提升国家的情报搜寻、侦探，网络数据的分析和数字媒体的宣传创造能力[3]。这一能力将在开展国家级战略宣传、情报获取、意识形态斗争等行动中发挥极为重要的作用。②推动人工智能应用的普及。人工智能将成为推动我国信息社会变革的创新科技。国务院颁发的《新一代人工智能发展规划》提出，“人工智能在教育、医疗、养老、环境保护、城市运行、司法服务等领域广泛应用，将极大提高公共服务精准化水平，全面提升人民生活品质”。信息安全不是无根之木，大力普及人工智能应用，完善人工智能生态，一方面能推动相关技术的进步，另一方面也有助于提升信息安全的研究力度和研究水平。③积极拓展人工智能在信息安全领域的应用范围。人工智能对网络信息安全的影响深远，在网络安全的应用逐渐增多，特别是在主动防御、策略配置、安全防护等方面发挥的作用越来越大。但是目前来看，人工智能在信息安全领域的应用整体上仍处于探索阶段。需要不断拓展新的应用，特别是在侦测和清除僵尸网络设备、入侵检测、发现蠕虫病毒、识别垃圾邮件、发现和阻断未知类型恶意软件执行等方面进行新的尝试。④加强管理和技术两个方面的监管。为最大程度降低人工智能带来的安全风险，应从管理和技术两方面采取一系列应对措施。在管理上展开立法研究、标准制定、监管体系建设，加强对人工智能技术和产品的监管。在技术上，推动大数据时代用户隐私和数据保护技术的研究、提高人工智能技术和产品的内生安全性设计水平、对智能产品和技术应用可能带来的威胁风险进行从监测到应急处置等全安全要素的监控，提高风险控制与处置能力。

3结束语

人工智能技术是人类未来技术的发展方向，必然会对网络信息安全带来全新的机遇和挑战。准确把握人工智能的发展方向，大力开展人工智能技术研发，着力培养人工智能、信息安全人才，加强信息安全制度、法律机制建设，提升人工智能时代信息安全工作水平，是确保新时代国家安全的必由之路。

参考文献

[1]张拥军，唐俊.基于云模型的网络安全态势分析与评估[J].计算机工程与科学，2014，36（1）：63-67.

[2]杨鑫.基于云平台的大数据信息安全机制研究[J].情报科学，2017，35（1）：110-114.

[3]邵晓慧，季元翔，乐欢.云计算与大数据环境下全方位多角度信息安全技术研究与实践[J].科技通报，2017，33（1）：45-46.

作者简介

李家干（1990-），男，安徽省六安市人;学历：硕士研究生，职称：助理工程师职称，现就职单位：中国电子科技集团公司第三十八研究所，研究方向：人工智能、信息安全。

猜你喜欢信息安全计算机人工智能信息安全不止单纯的技术问题信息化建设(2021年5期)2021-01-16中国计算机报202007、08合刊中国计算机报(2020年7期)2020-09-10基于模糊综合评价法的信息安全风险评估模型智富时代(2019年6期)2019-07-24基于模糊综合评价法的信息安全风险评估模型智富时代(2019年6期)2019-07-24中国计算机报2019年48、49期合刊中国计算机报(2019年48期)2019-02-072019：人工智能商界(2019年12期)2019-01-03人工智能与就业IT经理世界(2018年20期)2018-10-24中国古代的“计算机”学苑创造·A版(2018年6期)2018-09-18数读人工智能小康(2017年16期)2017-06-07下一幕，人工智能！南风窗(2016年19期)2016-09-21

科学与信息化2020年20期

科学与信息化的其它文章大数据时代地理信息测绘工作的转变分析论电子信息技术的应用特点与未来发展趋势基于PLC技术在电气工程自动化控制中的应用分析办公室自动化中计算机信息处理技术的应用探索探究智能化技术在电气工程自动化中的应用《统一建模语言UML》课程信息化建设浅谈

张小松团队：人工智能算法安全与安全应用

张小松，电子科技大学教授，博士生导师，主要研究方向为网络安全，2019国家科技进步一等奖和2012国家科技进步二等奖的第一完成人，2020第二届全国创新争先奖和2017网络安全优秀人才奖获得者，四次获得省部技术发明/科技进步一等奖，担任提升政府治理能力大数据应用技术国家工程实验室专家委员会副主任委员，中国电子学会区块链分会副主任委员，国家重点研发计划网络空间安全重点专项首席科学家，发表SCI/EI学术论文139篇，以第一作者出版专著2部，译著2部，以第一发明人获授权国家发明专利42项。

人工智能算法安全与安全应用的相关研究属于网络安全领域。网络安全则是一门内涵在不断发展的伴随学科，任何一项技术的快速发展都会衍生出相应的安全问题，像量子计算、人工智能技术的发展更是会改变传统安全的思维方式。因此，人工智能技术的井喷式发展给网络空间安全领域带来了巨大的挑战与希望。

人工智能带来的希望主要在于：人工智能高效、准确的特点，能显著提升现有网络空间安全的防护能力，能大幅改善防护的实时性，因此，人工智能早已被应用于网络空间安全领域，且在应对部分人类难以解决的问题时，具有巨大的潜力。其带来的挑战在于：人工智能自身也存在数据安全、算法安全、隐私保护等安全问题，另外人工智能算法同样能为攻击者利用。

结合学术界和产业界的总结，人工智能算法安全与安全应用的内涵包括两个方面：

一是从安全的角度审视人工智能算法，认识并应对人工智能算法存在的缺陷，为人工智能算法的应用加上保险；

二是将人工智能算法应用到传统安全领域，提高相关防护方式的实时性、准确性。

《人工智能算法安全与安全应用》（张小松，刘小垒，牛伟纳著.北京：科学出版社，2021.3）一书主要依据作者团队所完成的具体科研项目与科研成果，围绕人工智能网络安全应用以及对人工智能算法自身安全性分析而展开介绍。

本书主要内容共三部分。

▲本书框架

▋第一部分人工智能算法安全与安全应用概述。首先总结人工智能技术的发展近况以及人工智能技术对人类生产生活的重要影响；其次，讨论人工智能算法安全与安全应用的研究范畴，并简要介绍各国对人工智能安全相关研究的重视程度；最后，对全书的脉络进行梳理与归纳。

▋第二部分探讨人工智能算法安全。首先，从人工智能算法鲁棒性的角度介绍针对人工智能模型的攻击方法，包括作者团队提出的多种利用目前人工智能算法鲁棒性缺陷而设计的对抗攻击算法；其次，对人工智能算法的安全性增强方法进行介绍，并对人工智能对抗样本的性质进行探讨；最后，从数据安全的角度介绍数据安全对人工智能算法决策以及对人工智能安全的影响，进而从数据保护、隐私保护的角度介绍几种数据保护方法，并分析近期提出的数据投毒防御方法。

▋第三部分是对网络空间安全问题与人工智能技术结合的总结，分别对主流的漏洞攻击、恶意代码攻击、匿名网络技术和APT技术进行介绍与归纳总结，并结合作者团队的研究经验对近年来人工智能技术与上述网络安全领域结合后的研究现状进行总结和梳理。

2020年6月我出版了《人工智能安全》一书，书中详细描述了人工智能的赋能效应与伴生效应。这期间恰好张小松教授把刚刚写好的《人工智能算法安全与安全应用》书稿给我看，该书确实是让我眼睛一亮。我所主编的《人工智能安全》更多地是从宏观的层面论述人工智能安全的整体面貌，而张小松教授的《人工智能算法安全与安全应用》是对其中的人工智能内生安全和赋能防御两个具体方面进行了深化，从更为深入、更为详尽的角度具体探讨了人工智能内生安全中的算法安全问题，同时还详尽介绍了人工智能赋能防御中的几种应对网络安全的方法，从而深入系统地诠释了人工智能内生安全及人工智能赋能防御的内涵。

该书的精彩之处在于书中融入了张小松团队近年来在相关领域的研究成果，既有理论探讨，也有实验结果分析。书中所介绍的人工智能算法安全性以及人工智能在网络安全防御中的应用是以该团队多年来的相关研究为底蕴，也算是对团队前期工作的一次梳理。

该书能为广大学者在人工智能算法安全性与安全应用研究方面提供帮助，也会促进对人工智能安全性的研究，尤其能为突破内生安全与赋能防御提供新的思路和启迪。

中国工程院院士

2021年1月

本文摘编自《人工智能算法安全与安全应用》（张小松，刘小垒，牛伟纳著.北京：科学出版社，2021.3）一书“第一章绪论”“序”，有删减修改，标题为编者所加。

(前沿信息技术的安全与应用丛书)

ISBN978-7-03-066907-0

责任编辑：张海娜赵微微

发展人工智能应作为国家战略

原标题：发展人工智能应作为国家战略

近年来，人工智能技术不断取得突破，且开始在具体的产业化、商业化项目中得到应用，出现新的发展趋势。第一，“深度学习”+“大数据”是当前人工智能发展的主要特征，人造神经网络能够像人一样学习和思考，使得人工智能能够处理更加复杂的任务，这一方式也成为大多数人工智能企业选择的技术路线。第二，实现了从实验技术向产业化的转变，在图像和语音识别、科学研究、预测分析等方面都已出现成熟的商业化产品。第三，应用的领域从商业、服务业向制造业、农业拓展，这使得人工智能越来越表现出通用技术和基础技术的特征。

随着技术进步和产业化的推进，人工智能未来发展的方向逐步明晰。一方面，人工智能作为基础技术，将实现与其他产业的深度融合。“深度模型+大数据”是现今非常流行的计算机解决问题的方法，例如，在深度学习系统识别语音和文字后，通过大数据库，计算机能够将其翻译成其他国家的语言；在无人驾驶系统中，计算机也要通过深度学习的方法了解外界环境中哪些是安全的、哪些是需要避让的、哪些是极度危险的，深度学习的结果用以指导计算机设计驾驶速度和路线，这是无人驾驶系统安全性的最基本保障；人工智能与机器人结合会创造真正会思考、能学习和动感情的机器人，这会极大提高机器人的使用体验，不仅提高工业领域机器人的生产效率和安全性，在商业场所和家庭，机器人也能够更好地为人类服务。

另一方面，随着人工智能在各个领域的产业化商业化应用取得显著成效，支持人工智能技术和产业化的发展几乎成为所有有能力的国家重点扶持的技术和产业。当然，各个国家根据自身定位和优势禀赋也有所侧重点，这将对人工智能的国际分工格局产生深远影响。例如，美国秉持领先全球技术和预防被潜在竞争对手超越的理念，更加注重人工智能基础技术的研发以及在军事等高端应用上对全球的引领；日本注重将人工智能与机器人产业相结合，继续巩固全球机器人强国的地位；德国将人工智能纳入到“工业4.0”框架中，通过人工智能进一步提升德国制造业的智能化水平；英国则更加注重相关人才的培育。

我国在人工智能领域发展上的优势

在全球人工智能发展浪潮中，我国人工智能技术、产业和市场近些年的发展取得了令人瞩目的成绩，并表现出与发达国家同步的趋势。与其他新兴行业比较，我国人工智能的发展有两个突出的优势。

一是实现了全方位的突破与发展。虽然我国很多产业实现了突破，但优势仅仅表现在某一领域或产业链的某一环节，而人工智能的发展却是在各个方面实现了与发达国家的同步甚至赶超。从技术研发上看，在“深度学习”、“深度神经网络”等领域，中国在全球知名期刊上发表论文的数量已经超过美国；中国人工智能专利申请数量仅次于美国位居全球第二；百度在2015年开发的深度学习语音识别率达到97%的准确率，被MIT评为2016年全球十大科技突破之一，这被誉为我国人工智能技术研发达到世界一流水平的重要里程碑。从投资看，国内人工智能领域投资自2010年开始进入爆发期，最近两三年投资进一步加快，中国已经是仅次于美国全球第二大人工智能融资国，投资机构的数量也在全球位列第三。从产业发展看，近年来我国人工智能产业规模年增速近40%，到2016年末达到约100亿的规模；不仅如此，我国人工智能产业体系初具雏形，北京、上海、深圳、成都等城市人工智能产业聚集已经形成；除了领先的BAT（百度、阿里巴巴和腾讯），中小企业和创业企业大量增长，在不同的人工智能细分和应用领域创新产品和服务模式，例如在机器视觉识别领域已经有成规模的自主品牌100多家，代理商300多家，专业机器视觉系统集成商100多家。

二是在应用上有显著优势。客观上讲，国外企业在人工智能核心技术研发上具有短期内难以超越的优势和资源。例如脸书公司的大数据信息挖掘、苹果公司的语音识别、Uniqul的人脸识别技术全球领先，国外人工智能的商业化运营总体上看是依靠技术进步推动的。相比较，虽然我国在核心技术方面并没有表现出显著的优势，但在实现人工智能应用的场景优化及其相应的商业布局方面走在世界前列。例如，百度将语音技术、图片识别技术与O2O服务场景相融合，用户只需要输入一段语音就能够预订电影票、酒店和景区门票；阿里巴巴、京东等电商平台通过大数据挖掘为用户推送具有潜在购买欲望的产品；腾讯以微信、QQ为平台向客户精准投放新闻和广告等等。我国是全球人口最多、移动通讯用户最多、手机应用下载和在线用户最多、制造业规模最大的国家，这些共同支撑中国必然成为全球最大的人工智能应用市场，我国近年来人工智能高速发展也是以率先实现商业运用为引领的。

同时也需要看到，我国在人工智能领域主要存在以下三个方面的劣势：一是在人工智能重大基础理论研究上原创能力相对不足；二是高端芯片、基础材料、元器件、软件与接口等方面的技术对外依赖性较高；三是国内人工智能尖端人才远远不能满足需求。

确保我国在人工智能领域竞争中把握主动的政策建议

将加快发展人工智能上升到国家战略高度。人工智能作为影响广泛的颠覆性基础技术，将对未来各行业的发展产生深远影响。正因为如此，美国将其列为国家战略，并相继发布了《为人工智能的未来时刻准备着》和《国家人工智能研究与发展战略规划》两个重要战略文件，欧盟也推出了《欧盟机器人研发计划》，人工智能已然成为国与国之间科技实力与经济未来竞争的制高点。我国应高度重视人工智能的发展，并将其上升到国家战略的高度。在顶层设计之下，瞄准若干方向进行重点攻关，最终形成具有国际竞争力的技术研发能力和细分产业。

发挥产业优势，加强融合发展。虽然在核心技术方面与世界领先还有明显的差距，但我国拥有全球最大规模的人工智能应用市场。通过与其他产业的融合发展，能够发挥我国在人工智能应用场景优化以及相关商业布局方面的显著优势，在人工智能国际竞争中形成核心竞争力。加强实体经济部门，特别是具有国际竞争力的制造企业在核心技术、关键应用等领域与国内外人工智能公司开展深入合作，利用在传统市场上形成的优势以及对专业领域的理解，将人工智能作为产业转型升级的重要工具。

以建立人工智能与智能制造创新中心为抓手，促进人工智能在制造业领域的应用研究与技术推广。创新中心聚焦于人工智能在制造业应用中共性技术的研发与推广。人工智能与智能制造创新中心可采取“公私合作”的运营模式，并建立由技术专家、政府官员、企业家代表和学者共同治理的机制。

建立“人工智能国家实验室”，强化基础研究。“人工智能国家实验室”聚焦于任务导向型、战略性的前沿基础技术的研究，依靠跨学科、大协作和高强度资金支持开展人工智能领域的协同创新和战略性研究，加强在大数据智能、人机混合智能、群体智能、自主协同等方面的基础理论研究，并前瞻性布局高级机器学习、类脑智能计算、量子智能计算等跨领域基础理论研究。

重视并积极应对人工智能普及可能造成的社会问题。人工智能对人类社会的影响远远不止经济方面的，越来越多的社会问题会随着人工智能的普及不断出现。例如人工智能在“犯错”时，如何判定谁来对错误负责需要建立专门的机构和制定相关的法律法规。对于中国而言，还要积极应对人工智能带来的就业结构的变化。我国是劳动力大国，目前大量劳动者集中于中低端岗位，将会有大量这些岗位逐渐被人工智能替代。因此需要深入调整改革学校（特别是职业学校）的专业、课程设置，培养符合人工智能大量普及社会的劳动者。

（作者单位：中国社会科学院工业经济研究所，中南大学商学院）

(责编：易潇、孟哲)

分享让更多人看到

李峥：总体国家安全观视角下的人工智能与国家安全 人工智能对国家安全的影响有哪些呢