人工智能的安全问题不容忽视人工智能对国家安全的影响有哪些方面的问题

发表时间：2023-07-05 04:00:33

人工智能的安全问题不容忽视

现在有很多技术可以欺骗人工智能，也有很多人工智能技术被用来欺骗人。在人工智能（AI）时代，安全问题不容忽视。

近几年，人工智能技术在很多领域都取得了初步的成功，无论是图像分类、视频监控领域的目标跟踪，还是自动驾驶、人脸识别、围棋等方面，都取得了非常好的进展。那么，人工智能技术到底安全不安全?事实上，目前的人工智能技术还存在很多问题。

人工智能并不安全

现在有很多技术可以欺骗人工智能，如在图片上加入一些对抗干扰。所谓对抗干扰，就是针对智能判别式模型的缺陷，设计算法精心构造与正常样本差异极小、能使模型错误识别的样本。如图1所示，本来是一幅手枪的图片，如果加入一些对抗干扰，识别结果就会产生错误，模型会识别为不是枪。在人的前面挂一块具有特定图案的牌子，就能使人在视频监控系统中“隐身”(见图2)。在自动驾驶场景下，如果对限速标识牌加一些扰动，就可以误导自动驾驶系统识别成“Stop”(见图3)，显然这在交通上会引起很大的安全隐患。另一方面，人工智能的一些技术现在正在被滥用来欺骗人。例如，利用人工智能生成虚假内容，包括换脸视频、虚假新闻、虚假人脸、虚拟社交账户等。

图1被暴恐检测系统识别成正常图片

图2在智能监控下隐身

图3误导自动驾驶系统

不只在图片和视频领域，在语音识别领域也存在这样的安全隐患。例如，在语音中任意加入非常微小的干扰，语音识别系统也可能会把这段语音识别错。同样，在文本识别领域，只需要改变一个字母就可以使文本内容被错误分类。

除了对抗攻击这种攻击类型外，还有一种叫后门攻击的攻击类型。后门攻击是指向智能识别系统的训练数据安插后门，使其对特定信号敏感，并诱导其产生攻击者指定的错误行为。例如，我们在对机器进行训练时，在某一类的某些样本中插入一个后门模式，如给人的图像加上特定的眼镜作为后门，用一些训练上的技巧让机器人学习到眼镜与某个判断结果(如特定的一个名人)的关联。训练结束后，这个模型针对这样一个人还是能够做出正确的识别，但如果输入另一个人的图片，让他戴上特定的眼镜，他就会被识别成前面那个人。训练的时候，模型里留了一个后门，这同样也是安全隐患。

除了对抗样本、后门外，如果AI技术被滥用，还可能会形成一些新的安全隐患。例如，生成假的内容，但这不全都是人工智能生成的，也有人为生成的。此前，《深圳特区报》报道了深圳最美女孩给残疾乞丐喂饭，感动路人，人民网、新华社各大媒体都有报道。后来，人们深入挖掘，发现这个新闻是人为制造的。现在社交网络上有很多这样的例子，很多所谓的新闻其实是不真实的。一方面，人工智能可以发挥重要作用，可以检测新闻的真假;另一方面，人工智能也可以用来生成虚假内容，用智能算法生成一个根本不存在的人脸。

用人工智能技术生成虚假视频，尤其是使用视频换脸生成某个特定人的视频，有可能对社会稳定甚至国家安全造成威胁。例如，模仿领导人讲话可能就会欺骗社会大众。因此，生成技术是否需要一些鉴别手段或者相应的管理规范，这也是亟须探讨的。例如，生成虚假人脸，建立虚假的社交账户，让它与很多真实的人建立关联关系，甚至形成一些自动对话，看起来好像是一个真实人的账号，实际上完全是虚拟生成的。这样的情况该如何管理还需要我们进一步探索和研究。

人工智能安全隐患的技术剖析

针对AI的安全隐患，要找到防御的方法，首先要了解产生安全隐患的技术。以对抗样本生成为例，其主要分为2类：一类是白盒场景下对抗样本生成;另一类为黑盒场景下对抗样本生成。白盒场景的模型参数完全已知，可以访问模型中所有的参数，这个情况下攻击就会变得相对容易一些，只需要评估信息变化的方向对模型输出的影响，找到灵敏度最高的方向，相应地做出一些扰动干扰，就可以完成对模型的攻击。黑盒场景下攻击则相对较难，大部分实际情况下都是黑盒场景，我们依然可以对模型远程访问，输入样本，拿到检测结果，但无法获得模型里的参数。

现阶段的黑盒攻击可大致分为3类。第一类是基于迁移性的攻击方法，攻击者可以利用目标模型的输入信息和输出信息，训练出一个替换模型模拟目标模型的决策边界，并在替换模型中利用白盒攻击方法生成对抗样本，最后利用对抗样本的迁移性完成对目标模型的攻击。第二类是基于梯度估计的攻击方法，攻击者可以利用有限差分以及自然进化策略等方式来估计梯度信息，同时结合白盒攻击方法生成对抗样本。在自然进化策略中，攻击者可以以多个随机分布的单位向量作为搜索方向，并在这些搜索方向下最大化对抗目标的期望值。第三类是基于决策边界的攻击方法，通过启发式搜索策略搜索决策边界，再沿决策边界不断搜索距离原样本更近的对抗样本。

有攻击就有防御，针对对抗样本的检测，目前主要有3种手段。第一种，通过训练二分类器去分类样本是否受到干扰，但通用性会比较差。通常而言，训练一个分类器只能针对某一种特定的攻击算法，但在通常情况下并不知道别人使用哪一种攻击算法。第二种，训练去噪器。所谓的对抗干扰基本上都是样本中加入噪声，通过去噪对样本进行还原，从而实现防御。第三种，用对抗的手段提升模型的鲁棒性，在模型训练中加入对抗样本，模型面对对抗样本时会具有更强的鲁棒性，提高识别的成功率，但训练的复杂度较高。整体而言，这些方法都不很理想，我们亟须研究通用性强、效率高的对抗样本的防御方法。

针对换脸视频的生成，目前主流技术是基于自动编码器进行人脸图像重建。在模型训练阶段，所有的人脸图像使用同一个编码器，这个编码器的目标是学习捕捉人脸的关键特征。对于人脸重构，每个人的脸都有一个单独的解码器，这个解码器用于学习不同人的脸所具有的独特特征。利用训练后的编码器与解码器即可进行虚假人脸生成。

针对换脸视频的鉴别，目前主流技术是基于视觉瑕疵进行鉴别，这个假设是换脸视频具有不真实的情况。因此，可以对眨眼频率、头部姿态估计、光照估计、几何估计等提取特征，利用这些特征去判断人脸的图片或者视频的真假。

对抗攻防已取得一定研究成果

目前，我们在人工智能安全技术上加大了投入，围绕人工智能安全领域的问题开展了一些研究。

第一个工作是针对视频识别模型上的黑盒对抗攻击。在该工作中，我们利用对抗扰动的迁移性，将图像预训练模型中得到的扰动作为视频帧的初始扰动，并在此基础上利用自然进化策略对这些初始扰动噪声进行纠正。当我们得到针对视频域特殊纠正后的梯度信息后，采用投影梯度下降来对输入视频进行更新。该方法可以在黑盒场景下，对主流视频识别模型进行攻击，这也是全球在视频模型黑盒攻击上的第一个工作。我们实现的结果是在目标攻击情况下，需要3万至8万次查询就可以达到93%的攻击成功率，非目标攻击只需要数百个查询就可以完成对主流模型的攻击。目标攻击是指不仅让这个模型识别错，还要指定它把这个东西识别成什么，如把A的照片识别成B。非目标攻击是指只要识别错就可以了，识别成谁则不重要，如A的照片只要不识别成A就可以。

第二个工作是基于时空稀疏的视频对抗攻击。由于视频数据的维度很高，导致攻击算法的复杂度往往较高。对此，我们提出了基于时空稀疏的视频数据对抗攻击方法。时空稀疏是指在生成对抗扰动时，仅对特定帧的特定区域生成扰动，以此降低对抗扰动的搜索空间，提高攻击效率。在该工作中，为了实现时空稀疏，我们根据启发式规则衡量每个帧的重要性，选择视频帧的子集进行扰动;同时，在空间上我们选择指定帧的写入区域，如针对前景运动的人做一些干扰。以此实现高效的视频黑盒攻击。

第三个工作是针对视频识别模型进行后门攻击。针对后门攻击，之前的研究都集中于图像领域，且都是生成固定的棋盘格式的后门，这种方法在视频上的攻击成功率极低。对此，我们提出了一种针对视频数据的后门攻击方法。在该工作中，我们首先对视频数据进行后门生成，并将后门图案安插在视频中不显眼的角落，同时我们对原始视频其他内容施加一些对抗干扰，使得我们识别的模型更加侧重利用后门，以此得到污染数据，并用污染的数据替换原始数据集里对应的数据，实现后门攻击。该工作在公开数据集上取得了比较好的攻击结果，在很多类别上平均攻击成功率可以实现80%左右，远高于现有的基于图像数据的后门攻击方法。

技术对人工智能治理至关重要

未来，技术将在人工智能安全问题检测以及相应规则落实上发挥重要的作用。在保障模型安全方面，通过发展对抗攻防理论设计更加鲁棒的智能模型，确保智能系统在复杂环境下的安全运行，形成人工智能安全评估和管控能力。在隐私保护上，发展联邦学习及差分隐私等理论与技术，规范智能系统分析和使用数据的行为，保障数据所有者的隐私。针对智能系统决策的可解释性问题，发展机器学习可解释性理论与技术，提升智能算法决策流程的人类可理解性，建立可审查、可回溯、可推演的透明监管机制。在决策公平方面，可以利用统计学理论与技术，消除算法与数据中的歧视性偏差，构建无偏见的人工智能系统。最后，为了保证人工智能技术不被滥用，可以通过发展大数据计算与模式识别等理论与技术，预防、检测、监管智能技术被滥用的情况，创造有益于人类福祉的人工智能应用生态。

姜育刚，复旦大学教授、博士生导师，计算机科学技术学院院长、软件学院院长、上海视频技术与系统工程研究中心主任。

文/姜育刚

本文来自《张江科技评论》

人工智能对国家经济安全的影响研究

摘要

人工智能作为一项引领全球新一轮科技革命和产业变革的战略性技术，已经成为大国经济竞争的重要筹码。人工智能对国家经济安全的影响需要从国际政治经济和国家安全的角度来系统阐释，人工智能会给国家经济安全带来诸多风险，包括失业风险、平台垄断风险以及经济网络风险等。世界各国在加快发展人工智能的同时，必须改变对人工智能的定性，只有将该项技术视为一种全球性公益产品，并针对这些风险因素采取有效的政策管控措施，才能最大限度发挥出人工智能的技术优势，促进经济社会可持续发展。

内容目录：

1人工智能与平台的垄断性影响

2人工智能对国际经济竞争的影响

3人工智能对劳动力市场的影响

4人工智能对网络经济战的影响

5结语

0引言

关于人工智能（AI）的普遍定义在国际上经常被视为机器学习、计算机视觉等领域的统称。在当前国际经济竞争和国家经济安全愈发重要的时代背景下，对于人工智能的讨论在术语上缺乏针对性。在全球价值链网络紧密分工的今天，人工智能得到迅猛发展的证据不仅从投入的资源数量来衡量，而且需要从其产出的贡献来比对。根据美国麻省理工计算机科学与人工智能实验室估算，在2017—2030年间，全球大约55%的GDP影响将来自人工智能技术进步带动的生产率的提高。人工智能的图像识别的错误率从2010年的29%下降到2020年的不到2%，超过了人类的表现。更令人吃惊的是，这些快速的进步不仅适用于人工智能，同样也适用于机器人、传感器，以及通过数字化建立起来的工业4.0。

在人们对人工智能促进经济增长的强大能力感到吃惊的同时，很多学者也表达了对计算机算法完全替代人类功能的深度担忧。特别是在国家的经济安全层面上，人工智能技术在现实生活中的诸多不确定性，给整个社会可能带来的消极后果和安全风险需要进行深入研究。可以预见的是，与传统的工业革命相比，人工智能不仅在推动财富、技术和权力的变革过程体现得更为积极，基于人工智能“头雁效应”带动的多重技术叠加也正在对经济发展、社会进步、国际政治经济格局等多个方面产生重大而深远的影响。目前国内外文献关于经济安全的研究大多数聚焦于体系和制度本身，而很少从技术的角度来理解它。因此，本文的主要目的是，通过人工智能在平台垄断、地缘政治经济竞争、网络经济战等层面上的风险阐述，表明未来的国家经济安全的风险应更多地聚焦于技术要素，是因为拥有成熟人工智能技术和完善的产业技术生态的国家不仅能在激烈的国际经济竞争中脱颖而出，而且能具备维护本国经济安全的技术基础。

1人工智能与平台的垄断性影响

2020年新冠疫情爆发以来，生产力和劳动力因素变动的趋势展示了理解人工智能对经济安全影响的重要性。疫情隔离造成的全球经济停滞，突显出人工智能在提升社会潜在生产力效益方面不可替代的作用。疫情期间，基于AI技术的远程跟踪和检测、无人机配送以及在线办公和教育系统的迅速发展，让这项技术成为经济复苏的“启明星”。事实上，无论是从理论视角还是历史视角，亦或是技术角度来判断，人工智能在给生产力带来颠覆性变革的同时，也会带来显著的负面影响，并引发其他层面的担忧。

经济合作与发展组织（OECD）的报告多次指出人工智能和更广泛的数字化有可能在创新方面削弱竞争。人工智能技术带来高度的资源集中，在强大的网络效应包裹下愈发呈现出垄断市场的典型特征。事实证明，迄今为止互联网市场倾向于拥有高市场份额的大型数字平台。在此背景下，传统的实体企业被迫加入各大互联网平台的厮杀，成为平台巨头垄断道路上的牺牲品。要了解数字化新市场的竞争意义，还需要进行更细致的分析。数字经济市场在许多方面不同于“传统经济”市场。互联网大幅度降低了中小企业的成本，提高了它们快速扩大规模、收集潜在消费者信息以及创造新产品的能力。然而这些差异改变的不是市场结构而只是商业模式。“平台”模式是随着人工智能技术而蓬勃发展的一种商业模式，它严重依赖于直接和间接的网络效应来获得发展机会。直接的网络效应是指，使用同一平台的客户数量不断增加。这对于脸谱（Facebook）、推特（Twitter）和领英（LinkedIn）等这类社交媒体平台来说尤为重要。间接网络效应则是指，在平台的另一端，客户的价值和客户数量都在同步增加。正是由于这些间接的网络效应，企业可以通过从市场的另一方获利来补贴市场的支出成本。例如，社交媒体网站一边向用户提供免费服务，一边通过植入广告对广告公司收费。

因此，这对我们试图确定互联网市场的最佳竞争水平，提出了一大挑战。经济学家通常使用价格作为衡量竞争水平的指标，但在这种情况下，仅仅依靠价格是不够的，因为互联网平台市场两端的价格严重失衡。在搜索和社交网络领域占据主导地位的大公司，往往控制着人们获取新闻的渠道。持有准垄断地位的公司不但会失去继续提高其产品质量的动力，还可能利用人工智能技术达到生态和规模的双重垄断效应。当数字资产集中在少数几个主要平台上时，对人工智能初创企业的影响可能是毁灭性的。

首先在规模上的数据控制，对于那些想要创建或使用人工智能系统的公司来说，大规模的数据集是一个关键的输入，人工智能算法的初始训练和微调都离不开这些数据。即使是最好的人工智能算法，如果没有大数据集的辅助，也只能存在于理想蓝图当中。大型平台依据自身的规模优势强制平台商家把经营管理软件、数据等放在平台数据库中。服务平台商家的服务商必须使用该数据库以调取消费者数据，这就迫使部署在其他云平台的服务商被迫迁移至平台打造的服务器。如此一来，初创企业的数据来源就被彻底掐死。其次，鉴于人工智能相关产品和服务的开发及商业化将带来更大的生产力增长，生态垄断对于一个国家的经济安全来说，更是一个值得重视的问题。一旦互联网巨头手持资金、数据、流量、渠道和技术等关键发展资源，逼迫其他互联网企业选择站队，就将极大地破坏互联网竞争环境和产业生态。经济不仅不能得到迅速发展，而且将损害创业创新的活力，还将影响整个国家治理的进展和实效。

2人工智能对国际经济竞争的影响

国际上很多技术流派的政治学家都看到了人工智能技术在外交政策方面运用带来的变化和影响力。目前借助人工智能技术在改进决策过程的效率方面运用较为广泛，但事实上一些人工智能技术发展程度较高的国家已经开始基于人工智能预警系统，修改国家经济政策，包括预判国家经济安全面临的经济风险、及早制定预防政策，并用以确立国家经济安全的目标。可以说，人工智能技术中的机器学习、大数据分析和量子计算等技术共同构成了改变传统经济力量的等量方程式。

如果说人工智能技术是经济治国的工具的话，从更长远的周期来把握，它也将成为国际经济竞争的试金石。首先，一个国家人工智能技术水平的高低，直接反映在经济平衡账户的变化上，从而改变了各国经济安全的特征。发展中国家在人工智能开发方面处于绝对的弱势，虽然大力推广人工智能的应用也为这些国家的发展提供了新的机遇。发展中国家依靠人工智能技术刺激了新的消费需求，为政府增创收入贡献不小。但从经济发展的底层逻辑考虑，人工智能在不同国家、不同经济结构的土壤中，其发展的进程是非线性的。在一些欠发达地区由于技术和资金的局限性，人工智能技术往往用于创作实际回报率最低的新产品，在其国内投机性资本的推波助澜下，人工智能技术如果被无节制地引入实体经济部门，那么这些国家通过全球化浪潮所建立的工业资本链和资源流通链将面临解体的风险。也就是说，盲目的技术引进，可能带来的经济负面效应远大于实际收益。随着时间的推移，经济收益加在一起并复合起来，经济收益最高的国家集团和经济收益最低的国家集团之间的净经济影响差距可能会变得更大。

其次，面对不可抗拒的人工智能驱动型经济，技术民族主义将加速推动各国从顶层设计上制定人工智能发展战略。传统发达国家依靠技术优势和雄厚的资金支持，率先启动了人工智能的全球竞赛以获得更多经济实力的提升，达到重塑经济实力平衡的目的。美国作为世界上的人工智能创新中心，同时也成为全球人工智能霸主的有力候选者。拥有技术优势的国家，会选择把人工智能作为经济武器演化为维持全球性霸权的手段，不仅损害到其他国家的经济安全，也意味着自由主义世界经济秩序的基础受到侵蚀。霸权国家如果把人工智能当作一种战略性治国工具，那么世界上其他国家都有可能为了本国经济利益而试图争夺和控制人工智能。随着基于人工智能技术对经济利益的深度挖掘，技术塑造的新的财富生产和分配方式甚至可能颠覆原有的政治经济秩序。从全球实力动态核心的变化趋势来判断，并非所有的发达国家都具有维持人工智能优势的经济实力。全球范围内大幅度增长的人工智能投资引发的溢出效应，如中国所倡导的“数字丝绸之路”等议程也正在帮助发展中国家技术创新和经济增长。可以预见的是，拥有强大经济基础的新兴国家会依托人工智能优势在未来世界格局中占有一席之地。但那些人工智能产业发展滞后的国家，必然被全球价值链市场所抛弃，从而更广泛地加剧了国家之间的不平等。

3人工智能对劳动力市场的影响

对于大部分发展中国家来说，在面对无法逾越的人工智能技术鸿沟的同时，本国的经济还要承受大量缺乏技能的工人失业的阵痛。纵观历史，人们对自动化，包括机械化、计算机，以及人工智能等技术扼杀就业机会，并对劳动力市场造成损害的担心从未停止。早在20世纪30年代，英国经济学家凯恩斯就对“技术性失业”进行了详细定义。同样，诺贝尔经济学奖得主瓦西里·里昂惕夫（WassilyLeontief）注意到计算机芯片处理能力的显著提高，担心人类将被计算机所取代，就像内燃机的发明淘汰了马一样。历史上虽然出现了三次工业革命浪潮，但整个社会对人类劳动力的需求依然存在。

值得警惕的是，在第四次工业革命大背景下孕育的人工智能和以往任何一项技术都不同。人工智能作为一项变革性的经济技术，在增强创新动力和提高劳动生产率方面都有着显著的成效。麦肯锡的研究表明，每千名工人增设一台机器人，就业比率就会下降0.18～0.34个百分点，工资下降0.25～0.5个百分点。工业机器人的规模正在发达国家中扩展，2019年制造业大国德国有约190万台工业机器人活跃在工业4.0场景中，预计2025年，这一数字将增长至700万。按照预测的趋势，人工智能引发的失业浪潮不亚于经济大萧条。根据加拿大皇家银行全球资产管理公司的一项研究，机器人和自动化的成本已大幅下降。过去，工业机器人的高成本限制了其在汽车行业等少数高薪行业中的使用。但是，近年来机器人的平均成本大幅度降低，导致在亚洲的一些关键行业中，机器人的成本和低工资劳动力的单位成本正在逐渐趋同，机器人现在已成为劳动力的可行替代品。

人工智能技术的迅速增长，证明了它们对劳动力产生的重大影响。许多大型科技公司在没有大量员工的情况下实现了广泛的经济规模。美国《大西洋》杂志主编德里克·汤普森（DerekThompson）写道：“Google的市值达3,700亿美元，但只有大约55,000名员工，不到1960年代鼎盛时期大企业员工人数的十分之一”。美国人工智能专家马丁·福特（MartinFord）也发出同样强烈的警告。他在《隧道中的灯：自动化、加速技术和未来经济》一书中指出，“随着技术的发展，人工智能技术最终可能渗透到经济中，以致工资收入不再为广大消费者提供足够的可支配收入和对未来的信心。如果这个问题得不到有效解决，结果将是经济的螺旋式下降”。他甚至预言，“在将来的某个时刻，机器将能够全面接管所有的工种，我们当中大多数人将找不到任何新的工作机会”。

不可否认的是，人工智能叠加效应下的技术变革步伐不仅难以预估，对所有行业的传导和渗透速度更是超出人们想象。如果真的像《奇点临近》中所描述的那样，人工智能全面取代了人类劳动，那么由人工智能技术对就业以及劳动力市场造成冲击，从而引发社会秩序混乱，对国家的经济安全来说是灾难性的。就全球市场范围看，如果失业的工人考虑移民到其他国家，进而引发经济体之间的移民潮、甚至是难民潮，接收国的国家经济安全也必将遭受严重的威胁。在这种情况下，一场由人工智能引发的经济战争将不可避免，而战争的结果可能改变全球价值链的模式。

4人工智能对网络经济战的影响

就技术本身而言，在数字化时代利用人工智能技术摧毁一个国家的经济网络正变得更加切实可行。像人工智能这样能够进化的新兴技术，被各国家决策层视为经济治国的灵丹妙药[13]各国政府致力于开发复杂的算法，一方面是为了取得本国经济实践的成功，另一方面则是为了打击虚假网络信息，保障国家经济安全。虽然到目前为止，对“网络经济武器”并没有明确的定义，也没有出台具体的对抗措施。但随着将人工智能用作经济治国工具的频率增加，极有可能对国家安全产生影响。风险首先存在于人工智能在指挥与控制或决策支持系统中的应用。基于人工智能分析目标经济体的海量数据来实施经济破坏任务，或者通过社会操纵来制造有针对性的宣传以引起金融恐慌，正日益成为国家层面经济政策制定过程中必须考虑的现实问题。因此，无论是从应对其他国家的决策速度的角度，还是维护本国经济安全的政治考量，未来政策的制定和出台势必要得到技术官僚或者是人工智能技术的支持。

如果从战术特征看人工智能在网络经济战中的应用，该项技术让“蜂群战术”成为未来经济战的一个新兴特征。它既可以用来增加反介入和经济政策区域封锁能力，也可以对更强大的经济工具——如经济胁迫或摆脱经济监护——发起进攻。澳大利亚迪肯大学阿尔弗雷德·迪肯研究所的研究员马哈茂德·帕古（MahmoudPargoo）明确指出美国的制裁严重打击了伊朗的经济，伊朗的国家机器运转却依旧顺畅。背后的原因离不开伊朗人工智能技术部门对本国经济网络的保护。

除了能对经济安全实施保护，在人工智能的帮助下，国家从网络上提取恐怖主义相关内容也要容易得多。国家安全部门可以更积极地打击网络上的激进主义和极端主义。于是，我们不仅可以看到来自美国国防部主持的Maven项目中人工智能在反恐行动中展示的出色动态分辨能力，也可以感受卫星系统操控地面人工智能设备，进而指挥地面的无人机枪扫射和炸弹爆炸，暗杀伊朗核计划负责人、首席核科学家穆赫辛·法赫里扎德的强烈震撼。与此同时，技术的双面属性决定了当非国家行为者掌握人工智能并利用其获取非法来源，甚至为恐怖主义融资和洗钱时，人工智能技术对国家的金融稳定就是一项严重威胁。如果基于人工智能和区块链技术的比特币交易使用端对端的加密，国家监管机构几乎难以发现洗钱或资助恐怖主义的活动。一旦此类现象得不到有效的遏制，将给每一个国家带来经济安全的困境。对此，基于经济安全的全球性技术合作具有极高的迫切性。

5结语

在即将到来的人工智能时代，国际经济竞争被赋予了“双重意义”，在短期内它是一个与国家安全息息相关的议题，而从长期来看它又是一个国际治理的问题。与历史上的其他通用技术相比，人工智能在经济层面上的影响同样是无法估量的。然而，人工智能生态系统的不确定性和复杂性带来的风险，对国家经济安全也构成了结构性的挑战。越来越多的科学文献不仅注意到了人工智能对创新和经济的带动作用，更加关注如果人工智能技术的开发和部署未能得到有效处理，不平等现象引发的社会内部冲突可能会加剧，甚至威胁到国际就业市场和现有的全球经济秩序。在人工智能打造的新秩序下，基于经济竞争的考量而释放出更大的技术民族主义浪潮，将从根本上改变各国的经济政策。

此外，从人工智能改变财富分配方式的后续影响来看，全球顶级财富在发达经济体之间共享的现象引发的社会动荡隐患，决定了拥有人工智能霸权的利益集团必然需要通过全球合作并提供全球公共产品，来维护全球金融体系的基本稳定。表面上看，政府和国际组织对人工智能技术进行规制似乎能达到权力平衡的效果，但事实上并不能解决技术带来的系统性风险。在新的财富分配方式下，国家间对人工智能霸权的竞争已然成为既定现实。庆幸的是，人工智能竞赛尚处于早期阶段，寡头垄断式的市场结构并没有完全形成。因此，各国政府需要共同采取积极主动的监管政策，而不是把全部重心放在将人工智能作为国家经济治国的工具上。

在应对人工智能技术风险和国家治理方式上，欧盟可以说走在世界前列。在人工智能方面做出的种种举措透露出其致力成为制定全球技术标准的野心。欧盟所提倡的基于国际合作获得人工智能互惠互利的潜在机遇，不失为避免竞争带来生存危险的好办法。令人遗憾的是，在传统的国际共识中，国家间合作信任受到搭便车和缺乏集体行动等问题困扰。鉴于目前的国际无政府状态，各国只是在寻求其经济利益，而不是全球公共利益。总的来说，人工智能技术对国家经济安全的的结构性挑战在于对人工智能的定性。只有将该项技术视为一种全球公益产品，才能有利于确保人工智能革命的附加值在所有国家平等地传播，最终保护国际经济安全，促进可持续发展目标的实现。否则人工智能一直都将是悬在各国经济安全头顶的“达摩克利斯之剑”。

引用本文：戢仕铭.人工智能对国家经济安全的影响研究[J].信息安全与通信保密,2021(5):10-17.

作者简介

戢仕铭（1993—），男，博士，上海市人民政府决策咨询基地/余南平工作室研究员、华东师范大学国际关系与地区发展研究院博士研究生，主要研究方向为技术与国际关系、国际政治经济学、国家安全问题。

选自《信息安全与通信保密》2021年第5期（为便于排版，已省去原文参考文献）

声明：本文来自信息安全与通信保密杂志社，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系anquanneican@163.com。

【重磅】美国人工智能国家安全委员会（NSCAI）发布最终报告阐述如何维持美国在人工智能领域的统治地位

北京时间2021年3月2日凌晨一点，美国人工智能国家安全委员会召开委员会线上会议，发布了最终版本的研究报告。该报告就在人工智能时代保卫美国国家安全、美国如何在人工智能激烈竞争的时代赢得竞争，维持全球领导地位等展开了一系列论述，并在报告最后详细阐述了联邦各机构今后改革的行动路线。报告指出，自第二次世界大战以来，作为美国经济和军事力量支柱的技术优势首次受到威胁。如果当前的趋势不改变，中国就拥有未来十年内超越美国成为人工智能全球领导者的力量、人才和雄心。报告认为，为维护国家安全和提升国防能力，美国必须迅速而负责任地使用人工智能，为抵御这些威胁做好准备；中国有组织、有资源、有决心赢得这场人工智能竞争，尽管美国目前在关键领域保持优势，但趋势令人担忧。尽管激烈的竞争反应因深厚的学术和商业联系而变得复杂，但美国必须尽其所能保持其创新领导地位和全球地位，必须接受人工智能的竞争，并通过协调和调整美国的优势来组织赢得竞争。报告得出结论，要求美国应投入所需要的一切资源来保持创新领导地位，负责任地利用人工智能来捍卫自由人民和自由社会，并为全人类的利益推进科学前沿，人工智能将改变世界，美国发挥必须带头作用。

我们对本次最终报告前言、摘要、结论进行了编译整理，以供大家参考，需要注意的是，从摘要来看，最终版本报告与报告草稿相比变化巨大，说明该委员会审议草稿报告过程中产生了一些观点或表述的变化；但从主报告整体结构来看，最终报告与草稿报告的主要章节结构一致，并在报告最后增加了详细的行动路线图。该报告系统、详细总结梳理了美国人工智能发展面临的问题、给出了十分详细的未来发展改革方向，是近几年研究美国人工智能极为重要的报告，极具参考价值，值得学习借鉴。

一、前言

美国国家人工智能安全委员会（NSCAI）的任务是向总统和国会提出建议，以“推进人工智能、机器学习发展以全面解决美国国家安全和国防需求的相关技术。”在设立本委员会时，2019财年约翰·S·麦凯恩国防授权法案第1051节指示NSCAI从国家竞争力的角度审视人工智能及其维持技术优势的手段、国际合作和竞争力的趋势、促进基础和先进研究投资的方式、劳动力和培训、军事使用的潜在风险、伦理问题、建立数据标准和激励数据共享，以及人工智能的未来发展等方方面面。

人工智能国家安全委员会的15名委员由国会和行政部门提名，他们代表了一个由技术人员、企业高管、学术领袖和国家安全专业人员组成的多元化群体。所有委员以两党合作的方式处理了所有问题，并就最终报告达成了共识。委员会的运作遵循两项原则：行动的必要性和透明度的重要性。

行动

该委员会的工作包括2019年7月的初版报告、2019年11月和2020年10月的两份中期报告、两份额外的季度备忘录、一系列针对COVID-19大流行的特别文件，以及现在的最终报告。当我们在2019年春季开始工作时，等待在最终报告中提出建议不是一种选择。在一个时间点评估像人工智能这样的动态技术对国家安全的广泛影响就像试图在瓶子里捕捉闪电。科学家们不断地实现人工智能的突破，商业部门也在寻找新的方法来加速人工智能的应用。世界各地的竞争对手正在开发人工智能战略和投资资源。该委员会不断地提出建议，旨在配合人工智能发展的速度以及行政部门和国会在决定做什么时寻求帮助的愿望。国会已经通过了我们在2021财年国防授权法案中的一些建议，行政部门也采纳了这些建议。我们一直在努力向广大的利益相关者学习和教育，以便就人工智能将如何影响国家安全达成共识。

透明度

NSCAI一直致力于提高透明度。作为一个联邦咨询委员会，它已经举行了五次公开的全体会议，总计约15个小时的审议和在线直播，并在NSCAI网站上存档了所有会议记录。本委员会回应了二十多项《信息自由法》的要求，发布了2500多页的材料，前期已发布了700多页的草稿材料供公众审阅和评论。除了出于国家安全原因而保密的材料和问题外，委员会努力提供充分的透明度，每一次全体会议、季度报告和向国会提交报告之后都积极主动地与媒体接触。在几十个独立的项目中，我们与非政府组织、联邦政府组织和国际组织合作，向媒体和公众传达我们的建议。

最重要的是，我们在公共场合处理了人工智能最棘手的问题，并在咨询了广泛的民间组织、私营部门和政府团体后才提出了建议。我们试着去倾听和理解关于人工智能极其复杂方面的各种观点，聘请了伦理学家、技术专家和国家安全战略家，并已经和军队战士、外交官、学者、企业家等进行了沟通交流。总的来说，委员和工作人员参加了数百次讨论。当委员们就建议达成共识时，我们谨慎而谦虚地处理问题。

最终报告

最终报告提出了NSCAI的建议，作为赢得人工智能时代的战略，主报告的16章提供了主要建议。随附的行动蓝图概述了各部门和机构可采取的具体步骤，以执行NSCAI的建议。本委员会提供了尽可能多的具体内容，包括提供立法文本草案和行政命令，以帮助总统和国会迅速从理解人工智能转向为美国人民的利益而开展行动。最终报告是一个重要的步骤，但它不是NSCAI的最后动作。在委员会的剩余任期内，我们的工作将集中于执行该报告的内容，以帮助总统和国会开展投资，并提供各种建议，以赢得人工智能时代。

二、执行摘要

目前，没有任何令人满意的历史参考文献能帮助获取人工智能对国家安全的影响。人工智能的技术突破不像蝙蝠翼隐形轰炸机那样是单一的技术突破，人工智能全球领导地位的竞争也不像太空登月竞赛一般。人工智能甚至比不上电这样的通用技术。然而，托马斯·爱迪生关于“电”对未来的影响也同样适用于人工智能的未来影响：“它是所有领域的基础……掌握着重组世界的秘密。”爱迪生的惊人评价或许源于他本人的谦逊，但他所发现的一切“与未来出现的诸多可能性相比实在微不足道”。美国国家人工智能安全委员会（NSCAI）谦虚地承认，人工智能及其未来应用尚存在很多有待发现的地方。尽管如此，我们当前对人工智能的了解也已足够多，因此可以从两个信念入手分析。

首先，计算机系统解决问题和执行任务的能力正迅速提高，某些情况下甚至超过了人类的能力，而这些任务原本需要人类智慧来完成，这一影响正改变世界。人工智能技术是近几代人获得的最强大工具，可以扩展知识、增加繁荣并丰富人类经验。人工智能是典型的“两用”技术，由于机器具备比人类更快、更准确地感知、评估和行动能力，因此它在任何民用或军事领域都代表着竞争优势。人工智能技术将成为公司和国家利用它们的巨大力量之源。

图人工智能在重点领域的应用现状

图人工智能作为各领域发明引擎推动其发展

第二，人工智能正扩大美国已经开始步入的脆弱期。自第二次世界大战以来，作为美国经济和军事力量支柱的技术优势首次受到威胁。如果当前的趋势不改变，中国就拥有未来十年内超越美国成为人工智能全球领导者的力量、人才和雄心。与此同时，人工智能正在加深网络攻击和诈骗活动所构成的威胁，俄罗斯、中国和其他国家正利用这些活动渗透美国社会，窃取我们的数据，干涉我们的民主。迄今为止，人工智能攻击的有限使用只是冰山一角。与此同时，以新型冠状病毒（COVID-19）大流行和气候变化为代表的全球危机凸显了扩大国家安全概念的必要性，并找到了创新的人工智能解决方案。

鉴于上述信念，本委员会得出结论，美国现在必须采取行动部署人工智能系统，并在人工智能创新上投入更多资源，以保护其安全、促进其繁荣，并保障民主的未来。当前，美国政府并没有组织或投资来赢得与一个坚定的竞争对手的技术竞争，也没有准备好抵御人工智能带来的威胁，并为国家安全目的而迅速采用人工智能的相关应用。现在不是增加联邦研究预算或在五角大楼为硅谷技术人员增加几个新职位的时候，需要有一个更加高成本的、重大的观念转变。美国当前需要白宫的领导、内阁成员的行动以及国会两党的支持，才能够赢得人工智能竞争时代。

NSCAI的最终报告提出了一个整合的国家战略，以重组政府，调整国家定位，并团结美国最亲密的盟友和合作伙伴，以便能在即将到来的人工智能加速竞争和冲突时代开展冲突和竞争。这是一个两手准备的办法。第一部分——“在人工智能时代保卫美国”概述了利害关系，解释了美国必须做些什么来抵御与人工智能有关的各种威胁，并建议美国政府如何负责任地使用人工智能技术来保护美国人民和美国的利益。第二部分——“赢得技术竞争”阐述了人工智能竞争的关键要素，并建议政府必须采取行动促进人工智能创新，以提高国家竞争力和保护美国的关键优势。这些建议被设计成相互关联和相辅相成的行动，必须一起采取实施。

第一部分：在人工智能时代保卫美国

随着战略竞争对手开发用于军事和其他恶意用途的人工智能概念和技术，以及廉价和商业化的人工智能应用程序，人工智能增强能力将成为新时代冲突的首选工具。为维护国家安全和提升国防能力，美国必须迅速而负责任地使用人工智能，为抵御这些威胁做好准备，在自身未使用人工智能的情况下防御人工智能能力强的对手将是一场灾难。如果没有人工智能的帮助，人类操作员将无法跟上或防御人工智能的网络攻击或造谣欺诈、无人机群或导弹攻击机器等，因此国家安全专业人员必须拥有世界上最好的技术来保护自己，执行任务，并保卫公民。委员会建议政府采取下列行动：

防御新兴的人工智能对美国自由开放社会的威胁。各行各业对数字化的依赖正在将个人和商业弱点转化为潜在的国家安全弱点。对手正在使用人工智能系统来强化造谣欺诈活动和网络攻击，他们正在收集有关美国人的数据，建立其信仰、行为和生物构成的档案，以试图有针对性地操纵或胁迫相关人员。这场外国影响和干涉的风暴正在积聚，需要进行组织和政策改革，以增强我们的应变能力。政府需要成立一个特别工作组和全天候运营中心来对抗数字造谣欺骗，更好地保护自己的数据库，并在外国投资的筛选、供应链风险管理和国家数据保护立法方面优先考虑数据安全。政府应该利用人工智能网络防御来抵御人工智能网络攻击，生物安全必须成为国家安全政策的首要任务。

图以速度和规模交付人工智能

为未来战争做准备。如果美军不加速在军事任务中采用人工智能，美军可能会在未来十年内丧失竞争性军事技术优势。这将需要自上而下地领导与自下而上的创新相结合，以将操作相关的人工智能应用程序落实到位。国防部应：

为2025年前人工智能的广泛整合奠定基础。包括建立一个共同的数字基础设施，发展一支有数字素养的员工队伍，建立更加灵活的采购、预算和监督流程，还需要从军事系统中战略性地剥离那些对人工智能作战装备不足的系统，转而投资于下一代能力。

到2025年实现军事人工智能就绪状态。五角大楼领导层现在必须采取行动，推动组织改革，设计创新的作战概念，建立人工智能和数字战备性能目标，并定义联合作战网络架构，国防部还必须扩大和集中其人工智能研发组合。准备就绪还需要促进与盟国和合作伙伴人工智能的互操作性。

图国防部现在必须采取行动，将人工智能整合到关键功能、现有系统、演习和作战中，到2025年成为一支具备人工智能能力的部队

图国防部AIRDT&E投资（按作战领域划分），2015-2025财年

管理与人工智能和自主武器相关的风险。人工智能将使武器系统的性能和自主性达到新的水平，但也引发了围绕使用致命武器的重要法律、伦理和战略问题。只要其使用得到人类指挥官或操作员的授权，经过适当设计和测试的自动武器系统就可以以符合国际人道主义法的方式使用。国防部应严格现有武器的审查和瞄准程序，包括其自主武器系统专用协议和对强人工智能道德原则的承诺，能够确保美国部署安全可靠的人工智能自主武器系统，并以合法方式使用这些系统。虽然在全球范围内禁止人工智能和自主武器系统既不可行，也不符合美国的利益，但在全球范围内不受限制地使用此类系统可能会增加冲突意外升级和不稳定危机的风险。为降低风险，美国应（1）明确公开确认美国现行政策，即只有人类才能授权使用核武器，并寻求俄罗斯和中国的类似承诺；（2）与竞争对手建立讨论人工智能对危机稳定的影响的场所；（3）为开发、测试和使用人工智能和自主武器系统制定国际实践标准。

转变国家情报。情报机构应在其工作的各个方面，从收集到分析，采用并整合人工智能支持的能力。情报部门将比任何其他国家安全任务更受益于人工智能，为利用人工智能，国家情报局局长办公室需要授权并为其科技领导人提供资源。整个集成电路应利用开放源码和公开信息进行分析，并优先收集科学和技术情报。为获得更好的洞察力，情报机构需要开发创新的人机合作方法，利用人工智能增强人类的判断力。

扩大政府数字人才的规模。国家安全机构现在需要更多的数字专家，否则他们将对购买、制造和使用人工智能及相关技术毫无准备。国防部和集成电路领域的人才短缺是2025年做好人工智能准备的最大障碍。政府需要新的人才渠道，包括一所美国数字服务学院来培训现有和未来的员工，需要一个民间的国家数字后备军来招募包括行业专家、学者和刚毕业的大学毕业生等具有适当技能的人，需要一个模仿陆军医疗队的数字兵团来组织已经在政府服务的技术人员。

对人工智能系统建立合理的信心。如果人工智能系统经常不能按设计的方式工作或无法预测，可就能会产生重大的负面后果，那么领导人就不会采用这些系统，运营商就不会使用这些系统，国会也不会资助这些系统，美国人民也不会支持这些系统。为了建立合理的信心，政府应该集中精力确保其人工智能系统的坚实、健壮和可靠，包括通过在人工智能安全方面的研发投资，以及通过国家研究实验室领导的持续倡议推进人工智能团队合作等。随着支持人工智能的系统在数量、范围和复杂性上的增长，还应该增强国防部的测试和评估能力。政府应任命负责人工智能的高级领导，以改善行政领导和政策监督。

为国家安全提出一个使用人工智能的民主模式。人工智能工具对美国情报、国土安全和执法机构至关重要。公众信任将取决于合理的保证，即政府使用人工智能将尊重隐私、公民自由和公民权利。政府必须赢得这种信任，并确保其对人工智能工具的使用是有效、合法和合法的，这就迫切需要开发人工智能工具来加强监督和审计，提高人工智能使用的公共透明度，并建立人工智能系统来推进隐私保护和公平的目标。它还要求确保那些受到涉及人工智能的政府行动影响的人能够寻求补救并拥有适当的程序。政府应加强监督和治理机制，并成立一个特别工作组，对人工智能和隐私、公民自由和公民权利不断变化的关注进行评估。

第二部分：赢得技术竞争

研究、开发和部署人工智能及相关技术的竞赛正在加剧技术竞争，这是更广泛战略竞争的基础。中国有组织、有资源、有决心赢得这场人工智能竞争，尽管美国目前在关键领域保持优势，但趋势令人担忧。尽管激烈的竞争反应因深厚的学术和商业联系而变得复杂，但美国必须尽其所能保持其创新领导地位和全球地位。美国政府必须接受人工智能的竞争，并通过协调和调整美国的优势来组织赢得竞争。

以白宫为领导的技术竞争战略组织。美国必须将人工智能考虑从技术层面提升到战略层面。以人工智能为首的新兴技术如今支撑着我们的经济繁荣、安全和福利。白宫应该建立一个由副总统领导的新的技术竞争力委员会，综合考虑安全、经济和科学因素；制定一个全面的技术战略；并监督其实施。

赢得全球人才竞争。如果美国不在国内培养更多的潜在人才，不从国外招聘和留住更多现有人才，就有可能失去对稀缺人工智能专业知识的全球竞争力。美国必须在这两个方面采取积极行动。国会应通过第二部国防教育法案，以解决美国教育体系中的不足，从K-12和就业再培训到在对人工智能未来至关重要的领域投资数千个本科生和研究生奖学金。同时，国会应推行一项针对高技能移民的综合移民战略，通过新的激励措施和签证、绿卡和工作移动性改革，鼓励更多人工智能人才在美国学习、工作和继续留在美国。

加快国内人工智能创新。政府必须对人工智能研发进行新的重大投资，并建立一个国家人工智能研究基础设施，使全国人工智能发展所需资源的获取更加民主化。政府应：（1）将人工智能研发的非国防经费每年翻一番，到2026年达到每年320亿美元，建立国家技术基金会，使国家人工智能研究机构数量翻一番；（2）建立由云计算资源、试验台、大规模开放训练数据等组成的国家人工智能研究基础设施，以及一个开放的知识网络，该网络将扩大人工智能的使用范围，并支持科学和工程新领域的实验；（3）通过为人工智能创造市场和形成区域创新集群网络，增强商业竞争力。

图增强型人工智能研发投资，2015-2030财年

实施全面的知识产权政策和制度。美国必须承认知识产权政策是维护美国在人工智能和新兴技术领域领导地位的国家安全重点。鉴于正在中国努力利用知识产权政策，知识产权政策这一点正变得尤为重要。美国缺乏人工智能时代所需的全面知识产权政策，并且受到当前美国专利资格和可专利性理论中法律不确定性的阻碍。美国政府需要一个改革知识产权政策和制度的计划，以促进国家安全的优先事项。

为微电子设计和制造建立一个有弹性的国内基地。在引领微电子行业几十年之后，美国现在几乎完全依赖外国资源来生产尖端半导体，这些半导体为所有对国防系统和其他一切至关重要的人工智能算法提供动力。简而言之：如果政府不采取一致行动，美国先进芯片的供应链将面临风险。尽管重建国内芯片制造业成本高昂，但现在是时候采取相关行动了，美国应致力于一项战略，在最先进的微电子技术方面至少领先中国两代，并承诺提供资金和奖励，以保持美国具备多个尖端微电子制造的来源，保证供应链安全。

保护美国的技术优势。随着美国技术优势的差距缩小，外国获取美国技术诀窍和两用技术的努力增加，美国必须重新审视如何最好地保护那些思想和技术创新没有过度阻碍的公司。美国必须：

实现出口管制和外国投资甄别的现代化，以更好地保护关键的两用技术，包括建设监管能力和全面实施最近的立法改革，与盟国协调对先进半导体制造设备实施出口管制，以及扩大对竞争对手国家投资者的披露要求。

通过向政府机构、执法部门和研究机构提供工具和资源进行细致的风险评估，并分享有关具体威胁和战术的信息，与盟国和合作伙伴协调研究保护工作，将美国研究企业作为国家资产加以保护，加强对研究机构的网络安全支持，加强签证审查以限制有问题的研究合作。

建立良好的国际技术秩序。美国必须与盟国和伙伴携手合作，促进利用新兴技术加强民主规范和价值观，协调政策和投资，推动全球采用数字基础设施和技术，捍卫国际技术标准的完整性，合作推进人工智能创新，分享实践和资源，防止恶意使用技术和专制国家在民主社会中的影响。美国应该领导一个新兴技术联盟来实现这些目标，并建立一个全球多边人工智能研究所，以提高美国作为新兴技术全球研究中心的地位。国务院应该重新定位、重组，并提供资源，以领导新兴技术领域的外交。

图人工智能联盟与伙伴关系

赢得相关技术竞赛。在人工智能领域的领导地位是必要的，但对于美国的整体技术领导地位来说还不够。人工智能是新兴技术的核心，它使一些技术成为可能，而另一些技术则被其他技术所激活。因此，美国必须制定一份单一、权威的技术清单，以支撑21世纪的国家竞争力，并采取大胆的行动，推动美国在人工智能、微电子、生物技术、量子计算、5G、机器人和自主系统、增材制造业，以及储能技术的发展。美国在这些技术上的领先地位需要在特定的平台上进行投资，以实现转型突破，并在每个领域建立充满活力的国内制造业生态系统。与此同时，政府还需要不断地确定和优先考虑未来的新兴技术。

三、报告结论

这个新的竞争时代将改变我们所生活的世界和我们的生活方式。我们既可以塑造即将到来的变化，也可以被其所席卷、改变。我们必须知道，人工智能在生活各个方面的应用将不断增长，创新的步伐将不断加快，对手决心让人工智能能力对美国造成不利影响，中国正决心在人工智能领域超越我们。人工智能的进步是建立在自身发展基础上的，并赋予了重要的先发优势。现在美国必须采取行动，美国所确立的原则，进行的联邦投资，在国家安全领域培育的应用，重新设计的组织，建立的联盟和伙伴关系以及培养的人才等，都将决定美国的战略方向。美国应该投入所需要的一切资源来保持创新领导地位，负责任地利用人工智能来捍卫自由人民和自由社会，并为全人类的利益推进科学前沿。人工智能将改变世界，美国发挥必须带头作用！

四、主报告目录

第一部分：在人工智能时代保卫美国

第1章：人工智能时代的新兴威胁

第2章：未来防御的基础

第3章：人工智能与战争

第4章：自主武器系统和与人工智能作战的相关风险

第5章：人工智能与国家情报的未来

第6章：政府的技术人才

第7章：在人工智能系统中构建合理的信任

第8章：维护民主价值观：用人工智能促进国家安全的隐私、公民自由和公民权利

第二部分：赢得技术竞争

第9章：竞争与合作的战略

第10章：人才竞争

第11章：加速人工智能创新

第12章：知识产权

第13章：微电子

第14章：技术保护

第15章：有利的国际技术秩序

第16章：相关技术行动蓝图

附录

五、行动蓝图目录

第一部分

第1章：人工智能时代的新兴威胁打击人工智能支持的恶意信息操作准备人工智能支持的网络冲突

第2章：未来防御的基础

第3章：人工智能与战争

第5章：人工智能与国家情报的未来

第6章：政府技术人才

第7章：在人工智能系统中建立合理的信心

第8章：维护民主价值观：隐私，公民自由和公民权利在使用人工智能的国家安全

以下行动蓝图涵盖了NSCAI最终报告的第一部分。第一部分“在人工智能时代保卫美国”（第1-8章）概述了美国必须做些什么来抵御来自国家和非国家行为者的人工智能相关威胁，并建议美国政府如何负责任地使用人工智能技术来保护美国人民和我们的利益。这些行动蓝图补充了委员会的最后报告，反映了委员会的组织结构。行动蓝图为行政和立法部门保留美国人工智能领导地位的行动提供了更详细的路线图。他们确定谁应该采取特定的行动：国会，白宫，或行政部门或机构。委员会作为其建议的一部分，提供了经费或批款的估计增加额。所有包括供资数字的建议都应视为估计数，供国会和/或行政部门审议。

本报告不包含第四章的单独行动蓝图。这是因为鉴于这一专题的重要性，委员会选择在本章中详细阐述其论点、建议以及直接执行这些建议所需的具体行动。此外，关于美国应如何调整其TEVV政策以保持对人工智能系统的信心的更多细节，见第7章及其相关行动蓝图，关于国防部组织结构相关变化的建议，见第3章。

第二部分

第9章：竞争与合作战略

第9章附件：竞争与合作战略

第10章：人才竞争

第11章：加速人工智能创新

第12章：知识产权

第13章：微电子

第13章附件：微电子战略行政命令

第14章：技术保护

第14章附件：技术保护

第15章：有利的国际技术秩序

第15章附件：有利的国际技术秩序

第16章：相关技术

以下行动蓝图涵盖了NSCAI最终报告的第二部分。第二部分，“赢得技术竞争”（第9-16章），概述了人工智能在更广泛的技术竞争中的作用，并建议政府必须采取行动促进人工智能创新，以提高国家竞争力的各个方面，保护美国的关键优势。这些行动蓝图补充了委员会的最后报告，反映了委员会的组织结构。在委员会最终报告中建议的基础上，行动蓝图为行政和立法部门保留美国人工智能领导地位的行动提供了更详细的路线图。行动蓝图确定了谁应该采取特定行动——国会、白宫或行政部门或机构。委员会作为其建议的一部分，提供了经费或批款的估计增加额。所有包括供资数字的建议都应视为估计数，供国会和/或行政部门审议。

发展人工智能应作为国家战略

原标题：发展人工智能应作为国家战略

近年来，人工智能技术不断取得突破，且开始在具体的产业化、商业化项目中得到应用，出现新的发展趋势。第一，“深度学习”+“大数据”是当前人工智能发展的主要特征，人造神经网络能够像人一样学习和思考，使得人工智能能够处理更加复杂的任务，这一方式也成为大多数人工智能企业选择的技术路线。第二，实现了从实验技术向产业化的转变，在图像和语音识别、科学研究、预测分析等方面都已出现成熟的商业化产品。第三，应用的领域从商业、服务业向制造业、农业拓展，这使得人工智能越来越表现出通用技术和基础技术的特征。

随着技术进步和产业化的推进，人工智能未来发展的方向逐步明晰。一方面，人工智能作为基础技术，将实现与其他产业的深度融合。“深度模型+大数据”是现今非常流行的计算机解决问题的方法，例如，在深度学习系统识别语音和文字后，通过大数据库，计算机能够将其翻译成其他国家的语言；在无人驾驶系统中，计算机也要通过深度学习的方法了解外界环境中哪些是安全的、哪些是需要避让的、哪些是极度危险的，深度学习的结果用以指导计算机设计驾驶速度和路线，这是无人驾驶系统安全性的最基本保障；人工智能与机器人结合会创造真正会思考、能学习和动感情的机器人，这会极大提高机器人的使用体验，不仅提高工业领域机器人的生产效率和安全性，在商业场所和家庭，机器人也能够更好地为人类服务。

另一方面，随着人工智能在各个领域的产业化商业化应用取得显著成效，支持人工智能技术和产业化的发展几乎成为所有有能力的国家重点扶持的技术和产业。当然，各个国家根据自身定位和优势禀赋也有所侧重点，这将对人工智能的国际分工格局产生深远影响。例如，美国秉持领先全球技术和预防被潜在竞争对手超越的理念，更加注重人工智能基础技术的研发以及在军事等高端应用上对全球的引领；日本注重将人工智能与机器人产业相结合，继续巩固全球机器人强国的地位；德国将人工智能纳入到“工业4.0”框架中，通过人工智能进一步提升德国制造业的智能化水平；英国则更加注重相关人才的培育。

我国在人工智能领域发展上的优势

在全球人工智能发展浪潮中，我国人工智能技术、产业和市场近些年的发展取得了令人瞩目的成绩，并表现出与发达国家同步的趋势。与其他新兴行业比较，我国人工智能的发展有两个突出的优势。

一是实现了全方位的突破与发展。虽然我国很多产业实现了突破，但优势仅仅表现在某一领域或产业链的某一环节，而人工智能的发展却是在各个方面实现了与发达国家的同步甚至赶超。从技术研发上看，在“深度学习”、“深度神经网络”等领域，中国在全球知名期刊上发表论文的数量已经超过美国；中国人工智能专利申请数量仅次于美国位居全球第二；百度在2015年开发的深度学习语音识别率达到97%的准确率，被MIT评为2016年全球十大科技突破之一，这被誉为我国人工智能技术研发达到世界一流水平的重要里程碑。从投资看，国内人工智能领域投资自2010年开始进入爆发期，最近两三年投资进一步加快，中国已经是仅次于美国全球第二大人工智能融资国，投资机构的数量也在全球位列第三。从产业发展看，近年来我国人工智能产业规模年增速近40%，到2016年末达到约100亿的规模；不仅如此，我国人工智能产业体系初具雏形，北京、上海、深圳、成都等城市人工智能产业聚集已经形成；除了领先的BAT（百度、阿里巴巴和腾讯），中小企业和创业企业大量增长，在不同的人工智能细分和应用领域创新产品和服务模式，例如在机器视觉识别领域已经有成规模的自主品牌100多家，代理商300多家，专业机器视觉系统集成商100多家。

二是在应用上有显著优势。客观上讲，国外企业在人工智能核心技术研发上具有短期内难以超越的优势和资源。例如脸书公司的大数据信息挖掘、苹果公司的语音识别、Uniqul的人脸识别技术全球领先，国外人工智能的商业化运营总体上看是依靠技术进步推动的。相比较，虽然我国在核心技术方面并没有表现出显著的优势，但在实现人工智能应用的场景优化及其相应的商业布局方面走在世界前列。例如，百度将语音技术、图片识别技术与O2O服务场景相融合，用户只需要输入一段语音就能够预订电影票、酒店和景区门票；阿里巴巴、京东等电商平台通过大数据挖掘为用户推送具有潜在购买欲望的产品；腾讯以微信、QQ为平台向客户精准投放新闻和广告等等。我国是全球人口最多、移动通讯用户最多、手机应用下载和在线用户最多、制造业规模最大的国家，这些共同支撑中国必然成为全球最大的人工智能应用市场，我国近年来人工智能高速发展也是以率先实现商业运用为引领的。

同时也需要看到，我国在人工智能领域主要存在以下三个方面的劣势：一是在人工智能重大基础理论研究上原创能力相对不足；二是高端芯片、基础材料、元器件、软件与接口等方面的技术对外依赖性较高；三是国内人工智能尖端人才远远不能满足需求。

确保我国在人工智能领域竞争中把握主动的政策建议

将加快发展人工智能上升到国家战略高度。人工智能作为影响广泛的颠覆性基础技术，将对未来各行业的发展产生深远影响。正因为如此，美国将其列为国家战略，并相继发布了《为人工智能的未来时刻准备着》和《国家人工智能研究与发展战略规划》两个重要战略文件，欧盟也推出了《欧盟机器人研发计划》，人工智能已然成为国与国之间科技实力与经济未来竞争的制高点。我国应高度重视人工智能的发展，并将其上升到国家战略的高度。在顶层设计之下，瞄准若干方向进行重点攻关，最终形成具有国际竞争力的技术研发能力和细分产业。

发挥产业优势，加强融合发展。虽然在核心技术方面与世界领先还有明显的差距，但我国拥有全球最大规模的人工智能应用市场。通过与其他产业的融合发展，能够发挥我国在人工智能应用场景优化以及相关商业布局方面的显著优势，在人工智能国际竞争中形成核心竞争力。加强实体经济部门，特别是具有国际竞争力的制造企业在核心技术、关键应用等领域与国内外人工智能公司开展深入合作，利用在传统市场上形成的优势以及对专业领域的理解，将人工智能作为产业转型升级的重要工具。

以建立人工智能与智能制造创新中心为抓手，促进人工智能在制造业领域的应用研究与技术推广。创新中心聚焦于人工智能在制造业应用中共性技术的研发与推广。人工智能与智能制造创新中心可采取“公私合作”的运营模式，并建立由技术专家、政府官员、企业家代表和学者共同治理的机制。

建立“人工智能国家实验室”，强化基础研究。“人工智能国家实验室”聚焦于任务导向型、战略性的前沿基础技术的研究，依靠跨学科、大协作和高强度资金支持开展人工智能领域的协同创新和战略性研究，加强在大数据智能、人机混合智能、群体智能、自主协同等方面的基础理论研究，并前瞻性布局高级机器学习、类脑智能计算、量子智能计算等跨领域基础理论研究。

重视并积极应对人工智能普及可能造成的社会问题。人工智能对人类社会的影响远远不止经济方面的，越来越多的社会问题会随着人工智能的普及不断出现。例如人工智能在“犯错”时，如何判定谁来对错误负责需要建立专门的机构和制定相关的法律法规。对于中国而言，还要积极应对人工智能带来的就业结构的变化。我国是劳动力大国，目前大量劳动者集中于中低端岗位，将会有大量这些岗位逐渐被人工智能替代。因此需要深入调整改革学校（特别是职业学校）的专业、课程设置，培养符合人工智能大量普及社会的劳动者。

（作者单位：中国社会科学院工业经济研究所，中南大学商学院）

(责编：易潇、孟哲)

分享让更多人看到

张小松团队：人工智能算法安全与安全应用

张小松，电子科技大学教授，博士生导师，主要研究方向为网络安全，2019国家科技进步一等奖和2012国家科技进步二等奖的第一完成人，2020第二届全国创新争先奖和2017网络安全优秀人才奖获得者，四次获得省部技术发明/科技进步一等奖，担任提升政府治理能力大数据应用技术国家工程实验室专家委员会副主任委员，中国电子学会区块链分会副主任委员，国家重点研发计划网络空间安全重点专项首席科学家，发表SCI/EI学术论文139篇，以第一作者出版专著2部，译著2部，以第一发明人获授权国家发明专利42项。

人工智能算法安全与安全应用的相关研究属于网络安全领域。网络安全则是一门内涵在不断发展的伴随学科，任何一项技术的快速发展都会衍生出相应的安全问题，像量子计算、人工智能技术的发展更是会改变传统安全的思维方式。因此，人工智能技术的井喷式发展给网络空间安全领域带来了巨大的挑战与希望。

人工智能带来的希望主要在于：人工智能高效、准确的特点，能显著提升现有网络空间安全的防护能力，能大幅改善防护的实时性，因此，人工智能早已被应用于网络空间安全领域，且在应对部分人类难以解决的问题时，具有巨大的潜力。其带来的挑战在于：人工智能自身也存在数据安全、算法安全、隐私保护等安全问题，另外人工智能算法同样能为攻击者利用。

结合学术界和产业界的总结，人工智能算法安全与安全应用的内涵包括两个方面：

一是从安全的角度审视人工智能算法，认识并应对人工智能算法存在的缺陷，为人工智能算法的应用加上保险；

二是将人工智能算法应用到传统安全领域，提高相关防护方式的实时性、准确性。

《人工智能算法安全与安全应用》（张小松，刘小垒，牛伟纳著.北京：科学出版社，2021.3）一书主要依据作者团队所完成的具体科研项目与科研成果，围绕人工智能网络安全应用以及对人工智能算法自身安全性分析而展开介绍。

本书主要内容共三部分。

▲本书框架

▋第一部分人工智能算法安全与安全应用概述。首先总结人工智能技术的发展近况以及人工智能技术对人类生产生活的重要影响；其次，讨论人工智能算法安全与安全应用的研究范畴，并简要介绍各国对人工智能安全相关研究的重视程度；最后，对全书的脉络进行梳理与归纳。

▋第二部分探讨人工智能算法安全。首先，从人工智能算法鲁棒性的角度介绍针对人工智能模型的攻击方法，包括作者团队提出的多种利用目前人工智能算法鲁棒性缺陷而设计的对抗攻击算法；其次，对人工智能算法的安全性增强方法进行介绍，并对人工智能对抗样本的性质进行探讨；最后，从数据安全的角度介绍数据安全对人工智能算法决策以及对人工智能安全的影响，进而从数据保护、隐私保护的角度介绍几种数据保护方法，并分析近期提出的数据投毒防御方法。

▋第三部分是对网络空间安全问题与人工智能技术结合的总结，分别对主流的漏洞攻击、恶意代码攻击、匿名网络技术和APT技术进行介绍与归纳总结，并结合作者团队的研究经验对近年来人工智能技术与上述网络安全领域结合后的研究现状进行总结和梳理。

2020年6月我出版了《人工智能安全》一书，书中详细描述了人工智能的赋能效应与伴生效应。这期间恰好张小松教授把刚刚写好的《人工智能算法安全与安全应用》书稿给我看，该书确实是让我眼睛一亮。我所主编的《人工智能安全》更多地是从宏观的层面论述人工智能安全的整体面貌，而张小松教授的《人工智能算法安全与安全应用》是对其中的人工智能内生安全和赋能防御两个具体方面进行了深化，从更为深入、更为详尽的角度具体探讨了人工智能内生安全中的算法安全问题，同时还详尽介绍了人工智能赋能防御中的几种应对网络安全的方法，从而深入系统地诠释了人工智能内生安全及人工智能赋能防御的内涵。

该书的精彩之处在于书中融入了张小松团队近年来在相关领域的研究成果，既有理论探讨，也有实验结果分析。书中所介绍的人工智能算法安全性以及人工智能在网络安全防御中的应用是以该团队多年来的相关研究为底蕴，也算是对团队前期工作的一次梳理。

该书能为广大学者在人工智能算法安全性与安全应用研究方面提供帮助，也会促进对人工智能安全性的研究，尤其能为突破内生安全与赋能防御提供新的思路和启迪。

中国工程院院士

2021年1月

本文摘编自《人工智能算法安全与安全应用》（张小松，刘小垒，牛伟纳著.北京：科学出版社，2021.3）一书“第一章绪论”“序”，有删减修改，标题为编者所加。

(前沿信息技术的安全与应用丛书)

ISBN978-7-03-066907-0

责任编辑：张海娜赵微微

人工智能的安全问题不容忽视 人工智能对国家安全的影响有哪些方面的问题