专家：人工智能对国家政治安全带来5大挑战
人工智能技术的蓬勃发展和广泛应用，给人类生产生活带来了极大便利，同时，也对国家主权、意识形态、执政环境、社会关系、治国理念等带来冲击，深度影响国家政治安全。充分认清人工智能对国家政治安全的挑战，研究应对之策，对于有效维护国家政治安全，意义重大。
人工智能影响政治安全的机理
作为一种颠覆性技术，人工智能进入政治领域后，既具有技术影响政治安全的一般规律，又体现出其不同于以往技术的鲜明特点。
从技术影响政治安全的一般机理来看，主要体现在三个方面。第一，技术进步不可避免地直接或间接服务于政治安全。政治安全是国家安全的根本，经济、社会、网络、军事等领域安全的维系，最终都需要以政治安全为前提条件。因此，包括技术在内的一切社会条件，首要的任务是为政治安全提供服务和保证。综观人类历史上的技术进步，往往被首先考虑用于维护国家安全特别是政治安全，尽管这些技术研发的初衷并非如此。人工智能亦然。第二，政治安全与技术进步相生相克、相生相长。马克思认为，先进技术进入政治领域后，有效提高了“社会控制和权力再生产”。同时，政治安全对技术进步的需求，反过来成为技术不断进步的推动力。但技术并非完美的政治工具。一旦技术利用不当、发生技术失控，或者技术自身缺陷所蕴含的风险爆发，政治安全可能被技术进步反噬。第三，技术进步倒逼政治发展转型，给政治安全带来新课题新挑战。从历史上看，技术进步对社会结构、社会关系、社会文化等带来的变化和冲击，从来不以人的意志为转移。当火枪火炮成为主战兵器时，继续用木盾藤牌来保卫政权的行为无疑是愚蠢的，迫切需要当政者转变思想观念，寻求能够有效维护政治安全的新模式新方法。当计算机网络技术逐渐普及时，西方国家政党纷纷利用互联网进行政治宣传和选举拉票。人工智能较之以往的技术，拥有前所未有的机器“主观能动性”优势，必将对政治安全理念、安全机制、安全路径等带来更大的改变。
从人工智能影响政治安全的独特机理来看，主要体现在两个方面。第一，算法和大数据将左右智能机器“认知”“判断”，继而影响政治行为体的抉择。人工智能的核心“三大件”是算法、算力和大数据。一方面，算法是否公正不偏袒、大数据是否真实完整未被删减篡改伪造污染，直接决定机器的研判结果，并影响人的判断和行为。另一方面，与传统的人口学变量的定量分析不同，大数据、云计算、机器学习等可以将数以亿计的政治行为体抽象成社会的“节点”，人工智能通过分析信息中节点的度数、介数和接近度，来揭示权力集聚规律、赢得政治威望的秘诀，这为执政安全提供了新的技术支撑和智慧渠道。第二，人工智能技术对经济、军事、社会、网络、信息等领域的影响向政治领域传导，间接冲击政治安全。作为一项赋能性技术，人工智能正在逐渐“改写”各领域的秩序规则，给各领域带来机遇和挑战。尽管以往的技术进步也是如此，但其影响的深度和广度远远不及人工智能。而且，以往各领域安全问题“错综复杂、交织并存”的程度，也远远不及人工智能时代高。其他领域的安全问题一旦发酵，极有可能冲击政治安全。
人工智能给政治安全带来新挑战
技术变革具有两面性，人工智能既是维护政治安全的新机遇，也是新挑战。
挑战之一：人工智能技术的普及应用，导致政治权力呈现出“去中心化”趋势。在人工智能时代，数据即代表着权力。掌握数据的主体既有国家权力机构，也有个人、企业团体、社会组织等非国家行为体。“互联网数据”结构的“多节点、无中心”设计，决定着处于线上社会任何位置的主体，均不可能比其他位置的主体位势高。人人都有“麦克风”“摄像机”，处处都是“舆论中心”“事发现场”，这一显著特征，弱化了传统的线下科层制国家管理结构和单向治理模式，政治话语权由政府这个传统的权力中心逐渐向社会层面弥散，国家治理难度大大增加，政治安全风险也大大增加。目前，这种风险已初露端倪。2019年9月，因有人线上传播“老师辱骂原住民学生是‘猴子’”的种族歧视谣言，印尼巴布亚省爆发严重骚乱，导致26人死亡、70余人受伤。
挑战之二：随着人工智能技术和数据垄断持续扩张，资本权力的扩张将危及国家权力边界。生产力的发展变化必将带来生产关系包括政治权力结构的调整。作为“第一生产力”的科学技术，其发展进步势必引起国家权力结构的调整。当人工智能技术广泛应用于经济社会各领域并引起变革时，将会推动国家治理结构与权力分配模式做出相应调整。从当前种种迹象来看，资本的权力依托技术和数据垄断持续扩张，将成为新时代国家治理结构调整的重大课题。一方面，人工智能技术研发门槛很高，依赖于大量的、长期的资本投入和技术积累，这导致社会各产业、各阶层、各人才群体间的技术研发能力、资源占有程度、社会影响力等方面极不平衡，以互联网商业巨头为代表的技术资本将占据明显优势。另一方面，人工智能技术强大的赋能作用，以及良好的经济社会应用前景，导致资本趋之若鹜。商业巨头实际上掌握了目前人工智能领域的大部分话语权，并正在逐步形成行业垄断。人工智能时代，巨头企业以强大资本为后盾，逐步垄断技术、控制数据，或将不可避免地在一定程度上逐渐分享传统意义上由国家所掌控的金融、信息等重要权力，进而可能插手政治事务。因此，国家是否有能力为资本权力的扩张设定合理的边界，是未来政治安全面临的重大挑战。
挑战之三：人工智能技术及其背后的数据和算法潜移默化引导公众舆论，进而影响人的政治判断和政治选择，间接把控政治走向。在人工智能时代，数据和算法就是新的权力。近年来围绕国家大选而展开的种种政治运作显示：拥有数据和技术能够从一定程度上影响政治议程。据有关媒体报道，2020年美国总统大选期间，有人利用网络社交平台的大量机器人账号，发布海量虚假信息，力图影响选民的认知、判断与选择。类似的情况，也曾出现在2016年的美国大选、2017年的英国大选和法国大选中。这些案例非常清晰地显示：只要拥有足够丰富的数据和准确的算法，技术企业就能够为竞争性选举施加针对性影响。当某种特定政治结果发生时，人们很难判断这是民众正常的利益诉求，还是被有目的地引导的结果。
挑战之四：人工智能技术可能被政治敌对势力用于实施渗透、颠覆、破坏、分裂活动。利用先进技术威胁他国政治安全，这样的例子屡见不鲜。计算机网络技术出现后，被西方国家用来进行网络窃密、网络攻击、网络勾联、传播政治谣言、意识形态渗透和进攻。人工智能时代，攻击一国人工智能系统或利用人工智能实施渗透、颠覆、破坏、分裂活动，带来的后果将比以往更为严重。
挑战之五：人工智能技术进步对主权国家参与国际竞争带来严峻挑战。人工智能是当前最尖端最前沿的技术之一，其核心技术多被美欧等发达国家所掌握。这些国家利用它提升生产自动化水平，提高劳动生产率，加快制造业回迁，将冲击发展中国家的传统比较优势，使后者在国际政治经济竞争格局和全球分工中处于更加不利的地位。通过发展军事智能化，进一步扩大对发展中国家的军事优势。国家之间一旦形成技术“代差”，综合实力差距将被进一步拉大。在这种情况下，技术强国对发展中国家实施政治讹诈和技术突袭的可能性增大。
多措并举，维护我国政治安全
政治安全事关我党生死存亡和国家长治久安，我们必须高度重视人工智能带来的政治安全挑战，多措并举，综合施策。
人工智能技术具有高度专业性和复杂性，企业、科研机构常常处于技术创新前沿，而国家政府则往往远离技术前沿，对技术的感知相对滞后，对技术的安全风险准备不足。为此，要强化风险意识，密切跟踪人工智能技术和应用的发展，运用系统思维，定期研判人工智能可能带来的政治风险，提高风险识别、防范和处置能力。要创新技术治理模式，构建政府主导，企业、研究机构、技术专家、公众等多方参与的人工智能治理体系。“治理”不同于“管理”，管理是政府单向的行为过程，治理则是一种开放的、多个利益攸关方参与的互动过程。通过多方互动，政府既可以跟踪掌握技术和应用的前沿动态、发展趋势，掌控治理主动权，又有助于企业、研究机构、专家、民众更好地了解政府关切，共商制定风险管控机制，推进治理工作的科学化民主化。
当前，我国在人工智能技术领域面临的最重大的安全威胁，是关键核心技术受制于人。从现在起到2030年，是我国抢抓机遇的关键期。要举全国之力，集全民之智，打造一批国家级人工智能研发平台，加强基础性、原创性、前瞻性技术研发，从智能芯片、基础算法、关键部件、高精度传感器等入手，加快核心技术突破。
没有规矩，不成方圆。针对技术应用风险，严格人工智能标准制定和行业监管，确保人工智能良性发展。紧跟技术发展变化，动态修订完善相关技术标准。加紧完善人工智能相关法律法规和伦理道德框架，对相关的民事与刑事责任确认、隐私和产权保护、机器伦理等问题予以明确,理顺设计者、使用者、监管者之间的权责关系。要建立健全人工智能监管体系,形成设计问责和应用监督并重的双层监管结构,实现对算法设计、产品开发、成果应用的全过程监管。积极促进行业自律,加大对数据滥用、算法陷阱、侵犯隐私、违背道德伦理、擅越权力边界等不良行为的惩戒力度。要积极主动参与人工智能国际议题设置，共同应对安全、伦理、法律等诸多挑战。抓住人工智能国际准则和配套法规刚刚起步之机，积极参与规则制定，及时宣示我国主张，努力掌握规则制定话语权和国际交往主动权。
针对外部安全风险，加强军事能力建设，为维护国家政治安全提供力量保证。要积极研究探索智能化战争理论，加快推进现代武器装备体系和人才队伍建设，强化智能化条件下部队训练演练，不断提升我军新时代军事斗争准备水平。
（作者：许春雷，系军事科学院博士研究生，现任河北省石家庄市鹿泉区人武部副部长）
【新闻链接】
计算力决定战斗力
战争是一门科学，也是一门艺术。战争中斗智斗勇，“算”起着举足轻重的作用。被兵家奉为经典的《孙子兵法》，其制胜要诀就是庙算。“夫未战而庙算胜者，得算多也；未战而庙算不胜者，得算少也。多算胜，少算不胜，而况于无算乎！”“知彼知己者，百战不殆。”“出其不意，攻其不备。”所有这些，都离不开“算”。
“算”与战争须臾也不曾分开。传统的中军帐、参谋部、指挥所都是“中心计算模式”。制导武器出现以来，算法的关键性赋能作用越发明显。从坦克装甲车辆的主动防护系统到军用飞机的自主控制系统，再到“爱国者”防空导弹的防空反导系统，算法已成为主战装备的标配。
人工智能的本质在于计算，决定计算效率的是算法。数据、计算能力、算法是人工智能的三大要素。数据是基础，算力是保障，算法才是人工智能的“大脑”。算法的先进程度，决定了人工智能的“聪明”程度。缺乏先进算法支撑，人工智能只能是“机器”；有了智能算法，机器就可能具有智慧、“灵魂”，就具备了自主能力。人工智能时代的“科技原力”是算法突破，算法是人工智能领域中的超尖端核心技术。从本质上讲，机器学习就是人工智能的一类核心算法。
从物理和数学角度看，战争本身就是一种运动，也可以用数学方法进行描述与分析。以往，受技术限制，计算多是粗略概算并服务于指挥员谋略，计算力一直是战斗力的配角。大数据技术的开发应用，是继云计算之后又一次颇具“颠覆性”意义的技术革命，这为应用数学工具对战争进行定量分析提供了动力。万物互联的智能化时代，“数字参谋”等人工智能军事化应用可以加速战场数据的信息融合，加快数据产生的速度，运用大数据方法挖掘信息宝藏成为适应时代的必然选择，也是世界新军事变革发展的必然趋势。
对于科幻电影《星球大战》迷来说，一定会对电影中那个名叫R2-D2的机智、勇敢而又憨态可掬的宇航技工机器人留下深刻印象。它是影片男主人公卢克·天行者飞行、战斗的重要助手。它虽然只有0.96米高，却有一个塞满了各种工具的附加臂，使它成为一名了不起的太空船技工和电脑接口专家。
如今，科幻电影中的场景，正在被美军变为现实。2020年12月15日，在加州比尔空军基地进行的一次训练中，美军首次实现了AI自主控制一套军用系统。美空军让AI副驾驶ARTU和人类飞行员共同驾驶一架U-2侦察机，模拟在导弹打击中执行侦察任务。ARTU是任务的指挥官，全权操控机载传感器应用和战术导航系统，并与人类飞行员共享雷达，掌握着人机团队的最终决定权。具体分工上，人类飞行员专注于寻找敌机，ARTU通过控制雷达和传感器等系统搜寻敌方导弹发射器。最终，在没有人类飞行员操控的情况下，ARTU自主作出决定，将雷达专门用于导弹搜寻与自我保护。对于这次训练，美国空军助理部长威尔·罗珀博士评价道：“算法战的时代已经开启。”
“算法战”概念源于一篇文章——2013年4月，美国智库“大西洋理事会”发表了一篇题为《“震网”事件预示“算法战”时代来临》的署名文章，指出“震网”病毒是首个用算法取代人手来扣动扳机的自主武器，这预示着“算法战”的时代或将来临。2016年9月，哈佛大学法学院发布题为《战争算法问责》的研究报告，将“战争算法”定义为“通过电脑代码表达、利用构建系统实现以及能在战争行动中运作的算法”。2017年4月，美国时任国防部常务副部长、“第三次抵消战略”设计者罗伯特·沃克正式提出算法战，并由其督建成立美国防部“算法战跨职能小组”，标志着美军智能化建设进入“快进”模式。
关于创建“算法战”的初衷，美国防部的表述为应对军事行动中的海量数据处理压力，首要任务是用于“情报战”，即运用大数据、计算机视觉及模式识别技术，提升“处理、分析与传送”战术无人机获取视频数据的自动化水平。严格地讲，算法本身的使用价值有限，只有与超算能力和大数据技术相结合才能产生魔力。“算法战”的实质是“智能+”战争，“外壳”是软件系统，“核心”是对数据资源的运用。智能化战场，取得智能优势是关键。而智能优势实质是信息优势、认知优势、决策优势和行动优势的高度统一。算法作为用系统的方法描述解决问题的策略机制，算法优势主导信息优势、认知优势、决策优势、行动优势。掌握算法优势的一方，能够快速准确预测战场态势，创新作战方法，实现“未战而先胜”。
在未来智能化战场，计算力决定战斗力，“算法战”蕴藏着改写战争游戏规则的巨大潜力。
【责任编辑：侯歆钰】人工智能对国家经济安全的影响研究
摘要
人工智能作为一项引领全球新一轮科技革命和产业变革的战略性技术，已经成为大国经济竞争的重要筹码。人工智能对国家经济安全的影响需要从国际政治经济和国家安全的角度来系统阐释，人工智能会给国家经济安全带来诸多风险，包括失业风险、平台垄断风险以及经济网络风险等。世界各国在加快发展人工智能的同时，必须改变对人工智能的定性，只有将该项技术视为一种全球性公益产品，并针对这些风险因素采取有效的政策管控措施，才能最大限度发挥出人工智能的技术优势，促进经济社会可持续发展。
内容目录：
1人工智能与平台的垄断性影响
2人工智能对国际经济竞争的影响
3人工智能对劳动力市场的影响
4人工智能对网络经济战的影响
5结语
0引言
关于人工智能（AI）的普遍定义在国际上经常被视为机器学习、计算机视觉等领域的统称。在当前国际经济竞争和国家经济安全愈发重要的时代背景下，对于人工智能的讨论在术语上缺乏针对性。在全球价值链网络紧密分工的今天，人工智能得到迅猛发展的证据不仅从投入的资源数量来衡量，而且需要从其产出的贡献来比对。根据美国麻省理工计算机科学与人工智能实验室估算，在2017—2030年间，全球大约55%的GDP影响将来自人工智能技术进步带动的生产率的提高。人工智能的图像识别的错误率从2010年的29%下降到2020年的不到2%，超过了人类的表现。更令人吃惊的是，这些快速的进步不仅适用于人工智能，同样也适用于机器人、传感器，以及通过数字化建立起来的工业4.0。
在人们对人工智能促进经济增长的强大能力感到吃惊的同时，很多学者也表达了对计算机算法完全替代人类功能的深度担忧。特别是在国家的经济安全层面上，人工智能技术在现实生活中的诸多不确定性，给整个社会可能带来的消极后果和安全风险需要进行深入研究。可以预见的是，与传统的工业革命相比，人工智能不仅在推动财富、技术和权力的变革过程体现得更为积极，基于人工智能“头雁效应”带动的多重技术叠加也正在对经济发展、社会进步、国际政治经济格局等多个方面产生重大而深远的影响。目前国内外文献关于经济安全的研究大多数聚焦于体系和制度本身，而很少从技术的角度来理解它。因此，本文的主要目的是，通过人工智能在平台垄断、地缘政治经济竞争、网络经济战等层面上的风险阐述，表明未来的国家经济安全的风险应更多地聚焦于技术要素，是因为拥有成熟人工智能技术和完善的产业技术生态的国家不仅能在激烈的国际经济竞争中脱颖而出，而且能具备维护本国经济安全的技术基础。
1人工智能与平台的垄断性影响
2020年新冠疫情爆发以来，生产力和劳动力因素变动的趋势展示了理解人工智能对经济安全影响的重要性。疫情隔离造成的全球经济停滞，突显出人工智能在提升社会潜在生产力效益方面不可替代的作用。疫情期间，基于AI技术的远程跟踪和检测、无人机配送以及在线办公和教育系统的迅速发展，让这项技术成为经济复苏的“启明星”。事实上，无论是从理论视角还是历史视角，亦或是技术角度来判断，人工智能在给生产力带来颠覆性变革的同时，也会带来显著的负面影响，并引发其他层面的担忧。
经济合作与发展组织（OECD）的报告多次指出人工智能和更广泛的数字化有可能在创新方面削弱竞争。人工智能技术带来高度的资源集中，在强大的网络效应包裹下愈发呈现出垄断市场的典型特征。事实证明，迄今为止互联网市场倾向于拥有高市场份额的大型数字平台。在此背景下，传统的实体企业被迫加入各大互联网平台的厮杀，成为平台巨头垄断道路上的牺牲品。要了解数字化新市场的竞争意义，还需要进行更细致的分析。数字经济市场在许多方面不同于“传统经济”市场。互联网大幅度降低了中小企业的成本，提高了它们快速扩大规模、收集潜在消费者信息以及创造新产品的能力。然而这些差异改变的不是市场结构而只是商业模式。“平台”模式是随着人工智能技术而蓬勃发展的一种商业模式，它严重依赖于直接和间接的网络效应来获得发展机会。直接的网络效应是指，使用同一平台的客户数量不断增加。这对于脸谱（Facebook）、推特（Twitter）和领英（LinkedIn）等这类社交媒体平台来说尤为重要。间接网络效应则是指，在平台的另一端，客户的价值和客户数量都在同步增加。正是由于这些间接的网络效应，企业可以通过从市场的另一方获利来补贴市场的支出成本。例如，社交媒体网站一边向用户提供免费服务，一边通过植入广告对广告公司收费。
因此，这对我们试图确定互联网市场的最佳竞争水平，提出了一大挑战。经济学家通常使用价格作为衡量竞争水平的指标，但在这种情况下，仅仅依靠价格是不够的，因为互联网平台市场两端的价格严重失衡。在搜索和社交网络领域占据主导地位的大公司，往往控制着人们获取新闻的渠道。持有准垄断地位的公司不但会失去继续提高其产品质量的动力，还可能利用人工智能技术达到生态和规模的双重垄断效应。当数字资产集中在少数几个主要平台上时，对人工智能初创企业的影响可能是毁灭性的。
首先在规模上的数据控制，对于那些想要创建或使用人工智能系统的公司来说，大规模的数据集是一个关键的输入，人工智能算法的初始训练和微调都离不开这些数据。即使是最好的人工智能算法，如果没有大数据集的辅助，也只能存在于理想蓝图当中。大型平台依据自身的规模优势强制平台商家把经营管理软件、数据等放在平台数据库中。服务平台商家的服务商必须使用该数据库以调取消费者数据，这就迫使部署在其他云平台的服务商被迫迁移至平台打造的服务器。如此一来，初创企业的数据来源就被彻底掐死。其次，鉴于人工智能相关产品和服务的开发及商业化将带来更大的生产力增长，生态垄断对于一个国家的经济安全来说，更是一个值得重视的问题。一旦互联网巨头手持资金、数据、流量、渠道和技术等关键发展资源，逼迫其他互联网企业选择站队，就将极大地破坏互联网竞争环境和产业生态。经济不仅不能得到迅速发展，而且将损害创业创新的活力，还将影响整个国家治理的进展和实效。
2人工智能对国际经济竞争的影响
国际上很多技术流派的政治学家都看到了人工智能技术在外交政策方面运用带来的变化和影响力。目前借助人工智能技术在改进决策过程的效率方面运用较为广泛，但事实上一些人工智能技术发展程度较高的国家已经开始基于人工智能预警系统，修改国家经济政策，包括预判国家经济安全面临的经济风险、及早制定预防政策，并用以确立国家经济安全的目标。可以说，人工智能技术中的机器学习、大数据分析和量子计算等技术共同构成了改变传统经济力量的等量方程式。
如果说人工智能技术是经济治国的工具的话，从更长远的周期来把握，它也将成为国际经济竞争的试金石。首先，一个国家人工智能技术水平的高低，直接反映在经济平衡账户的变化上，从而改变了各国经济安全的特征。发展中国家在人工智能开发方面处于绝对的弱势，虽然大力推广人工智能的应用也为这些国家的发展提供了新的机遇。发展中国家依靠人工智能技术刺激了新的消费需求，为政府增创收入贡献不小。但从经济发展的底层逻辑考虑，人工智能在不同国家、不同经济结构的土壤中，其发展的进程是非线性的。在一些欠发达地区由于技术和资金的局限性，人工智能技术往往用于创作实际回报率最低的新产品，在其国内投机性资本的推波助澜下，人工智能技术如果被无节制地引入实体经济部门，那么这些国家通过全球化浪潮所建立的工业资本链和资源流通链将面临解体的风险。也就是说，盲目的技术引进，可能带来的经济负面效应远大于实际收益。随着时间的推移，经济收益加在一起并复合起来，经济收益最高的国家集团和经济收益最低的国家集团之间的净经济影响差距可能会变得更大。
其次，面对不可抗拒的人工智能驱动型经济，技术民族主义将加速推动各国从顶层设计上制定人工智能发展战略。传统发达国家依靠技术优势和雄厚的资金支持，率先启动了人工智能的全球竞赛以获得更多经济实力的提升，达到重塑经济实力平衡的目的。美国作为世界上的人工智能创新中心，同时也成为全球人工智能霸主的有力候选者。拥有技术优势的国家，会选择把人工智能作为经济武器演化为维持全球性霸权的手段，不仅损害到其他国家的经济安全，也意味着自由主义世界经济秩序的基础受到侵蚀。霸权国家如果把人工智能当作一种战略性治国工具，那么世界上其他国家都有可能为了本国经济利益而试图争夺和控制人工智能。随着基于人工智能技术对经济利益的深度挖掘，技术塑造的新的财富生产和分配方式甚至可能颠覆原有的政治经济秩序。从全球实力动态核心的变化趋势来判断，并非所有的发达国家都具有维持人工智能优势的经济实力。全球范围内大幅度增长的人工智能投资引发的溢出效应，如中国所倡导的“数字丝绸之路”等议程也正在帮助发展中国家技术创新和经济增长。可以预见的是，拥有强大经济基础的新兴国家会依托人工智能优势在未来世界格局中占有一席之地。但那些人工智能产业发展滞后的国家，必然被全球价值链市场所抛弃，从而更广泛地加剧了国家之间的不平等。
3人工智能对劳动力市场的影响
对于大部分发展中国家来说，在面对无法逾越的人工智能技术鸿沟的同时，本国的经济还要承受大量缺乏技能的工人失业的阵痛。纵观历史，人们对自动化，包括机械化、计算机，以及人工智能等技术扼杀就业机会，并对劳动力市场造成损害的担心从未停止。早在20世纪30年代，英国经济学家凯恩斯就对“技术性失业”进行了详细定义。同样，诺贝尔经济学奖得主瓦西里·里昂惕夫（WassilyLeontief）注意到计算机芯片处理能力的显著提高，担心人类将被计算机所取代，就像内燃机的发明淘汰了马一样。历史上虽然出现了三次工业革命浪潮，但整个社会对人类劳动力的需求依然存在。
值得警惕的是，在第四次工业革命大背景下孕育的人工智能和以往任何一项技术都不同。人工智能作为一项变革性的经济技术，在增强创新动力和提高劳动生产率方面都有着显著的成效。麦肯锡的研究表明，每千名工人增设一台机器人，就业比率就会下降0.18～0.34个百分点，工资下降0.25～0.5个百分点。工业机器人的规模正在发达国家中扩展，2019年制造业大国德国有约190万台工业机器人活跃在工业4.0场景中，预计2025年，这一数字将增长至700万。按照预测的趋势，人工智能引发的失业浪潮不亚于经济大萧条。根据加拿大皇家银行全球资产管理公司的一项研究，机器人和自动化的成本已大幅下降。过去，工业机器人的高成本限制了其在汽车行业等少数高薪行业中的使用。但是，近年来机器人的平均成本大幅度降低，导致在亚洲的一些关键行业中，机器人的成本和低工资劳动力的单位成本正在逐渐趋同，机器人现在已成为劳动力的可行替代品。
人工智能技术的迅速增长，证明了它们对劳动力产生的重大影响。许多大型科技公司在没有大量员工的情况下实现了广泛的经济规模。美国《大西洋》杂志主编德里克·汤普森（DerekThompson）写道：“Google的市值达3,700亿美元，但只有大约55,000名员工，不到1960年代鼎盛时期大企业员工人数的十分之一”。美国人工智能专家马丁·福特（MartinFord）也发出同样强烈的警告。他在《隧道中的灯：自动化、加速技术和未来经济》一书中指出，“随着技术的发展，人工智能技术最终可能渗透到经济中，以致工资收入不再为广大消费者提供足够的可支配收入和对未来的信心。如果这个问题得不到有效解决，结果将是经济的螺旋式下降”。他甚至预言，“在将来的某个时刻，机器将能够全面接管所有的工种，我们当中大多数人将找不到任何新的工作机会”。
不可否认的是，人工智能叠加效应下的技术变革步伐不仅难以预估，对所有行业的传导和渗透速度更是超出人们想象。如果真的像《奇点临近》中所描述的那样，人工智能全面取代了人类劳动，那么由人工智能技术对就业以及劳动力市场造成冲击，从而引发社会秩序混乱，对国家的经济安全来说是灾难性的。就全球市场范围看，如果失业的工人考虑移民到其他国家，进而引发经济体之间的移民潮、甚至是难民潮，接收国的国家经济安全也必将遭受严重的威胁。在这种情况下，一场由人工智能引发的经济战争将不可避免，而战争的结果可能改变全球价值链的模式。
4人工智能对网络经济战的影响
就技术本身而言，在数字化时代利用人工智能技术摧毁一个国家的经济网络正变得更加切实可行。像人工智能这样能够进化的新兴技术，被各国家决策层视为经济治国的灵丹妙药[13]各国政府致力于开发复杂的算法，一方面是为了取得本国经济实践的成功，另一方面则是为了打击虚假网络信息，保障国家经济安全。虽然到目前为止，对“网络经济武器”并没有明确的定义，也没有出台具体的对抗措施。但随着将人工智能用作经济治国工具的频率增加，极有可能对国家安全产生影响。风险首先存在于人工智能在指挥与控制或决策支持系统中的应用。基于人工智能分析目标经济体的海量数据来实施经济破坏任务，或者通过社会操纵来制造有针对性的宣传以引起金融恐慌，正日益成为国家层面经济政策制定过程中必须考虑的现实问题。因此，无论是从应对其他国家的决策速度的角度，还是维护本国经济安全的政治考量，未来政策的制定和出台势必要得到技术官僚或者是人工智能技术的支持。
如果从战术特征看人工智能在网络经济战中的应用，该项技术让“蜂群战术”成为未来经济战的一个新兴特征。它既可以用来增加反介入和经济政策区域封锁能力，也可以对更强大的经济工具——如经济胁迫或摆脱经济监护——发起进攻。澳大利亚迪肯大学阿尔弗雷德·迪肯研究所的研究员马哈茂德·帕古（MahmoudPargoo）明确指出美国的制裁严重打击了伊朗的经济，伊朗的国家机器运转却依旧顺畅。背后的原因离不开伊朗人工智能技术部门对本国经济网络的保护。
除了能对经济安全实施保护，在人工智能的帮助下，国家从网络上提取恐怖主义相关内容也要容易得多。国家安全部门可以更积极地打击网络上的激进主义和极端主义。于是，我们不仅可以看到来自美国国防部主持的Maven项目中人工智能在反恐行动中展示的出色动态分辨能力，也可以感受卫星系统操控地面人工智能设备，进而指挥地面的无人机枪扫射和炸弹爆炸，暗杀伊朗核计划负责人、首席核科学家穆赫辛·法赫里扎德的强烈震撼。与此同时，技术的双面属性决定了当非国家行为者掌握人工智能并利用其获取非法来源，甚至为恐怖主义融资和洗钱时，人工智能技术对国家的金融稳定就是一项严重威胁。如果基于人工智能和区块链技术的比特币交易使用端对端的加密，国家监管机构几乎难以发现洗钱或资助恐怖主义的活动。一旦此类现象得不到有效的遏制，将给每一个国家带来经济安全的困境。对此，基于经济安全的全球性技术合作具有极高的迫切性。
5结语
在即将到来的人工智能时代，国际经济竞争被赋予了“双重意义”，在短期内它是一个与国家安全息息相关的议题，而从长期来看它又是一个国际治理的问题。与历史上的其他通用技术相比，人工智能在经济层面上的影响同样是无法估量的。然而，人工智能生态系统的不确定性和复杂性带来的风险，对国家经济安全也构成了结构性的挑战。越来越多的科学文献不仅注意到了人工智能对创新和经济的带动作用，更加关注如果人工智能技术的开发和部署未能得到有效处理，不平等现象引发的社会内部冲突可能会加剧，甚至威胁到国际就业市场和现有的全球经济秩序。在人工智能打造的新秩序下，基于经济竞争的考量而释放出更大的技术民族主义浪潮，将从根本上改变各国的经济政策。
此外，从人工智能改变财富分配方式的后续影响来看，全球顶级财富在发达经济体之间共享的现象引发的社会动荡隐患，决定了拥有人工智能霸权的利益集团必然需要通过全球合作并提供全球公共产品，来维护全球金融体系的基本稳定。表面上看，政府和国际组织对人工智能技术进行规制似乎能达到权力平衡的效果，但事实上并不能解决技术带来的系统性风险。在新的财富分配方式下，国家间对人工智能霸权的竞争已然成为既定现实。庆幸的是，人工智能竞赛尚处于早期阶段，寡头垄断式的市场结构并没有完全形成。因此，各国政府需要共同采取积极主动的监管政策，而不是把全部重心放在将人工智能作为国家经济治国的工具上。
在应对人工智能技术风险和国家治理方式上，欧盟可以说走在世界前列。在人工智能方面做出的种种举措透露出其致力成为制定全球技术标准的野心。欧盟所提倡的基于国际合作获得人工智能互惠互利的潜在机遇，不失为避免竞争带来生存危险的好办法。令人遗憾的是，在传统的国际共识中，国家间合作信任受到搭便车和缺乏集体行动等问题困扰。鉴于目前的国际无政府状态，各国只是在寻求其经济利益，而不是全球公共利益。总的来说，人工智能技术对国家经济安全的的结构性挑战在于对人工智能的定性。只有将该项技术视为一种全球公益产品，才能有利于确保人工智能革命的附加值在所有国家平等地传播，最终保护国际经济安全，促进可持续发展目标的实现。否则人工智能一直都将是悬在各国经济安全头顶的“达摩克利斯之剑”。
引用本文：戢仕铭.人工智能对国家经济安全的影响研究[J].信息安全与通信保密,2021(5):10-17.
作者简介
戢仕铭（1993—），男，博士，上海市人民政府决策咨询基地/余南平工作室研究员、华东师范大学国际关系与地区发展研究院博士研究生，主要研究方向为技术与国际关系、国际政治经济学、国家安全问题。
选自《信息安全与通信保密》2021年第5期（为便于排版，已省去原文参考文献）
声明：本文来自信息安全与通信保密杂志社，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系anquanneican@163.com。
【重磅】美国人工智能国家安全委员会（NSCAI）发布最终报告阐述如何维持美国在人工智能领域的统治地位
北京时间2021年3月2日凌晨一点，美国人工智能国家安全委员会召开委员会线上会议，发布了最终版本的研究报告。该报告就在人工智能时代保卫美国国家安全、美国如何在人工智能激烈竞争的时代赢得竞争，维持全球领导地位等展开了一系列论述，并在报告最后详细阐述了联邦各机构今后改革的行动路线。报告指出，自第二次世界大战以来，作为美国经济和军事力量支柱的技术优势首次受到威胁。如果当前的趋势不改变，中国就拥有未来十年内超越美国成为人工智能全球领导者的力量、人才和雄心。报告认为，为维护国家安全和提升国防能力，美国必须迅速而负责任地使用人工智能，为抵御这些威胁做好准备；中国有组织、有资源、有决心赢得这场人工智能竞争，尽管美国目前在关键领域保持优势，但趋势令人担忧。尽管激烈的竞争反应因深厚的学术和商业联系而变得复杂，但美国必须尽其所能保持其创新领导地位和全球地位，必须接受人工智能的竞争，并通过协调和调整美国的优势来组织赢得竞争。报告得出结论，要求美国应投入所需要的一切资源来保持创新领导地位，负责任地利用人工智能来捍卫自由人民和自由社会，并为全人类的利益推进科学前沿，人工智能将改变世界，美国发挥必须带头作用。
我们对本次最终报告前言、摘要、结论进行了编译整理，以供大家参考，需要注意的是，从摘要来看，最终版本报告与报告草稿相比变化巨大，说明该委员会审议草稿报告过程中产生了一些观点或表述的变化；但从主报告整体结构来看，最终报告与草稿报告的主要章节结构一致，并在报告最后增加了详细的行动路线图。该报告系统、详细总结梳理了美国人工智能发展面临的问题、给出了十分详细的未来发展改革方向，是近几年研究美国人工智能极为重要的报告，极具参考价值，值得学习借鉴。
一、前言
美国国家人工智能安全委员会（NSCAI）的任务是向总统和国会提出建议，以“推进人工智能、机器学习发展以全面解决美国国家安全和国防需求的相关技术。”在设立本委员会时，2019财年约翰·S·麦凯恩国防授权法案第1051节指示NSCAI从国家竞争力的角度审视人工智能及其维持技术优势的手段、国际合作和竞争力的趋势、促进基础和先进研究投资的方式、劳动力和培训、军事使用的潜在风险、伦理问题、建立数据标准和激励数据共享，以及人工智能的未来发展等方方面面。
人工智能国家安全委员会的15名委员由国会和行政部门提名，他们代表了一个由技术人员、企业高管、学术领袖和国家安全专业人员组成的多元化群体。所有委员以两党合作的方式处理了所有问题，并就最终报告达成了共识。委员会的运作遵循两项原则：行动的必要性和透明度的重要性。
行动
该委员会的工作包括2019年7月的初版报告、2019年11月和2020年10月的两份中期报告、两份额外的季度备忘录、一系列针对COVID-19大流行的特别文件，以及现在的最终报告。当我们在2019年春季开始工作时，等待在最终报告中提出建议不是一种选择。在一个时间点评估像人工智能这样的动态技术对国家安全的广泛影响就像试图在瓶子里捕捉闪电。科学家们不断地实现人工智能的突破，商业部门也在寻找新的方法来加速人工智能的应用。世界各地的竞争对手正在开发人工智能战略和投资资源。该委员会不断地提出建议，旨在配合人工智能发展的速度以及行政部门和国会在决定做什么时寻求帮助的愿望。国会已经通过了我们在2021财年国防授权法案中的一些建议，行政部门也采纳了这些建议。我们一直在努力向广大的利益相关者学习和教育，以便就人工智能将如何影响国家安全达成共识。
透明度
NSCAI一直致力于提高透明度。作为一个联邦咨询委员会，它已经举行了五次公开的全体会议，总计约15个小时的审议和在线直播，并在NSCAI网站上存档了所有会议记录。本委员会回应了二十多项《信息自由法》的要求，发布了2500多页的材料，前期已发布了700多页的草稿材料供公众审阅和评论。除了出于国家安全原因而保密的材料和问题外，委员会努力提供充分的透明度，每一次全体会议、季度报告和向国会提交报告之后都积极主动地与媒体接触。在几十个独立的项目中，我们与非政府组织、联邦政府组织和国际组织合作，向媒体和公众传达我们的建议。
最重要的是，我们在公共场合处理了人工智能最棘手的问题，并在咨询了广泛的民间组织、私营部门和政府团体后才提出了建议。我们试着去倾听和理解关于人工智能极其复杂方面的各种观点，聘请了伦理学家、技术专家和国家安全战略家，并已经和军队战士、外交官、学者、企业家等进行了沟通交流。总的来说，委员和工作人员参加了数百次讨论。当委员们就建议达成共识时，我们谨慎而谦虚地处理问题。
最终报告
最终报告提出了NSCAI的建议，作为赢得人工智能时代的战略，主报告的16章提供了主要建议。随附的行动蓝图概述了各部门和机构可采取的具体步骤，以执行NSCAI的建议。本委员会提供了尽可能多的具体内容，包括提供立法文本草案和行政命令，以帮助总统和国会迅速从理解人工智能转向为美国人民的利益而开展行动。最终报告是一个重要的步骤，但它不是NSCAI的最后动作。在委员会的剩余任期内，我们的工作将集中于执行该报告的内容，以帮助总统和国会开展投资，并提供各种建议，以赢得人工智能时代。
二、执行摘要
目前，没有任何令人满意的历史参考文献能帮助获取人工智能对国家安全的影响。人工智能的技术突破不像蝙蝠翼隐形轰炸机那样是单一的技术突破，人工智能全球领导地位的竞争也不像太空登月竞赛一般。人工智能甚至比不上电这样的通用技术。然而，托马斯·爱迪生关于“电”对未来的影响也同样适用于人工智能的未来影响：“它是所有领域的基础……掌握着重组世界的秘密。”爱迪生的惊人评价或许源于他本人的谦逊，但他所发现的一切“与未来出现的诸多可能性相比实在微不足道”。美国国家人工智能安全委员会（NSCAI）谦虚地承认，人工智能及其未来应用尚存在很多有待发现的地方。尽管如此，我们当前对人工智能的了解也已足够多，因此可以从两个信念入手分析。
首先，计算机系统解决问题和执行任务的能力正迅速提高，某些情况下甚至超过了人类的能力，而这些任务原本需要人类智慧来完成，这一影响正改变世界。人工智能技术是近几代人获得的最强大工具，可以扩展知识、增加繁荣并丰富人类经验。人工智能是典型的“两用”技术，由于机器具备比人类更快、更准确地感知、评估和行动能力，因此它在任何民用或军事领域都代表着竞争优势。人工智能技术将成为公司和国家利用它们的巨大力量之源。
图人工智能在重点领域的应用现状
图人工智能作为各领域发明引擎推动其发展
第二，人工智能正扩大美国已经开始步入的脆弱期。自第二次世界大战以来，作为美国经济和军事力量支柱的技术优势首次受到威胁。如果当前的趋势不改变，中国就拥有未来十年内超越美国成为人工智能全球领导者的力量、人才和雄心。与此同时，人工智能正在加深网络攻击和诈骗活动所构成的威胁，俄罗斯、中国和其他国家正利用这些活动渗透美国社会，窃取我们的数据，干涉我们的民主。迄今为止，人工智能攻击的有限使用只是冰山一角。与此同时，以新型冠状病毒（COVID-19）大流行和气候变化为代表的全球危机凸显了扩大国家安全概念的必要性，并找到了创新的人工智能解决方案。
鉴于上述信念，本委员会得出结论，美国现在必须采取行动部署人工智能系统，并在人工智能创新上投入更多资源，以保护其安全、促进其繁荣，并保障民主的未来。当前，美国政府并没有组织或投资来赢得与一个坚定的竞争对手的技术竞争，也没有准备好抵御人工智能带来的威胁，并为国家安全目的而迅速采用人工智能的相关应用。现在不是增加联邦研究预算或在五角大楼为硅谷技术人员增加几个新职位的时候，需要有一个更加高成本的、重大的观念转变。美国当前需要白宫的领导、内阁成员的行动以及国会两党的支持，才能够赢得人工智能竞争时代。
NSCAI的最终报告提出了一个整合的国家战略，以重组政府，调整国家定位，并团结美国最亲密的盟友和合作伙伴，以便能在即将到来的人工智能加速竞争和冲突时代开展冲突和竞争。这是一个两手准备的办法。第一部分——“在人工智能时代保卫美国”概述了利害关系，解释了美国必须做些什么来抵御与人工智能有关的各种威胁，并建议美国政府如何负责任地使用人工智能技术来保护美国人民和美国的利益。第二部分——“赢得技术竞争”阐述了人工智能竞争的关键要素，并建议政府必须采取行动促进人工智能创新，以提高国家竞争力和保护美国的关键优势。这些建议被设计成相互关联和相辅相成的行动，必须一起采取实施。
第一部分：在人工智能时代保卫美国
随着战略竞争对手开发用于军事和其他恶意用途的人工智能概念和技术，以及廉价和商业化的人工智能应用程序，人工智能增强能力将成为新时代冲突的首选工具。为维护国家安全和提升国防能力，美国必须迅速而负责任地使用人工智能，为抵御这些威胁做好准备，在自身未使用人工智能的情况下防御人工智能能力强的对手将是一场灾难。如果没有人工智能的帮助，人类操作员将无法跟上或防御人工智能的网络攻击或造谣欺诈、无人机群或导弹攻击机器等，因此国家安全专业人员必须拥有世界上最好的技术来保护自己，执行任务，并保卫公民。委员会建议政府采取下列行动：
防御新兴的人工智能对美国自由开放社会的威胁。各行各业对数字化的依赖正在将个人和商业弱点转化为潜在的国家安全弱点。对手正在使用人工智能系统来强化造谣欺诈活动和网络攻击，他们正在收集有关美国人的数据，建立其信仰、行为和生物构成的档案，以试图有针对性地操纵或胁迫相关人员。这场外国影响和干涉的风暴正在积聚，需要进行组织和政策改革，以增强我们的应变能力。政府需要成立一个特别工作组和全天候运营中心来对抗数字造谣欺骗，更好地保护自己的数据库，并在外国投资的筛选、供应链风险管理和国家数据保护立法方面优先考虑数据安全。政府应该利用人工智能网络防御来抵御人工智能网络攻击，生物安全必须成为国家安全政策的首要任务。
图以速度和规模交付人工智能
为未来战争做准备。如果美军不加速在军事任务中采用人工智能，美军可能会在未来十年内丧失竞争性军事技术优势。这将需要自上而下地领导与自下而上的创新相结合，以将操作相关的人工智能应用程序落实到位。国防部应：
为2025年前人工智能的广泛整合奠定基础。包括建立一个共同的数字基础设施，发展一支有数字素养的员工队伍，建立更加灵活的采购、预算和监督流程，还需要从军事系统中战略性地剥离那些对人工智能作战装备不足的系统，转而投资于下一代能力。
到2025年实现军事人工智能就绪状态。五角大楼领导层现在必须采取行动，推动组织改革，设计创新的作战概念，建立人工智能和数字战备性能目标，并定义联合作战网络架构，国防部还必须扩大和集中其人工智能研发组合。准备就绪还需要促进与盟国和合作伙伴人工智能的互操作性。
图国防部现在必须采取行动，将人工智能整合到关键功能、现有系统、演习和作战中，到2025年成为一支具备人工智能能力的部队
图国防部AIRDT&E投资（按作战领域划分），2015-2025财年
管理与人工智能和自主武器相关的风险。人工智能将使武器系统的性能和自主性达到新的水平，但也引发了围绕使用致命武器的重要法律、伦理和战略问题。只要其使用得到人类指挥官或操作员的授权，经过适当设计和测试的自动武器系统就可以以符合国际人道主义法的方式使用。国防部应严格现有武器的审查和瞄准程序，包括其自主武器系统专用协议和对强人工智能道德原则的承诺，能够确保美国部署安全可靠的人工智能自主武器系统，并以合法方式使用这些系统。虽然在全球范围内禁止人工智能和自主武器系统既不可行，也不符合美国的利益，但在全球范围内不受限制地使用此类系统可能会增加冲突意外升级和不稳定危机的风险。为降低风险，美国应（1）明确公开确认美国现行政策，即只有人类才能授权使用核武器，并寻求俄罗斯和中国的类似承诺；（2）与竞争对手建立讨论人工智能对危机稳定的影响的场所；（3）为开发、测试和使用人工智能和自主武器系统制定国际实践标准。
转变国家情报。情报机构应在其工作的各个方面，从收集到分析，采用并整合人工智能支持的能力。情报部门将比任何其他国家安全任务更受益于人工智能，为利用人工智能，国家情报局局长办公室需要授权并为其科技领导人提供资源。整个集成电路应利用开放源码和公开信息进行分析，并优先收集科学和技术情报。为获得更好的洞察力，情报机构需要开发创新的人机合作方法，利用人工智能增强人类的判断力。
扩大政府数字人才的规模。国家安全机构现在需要更多的数字专家，否则他们将对购买、制造和使用人工智能及相关技术毫无准备。国防部和集成电路领域的人才短缺是2025年做好人工智能准备的最大障碍。政府需要新的人才渠道，包括一所美国数字服务学院来培训现有和未来的员工，需要一个民间的国家数字后备军来招募包括行业专家、学者和刚毕业的大学毕业生等具有适当技能的人，需要一个模仿陆军医疗队的数字兵团来组织已经在政府服务的技术人员。
对人工智能系统建立合理的信心。如果人工智能系统经常不能按设计的方式工作或无法预测，可就能会产生重大的负面后果，那么领导人就不会采用这些系统，运营商就不会使用这些系统，国会也不会资助这些系统，美国人民也不会支持这些系统。为了建立合理的信心，政府应该集中精力确保其人工智能系统的坚实、健壮和可靠，包括通过在人工智能安全方面的研发投资，以及通过国家研究实验室领导的持续倡议推进人工智能团队合作等。随着支持人工智能的系统在数量、范围和复杂性上的增长，还应该增强国防部的测试和评估能力。政府应任命负责人工智能的高级领导，以改善行政领导和政策监督。
为国家安全提出一个使用人工智能的民主模式。人工智能工具对美国情报、国土安全和执法机构至关重要。公众信任将取决于合理的保证，即政府使用人工智能将尊重隐私、公民自由和公民权利。政府必须赢得这种信任，并确保其对人工智能工具的使用是有效、合法和合法的，这就迫切需要开发人工智能工具来加强监督和审计，提高人工智能使用的公共透明度，并建立人工智能系统来推进隐私保护和公平的目标。它还要求确保那些受到涉及人工智能的政府行动影响的人能够寻求补救并拥有适当的程序。政府应加强监督和治理机制，并成立一个特别工作组，对人工智能和隐私、公民自由和公民权利不断变化的关注进行评估。
第二部分：赢得技术竞争
研究、开发和部署人工智能及相关技术的竞赛正在加剧技术竞争，这是更广泛战略竞争的基础。中国有组织、有资源、有决心赢得这场人工智能竞争，尽管美国目前在关键领域保持优势，但趋势令人担忧。尽管激烈的竞争反应因深厚的学术和商业联系而变得复杂，但美国必须尽其所能保持其创新领导地位和全球地位。美国政府必须接受人工智能的竞争，并通过协调和调整美国的优势来组织赢得竞争。
以白宫为领导的技术竞争战略组织。美国必须将人工智能考虑从技术层面提升到战略层面。以人工智能为首的新兴技术如今支撑着我们的经济繁荣、安全和福利。白宫应该建立一个由副总统领导的新的技术竞争力委员会，综合考虑安全、经济和科学因素；制定一个全面的技术战略；并监督其实施。
赢得全球人才竞争。如果美国不在国内培养更多的潜在人才，不从国外招聘和留住更多现有人才，就有可能失去对稀缺人工智能专业知识的全球竞争力。美国必须在这两个方面采取积极行动。国会应通过第二部国防教育法案，以解决美国教育体系中的不足，从K-12和就业再培训到在对人工智能未来至关重要的领域投资数千个本科生和研究生奖学金。同时，国会应推行一项针对高技能移民的综合移民战略，通过新的激励措施和签证、绿卡和工作移动性改革，鼓励更多人工智能人才在美国学习、工作和继续留在美国。
加快国内人工智能创新。政府必须对人工智能研发进行新的重大投资，并建立一个国家人工智能研究基础设施，使全国人工智能发展所需资源的获取更加民主化。政府应：（1）将人工智能研发的非国防经费每年翻一番，到2026年达到每年320亿美元，建立国家技术基金会，使国家人工智能研究机构数量翻一番；（2）建立由云计算资源、试验台、大规模开放训练数据等组成的国家人工智能研究基础设施，以及一个开放的知识网络，该网络将扩大人工智能的使用范围，并支持科学和工程新领域的实验；（3）通过为人工智能创造市场和形成区域创新集群网络，增强商业竞争力。
图增强型人工智能研发投资，2015-2030财年
实施全面的知识产权政策和制度。美国必须承认知识产权政策是维护美国在人工智能和新兴技术领域领导地位的国家安全重点。鉴于正在中国努力利用知识产权政策，知识产权政策这一点正变得尤为重要。美国缺乏人工智能时代所需的全面知识产权政策，并且受到当前美国专利资格和可专利性理论中法律不确定性的阻碍。美国政府需要一个改革知识产权政策和制度的计划，以促进国家安全的优先事项。
为微电子设计和制造建立一个有弹性的国内基地。在引领微电子行业几十年之后，美国现在几乎完全依赖外国资源来生产尖端半导体，这些半导体为所有对国防系统和其他一切至关重要的人工智能算法提供动力。简而言之：如果政府不采取一致行动，美国先进芯片的供应链将面临风险。尽管重建国内芯片制造业成本高昂，但现在是时候采取相关行动了，美国应致力于一项战略，在最先进的微电子技术方面至少领先中国两代，并承诺提供资金和奖励，以保持美国具备多个尖端微电子制造的来源，保证供应链安全。
保护美国的技术优势。随着美国技术优势的差距缩小，外国获取美国技术诀窍和两用技术的努力增加，美国必须重新审视如何最好地保护那些思想和技术创新没有过度阻碍的公司。美国必须：
实现出口管制和外国投资甄别的现代化，以更好地保护关键的两用技术，包括建设监管能力和全面实施最近的立法改革，与盟国协调对先进半导体制造设备实施出口管制，以及扩大对竞争对手国家投资者的披露要求。
通过向政府机构、执法部门和研究机构提供工具和资源进行细致的风险评估，并分享有关具体威胁和战术的信息，与盟国和合作伙伴协调研究保护工作，将美国研究企业作为国家资产加以保护，加强对研究机构的网络安全支持，加强签证审查以限制有问题的研究合作。
建立良好的国际技术秩序。美国必须与盟国和伙伴携手合作，促进利用新兴技术加强民主规范和价值观，协调政策和投资，推动全球采用数字基础设施和技术，捍卫国际技术标准的完整性，合作推进人工智能创新，分享实践和资源，防止恶意使用技术和专制国家在民主社会中的影响。美国应该领导一个新兴技术联盟来实现这些目标，并建立一个全球多边人工智能研究所，以提高美国作为新兴技术全球研究中心的地位。国务院应该重新定位、重组，并提供资源，以领导新兴技术领域的外交。
图人工智能联盟与伙伴关系
赢得相关技术竞赛。在人工智能领域的领导地位是必要的，但对于美国的整体技术领导地位来说还不够。人工智能是新兴技术的核心，它使一些技术成为可能，而另一些技术则被其他技术所激活。因此，美国必须制定一份单一、权威的技术清单，以支撑21世纪的国家竞争力，并采取大胆的行动，推动美国在人工智能、微电子、生物技术、量子计算、5G、机器人和自主系统、增材制造业，以及储能技术的发展。美国在这些技术上的领先地位需要在特定的平台上进行投资，以实现转型突破，并在每个领域建立充满活力的国内制造业生态系统。与此同时，政府还需要不断地确定和优先考虑未来的新兴技术。
三、报告结论
这个新的竞争时代将改变我们所生活的世界和我们的生活方式。我们既可以塑造即将到来的变化，也可以被其所席卷、改变。我们必须知道，人工智能在生活各个方面的应用将不断增长，创新的步伐将不断加快，对手决心让人工智能能力对美国造成不利影响，中国正决心在人工智能领域超越我们。人工智能的进步是建立在自身发展基础上的，并赋予了重要的先发优势。现在美国必须采取行动，美国所确立的原则，进行的联邦投资，在国家安全领域培育的应用，重新设计的组织，建立的联盟和伙伴关系以及培养的人才等，都将决定美国的战略方向。美国应该投入所需要的一切资源来保持创新领导地位，负责任地利用人工智能来捍卫自由人民和自由社会，并为全人类的利益推进科学前沿。人工智能将改变世界，美国发挥必须带头作用！
四、主报告目录
第一部分：在人工智能时代保卫美国
第1章：人工智能时代的新兴威胁
第2章：未来防御的基础
第3章：人工智能与战争
第4章：自主武器系统和与人工智能作战的相关风险
第5章：人工智能与国家情报的未来
第6章：政府的技术人才
第7章：在人工智能系统中构建合理的信任
第8章：维护民主价值观：用人工智能促进国家安全的隐私、公民自由和公民权利
第二部分：赢得技术竞争
第9章：竞争与合作的战略
第10章：人才竞争
第11章：加速人工智能创新
第12章：知识产权
第13章：微电子
第14章：技术保护
第15章：有利的国际技术秩序
第16章：相关技术行动蓝图
附录
五、行动蓝图目录
第一部分
第1章：人工智能时代的新兴威胁打击人工智能支持的恶意信息操作准备人工智能支持的网络冲突
第2章：未来防御的基础
第3章：人工智能与战争
第5章：人工智能与国家情报的未来
第6章：政府技术人才
第7章：在人工智能系统中建立合理的信心
第8章：维护民主价值观：隐私，公民自由和公民权利在使用人工智能的国家安全
以下行动蓝图涵盖了NSCAI最终报告的第一部分。第一部分“在人工智能时代保卫美国”（第1-8章）概述了美国必须做些什么来抵御来自国家和非国家行为者的人工智能相关威胁，并建议美国政府如何负责任地使用人工智能技术来保护美国人民和我们的利益。这些行动蓝图补充了委员会的最后报告，反映了委员会的组织结构。行动蓝图为行政和立法部门保留美国人工智能领导地位的行动提供了更详细的路线图。他们确定谁应该采取特定的行动：国会，白宫，或行政部门或机构。委员会作为其建议的一部分，提供了经费或批款的估计增加额。所有包括供资数字的建议都应视为估计数，供国会和/或行政部门审议。
本报告不包含第四章的单独行动蓝图。这是因为鉴于这一专题的重要性，委员会选择在本章中详细阐述其论点、建议以及直接执行这些建议所需的具体行动。此外，关于美国应如何调整其TEVV政策以保持对人工智能系统的信心的更多细节，见第7章及其相关行动蓝图，关于国防部组织结构相关变化的建议，见第3章。
第二部分
第9章：竞争与合作战略
第9章附件：竞争与合作战略
第10章：人才竞争
第11章：加速人工智能创新
第12章：知识产权
第13章：微电子
第13章附件：微电子战略行政命令
第14章：技术保护
第14章附件：技术保护
第15章：有利的国际技术秩序
第15章附件：有利的国际技术秩序
第16章：相关技术
以下行动蓝图涵盖了NSCAI最终报告的第二部分。第二部分，“赢得技术竞争”（第9-16章），概述了人工智能在更广泛的技术竞争中的作用，并建议政府必须采取行动促进人工智能创新，以提高国家竞争力的各个方面，保护美国的关键优势。这些行动蓝图补充了委员会的最后报告，反映了委员会的组织结构。在委员会最终报告中建议的基础上，行动蓝图为行政和立法部门保留美国人工智能领导地位的行动提供了更详细的路线图。行动蓝图确定了谁应该采取特定行动——国会、白宫或行政部门或机构。委员会作为其建议的一部分，提供了经费或批款的估计增加额。所有包括供资数字的建议都应视为估计数，供国会和/或行政部门审议。
人工智能时代对信息安全的影响分析
摘要人工智能技术的蓬勃发展，产生许多新应用的同时，对网络信息安全工作也产生了深远的影响，特别是信息泄露、网络攻击、电信诈骗等欺诈、盗窃行为的升温，更加引起人民的警觉。本文从四个方面分析人工智能技术对信息安全的影响，从四个方面思考利用人工智能技术提升信息安全工作水平的途径，为做好信息安全工作提供思考。
关键词人工智能;信息安全;计算机
人工智能是计算机科学的一个分支，用以泛指让机器实现智能行为的一系列技术。这些技术包括机器视觉和听觉、自然语言处理、人工神经网络、机器学习、认知与推理、博弈论、机器人学等[1]。自1956年“人工智能”一词第一次出现在达特茅斯会议上，已经过去60多年。在经历了第一阶段的符号主义、第二阶段的数学建模之后，人工智能来到了移动互联网、大数据、超级计算、万物互联为技术基石的信息时代。
随着网络应用的全面普及，大量的隐私数据在互联网上流通，网络信息安全问题也在日渐成为人们的关注焦点。特别是信息泄露、黑客攻击、电信诈骗等欺诈、盗窃行为的升温，更加引起人民的警觉。人工智能时代对网络信息安全产生哪些影响，如何有效利用人工智能技术对提升网络信息安全防护水平，逐渐成为网络安全领域的重要问题之一。
1人工智能对信息安全的影响
（1）人工智能技术能有效提升信息安全工作的效率。现如今各个安全团队面临的最大困扰之一就是大量安全警报造成的疲劳。北美企业每天接到的安全警报数量高达1000条。大量恶意攻击行为被淹没在警报中没有得到认真对待。人工智能利用大数据、并行计算等技术，整合多个信息源，能够快速梳理处理数以百万计的数据流，并生成分析报告，有助于企业和网络安全公司获得准确的安全风险评估报告，有效提升网络安全工作的效率。
（2）人工智能技术为黑客攻击提供新的便利。人工智能技术的进步，为黑客的网络攻击也提供了新的便利。一方面，人工智能技术发现了计算机系统许多新的漏洞，为攻击提供了可能。另一方面，人工智能技术产生的新应用，成为黑客攻击的新目标。在GeekPwn2017国际安全极客大赛上，白帽黑客们上演了一场与现代科技的巅峰对决，攻击对象包括当下最火的人脸识别，以及声纹识别、使用银行卡在智能POS机消费等场景，令人惊叹的项目破解秀，揭露了新应用存在的安全問题。
（3）人工智能应用本身会产生新的安全问题。以智能交通领域为例，随着无人驾驶汽车以及智能交通系统的普及，有效提升了交通运行的效率，大大降低了交通事故的概率。但是在已有风险消除的同时，新的风险被引入：黑客可以从无线渠道侵入智能汽车终端、从有线渠道侵入后台信息控制系统，从而接管无人驾驶汽车甚至智能交通系统的控制权。实际上，无人驾驶汽车或者智能交通系统由复杂的自动化机器和信息系统组成，其信息采集、传输、处理各个要素环节都面临安全风险，目前已有黑客通过盗取移动App账号密码进而控制自动驾驶汽车的案例。
（4）人工智能对国家信息安全带来新的挑战。人工智能是把“双刃剑”，大数据、内存计算、区块链、并行计算等新技术、新业态的发展，一方面提升了信息化水平，另一方面也模糊了国家安全的边界[2]。人工智能技术本身并没有道德属性，对于使用者的身份、思想、动机不能进行有效的甄别和判断。从使用者角度来说，完全可能利用人工智能技术进行犯罪、网络诈骗，甚至进行恐怖主义活动，西方国家通过谷歌、脸书等网络应用，对全球信息进行整合，给国家信息安全带来全方位挑战。
2人工智能时代做好网络信息安全的思考
①将网络安全提升到国家战略的高度统一谋划。网络安全与国家安全息息相关，没有网络安全就没有国家安全，没有信息化就没有现代化，充分体现了网络安全、信息化、现代化对国家安全的重要作用。人工智能技术的进步，可以有效提升国家的情报搜寻、侦探，网络数据的分析和数字媒体的宣传创造能力[3]。这一能力将在开展国家级战略宣传、情报获取、意识形态斗争等行动中发挥极为重要的作用。②推动人工智能应用的普及。人工智能将成为推动我国信息社会变革的创新科技。国务院颁发的《新一代人工智能发展规划》提出，“人工智能在教育、医疗、养老、环境保护、城市运行、司法服务等领域广泛应用，将极大提高公共服务精准化水平，全面提升人民生活品质”。信息安全不是无根之木，大力普及人工智能应用，完善人工智能生态，一方面能推动相关技术的进步，另一方面也有助于提升信息安全的研究力度和研究水平。③积极拓展人工智能在信息安全领域的应用范围。人工智能对网络信息安全的影响深远，在网络安全的应用逐渐增多，特别是在主动防御、策略配置、安全防护等方面发挥的作用越来越大。但是目前来看，人工智能在信息安全领域的应用整体上仍处于探索阶段。需要不断拓展新的应用，特别是在侦测和清除僵尸网络设备、入侵检测、发现蠕虫病毒、识别垃圾邮件、发现和阻断未知类型恶意软件执行等方面进行新的尝试。④加强管理和技术两个方面的监管。为最大程度降低人工智能带来的安全风险，应从管理和技术两方面采取一系列应对措施。在管理上展开立法研究、标准制定、监管体系建设，加强对人工智能技术和产品的监管。在技术上，推动大数据时代用户隐私和数据保护技术的研究、提高人工智能技术和产品的内生安全性设计水平、对智能产品和技术应用可能带来的威胁风险进行从监测到应急处置等全安全要素的监控，提高风险控制与处置能力。
3结束语
人工智能技术是人类未来技术的发展方向，必然会对网络信息安全带来全新的机遇和挑战。准确把握人工智能的发展方向，大力开展人工智能技术研发，着力培养人工智能、信息安全人才，加强信息安全制度、法律机制建设，提升人工智能时代信息安全工作水平，是确保新时代国家安全的必由之路。
参考文献
[1]张拥军，唐俊.基于云模型的网络安全态势分析与评估[J].计算机工程与科学，2014，36（1）：63-67.
[2]杨鑫.基于云平台的大数据信息安全机制研究[J].情报科学，2017，35（1）：110-114.
[3]邵晓慧，季元翔，乐欢.云计算与大数据环境下全方位多角度信息安全技术研究与实践[J].科技通报，2017，33（1）：45-46.
作者简介
李家干（1990-），男，安徽省六安市人;学历：硕士研究生，职称：助理工程师职称，现就职单位：中国电子科技集团公司第三十八研究所，研究方向：人工智能、信息安全。
猜你喜欢信息安全计算机人工智能信息安全不止单纯的技术问题信息化建设(2021年5期)2021-01-16中国计算机报202007、08合刊中国计算机报(2020年7期)2020-09-10基于模糊综合评价法的信息安全风险评估模型智富时代(2019年6期)2019-07-24基于模糊综合评价法的信息安全风险评估模型智富时代(2019年6期)2019-07-24中国计算机报2019年48、49期合刊中国计算机报(2019年48期)2019-02-072019：人工智能商界(2019年12期)2019-01-03人工智能与就业IT经理世界(2018年20期)2018-10-24中国古代的“计算机”学苑创造·A版(2018年6期)2018-09-18数读人工智能小康(2017年16期)2017-06-07下一幕，人工智能！南风窗(2016年19期)2016-09-21科学与信息化2020年20期
科学与信息化的其它文章大数据时代地理信息测绘工作的转变分析论电子信息技术的应用特点与未来发展趋势基于PLC技术在电气工程自动化控制中的应用分析办公室自动化中计算机信息处理技术的应用探索探究智能化技术在电气工程自动化中的应用《统一建模语言UML》课程信息化建设浅谈当前人类社会面临的人工智能安全问题有哪些
在科技发展史上，科学技术的每一次进步和变革都会不可避免地带来“双刃剑”效应。
人工智能技术也是如此，它的提出到应用正在以惊人的速度改变着我们的生活方式，逐步渗透到了工业制造、家居、教育、医疗、物流等各行各业中。
虽然人工智能尚处于发展阶段，但这项技术可能带来的安全、伦理、隐私等一系列问题早已引起了人们的关注，这些问题直接影响着人们对人工智能技术的信任程度，随着智能革命的发展人们的生活也将迎来一场翻天覆地的变化。
当前人类社会面临的人工智能安全问题：鉴于人工智能算法与系统的特点，因人工智能技术的客观原因导致的安全问题主要源于以下三点。
（1）系统安全层面。集中表现为基础安全技术缺陷、智能硬件的系统漏洞，以及当前智能技术和产品供应链条的复杂性。
（2）算法透明度与可解释性层面。AI技术本身具有一定的不确定性，由于人类没有充分认识到人工智能算法的自主学习与决策过程，以深度学习为代表的人工智能算法经常被视作一个无人理解的黑箱。因此，人工智能算法可解释性和透明度的严重缺失，可能给人类社会带来巨大的影响。
（3）数据使用和隐私保护层面。人工智能的不断发展是建立在大量的个人数据的记录和分析之上的，所以如何在这个过程中保障个人隐私，合理地使用个人信息则是重中之重。
上述三个问题本身就是巨大的风险，同时由其引发的归责问题、监管问题乃至国家安全问题、社会安全问题等也都是人工智能发展面临的挑战。
安全是任何科技能够长足发展的前提，如何增加社会对科技的信任，如何让科技的发展遵循伦理道德要求都是需要考虑的问题。
好啦，这次的分享就到这里，我们下期再见！欢迎在评论区补充和留言。
人工智能安全学习笔记
任何一项新技术的发展与应用都存在相互促进又相互制约两个方面：一方面，技术的发展能带来社会的进步与变革；另一方面，技术的应用要以安全为前提，要受到安全保障机制的制约。
人工智能安全人工智能安全分为三个子方向：
人工智能助力安全（AIforSecurity）人工智能内生安全（AISecurity）人工智能衍生安全（AISafety）其中，助力安全体现的是人工智能技术的赋能效应；内生安全和衍生安全体现的是人工智能技术的伴生效应。人工智能系统并不是单纯依托技术而构建，还需要与外部多重约束条件共同作用，以形成完备合规的系统。
人工智能安全的体系架构及外部关联如图1所示。人工智能助力安全
主要表现为助力防御和助力攻击两个方面。
在助力防御方面，防御者正在利用人工智能技术提升和扩展其原有防御方法。人工智能机器学习模型为积极主动的网络防御带来了新途径。智能模型采用积极主动的方式，而不是传统的被动应对方式；同时，利用人工智能的预测能力和机器学习的进化能力，可以为我们提供抵御复杂网络威胁的手段。本质上来讲，最重要的变化是在网络攻击发生之前就进行预警并采取阻断措施。
麻省理工学院研发的基于人工智能的网络安全平台AI2，用人工智能方法来分析网络攻击情况，帮助网络安全分析师做那些类似“大海捞针”的工作。AI2系统首先利用机器学习技术自主扫描数据和活动，把发现的结果反馈给网络安全分析师。网络安全分析师将会标注哪些是真正的网络攻击活动，并将工程师的反馈纳入AI2系统，从而用于对新日志的自动分析。在测试中，研究小组发现AI2的准确性约为现今所使用的自动分析工具的3倍，大大减少误报的概率。另外，AI2在分析过程中可以不断产生新模型，这意味着它可以快速地改善自己的预测率。系统检测越多的攻击活动，收到来自分析师的反馈越多，相对地可以不断提高未来预测的准确性。据报道，AI2通过超过3.6亿行日志文件的训练，使其可以分析出85%的攻击行为，以便告警可疑行为。
在助力攻击方面，攻击者正在利用人工智能技术突破其原有能力边界。人工智能可以赋能网络攻击，业内称之为自动化或智能化网络攻击。通过机器人在人完全不干预的情况下，自动化地进行计算机的攻击。近年来连续发生的重大黑客事件，包括核心数据库泄密、数以亿计的账户遭入侵、WannaCry勒索病毒等都具有自动化攻击的特点。通过借助自动化工具，攻击者可以在短时间内，以更高效、更隐蔽的方式对大量不同网站进行漏洞扫描和探测，尤其对于0day/Nday漏洞的全网探测，将会更为频繁和高效。人工智能强大的数据挖掘和分析能力，以及由此带来的智能化服务，经常被黑客组织加以利用，借助于人工智能技术，形成更为拟人化和精密化的自动化攻击趋势，这类机器人模拟真人的行为会更聪明、更大胆，也更难以追踪和溯源。当前，自动化、智能化的网络攻击正在不断让网络安全防线频频失守，而这显然需要引起网络安全行业的足够重视，需要从了解自动化网络攻击行为特点入手，及时采取措施。
人工智能内生安全
人工智能内生安全指的是人工智能系统自身存在脆弱性。脆弱性的成因包含诸多因素，人工智能框架/组件、数据、算法、模型等任一环节都可能给系统引入脆弱性。
在框架/组件方面，难以保证框架和组件实现的正确性和透明性是人工智能的内生安全问题。框架（如TensorFlow、Caffe）是开发人工智能系统的基础环境，相当于人们熟悉的VisualC++的SDK库或Python的基础依赖库，重要性不言而喻。
在数据方面，缺乏对数据正确性的甄别能力是人工智能的内生安全问题。例如，数据的丢失和变形、噪声数据的输入，都会对人工智能系统形成严重的干扰。
在算法方面，难以保证算法的正确性是人工智能的内生安全问题。智能算法存在的安全缺陷一直是人工智能安全中的严重问题。例如，对抗样本就是一种利用算法缺陷实施攻击的技术，自动驾驶汽车的许多安全事故也可归结为由于算法不成熟而导致的。
在模型方面，难以保证模型不被窃取或污染是人工智能的内生安全问题。模型是一个可拷贝、可修改的实体文件，就存在被窃取和被植入后门的安全风险，这就是人工智能模型安全需要研究的问题。
人工智能自身存在着脆弱性，例如对抗样本就是人工智能的内生安全问题。对抗样本是机器学习模型的一个有趣现象，反映出了人工智能算法的弱点。攻击者通过在源数据上增加人类难以通过感官辨识到的细微改变，但是却可以让机器学习模型接受并做出错误的分类决定。一个典型的场景就是图像分类模型的对抗样本，通过在图片上叠加精心构造的变化量，在肉眼难以察觉的情况下，让分类模型产生误判。对抗样本除在图像识别领域存在，也在其他领域存在，如语音、文本等。从网络安全领域看，同样存在类似于对抗样本的攻击问题，攻击者通过对恶意代码插入扰动操作就有可能对人工智能模型产生欺骗。例如，有人就设计了一个恶意样本，让分类器将一个存有恶意行为的软件认定为良性的变体，从而可以构造能自动逃逸PDF恶意软件分类器的攻击方法，以此来对抗机器学习在安全中的应用。上述安全问题都可能会导致同样后果，就是导致人工智能系统发生错误的决策、判断，以及系统被控制等问题。
人工智能衍生安全
人工智能衍生安全指的是人工智能系统因自身脆弱性而导致危及其他领域安全。衍生安全问题主要包括四类：
人工智能系统因存在脆弱性而可被攻击人工智能系统因自身失误引发安全事故人工智能武器研发可能引发国际军备竞赛AIA一旦失控将危及人类安全人工智能的失误可能会给人类带来灾难，从而会形成衍生安全问题。2016年5月7日，在佛罗里达州公路上一辆处于“自动驾驶”模式的特斯拉ModelS以74英里的时速，撞上了拐弯中的白色拖挂式大货车。ModelS从货车车底穿过，车顶被完全掀飞，40岁的驾驶员JoshuaBrown不幸死亡。出事路段限制时速为65英里/时。由于“自动驾驶”模式车前的高清摄像头为长焦镜头，当白色拖挂卡车进入视觉区域内时，摄像头只能看到悬浮在地面上的卡车中部，而无法看见整个车辆；此外，当时阳光强烈(蓝天白云)，使得自动驾驶系统无法识别出障碍物是一辆卡车，而更像是飘在天上的云，导致自动刹车未生效。这次事故引发了外界对自动驾驶汽车安全性的争议。这种自动驾驶的缺陷导致人类伤亡的事情，是典型的人工智能衍生安全的案例。
《人工智能安全论述》方滨兴1,2,3崔翔2,3顾钊铨2,3方滨兴院士：人工智能安全之我见人工智能安全方滨兴
人工智能安全风险分析与内涵1、新的攻击威胁：
攻击方法：对抗样本的攻击、数据投毒、模型窃取、人工智能系统攻击
攻击影响：模型的训练、测试和推断过程中均可能遭受攻击；危害数据和模型的机密性、完整性和可用性。
2、人工智能安全隐患
①算法模型安全隐患：算法是人写的，模型也是人写的，都可能有缺陷，有歧视，有黑箱操作的可能。
②数据安全与隐私保护隐患：采集数据、使用数据、存储数据都不同程度的滥用泄露。
③基础设施安全隐患：简单理解，人工智能也得依赖数据库、操作系统、代码。这些就是基础设施，一旦这些基础被黑客控制了，数据就被泄露了。
④应用安全隐患：自动驾驶（黑客远程入侵控制导致撞车）、生物特征识别（小学生用照片成功忽悠人脸识别）、智能音箱等等。
⑤人工智能滥用：利用语音合成技术假扮受害人亲属实施诈骗、人工智能技术破解登录验证码的效果越来越好、且难以防范、利用人工智能技术模仿人类，如换脸、手写伪造、人声伪造、聊天机器人。
3、安全影响：
国家安全影响：人工智能可用于构建新型军事打击力量，对国防安全造成威胁。
社会伦理挑战：智能人工机器人替代人，造成大量失业；人们不去恋爱了，就和机器人恋爱。
人身安全风险：抽象
人工智能安全标准化白皮书（2019版）
网络空间安全基于计算的学科，涉及技术，人员，信息和流程，可确保在对手的上下文中进行有保证的操作。它涉及安全计算机系统的创建，操作，分析和测试。这是一门跨学科的学习课程，包括法律，政策，人为因素，道德和风险管理等方面。
网络空间安全不仅关注传统信息安全所研究的信息的保密性、完整性和可用性，同时还关注构成网络空间的基础设施的安全和可信，以及网络对现实社会安全的影响。
专业解析：国际上习惯用机密性，完整性和可用性这三个属性（简称CIA）称为安全性的三个要素。凡是在网络空间中，涉及到CIA三个要素之一的内容，都纳入网络空间安全范畴。包括：防止信息被泄密、防止未授权的访问与篡改、防止系统不可用。
网络空间
网络空间是信息环境中一个整体域，它由独立且相互依存的信息基础设施和网络组成。包括了互联网、电信网、计算机系统、嵌入式处理器和控制器系统。
专业解析：专业上通常把遵循ISO/OSI7层协议框架（有时用TCP/IP协议框架）的设备统称为IT(InformationTechnology)设备或系统，例如路由器、服务器、PC，各类应用软件等。如果把整个范围扩大到所有可以连接到网络上的非IT设备系统：包括工业设备系统（OperationTechnology，简称OT设备）如核电站；物联网设备系统（InternetofThings，简称IoT设备）如蓝牙音箱、自动驾驶汽车。这就是网络空间的范围。特点是：海量+万物。
网络安全NetworkSecurity
为防止，检测和监视计算机网络和网络可访问资源的未经授权的访问、滥用、修改或拒绝而采取的策略、过程和做法组成。包含网络设备安全、网络信息安全、网络软件安全。
专业解析：网络安全通常是指遵循ISO7层协议框架（或TCP/IP）的IT设备之间如何保障机密性、完整性和可用性的问题。如：系统被攻击，设备通信时被黑客嗅探获取密码。特点：IT设备。
信息安全
严谨定义：ISO27001定义：保护组织有价值的信息资产机密性、完整性和可用性，而建立的组织、策略与流程。专业解析：企业内部有价值的信息资产包括硬件、软件、服务、人员、数据、无形资产等。如何保护这些资产的机密性、完整性和可用性。例如：防止公司重要数据库服务器被破坏。可能是外部黑客，也可能是内部人员破坏。
数据安全
严谨定义：维基百科：保护数字数据免受破坏力和未经授权用户的有害行为的侵害，例如网络攻击或数据泄露。
专业解析：结构化数据、半结构化数据及非结构化数据在其整个生命周期中的机密性、完整性和可用性的保护。
重要性
进入21世纪，随着信息化建设和IT技术的快速发展，各种网络技术的应用更加广泛深入，同时出现很多网络安全问题，致使网络安全技术的重要性更加突出，网络安全已经成为各国关注的焦点，不仅关系到机构和个人用户的信息资源和资产风险，也关系到国家安全和社会稳定，已成为热门研究和人才需求的新领域。必须在法律、管理、技术、道德各方面采取切实可行的有效措施，才能确保网络建设与应用“又好又快”地稳定发展。
网络空间已经逐步发展成为继陆、海、空、天之后的第五大战略空间，是影响国家安全、社会稳定、经济发展和文化传播的核心、关键和基础。网络空间具有开放性、异构性、移动性、动态性、安全性等特性，不断演化出下一代互联网、5G移动通信网络、移动互联网、物联网等新型网络形式，以及云计算、大数据、社交网络等众多新型的服务模式。
网络安全已经成为世界热门研究课题之一，并引起社会广泛关注。网络安全是个系统工程，已经成为信息化建设和应用的首要任务。网络安全技术涉及法律法规、政策、策略、规范、标准、机制、措施、管理和技术等方面，是网络安全的重要保障。
信息、物资、能源已经成为人类社会赖以生存与发展的三大支柱和重要保障，信息技术的快速发展为人类社会带来了深刻的变革。随着计算机网络技术的快速发展，我国在网络化建设方面取得了令人瞩目的成就，电子银行、电子商务和电子政务的广泛应用，使计算机网络已经深入到国家的政治、经济、文化和国防建设的各个领域，遍布现代信息化社会的工作和生活每个层面，“数字化经济”和全球电子交易一体化正在形成。网络安全不仅关系到国计民生，还与国家安全密切相关，不仅涉及到国家政治、军事和经济各个方面，而且影响到国家的安全和主权。随着信息化和网络技术的广泛应用，网络安全的重要性尤为突出。因此，网络技术中最关键也最容易被忽视的安全问题,正在危及网络的健康发展和应用，网络安全技术及应用越来越受到世界的关注。
jtj2008知道合伙人教育行家https://blog.csdn.net/agiogo/article/details/115861564