安全可信可靠是人工智能发展蓝图底色
将一张“神奇贴纸”贴在脸上，就能让人脸识别门禁系统出现误判，毫无防备地为陌生人打开大门；把这张“贴纸”放置在眼镜上，一秒钟之内，手机的人脸识别系统就被解锁，黑客获取用户隐私数据如入无人之境……这并非科幻片中的想象，而是首届人工智能安全大赛展示的真实攻防场景。和其他通用技术一样，近年来，人工智能技术在高歌猛进的同时，也带来了新的风险和隐患。中国科学院院士张钹表示，人工智能的发展正站在历史新起点，伴随算力、数据等条件的具备以及机器学习等技术的进步，人工智能在计算机视觉、自然语言处理等众多领域取得长足发展，各行各业应用蓬勃兴起。与此同时，以数据驱动的第二代人工智能的可解释性、鲁棒性等方面的缺陷也暴露出来，安全事件频频发生。在现实生活中，人工智能技术风险发生的范围正随着应用场景的日趋广泛而逐步扩大，风险发生的可能性也随着其应用频次的增长而持续提高。人脸识别破解演示所揭示的正是人工智能系统的风险，它来自深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”，具有不可解释性，意味着系统存在结构性漏洞，可能存在不可预知的风险，典型场景就是“神奇贴纸”，通过在输入数据中添加扰动，使系统作出错误判断。这一漏洞也存在于自动驾驶感知系统中。在正常情况下，识别到路障、指示牌、行人等目标后，自动驾驶车辆就会立即停车，但在对目标物体上添加干扰图案后，车辆的感知系统就会出错，导致碰撞危险。统筹发展和安全，是每项新技术发展过程中面临的必然问题，如何实现高水平发展和高水平安全的良性互动，也是当前人工智能产业发展的重大命题。专家认为，从目前来看，重视人工智能安全体系建设，既是当务之急，也是长远考虑，需加快促进人工智能安全领域关键技术研究与攻防实践。人工智能对抗攻防包括对抗样本、神经网络后门、模型隐私问题等多方面技术。模型有错误就需要进行及时修复，中国科学院信息安全国家重点实验室副主任陈恺提出“神经网络手术刀”的方法，通过定位引发错误的神经元，进行精准“微创”修复。他表示，不同于传统的模型修复工作需要重新训练模型或者依赖于较大量的数据样本，这种方式类似于“微创手术”，只需极少量或无须数据样本，能够大幅提升模型修复效果。开放环境下的人工智能系统面临诸多安全挑战，如何解决通用人工智能算法全周期的安全保障问题成为重中之重。专家建议，未来的人工智能安全应该围绕从数据、算法到系统各个层次上的全面评测，同时配合一个从硬件到软件的安全可信计算环境。人工智能安全治理需要广泛协作和开放创新，需加强政府、学术机构、企业等产业各参与方的互动合作，建立积极的生态规则。工商银行金融研究院安全攻防实验室主管专家苏建明建议，在政策层面加快人工智能的立法进程，加大对人工智能服务水平、技术支撑能力等专项监督的考核力度。在学术层面加大对人工智能安全研究的激励投入，通过产学研合作模式加快科研成果的转化与落地。在企业层面逐步推动人工智能技术由场景拓展向安全可信发展转变，通过参与标准制定，推出产品服务，持续探索人工智能安全实践及解决方案。此外，在人工智能的全生命周期，不仅存在算法层面的安全性问题，算力作为人工智能发展的重要基础设施，也面临诸多风险，推动人工智能算力基础设施安全发展具有重要意义。由国家工业信息安全发展研究中心与华为、北京瑞莱智慧共同发布的《人工智能算力基础设施安全发展白皮书》认为，人工智能算力基础设施既是“基础设施”又是“人工智能算力”，同时也是“公共设施”，具有基建属性、技术属性、公共属性三重属性。相应地，推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力，通过强化自身的可靠性、可用性与稳定性，保障算法运行时的机密性与完整性，围绕提升用户的安全管控力、认可度与合规性等八个领域筑牢人工智能安全防线，打造可信、可用、好用的人工智能算力底座，营造安全、健康、合规发展的人工智能产业生态。“锚定怎样的发展理念，选取怎样的技术路线使下一代人工智能实现安全、可信、可靠的发展，将是我们这代人为未来智能世界绘制的蓝图底色。”张钹表示，“多年来我们一直倡导构建第三代人工智能，即融合知识、数据、算法、算力四个要素，建立新的可解释、鲁棒的人工智能方法。”从长远看，人工智能的安全问题，需要从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题，同时，人工智能的未来发展需确保对整个社会、国家发展的有效性和正向促进性，需要政产学研用多方协同共进。（作者：那什）《新一代人工智能发展规划》政策解读
新闻发布会主席台（刘健摄）
7月8日，经中央政治局常委会、国务院常务会议审议通过，国务院印发《新一代人工智能发展规划》（国发〔2017〕35号）（以下简称《规划》）。国务院新闻办于7月21日举行国务院政策例行吹风会，请科学技术部副部长李萌、科技部创新发展司司长许倞、科技部高新技术发展及产业化司司长秦勇介绍《规划》有关情况，回答记者提问，并进行了相关政策解读。
《规划》是我国科技发展史上的一件大事
国务院这次发布的《规划》是我国科技发展史上的一件大事，也是科技部贯彻落实去年全国科技创新大会精神又一次有力的具体行动。
以习近平同志为核心的党中央高度重视人工智能发展。习近平总书记多次就人工智能做出重要批示，指出人工智能技术的发展将深刻改变人类社会生活、改变世界，要求抓住机遇，在这一高技术领域抢占先机，加快部署和实施。李克强总理在今年《政府工作报告》中强调，要加快人工智能等技术研发和转化，做大做强产业集群。
去年7月徐匡迪等一批院士研究提出“启动中国人工智能重大科技计划的建议”，中央迅速采纳，决定制定新一代人工智能发展规划，实施新一代人工智能重大科技项目。
按照党中央、国务院部署，在刘延东副总理的直接领导下，科技部、发展改革委、工程院会同相关单位在系统梳理、深入研究、广泛征求意见的基础上，研究起草了《新一代人工智能发展规划》。前期，工程院组织了各方面的专家做了大量深度研究，打下了很好的基础。经过中央政治局常委会、国务院常务会议审议通过，7月8日，国务院印发《新一代人工智能发展规划》。
《规划》的基本内容
1.《规划》是我们国家在人工智能领域进行的第一个系统部署的文件，也是面向未来打造我国先发优势的一个指导性文件，重点对2030年我国新人工智能发展的总体思路、战略目标和主要任务、保障措施进行系统的规划和部署。
2.《规划》描绘了未来十几年我国人工智能发展的宏伟蓝图，确立了“三步走”目标：到2020年人工智能总体技术和应用与世界先进水平同步；到2025年人工智能基础理论实现重大突破、技术与应用部分达到世界领先水平；到2030年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心。
3.《规划》提出以提升新一代人工智能科技创新能力为主攻方向，以加快人工智能与经济社会国防深度融合为主线，按照“构建一个体系、把握双重属性、坚持三位一体、强化四大支撑”进行总体布局，确定了建立开放协同的人工智能科技创新体系、培育高端高效的智能经济、建设安全便捷的智能社会、强化人工智能对国家安全的支撑、构建泛在安全高效的智能化基础设施体系、实施新一代人工智能重大科技项目等六方面的重点任务。
4.《规划》还对项目和《规划》的实施做了一些安排，包括强调发挥财政引导和市场主导作用，撬动企业、社会资源，形成财政、金融和社会资本多渠道支持新一代人工智能发展的格局，并从法律法规、伦理规范、知识产权、科学普及等方面提出保障措施。
《规划》是立足于我国发展战略需求作出的安排
中国发布人工智能规划不是为了挑战哪个国家，而是根据科技发展前沿趋势的判断，立足于我国经济社会发展的战略需求做出的安排，通过有条不紊的部署来推动人工智能研发和应用。经过多年的积累，我国人工智能研发取得了重要进展。我国在专利和论文上已经在国际上居于前列，在语音识别、机器视觉、机器翻译领域也是全球领先，而且人工智能创新创业非常活跃。最近几年发展起来的一批在全球有影响力的人工智能企业，在国际社会上得到了广泛认可。
我国在人工智能领域属于全球第一梯队
总体的判断，我国在全球是属于第一梯队。当然，要清醒地认识到自己的短板和问题。比如，在研发上，基础理论、核心算法、关键设备、高端芯片、重大产品和系统方面的原始创新成果还比较少；在人才储备上，无论从人才规模还是人才质量，现有的人才储备远远满足不了经济社会发展对于人工智能快速发展的强烈需求，特别是高端领军人才比较缺乏；在产业生态上，我国的科研机构和企业还没有形成具有国际影响力的生态圈和产业链。
在人工智能发展规制方面，我国和世界其他国家一样都很关注。科技部将在建设人工智能基础设施、政策法规、标准体系、安全和伦理等方面积极探索，更好适应人工智能发展。
新一代的人工智能主要是大数据基础上的人工智能
1956年人工智能概念提出以后，经过60多年的演进，特别是在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术的引领下，再加上经济社会发展强烈需求的驱动，人工智能出现了一些新特点，包括《规划》当中讲到“它呈现出深度学习、跨界融合、机协同、群智开放和自主智能的新特点”。新一代的人工智能主要是大数据基础上的人工智能。
人工智能有五个特点：一是从人工知识表达到大数据驱动的知识学习技术；二是从分类型处理的界面或者环境数据转向跨媒体的认知、学习、推理；三是从追求智能机器到高水平的人机、脑机相互协同和融合；四是从聚焦个体智能到基于互联网和大数据的群体智能，它可以把很多人的智能集聚融合起来变成群体智能；五是从拟人化的机器人转向更加广阔的智能自主系统，不是一个单纯的机器人才叫人工智能，比如说智能工厂、智能无人机系统，这都是人工智能。
同时，随着科学研究的进展，受脑科学成果启发的类脑智能也在蓄势待发，芯片的硬件化平台趋势也非常明显，这些重大变化使得人工智能进入到与前60年完全不同的一个阶段。
跟前60年比，新一代的人工智能不但有更高的水平，能够接近人的智能形态存在，而且以提高人的智力能力活动为主要目标，融入日常生活中。新一代人工智能对于人类现有的知识进行一些重组，比如大数据就是继理论推导、实践检验之后的一个新的科学范式、科学方法。现在人工智能还能为生产生活和资源环境等社会问题发展提出一些建议，在现实生活中已经应用的越来越多。在越来越多的一些专门领域，人工智能的博弈、识别、控制、预测甚至超过人的脑能力。新一代人工智能相关的科学发展、技术创新、软件硬件升级的整体推进，正在引发链式突破，推动经济社会发展从数字化、网络化向智能化加速跃进。
构建开放协同的人工智能技术创新体系的意义
《规划》是一个国家规划，在起草过程中凝聚了各方共识，政府针对我国人工智能的薄弱环节加强系统部署，特别是要加强技术创新的体系能力建设，所以在《规划》中专门提出建立开放协同的人工智能技术创新体系，包括提升基础研究的能力、技术创新的能力、转化应用的能力。在科技创新体系的章节中也作出了系统部署，从基础理论研究、技术创新、能力建设提出了一整套措施，特别提出开放协同，就是要充分调动政产学研用各方积极性形成发展合力，以人工智能技术创新能力的提升实现对未来智能经济、智能社会的强大支撑。
《规划》重点部署了高端高效智能经济
人工智能对于我们来说已经无处不在。所以就人工智能产业而言，《规划》重点部署的是高端、高效的智能经济，绝不是低端产业。
这些产业主要包括三个层次：第一个层次是人工智能的战略性新兴产业，包括模式识别、人脸识别、智能机器人、智能运载工具、增强现实和虚拟现实、智能终端、物联网基础器件，这是人工智能发展本身创造的新领域。第二个层次是改造和提升传统产业，让传统产业智能化，包括智能制造、智能农业、智能海洋、智能物流、智能商务。第三个层次是大力发展智能企业，对企业进行智能化升级，培育人工智能产业的领军企业。现在我国很多企业已经向智能化方向发展，也产生了很多在全球领先、有影响的企业和品牌。
从社会角度来讲，一方面利用人工智能技术的发展能使生活更加便利，另一方面人工智能技术的发展也能提高公共管理的服务水平。
加强学科建设、引进高端人才带领我国人工智能研发应用走向新高度
《规划》制定过程中，研究了国外人工智能发展的规划布局，包括国际上的一些大企业技术发展方向、成功经验和做法。它们给我国最大的启发就是对人才的重视。现在世界范围内的信息产业巨头，包括人工智能企业的巨头都在不惜一切代价从全球网罗最高端的人才。我国企业跟国外企业相比，最缺的是高端人才。因为缺乏高端人才，就有可能在高端引领方面落后，我国正在在加快赶上。
同时，我国也在积极进行学科建设，加强人工智能一级学科的建设。国内现在人工智能还不是一级学科，高端实验室也还比较少。要学习国际上的一些经验，从各方面引进一些高端人才，形成团队，带领人工智能的研发应用走向新的高度。当然，也欢迎国外人工智能领先企业参与中国人工智能研发创新和产业发展，深化合作，互利共赢。
实施新一代人工智能重大科技项目的安排部署
《规划》有一个很大的特点，就是对攻克掌握核心技术方面作了专门部署。现在新一代人工智能的发展还处在非常初级的阶段，未来对经济社会产生的影响，归根到底还是要依靠技术进步。
《规划》对核心技术布局设计了新一代人工智能科技重大项目。这个项目主要瞄准人工智能技术前沿，结合国家重大需求进行设计。比如大数据智能、跨媒体混合智能、群体智能、自主智能系统，这恰恰是新一代人工智能技术发展的重要方向。这个重大项目就是沿着这几个重点发展方向，从基础理论到前沿技术，从关键共性技术到技术支撑平台，以及未来可能的应用场景和应用领域进行了系统部署。
结合重大项目，对围绕人工智能方面的计划项目部署进行了整体安排，形成“1+N”的人工智能项目群，包括大数据、云计算、智能制造、机器人、量子计算、量子通信、脑科学等等。新一代人工智能重大科技项目，将和这些已经安排的项目任务，共同形成了国家人工智能研发的总体布局。
第一点，《规划》中提出“1+N”的人工智能项目群，其中的“1”就是新一代人工智能重大科技项目，专门针对新一代人工智能特有的基础理论、关键共性技术进行攻关。“N”就是围绕人工智能相关的基础支撑、领域应用形成的各类研发任务布局。
第二点，新一代人工智能重大科技项目的实施方式也有很多新的措施。项目将充分调动中央政府、地方政府、企业、社会资本等各方积极性，多渠道出资，共同发力，做好实施。《规划》确定的四个原则中，有一个重要原则就是市场主导，人工智能项目的实施也要采取市场主导的方式进行，政府搞核心的、重大的、前瞻的，其他的放手让企业搞。国家和企业联合起来做项目，并引入一些社会资本等。
版权所有，转载请注明出处。