新一代人工智能具有五大特点
科学技术部副部长李萌（刘健摄）
7月21日，国务院新闻办公室举行国务院政策例行吹风会，重点介绍《新一代人工智能发展规划》（以下简称《规划》）的编制情况。科技部副部长李萌在回答记者提问时表示，经过60多年的演进，人工智能出现了一些新特点，包括《规划》当中讲到“它呈现出深度学习、跨界融合、人机协同、群智开放和自主智能的新特点”。新一代的人工智能主要是大数据基础上的人工智能。
李萌指出，人工智能具有以下五个特点：一是从人工知识表达到大数据驱动的知识学习技术。二是从分类型处理的多媒体数据转向跨媒体的认知、学习、推理，这里讲的“媒体”不是新闻媒体，而是界面或者环境。三是从追求智能机器到高水平的人机、脑机相互协同和融合。四是从聚焦个体智能到基于互联网和大数据的群体智能，它可以把很多人的智能集聚融合起来变成群体智能。五是从拟人化的机器人转向更加广阔的智能自主系统，比如智能工厂、智能无人机系统等。
据了解，国际普遍认为人工智能有三类“弱人工智能、强人工智能还有超级人工智能”。弱人工智能就是利用现有智能化技术，来改善我们经济社会发展所需要的一些技术条件和发展功能。强人工智能阶段非常接近于人的智能，这需要脑科学的突破，国际上普遍认为这个阶段要到2050年前后才能实现。超级人工智能是脑科学和类脑智能有极大发展后，人工智能就成为一个超强的智能系统。从技术发展看，从脑科学突破角度发展人工智能，现在还有局限性。《规划》中的新一代人工智能，是建立在大数据基础上的，受脑科学启发的类脑智能机理综合起来的理论、技术、方法形成的智能系统。
跟以往相比，新一代人工智能不但以更高水平接近人的智能形态存在，而且以提高人的智力能力为主要目标来融入人们的日常生活。比如跨媒体智能、大数据智能、自主智能系统等。在越来越多的一些专门领域，人工智能的博弈、识别、控制、预测甚至超过人脑的能力，比如人脸识别技术。新一代人工智能技术正在引发链式突破，推动经济社会从数字化、网络化向智能化加速跃进。
版权所有，转载请注明出处。
人工智能促进教育变革创新
通过云平台布置电子作业，利用数据分析课堂上学生学习行为，推进学校管理流程迈向数字化……前不久，2022国际人工智能与教育会议在线上举行，来自全球数十个国家的政府官员、专家学者、一线教师、企业代表等相聚“云端”，畅叙人工智能时代教育发展图景。
作为引领新一轮科技革命和产业变革的重要驱动力，人工智能催生了大批新产品、新技术、新业态和新模式，也为教育现代化带来更多可能性。习近平总书记强调，“中国高度重视人工智能对教育的深刻影响，积极推动人工智能和教育深度融合，促进教育变革创新”。国务院印发的《新一代人工智能发展规划》，明确利用智能技术加快推动人才培养模式、教学方法改革；教育部出台《高等学校人工智能创新行动计划》，并先后启动两批人工智能助推教师队伍建设试点工作；中央网信办等八部门联合认定一批国家智能社会治理实验基地，包括19个教育领域特色基地，研究智能时代各种教育场景下智能治理机制；科技部等六部门联合印发通知，将智能教育纳入首批人工智能示范应用场景，探索形成可复制、可推广经验……“人工智能+教育”不断碰撞出新的火花，为教育变革创新注入强劲动能。
“人工智能+教育”，应用就在身边。音乐课上，虚拟数字人“元老师”跨越时空限制，带领多所学校学生同唱一首歌；体育课上，学生开始跳绳项目测试，智能终端上实时显示心率变化、跳绳次数、平均速度等数据。技术改变课堂，潜力无限。比如，借助虚拟现实技术，学生能够模拟穿上太空服行走在宇宙，感受浩瀚星河的魅力；通过增强现实技术体验川剧变脸，平面的课本知识变得可感可知。现实中，越来越多的学校已经开设或准备筹备人工智能教育教学活动。
“人工智能+教育”，变革教育生态。教、练、考、评、管各环节均有人工智能辅助，让教师教得更好；虚实融合多场景教学、协同育人，让学生学得更好；海量线上数据和逐渐强大的算力，让学校管理更加精准。此外，在人工智能支撑下，优质数字教育资源跨越山海，推动教育更加公平、开放。在西藏墨脱县，得益于多媒体器材配备到雅鲁藏布大峡谷深处、“智慧课堂”全覆盖，门巴族孩子小学入学率实现100%。
我国发展“人工智能+教育”具备良好基础和独特优势。比如，语音识别、视觉识别等技术世界领先；国家智慧教育平台汇集了海量的数据资源，2.91亿在校学生和1844.37万专任教师展现出丰富的应用需求；教育领域数字化基础条件全面提档升级，全国中小学（含教学点）互联网接入率达到100%，99.5%的学校拥有多媒体教室，学校配备的师生终端数量超过2800万台。也应看到，人工智能技术在教育领域的应用仍处于起步阶段。“数字鸿沟”可能将部分学生排除在智能教育之外，数据收集、使用、分析等环节存在安全隐患，相关公共政策制定较为滞后……以人工智能赋能教育现代化，这些都是需要回答好的课题。
着眼未来，应携手打造高质量、有温度的人工智能教育生态。人机协作如何更聪明，人机对话如何更友好，是“人工智能+教育”的长期课题。一方面，技术应服务育人，在让其“授业”“解惑”的同时，必须坚持教师“传道”的主体地位。另一方面，人也要理解、善用技术，努力提升信息应用能力，让人工智能更好辅助教学。教育是动态的、发展的，理性思考人与技术的关系，把握教育规律、用好技术手段、凝聚各方力量，进一步推动人工智能与教育深度融合、创新发展，才能更好赋能教育现代化，培养顺应时代发展要求的创新人才。（吴丹）
张小松团队：人工智能算法安全与安全应用
张小松，电子科技大学教授，博士生导师，主要研究方向为网络安全，2019国家科技进步一等奖和2012国家科技进步二等奖的第一完成人，2020第二届全国创新争先奖和2017网络安全优秀人才奖获得者，四次获得省部技术发明/科技进步一等奖，担任提升政府治理能力大数据应用技术国家工程实验室专家委员会副主任委员，中国电子学会区块链分会副主任委员，国家重点研发计划网络空间安全重点专项首席科学家，发表SCI/EI学术论文139篇，以第一作者出版专著2部，译著2部，以第一发明人获授权国家发明专利42项。
人工智能算法安全与安全应用的相关研究属于网络安全领域。网络安全则是一门内涵在不断发展的伴随学科，任何一项技术的快速发展都会衍生出相应的安全问题，像量子计算、人工智能技术的发展更是会改变传统安全的思维方式。因此，人工智能技术的井喷式发展给网络空间安全领域带来了巨大的挑战与希望。
人工智能带来的希望主要在于：人工智能高效、准确的特点，能显著提升现有网络空间安全的防护能力，能大幅改善防护的实时性，因此，人工智能早已被应用于网络空间安全领域，且在应对部分人类难以解决的问题时，具有巨大的潜力。其带来的挑战在于：人工智能自身也存在数据安全、算法安全、隐私保护等安全问题，另外人工智能算法同样能为攻击者利用。
结合学术界和产业界的总结，人工智能算法安全与安全应用的内涵包括两个方面：
一是从安全的角度审视人工智能算法，认识并应对人工智能算法存在的缺陷，为人工智能算法的应用加上保险；
二是将人工智能算法应用到传统安全领域，提高相关防护方式的实时性、准确性。
《人工智能算法安全与安全应用》（张小松，刘小垒，牛伟纳著.北京：科学出版社，2021.3）一书主要依据作者团队所完成的具体科研项目与科研成果，围绕人工智能网络安全应用以及对人工智能算法自身安全性分析而展开介绍。
本书主要内容共三部分。
▲本书框架
▋第一部分人工智能算法安全与安全应用概述。首先总结人工智能技术的发展近况以及人工智能技术对人类生产生活的重要影响；其次，讨论人工智能算法安全与安全应用的研究范畴，并简要介绍各国对人工智能安全相关研究的重视程度；最后，对全书的脉络进行梳理与归纳。
▋第二部分探讨人工智能算法安全。首先，从人工智能算法鲁棒性的角度介绍针对人工智能模型的攻击方法，包括作者团队提出的多种利用目前人工智能算法鲁棒性缺陷而设计的对抗攻击算法；其次，对人工智能算法的安全性增强方法进行介绍，并对人工智能对抗样本的性质进行探讨；最后，从数据安全的角度介绍数据安全对人工智能算法决策以及对人工智能安全的影响，进而从数据保护、隐私保护的角度介绍几种数据保护方法，并分析近期提出的数据投毒防御方法。
▋第三部分是对网络空间安全问题与人工智能技术结合的总结，分别对主流的漏洞攻击、恶意代码攻击、匿名网络技术和APT技术进行介绍与归纳总结，并结合作者团队的研究经验对近年来人工智能技术与上述网络安全领域结合后的研究现状进行总结和梳理。
2020年6月我出版了《人工智能安全》一书，书中详细描述了人工智能的赋能效应与伴生效应。这期间恰好张小松教授把刚刚写好的《人工智能算法安全与安全应用》书稿给我看，该书确实是让我眼睛一亮。我所主编的《人工智能安全》更多地是从宏观的层面论述人工智能安全的整体面貌，而张小松教授的《人工智能算法安全与安全应用》是对其中的人工智能内生安全和赋能防御两个具体方面进行了深化，从更为深入、更为详尽的角度具体探讨了人工智能内生安全中的算法安全问题，同时还详尽介绍了人工智能赋能防御中的几种应对网络安全的方法，从而深入系统地诠释了人工智能内生安全及人工智能赋能防御的内涵。
该书的精彩之处在于书中融入了张小松团队近年来在相关领域的研究成果，既有理论探讨，也有实验结果分析。书中所介绍的人工智能算法安全性以及人工智能在网络安全防御中的应用是以该团队多年来的相关研究为底蕴，也算是对团队前期工作的一次梳理。
该书能为广大学者在人工智能算法安全性与安全应用研究方面提供帮助，也会促进对人工智能安全性的研究，尤其能为突破内生安全与赋能防御提供新的思路和启迪。
中国工程院院士
2021年1月
本文摘编自《人工智能算法安全与安全应用》（张小松，刘小垒，牛伟纳著.北京：科学出版社，2021.3）一书“第一章绪论”“序”，有删减修改，标题为编者所加。
(前沿信息技术的安全与应用丛书)
ISBN978-7-03-066907-0
责任编辑：张海娜赵微微
相关著作
区块链安全技术与应用
张小松著
北京：科学出版社，2021.3
(前沿信息技术的安全与应用丛书)
ISBN978-7-03-066908-7
责任编辑：张海娜赵微微
本书是一部关于区块链安全与应用的技术专著，主要内容包括区块链简介、共识机制与智能合约、区块链隐私保护以及区块链技术应用四个部分。第一部分简要介绍区块链的定义、架构、相关技术、分类等；第二部分重点讨论区块链智能合约安全、优化、交易行为、以太坊虚拟机的安全问题；第三部分讨论数字签名在区块链安全与隐私保护中的应用与实例；第四部分介绍区块链技术的几个应用场景，对实现区块链监管的可编辑区块链技术进行讨论。
（本文编辑：刘四旦）
一起阅读科学!
科学出版社│微信ID：sciencepress-cspm
专业品质学术价值
原创好读科学品味
科学出版社视频号
硬核有料视听科学
传播科学，欢迎您点亮★星标，点赞、在看▼