2023年度全球人工智能治理趋势盘点 (完整版）
自2017年以来，加拿大、美国、中国、英国、新加坡、韩国、加拿大、欧盟、经合组织等国家或地区已陆续发布人工智能发展原则和治理准则。在2021年度，全球范围内关于人工智能治理的准则和战略进一步深化和具体，各国和地区不再仅局限于制定宏观层面的指导战略，而是日益细化至各个具体层面。美国为了确保其在人工智能领域的全球领导地位，在2021年度出台的与人工智能相关的立法和研究政策显著增加。不仅通过了国家层面的人工智能战略——2021年国家人工智能倡议法案，还正式成立了国家人工智能倡议办公室，该办公室旨在负责实施美国的人工智能国家战略，并监督和协调联邦政府与私营部门之间的研究工作。美国国家人工智能安全委员会（NSCAI）还发布了《人工智能国家安全委员会最终报告》，该报告是NSCAI为美国赢得人工智能时代的竞争而提出的战略。此外，于2021年6月8日投票《美国创新与竞争法》明确指出要通过投资来提高美国在技术领域应对中国带来的竞争的能力，并且将人工智能、机器学习等列为重点关注的关键技术。在白宫科学技术政策办公室（OSTP）和国家科学基金会（NSF）牵头之下，美国还宣布成立了国家人工智能研究资源工作组，该小组将帮助创建一个共享的国家人工智能研究基础设施，提供可访问的计算资源、高质量数据、教育工具和用户支持。而针对具体的治理领域，美国也陆续推出了一系列举措。例如，在算法治理方面，美国政府问责局（GAO）在2021年6月发布了一份确保联邦机构和其他参与人工智能系统设计、开发、部署和持续监控的实体可以负责任地使用人工智能的报告。OSTP则在2021年11月10日表示，将举办一系列活动让美国公众参与到制定与算法治理有关的法案的过程。美国国家人工智能倡议办公室主任LynneParker表示，美国在人工智能算法监管方面的愿景以欧盟的《通用数据保护条例》(GDPR)为蓝本。为了解决算法透明度和公平性方面的问题，美国联邦贸易委员会（FTC）在2021年4月发布了指南，该指南强调了FTC计划在影响消费者的算法决策方面执行透明度和公平原则的决心。在国家安全方面，美国国防部国防创新部门于2021年11月14日发布了“负责任的AI指南”，为第三方开发人员构建军用AI提供了指导。在保障劳动力就业方面，美国平等就业机会委员会（EEOC）表示该机构计划审查人工智能工具和技术如何应用于就业决策，以及旨在指导雇主公平使用人工智能技术，遵守联邦平等就业机会法。在面部识别和个人隐私方面，部分民主党参议员在2021年6月提出了暂停面部识别和生物识别技术的法案。在技术发展方面，美国国土安全部科学技术局发布了《人工智能与机器学习战略计划》，该计划提出了未来三大战略目标，即推动用于跨领域国土安全能力的下一代人工智能和机器学习技术发展；促进在国土安全任务中使用经过验证的人工智能与机器学习能力；以及建立经人工智能与机器学习技术培训的跨学科员工队伍。人工智能在教育领域中的应用面临哪些问题和挑战
再比如说，可以了解你的学习能力的情况，可以对你的学习负担提供各种监测，当然这个是要遵循伦理，研究伦理的前提下，可以通过对你的数据和你的表情的分析知道你处在疲劳状态，处在轻生状态，这个在研究里面已经在做了，当然这个前提要尊重个人隐私、伦理的前提下，监测学生的上课状态。如果你过分疲劳，对学习效率很低的。
再比如说可以通过人工智能和虚拟现实结合，提供增强性的虚拟探究环境，供学习者进行探究，进行发现，比如再通过一个虚拟环境，可以回到两千年前去发掘那个时代的历史以及历史演化的过程，智能加虚拟现实结合。等等，人工智能可以在学习环境、学习过程上提供非常多的很好的支持。
第三，人工智能可以对学习过程的评价起到非常重要的作用。他可以分析出你在学习过程中对哪些知识掌握的情况，每个知识点上学科能力的情况，你的核心素养的情况，以及你的体质健康发展情况、心理健康发展情况，可以使得我们的教育评价从单一的学科知识的评价到全面的综合性的评价，可以使得我们的评价从以前只是期末一次考试变成过程性的评价，可以嵌入到你的学习过程中，对学习者进行一些评价，而且评价不仅仅是评价你的知识，还可以评价你的问题解决能力方面。
另外，这种评价可以使得老师的工作大幅度减轻。以前我们只是由人工来做各种各样的评分、观察，需要很大的工作量，现在人工智能可以由计算机进行自动测评，比如英语口语测试，现在已经产业化了，都已经实用化了，很多中考、高考的英语考试都是用实际的系统。
另外，英语作文的批改，现在基本上实用化了，在实验室里面，我们的问答题、论述题、作文题，这些主观题的批改，也已经取得了实质性的进步。今后这方面会取得实质性的突破。取得实质性突破以后，我们老师改作业，统计分数，这些工作就会大幅度降低。人工智能会在教育评价上发挥非常重要的作用。
另外，人工智能对教师的工作可以起到非常重要的作用，起到教师助理的作用。比如，智能出题、智能批改、智能阅卷、智能化的辅导，各种评价报告的自动生成，以及针对学生因人而异的给学生提供各种反馈，像现在我们老师面对一个班，可能面对40个-50个学生，他很难，以前很难做到每个学生都给个性化的反馈，因为他的时间精力不允许，他也不可能了解每个孩子的具体情况，但是现在基于人工智能的技术，我们完全可以了解到孩子在学习过程中存在的各种问题，在人工智能的帮助下，可以根据不同的问题，每个学生提供个性化的反馈，实现对学生个性化的支持，做到既具有规模化，又做到个性化，这是我们中国教育现代化2035所追求的目标。
中国教育现代化2035提出，我们要推进兼容个性化和规模化并重的教育。这个时候人工智能可以大幅度提高老师对学生个性化支持的一种能力，降低教师工作过程中的负担。
第五，人工智能还可以在我们的教育决策、教育管理，以及教育公共服务方面，起到非常重要的作用。比如，人工智能可以使得我们的教育公共服务，从面向群体到面向个体，比如政府，要提供教育公共服务，以前只能面对群体来提供，现在有了人工智能以后可以了解学生个性化的需求，通过网络提供个性化的教育公共服务，相比北京市，北京市有一个中学教师开放性辅导计划，这个计划就是我们在支持，在运行。
它的核心工作就是动员了10788个骨干教师常态性的在网上给学生提供一对一的答疑服务，以及直播课的服务，以及问题解答的服务，以及微课共享的服务。在这个过程中，每个学生在学校里面都有个性化的需要，这种个性化的需要以前是政府不解决的，而现在有了大数据，有了人工智能，有了互联网以后，可以使得政府可以购买教师的在线服务，给学生提供个性化内容的服务，使得我们教育公共服务更个性化。
第二，我们有了学习过程中的各种数据，以及我们办学过程之中的数据，可以使得我们的决策不再只是基于我们个体经验，而是有个体的经验加上科学的数据结合，人机结合的决策，可以使得我们的管理，我们现代教育的治理更加科学、更加精准，也更加符合我们现在民众利益主体，参与度越来越高的诉求，可以大幅度提升政府的现代教育治理的功能。
第三，还可以促进教育对各种环境的集成管控，可以实现把一些隐患的问题，在事情还没有发生之前就可以事先进行预测、进行管控。比如，刚才举的例子，校园外的一些不法分子，完全可以通过数据甄别出来，可以在一些事情上没有被发生之前就可以预测。再比如说校园的各种公共设施，如果出现了小的漏洞，小的漏洞完全可以及时通过人工智能技术集成联通以后，集成远程控制，及时发现。不是等小事情酿成大事情再进行补救，从事后补救变成事前监管，事前预警。实际上人工智能在这五个方面都可以发挥很多很多的作用。
主持人刚刚余教授听您在人工智能教育领域方面的应用非常广泛。但是可能很多人跟我有一样担心，人工智能现在在教学领域能发挥这么大的作用，未来会不会真的把老师取代了？和教师之间会存在一种什么样的关系？是合作还是相辅相承？
余胜泉
教师永远不会被取代。因为我们教师是促进人的成长，有两个职能，一个是教书的职能，一个是育人的职能。今后如果只是知识性的讲授，知识性的传授的工作，会越来越多的被人工智能所提高效率，但是完全取代是不可能的。因为人需要人和人之间的沟通，面对面的沟通，这种情感的沟通，和我们面对屏幕的沟通还是有差异的。
人永远不会取代。但是我们很多的讲课的效率，会大幅度提升。另外，教师除了教书以外还有育人，还有解决学生成长过程中的各种问题，这种问题的解决，需要人工智能来增强。教师在教育教学中非常重要的。我觉得教师和人工智能的关系，是一个相互赋能、相互增强的关系。
相互赋能是什么意思？教师的智慧会越来越多的转化为规则性的东西，使得人工智能具有教师的能力，把老师的个体智慧或者集体智慧转化为人工智能的能力，把人工变成了智能。
另外，人工智能也会赋能教师，教师利用人工智能可以提高，可以使得我们教师提高工作效率，而且能够做到以前做不到的事情，是一个相互赋能、相互增强的关系。人工智能首先是教学效率提高，比如说以前讲测考练，原来需要10个小时完成的事情，可能一两个小时就完成了，针对学生个性化辅导，作业批改。
现在老师一个人带三个班，每天都要改一百多份作业，这一百多份要认真改的话，要两三个小时，工作量非常大。如果今后人工智能发展了，完全可以让人工智能实现批改，实现批改以后可以给出你各种分析报告，每个孩子出现问题是什么地方，给他什么样的改进措施，都给你自动生成。你拿这个报告，可能比老师自己改效率还高，比你自己改还更好地了解孩子。通过这种方式给提高老师的工作效率，把原来需要花很多时间和精力的事情取代掉了。老师有更多的时间，更多的精力关注孩子的成长。心理、身心健康。
另外一方面，人工智能可以增强教师，就是可以使得我们老师做到以前做不到的事情。比如，举一个非常简单的例子，我们有个团队在做一个研究项目叫“AI好老师”，我们孩子在成长过程中，经常遇到各种各样的问题，比如说小的问题，打架、不守纪律、网络成瘾、过分崇拜明星、早恋等等这些问题，这些问题背后都是有教育学、社会学、心理学、生理学的一系列的原因，但是这些原因是很深的，一般的老师很难说把各种知识都很了解，我们很多老师、很多家长面对孩子出现这些问题的时候，总是简单地打骂或者简单的斥责，这样对孩子于事无补。
这个时候，像我们就做了一个项目叫AI好老师，我们建立了0-18岁儿童成长过程中常见的典型的问题知识库，以及每个问题背后的教育学、心理学、社会学、生理学这方面的原因，以及一些如何干预，对这些问题如何进行干预的优秀教师的案例，我们收集了优秀教师处理这些问题的案例，这样就会形成智能的系统。
只要和那个系统说，我的孩子早恋了，他会问你几个表现，如果你确认之后，他说这可能是早恋，他分析早恋的原因是什么，社会学、心理学的原因是什么，再给出某一个很好的老师处理过这个事情他是怎么和孩子沟通的，他可以把符合教育教学规律的案例，让老师学习。这样可以提高我们老师的育人的能力，提高家长和孩子相处的和谐程度，促进学生身心健康的发展。
再比如体质健康，现在儿童成长过程中的身体体质这些方面的发展越来越重要。除了知识以外，身心健康其实更重要，我们完全可以通过一些智能手环、智能肺活量的工具、智能跳绳工具，以及运动器材，会通过5G加上传感器以后，可以自动采集学生运动过程中的各种数据，把这些数据通过5G传送到云平台以后，就可以限定学生的心率、血氧、运动脉搏各种各样运动参数的常模数据库，有了这个数据库以后，可以对学生的运动知识、运动技能、营养情况、身体发育等这些方面的情况进行进一步的分析，分析可以发现学生在体质健康上存在哪些问题，或者哪一种体质类型，可以给出有针对性的运动处方的方案，也可以发现学生在运动中有哪些优势，从而增强他的优势。
我举这些例子就是想说明，我们很多教育中理想中希望老师能做到的事情，但是由于传统的时间精力以及能力的问题，我们做不到，现在人工智能可以增强我们教师，使得我们教师能够做到这些事情。人工智能和教师是相互赋能、相互增强的关系。
但是，虽然人工智能不会取代老师，但是会使用人工智能的教师会取代不使用人工智能的教师，我们教师还要主动适应互联网、大数据、人工智能时代新的技术的变化、新的技术的变革，不断进一步的学习，善于使用，关注最新的进展，希望老师能够努力把这些东西融入到他的日常教学中，从而提高自己的教学效率。
主持人
刚刚您说了很多人工智能和教师之间的互相赋能、互相增强的关系，随着人工智能的普及或者应用，对教师的压力是不是挺大的？教师之前可能只要备好课、教好学生，关心学生成长，现在要学习更多的人工智能方面的知识。人工智能在人才培养方面，我们是不是现在也是一个非常重要的环节？
余胜泉
人工智能的知识学习有一个渐进的过程，人工智能核心就是智力的自动化，像机械是我们体力的延长一样，人工智能是我们脑力的延长，可以使得我们人能够处理以前无法处理的复杂事情，实际上是提高我们老师的效率，适当的学习这些知识。像我们生活中，比如天天拿着手机录语音，那个复杂吗？不复杂。但是，背后的技术是很复杂的。
但是对于应用来说并不复杂。我们老师对人工智能的学习不要太担心。但是，你刚才提了一个很重要的问题，人工智能人才的培养。确实，人工智能人才的培养是我们国家和整个社会迈向智能时代的一个非常关键的地方。
我觉得，一是面向大众来说，我们要培养了解人工智能，未来会对我们的社会产生哪些影响，了解人工智能在现实生活中有哪些应用，这样理解这个社会的变化，主动拥抱这些变化，这是对非专业的人士。对一些专业人才，我觉得可能我们国家，一个是要加强人工智能的职业教育，在职业教育大力普及人工智能的一些技术，人工智能工程方面的工作。
比如要向使得人工智能的发展，今后数据处理是很重要的能力，数据收集、数据标记、数据关联、数据工程。第二，今后机器学习、机器训练，了解典型的各种机器学习的原理，以及它的训练的技巧、训练的方法。
另外，了解人工智能和各行各业，对各行各业特定的领域知识库的应用，以及应用系统的配置管理，我们要在职业教育里面大力加强人工智能专业的发展，让他能够很好地支持、管理以及推进人工智能在各行各业的应用，使他有序化。
另外，人工智能还要加强研究性人才的培养，大学里面研究性人才的培养。因为人工智能不是一天练成的，是一个信息科技在一个时间段内持续性发展的一个过程，智能爆发。智能爆发的背后是有成千上万研究者的智慧转化为我们生活中可以实际应用的系统，这个时候我觉得，在人工智能领域里面，高校的职责，一个是把我们信息科技，计算机相关专业办好，这是人工智能的基础。
另外，希望有一些有实力的高校多办人工智能的专业，尤其是研究性高校，这是推进技术往前进步的核心动力，需要有精英参与。另外，这个过程中，我们特别要避免计算机教学，或者人工智能教学、人工智能研究，以唯论文为核心，论文很重要，光有论文解决不了问题，一定要以解决实际问题，形成开源的系统。
像国外，计算机科学，很多大学做的那些开源的系统，对这个行业的发展，对这个研究的发展起着非常大的推动作用，但是在我们国家，这种有影响的，寥寥无几，而且不受认可，做一个几百万人用的开源系统可能还不如人家写一篇SCI论文，这是不健康的，因为这些东西最后使得我们纯理论化，对于整个行业、整个产业发展是不利的。
所以我们特别希望在计算机科学的教育，以人工智能的教育，要强调多结合实践，当然不是不发表文章，文章还是要，需要解决重大实际过程中去发文章，而不是为发文章而发文章，要解决重大实践问题，做出能够得到广泛使用，能够推动这个行业往前迈一步的应用系统，这样的话，才使得我们的研究和产业发展能够一步一步往前走。
我现在看到我们在北京市的一些中小学，他们已经开设人工智能课程了。现在在中小学开设人工智能课程，会不会太早了？
我也看到了，现在有很多学校开一些人工智能的课。还有一些企业专门编了中小学的人工智能课程。当然我觉得，在中小学，适当普及人工智能的常识是对的，但是有一些过于急功近利不值得倡导。我看过一套人工智能的教材，从三年级就开始开人工智能，很多词汇术语可能都不清楚，现在给他讲很复杂的知识，这是不合适的。因为这些知识，这个时候去学，同样一个东西理解，可能两三个星期才能明白这个词说什么意思，但是等到成年以后，可能只花两三个小时就能明白这个事情。
所以我不鼓励太多复杂的知识进入到中小学，但是适当的让小孩子理解人工智能对现实社会的变化的影响，了解人脸识别，可以做什么，了解各行各业里面应用的现象，就像我们了解汽车、飞机可以飞的道理。比如同样一个力，我们小学生也要学力的概念，但是只要知道力是相互作用的就可以了，但是到了大学就要了解力和力之间复杂的关系，甚至还要了解宏观的力和微观的力是完全不同的性质。
同样是讲人工智能，你对低年级的时候应该以浅显、形象了解为主，到了那些知识复杂算法还是应该到大学，到研究生阶段再去教比较合适。适当地让学生有一些体验性的活动，以结合信息技术课，寓教于乐，结合信息技术课，尤其是在小学，我不赞成系统开人工智能的课，但是可以让学生有感性的认识、感性的体验性的可以的。
但是概念体系和编程能力，并不见得要那么系统化。但是适当到了初中和高中的时候，结合信息技术课，因为本身信息技术课是有的，结合信息技术课适当渗透人工智能的知识，这是可以的，这是合适的。否则容易超前教学。现在什么东西都要往中小学渗透，中小学的负担太重了。
实际人的心智是有个发展的过程，当心智发展不全的时候，学一个东西花很长时间，抽象思维水平到了一定程度以后，花几个小时就学会了。要提高他到了成年以后的学习能力，小的时候要适当地给他留白，留空。让他不受过重的学习负担的压力。因为过分的学习负担的压力会造成学生学习的厌倦、倦怠，以及泯灭他的好奇心、求知欲，一旦一个孩子成长过程中，没有了好奇心、没有了求知欲，养成了功利性读书的习惯，对于他一辈子的成长都会起着巨大的障碍作用。
真正的杰出的人才都是具有很强的自学能力，很强的自律意识，很强的好奇心、求知欲在这里驱动，是内在驱动的，而不是外在驱动的。外在驱动，环境变化，有外在的驱动力弱了以后，基本就停滞不前，现在过分的学习负担过重，会对小孩子的好奇心、求知欲会起到压制作用，长期来说不好。
主持人
感谢余教授提出的中肯的意见。我们知道余教授所在的北师大未来教育高精尖创新中心是2015年成立的，到现在四年时间了，你们肯定也在致力于人工智能在教育方面的落地和研究，您觉得，通过这四年的努力和研究，有没有发现我们国家人工智能现在在我们教育领域当中会不会存在着一些问题或者挑战？
余胜泉
目前人工智能在实际应用过程中，还存在一些问题，我觉得代表性的可能体现在，一个是目前产业界对人工智能应用的场景过多的关注讲测考练，知识性的教学太多，都在用人工智能提高知识教学的效率，比如都在适应性学习，做题库，经典推荐，当然有一定作用，但是这个是对原来我们教学优势的一种强化，有时候强化的极致以后反而成了一些问题。
用人工智能进行应试教育方面做得比较多。我们其实特别希望人工智能不光是要做应试教育这方面内容，更多的需要人工智能在学生身心健康发展方面，学生体质健康发展方面，降低学生负担方面，帮助我们教育做科学决策方面，发挥更大的作用。应用场景一定要多元化、多样化。
比如我看到过一个美国的公司做的产品，给盲人做了一个智能手环，拿手在书上划，就能把书上的文字变成语音，让盲人也能听到，这种应用非常有价值，我们国家都是在搞知识性教育，原来学生做五道题，再给你做五道题，纯讲测考练的，这样就有点违背我们的教育教学的规律。这是第一个问题。
第二个问题，我觉得，目前人工智能还存在数据的问题。就是人工智能真正要发挥作用，需要有各种各样的学习数据，而且这个数据要贯通形成，有更多的数据才有更多的智能。形象地说，人工智能像汽车，数据就像汽油，没有数据，汽车就跑不起来。这种数据目前还存在着，一个是数据的孤岛，数据隔离的现象，每个系统都有各自的数据，数据没有融会贯通。
第二，数据使用的规范也存在问题。学习过程中的数据，涉及到孩子的隐私，目前隐私伦理在教育数据利用方面还缺乏清晰的规范，我觉得应该有这种清晰的教育数据利用的伦理和规范，尊重儿童身心健康以及个人隐私的前提下，合理利用数据。当然也不是说完全不用，完全不用会扼杀这个产业。一是数据贯通，一个是要遵循数据的伦理和规范。
第三个问题，人工智能还存在着技术上本身还有很大的发展。目前真正大规模使用的，像英语口语考试、英语的学习，以及英语作文的批改，这些方面做得相对成熟一些，智能教学，仪器教学装备有了一些。但是很多我们理想上问题的解决，还有待人工智能技术的进一步的成熟。这种成熟关键在于，一是要把人工智能产业界的技术人员和我们教育体系里面的人员结合在一起，形成交叉融合。
如果纯技术驱动，不懂教育规律，有时候就用技术强化我们教育中的很多违背规律的做法。实际上要在正确的教育思想、教育理念、教育规律下发挥技术所应该发挥的作用，一定要在遵循教育规律下不断地推进我们的技术成熟。这对于人工智能的发展也会起到非常重要的作用。
另外，人工智能还要避免两个极端思想。一种极端思想就是认为人工智能能做一切，什么问题都能解决。唯人工智能论。今后人工智能会取代老师，人工智能会取代学校，这都是比较简单的过分乐观的，像我们接触过原来一些企业界的，未来互联网会消灭学校，走了20多年，学校还很好，不可能的。
人工智能不会取代学校，也不会取代老师，不要过于乐观。另外，也要防止那些过于悲观。有些认为人工智能一点用没有，花架子之类的，也要防止这种过于的悲观。这两个之间要有些平衡，要防止这两个极端的事情。
另外，人工智能在用于一些关键性业务的时候，高利害业务的时候，可能还需要各种保障机制，像前段时间，印度就出了一个事情，印度的高考，由于它的高考阅卷系统出现故障，造成很多孩子都不及格，印度那段时间自杀了十几个，自杀了好多孩子，因为印度的高考是高利害的，和我们二三十年前一考定终身差不多，这也给我们启示。高利害的这些应用一定要慎重。比如说我让人工智能来阅卷，这个阅卷是高利害的，决定一个人的很大利益的。
这个时候我建议应该采用多种原理的技术，因为人工智能同样实现这个东西，可能有不同原理，不同原理的技术，比如我找三个产品来同样做这件事情。如果这三个产品都能够有一致性，这就比较稳定。如果有差异，这个产品好，那个产品差，有分歧的时候，这时候人工介入。这是比较科学的。在高利害的应用领域里面，还需要人机结合的思维方式。这种方式非常重要。
主持人
谢谢。今天非常感谢余教授和大家一起分享人工智能在我们教育领域目前的应用。包括我们未来还需要解决哪些问题，受益匪浅。非常感谢您。感谢大家收看我们今天的节目，下期见。
|来源：人民网
|美编：甄宏莉返回搜狐，查看更多
人工智能的安全、伦理和隐私问题
人工智能的安全、伦理和隐私问题一、人工智能的安全问题1.人工智能网络安全问题众所周知，很多行业在应用入工智能这项技术以及相关的知识的时候都是依附于计算机网络来进行的，而计算机网络这个行业是错综复杂的，很多计算机网络的安全问题也是目前我国面临的很严重的问题之一，相应的人工智能的网络安全问题也是还存在问题的，比如机器人在为人类服务的过程中，操作系统可能遭到黑客的控制，机器人的管理权限被黑客拿到，使机器人任由黑客摆布；亦或突然源代码遭受到攻击，人工智能的信息基本通过网络进行传输，在此过程中，信息有可能遇到黑客的篡改和控制，这就会导致机器人产生违背主人命令的行为，会有给主人造成安全问题的可能性。不仅如此，在人工智能的发展过程中，大量的人工智能训练师需要对现有的人类大数据进行分析和统计，如何防止信息的泄漏和保护个人信息的隐私也是人工智能领域需要关注的问题。
2.人工智能应用范围限定的问题对一些发展不成熟、会有引起安全问题的可能性的领域以及技术的应用范围给出一定的限定，这是保障人类与社会和谐发展的一种手段，也是不能或缺的一个步骤。目前，人工智能的发展也是如此的，这也是人工智能目前安全问题所面临的问题之一。目前各行各业都有人工智能的应用，比如无人驾驶、各类机器人等，很多行业都会看到人工智能的存在，小到购物APP中的客服机器人，大到国际比赛中机器人的应用，在许多危险的领域，如核电、爆破等危及人类生命安全的场景，发挥了至关重要的作用。这些领域的应用如果应用的成功那没什么问题，一旦出现问题就会产生很严重的安全性问题。对于人工智能应用的范围，目前并没有给出明确的界定，也没有明确的法律依据，这就需要相关组织和机构，尽快对人工智能的适用场景进行梳理，加快人工智能标准和法律的建设步伐，防止一些不法分子，利用法律漏洞将人工智能运用到非法的范围中，造成全人类不可估量的损失。
3.人工智能本身的安全标准人工智能的产生以及应用的本身目的并不是为了赶超人类或者达到人类的智力水平，它本身存在的价值是服务于人类，可以成为人类生活的更好的一种工具，人类需要对其有着一定的控制的能力。但是近几年来，很多人工智能的存在是为了与人类的智力水平以及人类为标准，忽略了部分人类伦理的问题，甚至涉及到部分人权问题，这就偏离了人工智能本身存在的目的，而这种的偏离会产生一定的安全问题，从而影响人工智能的发展。所以人们应对机器人的道德和行为判断力进行判定，确保其在人类的道德伦理范围中，避免人工智能产物做出危害人类安全的行为。人类必须对人工智能的行为进行严格的监管，也要大力发展人工智能自身的伦理监督机制，使其为人类所用。
二、人工智能的伦理问题1.人工智能算法的正义问题依托于深度学习、算法等技术，从个性化推荐到信用评估、雇佣评估、企业管理再到自动驾驶、犯罪评估、治安巡逻，越来越多的决策工作正在被人工智能所取代，越来越多的人类决策主要依托于人工智能的决策。由此产生的一个主要问题是公平正义如何保障？人工智能的正义问题可以解构为两个方面：第一，如何确保算法决策不会出现歧视、不公正等问题。这主要涉及算法模型和所使用的数据。第二，当个人被牵扯到此类决策中，如何向其提供申诉机制并向算法和人工智能问责，从而实现对个人的救济，这涉及透明性、可责性等问题。在人工智能的大背景下，算法歧视已经是一个不容忽视的问题，正是由于自动化决策系统日益被广泛应用在诸如教育、就业、信用、贷款、保险、广告、医疗、治安、刑事司法程序等诸多领域。从语音助手的种族歧视、性别歧视问题，到美国犯罪评估软件对黑人的歧视，人工智能系统决策的不公正性问题已经蔓延到了很多领域，而且由于其“黑箱”性质、不透明性等问题，难以对当事人进行有效救济。
2.人工智能的透明性和可解释性问题人工智能系统进入人类社会，必然需要遵守人类社会的法律、道德等规范和价值，做出合法、合道德的行为。或者说，被设计、被研发出来的人工智能系统需要成为道德机器。在实践层面，人工智能系统做出的行为需要和人类社会的各种规范和价值保持一致，即价值一致性或者说价值相符性。由于人工智能系统是研发人员的主观设计，这一问题最终归结到人工智能设计和研发中的伦理问题，即一方面需要以一种有效的技术上可行的方式将各种规范和价值代码化，植入人工智能系统，使系统在运行时能够做出合伦理的行为；另一方A面需要避免研发人员在人工智能系统研发过程中，将其主观的偏见、好恶、歧视等带入人工智能系统。算法歧视与算法本身的构建和其基于的数据样本数量及样本性质密不可分。算法歧视问题其实取决于底层数据的积累，数据积累越多算法计算就越准确，对某一人群的算法描述就越精准。同时，随着算法复杂性的增加和机器学习的普及导致算法黑箱问题越来越突出。美国计算机协会公共政策委员会在《算法透明性和可问责性声明》中提出七项基本原则，第一项基本原则即为解释，其含义是鼓励使用算法决策系统对算法过程和特定决策提供解释，并认为促进算法的可解释性和透明性在公共政策中尤为重要。未来人工智能系统将会更加紧密地融入社会生活的方方面面，如何避免诸如性别歧视、种族歧视、弱势群体歧视等问题，确保人工智能合伦理行为的实现，这需要在当前注重数学和技术等基本算法研究之外，更多地思考伦理算法的现实必要性和可行性。
三、人工智能的隐私问题1.个人隐私的过度收集互联网的发展以及人工智能技术的应用在很大程度上降低了大数据在分析应用方面的成本，摄像头已经遍布我们生活的大部分角落，走在街上我们的一行一动，都随时随地在电子监控的掌控之中；计算机被广泛利用来准确地记录人们的浏览记录：移动通信设备随时跟踪人们的通话记录，聊天记录等。在人工智能时代，在收集个人信息面前，人们面对无处可逃的命运。在人工智能的应用中，监控发生了根本性的变化，融合了各种类型的监控手段，监控的力度也变的越来越强大。以CCTV视频监控为例，它不再是单一的视频监控或图像记录和存储，其与智能识别和动态识别相结合，大量的视频监控信息构成了大数据，在此基础上通过其他技术的智能分析就能进行身份的识别，或是与个人的消费、信用等的情况进行关联，构成一个人完整的数字化的人格。人工智能应用中的数据米源于许多方面，既包括政府部门也有工商业企业所收集的个人数据资料，还包含着用户个人在智能应用软件中输入和提供的数据资料，比如在可穿戴设备中产生的大量个人数据资料，以及智能手机使用所产生的大量数据资料都可能成为人工智能应用中被监控的部分，它在不改变原有形态的前提下对个人的信息进行关联，将碎片化的数据进行整合，构成对用户自身完整的行为勾勒和心理描绘，用户很难在此情况下保护自己的个人隐私。视频监控还可能借助无线网络通信，使隐私遭遇同步直播成为现实，一些非法的同步录像行为，具有侵犯隐私利益的可能性。此类人工智能技术的广泛应用，让我们隐私无处安放，不仅超出了公众所能容忍的限度，也是对整个社会隐私保护发起的挑战。
2.个人隐私的非法泄露在人工智能不断发展，应用领域不断拓展，人工智能技术在各行各业中都发挥着越来越重要的作用，渗透在各大领域之中，带动着产业的发展，同时我们也必须承认该项技术的发展和应用无法避免的隐患。很多情况下，我们在不自知或不能自知的状态下向智能应用的运营商或者服务提供商提供我们的数据信息，每个人的数据都可能被标记，被犯罪分子窃取并转卖。以“Facebook”数据泄露为例，2018年3月17日，美国《纽约时报》曝光Facebook造成5000多万的用户隐私信息数据被名为“剑桥分析（CambridgeAnalytica）”的一家公司泄露，这些泄露的数据中包含用户的手机号码和姓名、身份信息、教育背景、征信情况等，被用来定向投放广告。“而在此次事件中，一方面是由于使用智能应用的普通用户对自身隐私数据缺乏危机意识和安全保护的措施，另一方面Facebook应用中规定只需要用户的单独授权就能收集到关联用户的相关信息，其将隐私设置为默认公开的选项给第三方抓取数据提供了可乘之机。同样Facebook之所以受到谴责的一个重要原因就是未能保护好用户的隐私数据，欠缺对第三方获取数据目的的必要性审查，对第三方有效使用数据缺乏必要的监控，使个人数据被利益方所滥用，欠缺网络安全事件的信息公开和紧急处理的经验，不仅会侵害网络用户个人的合法权利，也会对社会的发展进步产生消极的影响。Facebook在对数据使用和流转中，并未对个用户数据提起重视、履行责任。在向第三方提供数据共享的便利同时并没有充分考虑到用户隐私保护的重要性和必要性，以及没有采取必要的预防策略，极易对平台数据造成滥用的风险。不难看出，从分析用户的隐私数据来定向投放广告追求商业价值和经济利益，到一再发生的泄密事件使得用户隐私数据信息泄露变得更加“有利可图”。一方面，人工智能应用由于在技术上占有优势，在获得、利用、窃取用户的隐私数据时有技术和数据库的支撑，可以轻松实现自动化、大批量的信息传输，并在后台将这些数据信息进行相应的整合和分析；另一方面，后台窃取隐私数据时，我们普通的用户根本无法感知到，在签订隐私条款时很难对冗长的条文进行仔细的阅读，往往难以发现智能应用中隐藏着的深层动机。在此次数据泄露事件中，该平台本身并没有将用户的数据直接泄露出去，而是第三方机构滥用了这些数据，这种平台授权、第三方滥用数据的行为更加快了隐私泄露的进程。
3.个人隐私的非法交易在人工智能时代，个人信息交易已形成完整的产业链，在这个空间中，一个人的重要隐私信息几乎全部暴露在外，包括身份证号，家庭住址，车牌号，手机号码和住宿记录，所有这些的信息都成为待出售的对象。在人工智能技术广泛应用的同时，人们常用的智能手机、电脑以及社交媒体平台都在无时无刻的记录着我们的生活轨迹，各种垃圾广告和邮件可以实现精准的推送，推销电话、诈骗短信等成为经常光顾的对象，尽管我们没有购买理财产品，没有购房需求，没有保险服务等，也没有向这些公司提供过自己的隐私数据信息，但无法避免而且能经常接到理财公司、房地产商、保险公司等的推销电话。探究这些公司对用户偏好和兴趣精准了解的缘由，那便是人工智能应用中个人隐私的非法交易行为，我们保留在网站或企业中的个人信息，除了由该企业本身使用外，这些企业还经常与其他的个人和企业共同分享、非法交易，而忽略了公民的个人隐私安全。目前，人们的个人数据，如电话号码，银行卡信息，购车记录，收入状况，网站注册信息等，已成为私人非法交易的严重灾区，这些个人信息被不法分子通过非法交易获得并通过循环使用来获利。现阶段，这类专门进行个人信息买卖的公司在国内不计其数，大大小小的分布在各种隐蔽的角落，甚至有一些正规的大型企业也免不了买卖个人信息的行为。当今社会，公民的很多日常行为都不得不提供自己的私人信息，如应聘工作、参加考试、购买保险、购买车票、寻医看病等等。这些信息提供给企业商家后，他们就有义务对用户的信息进行保密，而目前对用户信息保密的相关法律规定还比较欠缺，因此往往寄希望于企业商家通过自律行为来保护用户的隐私。但是目前的现状是大多数企业的自身素质不高，单纯将对隐私保护寄希望于商家企业的自律是不现实的，这些数据往往会被企业商家非法买卖，甚至将这些非法买卖的个人信息用于诈骗、传销。
人工智能亟待构筑“主动免疫”安全防线
近年来，全球人工智能（AI）产业蓬勃发展，今年ChatGPT更是引爆了新一轮投资和竞争浪潮，人工智能已成为新一轮科技革命和产业变革的重要驱动力量。《经济参考报》记者在调研中发现，人工智能正显露出对网络安全行业的巨大影响力和应用潜力，如何应对人工智能可能带来的安全问题成为各界关注点，也成为网络安全工作的下一个着力点。
人工智能产业发展迅速
近年来，人工智能产业加速发展。据中国信通院测算，2022年我国人工智能核心产业规模达5080亿元，同比增长18%，企业数量超过4000家，中国人工智能产业已进入全球第一梯队。另据预测，2030年我国人工智能核心产业规模将超过1万亿元人民币，全球人工智能市场规模将达到16万亿美元。美国商会今年3月的报告指出，在未来20年里，“几乎所有企业和政府机构”都将使用人工智能，人工智能将对社会、经济和国家安全产生深远影响。
中国科学技术部部长王志刚近日在第七届世界智能大会上表示，当前全球人工智能发展进入新一轮跃升期，超大规模预训练模型的重大突破实现了人工智能的一次历史性跨越，探索出通往通用人工智能的可能路径，潜在创新发展空间巨大。
当前，主要发达国家均十分重视发展人工智能，美国、英国、法国、德国、加拿大、日本、印度、新加坡等国均已陆续发布了人工智能战略。我国也十分重视这一领域的发展，2017年就印发了新一代人工智能发展规划，提出要抢抓发展的重大战略机遇，构筑我国人工智能发展的先发优势。
今年，ChatGPT引发新一波人工智能投资和竞争浪潮。谷歌、Meta等美欧企业和我国的百度、阿里、华为、科大讯飞等都在加紧对人工智能的研究。
业界人士预计，未来5至10年将是人工智能发展的关键期。仅就生成式人工智能而言，Gartner预计其将在2至5年内进入成熟期，并将带来大量的应用机会和商业潜力，是未来的重要技术趋势。
潜藏安全风险引担忧
人工智能在网络行为异常分析、网络安全漏洞识别、人脸检测、自动威胁检测、反欺诈等很多方面都发挥了重要作用，但人工智能快速发展可能带来的潜藏风险引发广泛担忧，关于人工智能发展监管的呼声越来越高。
中国信息协会信息安全专业委员会主任叶红指出，全球范围内人工智能引发的数据泄露、网络攻击、模式误导、学习反噬等安全风险日益凸显，已成为影响和制约人工智能高质量发展的障碍。下一阶段，人工智能安全将是网络安全发力的一个重点。
国家信息中心党委专职副书记、纪委书记吴文化日前在2023西湖论剑・数字安全大会上表示，人工智能给网络安全引入了三方面风险：一是网络攻击风险，人工智能在一定程度上降低了网络犯罪的门槛，提高了攻击的有效性；二是数据泄露风险，容易造成敏感数据或个人信息泄露；三是模型误导风险，一旦遭受数据投毒或模型攻击，容易引发负面舆情扩散或重要决策偏差。
人工智能发展所呈现的新特征带来了安全挑战。中国电信股份有限公司研究院副院长/云网基础设施安全国家工程研究中心常务副主任李安民认为，人工智能安全不同于以往，其具有doublesecurity（双重安全）特征。以往的安全主要是确保系统、对象的安全，而人工智能对象特殊，目前已进入模型驱动时代，其本身具有学习、演进、变化的能力。尤其到元宇宙时代，多元、多维、全息、全能的特征和以往狭义的网络空间和网络信息安全相比，人工智能涉及的安全问题范畴无论从内涵还是外延都有极大的突破。
中国电信集团有限公司科技创新部总经理/云网基础设施安全国家工程研究中心主任王桂荣认为，由于AI技术应用渗透到方方面面，因此有可能带来社会生活和社会治理安全的问题。一些技术，如歧视性的算法、换脸技术等，如果应用不当则会带来伦理安全等风险。
国家信息技术安全研究中心原总工程师李京春认为，由于目前人工智能还不具备创新或联想的特性，尚不足以对人类安全构成威胁。但随着技术的不断演进，仍可能对国家安全、数据安全、网络安全具有影响。
安恒信息董事长范渊日前接受媒体采访时也从技术层面分析解释了AI将带来的两个挑战：一是一些自动化生成工具会带来病毒、木马、后门等出现几率的大幅提升，甚至可能是几百倍的提升，怎样来对抗、来快速发现和快速进行智能化的防护是重要挑战；二是如ChatGPT这样的应用大模型会伴随大量的数据应用，从而产生相关的安全漏洞风险。
业界人士还指出，人工智能应用不当或滥用会增加网络安全、信息安全的监管成本，引发监管滞后。中国电科首席专家董贵山对此表示，ChatGPT作为辅助工具后可能出现过度采集使用者信息的情况，如果ChatGPT本身的源代码上游系统有漏洞，也会导致不同用户的交互隐私遭泄露。
中国工程院院士沈昌祥警告，人工智能自身失误可能会给人类带来灾难；智能硬件可能被恶意用于恐怖袭击；智能工具可能被用于干预和引导政治走向；智能化武器与军备竞赛引发国际新的担忧。
未雨绸缪筑牢安全防护墙
业界人士认为，在人工智能发展过程中，要坚持安全可靠和创新发展并重，筑牢安全防护墙，应对人工智能带来的安全风险亟须未雨绸缪，从而真正拥抱人工智能发展带来的机遇。
中国科学技术协会主席万钢近日表示，要进一步推动科技、伦理、规范、标准和技术的融合，为智能体构建与科技向善的人类共同理念相契合的学习、理解和行为模式，以及更有效的安全性、可靠性、有效性的行为边界。
在沈昌祥看来，人工智能发展是趋势，但安全是发展前提，要避免产业盲目发展，需要构建主动免疫人工智能安全产业的空间。他提出，构建起业务信息、资源和管理的安全可信的三重防护框架，并设置基础软件安全可信、应用软件可信、电信安全可信和实时态势感知四个保护等级。
我国对人工智能安全高度重视，近年来，关于网络安全的法律法规、标准规范，包括各种团体标准、地方政策不断出台。
业界人士认为，从制度、标准、防范技术等方面来看，在制定了相应的框架后，仍需进一步细化深化。与产业的蓬勃发展相比，安全制度仍显得滞后，给人工智能风险防范和安全监管带来了严峻挑战。
叶红建议，要健全人工智能安全制度的体系建设。在推动产业发展时，应深刻认识到其发展可能面临的风险，健全和完善人工智能算法安全、模型安全、数据安全以及安全评估等政策和制度；要在强化人工智能安全行业治理方面加大力度，需要多元主体共同参与治理。积极鼓励相关科研院所持续开展人工智能相关重点问题研究，鼓励相关行业组织制定相关人工智能标准；鼓励第三方开展相关安全评估和检测认证。
李京春指出，人工智能安全问题需要全球共同治理，守住道德底线。要重视软件和软件供应链的安全管控，加大数据安全保护力度，要开展识别、封控等对抗AI技术研究，打击人工智能犯罪。要加强网络安全审查、数据安全审查等国家安全审查。
针对人工智能隐藏风险的新特征，方正证券5月的研报指出，在本轮人工智能产业浪潮下，网络安全产业在攻击侧、防守侧及监管侧的逻辑将发生重大变化。
记者在调研中发现，网络安全企业和技术应用企业已经在积极把握时机，主动应对人工智能的新模式、新应用带来的安全需求。
作为深耕网络安全的企业，安恒信息对人工智能安全防护有着积极看法。“‘AI+安全’，这个大幕才刚刚拉开，未来还有更大的可能性。”范渊认为。据介绍，安恒信息积极利用“AI+安全”的智能化应用给智能防护和响应产业带来的机遇。过去几年，安恒信息已经在云端数据大脑、云端AI模型生成及应用领域进行了积极布局，对类似于大语言模型带来的安全挑战已积累了一定实战经验。
中国电信也在积极构建完备的人工智能应用安全处理体系。在让人工智能更安全方面，中国电信加大相关技术研发，攻关人工智能纵深防御技术、密码技术和数据产业链化技术。目前，其自主研发的威胁检测系统、隐私计算的数据共享平台，以及数据安全流通与监管系统、数据安全的智能化关键技术等，已经在内部和客户场景得到了广泛应用。
业界专家指出，随着人工智能科技和产业的快速发展，有必要根据最新形势变化，制定实施新的人工智能发展国家战略，包括加快研发人工智能大模型、集中力量攻克人工智能关键核心技术、超前规划布局人工智能产业、培养和引进世界一流的人工智能创新人才、及时研究制定有关规则和标准等。针对一些核心技术方面的难题，特别是在基础理论、底层框架和算法核心领域，要强化和深入人工智能核心技术攻关，聚集产学研用各方力量，开展人工智能技术的联合攻关，深化人工智能的技术和产业融合创新。
智能时代的教育创新趋势与未来教育启示
一部人类文明史，就是教育和科学相互激励、相互促进的历史。纵观工业革命以来的人类社会发展历程，时代变迁总是伴随着重大产业变革和经济社会的跨越式发展，而主导时代变迁的源泉则是科技进步。当前，新一轮科技革命正风起云涌，以人工智能为代表的前沿技术对人们的生产生活产生了重大影响，加快推动人类社会迈向人机协同、跨界融合、共创分享的智能时代。
智能时代，新一代信息技术进入创新密集期。中国应抢抓机遇，积极推进前沿技术与教育教学的深度融合，促进教育理念、教学方式和管理模式创新，为实现教育公平、建设高质量的教育体系以及构建更加开放、包容的终身学习体系夯实基础。新冠肺炎疫情对全球教育体系造成了严重冲击。受疫情影响，全球大部分学校被迫关停，约190个国家暂停了线下课程，超过15亿学生的教育进度受到影响，在线教育成为实现“停课不停学”的唯一选择。在大规模在线教育实践中，现代信息技术不仅发挥了重要支撑作用，同时还引领着未来教育的创新与变革。后疫情时期，面对更为复杂多变的国际国内形势，为确保教育现代化目标任务的实现，我们迫切需要认真反思传统教育体系存在的不足，积极推动信息技术与教育教学的深度融合，加快构建面向未来的教育新生态。研究在对智能时代进行界定和分析的基础上，基于《面向智能时代：教育、技术与社会发展》一书中的团队研究成果，总结提炼智能时代教育创新与变革的十大趋势，并根据智能时代教育创新特征及教育本质，进一步获得研究未来教育的五点启示。
一、智能时代呼唤教育创新与变革
(一)迈向智能时代
人类社会的发展大致经历了农业时代、蒸汽时代、电气时代和信息时代。时代更迭具有三大显性特征：一是科学技术的发展奠定了不同时代的生产力基础；二是生产要素随着时代更迭不断演进，而新生产要素的形成，会驱动人类社会迈向更高发展阶段；三是生产力的飞跃也带来生产关系的重大变革，并引起社会生活各领域发生重要变化。
1956年举行的达特茅斯(Dartmouth)会议被认为是“人工智能”诞生的标志。步入信息时代后，互联网技术的发展和高性能计算机的出现，加速了人工智能的创新研究，也促使其从研究走向应用。近十年来，在新理论和新技术的驱动下，人工智能呈现蓬勃发展态势，产业链条逐步形成、集群发展态势显著、溢出效应日益突出。在人工智能引领下，大数据、云计算、物联网、区块链、5G等新一代信息技术加速突破应用。这些前沿技术不断颠覆传统生产模式、组织方式和产业形态，推动传统产业转型升级、新兴产业发展壮大。同时，前沿技术已从互联网领域渗透至传统行业，其应用场景日益丰富、应用价值不断凸显，在包括教育在内的多个服务行业已经有了较为成熟的应用，极大促进了人们工作和生活的智能化。
前沿技术的创新与应用也推进了经济的数字化转型。当前，全球数据呈现爆发增长、海量集聚的特点，以大数据为代表的信息资源已成为重要的战略资源和新生产要素，并和其他要素一起融入经济价值创造过程，推动生产力变革。生产力的发展也促进了生产关系的变革。随着互联网技术的普及，人们开始降低对传统单一生产资料的依赖，而转向多元化的劳动输出，雇佣关系从紧耦合变成了松耦合。人机协同、跨界融合与共创分享的新型发展模式，也使人们摆脱了机械与繁杂的工作，可以基于自由意志展开个体之间的分工、合作与创作。前沿技术还驱动了知识的高效生产、传播和应用，促进了财富积累方向由资本转向知识，不仅急剧提升了财富增长的速度，也增加了收入分配格局调整的灵活性。因此，相比信息时代的计算机和互联网，以人工智能为代表的驱动生产力变革的新技术已经出现，催生了新的生产要素、改变了传统生产关系。历史发展和实践表明，我们正迈向或已经进入了一个由人工智能技术为引领的智能时代。
如果将时代更迭、技术进步与经济周期联系在一起，通过对工业革命以来全球经济增长五次长波的考察，亦可佐证我们的观点。1939年，著名经济学家、创新之父熊彼特将微观企业创新与宏观经济周期相结合，提出了“技术长波论”，指出在经济发展过程中同时存在着长、中、短三种长度不同的周期，而长周期主要是由以产业革命为代表的重大创新活动(群集)引起的，每个长波均以根本性技术创新为标志。熊彼特认为，经济发展是一个动态、非均衡的过程，而创新活动非连续、非平衡的动态过程与经济的繁荣及衰退是相互对应的。由于新技术的全面应用，生产效率显著提升，周期之后的均衡水平将高于之前水平，这一过程即为“创造性毁灭”，而“创造性毁灭”是推动社会向前发展的根本动力。
自工业革命以来的200多年间，人类社会一共经历了五次经济长波，每一轮长波又分为繁荣、衰退、萧条和复苏四个阶段，每一轮长波都伴随着重大技术创新及其主导的产业变革。第一个长波时间约为1780—1842年；第二个长波时间约为1842—1897年；第三个长波的时间约为1897-1946年；第四个长波的时间约为1946—1991年。第五次经济长波复苏时间约在1982年左右，繁荣期以1991年互联网以及信息技术领域的一系列技术创新高潮为标志，是目前仍在进行且尚未完成的经济长波，波峰出现在2008年左右，并以2008年全球金融危机为标志，第五次长波进入下降阶段。从长波持续的时间来看，前四次长波的平均周期为55年左右，而第四次仅经历了45年，长波持续时间不断缩短的背后是知识和技术迭代速度的不断加快。从1991开始的第五次长波至今已持续近30年，且在2008年左右由上升波转为下降波，繁荣期接近20年，2008—2015年左右是此轮长波的衰退期，从2015—2025年左右，该轮长波将进入萧条期并达波谷，此后在主导技术驱动下经历复苏并开启第六次长波。如果前沿技术和产业变革速度比预期更快、技术的外溢和扩散效应更强，那么第五轮长波周期有可能进一步缩短，第六次经济长波有望在2030年左右开启。
当前，我们正处在第五次长波的下行区间，叠加新冠肺炎疫情影响，未来几年，全球经济很可能面临进一步萧条并逐步探底。然而，下行区间往往是新一轮主导技术的萌芽期和发展期，全球范围正在兴起的新一代信息技术创新浪潮即是最好的佐证。可以预见，作为引领变革的战略性技术，以人工智能为标志的新一代信息技术将成为第六次经济长波的主导技术，其对全球产业格局、经济社会变革的影响将远超历次工业革命，也将成为人类社会迈向智能时代的决定性力量。如果我们把以人工智能为主导技术的第六次长波开启时间作为步入智能时代的标志，那么未来10—20年左右，我们将步入智能时代；如果我们以正在兴起的新一轮科技和产业变革作为智能时代到来的标志，便可以认为我们已进入智能时代。
智能时代，以信息化、数字化、智能化为特征的前沿技术不断催生新产业、新业态和新模式，为新一轮长周期繁荣奠定了坚实基础。根本上，前沿技术的蓬勃发展在很大程度上得益于新一代信息技术群进入密集成熟期，算法向并行化、复杂化、规模化发展。算法与深度学习等不断促使人工智能向“拟人化”方向发展，即机器深度学习人类思维，实现技术本身的智慧化。如果将“智能”理解为语言、逻辑、空间、认知等能力，那么“智慧”便是指从感觉到记忆再到思维的过程，也就是说“智慧”是“智能”的升华与进阶。具体来看，数据是信息的载体，信息与实践融合会形成知识，而知识的获取在于思维的形成，思维形成过程即为智慧。智能时代，低延时的5G作为新“信息高速公路”为各主体间智慧的流动提供了桥梁，构建了万物智联、交融共生的5G信息生态，推动智慧社会的形成。可以说，智慧社会将是智能时代里程碑式的产物，也是智能时代终将形成的新社会形态。智能时代，技术与知识的双重进化是促进智慧社会演进的核心动力。在技术层面，人工智能等前沿技术已为智慧社会的建设提供了技术支撑；智能化、数字化、网络化等新一轮科技革命和产业变革也为其提供了环境基础；智能化浪潮推动了人类社会原有的基础设施、生产方式、发展要素、商业范式、经济形态、治理模式等发生转变，使智慧社会更侧重于人与生活。另外，智慧社会体现了前沿技术对人类社会的生产、生活、组织、思维等方面的广泛应用，促使技术逐步代替人的脑力工作，引发社会的链式突破，推动社会智慧化。在知识层面上，数据、信息、知识、智慧代表了信息资源的不同层级和深度，智慧社会意味着“智能”将成为与劳动、资本、土地、信息、数据等同等重要的新生产要素。
智慧社会的主要构成及服务单位是“智慧人”，即知识、技术所带来的驱动力归于人。主体多元、集体智能、共创共享、智能权利等特征更是源于人，而人的认知能力决定人的发展能力，人的发展能力决定了社会的智慧程度。当前，科学技术从两个方面改变着人类，一方面是“向外的”，即对世界的认识；另一方面是“向内的”，即对自我的认知，毋庸置疑，教育是提高人类认知能力最有效途径之一。所以，智慧社会的建设离不开未来教育的发展。首先，未来教育方式及内容决定了人的认知程度；其次，未来教育为智慧社会的发展和迭代提供人才；最后，教育发展中产生的需求及问题也为智慧社会的发展提供动力与方向。另外，智慧社会以智慧、互联为理念，通过“智联”建设打破知识、空间、时间之间的壁垒，形成三维空间与知识、时间两个维度协同融合的“五维教育”，将推动构建以人为中心的教育生产关系，释放教育潜能，推动智慧社会生产力的变革。所以，时代的更新、社会的发展必将带来教育的创新与变革，而未来教育的变革也决定着未来社会的迭代与升华。
(二)智能时代教育范式的转变
在中国进入历史新方位的今天，智能时代无疑是一个新起点。前沿技术与教育的深度融合，将进一步释放教育在推动人类社会发展过程中的巨大潜力。近年来，我国一系列推进人工智能教育应用的战略与规划陆续出台。2017年发布的《新一代人工智能发展规划》和2018年发布的《教育信息化2.0行动计划》等都对人工智能与教育的融合发展进行了明确规划。2019年印发的《中国教育现代化2035》更是将“加快信息化时代教育变革”列为教育现代化的十大战略任务，进一步部署推进智能教育应用。2019年，习近平总书记在给国际人工智能与教育大会的贺信中指出，人工智能时代教育的重要使命是培养大批具有创新能力和合作精神的高端人才；我们要积极推动人工智能和教育深度融合，促进教育变革创新，充分发挥人工智能优势，加快发展伴随每个人一生的教育、平等面向每个人的教育、适合每个人的教育、更加开放灵活的教育。因此，站在智能时代的背景下来思考教育的创新与变革，是我们研究未来教育的基本起点。
习近平总书记的指示突出了教育的时代使命与时代对教育的影响两大问题，前者强调教育应培养时代所需的人才，而后者强调时代的科技进步为教育创新与变革带来的机遇，事实上又可以统一到“学习”这个基本出发点上。在知识快速生产、迭代和传播的智能时代，教育范式变革的核心是由被动式的“教”向主动式的“学”转变，建立学习驱动型的教育体系是智能时代教育变革的主要方向。学习动力、能力和毅力的培养让学习者具有高度的适应性，这种适应性是其面对技术和产业的快速迭代及经济社会的急剧变化时所拥有的关键能力，也是社会对未来人才素养的基本要求。主动学习意味着随时学习和终身学习成为一种常态，且学习者学习和掌握的不仅仅是知识和技能，还应当学会在面对复杂社会问题时，主动运用自身的批判性思维及复杂认知去管理目标、促进合作、增进协调，以实现个人和社会发展目标的统一。因此，为建立以学习者为中心的教育新生态，必须充分发挥互联网和人工智能优势，创新教与学方式，加快构建服务全民终身学习的教育体系。
智能时代为构建以学习者为中心的教育新生态提供了前沿技术支撑，构建数字化、智能化的终身教育体系和网络化、可持续的学习型社会已成为新的使命。此时，学校和教育机构不再是封闭的社会单元，而是通过网络汇聚形成集体智慧聚变的节点。智能时代，人们已不再满足标准化的学校教育模式，对个性化教育服务和获取更多的终身学习资源、机会有了更多需求。互联网将成为教育实践的基本支撑平台，能够实现优质教育资源更大规模、更低成本、更有效的分享，通过提供开放的理念、新的组织流程、新的供给模式、创新的思维来改变整个教育组织体系，服务全民终身学习；而以人工智能为标志的前沿技术将广泛应用于教与学的全过程，助力多元化、个性化、弹性化、高品质的学习，显著提高学习的动力、效率和质量。例如，移动设备、互联网技术的进步改变了学习的时间与空间，学习资源的丰富和智能技术的支撑使得学习可以发生在任意时间和地点；虚拟平台的建设促进了公共沟通与合作，为公众智慧的生成与共享提供了平台；在线学习平台、人工智能机器增加了学习机会、推动学习走向“混合”模式，实现实体教室与虚拟教室在空间上的混合、面授教学与在线教学的混合、同步学习与异步学习的混合；大数据为学习成果的表达及学习成果的评价提供了清晰的可视化途径和精准的数据支持；人工智能通过“数字画像”，能够精准刻画学习者的行为特征，有助于更好地了解个体差异，进而开展精准教学、提供个性化学习服务。可见，基于智能技术建立促进个性发展的教育体系，是智慧教育发展的基本趋势。
知识和学习也为智能时代经济社会的可持续发展提供了动力源泉。2019年，联合国教科文组织启动了“教育的未来”全球倡议，目的是让我们重新思考在这样一个充满不确定性的复杂世界里，教育、学习和知识如何帮助我们更好地适应社会、迎接挑战，进而重新塑造人类的未来。人类生活水平的提高有赖于科技进步，而科技进步离不开创新，创新的驱动力则是内生性的知识和学习。因此，知识和学习能够促进生产率提升、扩大经济产出，提高社会生活水平。同时，当知识要素作为投入品用于生产时，会产生强大的正外部性，从而导致规模报酬递增，而一旦有了规模报酬递增，持续的增长也就成为可能。在人人共创知识、分享知识的智能时代，获得知识收益的边际成本几乎为零，这为学习者广泛获取、使用知识提供了便利，而获取知识的过程——学习也具有显著的正外部性，学习的社会效益远大于学习本身给个人、企业、组织等带来的益处。诺贝尔经济学奖得主斯蒂格利茨(Stiglitz)指出，在人类迈向知识经济的过程中，对于持续的发展和增长尤为重要的是，经济发展不依赖传统的资源积累而是基于学习实现技术进步。当前，人工智能等前沿技术创新已成为开启新一轮增长长波的核心动力，而技术的创新和突破则有赖于知识和知识载体——人力资本的不断积累。如何加快知识和人力资本积累？显然，需要通过教育和学习。因此，构建全民学习、终身学习的学习型社会，大力发展各类学习型组织、加快推进学习型城市建设，能够最大程度地激发知识和人力资本对经济社会发展的驱动效应，促进经济高质量增长和社会的全面进步。
二、智能时代教育创新与变革的趋势
我们的研究发现，智能时代教育创新与变革呈现十大趋势：
1.新技术重塑教育生态
智能时代，人工智能等新一代信息技术是实现教育生态重塑的有效手段，也是实现全球教育改革与发展共同目标、保障教育均衡和质量的最有效工具，走向智慧教育是技术重塑未来教育的最终目标。
智能时代，人工智能、大数据、区块链、虚拟现实、5G等新一代信息技术是教育系统变革的内生力量，将承担支撑引领教育现代化发展，推动教育理念更新、模式变革、体系重构的重任。前沿技术的教育应用将强化教育与技术的融合发展，将在技术理论突破、新兴技术教育应用、智能教育技术、交互认知、脑认知机理与教学模式匹配、智慧教育、教育机器人、个性化学习与规模化教育等方面发生突破性进展，甚至是颠覆性创新。在可预见的未来，教育生态体系的重构有赖于人工智能等前沿技术支撑，人工智能教育有助于转变学习模式、促进个性化培养、减轻教师负担、优化教育治理、丰富教育供给等。我们应该理性推进人工智能与教育的融合共生，让人工智能与教育共同赋能未来，实现智慧教育。智慧教育是未来教育的典型形态之一也是未来教育的发展目标，智慧教育系统包括传递教育智慧的智慧学习环境、启迪学生智慧的新型教学模式和孕育人类智慧的现代教育制度。通过智慧教育，实现公平且有质量教育、培育未来社会卓越人才的根本目标。
2.新范式引领学习革命
构建以学习者为中心的新范式是智能时代教育变革的主要方向，由此引发的学习革命将促进主动学习和终身学习成为常态，加快构建和完善面向未来的终身学习生态体系已成为必然趋势。
终身学习强调教育过程由“以教为中心”向“以学为中心”转变，强调学习者要由他律向自律转变，强调学习需求由外驱向内驱回归，强调学习资源、学习途径、学习方式、学习内容等方面的开放性、灵活性和系统性。面向未来学习的终身学习体系将呈现以下特征：随着信息与交流技术的多样化和传播手段、信息、知识和价值观的源泉多样化，个体学习日益发生在正规教育机构之外；传统知识源泉的垄断权威性弱化，终身学习的针对性大大增强，草根满足草根的服务模式开始出现，并且可能更符合人们的学习需求；解决工作中的问题、提前为应对未来社会的变化作准备是人们学习的主要动机，基于工作场景的终身学习使灵活的技能开发和获得职业资格成为可能；正规学习与非正规学习之间的认证机制逐渐得到完善，使得不同群体都能够根据自己的条件和需求，选择适合自身的学习机会，并在学习之后实现对不同学习成果的转换。智能时代终身学习的生态发展路径包括搭建学分“立交桥”、基于大数据的学习地图、终身学习载体建设和发展、草根满足草根的新型服务模式。
3.新需求激发创新能力
未来社会迫切需要创新型、创造型人才，以激发社会创新能力，而创造力教育正是推动人才培养目标变革的重要环节与手段。
智能时代，如何对海量信息进行搜集、筛选、整合和利用，如何在日新月异的技术发展中提出具有前瞻性、创造性和领先性的技术构思，这是当今人才培养必须要思考的问题。在此背景下，未来教育必然需要培养具有“生产性”思维的创新性、创造性人才。智能时代要求创新和创造性人才具有创新人格、数字学习能力、计算思维、设计思维、思辨能力、人机协同六大特征，其中创新人格是创新能力的人性特征、思辨能力是创新能力的思维基础、数字学习能力是应对知识变迁的必备技能、计算思维是实现创新的基础技能、设计思维是实现创新的基础手段、人机协同是顺应智能时代必备技能。前沿技术赋能创造力培养主要体现在营造支持性智慧环境、变革教学模式、推广和丰富学习资源三方面。面向智能时代的创造力培养包括四大途径，即打造智慧学习环境，提供支持性服务；探索新型教学模式，实现全面培养；更新教学内容，紧跟时代需求；依托场馆情境，营造真实氛围。
4.新环境呼唤数字素养
面对智能时代的数字化成长环境及崭新的时代特征，提升数字素养迫在眉睫，只有丰富和发展学习者核心素养内涵，培育数字素养，方能更好地应对未来社会挑战。
智能时代，也是数字经济时代、智慧教育时代、数据文明时代。面对崭新的时代特征，迫切需要丰富和发展学生核心素养的内涵，强化包括信息素养、媒介素养以及数据素养在内的数字素养。区别于工业时代的学习内容与学习方式，智能时代的教育以互联网为基本媒介平台，以个性化学习为主要方式，以提升公众的数字素养为核心目标。在未来社会中，数字素养一定是每个个体生存发展的基本技能。因此，数字素养的培育乃时代之大使命。凭借单一主体的力量难以为继，构建培育和提升数字素养的生态系统实属应有之义。
5.新市场革新人力结构
知识迭代、技术进步与产业升级不断重塑原有的劳动力市场，增加了劳动力市场对创新型、高技能人才的需求，人力资本水平提升和结构优化将为高质量发展创造大规模的人才红利。
新时代的中国正在获得大规模人力资本红利，而教育是人力资本积累的最重要途径，通过提高知识和发展技术能力，教育有助于增加人力资本积累从而提高个人及组织的生产效率。可以预见的是，以劳动密集型产业为主的产业结构将逐渐退出历史舞台，取而代之的是以高技术、高附加值为主的知识、技术密集型的产业发展模式。随着人力资本水平的提升和技术的迭代，劳动力市场中人力资本结构发生变化，智能时代的到来更是增加了劳动力市场对高知识、高技能人才的需求。如果技术革新和进步替代就业岗位的速度大于劳动力市场中人力资本结构变革的速度，短期内结构性失业在所难免。但从长期来看，随着人力资本水平提升，越来越多的劳动者会满足岗位需求，而智能时代也将创造更多新就业机会、扩大生产规模而增加就业岗位。要应对智能时代的挑战，应深化教育和人才培养体系改革、不断更新劳动力的知识、技能和能力，以应对时代要求。
6.新业态丰富服务供给
智能时代，教育服务新业态新模式层出不穷，极大丰富了教育服务供给，推动了教育服务产业的蓬勃发展，满足了学习者个性化、多元化、弹性化、品质化的新学习需求。
智能时代政府、市场和社会组织的多元供给模式形成有助于教育资源的优化配置、推动公平且有质量教育目标的实现。教育服务产业是伴随新一轮科技革命、消费及需求升级快速发展起来的现代服务业，是市场配置教育资源的重要方式，已成为终身学习生态体系的重要组成部分。教育服务产业发展已走过粗放增长时代，互联网下沉与前沿技术创新为产业各细分领域的发展带来新机遇，产业升级与整合的方向将始终与技术创新、政策变化、需求驱动紧密结合。前沿技术将进一步向产业各细分领域渗透，不断创新产品和服务模式，打造全新业态和生态。教育信息化将呈现出广度、深度同时扩张的态势，职业教育、素质教育受益于政策支持也将获得广阔空间，而学前教育、K12教育、国际教育等则可通过科技赋能、品类创新、个性化服务与集团化战略等拓展潜在空间。在强监管、重规范及有序鼓励的总体政策基调下，以提升品质为核心的垂直深耕及以融合创新为核心的生态战略是未来企业赢得市场的必由路径。
7.新投资驱动产业升级
随着宏观经济金融环境、政策导向变化以及科技与教育融合的加速，资本已趋于成熟理性，投资策略也更加注重企业的内在价值与创新潜力，驱动了教育服务产业的提质升级。
教育服务产业发展过程中，金融资本不仅起到了源头的资本供给作用，同时还通过一套完整的资金流动和配置体系，提升了产业发展与金融系统之间的互动效率。智能时代，打造包含投资生态、技术生态和教育服务生态在内的融合型生态体系，有助于促进技术、产业与资本的良性发展。一级市场上，经历了数次泡沫和周期，资本已趋于成熟理性且更加注重长期价值，大额融资将进一步向已具有竞争壁垒的头部企业和项目集中。二级市场上，IPO将成为资本退出的主要渠道，特别是A股IPO将迎来新热潮。同时，尽管A股并购热潮已退，但海外并购趋势仍将持续火热，且呈现内资境外并购、外资入境双向发力态势。总体而言，成熟的资本在产业布局中的核心考量越来越与技术创新、政策支持、需求升级等因素密切相关。未来，科技赋能创造投资空间、政策驱动引领投资方向、市场扩张打开投资蓝海是教育服务产业投融资的三大机遇，但仍要警惕新一轮行业泡沫以及双主业上市公司在整合资源与管理协作等方面可能面临的问题与挑战。
8.新实践聚焦公平优质
依托于前沿技术的教育发展新实践将更加注重有质量的公平，技术不仅在促进教育公平中将发挥更大作用，也有助于优化优质教育资源的配置，提升教育发展的质量。
智能时代，公平和有质量的教育依旧是中国教育发展的主要目标，而前沿技术将在促进教育公平中发挥更大作用。在起点公平阶段，促进优质教育资源的均衡配置与共享；在过程公平阶段，智能技术不仅实现了对海量信息的精准获取，还能促进教育服务的个性化和精准化；在结果公平阶段，通过协作知识建构、基于大数据的过程性评价等，使得学习者能够获得自适应发展的客观科学评价。对于贫困地区、少数民族地区而言，教育帮扶的信息化、技术化与互联网化是改变和保障贫困地区学生受教育权的主要趋势。科学技术的发展同样为特殊需要学生的学习带来了便利和益处。同时，技术创新还促进了教师资源的优化配置进而提升教育质量。然而技术发展对教育公平也将是一把双刃剑，在认识到它对于教育公平的促进作用的同时，必须正视前沿技术发展可能产生新的数字鸿沟以及虚假平等问题。
9.新治理鼓励多元协同
现代化的教育治理体系鼓励多元主体协同参与、重构治理主体结构，为实现智能时代的教育善治目标，应将技术优势转化为制度优势，让技术与法治相互促进、相互保障，通过新制度赋能新治理。
智能时代，信息技术在教育治理的多个环节、多个层面都产生了不同程度的影响，教育生态正经历着信息技术带来的理念、形式、方法和内容的重大转变。在前沿技术支撑下，数据将更易采集且能够实现互联互通，这为科学的教育决策和管理提供了更为有力的数据保障和技术支撑，也促进了“管办评”分离和“放管服”改革。然而在前沿技术与教育融合过程中，隐私泄露、数据鸿沟、数据失信、算法歧视、决策禁锢等问题也不容忽视。智能时代的教育治理，是信息化环境下教育现代化发展与改革的一种拓展和延伸，教育治理应在新的制度和技术辅助下，更加凸显人的主体性，在教育视域内，更加关注学生的主体价值，这也是教育治理和教育现代化的终极目标。现代化教育治理是资源分配、规范体系建设、能力建设等各项任务的同步协调。多元主体参与教育治理，不仅意味着要向社会更大力度地放权，进一步促进教育开放发展，同时还需要落实好公众在教育决策中的参与权、监督和评价权，以及充分利用新一代信息技术环境与设备，将技术优势转化为制度优势，通过制度赋能治理。
10.新财政亟待兼容技术
智能时代教育财政制度创新要兼容教育领域的技术变革，向治理型教育财政转型，是加快转变政府职能的重要内容，也是实现教育治理体系和治理能力现代化的重要途径。
公共财政支持教育发展主要体现在公共财政对学历教育体系中各级各类学校教育的发展支持。但在智能时代，教育科技企业、社会资本等新的教育服务供给者，以及在线教育、智慧课堂、企业参与教育等新的教育供给形态不断涌现。为推动新技术在教育领域应用，实现智能时代的数字化教育，我国出台了一系列重要文件，建立并完善财政支持机制，以项目为抓手推进我国教育信息化发展。除传统政策支持外，我国还调整了相关学科的专业结构，鼓励高校设置人工智能、虚拟现实、微电子等新兴专业。尽管如此，我国现行的教育财政制度仍没有跟上教育领域内的技术创新步伐，现行的教育财政拨款体系并未兼容新兴的教育供给者。向治理型教育财政改革，是加快转变政府职能的重要内容，也是实现教育治理体系和治理能力现代化的重要途径。迈向治理型教育财政需要更加关注财政主体多元性、公众参与性、公益性与回应性、绩效性和法治性，发挥好市场与政府的作用，以及社会组织在提供混合公共产品方面的优势，探索出符合国情、适应社会主义市场经济发展要求的制度体系。
三、研究未来教育获得的五点启示
智能时代下的教育创新与变革即代表着未来教育的发展方向。关于未来教育，理论界和实践界从学校空间重构、学习中心迁移、教育供给模式创新、人才培养模式改革、教与学方式变革、教师角色进化、课程体系重构、评价方式迭代、教育组织管理创新等多维度进行了广泛而深入的解读。这些面向未来的教育变革要想从理论走向实践，离不开技术的支持，数据和技术将成为构建未来教育新生态的核心驱动力。
事实上，关于“未来教育”没有也无需有明确的标准和界定。这是因为，未来充满了不确定性，这使得教育体系需要根据经济社会发展的新形势、新变化不断进行调整与更新。尽管如此，教育又能够让我们在不确定性中获得某种确定，这种“确定”即是我们应对世界变化所拥有的知识和能力。当我们面向未来谈教育时，应该系统思考如何通过学习让我们在面对迅速变革的时代和社会时，能够以更加开放的思路和多元的视角，从容应对问题和挑战、抓住机遇、寻找有效解决方案、创造更多社会价值。这意味着，未来教育不是现有教育体系某一方面的变革或教育体系的边际创新，而是构建一个真正以促进学习、素养和能力提升为核心的全新教育生态，这个新生态可以为个人的终身学习与发展提供公平的、开放的、高质量的、多元的、弹性的、个性化的教育资源与服务，从而让每个人都有平等机会通过学习改变命运、成就梦想；这个新生态必须与时代接轨，紧跟前沿技术和产业变革的大趋势，可以不断满足社会对创新人才的需求，实现“学习”与“社会发展”的紧密衔接。
立足智能时代及教育的内核，我们形成了以下研究未来教育的五点启示：
1.以全人发展为根本
不论教育的形式、内容、方法、手段等如何变化，未来教育的中心依旧是培养人并为促进人的全面发展而服务，所以将人的全面发展与适应社会需求相结合建立起的新的教育生态是未来教育实践的根本立足点。“人”既是智能时代的原点也是教育的原点，所以更要思考未来教育应如何培养塑造人，才能使其适应智能时代的更迭，展现人的价值。智能时代下的教育应该从“工具思维”走向“原点思维”，将不可被人工智能替代的素养与能力作为培养的核心目标。同时，要改变割裂思维，走向关联思维，尤其要警惕将人工智能与人类智能割裂开来的做法，即要在两者关联的意义上思考人工智能与教育的关系。
2.以主动学习为中心
学习是人类获取知识以提升自我价值和社会价值的最主要途径。因此，未来教育应构建以学习者为中心的教育新生态。学习动力、能力和毅力的培养让学习者具有高度的适应性，这种适应性是其面对经济社会的急剧变化时所拥有的关键能力，也是社会对未来人才素养的基本要求。未来教育在摆脱传统的时间和空间坐标的同时打破了对人生阶段“学习期”与“工作期”的两重划分，未来的学习过程与生命过程一样漫长，学习者必须具有主动学习能力才能保证学习的连续性，这要求教育者要教会学习者用自我更新的终身学习理念去适应高速发展的社会，而与终身学习相伴随的是评价方式的革命，所以多元化评价体系的建设应成为未来教育的重要组成部分。
3.以能力提升为抓手
新生产方式的出现在要求新一代学习者具有创造性、适应性与个性的同时，也要具备批判性思维、创造性能力和开拓性精神。未来，学习者不仅要主动学习知识、掌握关键技能，更重要的是能够在社会生活中将知识和技能转变为更高阶的认知能力、批判性思维以及创新创造才能，从而在合作、协调、目标管理等方面促进个人与社会目标的实现。因此，能力培养应被视为应对未来挑战、提升国家教育实力和公民素养的重要内容。为此，未来教育必须超越知识，充分重视并营造更多实际场景以培养和磨练学习者的能力、素养和态度。
4.以优质供给为导向
为了真正形成以学习者为中心的新教育体系，未来教育应不断适应社会和个人的教育需求升级，以供给侧改革为抓手，开创教育对外开放新格局、深化教育与社会的联系、变革教育资源配置的体制机制、创新教育服务供给模式、多渠道扩大优质教育的有效供给，让公共选择机制和市场机制协同发挥作用。为此，不仅应推动正规教育的优质均衡发展，还应通过非正规教育、非正式学习等方式提供更大范围、更加灵活的终身学习机会，实现正规学习与非正规学习融合、学校学习与社会学习融合、正式学习与非正式学习融合，构建并完善正规学习、非正规学习和非正式学习之间学分和人才的双向流动机制。
5.以优化治理为保障
与未来教育新生态相伴随的是一系列不确定性带来的新挑战，新一轮科技产业革命或将摧毁旧生产力与旧生产关系，加剧传统教育制度体系与新生产力之间的矛盾。因此，未来教育需要依靠现代化的教育治理体系以有效应对挑战，同时也需要现代化的治理能力把制度优势转化为管理效能。不论时代如何更迭，政府依旧在教育治理中扮演着重要角色，但时代更迭又赋予了政府新的管理思路、手段和方法，特别是技术赋能治理创新，能够优化政府管理行为，释放教育发展活力。因此，新挑战不仅需要政府在内的多元主体共同协调和解决，技术本身也将成为解决挑战的重要工具。总之，推进教育治理体系和治理能力的现代化不仅是未来教育实践的重要内容，也为其提供了重要的制度支撑和有效保障。
人工智能时代对信息安全的影响分析
摘要人工智能技术的蓬勃发展，产生许多新应用的同时，对网络信息安全工作也产生了深远的影响，特别是信息泄露、网络攻击、电信诈骗等欺诈、盗窃行为的升温，更加引起人民的警觉。本文从四个方面分析人工智能技术对信息安全的影响，从四个方面思考利用人工智能技术提升信息安全工作水平的途径，为做好信息安全工作提供思考。
关键词人工智能;信息安全;计算机
人工智能是计算机科学的一个分支，用以泛指让机器实现智能行为的一系列技术。这些技术包括机器视觉和听觉、自然语言处理、人工神经网络、机器学习、认知与推理、博弈论、机器人学等[1]。自1956年“人工智能”一词第一次出现在达特茅斯会议上，已经过去60多年。在经历了第一阶段的符号主义、第二阶段的数学建模之后，人工智能来到了移动互联网、大数据、超级计算、万物互联为技术基石的信息时代。
随着网络应用的全面普及，大量的隐私数据在互联网上流通，网络信息安全问题也在日渐成为人们的关注焦点。特别是信息泄露、黑客攻击、电信诈骗等欺诈、盗窃行为的升温，更加引起人民的警觉。人工智能时代对网络信息安全产生哪些影响，如何有效利用人工智能技术对提升网络信息安全防护水平，逐渐成为网络安全领域的重要问题之一。
1人工智能对信息安全的影响
（1）人工智能技术能有效提升信息安全工作的效率。现如今各个安全团队面临的最大困扰之一就是大量安全警报造成的疲劳。北美企业每天接到的安全警报数量高达1000条。大量恶意攻击行为被淹没在警报中没有得到认真对待。人工智能利用大数据、并行计算等技术，整合多个信息源，能够快速梳理处理数以百万计的数据流，并生成分析报告，有助于企业和网络安全公司获得准确的安全风险评估报告，有效提升网络安全工作的效率。
（2）人工智能技术为黑客攻击提供新的便利。人工智能技术的进步，为黑客的网络攻击也提供了新的便利。一方面，人工智能技术发现了计算机系统许多新的漏洞，为攻击提供了可能。另一方面，人工智能技术产生的新应用，成为黑客攻击的新目标。在GeekPwn2017国际安全极客大赛上，白帽黑客们上演了一场与现代科技的巅峰对决，攻击对象包括当下最火的人脸识别，以及声纹识别、使用银行卡在智能POS机消费等场景，令人惊叹的项目破解秀，揭露了新应用存在的安全問题。
（3）人工智能应用本身会产生新的安全问题。以智能交通领域为例，随着无人驾驶汽车以及智能交通系统的普及，有效提升了交通运行的效率，大大降低了交通事故的概率。但是在已有风险消除的同时，新的风险被引入：黑客可以从无线渠道侵入智能汽车终端、从有线渠道侵入后台信息控制系统，从而接管无人驾驶汽车甚至智能交通系统的控制权。实际上，无人驾驶汽车或者智能交通系统由复杂的自动化机器和信息系统组成，其信息采集、传输、处理各个要素环节都面临安全风险，目前已有黑客通过盗取移动App账号密码进而控制自动驾驶汽车的案例。
（4）人工智能对国家信息安全带来新的挑战。人工智能是把“双刃剑”，大数据、内存计算、区块链、并行计算等新技术、新业态的发展，一方面提升了信息化水平，另一方面也模糊了国家安全的边界[2]。人工智能技术本身并没有道德属性，对于使用者的身份、思想、动机不能进行有效的甄别和判断。从使用者角度来说，完全可能利用人工智能技术进行犯罪、网络诈骗，甚至进行恐怖主义活动，西方国家通过谷歌、脸书等网络应用，对全球信息进行整合，给国家信息安全带来全方位挑战。
2人工智能时代做好网络信息安全的思考
①将网络安全提升到国家战略的高度统一谋划。网络安全与国家安全息息相关，没有网络安全就没有国家安全，没有信息化就没有现代化，充分体现了网络安全、信息化、现代化对国家安全的重要作用。人工智能技术的进步，可以有效提升国家的情报搜寻、侦探，网络数据的分析和数字媒体的宣传创造能力[3]。这一能力将在开展国家级战略宣传、情报获取、意识形态斗争等行动中发挥极为重要的作用。②推动人工智能应用的普及。人工智能将成为推动我国信息社会变革的创新科技。国务院颁发的《新一代人工智能发展规划》提出，“人工智能在教育、医疗、养老、环境保护、城市运行、司法服务等领域广泛应用，将极大提高公共服务精准化水平，全面提升人民生活品质”。信息安全不是无根之木，大力普及人工智能应用，完善人工智能生态，一方面能推动相关技术的进步，另一方面也有助于提升信息安全的研究力度和研究水平。③积极拓展人工智能在信息安全领域的应用范围。人工智能对网络信息安全的影响深远，在网络安全的应用逐渐增多，特别是在主动防御、策略配置、安全防护等方面发挥的作用越来越大。但是目前来看，人工智能在信息安全领域的应用整体上仍处于探索阶段。需要不断拓展新的应用，特别是在侦测和清除僵尸网络设备、入侵检测、发现蠕虫病毒、识别垃圾邮件、发现和阻断未知类型恶意软件执行等方面进行新的尝试。④加强管理和技术两个方面的监管。为最大程度降低人工智能带来的安全风险，应从管理和技术两方面采取一系列应对措施。在管理上展开立法研究、标准制定、监管体系建设，加强对人工智能技术和产品的监管。在技术上，推动大数据时代用户隐私和数据保护技术的研究、提高人工智能技术和产品的内生安全性设计水平、对智能产品和技术应用可能带来的威胁风险进行从监测到应急处置等全安全要素的监控，提高风险控制与处置能力。
3结束语
人工智能技术是人类未来技术的发展方向，必然会对网络信息安全带来全新的机遇和挑战。准确把握人工智能的发展方向，大力开展人工智能技术研发，着力培养人工智能、信息安全人才，加强信息安全制度、法律机制建设，提升人工智能时代信息安全工作水平，是确保新时代国家安全的必由之路。
参考文献
[1]张拥军，唐俊.基于云模型的网络安全态势分析与评估[J].计算机工程与科学，2014，36（1）：63-67.
[2]杨鑫.基于云平台的大数据信息安全机制研究[J].情报科学，2017，35（1）：110-114.
[3]邵晓慧，季元翔，乐欢.云计算与大数据环境下全方位多角度信息安全技术研究与实践[J].科技通报，2017，33（1）：45-46.
作者简介
李家干（1990-），男，安徽省六安市人;学历：硕士研究生，职称：助理工程师职称，现就职单位：中国电子科技集团公司第三十八研究所，研究方向：人工智能、信息安全。
猜你喜欢信息安全计算机人工智能信息安全不止单纯的技术问题信息化建设(2021年5期)2021-01-16中国计算机报202007、08合刊中国计算机报(2020年7期)2020-09-10基于模糊综合评价法的信息安全风险评估模型智富时代(2019年6期)2019-07-24基于模糊综合评价法的信息安全风险评估模型智富时代(2019年6期)2019-07-24中国计算机报2019年48、49期合刊中国计算机报(2019年48期)2019-02-072019：人工智能商界(2019年12期)2019-01-03人工智能与就业IT经理世界(2018年20期)2018-10-24中国古代的“计算机”学苑创造·A版(2018年6期)2018-09-18数读人工智能小康(2017年16期)2017-06-07下一幕，人工智能！南风窗(2016年19期)2016-09-21科学与信息化2020年20期
科学与信息化的其它文章大数据时代地理信息测绘工作的转变分析论电子信息技术的应用特点与未来发展趋势基于PLC技术在电气工程自动化控制中的应用分析办公室自动化中计算机信息处理技术的应用探索探究智能化技术在电气工程自动化中的应用《统一建模语言UML》课程信息化建设浅谈应对新兴科技带来的伦理挑战
基因技术、3D打印、人工智能、大数据、纳米技术等新兴科技在为人类社会带来巨大便利的同时，也可能带来巨大风险和挑战。例如，人工智能技术可以让人类从一般的智能活动中解脱出来，集中精力从事各种创新性发现、发明活动。然而，人工智能系统一旦失去控制或被不正当利用，就有可能对人类构成重大威胁。因而，人们在享受新兴科技带来的便利的同时，必须保持审慎态度，有效应对新兴科技可能带来的伦理挑战。
新兴科技所带来的伦理影响纷繁复杂，且彼此之间相互影响、相互作用，加之相关经验和知识积累不够充分，导致人们目前对新兴科技可能引发的伦理挑战还难以精准预测和把握，这加剧了新兴科技使用中的不确定性。例如，当今困扰许多国家甚至全世界的粮食、营养、能源、环境保护和防病治病等问题也许可以通过合成生物的技术来解决。如果将合成的基因组置于细胞内，制造出新的能源、新的可生物降解塑料、清洁环境的新工具、富有营养的蛋白质以及药物和疫苗，那么，由合成细胞产生的产品不仅是全新的，而且更干净、更好、更便宜。然而，与其他新兴技术一样，合成生物技术既可为人类造福，也可能带来风险隐患。合成生物技术具有较简便实用、容易掌握、成本低廉等特点，但也有可能被恶意利用，甚至制造出流行的病毒。这说明，为了更好地发展、利用合成生物技术，有必要对其可能带来的伦理风险作出预判和防范，并进行正确引导。
新兴科技的迅猛发展还可能导致一些新的伦理问题。当人类作出涉及未来的决策时，人工智能技术往往能够发挥一定的积极作用。人工智能技术能够在大数据中发现并总结出人们行为的规律，然后据此预测某人或某群体未来采取某种行动的可能性。比如，消费者有多大可能购买某种商品，什么人可能担任企业的高级执行官，某种疾病在某一地区或国家发生的概率有多大，等等。在此基础上，人工智能技术会引导人们作出相应的干预策略。但也要看到，人工智能技术所发现的规律一般是根据大数据识别出来的，而大数据往往是人们以往行为留下的信息，根据这种以往行为留下的信息预测未来行为，很可能发生偏差或造成偏见，出现伦理问题。
因此，在制定关于新兴科技的创新、研发、应用政策和战略时，不能简单采取“技术先行”或“干了再说”的办法，而要充分考虑新兴科技可能引发的伦理风险和挑战。对科技的管理不能仅仅着眼于效益和产出，还应着眼于能否实现基本的伦理价值，如科技成果能否增进人民的健康、能否保护环境以及维护社会安全等。这就要求在立项之前对新兴科技进行充分的伦理研究，伦理学工作者要为制定合适的监管办法积极提供伦理学根据。
新兴科技具有设备精密、技术复杂、知识结构繁复等特点，这使得科技工作者大多集中精力于科学技术问题，往往无暇关注所涉及的伦理、法律等问题。此外，还有极个别科技工作者受利益驱动做出有悖伦理规范的行为。这就要进一步加强对科研活动的伦理规范和监督，有效防范相关伦理风险。
随着新兴科技的迅猛发展，伦理学工作者不能坐而论道，也不能对科技发展中的问题就事论事，而要将理论与实际联系起来，运用伦理学的理论和方法加以分析研究。可以先研究制订一套初步的、暂行的伦理规范和管理办法，随着相关知识、经验不断丰富而适时加以调整和完善，将新兴科技可能引发的伦理风险降到最低。此外，还应将科技工作者和科学共同体的自我监督同政府主管部门以及相关立法机构的监管有机结合，严格实行问责制和公开制，以有效应对新兴科技可能引发的伦理挑战。
（作者为中国社会科学院哲学研究所研究员）
《人民日报》（2019年05月27日09版）
(责编：任妍、夏晓伦)分享让更多人看到