人工智能教育应用的伦理与限制
作者：杨俊锋（杭州师范大学经亨颐教育学院教授、教育部教育信息化战略研究基地［北京］副主任）；陈睿宁（杭州师范大学）
人工智能技术在各行各业的应用，促进了技术变革和产业升级，有力地推动了数字中国和现代化建设，也为促进教育数字化转型提供了强大动力。习近平总书记在致国际人工智能与教育大会的贺信中指出，中国高度重视人工智能对教育的深刻影响，积极推动人工智能和教育深度融合，促进教育变革创新。
2022年11月，基于人工智能的聊天工具ChatGPT上线仅两个月，活跃用户超过了1亿。ChatGPT能根据上下文理解用户输入的信息，帮助用户生成问题的解决方案，如写论文、编代码、当客服等。当其逐渐应用到教与学的过程中，出现了如人机协同教学、个性化学习、智能化评价、辅助学术研究等典型应用。但是，应用中的伦理问题，如学术不端、数据泄露、社会偏见、教育价值偏颇等，逐渐浮现并产生了负面影响。因此，如何在充分发挥人工智能教育应用价值的同时，有效规避其中的伦理风险亟待探讨和解决。
ChatGPT的教育应用助力学与教变革
ChatGPT的应用有利于促进学生的个性化学习。ChatGPT能够为学生提供个性化的自适应学习体验，通过ChatGPT的自然语言处理技术，将学生提出的问题转化为结构化的数据，并将其与相关知识库进行匹配，提供最优解答，并且ChatGPT会记录每一次的问答，针对学生的问题进行分析，深入了解学生的学习习惯、学习水平等从而使学生可以获得个性化和高效的学习指导，提高学生的学习效率。
ChatGPT的应用有助于推动教师的自动化教学。ChatGPT可以与教师实现协同工作，辅助教师进行课程设计和材料生成，为教师生成有针对性的学科知识、教学材料、教学大纲、教学案例和教学策略等。通过与ChatGPT进行模拟课堂对话，教师可以更好地了解学生的问题，提高课堂教学的灵活性。在课后教师可以使用ChatGPT对学生上课的提问与回答进行教学诊断，帮助教师了解学生的学习情况、困难，及时调整教学策略和内容。ChatGPT会自动对学生的作业或试卷进行评分和批改，教师可以快速而准确地对学生的作业和试卷进行评分和批改。
ChatGPT的应用有益于辅助学术研究。ChatGPT可以为研究者提供模型预测和数据分析的支持。
研究者提供相关数据，这些数据可以包括实验数据、问卷数据、统计数据等，ChatGPT将使用自然语言处理技术分析这些数据，从中发现有价值的信息，并进行数据分析和模型预测，之后ChatGPT将提供分析报告，其中包括数据可视化展示、结果说明和推荐建议等内容，让研究者更加便捷地了解数据和模型的特征、趋势。最后，研究者可以基于分析结果进行进一步的科研探索和实验研究，同时对模型和数据进行优化和改进，从而促进科研工作的深入开展。
ChatGPT应用引发的教育伦理问题亟待破解
教师和学生在应用ChatGPT的过程中产生了亟待解决的伦理问题，包括数据泄露、算法偏见与歧视、学术不端、教育价值偏颇、人文关怀缺失等，这些问题给教育的可持续发展带来了很大的挑战。
数据泄露有可能引起学生权益受损。ChatGPT需要处理与存储大量数据，这些数据存在被泄露的风险。在学习、教学与评价场景中，学生、教师与ChatGPT对话中可能涉及个人隐私信息、学术记录、行为模式、学生成绩、班级信息与答题信息等。由于技术漏洞、相关人员缺乏安全意识、黑客攻击等使这些数据的安全不能得到保障，可能会导致被未经授权的人员访问、篡改或滥用。如果不采取相应措施来规避风险，将会给学生与教育机构带来严重的后果，包括个人信息被利用引来学生被诈骗或骚扰、对学生的学业产生负面影响、学校声誉受损从而家校关系恶化等。
算法不透明或可导致教育偏见与歧视。ChatGPT在算法设计与调整时，可能存在一定的偏见。由于算法设计人员本身的偏见或盲区，或收集的语料本身存在的如种族、地区等偏见，ChatGPT的输出也会受到影响。若算法不透明，我们无法判断其作出决策的依据，也无法得知其中是否存在隐含偏见。学生与ChatGPT进行知识问答时，ChatGPT可能会给出不准确的回答，或者以不当的方式引导学生学习和行为，影响学生的学习效果和公平性，加剧数字技能鸿沟甚至损害教育的公平性。
过度依赖或可导致学术不端与教育价值偏颇。ChatGPT可以根据研究任务生成说服性强且有一定逻辑的文本，若滥用可能产生剽窃、抄袭等学术不端问题。ChatGPT在一定程度上可以帮助学生提升学习效率，但学生若对其呈现的结果不加批判地全盘接受，会导致思维的惰化，从而其影响全面发展。长此以往，学生的元认知、创新性思维、批判性思维、独立解决问题的能力均可能受到不同程度的损害，这与教育“培养全面发展的人”背道而驰。同时，在教学中，若教师过分依赖ChatGPT，在教育中忽视和缺失了人文关怀的情感教育，也不利于培养学生的健全人格与身心健康。
应对ChatGPT教育应用伦理问题的策略
规范开发人工智能教育应用场景。ChatGPT具有强大的文本生成能力，可能的应用场景包括教、学、管、考、评、测、研等诸多方面，学校可以加强应用场景的规范开发，明确人工智能技术的育人价值，从教学全流程、全要素、全业务的角度深度思考，将智能技术与教学深度融合，打造典型的应用模式，破解教育和教学的核心问题，从而塑造学校人工智能教育应用的特色场景。
明确制定人工智能教育应用限度。正确认识ChatGPT等人工智能的功能特点、核心价值，谨慎处理其潜在风险。人工智能教育应用过程中，在数据采集、数据筛选、数据处理、数据应用等方面，容易出现个人信息泄露、数据安全受损、育人价值偏颇等问题。在应用过程中，从数据的全生命周期角度，需明确应用的具体限度，指导教师和学生在安全可信的前提下合理使用ChatGPT等人工智能，确保数据安全，保证教育的育人价值不出偏颇。
提高师生的人工智能素养和伦理意识。教师和学生的人工智能素养是将新一代人工智能技术融入教和学的基础，而伦理风险意识则是保证师生安全可靠应用人工智能技术的前提条件。为提高师生的人工智能素养和伦理意识，组织开发人工智能教育应用与伦理意识相关课程和培训，并将相关内容渗透到各科课程中去，让学生了解智能技术的应用可能带来的伦理风险。同时可引入人工智能检测工具，建立相应的监督和管理机制对学生的学术行为进行监督，对学术不端行为进行惩处。
强化学生的高阶思维能力培养。ChatGPT等生成性人工智能对学生的逻辑思维、提问能力、批判性思维、协作能力、沟通能力等提出了新的要求，只有具备了这些高阶思维能力，学生才能与ChatGPT等人工智能应用形成良性的人机协同，促进自身的全面发展。要充分利用智能工具，推动教学理念更新、课堂范式转型、教学模式转变，推动学生高阶思维能力的培养，让学生能够在未来复杂和不确定的世界中诗意地生存。
（本文系国家社科基金重点课题“人工智能教育场景应用的伦理与限度［ACA220027］”的成果）
[责编：李彬]我国人工智能教育研究现状及主题结构分析
高被引文献分析能够反映出一定时间范围内被同学科领域引用频次位居前列的文献。分析这些最有影响力且学术质量较高的文献，有利于更准确地追踪学科的研究动态。研究将数据导入CiteSpace工具中，时间段设置为从2000年到2019年间，时间间隔设置为一年，生成可视化网络图谱。图谱中共出现63个节点，网络密度达到0.0676，说明文献间共被引关系相对紧密。该数据也初步表明该领域内研究内容相对集中。
（二）高频关键词共词分析
1.高频关键词分析
研究将数据导入CiteSpace软件，节点类型选择关键词（Keyword），图表视图选择时区图（TimeZoneView）进行高频关键词可视化分析。时区图反映了关键词在时间跨度上的知识演进，可以直观反映关键词的演进路径。通过时区图分布，可看出人工智能从2000年起步，并以爆发性的态势发展。至2002年人工智能与教育开始结合，并出现了机器人教育研究。随后在2007年与人工智能相关的教育信息化、智能教学系统被大量提出，表明这一时期研究是以人工智能教育应用为主，特别是智能导学系统的研究。2016年到2019年间，是人工智能教育的大爆发时期，人工智能与教育深度融合并引发了教育教学形式的巨大变化，不仅出现了未来教育、智能教育、智慧教育等教育概念，同时还出现了创客教育、个性化学习、深度学习、计算思维等热点词。
研究将文献数据导入Bicomb软件中进行关键词的提取、统计与分析，统计高频关键词的频次。将数据矩阵导入Ucinet软件中计算得出关键词的中介中心性，表1列出了频次大于3的关键词的频次和中介中心性。
由表1可见，人工智能领域的研究围绕人工智能教育应用、人工智能关键技术、人工智能教育载体展开。主要涉及个性化教学、智能教学系统、机器人教育、机器学习、深度学习、编程教育、STEAM教育、计算思维等核心关键词。
2.高频关键词共现分析
关键词共现矩阵反映了关键词之间的联系。本研究利用Bicomb软件研究选取共现频次大于2的关键词形成关键词共现矩阵，并将生成的共现矩阵导入Ucinet软件进行可视化分析。在关键词共现网络图中，节点的中心度大小通过节点的大小表示。节点之间的连线表示关键词的共现关系，连线越多，则表明关键词之间的联系越密切。在关键词共现网络图中，人工智能的节点最大，中心度最高，占据核心位置。外围与之相连的关键词包含人工智能教育应用、教育信息化、个性化教育、机器学习等。最外围包含编程教育、计算思维、创客教育、学习分析等概念，表明了以人工智能为核心的教育应用、技术、方法、载体、目标等更广泛的研究领域。
（三）主题聚类分析
本文采用SPSS软件针对关键词进行聚类分析，将距离较近的关键词聚在一起从而形成分析目标。将相异矩阵导入SPSS软件中，首先对相关的参数进行设置，在绘制中选择“谱系图”，在聚类方法中选择“Ward”方法，生成如图1所示的聚类谱系图。
根据聚类分析的结果，研究将人工智能教育领域划分为四个类团。
类团1：智能教育理论。
智能教育理论是人工智能教育领域的基础研究内容，包括学习空间、人机协同、教育信息化、教育现代化、智慧教育、教育技术、远程教育、教育等关键词。大量的高频引用论文也多集中在理论和方法层次。这是因为，一方面，传统的教育理论和教育方法已经不太切合人工智能时代下的教育，人工智能时代的教育需要更加切合的教育理论和方法；另一方面，人工智能教育需要一个全方位的理论指导和应用图景介绍，方便教师尽快理解人工智能在教育中的可行应用。该领域由智慧教育、教育现代化等关键词组成。当前，关于智能教育理论的研究主要集中在以下几个领域：国内外人工智能及人工智能教育政策文件及行动计划的解读、人工智能教育已有的研究评述与展望、人工智能背景下的教育理论与方法创新。如蒋鑫对美国颁发的《国家人工智能研发战略规划》和《美国机器智能国家战略规划》进行详细解读，指出其人工智能支持教育变革方面的政策转变，以期为我国未来教育人工智能战略的制定提供借鉴[6]。王珠珠则对教育信息化2.0时代的智能教育核心要义和实施途径进行了深入讨论和论证[7]。总体上而言，新的技术的发展对原有教育理论将产生推进作用，并深入理解新兴技术与教育的适切性问题，推动教育理论的不断更新具有重要意义[8]。
类团2：智能教育应用。
智能教育应用研究是人工智能教育领域的重要研究内容，包括人工智能教育、人工智能应用、人工智能、个性化教学、在线学习、人工智能技术、智能教学系统。该领域学术论文数量较多，研究主要集中在对人工智能赋能教育教学方式、评价、决策等方面，由个性化学习、在线学习、人工智能技术、智能教学系统等高频关键词组成。从当前文献研究可看出，大规模在线学习中的个性化学习和智能教学系统为当前主流的教育应用研究，两者通常进行相互结合。个性化教学通过确立明确的个体目标，实时收集个体行为、认知数据，帮助学生选择最佳的学习策略。智能教学系统则通过采集数据，构建模型，为个性化的教学方式提供良好的实现途径。该领域当前整体的研究趋势是探索如何从教育的实际需求出发开发各类智能教育应用。如余明华在其文献《人工智能视域下机器学习的教育应用与创新探索》中就对应用与教育领域的机器学习方法进行了汇总分析，充分阐述了机器学习对学生行为建模、学习表现预测、学习支持和评测方面的典型应用案例[9]。潘云鹤在其《人工智能2.0与教育的发展》中就对人工智能2.0时代对教育的影响进行了详细的阐述，指出了大数据智能、媒体智能等对个性化教育及学习效率效果的重大提升作用[10]。
类团3：智能教育技术。
人工智能教育研究领域主要依赖核心技术的使用，包括技术方法和核心算法两大内容。这一类团主要由教育大数据、学习分析、机器学习、深度学习和区块链等几个高频关键词组成。其中，教育大数据是人工智能实施的基础数据支撑，而学习分析则是重要的技术支撑。研究多以教育大数据为支撑，根据教学中学生认知发展规律的变化，提取重要指标，发现学习规律，为优化学习路径、促进教学监督与干预提供证据支持[11]。机器学习是人工智能的核心，机器学习研究如何使计算机自动进行学习的方法，具有从信息中归纳知识，进行聚类、关联分析、预测及可视化等各种能力，其适用于各种大小规模不同的数据集。而深度学习属于机器学习的子类，其更依赖于大规模数据的使用。近几年，大规模开放教育平台迅速发展，其为深度学习提供了海量的学习和评测样本，促进了学习增强、学习预测、学习迁移、知识表征、自适应学习等多个教育领域的发展[12]。
类团4：智能教育内容。
在人工智能战略的总体目标和创新性人才培养的要求下，当前的人工智能教育内容与相对成熟的创客教育、STEAM教育、机器人教育形成自然连接。该类团主要由机器学习、创客教育、STEAM教育、计算思维和编程教育等高频关键词组成。这些教育内容所蕴含的创新素质培养、合作精神、问题解决能力、批判性思维等培养目标与人工智能教育培养总体目标相一致。从研究的趋势来看，该领域研究主要集中在中小学人工智能课程体系、教学模式及创新能力及核心素养等几个方面。研究思路也逐步从单纯的人工智能知识教育过渡到整合人工智能的教育，教育形式和教育模式都不断创新。如傅骞研究中探索了图形化编程工具在提升学生的计算思维能力方面的显著效果[13]；谢忠新从认知发展视角提出了对中小学人工智能课程内容建设的想法[14]；祝智庭则在其《面向人工智能创客教育的国际考察和发展策略》一文中，为面向人工智能的创客课程建设提出建议，指出了科普课程、嵌入式课程、项目性和整合性课程的不同目标及组织形式[15]。
三、研究结论
从人工智能作用的对象出发，我们可以总结得出，当前人工智能教育研究主要应在以下三个方面不断深入探索。
（一）人工智能优化教学内容，完善学生知识体系
人工智能可以通过两个维度来优化教学内容，完善学生知识体系。一个维度是在内容本身，即在教学内容中加入人工智能的相关知识，方便学生应对未来的知识需求；另一个维度则是组织形式，利用人工智能可以更好地组织教学内容，方便学生理解。未来社会的运行将会建立在人工智能及物联网基础上，学生们只有理解了人工智能、物联网等基本原理才能应对未来的需求，所以基于人工智能的相关课程必须充实到现有的教学内容中。对于组织形式而言，借助于人工智能技术，知识可以以知识图谱的形式进行组织，形成网状的知识依赖图，从而可以以更加科学的方式进行教学，也为个性化的教学提供了基础。
（二）人工智能改善教学环境，激发学生创新能力
人工智能对教学环境的支持可以在对学习内容进行重新组织和重构的基础上，对学习活动进行跟踪和分析，对学习时空进行感知和适应，对教学活动进行评价与优化。为实现这些目标，人工智能技术不仅应提供人与教学环境的自然交互、基于情境感知的自适应教学、基于学习者行为的自动评价与反馈等，还应关注学习环境对学习成就的影响，从而制定有效的环境支持策略，提升学生的学习效果和效率。更为重要的是，当前人才培养目标正在向具有核心素养的创新性人才过渡，人工智能对学习环境的支持必然也应顺应这一变化，注重对学生的创新能力培养的支持，即通过拓展实践环境和空间环境，使学习者在课上和课下、真实和虚拟环境中都能产生创新的行为。
（三）人工智能改进教学过程，增强学生学习效果
人工智能可以为教学过程提供支持，可以应用于学习、诊断、练习、测评等学习过程之中。这些应用通过收集海量教学和学习数据，实施细粒度分析，追踪每位学习者的知识和能力发展情况，提升学习分析的精准度，进而为学习者提供及时干预措施和学习辅助。在此过程中，人工智能在教育中的应用与研究应在充分了解学习过程的基础上，积极吸收和借鉴学习科学及认知心理科学等最新研究成果，依据学习者认知特征规律构建更为精准的学习支持模型，有效提高学习效果。更进一步，人工智能对教学过程的支持还将有效改变现有评价方式。技术的多维接入，使得教师可以使用多样的设备采集任意过程数据，对学生的逻辑思维、情绪体验等进行多角度的综合评价，实现更加精准的智能导学与基于核心素养能力的个性化评价。
当前的人工智能教育研究还处于初级阶段，未来还有很长的路要走，笔者建议后续的研究从以下几个维度展开：在教学内容上，从学科整合角度出发来构建分层的人工智能教学课程体系。整合是为了通过综合实践来培养学生解决实际问题的能力，分层则是为了在不同的学段提供合适的人工智能课程。在教学环境上，从促进学生创新和分享的角度来设计智能教学环境。好的教学环境并不只是方便老师或学生完成已有知识的被动学习，而是应该激励学生进行知识的创新应用和分享，并形成创新到分享又激励创新的正向循环，持续地进行创新和分享。在教学过程上，从学生核心素养角度出发来研究人工智能支持下的教学过程。我们相信，伴随着人工智能教育应用的不断研究和实践、教与学效率的不断提高，人工智能教育最终会促进师生共同发展，培养满足时代需求的人才。
[3]闫志明，唐夏夏，秦旋，等.教育人工智能(EAI)的内涵、关键技术与应用趋势：美国《为人工智能的未来做好准备》和《国家人工智能研发战略规划》报告解析[J].远程教育杂志，2017，35(1)：26-35.
[4]吴永和，刘博文，马晓玲.构筑“人工智能+教育”的生态系统[J].远程教育杂志，2017，35(5)：27-39.
[5]贾积有.人工智能赋能教育与学习[J].远程教育杂志，2018，36(1)：39-47.
[6]蒋鑫，洪明.从“NSTC规划”到“CSIS规划”：美国人工智能赋能教育的颠覆与创新[J].中国远程教育，2019(7)：27-37.
[7]王珠珠.教育信息化2.0：核心要义与实施建议[J].中国远程教育，2018(7)：5-8.
[8]李政涛，罗艺.面对信息技术，教育学理论何为？[J].华东师范大学学报（教育科学版），2019，37(4)：1-12.
[9]余明华，冯翔，祝智庭.人工智能视域下机器学习的教育应用与创新探索[J].远程教育杂志，2017，35(3)：11-21.
[10]潘云鹤.人工智能2.0与教育的发展[J].中国远程教育，2018(5)：5-8，44，79.
[11]魏顺平.学习分析技术：挖掘大数据时代下教育数据的价值[J].现代教育技术，2013，23(2)：5-11.
[12]赵慧琼，姜强，赵蔚.教育大数据深度学习的价值取向、挑战及展望——在技术促进学习的理解视域中[J].现代远距离教育，2018(1)：17-25.
[13]傅骞，解博超，郑娅峰.基于图形化工具的编程教学促进初中生计算思维发展的实证研究[J].电化教育研究，2019，40(4)：122-128.
[14]谢忠新，曹杨璐，李盈.中小学人工智能课程内容设计探究[J].中国电化教育，2019(4)：17-22.
[15]祝智庭，单俊豪，闫寒冰.面向人工智能创客教育的国际考察和发展策略[J].开放教育研究，2019，25(1)：47-54．
郑娅峰（1979—），女，河南洛阳人，博士，副教授，主要研究方向为教育数据挖掘、学习分析、自适应学习、可视化分析；
傅骞（1978—），男，浙江金华人，博士，副教授，主要研究方向为物联网技术及教育应用、创客教育等，本文通讯作者；
赵亚宁（1997—），男，山西临汾人，硕士，主要研究方向为数据挖掘、数据分析、机器学习。
喜欢就点个赞吧返回搜狐，查看更多