邓国民，李 梅：教育人工智能伦理问题与伦理原则探讨
首页>弹性教学>专家观点>邓国民，李梅：教育人工智能伦理问题与伦理原则探讨
邓国民，李梅：教育人工智能伦理问题与伦理原则探讨发布时间：2020-06-0519:11作者：小编来源：电化教育研究点击量：
()邓国民1，李梅2(1.贵阳学院教育科学学院，贵州贵阳550005;2.北京开放大学教育学院，北京100081) [摘要]文章旨在揭示智能化时代的教育将面临哪些新的伦理问题，并在人工智能伦理和教育伦理的基础上，探讨教育人工智能的伦理原则。运用文献研究和逻辑推理方法，系统梳理了教育人工智能应用的特点和优势，及其可能引发的新的伦理问题：(1)角色层面，系统创建者、教师、学生和监测员等利益相关者将面临更加复杂的伦理困境;(2)技术层面，涉及自动化决策伦理问责、算法伦理和数据伦理等方面的问题;(3)社会层面，可能转变就业市场、改变人际关系和引发新的社会不公平。因此，需要对教育人工智能伦理问题的复杂性有充分的认识，同时需要遵循一般的人工智能伦理原则和教育伦理原则，其中，最核心的内容为二者之间的交集，具体包括：(1)福祉;(2)是非善恶;(3)公平正义;(4)人权和尊严;(5)自由自治;(6)责任和问责。[关键词]教育人工智能;人工智能伦理;教育伦理;数据伦理;算法伦理;伦理原则 一、引言当前，人工智能、大数据和物联网等新技术的发展正在推动人类社会从信息时代进入智能化时代。信息时代的教育仍然带有明显的工业化特征：借助现代信息技术，提高教育资源创建、传递和共享的效率，打破时空的限制，实现人才培养的批量化和效率的最大化。然而，信息时代的教师资源仍然短缺，而且教师深陷于大量琐碎的日常工作中，使得真正意义上的因材施教难以实现。教育人工智能是在教育领域应用的人工智能技术及系统，能够凭借其高度智能化、自动化和高精准性的数据分析处理能力与主动学习能力，承担一部分过去只有教师才能够胜任的工作，从而有效地解决信息时代的教育所面临的一系列问题：(1)利用基于自然语言处理和深度学习的自动问答技术，能够自动回答学生提出的问题[1];(2)自动评价学生的学习与作业，并提供符合其认知状态的反馈和支持[2];(3)利用情感检测技术自动识别学生的身体动作和面部表情，识别学生学习过程中的情感需求，提供个性化情感支持[3];(4)模拟教师、管理者、学习伙伴、合作者和竞争者等不同的角色，促进交流与合作[4];(5)构建自适应学习环境，分析和诊断学习者的学习风格、学习需要，为他们提供自适应学习支持服务;(6)利用决策管理技术辅助教师的教学决策和学习者的学习决策[5]。因此，教育人工智能能够更有效地支持个性化教学，甚至在某些学习支持服务方面的能力已经超越了人类教师。然而，教育人工智能强大的数据整合与分析能力，同时也会引发一系列新的伦理问题，例如：可能会给用户的私人数据和隐私保护带来潜在的风险;模糊教师、学生和人工智能代理等角色之间的界限。因此，教育人工智能的设计、开发和教学实践应用都需要对其伦理问题的复杂性有充分的认识，并认真思考应该遵循何种伦理原则。 二、教育人工智能面临的伦理问题 (一)利益相关者伦理问题探讨教育人工智能的伦理问题，首先需要确定其涉及哪些利益相关者。汤姆塞特(Tomsett)等人从人工智能的可解释性或透明度的角度，定义了人工智能生态系统中的六种不同的角色，分别是系统创建者、系统操作员、决策执行者、决策主体、数据主体以及系统监测员[6]。教育人工智能是在教育领域应用的人工智能技术及系统，其利益相关者同样应该包括这些角色。首先，创建者包括开发教育人工智能的软件公司、员工及与其合作的相关专业人员和研究人员。其次，教师和学生均承担了操作员、执行者、决策主体和数据主体等角色，因为在教学过程中，教师起主导作用，学生具有主体地位，他们都会直接与教育人工智能进行交互，为系统提供输入并接收系统输出的信息。师生均会在教育人工智能输出的信息的基础上作出决策，而且会受到对方决策的影响。他们的个人信息均可能用于训练教育人工智能，丰富和完善其智能导师代理、学习者模型和教学法模型。最后，监测员是指对教育人工智能进行审查的代理机构或人员，由他们对教育人工智能的应用效果和可能产生的潜在风险进行审查。因此，在构建教育人工智能的过程中，需要同时考虑系统创建者、教师、学生和监测员等利益相关者的伦理问题。1.系统创建者伦理问题教育人工智能的创建者包括系统设计师、软件架构师、程序员等设计开发人员。他们在设计、开发教育人工智能的过程中，需要在综合考虑其教学应用效果的同时，兼顾教师和学生的利益。他们需要在保证教育人工智能的稳健性、安全性、可解释性、非歧视性和公平性的同时，支持教师和学生的主观能动性，重视师生的身心健康和学生综合素质的全面发展，而且需要能够支持问责追因。为了满足这些方面的要求，教育人工智能的创建者应该清楚各自承担了什么样的伦理责任。首先，设计师需要了解不同用户之间存在的能力、需求及社会文化等方面的差异，真正基于善良的动机设计产品，避免任何形式的伤害与歧视。软件架构师需要构建安全、可靠和透明的系统架构体系，在保护用户个人数据安全、保障系统可靠运行的同时，更好地支持问责追踪。而对程序员来说，需要设计无偏见的算法，使其能够公平、公正地对待每一位用户。2.教师伦理问题人工智能技术将会实现很多职业的自动化。教师的日常工作，如教学评价、教学诊断、教学反馈以及教学决策中的很大一部分都将由教育人工智能分担，教师角色将会不断深化，最终发生转变。一方面，教师将从一些重复的、琐碎的日常事务中解放出来，能够有更多的时间和精力投入到更具创造性、人性化和关键性的教学工作中去，例如：创造和部署更加复杂的智能化学习环境，利用和扩充自身的专业知识，在恰当的时间为学习者提供更有针对性的支持。另一方面，对技术重要性的加持，将对教师工作及角色产生直接影响，例如：可能会掩盖教师的个人能力、知识及人格等方面的重要性，削弱教师的主观能动性[5]。因此，在智能化教学环境下，教师将面临一系列新的伦理困境：(1)如何定义和应对自己新的角色地位及其与智能导师之间的关系;(2)利用教育人工智能采集和使用学生的学习行为数据为其提供教学支持服务的过程中，该如何保护他们的隐私及个人安全;(3)在新的教学实践环境下，教师应该具备什么样的伦理知识，需要遵循什么样的伦理准则以作出伦理决策。因此，教育人工智能将对教师的能力素质与知识结构提出更多新的要求，他们不仅需要具备一定的关于教育人工智能设计、开发和应用方面的能力与知识，而且还需要具备一定的伦理知识，使其能够以符合伦理原则的方式将教育人工智能融入教育实践[7]。3.学生伦理问题智能化时代对学生的学习、能力、素养提出了更多新的要求，也使学生面临的伦理问题更加复杂化。第一，人工智能可能改变未来的就业市场，就业导向的教育很可能过时，因此，学习者对于自己所学习的内容和目标都需要进行重新思考[8]。第二，人的神经系统是可塑的，教育人工智能能够给学习者提供个性化的学习支持服务，但同时也可能会剥夺他们的很多思维训练和学习体验的机会，改变他们的大脑结构和认知能力，尤其是在学习者大脑发育的关键期过度使用认知技术，将可能带来不可逆转的严重后果，这对他们发展更高级的认知技能和创新能力是非常不利的[9]。第三，教育人工智能的发展，使知识产权和诚信等伦理问题变得更加微妙和复杂。如果学生利用教育人工智能自动生成论文、作业或作品，其中涉及的知识产权的归属问题，目前仍缺乏明确的伦理规范[10]。第四，教育人工智能的使用会不会给学习者带来身体的重复性劳损、视力问题和肥胖问题等，会不会影响他们的视觉、触觉和听觉等感官的敏感性，会不会剥夺他们体验简单快乐生活的机会[11]。第五，教育人工智能可能会剥夺大量的学习者与教师和同伴交流的机会，这会不会影响他们参与有意义的人类社会活动的能力。第六，教育人工智能的认知能力、计算能力和信息处理能力在某些方面远远超越了人类学习者，会不会让他们变得沮丧，降低他们的学习动机，使其不再愿意去主动解决问题和进行理性思考。4.监测员伦理问题在教育人工智能场景下，监测员包括制定教育人工智能标准的机构或相关人员、数据专员等，他们主要负责对系统的一致性、安全性和公平性等方面进行测试、调查和审查[6]。安全测试一般在教育人工智能部署之前进行，而审查需要检查系统过去的输出，因此，需要一个备份系统存储教育人工智能的数据、决策及解释。监测员正是通过这些数据、解释与教育人工智能进行交互，分析和审查教育人工智能作出教学支持服务决策的一致性、安全性和公平性，并提出相应的整改措施。因此，保证教育人工智能的可解释性，需要对其作出的决策、判断和学习支持服务建立相应的存储保留机制和解释方案，供监测员审查，通过第三方机构来保证教育人工智能的设计、开发和应用是符合教育教学伦理规范的。审查之后，监测员还需要向创建者提供如何改进教育人工智能的反馈，如重新训练模型、提高模型的公平性和保护学生隐私数据的安全策略。(二)技术伦理问题1.自动化决策伦理问责问题随着教育人工智能的自主控制和自主决策能力不断增强，它们也需要意识到自身行为的伦理含义，而不是依赖于设计人员预置的规则。因此，需要给教育人工智能引入伦理原则和规则，构建智能道德代理，使其具有一定的伦理决策能力，并能够对自己的决策、行为和后果进行判断，协调各方利益，但这样也会引发出一些新的伦理问题[12]。首先，规则与算法是由设计者、程序员定制的，而不是由教育人工智能自主建构的，权威、权力和影响力会越来越多地体现在算法的开发和实施上。在各方利益冲突的情况下，教育人工智能应该优先服务于谁的利益，设计者、程序员、教师还是学生?其次，教育人工智能的应用可能会导致学习的失败，其中潜在的责任主体包括设计开发人员、教师、学生和智能代理等，出现这种情况时应该向谁问责，软件、数据、教师和学生各自应该承担什么样的责任，目前还缺乏相应的问责机制。最后，教育人工智能本身的自动化和复杂性，意味着我们很难确定系统的决策机制是如何运行的，也很难对其进行追溯和解释。2.算法伦理问题目前，人工智能主要通过机器学习和深度学习算法进行学习和训练，基于过去记录的历史数据作出决策和判断。如果利用教育人工智能对学习者及其学习进行评价，那么只能根据过去的标准和方法，如特定历史文化背景下的成功衡量标准来进行，这将会使学习算法不可避免地产生历史或文化的偏差与偏见，局限于依据历史案例的平均化数据进行处理，而在处理具有创造性和创新性的学习活动过程方面面临极大的挑战[9]。从基本的伦理观点来看，教师和学生能动性的表达需要的不仅仅是重复过去的历史选择，而是需要强调人的创造性和创新性，不能只是停留在过去。教育人工智能可能提供更多个性化和多样化的学习路径和学习资源的选择，但目前的做法一般是根据用户过去的选择和决定将其确定为不同的个人画像，然后过滤掉不符合其个人画像的学习内容和路径。这种方式可能会限制学习者对学习内容多样化的需求，忽视人的学习和发展的灵活性、多样性和不确定性。3.数据伦理问题教育人工智能的正常运行需要大量数据的支持，因而需要记录大量关于学习者的能力、情绪、策略和误解等方面的数据，其中涉及大量新的数据伦理问题。首先，在数据的分析和处理过程中是否会涉及数据意外泄露的问题，教师和学生应该在何种程度上控制自己的数据，保护自己不受到伤害和歧视。其次，谁拥有这些数据，其中涉及什么样的隐私问题，如果发生个人信息泄露，谁应该对此负责。最后，对于这些数据，应该如何分析、解释和共享，如何纠正可能对个别学生的合法权利产生负面影响的偏见(有意识和无意识的)，尤其是在考虑到种族、社会地位和收入不平等的情况下。因此，教育人工智能的伦理原则不能被简化为关于数据或计算方法的问题，还需要考虑数据伦理和教育伦理。教育人工智能的伦理问题，实际上是数据伦理、计算伦理和教育伦理的综合应用[13]。(三)社会伦理问题1.转变就业市场和人才培养的方向现行教育系统的关键作用之一是培养学习者参与社会经济生活的能力。教育制度的历史与工业社会的发展密切相关，雇佣劳动仍然是当今社会及其日常生活的核心组织原则。但是，人工智能将可能代替人类的很多工作，这会不会导致失业率的上升?纵观历次工业革命，每次都会出现类似的担忧，但最后对人才的需求量反而越来越大，因为随着人口的增长和社会的发展，对产品和服务都会提出新的需求[9]。一些简单的、重复性的劳动将由人工智能承担，人类则将从事一些富有创造性、挑战性和不可替代性的工作，例如：人工智能系统的设计与开发、人工智能哲学问题和社会问题的研究等。他们将有更多的时间和精力投入自己感兴趣的领域，真正实现人性的解放。因此，未来的就业市场格局将面临根本性的转变，社会对人才的能力和素养也会提出更多新的要求，这将对人才培养的质量标准和规格带来革命性的影响。2.改变教学过程中的人际关系教育人工智能的技术化过程可能会忽略师生之间以及学生之间的正确关系(“我―你”而不是“我―他”)，弱化我们对教育的理解，进而只是将其理解为学习技能，而不是人的培养，从而容易忽略教师和教学在教育过程中的重要性[14]。教育人工智能将对师生关系产生重要的影响，它可能会削弱师生之间和学生之间的联系水平，以及他们之间建立联系的能力，同时也可能削弱教学过程和学习过程，弱化教师作为专业人员的地位。师生关系质量对于学习者的个人自尊、学习动机和挑战新问题的信心等影响学业成绩的因素都具有重要的影响。教师对学生的友善态度和及时反馈有助于他们获得自信心，促进他们健康情感的发展。而且，我们也无法保证所有的教育人工智能使用者都是基于一种良好的意图，教育人工智能的滥用和不良使用，例如：获取他人的隐私数据，模仿他人的笔迹、语音和会话风格去获取非法利益，以及将教育人工智能生成的知识、报告和艺术作品据为己有，都可能降低教学过程中人与人之间的信任感。3.引发新的社会不公平教育人工智能的初衷是要增进教育系统内各利益相关者的福祉，让更多的教师和学生受益，需要尽量避免因为数字鸿沟而导致的新的社会不公平。教育人工智能领域的数字鸿沟，不是简单地由社会经济地位差异而导致的对技术设备拥有和访问权的悬殊引起的，而是由一系列复杂的影响因素构成，如信息素养、人工智能素养、对待教育人工智能的态度、应用能力和使用意向等，它们会影响教师和学生应用教育人工智能的目的、方法和策略，进而影响最终的教与学效果，带来新的教育不公平[5]。历史经验也表明，新技术的应用往往并不会缩小教育的不平等，反而可能扩大教育的不平等，这其中涉及技术应用的能力、效果和效率等方面的问题。 三、教育人工智能伦理原则 人工智能本身的自动化、自主性和能动性等方面的特征，使其同时扮演道德行动者和容受者的角色，并具有一定的伦理责任和道德决策能力。教育人工智能的应用可能会使各利益相关者面临众多新的伦理两难问题，并带来一系列新的技术伦理和社会伦理困境。因此，教育人工智能的应用绝不仅仅是一个技术层面的问题，还涉及技术与人类的关系、科技哲学及社会学等层面的问题，如果对其伦理困境的复杂性没有深刻的认识，将可能带来不可估量的负面影响。一方面，教育人工智能是人工智能技术及系统在教育领域的具体应用，需要遵循一般的人工智能伦理原则;另一方面，它又是一种具体的教育教学实践活动，需要遵循教育伦理原则。根据对国际电气和电子工程师协会(IEEE)2019年发布的《合伦理设计：利用人工智能和自主系统最大化人类福祉的愿景(第一版)》[15]、欧盟委员会2019年发布的《值得依赖的人工智能伦理准则》以及其他人工智能伦理指南文件的分析[16]，可以发现，尽管各国存在文化传统方面的差异，但在通用人工智能伦理方面表现出一定的趋同性，主要包括可解释性、公平正义、责任、隐私和数据治理、善待、非恶意、自由自治、信任、尊严、稳健性、福祉、有效性、慎用、胜任和人权等方面。教育伦理原则主要包括：(1)能否给教育活动的全体利益相关者带来福祉;(2)能否明辨是非善恶标准;(3)是否尊重教育公平和教育正义;(4)是否保护人的教育权、自由权和隐私权等基本人权;(5)是否尊重人，是否维护人的道德尊严;(6)是否履行教育的道德责任与义务[17]。可见，人工智能伦理和教育伦理在福祉、是非善恶、公平正义、人权和尊严、自由自治和责任等方面存在交叉重叠之处，如图1所示。图1人工智能伦理与教育伦理之间的关系因此，教育人工智能伦理原则应该是二者之间的交集，代表在教育情境下，人工智能系统的技术开发与实践应用应该遵循的具体伦理原则。(一)福祉福祉主要是指人工智能的设计和应用应该改善人类生活质量和外部环境，包括人类赖以生存的各种个人、社会和环境因素。它需要评估人工智能是否会让人类社会和环境变得更加美好，能否促进社会的进步，促进社会和环境的可持续发展，为任何地方的人所有并使其受益[15]。从教育领域来看，福祉主要是指教育人工智能的设计、开发和应用应该能够为教育活动的所有利益相关者带来福利，实现所有教育教学活动相关人员的教育利益的最大化。例如：它能否改善现有的教学环境，更好地支持学习者的学习，尤其是存在学习障碍的学习者的学习;能否提供更多、更好的学习机会，更好地做到因材施教，使所有学习者均能够得到更充分的发展;能否将教师从一些低水平的重复工作中解放出来，使其更好地投入到更有价值、更有意义、更具创造性的教育活动中去，让他们的个人价值得到更充分的实现;能否改善师生关系，使师生能够以一种更幸福、更健康的方式投入到教与学活动中去，实现个人全面和谐发展的同时，更好地保障他们的身心健康。(二)是非善恶人工智能的非恶意原则主要是指其设计和应用应该是出于仁爱而不是恶意的愿望，即绝对不应该造成可预见或无意识的伤害、偏见和不公平，需要避免特定的风险或潜在的危害[18]。因此，人工智能产品的设计、开发和部署需要基于一种良好的愿望，同时还需要有一套预防风险和潜在危害的干预机制。教育伦理则强调教育行为需要基于善良的动机，遵从具有普遍价值的道德准则和崇高的道德意义，履行社会和个人的道德义务。因此，教育人工智能的设计和开发应该基于一种善良的动机，是真正为了实现教育更好的发展，为了教师能够更好地进行教学工作和履行育人的社会责任，学生能够更好地进行学习，促进他们全面和谐的发展，而不是出于其他的功利性甚至带有个人私欲的某种目的。(三)公平正义公平正义原则要求人工智能对所有人都是公平公正的，并且要避免保留现有的社会偏见和引入新的偏见。因此，人工智能的决策算法和训练数据不应该沿袭设计者固有的偏见和歧视，而是应该通过评估确保这些数据对不同的社会文化均具有适当的代表性，让所有人都有平等访问的机会[19]。教育教学活动需要维护教育的公平和正义，受教育权是每个社会公民的基本权利，不管其社会地位的高低和财富的多寡。而且，教育本身也是实现社会公平的一种方式，它为阶层之间的流动提供了一个良好的通道[20]。在部署教育人工智能系统之前，需要仔细思考会不会带来更多的教育机会，是促进教育公平，还是妨碍教育公平。首先，教育人工智能的决策算法和依托的数据是否存在偏见与歧视，能否公平、公正地对待每一位学生。其次，教师利用教育人工智能进行教学的能力水平的差异，会不会导致教学效果的差异，从而引发新的教育不公平。再次，学习者的信息素养和人工智能素养水平的不同，对于他们使用教育人工智能进行学习会不会带来学习效果的差异，从而扩大学生学业成绩之间的差距。最后，家庭社会地位和经济实力的不同，会不会造成访问教育人工智能机会的不均等，从而带来新的教育不公平。(四)人权和尊严人工智能应该优先考虑并明确尊重人的基本人权和尊严。这需要在各利益相关方之间合作协商的基础上制定指导人工智能开发的人权框架，指导和规划人工智能的未来发展方向，以确定、预防和纠正人工智能可能给基本人权和尊严带来的潜在风险和危害，以维护人类的尊严和固有价值[21]。教育人工智能在教育中的应用，将可能替代教师的很多日常工作，但不能因此而动摇教师作为能够自主确立教学目标的主体地位，以及忽略教师工作本身的价值和创造性，降低教师的地位和尊严。教育人工智能给学习者提供认知支架和智能化教学支持服务，应该让学习者能够根据自己的需要和个性特征做出选择，而不是代替学生做出选择，即应该充分地尊重学生作为一个人的基本人权和尊严，而不是将其作为某种目标对象来对待。因此，教育人工智能的创建者、教师和其他工作人员都应该充分尊重师生在智能学习环境下的这些人权和尊严。(五)自由自治人工智能的发展需要在以人为主导的决策和以机器为主导的决策之间保持平衡，应该促进人类的自主权和控制权，而不是伤害和破坏人类的自由。人类应该选择以何种方式赋予人工智能何种程度的决策权，以实现人类自主选择的目标[22]。因此，人工智能应该将使用者视为独立自主的人，而不是被操控的对象，不能剥夺和影响人类自由自治的权力。部署教育人工智能的学校和机构对于预置什么样的社会文化价值观念具有自治权，教育人工智能的创建者不能把自己的社会文化价值观念嵌入教育人工智能中，影响用户对文化和价值体系的自治权。教师职业有其创造性和自主性的一面，对于自己选择什么样的教学方法，如何安排教学活动和进行教学评价，教师拥有自主权。学生对于自己在教育人工智能中的个人形象、数据和身份，拥有自主控制的权利。他们对于教育人工智能提供的教学支持服务和资源策略建议，拥有主观能动性，而且不应该由于没有遵循教育人工智能的建议而受到任何形式的惩罚。(六)责任和问责当人工智能具备了一定的行为和决策自主权后，其责任和问责机制将会变得更加复杂，所以应该建立一套完善的责任和问责机制，以确保能够对人工智能及其行为决策后果进行问责，明确应该如何在制造商、设计师、运营商和最终用户之间分摊责任。明确的问责机制需要建立在系统透明的基础上，即应该建立完整的数据跟踪记录方案，保持系统算法和决策推理过程的透明，以便在任何情况下均可以快速找出责任主体[15]。教育人工智能，可能会代替教师的部分教学决策和教学行为，或者向他们提供教学策略建议，为他们的决策与行为提供支持。这种决策与行为后果的责任主体和问责机制是比较复杂的，这要求教育人工智能对于自身对教育教学工作的支持和干预具有一定的预见性。对于算法的决策过程、教师使用教育人工智能进行教学的过程以及学生学习过程中的行为数据，教育人工智能要有完整的记录保存方案，从而为后续的问责过程提供依据。 四、结语 毫无疑问，人工智能将对教育产生深远的影响，甚至可能带来教育教学实践领域的一场根本性的变革，转变教师的工作性质和社会角色，改变学生的学习体验。教育人工智能的出现给教育技术学带来了新的挑战，它在支持教育教学实践的过程中，体现出越来越强的自动化和主观能动性，将同时扮演道德行动者和容受者的角色。它将使教育领域的伦理问题变得更加复杂化，并引发出一系列新的伦理困境。因此，在教育人工智能的大规模设计、开发、部署和投入应用之前，需要认真考虑教育人工智能伦理原则的构建，为在教育教学实践过程中安全有效地利用教育人工智能奠定合适的伦理道德基础。 本文发表于《电化教育研究》2020年第6期，转载请与电化教育研究杂志社编辑部联系（官方邮箱：dhjyyj@163.com）。引用请注明参考文献：邓国民，李梅.教育人工智能伦理问题与伦理原则探讨[J].电化教育研究，2020，41（6）：39-45. [参考文献][1]郭天翼，彭敏，伊穆兰，等.自然语言处理领域中的自动问答研究进展[J].武汉大学学报(理学版)，2019，65(5)：417-426.[2]PERIKOSI，GRIVOKOSTOPOULOUF，HATZILYGEROUDISI，etal.Assistanceandfeedbackmechanisminanintelligenttutoringsystemforteachingconversionofnaturallanguageintologic[J].Internationaljournalofartificialintelligenceineducation，2017，27(3)：475-514.[3]MARS，SANTOSOC，SERGIOSM，etal.Towardsemotiondetectionineducationalscenariosfromfacialexpressionsandbodymovementsthroughmultimodalapproaches[J].Scientificworldjournal，2014，484873：1-14.[4]VIZCAINOA.Asimulatedstudentcanimprovecollaborativelearning[J].Artificialintelligenceineducation，2005，15(1)：3-40.[5]LUCKINR，HOLMESW，GRIFFITHSM，etal.Intelligenceunleashed：anargumentforAIineducation[M].London：Pearson，2016.[6]TOMSETTR，BRAINESD，HARBORNED，etal.Interpretabletowhom?arole-basedmodelforanalyzinginterpretablemachinelearningsystems[C]//Proceedingsofthe2018ICMLWorkshoponHumanInterpretabilityinMachineLearning.Stockholm：CoRR，2018：8-14.[7]邓国民.教师整合技术与伦理的学科教学知识框架[J].黑龙江高教研究，2018(2)：99-103.[8]SIAUK.Educationintheageofartificialintelligence：howwilltechnologyshapelearning[J].Theglobalanalyst，2018，7(3)：22-24.[9]TUOMII.Theimpactofartificialintelligenceonlearning，teaching，andeducation：policiesforthefuture[M].Luxembourg：PublicationsOfficeoftheEuropeanUnion，2018.[10]DAVIESCR.Anevolutionarystepinintellectualpropertyrights-artificialintelligenceandintellectualproperty[J].Computerlaw&securityreview，2011，27(6)：601-619.[11]AIKENRM，EPSTEINRG.EthicalguidelinesforAIineducation：startingaconversation[J].Internationaljournalofartificialintelligenceineducation，2000，11：163-176.[12]SIVILLT.Ethicalandstatisticalconsiderationsinmodelsofmoraljudgments[J].FrontiersinroboticsandAI，2019，6：39.[13]HOLMESW，INIESTOF，SHARPLESM，etal.EthicsinAIED：whocares?[C]//20thInternationalConferenceonArtificialIntelligenceinEducation.Chicago：OpenResearchOnline，2019.[14]GUILHERMEA.AIandeducation：theimportanceofteacherandstudentrelations[J].AI&Society，2019，34(1)：47-54.[15]TheIEEEGlobalInitiativeonEthicsofAutonomousandIntelligentSystems.Ethicallyaligneddesign：avisionforprioritizinghumanwell-beingwithautonomousandintelligentsystems[EB/OL].(2019-03-19)[2020-03-24].https：//standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead1e.pdf.[16]FLORIDIL.EstablishingtherulesforbuildingtrustworthyAI[J].Naturemachineintelligence，2019，1(6)：261.[17]王正平.教育伦理学的基础理论探究与建构[J].上海师范大学学报(哲学社会科学版)，2017，46(6)：24-33.[18]JOBINA，IENCAM，VAYENAE，etal.ThegloballandscapeofAIethicsguidelines[J].Naturemachineintelligence，2019，1(9)：389-399.[19]SHAWG.Thefuturecomputed：AIandmanufacturing[M].Washington：MicrosoftCorporation，2019.[20]王本陆.教育公正：教育制度伦理的核心原则[J].华南师范大学学报(社会科学版)，2005(4)：98-104，160.[21]LATONEROM.Governingartificialintelligence：upholdinghumanrights&dignity[EB/OL].(2018-10-10)[2020-03-24].https：//datasociety.net/wp-content/uploads/2018/10/DataSociety_Governing_Artificial_Intelligence_Upholding_Human_Rights.pdf.[22]FLORIDIL，COWLSJ，BELTRAMETTIM，etal.AI4People—anethicalframeworkforagoodAIsociety：opportunities，risks，principles，andrecommendations[J].Mindsandmachines，2018，28(4)：689-707. 链接：https://mp.weixin.qq.com/s/xwc2WSFmGVWi_lOFvAOiEwChatGPT：人工智能发展中存在哪些伦理问题，应该如何解决
0分享至随着人工智能技术的快速发展和应用，引起了越来越多的伦理问题，主要涉及以下几个方面：1.隐私和安全问题：人工智能技术需要收集大量的数据，并进行分析和处理，但这些数据中可能包含用户的个人隐私信息。如何保护用户的隐私和数据安全，是一个需要重视的问题。2.恶意使用问题：人工智能技术可以实现自主决策和行动，在某些情况下可能被恶意使用，如自动造成人类伤害、进行犯罪活动等，这需要制定相关的法律和规章来管理和监管。3.歧视和不公问题：人工智能技术不会受到偏见或歧视影响，但在训练数据和算法产生的过程中，却可能隐藏着一些人类认知和社会偏见。因此，人工智能技术可能继承这些不公平内容导致产生与伦理原则相悖的行为。4.就业和社会影响问题：人工智能技术将会对大量的职业造成影响，如何解决技术带来的就业问题，也是一个需要解决的伦理问题。人工智能技术对社会的影响和发展也需要深入探讨和研究。解决以上的伦理问题，可以从以下几个方面入手：1.制定相关的法律和规章，对人工智能技术的开发和使用进行监管和管控。2.鼓励企业和组织发表道德、透明和公正方针，提高人工智能的伦理意识。3.加强人类在人工智能技术中的介入和监管，在算法中增加透明和解释性，以便更好地理解其产生的决策和影响。4.加强教育和科学普及，提高公众对人工智能技术的理解和意识，同时激发公众对惩治人工智能技术利用行为的积极性。如果您对ChatGPT感兴趣可以搜索关注公众号：2049AI，也可以在评论区参与讨论，文中使用的GPT工具在百度手机助手里搜索：AI大聪明特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端人工智能引发的科技伦理问题
但工业革命是一把“双刃剑”，人工智能这一新技术革命也是如此，在带来巨大利益的同时也将带来很多隐患，如图1所示。
图1人工智能带来的隐患
其一，隐性的机器歧视。现阶段，机器学习算法也好，深度学习算法也罢，都能决定用户的行为，如看什么视频、听什么歌曲；甚至还能决定获得贷款、救助金的主体以及具体金额。为用户推荐好友、根据搜索记录自动为用户推荐商品、对用户的信用进行评估、对应聘者的能力进行评估、对犯罪风险进行评估等。越来越多的人类活动交给了人工智能机器来裁决，我们认为人工智能机器是公平的，但人工智能机器是否公平却是一个未知数，其中存在巨大的公平隐患。
其二，不容忽视的安全与隐私。人工智能依赖于算法，但算法却具有不透明性和不可预见性，增加了人工智能监管失控的发生几率，从而产生一系列安全问题。例如，2015年德国大众汽车制造厂发生的机器人袭击工作人员事件；2016年发生的谷歌无人驾驶汽车与大巴车碰撞事件。这些人工智能伤人事件发生之后如何明确责任？如何将人工智能带来的安全隐患降到最低？此外，随着人工智能的发展，收集、利用的数据将越来越多，如何保护数据安全也是一大挑战。
其三，智能机器的控制问题。随着人工智能的发展，人类将更多的工作交由人工智能来完成，人工智能对人类的思想和行为进行学习和模拟，当人工智能的智慧超过人类，人类无法掌控人工智能的时候，人工智能是否会反过来对人类进行控制，这是一个非常重要的问题。
赢家机器人，瞬间释放电销企业销售潜能，一天1500通销售电话，节省企业人力成本70%，提升电销企业业绩300%！
电话销售与人工智能的深度融合，帮助企业迅速释放销售潜能！
这是一个什么样的项目？
这是传统电销企业迎接AI智能技术的一次绝佳机会。它能帮助你迅速完成传统电销模式的更新换代，在节省人力成本的同时，迅速提升电销业绩！
赢家机器人是什么？
赢家机器人，是路云集团依靠AI人工智能语音识别技术，自主研发的帮助电销企业迅速提升电销业绩的智能语音管理系统。
电销企业为什么要选择赢家机器人？
随着科技发展，技术进步，原有电销模式正在逐渐失去推广优势。电销人员日复一日重复着低效率工作，即失去了工作热情，同时无法对客户进行精准的资源细分。当所有行业都在面临AI人工智能的大肆颠覆之时，电销企业同时也正在迎接一场科技变革！
电销企业面临的行业难题：
人工成本上涨、员工工作效率低下，离职率奇高，无精准话术引导，客户资源无法精准定位……
赢家机器人，以科大讯飞、阿里云AI人工智能语音识别系统为技术核心，通过大数据智能云数据分析系统，充分甄别每一条有效资源。强大的真人语音多轮对话技术，让AI电销之路畅通无阻！
人工智能风口来袭，赢家机器人帮你彻底释放电销潜能！
赢家机器人市场前景如何？
2017年，国务院接连颁布多条关于AI智能的行业规划细则，表明了在全球范围内抢占AI人工智能科技制高点的决心。国内多个行业巨头公司（阿里、通讯、百度等）都在不遗余力的发展人工智能。
可以预见的是，在未来，我们的生活将和AI人工智能产生密不可分的联系。谁能抢占行业先机，谁就能够抢占新一轮的科技红利！
拥抱AI人工智能时代，赢家机器人彻底释放电销潜能！返回搜狐，查看更多
人工智能的社会、伦理与未来
中国社科院哲学所党委书记王立胜
吴彤教授指出，科技哲学包括人工智能哲学研究需要哲学和科学两个方面的两个积累。当下提出人工智能的社会、伦理与未来研究非常重要。仅从科学和技术的角度研究人工智能还不够，还需要引入哲学、社会学、伦理和未来研究等方面的研究，非常支持在自然辩证法研究会下建立一个专业委员会，在这个旗帜下，把工作做细、做深、做透，研究更为广泛深入系统。在人工智能快速发展过程中，对其社会和未来影响，要有伦理和哲学的关注，应与科技哲学密切结合，以促使人工智能的发展更为健康。
中国自然辩证法研究会副理事长、清华大学吴彤教授
以下是大会的主题报告。
中国人民大学刘晓力教授
上午第一场主题报告由中国人民大学的刘晓力教授主持。她认为：今天是我们人文学界和科学界的一个大聚集，非常高兴能够参加这样一个会议。我们将人工智能的社会、伦理与未来研究提到日程，跟其在上世纪90年代以后的发展有很大的关联。而这一轮报告由我来主持，我想可能是因为我多年来在人工智能科学和认知科学哲学领域的开展工作，比较了解人工智能的发展及其近年来革命性的变化。人工智能分为符号主义、计算主义等自上而下的道路和联结主义如包括神经网络、深度学习等自下而上的道路，但两者分别遇到了符号语义落地问题和物理落地问题，符号语义落地问题指机器不懂符号的语义，物理落地问题指目前发展的人工智能还不能与外部世界很好地打交道。因此有人提出将机器人能不能快递小哥一样满世界送披萨、能不能很好地跟老人打交道、能不能理解人的情感等作为新的图灵测试标准。人工智能的未来发展应该是从自上而下到自下而上的融合，社会伦理问题与两条路径融合的前景相关联。
中国人民大学教授刘大椿
中国人民大学一级教授刘大椿教授在报告《人工智能伦理考量的必要性和局限性》中指出，首先提出一个问题，即“为什么人工智能的伦理考量它具有必要性？”究其原因在于两点，其一是因为人工智能迅猛发展，全世界都十分重视人工智能和对人工智能的伦理考量。以欧盟发布的《人工智能伦理准则》（2019年4月8日）为例，他认为人文学者已经深度地参与到人工智能的发展之中，对此我们应予以关注。信赖的人工智能这是我们的目标，可信赖的人工智能它需要有一定的技术基，必须有伦理准则，实际上就是一种人文考察。可信赖的人工智能必须有两个组成。第一就是要尊重基本人权，人工智能还要尊重基本人权，基本的规章制度，核心的原则和价值观；第二就是在技术上应当是安全可靠的，要避免因为技术的不足造成意外的伤害。第二个原因是当下中国的人工智能的发展十分迅速，很多技术应用已走在前面，伦理考量越来越重要和必要，社会学，伦理学，未来学等方面的思考也不可少。应该看到，在伦理考量上欧盟等已经走在前面了，我们必须抓紧。此外，他也指出，我们要看到对高科技的人文思考包括伦理考量也有其局限性，即往往陷入非黑即白，这样看问题是不利于高科技发展的。科技界应该认识到，人工智能落地遇到的问题往往是社会、伦理和法律问题，不可能完全通过技术解决。哲学社会科学界应该紧跟我国新一代人工智能的发展，持续跟踪和评估人工智能研究的进展和问题，进而有针对性的展开相关研究。
中国人民大学暨美国科罗拉多矿业大学国际著名技术哲学家卡尔·米切姆
中国人民大学暨美国科罗拉多矿业大学国际著名技术哲学家卡尔·米切姆（CarlMitcham）在报告《闪光背后：追问人工智能》中指出：工程技术的发展往往会因其巨大收益而呈现出耀眼的光芒，在当前有关智能主体、深度学习、大数据以及通用人工智能等新一波人工智能热潮中，其应用性和便捷性又呈现出了新的耀眼承诺。但是人类无疑面临着更深远的挑战，而哲学的职责就在于帮助我们去察觉包括人工智能在内的新技术的黑暗的一面。恰如莎士比亚在《威尼斯商人》中的警告：“闪光的未必都是金子”。与此同时，哲学家们也应看到其先前努力中的无能之处，意识到哲学之闪光也未必是真金。
新加坡国立大学暨青岛大学未来学院院长葛树志教授
新加坡国立大学暨青岛大学未来学院院长葛树志教授在其《人工智能和社会机器人的思考》报告中指出：当前流行的深度学习只是机器学习的高峰，虽然人工智能在语音和图像识别上得到了广泛应用，但真正意义上的人工智能的发展还有很长的路要走。在应用层面，人工智能已经开始用于解决社会问题，各种服务机器人、辅助机器人、陪伴机器人、教育机器人等社会机器人和智能应用软件应运而生，各种伦理问题随之产生。人工智能伦理属于工程伦理，主要讲要遵循什么标准或准则可以保证安全，如IEEE的标准等。机器人伦理与人因工程相关，涉及人体工程学、生物学和人机交互，需要以人为中心的机器智能设计。随着推理、社会机器人进入家庭，如何保护隐私、满足个性都要以人为中心而不是以机器为中心设计。过度依赖社会机器人将带来一系列的家庭伦理问题。为了避免人工智能以机器为中心，需要法律和伦理研究参与其中，而相关伦理与哲学研究也要对技术有必要的了解。
上海社科院哲学所副所长成素梅教授
上海社科院哲学所副所长成素梅教授在报告《人工智能的职业伦理准则》中强调，传统的伦理与法律是围绕规范人的社会行为而展开的。伦理与法律的有两个本体论假设，一是人的社会性，二是人与工具的二分，即把工具看成是价值无涉的。然而，人工智能的广泛应用对这种人与工具二分的本体论假设提出了挑战。
因为，人工智能的“大脑”是“算法”，而以算法为核心的软件机器人既有自动监控能力和自主决策能力，也负载着文化，具有技术偏向和路径依赖性。在算法社会人与数据环境关系就会发生逆转，不是人来适应数字环境，而是数字环境来适应人。因此，重构算法社会的伦理规范，来确保人工智能造福于人类，成为改善人类生活的向善力量，成为当前的重要任务。
我们需要制定人工智能的职业伦理准则，来达到下列目标，（1）为防止人工智能技术的滥用设立红线；（2）提高职业人员的责任心和职业道德水准；（3）确保算法系统的安全可靠；（4）使算法系统的可解释性成为未来引导设计的一个基本方向；（5）使伦理准则成为人工智能从业者的工作基础；（6）提升职业人员的职业抱负和理想。
人工智能的职业伦理准则至少应包括下列几个方面，（1）确保人工智能更好地造福于社会；（2）在强化人类中心主义的同时，达到走出人类中心主义的目标，在二者之间形成双向互进关系；（3）避免人工智能对人类造成任何伤害；（4）确保人工智能体位于人类可控范围之内；（5）提升人工智能的可信性；（6）确保人工智能的可问责性和透明性；（7）维护公平；（8）尊重隐私、谨慎应用；（9）提高职业技能与提升道德修养并行发展。
北京邮电大学人机交互与认知工程实验室主任岗位教授
北京邮电大学人机交互与认知工程实验室主任岗位教授刘伟在报告《人机、智能及伦理》中指出：人机、智能与伦理在东西方不同语境下具有不同涵义，对人机、智能和伦理的完整思考需要东西方观念相互结合。人机、智能、伦理还涉及人—机—环境（包括伦理、商业、社会、自然、科技环境）之间的相互作用，关键在人机交互与人机融合。最后应该注意的是：一是所有的智能都是有范围的。以机器学习为例，它仅是一种隐喻。真正的学习本身包括潜在的范围不确定的和隐形的知识与规则；二是没有哲学的分析，所有的智能科学很难发展到今天这个程度，人工智能科学需要尊重哲学才能促进自身长远发展；三、智能科学、人机交互研究是由战争的需要催化出来的，要通过研究战争的规律和发展态势寻找新的研究线索。
复旦大学王国豫教授
第二场主题报告由复旦大学王国豫教授主持。她认为当下，无论是人文学者，还是科学家，人工智能都是一个热点话题。对于人工智能问题，一方面它本身是交叉学科，另一方面就是有关它的伦理问题。这些会讨论的并非是大数据或者人工智能的专门问题，而是人工智能能够带给我们什么。我有一个笔记本可以将我上课的录音转换成文字，长期积累下来对我很有帮助。从这个例子上来说，人工智能能够带给我们很大的方便，但是它也不是很完美，里面的错误还是非常多的。此次会议关于人工智能思考，有来自技术的、政策的、法律的还有来自哲学的，充分展示了关于人工智能社会、伦理和未来的研讨会是一个跨学科的平台。但是最后我希望再说一句给大家思考的问题，尽管平台具有跨学科、多视角的特点，但是我们作为一个探讨人工智能伦理社会的这样一个团体，未来要建立这么一个学会、想要发展下去，并且能够在这学科上给自己一个明确的支撑，我们必须要思考的就是我们研究的方法论基础是什么？我提醒大家思考一下，否则就会是走不下去的。
中国科学院自动化所曾毅研究员
中国科学院自动化所曾毅研究员在报告《人工智能准则及其技术模型》中指出：目前由不同国家地区的政府、非政府组织及研究机构和产业颁布的人工智能伦理准则提案已经超过40个。但不同的准则涉及到的议题视角各不相同。由于文化、地域、领域的差异，“大一统”的准则提案不但很难做到，而且没有必要。因此，不同国家、组织之间伦理准则如何协同很重要。同时，对人工智能风险、安全与伦理的思考急需进行算法化、模型化落地，从而确保人工智能向对社会有益的方向发展。由于技术发展会对伦理准则提出新的要求，这些准则如何进行技术落地、经受社会检验，再不断迭代完善，是未来要面临的更有意义的问题。在当前对人工智能伦理的讨论中，还有一些问题亟待解决。由于设计缺陷，现阶段的很多人工智能模型，忽略了对环境和社会造成的潜在隐患。此外，对自我的计算建模也是当前人工智能领域的一个关键研究问题，具有一定程度自我感知能力的人工智能模型将从本质上更利于自主学习、理解人类的价值观。
赛迪研究院政策法规所所长栾群
赛迪研究院政策法规所所长栾群在报告《人工智能创新发展伦理宣言的核心思想》中指出：当前应用人工智能技术的一些不良的现象和事件不断增多，人工智能相关伦理问题也不断的进入到公众的视线。国务院发的新一代人工智能发展规划，明确要求加强法律法规和道德伦理的制定。2018年7月11日，中国人工智能产业创新发展联盟发布了人工智能创新发展道德伦理宣言。宣言除了序言之外，一共有六个部分，分别是人工智能系统，人工智能与人类的关系，人工智能与具体接触人员的道德伦理要求，以及人工智能的应用和未来发展的方向，最后是附则。人工智能系统，基础数据应该是公平和客观的，采集和使用的时候应该尊重隐私。人工智能系统应该具有相应的技术风险的评估机制，以及要受到科学技术水平和道德伦理法律等人文价值的共同评价。与人类的关系，人工智能的发展应该始终以造福人类为宗旨，不能无论发展到什么阶段，不能改变由人类创造这样一个基本的事实。人工智能与人类的利益或个人合法利益相悖的时候，人工智能应该无条件的有一个停止或者暂停的机制。还要有具体接触人员的道德伦理要求，当然主要但不限于人工智能的研发使用研发者和使用者。人工智能的研发者应该确保其塑造人工智能的系统的自主意识，要符合人类主流的道德伦理的要求。人工智能产品使用者应当遵守遵循产品的既有使用的准则。人工智能的具体接触人员可以根据自身的经验去阐述，但是这种阐述应该本着一个诚实信用的原则，保持理性与客观，不得诱导公众的盲目热情，或者加剧公众的恐慌情绪。人工智能可以提供辅助决策，但是就目前发展来看，人工智能本身不能成为决策的主体。人工智能应该克制在军事领域的应用，也不应该成为侵犯他人合法权益的一个工具。未来的方向简单说就是融合创新，制定人工智能产业的发展标准，推动协同发展，在数据规范应用接口检测检验等各个方面，为消费者提供更好的服务和体验。要打造共性技术的支撑平台，营造人工智能产业生态的健康发展。健全人工智能法律法规。四点思考，第一要重视发展和治理的综合性，来避免计算主义贬低人类的生命。第二要强化人工智能伦理研究的阶段性。第三要建立生态影响评价评估体系。第四是建立人工智能的责任机制。
中国人民大学法学院副教授郭锐
中国人民大学法学院副教授郭锐在《人工智能的伦理标准化》中指出：我们的生活并不是完全由法律来规制的，而只能通过技术的准则、道德、法律规范共同规制。从法律的角度看，有很多问题等到法律去解决可能为时已晚。如果真的要解决问题，要回到技术的基础规则上，把规制的思考、伦理思考结合在技术发展的过程中。这一认识促使我承担了人工智能伦理标准化的研究。当前关于人工智能的伦理问题大致可分为算法、数据和应用方面的伦理问题等短期问题。算法相关问题包括算法安全、算法的可解释性和算法决策的困境。在数据方面，大数据和人工智能的发展，使隐私受到侵害的可能性增加，可能受到侵害的环节也增多了。传统上我们觉得不是隐私的信息，随着新技术的出现，都有可能与个人特征相关，而变成个人敏感信息。在应用方面。算法歧视和算法滥用值得关注。算法歧视有人为造成的歧视、数据驱动的歧视和机器学习造成的歧视。算法滥用往往是因为算法设计者出于自身的利益、过度的依赖算法或者盲目地扩大算法的应用范围造成的。社交媒体中用户的过度沉迷，电商利用消费者价格敏感度不高来设定价格，都属于算法滥用。除了算法、数据和应用这三个维度，我们还引入了时间维度，就是人工智能应用带来的长期风险，诸如就业、产权、竞争和责任分配领域的问题。这些问题并没有一劳永逸的解决方案，为了在现有条件下推进问题的解决，我们提出了两个基本原则：人类根本利益原则和责任原则。我们还据此提出人工智能伦理风险评估的指标和最佳实践指南，希望产学研各个部门和机构能够根据伦理风险的程度进行风险管理。
上海大学教授王天恩
上海大学教授王天恩在报告《类亲历性和人工智能的未来发展》中指出，在通用人工智能进化中，类亲历性是我们要关注的一个重要领域。今天的话题，有一个非常重要的向度就是人工智能的通用化一定是社会化，它不是一个单个的个体能够单独实现的。在很多研究中可以看到支持这一观点的根据。在《失控》这本书中，凯伦·凯勒有一个观点：“非群体系统不能（在生物学意义上）进化”。至少是通用智能进化是不可能以个体的方式进行的，人类进化史已经充分表明了这一点。由此，我们可以看到很多进一步的事实，得到一些进一步的结论。
现在都说目前的人工智能没有真正的理解，刚刚我们有专家也说到，现在的人工智能其实就是高级的自动化。候世达认为目前的人工智能进路完全错了，由此不可能达到真正的机器理解。这正与通用智能的类亲历性密切相关。通用智能意义上的理解，一定是类的行为。理解是一个发育的过程，这与理解所必不可少的语境密切相关。其实新一代人工智能为什么发展那么快，影响那么大，我认为其中一个重要原因，就是通过大数据纳入了人类语境。现在发展很快的智能翻译机，就是最典型的例子。以前的机器翻译是没有语境的，没有语境就不可能有真正的语言理解，但是把大数据纳入人工智能之后，就把人类的语境纳入到人工智能。语境的融合可能是人机融合进化最先开始的领域。由智能进化的类亲历性，还可以看到一个重要的基本事实：通用人工智能与人类智能具有相同的类本性，这使智能进化具有亲历优先原则，广义智能进化以具有亲历优势的人类智能为主导，但这绝不意味着在人工智能发展中人类可以高枕无忧。在广义智能进化过程中，如果在观念上作茧自缚，人类命运就可能走向很多人目前所担忧的结局。如果人类保持观念不断更新，人类就能永远引导智能发展。由此我们可以看到类亲历性之于人工智能的社会、伦理和未来发展所具有的丰富意蕴。
中国社科院哲学所研究员科学技术和社会研究中心主任段伟文
在大会倡议与讨论环节，中国社科院哲学所研究员科学技术和社会研究中心主任段伟文在《迎接人机共生社会的挑战——关于建立“人工智能的社会、伦理与未来研究专业委员会”的倡议》中指出，面对人工智能时代的来临，首先要思考的是我们所面对的未来挑战是什么？简单讲就是知识多到难以把握，世界复杂到无法掌控。相对于我们的理解和把握能力而言，我们创造了太多知识，以至于在面临危机时即便我们已经拥有可能解决危机的知识，也无从知道。召开这次会议的原因一是我们对人工智能的发展后果越来越重视，而我们已有大量知识并不能很好地应对。二是面对人工智能所带来的社会、伦理问题和人机共生社会的未来挑战，我们所掌握的知识变得不够用了。因此，我们在此郑重倡议，在中国自然辩证法研究会建立“人工智能的社会、伦理与未来研究专业委员会”，以此会聚相关领域研究者的智慧、打通学术研究与智库研究、构建整合观点与凝聚共识的研究网络，为促进中国新一代人工智能的健康快速发展做出应有的贡献。
为了积极应对人机共生社会的挑战，我们应该通过其后果与前景的深入研究与预见，将价值与伦理设计和嵌入到人工智能之中，使科技伦理成为科技的有机组成部分和基础。如果中国不仅在人工智能应用而且在人工智能的伦理和落地上走到世界前面，对伦理重视将成为我们的创新优势，这对智能文明在全世界的发展具有重大意义。有人误以为不重视伦理是创新优势，但当伦理问题不可回避时，是非与伦理标准的制定将有利于更好更快地创新。新兴科技包括人工智能的发展具有开放性与不确定性，相应的伦理和治理也应该是开放的和未完成，因此在伦理上应寻求开放性共识，治理上应施以适应性治理。同时，我们还要看到人工智能的发展所带来的去技能化的趋势，探索人机共生社会中人的技能化再生之路，进而寻求人类如何在人机共生社会中保持其尊严与自主性，人在精神上或得拯救与永生，为人类文明探索一条光明的道路。
中国人民大学哲学院刘永谋教授
研讨会在下午继续举行。下午的第三场主题报告由北京农业大学教授、北京自然辩证法研究会理事长李建军，西安电子科技大学人文学院副院长、哲学系主任马德林联合主持。
中国人民大学哲学院刘永谋教授作了题为《技术治理、反治理与再治理：以智能治理为例》的报告。在智能革命的背景之下，技术治理与智能治理成为当前热点研究问题。技术治理试图将自然科学技术的成果用于社会运行尤其是公共治理活动之中，以提高现代社会的运行效率，而智能治理将最新的智能技术运用于治理活动中，属于技术治理新的战术手段，渗透到技术治理所有的重要战略如社会测量、计划体系、智库体系、科学行政、科学管理、科学城市与综合性大工程等之中。首要必须要肯定，将智能技术用于公共治理领域，对于提高社会运行效率和提高公众福祉作用很大，但是也存在智能治理沦为智能操控的危险，因而必须运用技术治理理论来研究智能治理的基本机制。智能治理和所有技术治理一样包括反治理和再治理活动，它们对于技术治理和智能治理的正常运行是建设性的。智能反治理主要涉及5个问题：智能低效、技术怠工、智能破坏、官僚主义智能化和过度治理。研究智能反治理的目的不是为了完全消除它，这是不可能的，而是为了达到治理-反治理的适度平衡，以提高智能治理的水平。智能治理存在各种风险，其中最大的政治风险在于：专家权力过大，威胁民主和自由，极端情况下可能导致机器乌托邦。智能再治理着力从制度上防范智能革命可能导致专家权力过大的政治风险，使智能治理服务于新时代中国特色社会主义建设事业，其核心问题包括：划定专家权力范围，权力越界的纠错制度。
南京大学哲学系潘天群教授
南京大学哲学系潘天群教授做了题为《机器认识论》的报告。认识论是一个传统哲学学科，其研究的是人类的知识是否可能、可靠知识的来源、如何辩护知识等问题。计算机是替代人的智力而得以被建造的，因而，从认识论的角度去思考机器是一个有趣的角度。既然人类的知识是涉身的，机器（人工智能体）拥有知识是否可能？如何理解机器的所谓推理以及知识学习？等等，这些便是机器认识论的内容。他认为机器具有演绎推理的能力，能够做有意义的演绎工作。纯粹的演绎推理被认为不能得到新知识。“演绎无新知”是建立在逻辑全能的基础之上的。如果演绎无新知，从事数学证明工作的那些数学家的工作便没有多少意义的了。某个定理之被证明本身便是一个有意义的工作。一个能够认识自然的机器是含有人类概念化的系统，并对它所“观察”的信息进行判断形成知识。这是一个“准人类”甚至“超人类”的智能体。想象一下，这样的智能体到太空中某个星球上通过信号“告知”我们，那儿有一种类似水的东西，外表与地球上的水完全一样，但其结构不是氢二氧一。它的观察方式是我们能够理解的，因而它告知我们的结论也是我们能够想象的。它们将接触到的信息整合成知识便是一个知识形成过程，这个函数便是知识形成函数。我们知道这个函数，因而能够理解它所说的。
中国社会科学院副研究员张昌盛
中国社会科学院副研究员张昌盛做了题为《意识与人工智能的限度》的报告。很多人工智能伦理研究都提到类主体、机器人的权利问题，还有像倪梁康等人谈人工意识。简单来说，很多对人工智能伦理问题的讨论都预设了一种强人工智能的立场。20世纪60年代以来，德雷福斯（HubertLedererDreyfus）多次批判说，功能主义的人工智能无法模仿海德格尔式的人与世界的存在论关系模式，也不是梅洛-庞帝的具身性的认知主体，达不到人的认知水平。塞尔基于生物自然主义对德雷福斯提出批评。塞尔认为，功能主义基于一种狭义算法，而人类大脑的生物运动神经元的活动乃至宇宙当中的所有的事物的运动也是一种广义的算法。只要我们找出了类似于人类的生物算法，那么类似于人类的智能乃至意识在理论上是可以实现的。因此，德雷福斯所谓主体的具身性及其与世界的生存论关系终究可以用广义的算法描述。
他认为，强人工智能不能实现。基于物理主义无法解决意识的“感受性质”问题。按照查尔莫斯的“哲学僵尸”论证，如果坚持物理主义，有智能并不一定有意识、智能机器永远没有体验，不知道自己在干什么。而且，人的意识也并不是基于仅仅基于生物的神经元基础。虽然人工智能不能产生意识，但是它可能逐渐逼近人的认知，弱人工智能应该是人的一种有力的工具。
我们思考人工智能的实现前景及应用影响时，有一些基本的问题始终拷问着伦理和哲学：人工智能本质到底是什么？他有没有意识，算不算主体？同时，人类的独特性是什么？人类的尊严在哪里？和近现代以来的人文主义理想可否保持？为了回答这些问题，我们不能不反思我们的基本理论预设，必须回溯到人工智能的本质、主体、意识这样一些最基础层面的问题。
北京工商大学的王东讲师
北京工商大学的王东讲师做了题为《智能时代科学发现的哲学反思》的报告。历史上新技术的出现总会带来新的科学发现，随着科学研究中的数据快速积累，使得数据驱动和智能驱动的科学发现成为可能，在天文学，高能粒子，合成化学，计算社会科学等领域都有应用。对于人工智能在科学中冷起到什么作用，在多大程度上能够替代科学家存在争议。有人认为人工智能与大数据方法等存在黑箱问题等各种局限，最终只能是科学家的一种辅助手段，其作用是让科学家能够处理大量的数据，但科学发现的核心过程还是需要人类本身的能力。而另一些则认为人类本身具有先天的认知缺陷，机器不仅能弥补甚至可能在各方面比人类做的还要好。当然更多的是折中综合的观点，认为应该取长补短共同发展，数据驱动方法与理论驱动方法可以相互结合，人与机器应该各尽所能，而当前需要关心的是如何协调好两者的互动关系。
科学家以及哲学家们对数据驱动和智能驱动的科学发现在科学方法论上的争论主要受到两个因素的影响：1.不同的科学研究领域和科学发现层次；2.对于是否存在科学发现的逻辑以及科学活动能否形式化的不同看法。
而争论的核心则是科学中的相关性与因果性的关系以及因果性能否形式化。当前因果机器推理的两个主要理论即潜在因果模型和因果图模型都有各自的问题，例如前者需要随机实验后者需要先验知识和严格的条件。所以短时间内在不考虑强人工智能的情况下，人工智能还只是一种工具没法涉及理论创新。
上海大学哲学系系主任杨庆峰教授
上海大学哲学系系主任杨庆峰教授做了《人工智能取代人类工作的哲学反思》的报告。他认为人工智能与人类整体关系具有双重维度：第一是物质性活动维度，即智能机器能否取代人类实践活动；第二是精神性活动维度，即机器智能能否超越人类智能。前者的设定是智能机器是人类的辅助性助手，取代人类活动的本质是人类活动的自动化趋势及其机器活动的涌现；后者更多触及的是人工智能的终极指向，涉及到通用人工智能和强人工智能的问题。面对人类被取代的未来前景，存在着四种态度：“批判”、“审视”、“适应”和“狂欢”。这四种态度缺乏对于人工智能的恐惧，只有持有人类对于人工智能的“恐惧”和“畏惧”，才能够导致合适的智能人文意识的发生，从而构建起人类与智能机器的自由关系。
上海交通大学副教授闫宏秀
上海交通大学副教授闫宏秀向研讨会做了《人工智能信任度的伦理解析》的报告。人工智能所带来的机遇与挑战，引发了全球社会各界的多维度反思。其中，关于人工智能的伦理思考是其中的一个主要议题。关于伦理方面的思考，事实上源自是关于人与技术关系的再度厘清与辨析。在这种厘清与辨析之中，人的伦理地位、技术的伦理意蕴、人与技术之间的伦理牵连、对人工智能技术图景的伦理描绘等问题被渐次呈现出来。在“以人为中心的人工智能（Human-CenteredAI）”、“人工智能伦理将是未来智能社会的发展基石”、2019年3月到4月之间，谷歌关于外部专家委员会（AdvancedTechnologyExternalAdvisoryCouncil）的风波等一方面是人工智能亟待伦理的参与，另一方面则反应了人工智能伦理构建中正在面临诸多问题。因此，需要对人工智能伦理为何以及何为进行深度解析。关于此，欧盟基于其伦理、安全、和尖端人工智能愿景，发布了《人工智能信任度的伦理框架》。对该框架的伦理逻辑、伦理预设、以及如何正确信任的解析将为人工智能伦理的构建提供有效的理论基础。
华东理工大学科学技术与社会研究所所长黄时进副教授
第四场主题报告由中国人民大学的刘永谋教授和北京航空航天大学的徐治立教授联合主持。
华东理工大学科学技术与社会研究所所长黄时进副教授做了题为：《未来的科学传播：基于人工智能的视角》的报告。他认为科学传播最初的形态被界定为“欠缺模型”（deficitmodel）的传统科普，经过20世纪80年代中期开始的公众理解科学（PublicUnderstandingofScinece）阶段，发展至今的公共参与（PublicParticipationorPublicEngagement）阶段，传播媒介也从牛顿时代的皇家学会期刊、报纸和图书，到20世纪的广播、电视、电影，至21世纪今天的网络时代，微信、微博、甚至抖音快手等新兴媒体成为科学传播的重要媒介。当代人工智能的兴起，为科学传播产生了积极的影响：其一是人工智能让科学传播中客体的“主体间性”（intersubjectivity）得到实现，真正进入公众参与科学传播阶段。借助人工智能的强大数据搜寻、识别和分析能力，普通公众可以相对容易获取自己需要的、浅层的科学技术知识。其二人工智能借助智能机器人极大提升科学传播的效用，特别是面向儿童青少年的科学传播，人机交互将成为主要形态，人工智能机器人将通过互动模式帮助儿童青少年儿童从小爱科学、用科学，提高动手能力，培养科学思维和科学精神。其三人工智能将淡化科学传播中的科学家的专长，而强化公众的交互思维和认知能力。在科学传播中，公众的交互思维素养主要基于人工智能时代人们交往方式的变化而得以提高，具体表现在学会开源共享、参与协商、组建社区等，理解复杂的相互关系等。同时独立思考、逻辑推理、信息加工等高阶认知能力得以提升。在人工智能的帮助下，未来的科学传播呈现以下三个特征：“深度社会化”、“个性化”和“持续自我创新化”。
中国人民大学哲学院的王小伟副教授
中国人民大学哲学院的王小伟副教授所做报告的题目是：《道德物化的意义》，向诸位学者介绍了技术哲学中的荷兰学派的一些研究。他认为近年来荷兰学派技术哲学收到普遍关注，况且荷兰确有一群很好的学者在做技术哲学工作。但细看会发现该学派并无统一研究纲领。维贝克（Peter-Paul-Verbeek）的研究方法是后现象学外加一些技术权力论。提出经验转向的克劳斯（PeterKreos）则基本上是分析的办法，做人工物本体论。乌得勒支大学伦理中心主任杜威尔（MarcusDuwell）则从康德和格沃斯传统来讨论技术伦理问题。方法虽有不同，但他们都有道德物化的诉求。克劳斯和佛贝克，包括梅耶斯（AntonieMeijers）联合编了一些人工物道德属性的书。如果荷兰技术哲学有个学派的话，道德物化是一个显著的标志，尽管不同学者的道德物化认识论基础不尽相同。
所谓道德物化，简单讲就是道德主体即不单是人也不单是物，而是人和物的集合。这意味着物本身不是价值中立而是负载道德的。因此，在设计物时，应有价值自觉地试图把公共善嵌到人工物里去。进而通过物的发端流行来实现善。安全带就是一种道德物化技术。系统会不断报警迫使你扣上它。道德物化概念一经介绍就引起了轰动。支持者认为可以通过物化道德来更好的实现善的生活(goodlife)。好处不论，这里主要介绍相关质疑。
佛贝克将质疑观点概括为三。一是自由侵害论;二是道德取消论;三是技治主义论。自由侵害论认为道德物化会侵害自由。康德认为人之为人是因其有自由理性的能动性（freerationalagency）。如在用物时，人被操纵，非自由地践行价值，那么自由将遭到侵害，尊严受到冒犯。在道德哲学情境中，人的尊严（humandignity）通常是一个红线词汇。一旦触碰，即遭禁止。道德取消论认为如果道德统统被嵌入进人工物，人符合道德要求的行为的道德性即被剥夺。因为它仅仅是符合并非出于道德要求。康德认为只有出于义务的行为（actfromduty）才道德，仅符合（actinaccordancewithduty）义务并不是。如果用物使得行为自然符合义务，道德就被取消了。被安全带噪音骚扰，不厌其烦地系上它并不是一个道德行为。最后，技治主义论认为道德物化给工程师过度赋权。绝大多数老百姓注定没有工程和设计知识，因此必然把道德抉择让渡给了专家。技术专家来衡量好坏，进行价值排序，进而决定物化和实现什么价值。这从根本上是反民主的。佛贝克虽然列举了以上问题，但他并未从认识论角度回应以上挑战。我认为道德物化实际上应该叫价值物化。被物化的特定的价值而不是道德。道德按照康德说法预设主体的内在心理过程，即按照理性的要求拒斥本能。道德物化取消了主体的道德自治，也就无所谓道德。
南开大学哲学院陶锋副教授
南开大学哲学院陶锋副教授做了题为：《美的理性：马克思主义与人工智能美学》的报告。在报告中，他指出人工智能艺术的出现，使得人们需要重新思考美的规律、艺术与科技、理性与人类解放的关系。“美的理性”人工智能美学中核心问题，是基于马克思、本雅明、阿多诺和马尔库塞等思想家对理性和美学的探讨之上所提出来的，它包含了两个层面：首先是“美的规律”。人工智能可以模拟人来生成艺术，为艺术的规则化、算法化提供了可能。人工智能艺术可以分为三个层面：1.人工智能生成艺术；2.人工智能本身是艺术与科技的结合；3.人工智能与网络、大数据结合发展的超级智能，可能会实现社会艺术、人类艺术。人工智能美学研究还包括情感、创造性等如何实现算法化。而目前的人工智能艺术的目的主要还是为了技术所服务。
“美的理性”另一层面是“理性之美”。法兰克福学派批判了工具理性。而这种技术理性进一步发展成了设计理性：智能、生命都是可以设计的了。但是无论是工具理性还是设计理性，理性都是一种未能实现自律的工具。因此，理性要想实现自律，就需要实现技术、艺术的自律，适当去除政治维度，不能仅仅发展“美的德性”。理性的自律还要求理性要有限度——“有限的理性”，即正确处理技术与艺术、人与自然、主体与客体的关系。阿多诺认为，我们可以用艺术中摹仿要素来纠偏工具理性，从而实现和解。我们发展人工智能的同时，也需要思考如何以“美的理性”作为基本原则，让人工智能适度发展、着力于提升人类社会的美与和谐。“美的理性”是美的规律和理性之美的统一，人工智能在艺术和美学的发展，可以为这种统一提供一个契机。
人工智能美学还涉及到了人类解放问题。马克思在其机器与劳动理论中，提到了机器取代人的体力劳动，却加剧了人的劳动异化程度。人工智能技术则进一步地会取代人的脑力劳动，而这似乎加深了人的异化程度。本雅明所提到的“文学的技术”和“审美生产”变成了异化劳动。人工智能艺术正在成为文化工业中重要部分，人们的闲暇被娱乐工业所控制，一些基于人工智能和大数据技术的娱乐app如“抖音”，使得艺术和娱乐被精确计算了。人类或许永远无法回到“感性”状态，人与自然被人工之物彻底中介和隔离了。这种情况下，“美的理性”更有实践意义。理性被美所引导，技术为实现人类美好生活所服务，人类和社会成为美的艺术。
中国社会科学院哲学研究所研究员段伟文
中国社会科学院哲学研究所研究员，即这次研讨会的筹划人段伟文做了题为《机器智能的非人格化权力与主体重塑》的报告。他认为数据驱动的机器智能正在成为一种新的主体型范机制：智能治理和智能化自我治理（如量化自我等）。这与福柯有关主体的塑造的权力技术和自我技术有关，两者分别为支配他人的技术和支配自我的技术；同时，又涉及到德勒兹在《尼采与哲学》中探讨过的能动力与反动力。在尼采的由力所构筑的世界观中，人的意志是能动力与反动力等力的关系的产物，主体的塑造是由特定的力与力之间的关系所形成非人格化的权力运作的结果。数据驱动的机器智能对主体的型范或塑造所采用的是关联本体论而不是关系本体论/实在论或属性本体论/实在论，这一特质使权力技术与自我技术、能动力与反动力呈现为一种微分式的非人格化权力。这意味着，拉图尔的异质性行动者网络和西蒙栋的个体化（individualization）等主体塑造机制将受到挑战：由机器智能所塑造的主体可能会丧失其能动性，而成为智能治理这一新的权力技术在数据向量空间中进行微细预控的对象。实际上，算法权力从权力谱系上与现代以降的测量的权力、档案的权力、索引的权力一脉相承，不论是智能监控、内容推荐还是量化自我，都在一定程度上将主体的个体化转换为碎片化的数据标签或德勒兹的控制社会意义上的算法“分格”。这种基于数据的机器智能的社会运用与其说是对主体的行为预控，毋宁说是对主体潜能的抑制。
为了应对机器智能的非人格化权力，主体可在智能化的生活中探索有助于提升主体塑造的自主性与能动性的生活策略，以寻求更加人性化的主体重塑进路。其一，反思智能化关注与认知中主体的角色。先厘清主体究竟是被观看与分析者还是观看与分析者，在此基础上探索反向智能关注与自我智能关注的可能性，进而揭示出数据智能背后的虚拟的主体性与外在的能动性，使主体的数据孪生成为其自身可掌控的开放性的个体化过程，而非被操控且丧失自我改变潜能的数据僵尸。其二，审度智能化时代的知识与自由之关系。以反思数据行为主义对人的生成性和自我改变潜能的抑制为切入点，探寻机器智能的限度，实现从有为的自由（做一切可为之事的自由）到无为的自由（不做能做之事的自由）、从“无止境的知识探寻”到“有选择的无知”的权力的莫比乌斯翻转。
浙江大学马克思主义学院潘恩荣教授
第五场主题报告由北京理工大学的范春平教授和中国社会科学院研究员梁俊兰主持。
浙江大学马克思主义学院潘恩荣教授所做报告的题目是《面向技术本身的人工智能伦理框架——以自动驾驶为例》。他认为技术与伦理的相互对立甚至对立是目前人工智能产业界难以应对伦理挑战的根源之一。例如，自动驾驶产业化过程中碰到了电车难题，技术专家不知道怎么办，于是，技术专家请伦理专家给出解决方案。然而，伦理专家也无法承受如此之重任，因为他无权决定谁应该被撞死。
将技术与伦理融合为一种面向技术本身的人工智能伦理框架，我们可以避开或者破解上述难题。人工智能伦理问题发生在人工智能技术（人工物）的使用情景中，即人工智能技术（人工物）介入了人与人之间，改变了原来“应该的人与人的关系”而引发了新的冲突——伦理问题。从一个人工智能的使用情景出发，追溯到设计情景当中，我们可以把人工智能伦理与人工智能技术问题放在一个框架中进行考量，将有助于解决自动驾驶的问责问题。
下一步做研究有三个可能路径。第一个是在第二种经验转向基础上结合伦理转向，走向价值论转向；第二个是科学的实践哲学研究进路，将伦理实践跟科技实践结合起来；第三个是马克思主义人工智能哲学或者人工智能马克思主义的进路，在协作分工基础上形成的包含伦理的制度，最后固化到机器或代码上。
上海师范大学马克思主义学院副教授苏令银
上海师范大学马克思主义学院副教授苏令银做了题为：《论智能时代道德机器创造的伦理挑战》。在报告中，他认为基于人工智能的巨大技术进步，完全自主的、类人化的、能够进行伦理推理和决策的智能机器的出现似乎是不可避免的。然而，非伦理学家（如计算机科学、人工智能和机器人领域的研究人员和程序员）在创造道德机器时所面临的伦理挑战。伦理是否“可计算”首先取决于程序员如何理解伦理，以及他们对这些领域中的伦理问题和方法论挑战的理解是否充分。
从道德决策的哲学基础看，机器缺乏自由意志，而自由意志本身通常被理解为是道德能动性的先决条件。基于自由意志反对由于智能机器算法的性质而否定它们的道德能动性，这是无法令人信服的。詹姆斯.摩尔对各种形式的道德能动者进行了重要的区分。没有理由不认真考虑智能机器成为完全的道德能动者的可能性。对于如何实现智能机器的道德决策和道德推理已经有了一些尝试比如自下而上的方法；自上而下的方法；混合方法；其他方法，如基于网络的方法、佛教的方法等决策系统模型。
上述领域研究人员和程序员由于普遍缺乏伦理专业知识，至少面临两种类型的问题：一是伦理专业知识的缺乏。这类问题可以通过向这些人提供必要的道德知识来解决；二是更困难的方法论问题。这涉及学界在伦理学方面存在分歧的领域，目前没有容易的解决办法。道德专家们对于使用哪种伦理理论没有共识，比如电车难题和机器偏见等。伦理学中有着几个长期存在的方法论问题，比如正当性问题和多元主义伦理理论问题，即使是道德哲学家也没有解决。对这些类似问题的熟悉可以帮助他们避免陷阱，构建更好的道德机器。道德机器的伦理决策应以避免不道德行为为基础并与解决道德问题的多元伦理方法相结合，而不是依赖于特定的伦理方法来避免规范的偏见。
未来很可能出现一种道德机器，它能够在没有任何人类监督的情况下自主地进行伦理推理和决策。机器人伦理学研究表明，研究人员和程序员需要向伦理学家寻求建议，以便更好地理解伦理学中根深蒂固的方法论问题。如果他们不适当地处理这些问题，他们创造适当的道德机器的努力将受到严重破坏。如何判断哪些行为在道德上是正确的，是我们生活中最困难的问题之一。理解这些决策所涉及的伦理陷阱和挑战，对于创造智能的、公正的道德机器是绝对必要的。
大连理工大学哲学系讲师于雪
大连理工大学哲学系讲师于雪向参会学者做了题为《人工智能伦理准则建构的方法论问题》的报告。随着人工智能2.0时代的来临，大数据智能、群体智能、跨媒体智能、混合增强智能和自主智能逐渐走向成熟。同时，“人工智能+互联网+区块链”的技术合作模式激发了人工智能技术在各个领域的应用，掀起了新一代技术革命。在这样的时代背景下，建构人工智能的相关伦理准则不仅重要而且必要。但是，人工智能伦理准则的建构并非易事，这其中存在着文化困境、伦理规范的困境、利益相关者的价值困境，以及技术困境这四个方面的问题。建构适宜的人工智能伦理准则首先需要克服这些困境，具体的逻辑建构体系包括人工智能语言体系、人工智能价值体系、人工智能标准体系、人工智能责任体系和人工智能评价体系五个方面。并且，人工智能伦理准则的建构需要以“实践智慧”为核心，及时有效地调整人工智能伦理标准的实施方法，以弹性伦理原则为核心，力求最大程度地实现人工智能伦理准则的实践有效性。
免责声明：本文系网络转载，版权归原作者所有。如涉及作品版权问题，请与我们联系，我们将根据您提供的版权证明材料确认版权并支付稿酬或者删除内容。返回搜狐，查看更多