超级人工智能带来的AI伦理是什么样的
时至今日，人们对AI人工智能并不陌生——城市中随处可见的AI场景及应用，给人类生活带来了很多变化：面部识别，让城市通勤、居家有了更便捷的体验；AI模拟成像，让古风甚至穿越成为可能；智能算法的物品筛选，让购物实现千人千面。而随着接踵而来的核心技术的突破、重磅落地的技术前沿革新，“超级人工智能”的诞生及应用让社会对其产生了不同的看法，一方面认为AI可极大提升生产力，推动社会进步，改善人类的生存环境；另一方面则强调AI颠覆性的发展与存在，或将在未来大面积取代人类，并带来伦理层面的挑战。
AI伦理，顾名思义就是AI的伦理学，亦称作“道德哲学”，是对人类道德生活进行的系统性思考和研究。人类对于AI伦理相关的话题，探讨已久。数据科学家凯西·奥尼尔则在《算法霸权：数学杀伤性武器的威胁》一书中，描述了利用大数据、人工智能相关技术导致的偏见和不公。物理学家史蒂芬·霍金曾经谈到，彻底的人工智能可能导致人类的灭亡，伊隆·马斯克认为，人工智能是一个恶魔，但是人类不一定具备控制这个恶魔的能力。
但即便如此，从1950年的图灵测试落地到今日人工智能城市AICITY的诞生，AI的发展显而易见，在“曲折”中持续前行，由此其中夹杂的AI伦理也逐渐成为AI发展之于社会影响的舆论焦点：“超级人工智能”是否会威胁人类的生存安全？算法决策是否能够保证结果公平？当越来越多的“超级人工智能”，特别是机器人投入到使用中，人与机器人的关系如何处理？从弱人工智能到强人工智能甚至是超级人工智能，人工智能是否会失控？所有这些关乎人工智能发展对人类社会基本运营法则的影响的讨论，都属于人工智能伦理的研究范畴。
这些专家和学者的担心并非杞人忧天。机器学习、深度学习算法等人工智能技术，使得计算机可以从数据中不断“学习”，实现自主学习与进化。当前在众多领域，如餐饮、社会服务、巡控检查等，人工智能已经代替人开展了很多工作。未来在某些领域，人工智能可以做出比人类更高效、更精准、更科学的预测和决算。当人工智能进化到足够的高度，产生类似人的情感及“人性”，甚至是与人类伦理类似的“道德伦理观”时，人与机器人的关系是什么，伦理学中人的地位是否会发生变化？这些当前并未清晰定义的问题关系到未来人类生存、生活、发展的方方面面。
AI伦理的5大热点领域
随着人们对于这一问题的认识不断深入，目前围绕人工智能伦理，已经有了明确的问题聚焦。算法歧视、数据隐私、安全与责任、机器人与人的关系以及科技贫困是当前AI伦理5大热点研究领域。
算法歧视算法基于已有的数据进行未来的预测，算法模型和数据输入很大程度上决定着预测结果。无法保证算法开发设计者自身的价值判断不会嵌入算法系统。
数据隐私人工智能充分挖掘和利用数据的相关性，促进了大量数据的采集和流动。通过人工智能终端，后台服务器可以轻易读取个人的活动信息，公共区域高清摄像头随时捕捉行人、行车信息，人脸识别系统轻松抓取面部生物特征，个人、企业的数据隐私将面临越来越多的讨论。深度伪造技术的应用，也出现了滥用个人信息，制造虚假导向等问题。
安全与责任自动驾驶汽车曾导致人员的伤亡、机器人也曾致人受伤。人工智能系统有较强的自主性，也存在受到网络黑客篡改汽车数据的隐患，当出现相关的安全与责任问题时，如何判断责权。
机器人与人的关系人工智能与人类是命令和服从的关系还是友好互动，和谐共生？机器人是否应该获得“意识觉醒”，机器对人类是否会产生“反控制”，机器人与人的关系应该如何界定。
科技贫困人工智能应用将在越来越多领域代人工，人工智能对人力资源的取代，使人类劳动力将面临失业风险。人工智能作为一种高精尖的技术，具有一定的技术门槛，可能产生人工智能技术被少数实力雄厚的大企业垄断的情况，而造成财富格局的固定化、收入差距的扩大化。
可以看到，AI伦理的5大焦点研究领域实际上涵盖了从科技发展到经济增长，乃至人类安全和社会稳定等诸多重大问题，仅靠学界提出呼声，显然是不够的。可喜的是，我们正在看到包括各国政府在内的多种组织和社会团体正在参与到AI伦理的讨论与探索当中。尤其是一批新锐科技公司从自身业务出发对AI伦理的阐述和发展贡献了有益的新思路。
多方构筑下的世界通识
2015年之后，随着人工智能在包括自动驾驶、城市智能化领域的广泛应用，各国政府、非政府组织及各类研究机构开始对AI伦理积极地探索。2019年，我国提出组建国家科技伦理委员会进行科技伦理相关的规范和研究，2020年该委员会正式成立。2021年1月1日，新《民法典》正式实施，从包括保障公众私生活“安宁权”、构筑个人信息安全防火墙到全面建立反性骚扰制度防线以及及时应对AI等新技术对人格权的挑战进行了描述。
欧洲委员会在《人工智能白皮书》中提出，人工智能最终的目的是增进人类福祉，AI以人为本，给予道德，可持续发展，尊重最基本的权利和价值；欧盟委员会提出“可信AI”，明确了三项基本原则：一、AI应当符合法律规定；二、AI应当满足伦理原则；三、AI应当具有可靠性。
IEEE（电器和电子工程师协会）发布《道德准则设计》，主张将价值观嵌入自主智能系统，并将体现人权的最高立项纳入人工智能及自主系统的一般原则。生命未来研究所提出的阿西洛马人工智能原则中从价值归属、司法透明、共同繁荣等13个方面对人工智能系统及应用提出了要求。
与此同时，一批新锐的人工智能领域的科技公司作为AI技术的具体研发方和应用方也提出了自己对于AI伦理的理解。AI伦理无疑将成为未来AICITY建设的重点关注方向。这类需要在全球进行业务拓展的公司而言，将中西方伦理观念进行融合，使其更具普适性和指导性，不仅是出于业务拓展的需要，也从具体操作层面弥补了当前AI伦理研究的盲点。
围绕人工智能伦理的探索，从当前的伦理问题思索，到未来可能产生相对明确而又普适性极强的伦理原则，形成伦理测度，进而进行伦理符合性评估是未来人工智能城市建设中不可回避的问题。但是中西方在道义与功利的伦理价值取向、情感主义和理性主义文化精神等层面存在差异，导致了对于AI伦理的阐述和解读形成了不同的思想阵营。以疫情中东西方社会面对个人健康码的态度和反应速率为例，不同文化心理下的市民对于公众安全与个人隐私之间的博弈有不同的理解。
此外，有研究者将人工智能分为弱人工智能、强人工智能和超人工智能，面对人工智能本身的复杂性以及未来发展极大的不确定性，当前还无法计算和预测超人工智能是否会产生危害，产生何种危害。而人工智能伦理的研究，正是希望通过伦理的原则对人工智能产生的负面影响形成制约。对于这样的科技公司而言，如何将伦理研究嵌入技术研发，使二者形成深度融合，解决当前及未来的问题，最大效用发挥人工智能的正面作用必将是关乎公司未来长远发展的重要课题。
任何一种革命性技术的到来，总是会伴随着这样或那样的认知冲击。从转基因技术到克隆技术再到当前的人工智能，随着人们知识边界的拓展，伦理范畴的讨论也将始终伴随左右。未来的AI伦理研究和应用必将是一个学界、政界、司法界、科技界共同构建的有机生命体，并向着世界范围内的通识渐进。
文/财小哥
图/云图视觉
时/20210303
原标题：《超级人工智能带来的AI伦理是什么样的？》
阅读原文
如何应对人工智能教育应用中的伦理挑战10篇高下载量论文发送给您！
教育人工智能伦理问题与伦理原则探讨摘要：文章旨在揭示智能化时代的教育将面临哪些新的伦理问题,并在人工智能伦理和教育伦理的基础上,探讨教育人工智能的伦理原则。运用文献研究和逻辑推理方法,系统梳理了教育人工智能应用的特点和优势,及其可能引发的新的伦理问题:(1)角色层面,系统创建者、教师、学生和监测员等利益相关者将面临更加复杂的伦理困境;(2)技术层面,涉及自动化决策伦理问责、算法伦理和数据伦理等方面的问题;(3)社会层面,可能转变就业市场、改变人际关系和引发新的社会不公平。因此,需要对教育人工智能伦理问题的复杂性有充分的认识,同时需要遵循一般的人工智能伦理原则和教育伦理原则,其中,最核心的内容为二者之间的交集,具体包括:(1)福祉;(2)是非善恶;(3)公平正义;(4)人权和尊严;(5)自由自治;(6)责任和问责。
关键词：教育人工智能;人工智能伦理;教育伦理;数据伦理;算法伦理;伦理原则；作者：邓国民;李梅来源：电化教育研究.2020(06)39-45点击此处查看论文原文 人工智能时代的教育风险及其规避 摘要：近年来,有关"人工智能+教育"的研究如火如荼,在教育学界掀起了一股"人工智能热"。人工智能的教育应用具体可分为教学类、学习类和管理类,运用风险理论对人工智能的教育应用进行分析,文章发现人工智能时代的教育存在智能教育治理风险、技术风险、伦理风险以及教师职业替代风险等潜在风险。为有效规避这些教育风险,文章提出在未来教育变革中应正确认识人工智能与教育的关系,探索人工智能教育精准治理新范式,推进人工智能教育应用的伦理建构,以及培养人才适应、驾驭人工智能的关键素养。关键词：人工智能;未来教育;教育风险;风险规避;
作者：吴河江;涂艳国;谭轹纱
来源：现代教育技术. 2020(04)18-24
点击此处查看论文原文
人工智能在教育应用中的伦理风险与理性抉择 摘要：教育是人类社会文明发展的重要领域,人工智能在教育领域的应用,对教育产生了革命性的影响;同时,也给教育伦理带来了一系列风险和挑战。人工智能在教育应用中导致的伦理困境和可能面临的伦理风险,主要表现在人工智能与教育主体的权利嬗变、算法推荐与学生个性的发展异化、人工情感与人机互动的情感危机、智能感知与教育数据的价值困境这四个方面。为了防范和消除这些伦理风险,"以人为本""以德为先""以法为界"是人工智能在教育应用中的理性选择,教育责任则是"可信赖的人工智能应该做什么"伦理准则的实践指向。关键词：人工智能;智能教育;教育伦理;教育大数据;人机伦理;技术异化;
作者：冯锐;孙佳晶;孙发勤
来源：远程教育杂志.2020(03)47-54
点击此处查看论文原文
人工智能教育伦理的多维审视——基于马克思技术批判和人的全面发展理论 摘要：马克思认为,技术异化会带来人的异化和教育的异化,技术并不必然向善的方向发展,技术从发明走向成熟都需要经历一个批判的过程。人工智能引发包括教育在内社会各领域的连锁反应,技术进步的已然性和社会适应的滞后性构成了社会系统平衡失调的基本矛盾,需要通过对技术的伦理批判完成技术的社会化改造。把技术批判的场域由"工作场"转移到"学校场",对人工智能教育进行价值审视、公平性审视、人性审视、责任审视和终极目标的审视,目的在于防范人工智能异化的风险并促进人工智能教育更好地发展。关键词：马克思技术批判;人工智能;伦理;
作者：苏明；陈·巴特尔
来源：西南民族大学学报(人文社科版).2019(11)223-228
智能时代的生命进化及其教育 摘要：回到原点,在智能时代重新认识人,找寻人的自我价值。探讨面对进化与重生的人类,教育何为。与此相关,如何重新审视教育实践的意义、如何理解教育与社会的关系、如何重新厘定教育实践的目标、教育要培养什么样的人、教育者与受教育者的关系是什么,这些教育实践中的基本问题,都会在人工智能时代重审和改变。智能时代的教育理论研究,需要接续思想传统、改变思维方式、确立学科立场。智能时代的教育政策制定,需要明晰政策导向、加强政策整合、深化政策创新。关键词：智能时代;生命进化;教育;实践;理论;政策;
作者：李政涛;罗艺
来源：教育研究. 2019（11）39-58
点击此处查看论文原文
论教育与机器人的关系 摘要：在第四次工业革命方兴未艾的数据时代,教育学在研究、讨论教育与人的发展关系、教育与社会发展的关系时,需要以"教育与机器的关系"为中介。教育学应该从哲学本体论、价值论层面上思考和研究"教育与机器的关系",机器及其发展成为人与社会发展的一部分、机器成为教育者与受教育者本身、教育结构的变革建立在人工智能技术革命之上、学校成为万物互联的新型社会组织、机器发展与教育发展水平相互制约,都是必须面对和探讨的几个重要命题。这需要教育学及其研究作出变革,倡导建立新的教育发展观,探索建立信息化的教育学理论体系,研究构建"人工智能+教育"的政策体系。关键词：教育;人工智能;机器;关系;学科基础;
作者：刘复兴
来源：教育研究. 2019(11)28-38
点击此处查看论文原文
智能教育时代下人工智能伦理的内涵与建构原则摘要：在智能教育时代,人机如何共处是人工智能伦理建构的关键。文章首先从技术悖论视角,厘清当前人工智能应用于教育在技术滥用、数据泄露、智能教学机器的身份与权力边界等方面存在的伦理挑战与困境;其次,利用内容分析法,结合多国与国际组织政策文件,对人工智能伦理相关的伦理要素进行分析与抽取,发现政府、高校、国际组织文件中多次提到的价值、人类利益、安全、隐私、责任等关键要素;最后,基于人机共处的考量,结合人工智能在教育领域的应用现状和伦理关键要素,归纳分析出智能教育伦理需遵循的原则,包括问责原则、隐私原则、平等原则、透明原则、不伤害原则、非独立原则、预警原则与稳定原则。
关键词：智能教育;人工智能;机器伦理;国际政策;原则;APETHICS模型;作者：杜静;黄荣怀;李政璇;周伟;田阳来源：电化教育研究. 2019(07)21-29点击此处查看论文原文