《人工智能伦理与治理报告》内容解读
2021年8月15日，由清华大学数据治理研究中心主办的“人工智能伦理与治理”专题研讨会于云端举行，来自中央党校、中国社科院、清华大学、复旦大学、浙江大学、中国政法大学、电子科技大学、山东大学、北京化工大学、中国农业大学、对外经济贸易大学、山东师范大学等高校的多位专家学者共聚一堂，围绕人工智能伦理的核心关切和治理方式等问题展开深入研讨。会议由清华大学社会科学学院副院长、计算社会科学平台执行主任孟天广副教授主持。
会上，清华大学数据治理研究中心项目研究员严宇、戴思源和李珍珍共同汇报了《人工智能伦理与治理报告》。报告将人工智能伦理分为安全、透明、公平、个人数据保护、责任等八个维度，通过问卷调查的方式收集了公众针对这些伦理维度的关切情况及治理方式。报告特别关注了算法伦理问题，专门就算法透明、算法公开及数据保护三个方面展开讨论。最后，报告还提出了人工智能伦理治理的“中国方案”。以下为汇报内容：
严宇：美国人工智能监管以发展和创新为先
清华大学数据治理研究中心项目研究员严宇表示，从伦理治国的跨国比较来看，美国的人工智能监管是以发展和创新优先为导向的。
严宇指出，在全球范围内，各国都已经看到人工智能技术对社会的影响，总体可以分为乐观派和悲观派两大派系。乐观派认为人工智能技术极大地促进了经济社会发展；相对来说，悲观派会更多地关注潜在的伦理风险。“由此会产生两种不同的措施，比如乐观派会积极采用战略规划和政策文件来推动人工智能技术的发展与应用；悲观派则会对人工智能伦理开展专项调查，甚至出台具体措施，对伦理风险进行规制。”
严宇在对人工智能伦理治理体系进行跨国比较后表示，美国为了保持其在人工智能领域的全球领先地位，既看重发展，又会考虑伦理风险。“但总体来说美国仍然是以发展和创新优先。”美国非常强调政府和企业、学校、研究机构等社会组织的合作。从顶层设计上来看，联邦政府曾发布行政命令和战略规划，推动人工智能的发展。这些战略规划也提出要对人工智能的伦理问题进行规制，但是其监管仍然是将发展和创新放在更优先的地位。
在严宇看来，不同于美国以发展和创新为先的监管体系，欧盟的监管体系更加严格。“欧盟人工智能企业的数量、规模和影响力虽然排在美国和中国之后，但是它的人工智能监管和治理却在全球有相当的影响力，形成了以强监管为核心特征的治理体系。”
对于邻国日本的人工智能技术发展，严宇表示，日本在试图从中寻找平衡，一方面肯定人工智能的重要作用，另外一方面又要强调重视它的负面影响。日本为此建立了一系列伦理的准则。
严宇介绍道，过去十年，中国的人工智能技术发展速度非常迅猛，近几年中国也越来越关注人工智能的伦理及治理问题。组织和制度方面，中国建立了新一代人工智能治理专业委员会，发布了《新一代人工智能发展规划》，提出要建立规范的伦理体系和法律法规；治理原则方面，形成了《网络安全标准实践指南》，专门提出对人工智能的伦理安全风险开展防范和治理。监管体系方面，中国正在大力推动国家人工智能安全和评估体系。
戴思源：网民关心反垄断时代人工智能相关的数据权利
研究发现，网民关心反垄断时代人工智能相关的数据权利。戴思源的团队从安全、透明、公平、个人数据保护、责任、真实、人类自主、人类尊严八个维度对人工智能伦理进行梳理，并结合小数据和大数据展开实证分析。小数据主要来自清华大学数据治理研究中心在2021年7月份展开的有关人工智能应用与公众认知的网络问卷调查，共收集2654份，有效数2041份；大数据来自新浪微博的网民讨论数据，提取人工智能相关关键词条共4496万条，另外一个大数据来源是今日头条有关人工智能的1.9万篇文章和相关评论2.5万条。
戴思源表示，网民对各个维度都有所关注，其中在安全、公平、个人数据保护、责任方面，表示关切的人数最多。对比之下，对透明、人类自主和人类尊严这几个维度较少关注。
在人工智能应用的生活场景中，戴思源的团队将其划分为智能门禁、智能家居和信息类APP等几个类别，让受访者对人工智能技术选择各个层面因素进行排序。“总的来看，在所有场景当中，有用性和伦理因素都是最重要的因素，影响受访者是否使用该类人工智能产品。”戴思源说。
同时，戴思源的团队也对社交媒体与资讯大数据展开分析。他们在对新浪微博的数据按上述八个伦理维度进行细分之后发现，微博网民主要关注安全、透明、隐私保护和责任等方面。通过词云图进一步分析，发现在安全维度上，公众主要对人工智能技术的安全性表示关切；透明维度上，公众主要对物联网金融信息公开、特斯拉自动驾驶的数据公开、人工智能技术细节的公开展开讨论；隐私保护方面，公众主要集中于人脸识别等技术的滥用、互联网企业利用大数据杀熟等现象展开讨论；可靠性维度上，公众主要讨论人工智能产品是否能够为用户提供可靠的服务。
戴思源指出，针对不同的企业，新浪微博的网民对于特斯拉的讨论度最高。“这可能与特斯拉在行业的技术领先优势及社会舆情事件密切相关。”另外，阿里、华为等企业的讨论热度也紧随其后。微博网民更倾向于从人工智能所取得的技术进展和革新来讨论企业。
戴思源表示，阿里巴巴反垄断案、抖音诉腾讯不正当竞争案等高点赞文章的主题都同平台垄断等新型市场垄断形式密切相关。“这反映出网民关心新型垄断形式所主导下的人工智能发展以及与此相关联的数据权利。”
李珍珍：较多受访者认为不应公开算法源代码
研究发现，公众对算法公开的支持态度主要集中在算法应用和推广阶段，但较多受访者认为不应公开算法源代码。
李珍珍针对算法的伦理问题提出三个关切点：算法的透明、公平和数据保护。她的团队通过问卷调查收集公众对于算法透明、算法公开的态度，总结公众对算法透明和公开的五个维度：一是人工智能企业应该向社会披露算法的目的、范围和用途；二是企业应该向社会解释算法的步骤、原理和细节；三是企业应该向社会公开算法的源代码；四是企业应该向社会披露算法使用的风险；五是企业应该接受社会对算法开发和应用的监督。
调研结果显示，从整体上看，公众对算法透明和公开持普遍支持态度，绝大部分受访者对于算法的目的、范围、用途、算法风险、算法开发应用这些方面选择比较同意或者非常同意。然而，对于公开算法的步骤、原理、细节以及公开算法的源代码，持同意态度受访者比例会显著降低，特别是较多受访者都认为不应该公开算法源代码。
李珍珍表示，公众对算法公开的支持态度主要集中在算法应用和推广阶段，即在使用人工智能产品过程中直接受算法影响的那个阶段。而对算法的设计过程，尤其是源代码，大多数人并不认为应该公开。
在当前算法社会中，用户成为被算法评估的对象。李珍珍指出，我们应该选择适当的措施来保障算法的公平，规避算法歧视。“我们对于算法公平的调查，将有助于科技工作者研发出更具公平原则的算法，这种公平原则需要符合公众对公平概念的普遍理解。”
另外，李珍珍还提到算法伦理问题很大程度上是关注个人数据和隐私保护。团队在调查中发现，公众认为最重要的个人信息包括自己的基本信息、人际关系信息、经济情况信息等。另外，在隐私泄露、信息盗用、信息删除、信息查阅等个人信息和隐私潜在风险的四个方面，网民对于个人隐私泄露和信息盗用最为担心。
“算法社会的内生风险和伦理问题需要我们在未来进一步规范算法的研发和应用，系统讨论算法伦理及其风险治理，让算法更好地服务人类社会。”李珍珍说。
回顾“人工智能伦理与治理”专题研讨会：
人工智能伦理与治理研讨会成功举办
孟天广：人工智能伦理及其治理要打通科技社群与社会大众
吕鹏：人工智能伦理问题需实证证实或证伪
陈水生：人工智能伦理和治理需要“发展”和“监管”双轮驱动
李锋：人工智能伦理不能脱离社会经济状况和历史视角
孙宗锋：需研究公众对人工智能伦理关注重心的背后原因
赵娟：人工智能治理框架应处理四对关系
熊易寒：把算法还原成普通人能理解的逻辑
吴超：算法技术问题最根本的解决方法是发展技术本身
贾开：应从技术与社会互嵌角度重视人工智能治理框架
曲甜：从技术与组织关系分析人工智能的治理模式
宁晶：网络用户使用技能和心理效能影响算法接受度
张小劲：算法治理应致力于促发展、防滥用并消除污名化现象
更多与会专家发言内容，欢迎查看专题报道，或关注清华大学数据与治理研究中心官方微信公众号“数据与治理”。
（来源：中新经纬APP，未经授权禁止转载）
人工智能迫切需要一个“伦理转向”
当前人工智能的发展主要受益于以深度学习为代表的机器学习技术，这让计算机可以从大量数据中自主学习与进化，从而作出比人类更高效、更精准、更廉价的预测与决策。正因如此，人工智能作为新的通用型技术，被认为将给经济和社会带来变革性影响，已被各国上升到国家战略和科技主权高度，成为不断升温的全球科技竞争的新焦点。
在应用层面，人工智能已经渗透到各行各业，算法帮我们过滤掉垃圾邮件，给我们推荐可能喜欢的歌曲，为我们翻译不同的语言文字，替我们驾驶汽车。新冠肺炎疫情暴发以来，人工智能在辅助医疗诊断与新药研发等方面崭露头角，无人物流配送、无人驾驶汽车等新模式助力非接触服务发展。总之，人工智能潜力巨大，可以成为一股向善的力量，不仅带来经济增长，增进社会福祉，还能促进可持续发展。
但与此同时，人工智能及其应用的负面影响与伦理问题也日益凸显，呼吁人们在技术及其产业化之外更加关注伦理视域。例如，人工智能模型训练及其应用离不开大量数据的支持，可能导致违法违规或过度收集、使用用户数据，加深人工智能与数据隐私保护之间的紧张关系；人脸识别技术在一些场景的应用也引发了国内外对该技术侵犯个人隐私的争议。人工智能技术也可能被不法分子滥用，例如用来从事网络犯罪，生产、传播假新闻，合成足以扰乱视听的虚假影像等。
随着算法歧视的不断发酵，人工智能参与决策的公平性问题也备受关注。有研究发现，很多商业化的人脸识别系统都存在种族、性别等偏见，这样的技术用于自动驾驶汽车，就可能导致黑人等深色皮肤的人更容易被自动驾驶汽车撞到。人工智能在招聘、广告投放、信贷、保险、医疗、教育、司法审判、犯罪量刑、公共服务等诸多方面的应用也伴随公平性争议。此外，人工智能的知识产权保护问题也日益浮现，目前人工智能已能够独立创造诗歌、小说、图片、视频等，知识产权制度将需要尽快回应人工智能创造物的保护问题。自动驾驶汽车、AI医疗产品等人工智能应用一旦发生事故，也面临谁来担责的难题。最后，人工智能的应用可能取代部分手工的、重复性的劳动，给劳动者就业带来一定冲击。
2020年被认为是人工智能监管元年，美欧采取的监管路径大相径庭。欧盟《人工智能白皮书》提出的“重监管”模式更多倚重事前的规制，考虑为技术开发与应用设置严苛条件；美国《人工智能应用监管指南》提出的“轻监管”模式更多倚重标准、指南等弹性手段，考虑为人工智能应用设置避风港、“监管沙箱”等。在全球科技竞争日趋激烈、数字经济日趋成为国家核心竞争力等背景下，考虑到我国科技行业发展实际，我国对人工智能需要创新治理，倚重敏捷监管、伦理治理、技术治理等多元手段来共同确保人工智能正向应用与向善发展。
首先，监管不仅需要对人工智能应用分级分类、以问题和风险防范为导向，而且需要具有敏捷性与适应性。人工智能技术的一个核心特征是快速发展迭代，制定强制性法律必然赶不上技术发展步伐，所以国外大都采取出台指南、伦理框架等“软法”。此外，自动驾驶汽车、智能医疗等人工智能应用的发展落地仍面临较多法规政策障碍，需要考虑修订阻碍性的法律法规，同时通过“数字沙箱”“安全港”“试点”等方式推动其试验与应用落地。
其次，采取伦理治理，把伦理原则转化为伦理实践。目前，国内外很多科技公司都出台了人工智能伦理原则，也在通过伦理审查委员会、伦理嵌入等方式落实其伦理原则。行业的这些伦理治理措施已在国内外获得较大共识，更能适应AI技术发展。
再次，以技术手段防范人工智能滥用。例如，深度合成作为一项人工智能应用，在影视制作、教育、医疗、娱乐等领域具有很大正向应用价值，但也可能被不法分子滥用来制造、传播虚假影像以从事欺诈欺骗活动。对此，行业内已在积极研发、部署内容鉴别与溯源技术，以对抗深度合成的滥用。面对复杂性与迭代速度不断增强的人工智能应用，技术治理将发挥越来越大的作用。
（作者：曹建峰，系腾讯研究院高级研究员）
(责编：杨光宇)分享让更多人看到
我们该如何应对人工智能带来的伦理挑战
返回基金会动态列表>我们该如何应对人工智能带来的伦理挑战？作为第四次科技革命和产业变革的重要推动力量，人工智能技术正以一种迅猛发展的态势，推动社会生产力水平的整体跃升。然而，人工智能在为经济发展与社会进步带来重大发展机遇的同时，也会带来一系列伦理风险和挑战。
人工智能的广泛应用对人类社会的不同领域的伦理存在有什么影响？
我们应该制定什么政策来前瞻性地应对人工智能可能带来的伦理挑战？
2022年4月25日，中国发展研究基金会《人工智能时代的伦理：关系视角的审视》报告发布会线上举办，中国发展研究基金会副秘书长俞建拖介绍报告主要内容，多名相关专家学者以报告为基础，围绕上述议题展开深入探讨。
人工智能的伦理影响
《人工智能时代的伦理：关系视角的审视》（下称“报告”）从关系论视角出发，对人类智能、社会与伦理进行概述，解读关系论下人工智能伦理讨论框架，同时从市场经济、家庭、一般社会、国家和社会、国际关系、人与自然六方面分析人工智能的伦理影响，并在此基础上提出面向未来人工智能伦理发展的建议。
报告指出，人工智能在经济社会生活中的全面渗入有助于促进个人和组织的赋能，促进弱势群体的社会参与，扩展人的机会空间和自由，促进经济的繁荣，减少绝对贫困和剥夺，这些可以视为伦理增益。但是，人工智能的使用可能也会带来一系列伦理风险和挑战，包括失控风险、恶意使用、适应性风险、认知风险等，这些风险在不同的领域有不同的表现。
市场经济方面，人工智能在改善劳工工作环境、维护人的尊严、促进人力资本积累和经济繁荣等方面有积极作用，但同时也存在垄断、过度榨取消费者剩余、劳动力替代、阶层分化和固化等问题，并有可能深刻影响市场经济中的雇佣关系、竞争关系、合作模式、所有关系（所有权）以及相关的伦理规范。
家庭关系方面，人工智能的积极成果是使得一些家庭成员得以被解放，从而可以从事对家庭福祉更有益的事，但功能的疏解可能会使家庭成员之间的关系更加疏远、联系更松散。
随着社会需求的多样化，可能会出现人工智能扮演家庭成员角色的需求，如人工智能儿童、人工智能伴侣、人工智能长辈等，当人工智能开始介入家庭内部人际关系，原来用来规范人类家庭成员的伦理很难再直接适用，而且关系身份的传递也可能导致认知上的混乱。
社会伦理关系方面，一方面，人工智能广泛使用，可能会根本上重塑组织性互动，比如学校作为最重要的伦理再生产组织的教学理念、教学内容、教学方式也有可能发生重要变化。
而在一般非组织性的社会活动中，人工智能的应用以及数据信息环境的改变，社会可能更难在什么是真相和真实知识上达成共识，人们更容易陷入“信息茧房”，机器决策可能会产生“无用阶级”，“大数据+人工智能”对个人隐私侵犯也可能会逼迫人们采取面具化生存策略。
国家和社会层面，人工智能可以被广泛用于公共管理以及公共服务供给，使国家治理变得更加具有公平公正、民主参与、透明、负责任以及高效，促进国家的善治。
但是随着人工智能时代的到来以及虚拟生活方式的普遍流行，国家认同可能会被削弱，机器人税和普遍基本收入会被越来越多的考虑，但是也引发政府规模和权力的扩大，以及随之而来的政府与社会关系的调整，譬如公民对政府的高度依赖、政府社会监控的强化以及个人自由空间的压缩等。
来源：央视网
国际关系层面，人工智能正在成为大国竞争的胜负手和重要领域。从全球实现可持续发展目标的需求看，人工智能可以发挥重要的作用，但是地缘政治竞争的加剧可能会制约其潜能的发挥。人工智能在发达国家的开发和应用，也可能导致全球价值链发展趋势被重置，导致发展中国家被边缘化以及对发达国家的依附。
人工智能在军事领域的应用，包括智能武器的开发与部署、智能军事决策系统、非常规智能战争等，可能会引发军事战略的根本性变革，给国际秩序带来巨大的不确定性。
人与自然关系方面，人工智能的发展对提高资源的利用效率和减少攫取、减少对环境的破坏、更好地顺应和应对自然界挑战具有重要的意义。但是人工智能的发展也可能助长人类创造的雄心，特别是人工智能在生物改造领域的应用，对既有生态体系的影响具有很大的不确定性。
真知灼见：如何应对人工智能可能带来的伦理挑战？
来源：央视网
报告发布会上，北京大学哲学系教授何怀宏指出人工智能是一种区别于传统人造物的机器，其能力对人类而言还有很多未被发掘的部分，我们应该进一步思考人和人工智能这一特殊关系，思考如何促进人工智能发展、人工智能如何给人类赋能、如何深入具体地将人工智能运用到各个领域、以及人工智能的运用会带来哪些新的问题。
中国社会科学院哲学所科技哲学研究员、中国社会科学院科学技术和社会研究中心主任段伟文探讨了人工智能伦理治理的主体问题。他指出，当前实践人工智能领域的伦理规范主要是以科技公司为主体，政府也应积极的参与到该领域的伦理治理中，扮演积极的角色，更加灵活地进行适应性治理。
暨南大学教授、海国图智研究院院长陈定定认为当前社会的主要问题是伦理规范泛滥和冲突，应该建立一个通用的、全面的人工智能伦理规范。
武汉大学计算机学院教授、卓尔智联研究院执行院长蔡恒进指出，未来三五年内人工智能会有重大突破，元宇宙和Web3.0可以看作是人工智能的重要进展。在Web3.0时代，个体、企业、国家将会成为机器节点并融合为超级智能，这有可能会对社会伦理关系产生影响。
北京大学法学院副教授、北京大学法律人工智能研究中心副主任江溯指出，随着智能性技术广泛使用，社会可能会慢慢变成“全景敞视监狱”，个人的自由空间可能会被压缩。我们应该在法律领域探讨相关问题，研判人工智能应用的法律限度并加以约束。
从人工智能难题反思AI伦理原则
取代问题是物质性活动维度，即是人类实践活动能否被智能机器取代。在这一问题中，实际上具有双重意义：其一是从人类活动的本性看，机器取代人类活动是人类活动技术化的必然结果。如果某些人类活动可以自动化的话，意味着能够被自动机器取代，所以这种取代会根据人类活动的自动化趋势而扩展；其二是从超级智能的角度看，机器取代人类意味着机器获得自主意识之后产生的必然后果。当机器智能超越人类智能之后，按照进化逻辑，机器智能必然会以高级的形式来改造低级的形式，出现的结果就是取代人类活动。比如自动驾驶汽车取代人类司机、智能法官取代人类法官、智能医生取代人类医生。所以取代问题实质是双重的，人类活动的自动化趋势及其超级智能生成的结果。从第二个方面看，它是超越问题衍生的必然结果。
首先我们考察第一点。何谓人类活动的技术化？在日常的表达中，人类活动的自动化意味着人类活动的一种本性，能够被某种功能同构的其他活动取代。人类活动技术化的整体经历了一个从身体部分的技术化、身体功能的技术化到个体身体的技术化以及人类整体的技术化的演变过程。这一点我们从技术发展史中可以感受到。以喝水为例，最初人们喝水是靠手捧，从河水里面捧水喝。但是这样的效率很低，随着不同种类的容器出现，容器的装水功能取代了人体[手]的功用，这样可以获得更多的水，效率也随着提高。在这个过程中，我们一方面看到的是喝水功能的演变，从手到容器的出现；另一方面看到的是手之容纳功能被同构的容器取代。这一点是人类学考察的结果。所以，这个过程是身体器官的技术化。所谓器官延伸论的哲学解释就是身体器官的技术化，身体功能能够以技术化的方式被替代，如同上面的被子的容纳功能取代了手的容纳功能。其次是身体功能的技术化，如五感的技术化，五感指的是视听味触嗅，它与身体相关，但不是身体部分，而是身体功能。人类的身体功能多半以感知功能的形式表达出来，如眼睛的远望、耳朵的倾听、腿部的、腰部的等器官的力量。大部分都可以实现技术化，人类身体的功能不断技术化在不同时代表现不同。接着是整体身体的技术化意味着人类个体的技术化，这一点已经是马尔库塞在《单向度的人》中加以揭示的结果，个体变成了技术系统上的一个环节，其功能被取代。这一取代的自然推演结果是人类整体的技术化，20世纪60年代以来，控制论-系统论等科学与人工智能技术带来的是自动化的趋势，这种取代更为彻底，实现的是整体身体的取代或者整个类的取代。所以，这个过程表现出的是不断技术化的过程，从身体部分、身体功能到个体身体和人类整体的技术化。从这个发展脉络出发，我们就可以看到不同社会中这一过程如何表现为社会难题了。身体部分与身体功能的技术化带来的社会问题并不是很明显，因为这个时期技术仅仅表现为具体的器物，以眼镜为例，望远镜、显微镜等器物的出现，掀起的仅仅是一些日常的争议，很快被人类社会所接受。但是当个体身体被技术化的时候，哲学家表示了极大的批判，这种技术导致的异化成为了猛烈的批判目标。人类整体的技术化更是如此。这种批判更加彻底化，我们从马克思那里能够感受到，当他讨论工业机器带来工人失业的问题时，更多不是指个体的被取代，而是人类整体的异化。所以，从这个角度来看，这是人类活动不断外化的结果，外化通过技术化的方式表现出来。
其次，取代问题是超越问题的深度表现，即智能机器自主意识觉醒的必然结果。在上面我们提到，超越问题的基础是智能行动者，如果智能行动者具备自主意识或者自主意识获得觉醒，那么它就会成为一个与人类相异的他者。事实上，在我们的分析中已经指出，人工智能学者正在这一理解以根据。根据罗素的看法，人工智能是智能行动者，它能够基于特定的情境做出最优化的理性选择。这一点指出了人工智能体的行为与情境之间的特定关联，但是这一点的重要性很少被关注到。所以需要在后面加以进一步的分析。其次，根据DeepMind的研究成果显示：人工行动者具有和人类、动物一样的空间记忆表征结构。如果从此出发，我们会发现至少在这两个方面，人工智能表现出与人类一样的同构性。这种同构性的存在使得机器能够出现自主意识。只是差异在于人类进化经过了很长的时间，而且是在特定的自然环境条件下进化的结果。对于机器而言，同构性的存在意味着具有了先天的可能性。而大数据技术正在给人工智能体提供更加丰富的数据环境，在深度学习、增强学习的算法帮助下，自主意识以新的形式出现，也不是不可能的事情。所以本文的一个基本观点是，人类与机器的整体进化尽管不是同步的，但是同构性使得他们能够获得进化结果。在此基础上，自主意识觉醒后的逻辑结果是对待他者问题。在机器自我意识诞生之前，人工智能在各类游戏（围棋、国际象棋、桥牌）、疾病识别等方面表现出通过图灵测试的迹象。这说明在某种程度上人工智能可以作为独立主体存在，它能够创造艺术作品、能够写作新闻稿件，甚至产生论著。取代人类的知识生产的角色已经变得可能了。此外，随着人机融合程度的加大，我们即将面临新的纽拉特之船的迹象，人类器官不断被机器取代，最终会演变成机器躯壳。按照机器自身逻辑的结果，取代成为众多可能性之一。
超越问题和取代问题会把我们带入到实体论中，即把人工智能看作是超越人类自身实体力量，能够自主进化、自主发展的力量。这会带来一个严重的伦理问题：人类创造的工具最终摆脱人类自身的控制，变成异化的力量。取代问题是技术异化的最终结果。人工智能何以发展出自主意识超越并且取代人类就成为难以理解的问题了，我们把这一问题称之为人工智能的不可解释性问题。目前，这一问题主要被看作是技术问题，而且这一问题的存在对人工智能伦理的构建产生了不容忽视的影响。尽管如此，上述考虑并没有充分意识到不可解释性问题从根本上来说还是哲学问题。
人工智能的若干伦理问题思考
摘要：本文首先讨论了人工智能伦理的相关概念与发展，指出在当今人工智能技术高速发展的时代，对人工智能伦理的研究是很有必要的。其次对人工智能伦理研究的常见问题进行了分析，并在最后对人工智能的伦理问题的发展进行了讨论。
关键词：人工智能伦理人机环境交互
一、引言
人工智能（ArtificialIntelligence）一词起源于1956年的达特茅斯会议。AI一词一经提出，就引起了众多学者的关注与研究，人们致力于让机器像人一样具有智能，能够与人进行自然的人机交互。虽然总体目标基本一致，但是AI可以分为两个大的方向：一派提倡从上到下（top-down）的方法，即认知主义。这派学者提倡研究人类的策划、推理以及解决问题的能力。先赋予机器复杂的智力，再让他们去完成简单的行为。而另一派则是自下而上的，被称为涌现主义。即不包括任何抽象概念或推理过程，只需让机器人对所感知到的刺激做出反应即可[1]。他们这两派均取得了很大成就，尤其是近些年深度学习算法的提出与发展，给人类的生活带来了很大的帮助。
但是，与此同时，人工智能的迅速发展也给人的生活带来了一些困扰与不安，尤其是在奇点理论提出后，很多人质疑机器的迅速发展会给人类带来极大的危险，随之而来的很多机器事故与机器武器的产生更加印证了人们的这种印象。于是，关于机器伦理、机器道德的研究层出不穷。本文就将从人工智能的伦理问题入手，先行论述人工智能伦理及其相关概念，再讨论一些人工智能伦理的焦点问题：如人工智能能否取代人类、人工智能的责任问题。并在文章的最后给出笔者的一些看法。
二、人工智能伦理相关概念
1.伦理的概念
伦理一词，英文为ethics，一词源自于希腊文的“ethos”，其意义与拉丁文“mores”差不多，表示风俗、习惯的意思。西方的伦理学发展流派纷呈，比较经典的有叔本华的唯意志主义伦理流派、詹姆斯的实用主义伦理学流派、斯宾塞的进化论伦理学流派还有海德格尔的存在主义伦理学流派。其中存在主义是西方影响最广泛的伦理学流派，始终把自由作为其伦理学的核心，认为“自由是价值的唯一源泉”[2]。
在我国，伦理的概念要追溯到公元前6世纪，《周易》、《尚书》已出现单用的伦、理。前者即指人们的关系，“三纲五伦”、“伦理纲常”中的伦即人伦。而理则指条理和道理，指人们应遵循的行为准则。与西方相似，不同学派的伦理观差别很大，儒家强调仁、孝悌忠信与道德修养，墨家信奉“兼相爱，交相利”，而法家则重视法治高于教化，人性本恶，要靠法来相制约[2]。
总的来说，伦理是哲学的分支，是研究社会道德现象及其规律的科学。对其研究是很必要的。因为伦理不但可以建立起一种人与人之间的关系，并且可以通过一种潜在的价值观来对人的行为产生制约与影响。很难想象，没有伦理的概念，我们的社会会有什么人伦与秩序可言。
2.人工智能伦理
其实在人工智能伦理一词诞生以前，很多学者就对机器与人的关系进行过研究，并发表了自己的意见。早在1950年，维纳在《人有人的用途：控制论与社会》一书中就曾经担心自动化技术将会造成“人脑的贬值”[3]。20世纪70年代，德雷福斯曾经连续发表文章《炼金术与人工智能》以及《计算机不能做什么》[4]，从生物、心理学的层次得出了人工智能必将失败的结论。而有关机器伦理（与人工智能伦理相似）的概念则源自《走向机器伦理》一文[5]。文中明确提出：机器伦理关注于机器对人类使用者和其他机器带来的行为结果。文章的作者之一安德森表示，随着机器的越来越智能化，其也应当承担一些社会责任，并具有伦理观念。这样可以帮助人类以及自身更好的进行智能决策。无独有偶，2008年英国计算机专家诺埃尔·夏基教授就曾经呼吁人类应该尽快制定机器（人）相关方面的道德伦理准则。目前国外对于人工智能伦理的研究相对较多，如2005年欧洲机器人研究网络（EURON）的《机器人伦理学路线图》、韩国工商能源部颁布的《机器人伦理宪章》、NASA对“机器人伦理学”所进行的资助等[6]。（注：本文认为人工智能伦理与机器（人）伦理本质上没有太大区别，本文中两者可以替换）。而且国外相关的文献也相对丰富，主要集中在机器人法律、安全与社会伦理问题方面。
国内方面相关研究起步较晚，研究不如国外系统与全面。但是近些年来，相关学者也将重点放在人工智能的伦理方面。相关文献有《机器人技术的伦理边界》[7]、《人权：机器人能够获得吗？》[8]、《我们要给机器人以“人权”吗？》[9]、《给机器人做规矩了，要赶紧了？》[10]、《人工智能与法律问题初探》[11]等等。值得一提的是，从以上文献可以看出，我国学者已经从单纯的技术伦理问题转向人机交互关系中的伦理研究，这无疑是很大的进步。
不过，遗憾的是，无论是在国内还是国外，现在仍然很少有成型的法律法规来对人工智能技术与产品进行约束，随着人们将注意力转向该方向，相信在不远的将来，有关政府部门会出台一套通用的人工智能伦理规范条例，来为整个行业作出表范。
三、人工智能是否会取代人类
有关人工智能与人的关系，很多人进行过质疑与讨论。1967年，《机器的神话》[12]作者就对机器工作提出了强烈的反对意见，认为机器的诞生使得人类丧失个性，从而使社会变得机械化。而近些年来，奇点理论的提出与宣传[13]，更加使得人们担忧机器是否将会全面替代人类，该理论的核心思想即认为机器的智能很快就将超过人类。
笔者认为，人工智能不断进步，这是个不争的事实。机器的感觉，运动、计算机能都将会远远超过人类。这是机器的强项。但是不会从根本上冲击人类的岗位与职业。这是出于以下几方面的考虑：首先机器有自己的优势，人类也有自己的优势，且这个优势是机器在短期无法比拟与模仿的。人类具有思维能力，能够从小数据中迅速提炼归纳出规律，并且可以在资源有限的情况下进行非理性决策。人类拥有直觉能够将无关的事物相关化。人类还具有与机器不尽相同的内部处理方式，一些在人类看来轻而易举的事情，可能对于机器而言就要耗费巨大的资源。2012年，google训练机器从一千万张的图片自发的识别出猫。2016年，谷歌大脑团队训练机器，根据物体的材质不同，来自动调整抓握的力量。这对于一个小孩子来说，是很简单的任务，但在人工智能领域，确正好相反。也许正如莫桑维克悖论所阐述的，高级推理所需要的计算量不大，反倒是低级的感觉运动技能需要庞大的计算资源。
其次，目前人类和机器还没有达到同步对称的交互，仍然存在着交互的时间差。目前为止，仍然是人类占据主动，而且对机器产生不可逆的优势。皮埃罗·斯加鲁菲在《智能的本质》[14]一书中曾经提出：人们在杂乱无章中的大自然中建立规则和秩序，因为这样的环境中人类更容易生存和繁衍不息。而环境的结构化程度越高，制造在其中的机器就越容易，相反，环境的结构化程度越低，机器取代的可能性越小。由此可见，机器的产生与发展是建立在人们对其环境的了解与改造上的。反过来，机器的发展进一步促进了人们的改造与认知活动。这就如天平的两端，单纯的去掉任何一方都会导致天平的失衡。如果没有人类的指引与改造作用，机器只能停留在低端的机械重复工作层次。而机器在一个较低端层次工作的同时也会使得人们不断追求更高层次的结构化，从而使得机器向更高层次迈进。这就像一个迭代上升的过程，人－机器－人－机器，以此循环，人类在这段过程中总是处于领先的地位。所以机器可以取代人类的工作，而不是人类。
再次，人工智能的高速发展同时带来了机遇。诚然，技术的发展会带来一些负面影响，但是如果从全局来看，是利大于弊的。新技术的发展带来的机遇就是全方位的。乘法效应就是说明的这个道理：在高科技领域每增加一份工作，相应的在其它行业增加至少4份工作，相应的，传统制造业为1:1.4[14].我们应该看到，如今伴随着人工智能业的飞速发展，相关企业如雨后春笋般诞生，整体拉动了相关产业（服务业、金融业）的发展，带来了更多的就业机会。
而且，任何一项技术的发展都不是一蹴而的，而是循序渐进的过程。无论是最早期的类人猿的工具制造、还是后来的电力发展、再到现在的互联网时代，技术的发展与运用是需要时间来保证的。现在社会上有些人担心人工智能的发展会立即冲击自己的工作，实则是有些“杞人忧天”的意味。以史可以明鉴，历史上大的技术突破并没有对人类的工作产生毁灭性的打击。蒸汽机的诞生替代了传统的骡马、印刷机的诞生取代了传统的抄写员、农业自动化设施的产生替代了很多农民的工作，但这都没有致使大量的工人流离失所，相反，人们找到了原本属于人类的工作。新兴技术创造的工作机会要高于所替代的工作机会。所以，我们不必过分担心机器取代人类工作的问题。
四、谁来为事故负责
2016年7月，特斯拉无人驾驶汽车发生重大事故，造成了一名司机当场死亡。这件事故很快成为了新闻媒体的焦点。人们不仅仅关注这件事情本身所带来的影响，更加担心机器作为行为执行主体，发生事故后责任的承担机制。究竟是应该惩罚那些做出实际行为的机器（并不知道自己在做什么），还是那些设计或下达命令的人，或者两者兼而有之。如果机器应当受罚，那究竟如何处置呢？是应当像西部世界中将所有记忆全部清空，还是直接销毁呢？目前还没有相关法律对其进行规范与制约。
随着智能产品的逐渐普及，我们对它们的依赖也越来越深。在人机环境交互中，我们对其容忍度也逐渐增加。于是，当系统出现一些小错误时，我们往往将其归因于外界因素，无视这些微小错误的积累，我们总是希望其能自动修复，并恢复到正常的工作状态。遗憾的是，机器黑箱状态并没有呈现出其自身的工作状态，从而造成了人机交互中人的认知空白期。当机器不能自行修复时，往往会将主动权转交给人类，人类就被迫参与到循环中，而这时人们并不知道发生了什么，也不知道该怎样处理。据相关调查与研究，如果人们在时间与任务压力下，往往会产生认知负荷过大的情况，从而导致本可以避免的错误。如果恰巧这时关键部分出了差错，就会产生很大的危险。事后，人们往往会责怪有关人员的不作为，往往忽视机器一方的责任，这样做是有失偏颇的。也许正如佩罗所说：百分之60到80的错误可以归因于操作员的失误。但当我们回顾一次次错误之时，会发现操作员面临的往往是系统故障中未知甚至诡异的行为方式。我们过去的经验帮不上忙，我们只是事后诸葛亮[15]。
其实，笔者认为人工智能存在三种交互模式，即人在环内、人在环外与以上两者相结合。人在环内即控制，这个时候人的主动权较大，从而人们对整个系统产生了操纵感。人在环外即自动，这时候，人的主动权就完全归于机器。第三种情况就是人可以主动/被动进入系统中。目前大多数所谓的无人产品都会有主动模式/自动模式切换。其中被动模式并不可取，这就像之前讨论的那样，无论是时间还是空间上，被动模式对于系统都是不稳定的，很容易造成不必要的事故。
还有一种特殊情况，那就是事故是由设计者／操纵者蓄意操纵的，最典型的就是军事无人机这种武器，军方为了减少己方伤亡，试图以无人机代替有人机进行军事活动。无人机的产生将操作员与责任之间的距离越拉越远，而且随着无人机任务的愈加复杂，幕后操纵者也越来越多，每个人只是完成“事故”的一小部分。所以人们的责任被逐渐淡化，人们对这种“杀戮”变得心安理得。而且很多人也相信，无人机足够智能，与军人相比，能够尽可能减少对无辜平民的伤害。可具有讽刺意义的是，美国的无人机已经夺去了2500至4000人的性命。其中约1000位平民，且有200名儿童[14]。2012年，人权观察在一份报告中强调，完全自主性武器会增加对平民的伤害，不符合人道主义精神[16]。不过，目前对于军事智能武器伦理的研究仍然停留在理论层面，要想在实际军事战争中实践，还需要更加做出更多的努力。
综上可以看出，在一些复杂的人机环境系统中，事故的责任是很难界定的。每个人（机器）都是系统的一部分，完成了系统的一部分功能，但是整体却产生了不可挽回的错误。至于人工智能中人与机器究竟应该以何种方式共处，笔者将在下面一节中给出自己的一些观点。
五、笔者的一些思考
通过以上的讨论与分析，笔者认为，人工智能还远没有伦理的概念（至少是现在），有的只是相应的人对于伦理的概念，是人类将伦理的概念强加在机器身上。在潜意识中，人们总是将机器视之合作的人类，所以赋予机器很多原本不属于它的词汇，如机器智能、机器伦理、机器情感等。在笔者看来，这些词汇本身无可厚非，因为这反映出人们对机器很高的期望，期望其能够像人一样理解他人的想法，并能够与人类进行自然的交互。但是，现在的当务之急，是弄清楚人的伦理中可以进行结构化处理的部分，因为这样下一步才可以让机器学习，形成自己的伦理体系。而且伦理，正如第一部分讨论的，是由伦和理组成的，每一部分都有自己的含义，而“伦”，即人伦，更是人类在长期进化发展中所逐渐形成的，具有很大的文化依赖性。更重要的是，伦理是具有情景性的，在一个情景下的伦理是可以接受的，而换到另一种情景，就变得难以理解，所以，如何解决伦理的跨情景问题，也是需要考虑的问题。
而且值得一提的是，就人机环境交互而言，机指而不仅仅是机器，更不是单纯的计算机，而且还包括机制与机理。而环境不仅仅单指自然环境、社会环境，更要涉及到人的心理环境。单纯的关注某一个方面，总会做到以偏概全。人工智能技术的发展，不仅仅是技术的发展与进步，更加关键的是机制与机理的与时俱进。因为两者的发展是相辅相成的，技术发展过快，而机制并不完善，就会制约技术的发展。现在的人工智能伦理研究就有点这个意味。现在的人类智能的机理尚不清楚，更不要提机器的智能机理了。而且，目前机器大多数关注人的外在环境，即自然环境与社会环境，机器从传感器得到的环境数据来综合分析人所处的外在环境，但是却很难有相应的算法来分析人的内部心理环境，人的心理活动具有意向性，具有动机性，这也是目前机器所不具备的，也是不能理解的。所以对于人工智能的发展而言，机器的发展不仅仅是技术的发展，更是机制上的不断完善。研究出试图理解人的内隐行为的机器，则是进一步的目标。只有达到这个目标，人机环境交互才能达到更高的层次。
六、发展与展望
人工智能伦理研究是人工智能技术发展到一定程度的产物，它既包括人工智能的技术研究，也包括机器与人、机器与环境及人、机、环境之间关系的探索。与很多新兴学科一致，它的历史不长，但发展速度很快。尤其是近些年，依托着深度学习的兴起，以及一些大事件（AlphaGo战胜李世石）的产生，人们对人工智能本身，以及人工智能伦理研究的兴趣陡然上升，对其相关研究与著作也相对增多。但是，可以预期到的是，人工智能技术本身离我们设想的智能程度还相去甚远，且自发的将人的伦理迁移到机器中的想法本身实现难度就极大。而且如果回顾过去的话，人工智能总是在起伏中前进，怎样保证无论是在高峰还是低谷的周期中，政府的资助力度与人们的热情保持在同一水平线，这也是一个很难回避的问题。这些都需要目前的人工智能伦理专家做进一步的研究。
总之，人工智能伦理研究不仅仅要考虑机器技术的高速发展，更要考虑交互主体-人类的思维与认知方式，让机器与人类各司其职，互相促进，这才是人工智能伦理研究的前景与趋势。
参考文献：
[1][法]斯特凡·东希厄,徐寒易译.会做梦的机器人[J].环球科学.2017(4):48-49.
[2]毕彦华.何谓伦理学[M].中央编译出版社,2010.
[3][美]维纳,陈步译.人有人的用处:控制论与社会[M].北京大学出版社,2010.
[4][美]哈里亨德森，侯然译.人工智能-大脑的镜子[M].上海科学技术文献出版社,2011.
[5]M.Anderson,S.Anderson,C.Armen,TowardsMachineEthics:ImplementingTwoAction-BasedEthicalTheories[C].InM.Anderson,S.Anderson,C.Armen(Eds.),MachineEthics:AAAIFallSymposium,TechnicalReportFS-05-06.MenloPark,CA:AAAIPress,2005:1-7.
[6]王绍源,崔文芊.国外机器人伦理学的兴起及其问题域分析[J].未来与发展,2013,(06):48-52.
[7]迟萌.机器人技术的伦理边界机器人技术与应用[J].2009,(03).
[8]江晓原.人权:机器人能够获得吗?--从《机械公敌》想到的问题[N].中华读书报,2004-12-l.
[9]黄建民.我们要给机器人以"人权"吗?读书与评论[J].2009(06):55-58.
[10]姜潘.给机器人做规矩,要赶紧了[N].文汇报,2011-6-7.
[11]唐昊沫,舒心.人工智能与法律问题初探[J].哈尔滨学院学报,2007(01)
[12][美]刘易斯.芒福德,宋俊岭等译.机器的神话[M].北京:中国建筑工业出版社,2009.
[13][美]库兹韦尔,李庆诚,董振华,田源译.奇点降临.北京：机械工业出版社.2011.
[14][美]皮埃罗斯加鲁菲，任莉张建宇译.智能的本质[M].北京:人民邮电出版社,2017.
[15]JamesReason.Humanerror[M].:CambridgeUniversityPress.1990.
[16]杜严勇.关于机器人应用的伦理问题[J].2015,vol5(2):25-34.
摘自《科学与社会》2018.1
李麒｜人工智能伦理规范的初步探讨
原创李麒上海市法学会东方法学收录于话题#上海法学研究379个#核心期刊591个#法学647个#原创首发739个
李麒
北京理工大学珠海学院民商法学院教授
要目
一、前言
二、伦理规范的理论基础
三、人工智能的伦理规范
四、建立伦理监督委员会
结论与建议
2019年5月25日北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所等单位，共同发布《人工智能北京共识》，提出人工智能的研发、使用、治理应该遵循有益于人类命运共同体建构和社会发展的15条原则。
一、前言
人工智能研发应符合伦理的设计方法，尽可能公正，减少系统歧视与偏见，提高系统透明性，增加系统可解释度、可预测性，使系统可追溯、可核查、可问责等。2019年7月，中国国家新一代人工智能管理委员会发布《新一代人工智能管理原则》，提出尊重人的隐私、尊严、自治和重视权利，不应使用人工智能伤害人类。另一方面，人工智能的伦理价值在美国也有广泛的讨论，大型科技公司提出人工智能伙伴关系等概念。2017年谷歌公司放弃与美国国防部续约，原因是美国国防部要求该公司将先进的人工智能技术应用于军事用途。1983年成立的计算机专业人员社会责任组织（ComputerProfessionalforSocialResponsibility,CPSR）及联合国人权观察组织都主张禁止全自动武器的条约，例如自主选择轰炸目标的无人机等。人工智能伦理问题向来受到各界广泛关注，包括联合国发布的《关于机器人伦理的研究报告》、国际标准化组织IEEE发布的《合理伦理设计：利用人工智能和自主系统最大化人类福祉的愿景》；由Hawking、ElonMusk等人推动的人工智能23条准则（或称阿西洛马人工智能原则）；英国剑桥的存在风险研究中心（CSER）、牛津的人类未来研究所（FHI）、美国波士顿的未来生命研究院（FutureofLifeInstitute）。美国麻省理工学院媒体实验室（MITMediaLab）与哈佛大学伯克曼·克莱因互联网与社会研究中心（BerkmanKleinCenterforInternet＆Society）合作推出的耗资2700万美元的AI伦理研究计划；加拿大蒙特利尔大学人工智能伦理小组发布的《负责地发展人工智能的蒙特利尔宣言》；等等。现代社会技术和法律时常处于紧张状态，虽然技术促进新的发明，但法律则趋向保守，基于社会道德或人类恐惧而禁止克隆就是一个例证。有人认为超级智能的发展，会因其优越性而超越人类，进而夺取道德评价的话语权，使人类失去道德尊严的主动权。这虽是对新兴科技发展的普遍忧虑，但法律不应成为科技创新的阻碍，因此2017年7月8日国务院制定《新一代人工智能发展规划》，提出制定促进人工智能发展的法律法规和伦理规范。工信部出台《促进新一代人工智能产业发展三年行动计划（2018—2020）》，教育部出台《高等学校人工智能创新行动计划》，中央全面深化改革委员会第七次会议审议通过《关于促进人工智能和实体经济深度融合的指导意见》。2020年7月27日，国家标准化管理委员会、中央网信办、国家发改委、科技部、工业和信息化部等五部委印发《国家新一代人工智能标准体系建设指南》，要求到2021年，明确人工智能标准化顶层设计，完成安全、伦理等重点标准的预研工作，2023年初步建立人工智能标准体系。上述文件均显示人工智能伦理发展受到高度重视。
以自动驾驶车辆的伦理规范设定为例，若以符合全体社会成员最大利益为原则，则会采取强制的伦理设定（mandatoryethicssetting，简称MES），而排除让每一个司机或乘客都选择个人化的伦理设定（personalethicssetting，简称PES），由于自动车驾驶涉及公共利益，片面尊重工具使用者的自主权，基于人类自利的本质，很可能导致公共安全与道德的双重危险，基于社会共同体的责任与价值利益考虑，强制伦理设定是比较妥适的作法。但是在具体设定算法时，如何避免算法偏见和歧视？若以功利主义为算法基础，为了拯救多数人，仅载有一名乘客的车辆有很大几率会成为事故撞击的目标；若采取最小化伤害原则的道德算法，德国制的自动驾驶车辆是否可能选择日本车为撞击对象，因为一般而言，日本车的防护钢板较薄弱，如何决定类似的伦理规范显然值得讨论。
二、伦理规范的理论基础
2018年世界人工智能大会发布的“上海倡议”提出建立与人工智能创新发展相适应的立法规范、法律体系、政策体系和伦理体系，制定技术设定阶段的法律规范，通过规则设定促进人工智能算法的公正、透明、安全，避免算法歧视，2019年中国国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则—发展负责任的人工智能》特别强调此理念。人工智能的伦理规范非常重要，主要包括为智能机器人预设道德准则、设定人工智能技术研发及应用标准，建立人工智能产品本身的道德指引，以及规制科研人员的伦理规范。科学技术要解决的是“能不能”的实然问题，伦理学要解决的是“该不该”的应然问题，人工智能不仅是单纯的技术问题，也是哲学问题。以下提出几种典型案例的思考方式，部分案例来自1985年美国教授JJ.Thomson提出的电车难题（TheTrolleyProblem）：
典型案例：
案例1：电车难题
假设某辆电车沿着既定路线前行，电车突然发生故障而无法操控，如果电车继续前行会碾毙在既定路线上工作的五位作业员，此时刚好有一位作业员A站立于轨道分转器旁边，目击了现场状况，A如果使用轨道分转器切换路线，可以让电车转入另一条轨道而拯救五位作业员的性命，然而在切换后的轨道上有一位作业员B正在工作，轨道切换后电车会将B碾毙，试问A是否应该作出转换轨道的决定。不选择转换轨道将导致五位作业员死亡，选择转换轨道会导致作业员B死亡，A如果选择后者，法律上是否可以主张紧急避险。
案例2：陆桥上的胖子
突然失去控制的电车持续前行，如果继续前行会碾毙在既定路线上工作的五位作业员，A与完全不知情的C正好走在陆桥上，C体型非常肥胖，如果A突然将C推落桥下，以C作为障碍物则刚好可以让电车停止（题目设定为牺牲C一定会使电车停止），因而救助五位作业员的性命。A是否应该推C下桥？
案例3：自动驾驶车辆的情况
在深不可测的溪谷上有一条非常狭窄细长的陆桥（只能单线双向通行），A搭乘自动驾驶车辆（A并未操作车辆）正在桥上行进，对向开来一辆大巴士（有乘客40人），大巴司机突然失去意识导致该车越过车道线，直接冲向搭乘A的自动驾驶车辆，此时如果A的车辆加速前进稍微擦撞大巴车的侧边，可以保护A的安全，但是大巴车会掉落山谷，车上40人均会死亡；如果A的车辆不加速，直接与大巴士正面相撞，则A死亡，大巴士不会掉落山谷，车上乘客均会获救，A所搭乘的自动驾驶车辆应该加速，还是不应该加速？
案例4：社会评价体系下的自动驾驶车辆
甲为大学教授，具有名校毕业的博士学位，认真工作，乐善好施、义务担任社会服务工作，服务人群曾受政府表扬，人工智能系统赋予的社会评价分数为95分；乙未接受良好教育，无业而四处游荡，曾因盗窃罪在监狱服刑，人工智能系统给予的社会评价分数是20分，某日乙不遵守十字路口交通标志，违规闯红灯穿越马路，甲所搭乘的自动驾驶汽车正准备通过该路口，此时因不明原因汽车刹车失灵，汽车正迅速向乙接近，人工智能系统立即作出判断，无论直接撞击乙或右转撞击路树都可以使车停下来，此时人工智能作出何种选择会符合正义的要求？
伦理规范的哲学理论与案例思考
伦理规范是划定个人行为与社会组织界限的一种方法，西方社会有两种主要的道德理论，一是边沁的功利主义理论，利益最大化作为道德标准，在以效用主义为基础的博弈论在人工智能中经常被用于理解个体与群体的相互作用，为算法的伦理分析提供基础。二是康德的义务道德论，道德动机是人类行为的准则，理性且具有自由意志的人是道德主体，能作出最终决策，人本身就是目的，任何人都不能将他人作为工具，或达成特定目的的方法或手段。问题在于此种绝对律令的观点，如何转换为人工智能的正确规则。温德尔·瓦拉赫、科林·艾伦认为机器人可以根据人类的普遍道德法则作出是非判断，具有理性能力。康德认为自主性是人类自我意识的根本条件，如果机器人可以超越人类控制，这种自主技术性的概念会令人感到不安，因为赋予人工智能自主性，代表人的自主性被替代，主客体的地位将发生变化。可能的解决方法是在人工智能设计之始，将一些伦理规则作为绝对律令，以代码的方式写入人工智能的程序中，例如机器绝对不能攻击人类，特别是老弱妇孺，植入规范性伦理程序就是康德道德律令的代表。
人工智能道德伦理的责任议题，包括人权伦理、责任伦理、道德地位伦理、代际理论、环境理论以及大数据伦理与隐私，以联合国宣言为基础，有人认为应将人类责任与机器人责任伦理的标准同等对待，主要包括正义与团结、相互尊重与合作、信任与容忍、基本人性准则等。建立在亚里士多德道德观念上的人工智能道德理念，是自下而上的理论体系，机器可以自主学习，而具有类似神经网络链接机制的机器人就有可能具备道德判断能力。
如果采取边沁的功利主义，应当追求“最大多数人的最大幸福”，案例1及案例2都会作出拯救5人的生命利益大于牺牲1人的生命利益的决定。案例3自动驾驶车辆不加速与大巴士直接相撞，才能拯救车上40位乘客的生命，A的生存机会势必被选择放弃，人工智能设计师必须预先设定“牺牲自驾车乘客”的程序模式，在这种情况下，是否还有人选择使用自动驾驶车辆？如果采取康德的道义责任论，无论在任何情况下，人的生命都不可以因为特定目的而被利用，则案例1及案例2都会作出不救助5个作业员的决定，因为生命的价值没有数量或高低的区别。在案例3的情况由于生命价值相等，自动车加速与否都会造成生命损失，程序设计师是否应该优先考虑使用者的安全，保护使用者（消费者）安全是否为产品制造或设计者的法律义务？
其次，针对案例4，若采取功利主义，AI的设计者应该会选择让汽车直接撞击乙，因为甲的社会评价分数90分远高于乙的20分；如果采取康德的道义责任论，人始终是目的，而不能成为达成特定目的的方法或手段，所以不能把人单纯当作客体对待，由于每一个人的生命价值相同，AI的设计者应当会让汽车右转撞树而导致甲死亡或受伤。由上可知，AI对于甲、乙生死的决定取决于工程师对于算法的设计。无论AI选择直接撞击或转向都会导致对人工智能数理逻辑算法的疑虑，直接撞击会造成阶级对立，加剧社会精英与普通民众的紧张关系；转向则会使无人驾驶汽车失去用户，因为每一次驾驶都类似俄罗斯赌盘，搭乘者可能会因突发事件而被牺牲，个人没有过错却必须成为被选择牺牲的对象。
案例3及案例4的自动驾驶车辆程序设计者必须面对一项难题，应当对人工智能输入何种价值选择标准，在更复杂的情形下，例如一方车辆的乘客只有5年的余命，另一方乘客有20年的余命，哪一辆车的安全应当优先考虑（事实设定为两辆车可以自动交换乘客信息）？又如果两车乘客的余命完全相同时，一方是高额纳税人，另一方是欠税大户，自动驾驶车辆的程序参数（parameter）又应该如何设计？
另一种观点认为，根据哲学上的双重效果原则（Doctrineofdoubleeffect），行为人虽然应该对于自己意图决定所产生的损害结果负责，但即使发生损害且能预见结果的发生，若损害不是根据有害意图的行动所造成，就不应该追究行为人的责任（前提是此行为是人道的、或至少是道德中立的、或不会为自己带来直接利益）。案例1中A转动换轨器时虽然预见B的死亡，但A的意图是为了拯救5个作业员的生命，因此B的死亡只是附随发生的结果；案例2中A的直接意图是将C推落桥下，C的死亡附随产生救助5名作业员的结果，根据双重效果原则，案例1可以被正当化，但案例2则不能被正当化。
人工智能的伦理规范必须保留人类的基本价值观。一般而言，人工智能采取的是工具理性表现方式，人类行为则具有价值理性的思维，将此种价值理性转化为精确的算法设计十分困难，而且不同的文化习俗、宗教信仰、社会公德自有不同的价值判断标准，人工智能面对价值体系如何选定价值体系，其本身虽是一个难点，但是在算法中嵌入公平、正义、良善等价值观的追求应该是正确的方向。具体的方法是将人的道德理性融入算法程序，研发“道德代码”以明确人工智能的道德主体责任，道德代码指程序员除了按科学方式编码外，同时在代码中融入道德感情，使编码在执行程序时具有道德价值判断功能，亦即编码本身应具备道德功能。人工智能的道德属性源于人类自身的道德认识，这种道德属性需要专家的技术设计，所以健全程序设计者的伦理体系与道德观是根本的问题。
三、人工智能的伦理规范
域外的人工智能伦理规范
1.欧洲
欧洲议会的法务委员会（JURLCommittee）于2015年1月召开关于机器人与AI进化的法律问题工作会议，同时设立专责工作小组，该委员会于2017年1月提出“关于机器人民事法规则的欧洲委员会建议”报告，认为欧洲应该设置管理机器人与伦理规则的专责机构并建立适用于欧洲全境的管理规则，长期而言，未来对于自律型的机器人可以讨论赋予电子人格的可能性。本报告提出广泛受到重视的五项伦理原则，内容包括自由、隐私、人性尊严、自己决定权等，对于机器人运用所造成的影响实施评估；人们拒绝使用人工智能，但仍会因人工智能对生活产生实质影响时，应当对于人工智能决策的各种可能性，寻求理论依据；AI的算法必须能还原为人类可以理解的型态或方式；强人工智能的逻辑程序决定程序，必须全程予以记录备案，不能存有黑箱的现象，确保“透明性原则”的落实。同时在附录部分（Annex），提出对人工智能工程师的伦理行为准则（CodeofEthicalConductforRoboticsEngineers），这个准则属于建议、指导的性质，没有强制性，对于人工智能工程师的具体行动方针包括
（1）善行（Beneficence）：人工智能的行为必须符合人类利益。
（2）无害（Non-maleficence）：无论在任何情况下，机器人都不能伤害人类。
（3）自主性（Autonomy）：使用机器人所提供的人类信息，不能以强制方式取得，必须根据人类的自由意志作成决定。
（4）正义（Justice）：特别是居家治疗，使用照护式机器人时应当给予公正的利益分配。
2017年6月德国交通部伦理委员会公布《自动和联网驾驶》报告，提出自动车驾驶的20条伦理规则，其核心内容包括保护个人优先于其他一切功利主义的考虑；当危险情况不能避免时，保护人类生命优先于其他法律利益，为了避免人员伤亡，在编程上允许对给动物或者财产造成损害；道德困境下的决策依赖于现实的具体情况，无法清楚地给予明确标准；处于无法避免事故发生的境况下，禁止以年龄、性别、生理或心理状况等人身特征进行歧视性决策，不得牺牲无关的他人。2016年4月德国政府通过法律，将“驾驶员”定义扩大到能够完全控制车辆的自动人工智能系统，同时提高无人驾驶的保险费与赔偿费。
为了避免算法歧视，我们应当有合理的AI设计，可以将人类社会的法律、道德等规范和价值嵌入AI系统，根据国际标准化组织IEEE提议，首先是规范和价值的发现，确定AI系统应当遵守哪些规范，在价值相互冲突时又应该如何抉择；其次是法律或道德规范能否转换为计算器代码写入AI系统，采取方法是自上而下地将规则写入系统，要求人工智能遵守规则，还是自下而上由机器自我学习价值与伦理规则，目前尚无定论；最后是对人工智能采取的价值和规范进行评估，从三方面加以评估，包括使用者评估、主管部门评估和行业组织评估。
2.日本
日本政府于2016年5月30日设置“关于人工智能与人类社会恳谈会”，经过6次讨论，于2017年3月24日提出正式报告，该报告提出人工智能的伦理论点：（1）随着人工智能技术不断进步，人工智能技术机器与人类关系可能会逐渐产生变化，对于未来新关系所形成伦理观的内容应事先设想规划；（2）应用人工智能技术所产生的服务，在作成决策的评价标准与处理优先次序时，仍会受到人类心智或行动的控制，此类决策如果受某些特定的人类感情、情绪或信念的制约，就会令一般人产生不安全感，特别是在我们没有察觉，一切决定都受程序操控的状况下，伦理规范的讨论显得更为重要；（3）运用人工智能技术会扩展人类在时空或身体领域的范围，但是应该注意人工智能与人类能力与情感方面的相互作用，适度加以调适；（4）对于与人工智能技术有关的行为或创新价值，应给予适当评价，而这种价值观要考虑社会接受程度，尽可能的采取多元化的观点。2017年7月日本总务省情报通信研究所在《2017报告书—关于推动AI网络化国际议题的讨论》报告书中提出《AI发展纲领》，提出伦理原则的内容是“开发者应当尊重人性尊严与个人自主，在开发与人类脑部或身体相连的AI系统时，应注意有关生命伦理的争议，并予以特别慎重的考虑。开发者参照技术的特性在可能的范围内，应努力排除包含AI系统学习数据在内，所形成的一切偏见和其他不当差别对待的措施。开发者应遵守国际人权法、国际人道法，随时注意AI系统是否有不符合人类价值的行为”。
3.美国
2016年5月美国奥巴马政府在白宫召开AI所带来利益风险的工作会议，会议结论，提出《对未来人工智能的准备》（PreparingfortheFutureofArtificialIntelligence），该报告提出面对未来人工智能的23点事项，其中也涉及AI伦理问题，所有的事项都可以提供美国联邦政府及各界参考，第16点是“联邦政府机关应当考虑如何确保人工智能的有效性与公平性”，第17点强调人工智能系统透明性的重要性。第18点要求在各级学校的重要课程中，例如人工智能、机器学习、计算器与数据科学等的科目，在安全性与隐私方面设计出与伦理规范有关的主题。第23点提及对全自动或半自动武器的相关政策要符合国际人道法的规定。报告结论认为随着人工智能的持续进步，如何确保人工智能的透明性与说明可能性显得十分重要，人工智能的理解过程与人类理性的思维间如何取得平衡也应受到重视。
4.民间组织
（1）电器和电子工程师协会IEEE（TheInstituteofElectricalandElectronicsEngineers）
IEEE是总部设在美国的电器工学、电子工学技术的学会，该学会是世界最大的技术者研究团体。IEEE于2016年4月通过《伦理因素的自动化系统设定的全球化倡议》（TheGlobalInitiativeforEthicalConsiderationsintheDesignofAutonomousSystems），认为在谋求伦理、法律和社会目标一致性的前提下，确有必要对于AI系统的设计方法予以研究，因而提出此项计划。2016年12月接着公布第1版《伦理指引—以人类福为的优先人工智能与自动系统》（EthicallyAlignedDesign-AVisionforPrioritizingHumanWellbeingwithArtificialintelligenceandautonomousSystem,Vision1forPublicDiscussion），〔2018年2月整理了来自全世界包含美国、欧洲、中南美洲在内的官方与民间专家约250人的意见后，公布了该指引的第2版。该版本共263页，大致分为下列主题：（1）一般原则；（2）自律智能系统价值观的内容；（3）伦理研究和设计的导入方法；（4）一般人工智能(AGI)与超人工智能（ASI）的安全性；（5）取得与使用个人信息的限制；（6）自主兵器系统的再规制；（7）经济与人道的问题；（8）法律；（9）人工智能对人类感情与情绪的影响；（10）政策；（11）自主智能系统的古典理论；（12）信息通讯技术（ICT）的复合实现（MR）；（13）人类幸福（自主智能系统的应有目标）。作为总论部分的“一般原则”包括（1）如何确保AI不会侵害人权（2）就社会繁荣度的指标而言，AI可以带来人类的幸福？（3）如何确认AI设计者、制造者、所有者与运用者的责任？（4）如何确保AI的透明度？（5）如何获得利益最大、风险最小的AI技术。各论部分对于现有指引内容过于抽象提出检讨，对于指引内容尽可能的予以明确化，例如对于“自律智能系统价值观的内容”的主题，其价值观内容固然应当符合社会的期待，不能违反法律规定与现存文化，但就规范与价值观而言，每个人的举止行为、语言、文化、艺术品味等各有自己的主观判断，自主智能AI系统应当如何设定学习方式就成为难点。不同形式的自主智能系统应如何搭配特定的规范或价值观，事实上也难以决定。首先，只能从特定群体（community）着手，针对符合特定工作（task）的自主智能人工系统，尝试寻求出可以遵循的规范内容。对于“自主智能系统的古典理论”的主题，AI的开发的伦理议题，不能仅围绕着西方伦理（功利主义、义务论、道德伦理学等）讨论，对佛教、儒教、日本神道等其他领域也应当加以考虑。
（2）人工智能百年研究（OneHundredYearStudyonArtificialIntelligence）
该组织由斯坦福大学毕业生所创立，以今后100年AI长期发展为研究目标，判断人工智能对于社会有何种影响，每五年提出观察、分析报告的一项研究计划，其成果是2016年9月发表的《ArtificialIn-telligenceandLifein2030》研究报告，报告分为交通、居家服务机器人、健康照护、教育、低资源消耗共同体的实现、公共安全和保障、职场与雇用、娱乐等8个部分，从长期展望加以分析，特别是交通部分的自动驾驶汽车、无人机运用部分有较多的描述，在法政策方面则主要讨论隐私权、创新政策、民事责任、刑事责任、代理、资格、劳动、税、政治等问题。
（3）人工智能合作组织（PartnershiponArtificialIntelligencetoBenefitPeopleandSociety,Partner-shiponAI）
PartnershiponAI是2016年9月由Amazon、Google、DeepMind（Google）、Facebook、IBM、Microsoft等成员所设立，2017年Apple、OpenAI等新成员加入，日本Sony也希望加入，这是一个发展人工智能的世界企业联合组织。该组织提出主题支柱（ThematicPillars）重点有：①重视AI安全性（Safty-CriticalAI）；②公平、透明而具可说明能性的AI（Fair,Transparent,andAccountable）；③人们与AI系统的协调（Collab-orationBetweenPeopleandAISystems）；④AI、劳动与经济（AILaborandtheEconomy）；⑤AI社会的影响（SocialandSocietalInfluencesofAI）；⑥AI和社会利益（AIandSocialGood）；⑦特别提议（SpecialInitiatives）。针对AI研究与技术的信赖、国际习惯和尊重人权、说明可能性等重要问题，该组织提出8大信条（Tenets）供各界参考。
（4）生命未来研究机构（FutureLifeInstitute）
该组织简称FLI，2015年由Skype共同创始人JaanTallinn等人所创设，该组织的咨询委员会由太空探索技术公司SpaceX社的埃隆·马斯克（ElonMusk）、宇宙物理学家史蒂芬·霍金（StephenHawking）、演员摩根·费理曼（MorganFreeman）等14位人士组成。2017年1月在美国加州阿西洛马（Asilomar）以“人工智能对人类有何利益”为主题，同年2月公开发表阿西洛马AI原则（AsilomarAIPrinciples），该原则有23条，其中与伦理价值观有关的课题，整理如下：
四、建立伦理监督委员会
为处理人工智能伦理问题，德国成立数据伦理委员会，个别企业也设立道德指引的规则，鉴于人工智能使用数字化的风险，由国家制定法律作为规范固然重要。但企业自主规制与建立伦理委员会也是不可欠缺的机制，欧盟委员会欧洲科学与新技术伦理小组，提出尊重人性、自主性等伦理清单。本文介绍日本人工智能的伦理监督委员会，以供参考。
日本人工智能学会成立于1986年，学会的伦理委员会设立于2014年。2017年2月学会公布《人工智能学会伦理指针》，整理其具体内容提供参考：
结论与建议
探讨人工智能道德理论的法律论文数量很多，但能提出具体解决方案的有限，甚至有人认为人工智能设计者、使用者或法律规定的道德选择不在其讨论机器人道德范围内。本文认为这是一个必须面对的难题，根据“理论—规则”驱动进路，将特定群体认可的价值观和道德标准程序化为道德代码，嵌入智能系统，内置道德决策场景的指导性抉择标准。理论上伊曼纽尔·康德（ImmanuelKant）的道义论、约翰·密尔（JohnMill）的功利主义和约翰·罗尔斯（JohnRawls）的正义论都可以成为参考选项。
人类自由意志的问题，在哲学上争论甚久，波蓝尼悖论（Polany’sParadox）认为，“我们知道的可能比我们能说出来的更多，如同司机的技能不可能完全用驾校的驾驶汽车理论来替代”。人工智能以海量数据信息为基础，可以按照既定算法进行预测，但人类拥有自由意志，在面对突发状况时也许会采取出人意料的决策，因为人类大脑掌握的能力高于既定的知识，可以说人类的思维存在着某种不确定的点，人们不是按照既定程序做决策，而是根据自由意志下判断。否定人类有自由意志的观点则认为人类的所有感受没有所谓“自由意志”，一切只是哺乳动物及鸟类拥有的生化机制，用来快速运算生存和繁殖的几率，直观的感受其实只是一套生化演算的结果。无论采取自由意志或生化演算的观点，人工智能的设计者都应当在算法设计阶段做好价值嵌入的程序，融入包括绿色、伦理、守法、自由、关爱在内的“共同善”的价值。
本文前述案例所提及的复杂问题，人类本身至今亦未能有一致的“正确”判断标准，如何期待程序设计者能够为人工智能嵌入一套具备普世价值的判断标准？马克思·韦伯提出诸神之争的本质是现代社会中价值观念之间的冲突，道德规范属于“应然”领域的价值判断，科学无法解决价值判断问题，沟通协调与坦然面对是理智成熟的解决方式，此部分仍有待人类共同努力。所以现阶段人工智能伦理规范多集中于外在规制层面，强调多元伦理原则，至于伦理规范的实质内容，或许可从人本主义为思考起点，以人性尊严作为人工智能立法的价值基础，以人的基本安全为底线，建立人工智能和机器人应用的基本伦理架构，作为人工智能规范政策的最高指导原则。在法制层面制定人工智能发展法，授权人工智能专门监管机构，建立全流程监管体系，成立“数据伦理委员会”，强化数据信息与隐私权保护，也是一个可行的方案。
2017年7月8日国务院制定的《新一代人工智能发展规划》强调采取三步走的战略目标：到2020年，部分领域的人工智能伦理规范和政策法规初步建立；到2025年，初步建立人工智能法律规范、伦理规范和政策体系；2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。在技术层面，国家标准化管理委员会于2018年1月成立国家人工智能标准化总体组，已发布《人工智能伦理风险分析报告》，目前正研究人工智能术语、人工智能伦理风险评估等标准。2019年我国亦发布《人工智能北京共识》《新一代人工智能管理原则》等重要文件，本文建议持续参考国内外伦理规范资料，设计政府部门的全国性监管方式、制定人工智能道德准则、成立各级人工智能伦理委员会，从而使得我国的人工智能规范更加完善。
原标题：《李麒｜人工智能伦理规范的初步探讨》
夏少昂：人工智能伦理问题的时代镜像与调适
人工智能技术自一出现，便伴随着伦理争议和道德评判。正因为人工智能发展前景的不确定性，及其可能导致的伦理后果难以预测，人们对人工智能问题争议不断。作为一种具有颠覆传统、重塑未来强大力量的技术，人工智能所带来的伦理问题已引起学界的广泛关注。如何准确把脉人工智能的时代镜像，透视人工智能发展的伦理风险，构建和谐共生的人机主体间性伦理新形态，是摆在我们面前亟须解决的一个重大时代课题。
人工智能时代的伦理问题
人工智能正处于蓬勃发展的大好机遇期，人类社会吁求高阶科学技术力量的伦理支撑。一方面，人工智能的发展离不开伦理反思的支撑作用；另一方面，人工智能又被称为伦理学科发展的新引擎。不断出现的人工智能伦理新问题，对于伦理学的发展提出了新的更高要求，丰富和拓展了伦理学研究的领域，这反过来又成为助力人工智能发展的重要精神因素。人工智能是一种全新的技术形态，通过语义网络、知识图谱、大数据及云计算等，极大地推动了社会生产力的迅猛发展，改变了人类生产生活方式，拓展了人类生存的意义与价值。依托于算法的人工智能技术，通过一系列的运算、反馈和调整，展现了人工智能的智能程度。以围棋的“人机大战”为例，“阿尔法狗”（AlphaGo）以其强大的计算能力战胜人类顶尖棋手李世石，并且通过“深度学习”的方法不断促进自身进步，完成了在部分领域对人类智能的超越。这种超越是人类利用科技力量延伸自身能力，以及追求提升自身价值的体现。另外，在日常生产生活领域，人工智能在增强人类能力的同时，也日益凸显出其对于人类自身解放的重要作用。
机遇与挑战并存，人工智能发展在取得巨大成就的同时，也面临着严峻的伦理挑战。从人与技术的关系来说，人工智能在一定程度上威胁着人的主体性。控制论之父维纳就曾预言：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。”人工智能与一般人造物存在巨大不同，它不是单纯延伸人的体力的机械物。人工智能模拟的对象是人的大脑和思维方式。而人作为思维主体，是人之为人的本质所在。基于人工智能的特殊性，许多人担心一旦人工智能发展到某个临界点，如诞生强人工智能，它就可能解构人的主体地位，彻底压倒人类。从技术与社会的关系来看，如何有效控制技术力量的消极作用，是社会发展过程中日益凸显的难题。人工智能在给人类带来巨大利益的同时,也产生了诸多社会性问题。例如，企业可以借助人工智能收集大量用户数据，并基于此了解目标对象的偏好和行为倾向，这造成了巨大的权利不对称。再如，人工智能在推动专业化分工和创造新工作机会之余，会使得那些没有能力迈过技术性壁垒的人成为“无用阶级”。又如，在一些情境中，人工智能导致法律责任的归属成为困难。
伦理风险与挑战的学理透视
人工智能本质上是人类智慧和智能高度聚合的表现形式，是人类价值和意义在技术层面的展开与呈现。它所面临的伦理困境就是当前人类社会面临的伦理风险。首先，从人工智能的运行场域来看，伦理情境发生了深刻变革。越来越强大的人工智能的出现，催生了跨人类主义的伦理学问题，传统的伦理学旨趣与伦理情境已然发生重大变化。一是在创制人工智能的过程中，多元伦理理论并没有形成统一共识，从而在设计起点难以嵌入有效伦理规范，这极有可能造成对人工智能约束的失范。二是人工智能技术的强化，不仅逾越了自然的限制，而且很有可能逾越人的限制，进而成为主宰人、支配人、控制人的技术形式，将无法回应人类社会发展的伦理诉求。三是道德伦理编码嵌入人工智能的规范性结构时，既存在正当性辩护的困境，也存在法理性的质疑，这是对于传统伦理提出的新挑战。其次，从人类的伦理认知角度来看，正确认识人工智能的伦理地位，积极避免人工智能带来的伦理失范，是推进人工智能技术的前提。人工智能不仅仅是单纯的工具性“智能机器”，作为对人类智能的模仿或者模拟，其目标是成长为高阶智能形态，这要求必须在其中嵌入道德因子。随着人工智能的工具性力量日益增强，越应强化相关规范性价值，对技术能力的价值规范和伦理规范的强调，是进一步提升人工智能化水平的重要保障。最后，从人机关系的伦理模式来看，当前以人为主导的人机关系模式，具有单纯的规范性取向，即人类已有道德能力和水平决定了人工智能的道德能力建构水平。如果人类在道德问题的判别方面具有不确定性，再加之人类个体道德经验的有限性，那么人工智能造成的伦理冲突将表现得更加突出。
我们当前所面临的人工智能伦理风险，一方面是传统伦理情境、伦理形态面临着总体性困境，人工智能不断解构传统伦理，并在日渐紧张的伦理冲突中提出愈加迫切和急需解决的伦理问题；另一方面是人与自身造物之间关系模式面临解体与重塑，人类自身的伦理禀赋与人工智能的伦理地位之间存在着一定矛盾，特别是在技术力量全面突破人类智慧的时候，如果没有有效的伦理建构和调适，人类社会将会在“技术决定论”中迷失伦理和道德责任。
建构和谐共生的伦理关系
在推动人工智能技术发展水平的过程中，我们不仅在创制“提高人类劳作效率”的机器，也在创制“提升人类思维能力”的机器，更是在创制“契合人类伦理责任”的机器。为此，我们应顺应时代对人工智能发展的新要求，积极进行伦理调适。
其一，明确目标，厘清人机责任。人工智能的伦理调适，其终极目标在于增进人类利益，促进人类整体发展。只有将人工智能发展置于人类发展的历史高度，才有助于构建“人—机命运共同体”。一切都从人类利益出发，是人工智能伦理规范的最根本要求。所有创制人工智能的人类个体，必须把全人类共同利益放在第一位，并且在人机合作中重新定义人类利益，使其更加符合时代发展的新要求。与此同时，我们还必须厘清人机责任，这是责任伦理的重要体现。人工智能能够根据数据运算提供最优化行动方案，人类则会因为情感等直观因素作出情景类选择，这种行为模式生成途径的不同，决定了两者承担的责任伦理也必然存在差异。对于人工智能来说，其创制者、使用者、消费者，基于不同的情境承担着不同的责任伦理，这就要求我们从全过程角度重新诠释“人—机命运共同体”。
其二，制定原则，体现人文价值。人工智能作为一种技术发展到现在，其工具性一面有了长足的进步和体现。而在人工智能伦理挑战日益凸显的今天，必须在人工智能发展过程中厚植深厚人文价值尺度。首先，必须遵循开放合作原则。鼓励跨学科、跨领域、跨国界的交流合作，推动不同组织和部门及社会公众在人工智能发展与治理中的协调互动。开展国际交流对话与合作，在充分尊重各国人工智能治理原则的前提下，推动形成具有广泛共识的国际人工智能治理框架和标准规范。其次，必须谨守伦理底线。人工智能发展在很多领域事实上正不断突破界限、挑战伦理底线。在涉及伦理道德根本问题，如维护公平正义、保护隐私等时，必须谨慎对待人工智能越界可能带来的严重后果，该坚守住的底线一定要守住，该厘清的界限一定要厘清。最后，必须体现人的目的性。人工智能系统被设计和使用的全过程，始终都应与人类尊严、权利、自由和文化多样性理想一致。人工智能创造的繁荣局面，应被广泛地共享，惠及全人类。
其三，重构伦理形态，协同主体关系。传统伦理形态面临着时代性重构，人类思维和道德情境都在技术社会中被重新认识和改造，场域的深刻变化要求我们重构当代伦理形态。具体而言，重构人工智能时代伦理形态的核心在于构建人机协同合作新模式，这是基于合作化道德准则做出的化解伦理风险、重塑伦理意蕴的理性选择。通过自主学习和深度学习，引导人工智能在人机共生的基础上不断升级，进而提高道德责任能力。通过人工智能在相关伦理问题上的反馈结果，人类自身要提升理性反省和学习能力，从对人工智能道德的单向度要求，转向追求达成人机交互主体间的道德共识。人机之间的相互学习和伦理共鉴，能够不断丰富人机关系的时代内涵，在伦理调适中不断变革传统伦理形态，构建出主体间性的伦理新形态，最终实现人机和谐共生。（作者：夏少昂南京大学社会学院）