中国社会科学杂志社
人工智能技术的迅猛发展及其在社会各领域的广泛应用，带来了一系列风险挑战。如何对人工智能伦理风险进行道德治理，成为人们不得不认真思考的重要问题。按照传统责任理论，由某项技术所引发的道德责任须根据过失的大小分配给该技术的设计师、制造商、使用者、监管者等人类主体。但由于人工智能具有显著的自动化特征，如果将其排除在道德责任之外，可能会造成“责任空场”。因此，建立完善的人工智能道德治理体系，必须破解该技术在道德责任归属时面临的难题。
有限责任
人工智能责任归属的第一个难题是人工智能是否有资格成为某一事件（或后果）负责任的行为者，而不只是由人类操控的技术工具。这需要回答人工智能是否具备就承担责任而言的最低限度的道德认知能力和道德自主性。人工智能是用计算机来模拟和实现的“类人智能”。它将外部环境信息转换为输入数据，并通过从数据中生成的特征量对输入数据进行处理，实现数据输出。人工智能的输入和输出过程，可以理解为它感知外部环境信息和根据感知信息而采取特定行动的过程。人工智能的行为选择是基于对外部环境的判断所作出的能动反应。相较而言，传统计算机程序根据设计好的函数完成数据的输入与输出，其对外部环境的反应是被动的。此外，人工智能还可以进一步插入道德算法，将人类对道德重要性的理解转译为人工智能信息处理和决策的逻辑规则，使其从前瞻性意义上遵守社会道德要求，作出负责任的行为决策。
人工智能的特殊性在于其独特的学习算法。通过多层处理，低层次的特征表示转化为高层次的特征表示，使人工智能具备了完成复杂任务的能力，可以模仿特定的人类行为。例如，AlphaGo通过神经网络的深度学习和反复自我博弈的强化学习，不仅提高了其在围棋博弈中的预测能力，而且还发现新的游戏规则，走出了新策略。这里，学习算法是由人类设计师预先规定的，但AlphaGo通过机器学习而作出的行为决策却不是人类设计师决定的。人工智能具备了确定但有限的自主性、交互性及行动能力，可以在特定环境中独立作出行为决策，故可对其进行道德归责。而承认人工智能可在最低限度上进行责任归属，就肯定了其在道德治理体系中有限的能动地位。
非意图责任
第二个难题是人工智能遵循数学、物理学等自然定律，缺乏“能够承担责任的感觉”。对责任的主观感受首先表现为行为者的主观意图，即行为者对行为的意义的认识，希望或想要以某种方式行动的态度。尽管主观意图确实影响了人们对行为者进行道德谴责或惩罚的力度，但它并非责任归属的必要条件。从道德实践上看，主观意图作为行为者的内在状态，很难对其作出准确评价。而且，人们进行责任归属的目的在于，通过对损害性后果的回溯性评价，来确定导致该后果的行为者原因，不论行为者是否有主观意图。德国学者奥特弗利德·赫费以俄狄浦斯为例，说明这种无过错责任在史前社会普遍存在：责任是客观的，即便行为者不存在任何主观过错，也需要承担道德责任。按照客观性原则对人工智能进行责任归属，主要考查损害性后果以及行为与后果之间的因果关系即可，不必再关注行为者的主观意图。
对责任的主观感受还表现为行为者因自己的行为而产生的自责、懊悔等反应性态度，因而承认自己本来可以按照其他方式而行动。人工智能缺乏感受性，很难想象它会产生任何形式的痛苦或内疚，那么，对人工智能进行责任归属并实施道德惩罚是否还有意义？就反应性态度而言，他人的反应性态度而非行为者的自我反应性态度才是责任归属的动力。他人的责备和怨恨不仅是他人对某一事件（或后果）所作出的价值评价，也是在评价基础上对行为者所作出的反应。责备和怨恨允许行为者提出免于被责备的理由。但与此同时，如果行为者与某一事件（或后果）的因果责任极其显著，引发他人强烈的责备和怨恨反应时，他人将拒绝人工智能以技术作为其免责理由。就道德惩罚而言，惩罚作为“对过去错误的一种自然报复”，在现代社会逐渐丧失其道德正当性。道德责任并不必然要求对行为者进行道德惩罚，而是要求行为者正视、改正或补偿自己的道德过错，同时尽量避免发生类似的道德过错。就此而言，要求人工智能承担道德责任是可行的。
共同责任
第三个难题是对人工智能进行责任归属，是否会削弱人类的道德责任或威胁人类的责任主体地位。答案是否定的。对人工智能的正确归责有助于明确人类与人工智能的责任边界，从而强化人类的道德责任。人类设计师、制造商、使用者等参与了人工智能的理论创新、技术研发、生产制造、实践应用等环节，相应地承担着内在知识的责任、科学实验的责任以及将科学付诸实践的责任。这些多元主体在该技术设计—生产—应用链条上分工合作，由此发展出一条责任链：没有哪个单独环节承担单独的责任，每个环节都是责任的一部分，而这部分责任又不得不与这个环节对整个行为所承担的责任相联系。正如赫费所言，谁为别人能够做这件事创造了一些前提条件，他就要为这件事负有共同责任。相反，如果他们没有看到这种关系，或者不能看到这种关系，就会产生责任归属的要求，应该为此设置能够监督责任履行的机构。该机构对人类设计师、制造商和使用者的履责行为进行监督和管理。人类行为者不仅不能免除道德责任，还需承担起相应的赔偿或补偿责任。
在道德实践中，人类行为者将一部分道德授权给人工智能，如允许智能搜索引擎对敏感词进行筛查并屏蔽等。授权行为意味着一部分道德资本由人类行为者转移给人工智能，使后者代替人类行为者履行一定的社会职责。对人工智能的道德授权是否意味着道德责任的授权？这取决于授权是对道德行为本身的授权还是对道德行为坐标（即只为人类道德决策提供反馈信息）的授权。对道德行为的授权，意味着道德上的善恶及责任在人工智能与人类所组成的多智能体系统中分布。此时，人工智能替代人类行为者参与到现实的社会分工之中，成为社会系统的重要组成部分，因而，需要承担由社会分配给该职责的道德责任，即分布式道德责任。对道德行为坐标的授权，仍将人类作为道德责任的中心并通过人工智能实现人类的道德意图，人工智能仅需承担扩展式道德责任。不论分布式还是扩展式道德责任，都没有免除人类在道德治理中的主体地位。
总之，人工智能道德治理的关键在于立足一种新的开放性责任理论对人工智能进行责任归属。首先，人工智能的道德责任是无过错责任。人工智能责任归属的目的是依据客观性原则对道德行为及其后果进行正确归因。特别是当多行为主体共同参与某一行为决策时，正确归因有助于及时纠正错误。其次，人工智能能够且仅能承担与其智能水平和自治能力相适应的道德责任。当前广泛应用的弱人工智能的道德责任与其具备从大数据中自行提取特征量的能力密切相关。对其责任归属不能整齐划一，需要根据其自动化等级分级对待。超出其能力范围的道德责任仍需由人类行为者承担。再次，人工智能的责任归属要求对人工智能算法进行回溯性实验直至找到算法缺陷或程序漏洞。人工智能承担责任的方式包括优化算法、程序升级、暂停或永久停止使用。相应的补偿或赔偿责任也需由人类行为者承担。最后，人类设计师应监督和激励人工智能不断积累道德经验，将道德经验转化为道德算法或新的特征量，尽量减少未经预料的道德情形和两难困境。在计算机领域，通过程序升级修正漏洞的情形很常见，这也要求对人工智能的道德错误进行合理认识和总结。
（本文系国家社科基金一般项目“人工智能的责任伦理研究”（19BZX109）阶段性成果）
（作者单位：宁波大学马克思主义学院）
人工智能伦理问题的现状分析与对策
中国网/中国发展门户网讯 人工智能（AI）是第四次产业革命中的核心技术，得到了世界的高度重视。我国也围绕人工智能技术制定了一系列的发展规划和战略，大力推动了我国人工智能领域的发展。然而，人工智能技术在为经济发展与社会进步带来重大发展机遇的同时，也为伦理规范和社会法治带来了深刻挑战。2017年，国务院印发的《新一代人工智能发展规划》提出“分三步走”的战略目标，掀起了人工智能新热潮，并明确提出要“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”。2018年，习近平总书记在主持中共中央政治局就人工智能发展现状和趋势举行的集体学习时强调，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。2019年，我国新一代人工智能发展规划推进办公室专门成立了新一代人工智能治理专业委员会，全面负责开展人工智能治理方面政策体系、法律法规和伦理规范研究和工作推进。《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》中专门强调要“探索建立无人驾驶、在线医疗、金融科技、智能配送等监管框架，完善相关法律法规和伦理审查规则”。这些均体现了我国对人工智能伦理及其治理的密切关注程度和积极推进决心，同时也突出了这一问题的重要性。
当前人工智能伦理问题
伦理是处理人与人之间关系、人与社会之间关系的道理和秩序规范。人类历史上，重大的科技发展往往带来生产力、生产关系及上层建筑的显著变化，成为划分时代的一项重要标准，也带来对社会伦理的深刻反思。人类社会于20世纪中后期进入信息时代后，信息技术伦理逐渐引起了广泛关注和研究，包括个人信息泄露、信息鸿沟、信息茧房、新型权力结构规制不足等。信息技术的高速变革发展，使得人类社会迅速迈向智能时代，其突出表现在带有认知、预测和决策功能的人工智能算法被日益广泛地应用在社会各个场景之中；前沿信息技术的综合运用，正逐渐发展形成一个万物可互联、万物可计算的新型硬件和数据资源网络，能够提供海量多源异构数据供人工智能算法分析处理；人工智能算法可直接控制物理设备，亦可为个人决策、群体决策乃至国家决策提供辅助支撑；人工智能可以运用于智慧家居、智慧交通、智慧医疗、智慧工厂、智慧农业、智慧金融等众多场景，还可能被用于武器和军事之中。然而，迈向智能时代的过程如此迅速，使得我们在传统的信息技术伦理秩序尚未建立完成的情况下，又迫切需要应对更加富有挑战性的人工智能伦理问题，积极构建智能社会的秩序。
计算机伦理学创始人 Moore将伦理智能体分为4类：伦理影响智能体（对社会和环境产生伦理影响）；隐式伦理智能体（通过特定软硬件内置安全等隐含的伦理设计）；显示伦理智能体（能根据情势的变化及其对伦理规范的理解采取合理行动）；完全伦理智能体（像人一样具有自由意志并能对各种情况做出伦理决策）。当前人工智能发展尚处在弱人工智能阶段，但也对社会和环境产生了一定的伦理影响。人们正在探索为人工智能内置伦理规则，以及通过伦理推理等使人工智能技术的实现中也包含有对伦理规则的理解。近年来，越来越多的人呼吁要赋予人工智能机器一定的道德主体地位，但机器能否成为完全伦理智能体存在巨大的争议。尽管当前人工智能在一些场景下的功能或行为与人类接近，但实则并不具有“自由意志”。从经典社会规范理论来看，是否能够成为规范意义上的“主体”来承担责任，并不取决于其功能，而是以“自由意志”为核心来构建的。黑格尔的《法哲学原理》即以自由意志为起点展开。因此，当前阶段对人工智能伦理问题的分析和解决路径构建应主要围绕着前3类伦理智能体开展，即将人工智能定性为工具而非主体。
当前阶段，人工智能既承继了之前信息技术的伦理问题，又因为深度学习等一些人工智能算法的不透明性、难解释性、自适应性、运用广泛等特征而具有新的特点，可能在基本人权、社会秩序、国家安全等诸多方面带来一系列伦理风险。例如：人工智能系统的缺陷和价值设定问题可能带来公民生命权、健康权的威胁。2018年，Uber自动驾驶汽车在美国亚利桑那州发生的致命事故并非传感器出现故障，而是由于 Uber在设计系统时出于对乘客舒适度的考虑，对人工智能算法识别为树叶、塑料袋之类的障碍物做出予以忽略的决定。人工智能算法在目标示范、算法歧视、训练数据中的偏失可能带来或扩大社会中的歧视，侵害公民的平等权。人工智能的滥用可能威胁公民隐私权、个人信息权。深度学习等复杂的人工智能算法会导致算法黑箱问题，使决策不透明或难以解释，从而影响公民知情权、程序正当及公民监督权。信息精准推送、自动化假新闻撰写和智能化定向传播、深度伪造等人工智能技术的滥用和误用可能导致信息茧房、虚假信息泛滥等问题，以及可能影响人们对重要新闻的获取和对公共议题的民主参与度；虚假新闻的精准推送还可能加大影响人们对事实的认识和观点，进而可能煽动民意、操纵商业市场和影响政治及国家政策。剑桥分析公司利用 Facebook上的数据对用户进行政治偏好分析，并据此进行定向信息推送来影响美国大选，这就是典型实例。人工智能算法可能在更不易于被察觉和证明的情况下，利用算法歧视，或通过算法合谋形成横向垄断协议或轴辐协议等方式，破坏市场竞争环境。算法决策在社会各领域的运用可能引起权力结构的变化，算法凭借其可以处理海量数据的技术优势和无所不在的信息系统中的嵌入优势，对人们的权益和自由产生显著影响。例如，银行信贷中通过算法进行信用评价将影响公民是否能获得贷款，刑事司法中通过算法进行社会危害性评估将影响是否进行审前羁押等，都是突出的体现。人工智能在工作场景中的滥用可能影响劳动者权益，并且人工智能对劳动者的替代可能引发大规模结构性失业的危机，带来劳动权或就业机会方面的风险。由于人工智能在社会生产生活的各个环节日益广泛应用，人工智能系统的漏洞、设计缺陷等安全风险，可能引发个人信息等数据泄露、工业生产线停止、交通瘫痪等社会问题，威胁金融安全、社会安全和国家安全等。人工智能武器的滥用可能在世界范围内加剧不平等，威胁人类生命与世界和平……
人工智能伦理风险治理具有复杂性，尚未形成完善的理论架构和治理体系。人工智能伦理风险的成因具有多元性，包括人工智能算法的目标失范、算法及系统缺陷、受影响主体对人工智能的信任危机、监管机制和工具欠缺、责任机制不完善、受影响主体的防御措施薄弱等。人工智能技术和产业应用的飞速发展，难以充分刻画和分析其伦理风险及提供解决方案。这要求我们必须克服传统规范体系的滞后性，而采用“面向未来”的眼光和方法论，对人工智能的设计、研发、应用和使用中的规范框架进行积极思考和构建，并从确立伦理准则等软法开始，引领和规范人工智能研发应用。
关于人工智能的发展，我们既不能盲目乐观，也不能因噎废食，要深刻认识到它可以增加社会福祉的能力。因此，在人类社会步入智能时代之际，必须趁早从宏观上引导人工智能沿着科学的道路前行，对它进行伦理反思，识别其中的伦理风险及其成因，逐步构建科学有效的治理体系，使其更好地发挥积极价值。
人工智能伦理准则、治理原则及进路
当前全球人工智能治理还处于初期探索阶段，正从形成人工智能伦理准则的基本共识出发，向可信评估、操作指南、行业标准、政策法规等落地实践逐步深入，并在加快构建人工智能国际治理框架体系。
伦理准则
近几年来，众多国家、地区、国际和国内组织、企业均纷纷发布了人工智能伦理准则或研究报告。据不完全统计，相关人工智能伦理准则已经超过40项。除文化、地区、领域等因素引起的差异之外，可以看到目前的人工智能伦理准则已形成了一定的社会共识。
近年来，中国相关机构和行业组织也非常积极活跃参与其中。例如：2018年1月，中国电子技术标准化研究院发布了《人工智能标准化白皮书（2018版）》，提出人类利益原则和责任原则作为人工智能伦理的两个基本原则；2019年5月，《人工智能北京共识》发布，针对人工智能的研发、使用、治理 3 个方面，提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则；2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能发展的8项原则，勾勒出了人工智能治理的框架和行动指南；2019年7月，上海市人工智能产业安全专家咨询委员会发布了《人工智能安全发展上海倡议》；2021年9月，中关村论坛上发布由国家新一代人工智能治理专业委员会制定的《新一代人工智能伦理规范》等。从发布内容上看，所有准则在以人为本、促进创新、保障安全、保护隐私、明晰责任等价值观上取得了高度共识，但仍有待继续加深理论研究和论证，进一步建立共识。
治理原则
美国、欧洲、日本等国家和地区在大力推动人工智能技术和产业发展的同时，高度重视人工智能的安全、健康发展，并将伦理治理纳入其人工智能战略，体现了发展与伦理安全并重的基本原则。
习近平总书记高度重视科技创新领域的法治建设问题，强调“要积极推进国家安全、科技创新、公共卫生、生物安全、生态文明、防范风险、涉外法治等重要领域立法以良法善治保障新业态新模式健康发展”。近年来，我国在应对新技术新业态的规制和监管方面，形成了“包容审慎”的总体政策。这项基本政策在2017年就已正式提出。在2020年1月1日起实施的《优化营商环境条例》第55条中更是专门规定了“包容审慎”监管原则：“政府及其有关部门应当按照鼓励创新的原则，对新技术、新产业、新业态、新模式等实行包容审慎监管，针对其性质、特点分类制定和实行相应的监管规则和标准，留足发展空间，同时确保质量和安全，不得简单化予以禁止或者不予监管。”这为当前人工智能伦理治理提供了基本原则和方法论。一方面，要注重观察，认识到新技术新事物往往有其积极的社会意义，亦有其发展完善的客观规律，应予以一定空间使其能够发展完善，并在其发展中的必要之处形成规制方法和措施。另一方面，要坚守底线，包括公民权利保护的底线、安全的底线等。对于已经形成高度社会共识、凝结在法律之中的重要权益、价值，在执法、司法过程中都要依法进行保护。这既是法律对相关技术研发者和使用者的明确要求，也是法律对于在智能时代保护公民权益、促进科技向善的郑重承诺。
治理进路
在人工智能治理整体路径选择方面，主要有两种理论：“对立论”和“系统论”。
“对立论”主要着眼于人工智能技术与人类权利和福祉之间的对立冲突，进而建立相应的审查和规制制度。在这一视角下，一些国家和机构重点关注了针对人工智能系统本身及开发应用中的一些伦理原则。例如，2020年《人工智能伦理罗马倡议》中提出7项主要原则——透明、包容、责任、公正、可靠、安全和隐私，欧盟委员会于2019年《可信赖人工智能的伦理指南》中提出人工智能系统全生命周期应遵守合法性、合伦理性和稳健性3项要求，都体现了这一进路。
“系统论”则强调人工智能技术与人类、其他人工代理、法律、非智能基础设施和社会规范之间的协调互动关系。人工智能伦理涉及一种社会技术系统，该系统在设计时必须注意其不是一项孤立的技术对象，而是需要考虑它将要在怎样的社会组织中运作。我们可以调整的不仅仅是人工智能系统，还有在系统中与之相互作用的其他要素；在了解人工智能运作特点的基础上，可以在整个系统内考虑各个要素如何进行最佳调配治理。当前在一些政策和法规中已有一定“系统论”进路的体现。例如，IEEE（电气与电子工程师协会）发布的《合伦理设计》11中提出的8项原则之一即为“资质”（competence），该原则提出系统创建者应明确对操作者的要求，并且操作者应遵守安全有效操作所需的知识和技能的原则，这体现了从对使用者要求的角度来弥补人工智能不足的系统论视角，对智能时代的教育和培训提出了新需求。我国国家新一代人工智能治理专业委员会2019年发布的《新一代人工智能治理原则——发展负责任的人工智能》中，不仅强调了人工智能系统本身应该符合怎样的伦理原则，而且从更系统的角度提出了“治理原则”，即人工智能发展相关各方应遵循的8项原则；除了和谐友好、尊重隐私、安全可控等侧重于人工智能开放和应用的原则外，还专门强调了要“改善管理方式”，“加强人工智能教育及科普，提升弱势群体适应性，努力消除数字鸿沟”，“推动国际组织、政府部门、科研机构、教育机构、企业、社会组织、公众在人工智能发展与治理中的协调互动”等重要原则，体现出包含教育改革、伦理规范、技术支撑、法律规制、国际合作等多维度治理的“系统论”思维和多元共治的思想，提供了更加综合的人工智能治理框架和行动指南。基于人工智能治理的特殊性和复杂性，我国应在习近平总书记提出的“打造共建共治共享的社会治理格局”的指导下，系统性地思考人工智能的治理维度，建设多元共治的人工智能综合治理体系。
我国人工智能伦理治理对策
人工智能伦理治理是社会治理的重要组成部分。我国应在“共建共治共享”治理理论的指导下，以“包容审慎”为监管原则，以“系统论”为治理进路，逐渐建设形成多元主体参与、多维度、综合性的治理体系。
教育改革
教育是人类知识代际传递和能力培养的重要途径。通过国务院、教育部出台的多项措施，以及联合国教科文组织发布的《教育中的人工智能：可持续发展的机遇与挑战》、《人工智能与教育的北京共识》13等报告可以看到，国内外均开始重视教育的发展改革在人工智能技术发展和应用中有着不可或缺的作用。为更好地支撑人工智能发展和治理，应从4个方面进行完善：普及人工智能等前沿技术知识，提高公众认知，使公众理性对待人工智能；在科技工作者中加强人工智能伦理教育和职业伦理培训；为劳动者提供持续的终身教育体系，应对人工智能可能引发的失业问题；研究青少年教育变革，打破工业化时代传承下来的知识化教育的局限性，回应人工智能时代对人才的需求。
伦理规范
我国《新一代人工智能发展规划》中提到，“开展人工智能行为科学和伦理等问题研究，建立伦理道德多层次判断结构及人机协作的伦理框架”。同时，还需制定人工智能产品研发设计人员及日后使用人员的道德规范和行为守则，从源头到下游进行约束和引导。当前有5项重点工作可以开展：针对人工智能的重点领域，研究细化的伦理准则，形成具有可操作性的规范和建议。在宣传教育层面进行适当引导，进一步推动人工智能伦理共识的形成。推动科研机构和企业对人工智能伦理风险的认知和实践。充分发挥国家层面伦理委员会的作用，通过制定国家层面的人工智能伦理准则和推进计划，定期针对新业态、新应用评估伦理风险，以及定期评选人工智能行业最佳实践等多种方式，促进先进伦理风险评估控制经验的推广。推动人工智能科研院所和企业建立伦理委员会，领导人工智能伦理风险评估、监控和实时应对，使人工智能伦理考量贯穿在人工智能设计、研发和应用的全流程之中。
技术支撑
通过改进技术而降低伦理风险，是人工智能伦理治理的重要维度。当前，在科研、市场、法律等驱动下，许多科研机构和企业均开展了联邦学习、隐私计算等活动，以更好地保护个人隐私的技术研发；同时，对加强安全性、可解释性、公平性的人工智能算法，以及数据集异常检测、训练样本评估等技术研究，也提出了很多不同领域的伦理智能体的模型结构。当然，还应完善专利制度，明确算法相关发明的可专利性，进一步激励技术创新，以支撑符合伦理要求的人工智能系统设计。
此外，一些重点领域的推荐性标准制定工作也不容忽视。在人工智能标准制定中，应强化对人工智能伦理准则的贯彻和支撑，注重对隐私保护、安全性、可用性、可解释性、可追溯性、可问责性、评估和监管支撑技术等方面的标准制定，鼓励企业提出和公布自己的企业标准，并积极参与相关国际标准的建立，促进我国相关专利技术纳入国际标准，帮助我国在国际人工智能伦理准则及相关标准制定中提升话语权，并为我国企业在国际竞争中奠定更好的竞争优势。
法律规制
法律规制层面需要逐步发展数字人权、明晰责任分配、建立监管体系、实现法治与技术治理有机结合。在当前阶段，应积极推动《个人信息保护法》《数据安全法》的有效实施，开展自动驾驶领域的立法工作；并对重点领域的算法监管制度加强研究，区分不同的场景，探讨人工智能伦理风险评估、算法审计、数据集缺陷检测、算法认证等措施适用的必要性和前提条件，为下一步的立法做好理论和制度建议准备。
国际合作
当前，人类社会正步入智能时代，世界范围内人工智能领域的规则秩序正处于形成期。欧盟聚焦于人工智能价值观进行了许多研究，期望通过立法等方式，将欧洲的人权传统转化为其在人工智能发展中的新优势。美国对人工智能标准也尤为重视，特朗普于2019年2月发布“美国人工智能计划”行政令，要求白宫科技政策办公室（OSTP）和美国国家标准与技术研究院（NIST）等政府机构制定标准，指导开发可靠、稳健、可信、安全、简洁和可协作的人工智能系统，并呼吁主导国际人工智能标准的制定。
我国在人工智能科技领域处于世界前列，需要更加积极主动地应对人工智能伦理问题带来的挑战，在人工智能发展中承担相应的伦理责任；积极开展国际交流，参与相关国际管理政策及标准的制定，把握科技发展话语权；在最具代表性和突破性的科技力量中占据发展的制高点，为实现人工智能的全球治理作出积极贡献。
（作者：张兆翔、谭铁牛，中国科学院自动化研究所；张吉豫中国人民大学法学院；《中国科学院院刊》供稿）
中国社会科学杂志社
当前，人工智能被深度应用于社会的各个领域，推动了社会生产效率的整体提升。然而，作为一种具有开放性、颠覆性但又远未成熟的技术，人工智能在带来高效生产与便利生活的同时，不可避免地对现有伦理关系与社会结构造成冲击，且已引发不少伦理冲突与法律问题。在技术快速更新的时代，如何准确把握时代变迁的特质，深刻反思人工智能引发的伦理风险，提出具有针对性、前瞻性的应对策略，是摆在我们面前的重大时代课题。
技术伦理风险
技术是一把双刃剑，其在推动社会进步的同时，也在很大程度上带来了技术风险。人工智能技术也是如此。现阶段，人工智能的技术伦理风险主要体现在以下三个方面。
人工智能的设计风险。设计是人工智能的逻辑起点，设计者的主体价值通过设计被嵌入人工智能的底层逻辑之中。倘若人工智能设计者在设计之初，秉持错误的价值观或将相互冲突的道德准则嵌入人工智能之中，那么在实际运行的过程中便很有可能对使用者生命、财产安全等带来威胁。
人工智能的算法风险。算法是人工智能的核心要素，具备深度学习特性的人工智能算法能够在运行过程中自主调整操作参数和规则，形成“算法黑箱”，使决策过程不透明或难以解释，从而影响公民的知情权及监督权，造成传统监管的失效。人工智能算法可能在不易察觉或证明的情况下，利用算法歧视或算法合谋侵害消费者的正当权益，进而扰乱市场经济秩序和造成不公平竞争。近年来被广泛曝光的“大数据杀熟”，正是这一风险的具体体现。
人工智能的数据安全风险。隐私权是人的一项基本权利，隐私的保护是现代文明的重要体现。但在众多的人工智能应用中，海量的个人数据被采集、挖掘、利用，尤其是涉及个人生物体征、健康、家庭、出行等的敏感信息。公民的隐私保护面临巨大挑战，人工智能所引发的隐私泄露风险已被推到风口浪尖。而不少隐私泄露事件的发生，也在一定程度上加深了公众对人工智能广泛应用的担忧。隐私保护与人工智能的协调发展，已成为当前亟待解决的问题。
社会伦理挑战
人工智能不仅有着潜在的、不可忽视的技术伦理风险，伴随数字化的飞速发展，人工智能对现有社会结构及价值观念的冲击亦愈发明显。人类社会的基本价值，如尊严、公平、正义等，也正因此面临挑战。
人工智能的发展对人类道德主体性的挑战。2017年智能机器人索菲亚被授予沙特阿拉伯王国公民身份，这引发了许多人对人工智能挑战人类主体性的担忧。通常人被认为是唯一的道德主体，人的道德主体性的依据在于人的某些精神特点（如意识、思维）。当前，人工智能虽仍处于弱人工智能阶段，还无法形成自我意识，但是，智能机器人不仅在储存、传输、计算等多方面的能力超越了人脑，而且借助材料学等现代技术，智能机器人可能在外形上“比人更像人”，甚至拥有更丰富的情感（比如索菲亚能够模拟62种面部表情）。这样的智能机器人究竟是否是“人”？是否应确立为道德主体？如果赋予人工智能主体资格，那么其究竟是一种与人类对等的主体，还是一种被限制的主体？这些问题表明：人工智能对人类道德主体性的挑战，不只是电影小说中的浪漫想象，而是已日益成为一种现实风险。
人工智能的发展对社会整体公平正义的挑战。首先，人工智能的发展可能加剧社会的贫富差距。由于年龄、所在地区、从事行业、教育水平等的差异，人们接触人工智能的机会并不均等，实际使用人工智能的能力并不相同，这就造成了“数字鸿沟”现象。“数字鸿沟”与既有的城乡差别、工农差别、脑体差别等叠加在一起，进一步扩大了贫富差距，影响了社会发展的公平性。其次，人工智能的发展可能引发结构性失业大潮。由于智能机器相较于人类工人有着稳定、高效等优势，越来越多的人类工人正在被智能机器所取代，成为赫拉利（YuvalNoahHarari）在《未来简史》中所谓的“无用阶级”。麦肯锡全球研究所的研究数据显示，到2030年，全球将有8亿人因工作流程的智能化、自动化而失去工作。虽然人工智能的发展也会带来新的工作岗位，但是由于“数字鸿沟”的存在，不少人并不能找到新的工作，结构性失业大潮可能汹涌而至。这将成为激化社会矛盾、破坏社会稳定、挑战社会公平正义的又一重大潜在风险。
应对防范策略
技术伦理风险与社会伦理挑战的图景展示表明，人工智能“安全、可靠、可控”的良性发展依然任重道远。对于人工智能风险、挑战的应对防范，事关未来社会的发展方向与人类整体的前途命运，需要我们运用哲学的反思、批判，作出审慎恰当的抉择。
确立人工智能发展的基本价值原则。面对风险、挑战，我们应当避免马尔库塞（HerbertMarcuse）所说的“技术拜物教”倾向，要将伦理、道德等价值要素纳入到人工智能发展的内在考量之中，尽快构建起具有广泛共识的人工智能伦理体系。应确立如下基本价值原则，作为建构人工智能伦理体系的“阿基米德支点”。一是人本原则。人工智能始终是“属人”的造物，是为增进人类的福祉和利益而被创造出来的。无论人工智能有多么接近“图灵奇点”，也不应改变其属人性。人本原则是人工智能研发、应用的最高价值原则。二是公正原则。人工智能的发展要以绝大多数人的根本利益为归趋，不能片面地遵循“资本的逻辑”与“技术的逻辑”，坐视“数字鸿沟”的扩大，而应当让每一个人都拥有平等接触、使用人工智能的机会，从而使绝大多数人都能从人工智能的发展与应用中受益。三是责任原则。明晰道德责任，对于防范和治理人工智能伦理风险具有重要意义。要加强人工智能设计、研发、应用和维护等各个环节的责任伦理建设，尤其要注意设计者、开发者的道义责任感培养，明确各方主体的权利、义务和责任，建立健全完备、有效的人工智能事故追究问责机制。
建立人工智能发展的具体伦理规范。在确立人工智能伦理基本原则的同时，还需要制定人工智能产品设计者、开发者及使用者的具体伦理规范与行为守则，从源头到下游进行规范与引导。针对人工智能的重点领域，要研究具体细化的伦理准则，形成具有可操作性的规范和建议。应当加强教育宣传，推动人工智能伦理规范共识的形成。进一步，可以将取得广泛共识的伦理规范嵌入于算法之中，避免人工智能运行过程中的“算法歧视”与“算法欺诈”问题。此外，要充分发挥伦理审查委员会及其相关组织的作用，持续修订完善《新一代人工智能伦理规范》，定期针对新业态、新应用评估伦理风险，促进人工智能伦理规范的与时俱进。
健全人工智能发展的制度保障体系。在社会层面，应加大对“数字弱势群体”的政策帮扶，如税收减免、财政补贴等，确保人工智能发展的共同富裕方向。面对可能到来的结构性失业问题，可以为劳动者提供持续的终身教育和职业培训。在法律层面，应积极推动《个人信息保护法》《数据安全法》的有效实施，建立对人工智能技术滥用与欺诈的处罚细则，逐步加快《人工智能法》的立法进程。在行业层面，应加强人工智能行业自律体系建设。建立并充分发挥伦理委员会的审议、监督作用，加强国际合作，推动人工智能行业发展朝着“安全、可靠、可控”的方向健康发展。
（作者单位：南京大学哲学系）
人工智能的伦理挑战
原标题：人工智能的伦理挑战控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”维纳的这句谶语，在今天未必成为现实，但已经成为诸多文学和影视作品中的题材。《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。
一
维纳的激进言辞和今天普通人对人工智能的担心有夸张的成分，但人工智能技术的飞速发展的确给未来带来了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其原因在于，人工智能的伦理学讨论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种特殊的产品――根据未来学家库兹威尔在《奇点临近》中的说法――一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情况下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？
实际上，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。在人工智能领域，从一开始，准确来说是依从着两种完全不同的路径来进行的。
首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次特殊的研讨会，会议的组织者约翰・麦卡锡为这次会议起了一个特殊的名字：人工智能（简称AI）夏季研讨会。这是第一次在学术范围内使用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成称作“信息论之父”的香农意义上的信息，并加以控制和应用。这一阶段上的人工智能的发展，在很大程度上还是对人类行为的模拟，其理论基础来自德国哲学家莱布尼茨的设想，即将人类的各种感觉可以转化为量化的信息数据，也就是说，我们可以将人类的各种感觉经验和思维经验看成是一个复杂的形式符号系统，如果具有强大的信息采集能力和数据分析能力，就能完整地模拟出人类的感觉和思维。这也是为什么明斯基信心十足地宣称：“人的脑子不过是肉做的电脑。”麦卡锡和明斯基不仅成功地模拟出视觉和听觉经验，后来的特里・谢伊诺斯基和杰弗里・辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，模拟了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出简单的思考。
然而，在这个阶段中，所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的原理很简单，让测试一方和被测试一方彼此分开，只用简单的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。所以，图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
二
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
三
这样，由于智能增强技术带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，所以，两个平面之间也需要一个接口技术。接口技术让人与智能机器的沟通成为可能。当接口技术的主要开创者费尔森斯丁来到伯克利大学时，距离恩格尔巴特在那里讨论智能增强技术已经有10年之久。费尔森斯丁用犹太神话中的一个形象――土傀儡――来形容今天的接口技术下人与智能机器的关系，与其说今天的人工智能在奇点临近时，旨在超越和取代人类，不如说今天的人工智能技术越来越倾向于以人类为中心的傀儡学，在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。当苹果公司开发与人类交流的智能软件Siri时，乔布斯就提出Siri是人类与机器合作的一个最朴实、最优雅的模型。以后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因衰老而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技术问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾难，而是一种新的希望。
（作者：蓝江，系南京大学哲学系教授）
伦理与治理，人工智能时代下的困境与出路
原标题：伦理与治理，人工智能时代下的困境与出路
目前，以智能化、网络化、数字化为核心特征的第四次工业革命正在来临。人工智能技术作为数字资源与智能技术的集大成者，成为第四次工业革命中的聚焦点。在大数据与成熟的机器算法的基础之上，以人工智能技术为代表的新一代信息技术在市场应用的迭代中逐渐成熟并渗透到了政治、经济、社会等各个领域，在其加持下出现了智能制造、物联网、机器学习等一大批先导产业。而2020年的过去半年，在全球抗疫的背景下，人工智能在医疗、城市治理、工业、非接触服务等领域快速响应。它从“云端”落地，在疫情之中出演关键角色，提高了抗疫的整体效率。人工智能与其他产业前所未有的紧密结合，再一次验证了人工智能作为新一轮科技革命和产业变革的重要驱动力量对社会的真正价值。事实上，人工智能技术最大的特点就在于，它不仅仅是互联网领域的一次变革，也不属于某一特定行业的颠覆性技术，而是作为一项通用技术成为支撑整个产业结构和经济生态变迁的重要工具之一。它的能量可以投射在几乎所有行业领域中，促进产业形式转换，为全球经济增长和发展提供新的动能。自古及今，从来没有哪项技术能够像人工智能一样引发人类无限的畅想，而在利好人类的同时，人工智能也成为了一个国际性的科学争议热题。人工智能技术的颠覆性让我们也不得不考虑其背后潜藏的巨大危险，早在2016年11月世界经济论坛编纂的《全球风险报告》列出的12项亟需妥善治理的新兴科技中，人工智能与机器人技术就名列榜首。时下，智能技术在全球生产链中的赋能已经开始逐渐扩散到社会生活和世界政治领域中。人工智能的发展为全球化进程和国际社会带来了新的问题和挑战，对人工智能技术进行有效的治理已成为现实境况的迫切要求。为机器立心，为智能立命由于人工智能技术不是一项单一技术，其涵盖面及其广泛。而“智能”二字所代表的意义又几乎可以代替所有的人类活动，即使是仅仅停留在人工层面的智能技术，人工智能可以做的事情也大大超过人们的想象。事实上，人工智已经覆盖了我们生活的方方面面。从垃圾邮件过滤器到叫车软件；日常打开的新闻是人工智能做出的算法推荐；网上购物，首页上显示的是人工智能推荐的用户最有可能感兴趣、最有可能购买的商品。人工智能对人类生活的影响从操作越来越简化的自动驾驶交通工具到日常生活中的面部识别上下班打卡制度等等。这些影响有的让人们深有所感，有的则悄无声息浸润在社会运转的琐碎日常中。当然，在辅助社会发展更加超前与方便的同时，人工智能也埋下了一些隐忧。总体而言，人工智能的治理进程中的治理客体可以分为两个部分：一是对技术本身的治理；一是对衍生问题的规范治理。对于人工智能技术本身来说，技术的发展使得机器智能的边界在不断扩展。智能机器人领域的研究已经持续了四五十年，不只是原始的工业机器人，服务机器人也有30多年的研究历史。这些研究大大增强了机器的运行能力，使机器可以替代人类自己进行活动，甚至某些能力已经超越了人类。目前，这些技术已经大量投入使用。近五六年来，机器学习的算法快速发展。尽管距离机器完全理解“发生了什么”还有很长一段路要走，但随着更好、更便宜的硬件和传感器出现以及设备之间实现无线低延迟互联，还有源源不断的数据输入，机器的感知、理解和联网能力将会有更广阔的发展空间。相比于基本元件运算速度缓慢、结构编码存在大量不可修改原始本能、后天自塑能力有限的人类智能来说，人工智能虽然尚处于蹒跚学步的发展初期，但未来的发展潜力却远远大于人类。几乎可以确定的是，机器智能未来必将超越人类智能。尽管无法确定其会在何时发生，也没有像奇点理论那样给出一个确切的时间点，但毫无疑问，这个趋势一定是存在的。而基于此的人工智能技术治理，就需要人类先跳出科技本身，从人文的角度先为机器立心。其中，就包括相关领域的科学家在对人工智能技术的开发和应用时的价值取向以及道德观念培养。此外，对于一项新生技术，其本身是没有攻击性的，造成危害的往往是对这种技术的使用，人工智能也是如此。在过去的数百年里，人类学会了使用机械能，学会了用电，学会了制造各种机械，学会了制造飞机、汽车。在过去的数十年里，人类也学会了计算机、互联网、云计算、人工智能和5G通信技术。这些都是可以利用的工具，包括运用云端的智能扩展信息和知识搜索的广度、加深推理的深度、帮助我们做非常复杂的运算。而如何更好地掌握和利用这些技术，利用人工智能技术本身来帮助人类最大程度地发挥智能潜力，便是治理人工智能技术本身的破题关键所在。当人工智能走入“伦理真空”地带除了对于人工智能技术的危机治理，我们无法回避的是对人工智能衍生问题的规范治理。首先，就业问题是人工智能治理领域中最接近民生保障，也是最需要解决的问题。由于资本的逐利性，在科学技术是第一生产力的时代，人工智能所表现出的巨大的生产力必然吸引资本蜂拥而至，而数字经济的发展将进一步促进企业的自动化和数字化转型。于是，自动化将缩小社会的横向分工，人工智能将实现生产的半自动化、全自动化，从而消除了生产对人类个体差异性的依赖。随着人工智能研发的深入，更加完善的功能使得人工智能在社会分工体系中越来越占据主导地位。这就减弱了横向分工之间的差距，普通劳动者之间技术的差异性将会逐渐丧失。当人工智能对劳动者的代替性越来越强时，普通劳动者的生存状态并不会得到很大的改善。相反，随着劳动力对技术依赖性的增加以及由此造成的劳动力本身在分工体系中竞争力的下降，劳动者的生存状态会进一步的恶化。除了缩小社会的横向分工，人工智能技术的垄断将会阻隔社会的纵向分工。在信息时代，基于大数据以及计算机应用的自动化生产成为了拉动经济增长的主要驱动力。资本追逐利润的本质使得大量资金都流入了那些掌握前沿科技的企业和人才手里，这样就会造成一些常规性的工作被代替，最终将会造成的整个社会失业率的增加。另一方面，一些本来就处于社会分工等级上层、掌握前沿科技的企业，由于资本的大量流入使得这些企业的地位更加稳固，甚至通过新的技术垄断切断了其他企业以及劳动者突破社会分工的机会，进而将不平等的社会分工等级秩序的牢笼扎得更紧。倘若社会分工顶层和底层间出现了不可逾越的断裂带，这将使得社会两极分化更加严重。其次，由于人工智能需要依赖大量的数据，在人工智能的不断研究开发与应用中，也就存在许多数据管理的难题。当海量信息数据唾手可得，个体位置信息、关注内容、行程安排等极易被获取分析。个体敏感信息、私密内容就可能“无死角”暴露在大众视线。大数据信息动态监控，使个体用户操作“痕迹”被收集挖掘成为可能。有了人工智能助力，不仅能了解你是“谁”，更能预测你将成为“谁”。尽管大数据等智能化手段在开展群体分类时能提供诸多便捷，但也使得许多传统意义上并非隐私的信息变成了个体敏感信息，这就增加了人们隐私受到侵害的可能性和伦理风险概率。这些数据算法的过度依赖或应用范围的盲目扩大，既在社会现实层面上为不法分子提供了随意窃取、滥用信息资源的机会，又在道德层面上引发了伦理道德风险。最后，人工智能技术的发展对国际关系提出了挑战。从世界历史的发展过程中我们可以得出经验，每一轮新的世界大战和工业革命都会迅速地重构社会秩序和国际格局。以人工智能技术为代表的第四次技术革命是科技的集大成者，因此其所造成的影响更是颠覆性的。在经济方面，2018年9月，麦肯锡全球研究所针对人工智能对世界经济的影响做的专题报告显示：到2030年，人工智能可能为全球额外贡献13万亿美元的GDP增长，平均每年推动GDP增长约1.2亿。这意味着，人工智能对国家经济的推动是巨大的。而在这一轮新的工业革命浪潮中，谁掌握了人工智能技术的主要力量，谁就有可能以垄断性的地位占据未来数年内全球经济的命脉。在军事方面，区别于其他类型的科技，人工智能技术和核武器一样，属于军民两用型科技。世界各国已经认识到人工智能是未来国家之间竞争的关键赛场，纷纷开始在军事领域加大人工智能战略部署，尤其是在自主武器方面的研发力度，只为了能够占领新一轮科技革命的历史高点。当人工智能技术赋予国家更多政治和军事力量时，也加剧了国际社会的安全困境，这也给人工智能的治理带来了全球性的挑战。事实上，我们已经走进了一个现代性“伦理真空”的特殊地带，这个真空正是由传统伦理学的缺失与现代自然科学的发展带来的。由于人工智能发展所带来的全世界范围内人类行为方式、思维方式的变化是加速、不可逆转的，而传统伦理学的发展却是缓慢的、滞后的，这就使现代社会出现了巨大的伦理真空地带。因此，在大力发展人工智能的同时，必须高度重视可能出现的社会风险和伦理挑战。加强人工智能伦理学研究，揭示人工智能发展面临的伦理难题，有效治理人工智能，发挥人工智能的真正价值是未来值得关注的问题。夏少昂：人工智能伦理问题的时代镜像与调适
人工智能技术自一出现，便伴随着伦理争议和道德评判。正因为人工智能发展前景的不确定性，及其可能导致的伦理后果难以预测，人们对人工智能问题争议不断。作为一种具有颠覆传统、重塑未来强大力量的技术，人工智能所带来的伦理问题已引起学界的广泛关注。如何准确把脉人工智能的时代镜像，透视人工智能发展的伦理风险，构建和谐共生的人机主体间性伦理新形态，是摆在我们面前亟须解决的一个重大时代课题。
人工智能时代的伦理问题
人工智能正处于蓬勃发展的大好机遇期，人类社会吁求高阶科学技术力量的伦理支撑。一方面，人工智能的发展离不开伦理反思的支撑作用；另一方面，人工智能又被称为伦理学科发展的新引擎。不断出现的人工智能伦理新问题，对于伦理学的发展提出了新的更高要求，丰富和拓展了伦理学研究的领域，这反过来又成为助力人工智能发展的重要精神因素。人工智能是一种全新的技术形态，通过语义网络、知识图谱、大数据及云计算等，极大地推动了社会生产力的迅猛发展，改变了人类生产生活方式，拓展了人类生存的意义与价值。依托于算法的人工智能技术，通过一系列的运算、反馈和调整，展现了人工智能的智能程度。以围棋的“人机大战”为例，“阿尔法狗”（AlphaGo）以其强大的计算能力战胜人类顶尖棋手李世石，并且通过“深度学习”的方法不断促进自身进步，完成了在部分领域对人类智能的超越。这种超越是人类利用科技力量延伸自身能力，以及追求提升自身价值的体现。另外，在日常生产生活领域，人工智能在增强人类能力的同时，也日益凸显出其对于人类自身解放的重要作用。
机遇与挑战并存，人工智能发展在取得巨大成就的同时，也面临着严峻的伦理挑战。从人与技术的关系来说，人工智能在一定程度上威胁着人的主体性。控制论之父维纳就曾预言：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。”人工智能与一般人造物存在巨大不同，它不是单纯延伸人的体力的机械物。人工智能模拟的对象是人的大脑和思维方式。而人作为思维主体，是人之为人的本质所在。基于人工智能的特殊性，许多人担心一旦人工智能发展到某个临界点，如诞生强人工智能，它就可能解构人的主体地位，彻底压倒人类。从技术与社会的关系来看，如何有效控制技术力量的消极作用，是社会发展过程中日益凸显的难题。人工智能在给人类带来巨大利益的同时,也产生了诸多社会性问题。例如，企业可以借助人工智能收集大量用户数据，并基于此了解目标对象的偏好和行为倾向，这造成了巨大的权利不对称。再如，人工智能在推动专业化分工和创造新工作机会之余，会使得那些没有能力迈过技术性壁垒的人成为“无用阶级”。又如，在一些情境中，人工智能导致法律责任的归属成为困难。
伦理风险与挑战的学理透视
人工智能本质上是人类智慧和智能高度聚合的表现形式，是人类价值和意义在技术层面的展开与呈现。它所面临的伦理困境就是当前人类社会面临的伦理风险。首先，从人工智能的运行场域来看，伦理情境发生了深刻变革。越来越强大的人工智能的出现，催生了跨人类主义的伦理学问题，传统的伦理学旨趣与伦理情境已然发生重大变化。一是在创制人工智能的过程中，多元伦理理论并没有形成统一共识，从而在设计起点难以嵌入有效伦理规范，这极有可能造成对人工智能约束的失范。二是人工智能技术的强化，不仅逾越了自然的限制，而且很有可能逾越人的限制，进而成为主宰人、支配人、控制人的技术形式，将无法回应人类社会发展的伦理诉求。三是道德伦理编码嵌入人工智能的规范性结构时，既存在正当性辩护的困境，也存在法理性的质疑，这是对于传统伦理提出的新挑战。其次，从人类的伦理认知角度来看，正确认识人工智能的伦理地位，积极避免人工智能带来的伦理失范，是推进人工智能技术的前提。人工智能不仅仅是单纯的工具性“智能机器”，作为对人类智能的模仿或者模拟，其目标是成长为高阶智能形态，这要求必须在其中嵌入道德因子。随着人工智能的工具性力量日益增强，越应强化相关规范性价值，对技术能力的价值规范和伦理规范的强调，是进一步提升人工智能化水平的重要保障。最后，从人机关系的伦理模式来看，当前以人为主导的人机关系模式，具有单纯的规范性取向，即人类已有道德能力和水平决定了人工智能的道德能力建构水平。如果人类在道德问题的判别方面具有不确定性，再加之人类个体道德经验的有限性，那么人工智能造成的伦理冲突将表现得更加突出。
我们当前所面临的人工智能伦理风险，一方面是传统伦理情境、伦理形态面临着总体性困境，人工智能不断解构传统伦理，并在日渐紧张的伦理冲突中提出愈加迫切和急需解决的伦理问题；另一方面是人与自身造物之间关系模式面临解体与重塑，人类自身的伦理禀赋与人工智能的伦理地位之间存在着一定矛盾，特别是在技术力量全面突破人类智慧的时候，如果没有有效的伦理建构和调适，人类社会将会在“技术决定论”中迷失伦理和道德责任。
建构和谐共生的伦理关系
在推动人工智能技术发展水平的过程中，我们不仅在创制“提高人类劳作效率”的机器，也在创制“提升人类思维能力”的机器，更是在创制“契合人类伦理责任”的机器。为此，我们应顺应时代对人工智能发展的新要求，积极进行伦理调适。
其一，明确目标，厘清人机责任。人工智能的伦理调适，其终极目标在于增进人类利益，促进人类整体发展。只有将人工智能发展置于人类发展的历史高度，才有助于构建“人—机命运共同体”。一切都从人类利益出发，是人工智能伦理规范的最根本要求。所有创制人工智能的人类个体，必须把全人类共同利益放在第一位，并且在人机合作中重新定义人类利益，使其更加符合时代发展的新要求。与此同时，我们还必须厘清人机责任，这是责任伦理的重要体现。人工智能能够根据数据运算提供最优化行动方案，人类则会因为情感等直观因素作出情景类选择，这种行为模式生成途径的不同，决定了两者承担的责任伦理也必然存在差异。对于人工智能来说，其创制者、使用者、消费者，基于不同的情境承担着不同的责任伦理，这就要求我们从全过程角度重新诠释“人—机命运共同体”。
其二，制定原则，体现人文价值。人工智能作为一种技术发展到现在，其工具性一面有了长足的进步和体现。而在人工智能伦理挑战日益凸显的今天，必须在人工智能发展过程中厚植深厚人文价值尺度。首先，必须遵循开放合作原则。鼓励跨学科、跨领域、跨国界的交流合作，推动不同组织和部门及社会公众在人工智能发展与治理中的协调互动。开展国际交流对话与合作，在充分尊重各国人工智能治理原则的前提下，推动形成具有广泛共识的国际人工智能治理框架和标准规范。其次，必须谨守伦理底线。人工智能发展在很多领域事实上正不断突破界限、挑战伦理底线。在涉及伦理道德根本问题，如维护公平正义、保护隐私等时，必须谨慎对待人工智能越界可能带来的严重后果，该坚守住的底线一定要守住，该厘清的界限一定要厘清。最后，必须体现人的目的性。人工智能系统被设计和使用的全过程，始终都应与人类尊严、权利、自由和文化多样性理想一致。人工智能创造的繁荣局面，应被广泛地共享，惠及全人类。
其三，重构伦理形态，协同主体关系。传统伦理形态面临着时代性重构，人类思维和道德情境都在技术社会中被重新认识和改造，场域的深刻变化要求我们重构当代伦理形态。具体而言，重构人工智能时代伦理形态的核心在于构建人机协同合作新模式，这是基于合作化道德准则做出的化解伦理风险、重塑伦理意蕴的理性选择。通过自主学习和深度学习，引导人工智能在人机共生的基础上不断升级，进而提高道德责任能力。通过人工智能在相关伦理问题上的反馈结果，人类自身要提升理性反省和学习能力，从对人工智能道德的单向度要求，转向追求达成人机交互主体间的道德共识。人机之间的相互学习和伦理共鉴，能够不断丰富人机关系的时代内涵，在伦理调适中不断变革传统伦理形态，构建出主体间性的伦理新形态，最终实现人机和谐共生。（作者：夏少昂南京大学社会学院）
人工智能伦理规范难题如何走出困境
“人工智能可谓是21世纪最有前景的新兴技术之一，其在自动驾驶、语音识别等方面已经取得了诸多重大突破，但在其商业化应用过程中也出现了不少意外的负面后果，其中浮现出的人工智能伦理风险，为技术健康持续发展和商业化落地带来了新的挑战。”
路易斯维尔大学罗曼（RomanYampolskiy）教授发表的《人工智能和网络安全：人工智能的失败》中列举的人工智能失败案例中，除了我们熟知的特斯拉自动驾驶事故，还有一类特别的“道德”事故，像谷歌搜索中出现的黑人与色情、暴力信息相关联、保险公司利用脸书数据预测交通事故率等失败案例，让人工智能引发的道德风险开始引起越来越多人关注。
人工智能道德风险归因于人类认知能力局限
坚持“技术工具论”的人会说人工智能不过是个产品，怎么能具有伦理属性，而还有一部分被称为“技术实体论”的人也坚持说人工智能有能力也有权利具有自主意识和情感。不论孰是孰非，争论本身就代表着伦理道德风险的存在。
人工智能反映出的道德隐患可以从两方面归因。第一可以归结为人工智能系统在算法设计和学习阶段的错误，第二可能源于人工智能技术结果难以预见和难以以人力量化评估的问题。但究其本源还是人类的有限理性所致。
人类自身认知能力的限制，使人工智能越来越近人甚至在某些方面远超人类时，人类理性已经开始滞后于人工智能的发展速度。最终引发了对人工智能的担忧和道德批判。
而在算法的世界里，人工智能没有能力担忧，或许他们也并不感到担忧，甚至在他们“看来”，人类的某些道德是多么的荒谬。这种未知性也更加深了人类对人工智能道德伦理的担忧。
人工智能伦理待规范责任主体权利归属难
人工智能技术可以说是第一个对人文伦理产生挑战的技术应用，他极可能或正在重塑着人类的社会秩序和伦理规范。
对于人工智能的伦理问题，目前学界关注的重点大多集中在技术应用的责任伦理上。随着人工智能自主能动性的提高，技术使用和监管责任才是最突出的伦理难题——如何确定人工智能技术活动机器后果的责任主体，是人工智能发展必须考虑的问题。
这方面问题涉及到哲学伦理，因而很难被大众讨论。但人工智能表现出的伦理问题，却也与普通人的日常息息相关。
譬如虽然人工智能在速度、精度等方面远高于人，但在大数据运行过程中常会出现算法偏差和歧视问题，像在谷歌搜索中，相比搜索白人名字，黑人名字更易与暗示犯罪、暴力的广告和内容相关联。
在责任主体方面，虽然“机器比人聪明”并非机器替代人类掌握控制权的充要条件，但这一优势也高度反应了智能技术中人类主体权利的隐忧。人类为自我负责源于自我决定权，同时意味着自我风险、行为后果的承担能力。
以自动驾驶汽车为例，人工智能驾驶的汽车拥有自主决定权后，可以有效避免醉酒驾驶、疲劳驾驶等不合法人为错误。
但相应责任转移给人工智能算法后，当智能汽车面临无人驾驶版“电车难题”时，人工智能应该杀掉少部分人保全大部分人，还是仅仅保护车内人员安全等等困局，都难逃责任主体权利归属的拷问。是“技术漏洞”还是“使用不当”抑或是“算法”擅自所谓，这一问题至今无解。
开发伦理嵌入技术应对人工智能伦理风险
关注人工智能技术带来的机器伦理问题，提升人工智能技术的安全性。首先在技术层面，未来可以通过嵌入伦理准则，制定完善设计原则等方式，规避人工智能潜在道德风险。
美国科幻作家阿西莫夫的“机器人三定律”经典地诠释了机器人所应遵从的基本道德规范，在《我，机器人》中，机器人被集体嵌入了道德定律，以此规范人工智能的行为。而在现实中，人工智能的道德也是可以被预设的。
虽然道德嵌入技术暂未实现，但其一直被视为人工智能伦理风险规避的主要手段。社会学家布鲁诺·阿图尔称其为“将装置道德化”，将道德规范对人的约束转变为对物的“道德嵌入”。
除了加紧对道德嵌入技术的开发，还要在设计环节增强道德风险意识，在设计之初预测和评估人工智能产品可能引发的道德危害，从设计源头进行规范。现今暴露的诸多人工智能道德失范问题，实则也是算法设计的疏漏。
尽管对于人工智能技术，还有很多未知领域等待我们探索，但最重要的是必须坚持以理性、积极的心态应对人工智能带来的技术革命。正如兰登·温纳在《自主性技术：作为政治思想主题的失控技术》中所说的，“失控不是技术本身的错，只是人们想象泛滥疑惑勇气的缺失。”
【科技云报道原创】