人工智能的伦理挑战
原标题：人工智能的伦理挑战控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”维纳的这句谶语，在今天未必成为现实，但已经成为诸多文学和影视作品中的题材。《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。
一
维纳的激进言辞和今天普通人对人工智能的担心有夸张的成分，但人工智能技术的飞速发展的确给未来带来了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其原因在于，人工智能的伦理学讨论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种特殊的产品――根据未来学家库兹威尔在《奇点临近》中的说法――一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情况下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？
实际上，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。在人工智能领域，从一开始，准确来说是依从着两种完全不同的路径来进行的。
首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次特殊的研讨会，会议的组织者约翰・麦卡锡为这次会议起了一个特殊的名字：人工智能（简称AI）夏季研讨会。这是第一次在学术范围内使用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成称作“信息论之父”的香农意义上的信息，并加以控制和应用。这一阶段上的人工智能的发展，在很大程度上还是对人类行为的模拟，其理论基础来自德国哲学家莱布尼茨的设想，即将人类的各种感觉可以转化为量化的信息数据，也就是说，我们可以将人类的各种感觉经验和思维经验看成是一个复杂的形式符号系统，如果具有强大的信息采集能力和数据分析能力，就能完整地模拟出人类的感觉和思维。这也是为什么明斯基信心十足地宣称：“人的脑子不过是肉做的电脑。”麦卡锡和明斯基不仅成功地模拟出视觉和听觉经验，后来的特里・谢伊诺斯基和杰弗里・辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，模拟了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出简单的思考。
然而，在这个阶段中，所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的原理很简单，让测试一方和被测试一方彼此分开，只用简单的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。所以，图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
二
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
三
这样，由于智能增强技术带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，所以，两个平面之间也需要一个接口技术。接口技术让人与智能机器的沟通成为可能。当接口技术的主要开创者费尔森斯丁来到伯克利大学时，距离恩格尔巴特在那里讨论智能增强技术已经有10年之久。费尔森斯丁用犹太神话中的一个形象――土傀儡――来形容今天的接口技术下人与智能机器的关系，与其说今天的人工智能在奇点临近时，旨在超越和取代人类，不如说今天的人工智能技术越来越倾向于以人类为中心的傀儡学，在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。当苹果公司开发与人类交流的智能软件Siri时，乔布斯就提出Siri是人类与机器合作的一个最朴实、最优雅的模型。以后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因衰老而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技术问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾难，而是一种新的希望。
（作者：蓝江，系南京大学哲学系教授）
欧盟人工智能伦理准则概要
欧盟人工智能伦理准则概要-中国法院网中国法院网首页新闻审判执行评论时讯法学地方法院论坛博客客户端首页>app>域外司法欧盟人工智能伦理准则概要2019-04-1914:53:34|来源：人民法院报|作者：宋建宝人工智能（ArtificialIntelligence，简称AI）能够造福社会，让我们的世界变得更加美好，但同时在法律和伦理方面也带来了新的挑战。为了有效应对这些挑战并充分利用AI带来的新机遇，欧盟委员会于2019年4月8日以“建立对以人为本AI的信任”为题，发布了欧洲版的AI伦理准则，期望建立“以人为本、值得信任”的AI伦理标准，不断促进社会公众接受AI技术、应用AI技术。出台背景《欧洲人工智能战略》提出，AI应当坚持以人为本的价值观立场，AI本身并不是目的，只是服务人类的工具，其最终目的应当是增进人类福祉。因此，AI的开发应用需要全面融入社会价值观。欧盟是建立在尊严、自由、民主、平等、法治和人的基本权利（包括少数人的权利）等价值观之上的。这些价值观在盛行多元主义、非歧视、宽容、正义、平等、团结等欧盟成员国中也都获得普遍认同。此外，《欧盟基本权利宪章》规定了欧盟人民所享有的个人的、公民的、政治的、经济的和社会的各项权利。这些都为AI的开发应用提供了以人为本价值观的基础保障。信任是确保AI坚持以人为本价值观立场的前提条件。AI应当不断增强人们的能力，尊重人们的基本权利，不断赋能于人类，而不是取代人类，更不能奴役人类。因此，AI必须获得人们的信任。欧盟现有的监管制度，为AI的可信任性提供了强有力的法律保障。《通用数据保护条例》确立了个人数据保护的高标准，并要求采取措施，确保蓄意情况下和默认情况下的个人数据保护。《非个人数据自由流动条例》则消除了非个人数据自由流动的障碍，可以确保欧洲任何地方任何类型的数据都能够得到处理。最近通过的《网络安全法》将有助于增强人们对网络空间的信任，提议中的《电子隐私条例》也旨在增强人们对网络世界的信任。然而，AI技术带来了新的挑战。AI技术最突出的特点就是能够让机器不断地“学习”，并且在没有人类介入的情况下机器能够自行做出决定和执行决定。数据、算法和算力是人工智能的三个支撑基础，三者之间的关系，简单来说就是算法依据数据进行运算后做出决定并执行决定。但是，算法所依据的数据可能是不完整的，可能是被篡改过的，可能存在固有偏见，也可能仅仅是错误的。无论具体原因如何，这势必将引发一些不确定的结果，导致人们觉得AI技术是不可靠的。由此可得，AI要获得社会公众的信任，不仅要遵守法律规定，还应当符合伦理原则并确保避免意外伤害。据此，欧盟委员会认为，需要在现有监管制度的基础上制定伦理准则，供AI开发商、制造商、供应商和使用者在内部市场中予以采用，进而在所有成员国范围内建立通行的AI伦理标准。为此，欧盟委员会设立AI高级专家组，并委托起草AI伦理准则。AI高级专家组于2018年12月发布了伦理准则初稿，随后与利益相关者、欧盟成员国代表进行会商。根据相关反馈意见，AI高级专家组于2019年3月向欧盟委员会提交了修订后的AI伦理准则。主要内容欧盟AI高级专家组起草该伦理准则过程中，参考了欧洲科学与新技术伦理小组和欧洲基本权利机构的有关工作成果。为了实现“可信任AI”，本伦理准则确立了三项基本原则：（1）AI应当符合法律规定；（2）AI应当满足伦理原则；（3）AI应当具有可靠性。根据这三项基本原则和前述欧洲社会价值观，本伦理准则进一步提出了“可信任AI”应当满足的七项关键要求，具体包括：（1）人的自主和监督；（2）可靠性和安全性；（3）隐私和数据治理；（4）透明度；（5）多样性、非歧视性和公平性；（6）社会和环境福祉；（7）可追责性。虽然所有AI都应当满足这些关键要求，但是在实践中需要根据具体情况确定相应的实施标准，例如，用于阅读推荐的AI应用程序可能引发的风险肯定要比用于医疗诊断的AI应用程序引发的风险小得多，由此这两种AI应用程序对上述关键要求的实施标准也应当有所不同。欧盟委员会认为，AI高级专家组起草的这份伦理准则对制定AI发展政策具有重要的参考价值，鼓励AI开发商、制造商、供应商等利益相关者积极采用这些关键要求，以便为“可信任AI”的成功开发应用建立更为有利的社会环境。同时，欧盟委员会希望利益相关者积极提供意见和建议，以便评估本AI伦理准则是否需要进一步调整。需要指出，欧盟AI高级专家组起草的这份伦理准则并不具有法律上的约束力，因此对相关机构和人员不会产生任何新的法律义务。但是也确实需要注意，欧盟现有的一些法律规定已经体现了上述七项关键要求中的一项或者几项内容，例如安全、个人数据保护、隐私、环境保护等等。具体解释1.人的能动与监督人的能动，是以人为本价值观的具体体现。这要求人在由人—机构成的AI中仍然保持其主体性，AI应当增强人的自主性和保障人的基本权利，帮助个人根据其目标做出更好的、更明智的选择，进而促进整个社会的繁荣与公平，而不是减少、限制或者误导人的自主性。人的监督，可以确保AI不会削弱人的自主性或者造成其他不利影响。为此，要依据AI及其特定应用领域，确保适度的人为控制措施。人对AI的监督越少，AI就应当接受更广泛的测试和更严格的管理。事物之间的关系总是相互平衡的，因此反之亦然。人的监督可以通过相应的治理机制来实现，例如人机回环、人控回环等方法。同时，AI也必须保障公共管理部门能够依据法定职权对AI行使监管权。2.可靠性和安全性首先，“可信任AI”要求其所用算法必须具有可靠性和安全性，完全能够应对和处理AI整个生命周期内其自身发生的各种错误结果。其次，AI具有可靠性和安全性，要求AI能够抵御来自外部的各种攻击和不当干扰，不仅能够抵御那些公开的网络攻击行为，也同样能够抵御那些试图操控数据或算法的隐蔽行为。最后，“可信任AI”的决定必须是准确的，或者至少能够正确地反映其准确率，并且其结果应该是可重复的。此外，AI应当确保每一步都具有可验证的安全性。这就要求，AI运行过程中发生的各种意外后果和错误都必须进行最小化处理，甚至在可能情况下进行可逆性处理。同时，针对AI运行过程中可能发生的各种潜在风险，应当事先予以充分披露并建立相应的评估程序。3.隐私与数据治理隐私和数据保护在AI整个生命周期的所有阶段都必须得到保障。根据人们行为信息的数字化记录，AI不仅可以推断出个人的偏好、年龄和性别，还可以推断出他们的性取向、宗教信仰或政治观点。为了使人们能够信任AI的数据处理，AI必须确保人们对自己的数据拥有完全的控制权，并且确保人们不会因为这些数据而受到伤害或歧视。除了保护隐私和个人数据，高质量AI还必须满足一些额外要求。首先，AI应当采用高质量的数据集。当收集数据时，AI可能会反映出社会上的一些偏见，或者纳入一些误差或者错误。对于任何给定数据集的AI来说，这些问题必须在训练之前予以解决。其次，AI必须保证数据的完整性。AI所用方法和数据集在每个步骤，例如计划、训练、测试和应用等等，都必须进行测试和如实记录。最后，高质量AI必须严格管控其数据访问。4.透明度首先，AI应当具有可追溯性。AI要如实记录系统所做的决定及其生成决定的整个过程，包括数据收集描述、数据标记描述以及所用算法描述。其次，AI应当提供其组织化的决策过程、系统设计选择的理由以及相应的应用理由，不仅要确保其数据和系统的透明度，还要确保其业务模型的透明度。再者，结合已有应用案例，AI的能力与局限应当以适当方式充分披露给不同的利益相关者。最后，AI应当是可识别的，以确保使用者知道他们与哪一个AI正在进行交互，并且知道由谁对该AI负责。5.多样性、非歧视性和公平性AI所用数据集（包括用于训练的数据集和用于实际应用的数据集）可能会受到无意识的偏见、不完整性和不良治理模型的影响。持续的社会偏见可能导致间接的或直接的歧视。当然，一些伤害也可能是AI开发商、制造商、供应商，甚至使用者，故意利用偏见或者从事不公平竞争造成的。诸如此类的问题，在AI开发之初就应当予以解决。为此，AI开发商在开发过程中应当建立多样化的设计团队，建立保障参与机制，有助于避免这些问题。同时，开发商不断咨询在AI生命周期内可能直接或间接受到系统影响的利益相关者，也有助于解决这些问题。另外，AI开发商应当全面考虑不同人群的能力和需求，确保AI具有易用性，并尽力确保残疾人也能够便利、平等地使用AI。6.社会与环境福祉对于AI的影响，不仅要从个人的角度来考虑，还应当从整个社会的角度来考虑。人们应当认真考虑AI对社会公共治理活动的影响，特别是那些与民主决策过程有关的情形，包括意见形成、政治决策、选举活动等。此外，AI可以提高人们的社会技能，但同样也会导致人们社会技能的退化，因此AI对人们社会技能的影响也应当予以充分考虑。为了确保AI具有可信任性，还必须考虑AI对人类和其他生物的环境影响。在理想情况下，所有人类，包括后代在内，都应当受益于生物多样性和适宜居住的环境。这也同样适用于目前全球都在关注的AI解决方案的可持续发展问题。因此，人们应当鼓励AI的可持续性和生态保护责任。7.可追责性具有可追责性的AI，能够有力提升人们对AI的信任。为此，应当建立责任机制，确保人们能够对AI及其结果进行追责。AI的内部审核人员和外部审核人员对AI开展的评估以及相应的评估报告，是保障人们能够对AI进行追责的关键。因此，AI应当具有可审核性并确保人们能够容易地获得相关评估报告。首先，AI的潜在负面影响，应当事先予以识别、评估、记录并进行最小化处理。对于需求之间不可避免的权衡，应当以合理的方式进行解决并予以说明。其次，对于影响人们基本权利的那些AI应用程序，包括有关安全的一些重要应用程序，尤其应当确保其具有外部可审计性。当然，对于AI应用过程中发生的不公平的不利影响，应当提供可预期的、便利的、充分的补偿机制。实施计划为了确保本伦理准则能够在AI开发应用过程中得到实施，欧盟委员会将在欧盟内部启动有针对性的试点工作，同时将努力促进国际社会就“可信任AI”达成广泛共识。1.在欧盟内部启动试点工作为了确保本伦理准则的实施，欧盟委员会将在欧盟内部启动有针对性的试点工作，目的在于获得利益相关者的反馈。试点工作主要包括两部分：（1）针对AI利益相关者以及公共管理部门开展评估和反馈；（2）组织欧盟成员国和不同利益相关群体之间开展持续协商和加深认识。到2020年初，对试点阶段收到的各种反馈进行评估后，欧盟AI高级专家组将审查和更新本伦理准则。根据审查结果和实施经验，欧盟委员会将评估实施结果并提出后续工作计划。2.努力将伦理准则推向国际社会考虑到AI在数据流通、算法开发和产业投资方面的国际性，欧盟委员会将努力向全球推广本伦理准则，积极促进国际社会就“可信任AI”达成共识。为此，欧盟委员会将积极开展以下工作：加强与志同道合伙伴的合作。一方面，积极探索本伦理准则与第三国（例如日本、加拿大、新加坡）伦理准则的融合程度，然后在此基础上，为更大范围内伦理准则讨论做好准备。另一方面，尝试探索非欧盟国家的公司和国际组织测试和验证本伦理准则，从而为本伦理准则的“试点阶段”做出贡献。继续在国际讨论和倡议中发挥积极作用。主要包括：为G7集团和G20集团等多边论坛做出贡献；与非欧盟国家开展对话，组织双边和多边会议；为国际标准组织的相关标准化活动做出贡献；加强对公共政策的收集和传播，与相关国际组织开展合作。（作者单位：中国应用法学研究所）责任编辑：邵倩雯分享到：网友评论：0条评论相关新闻：暂无相关新闻！要闻最高法：不忘初心使命践行公平正义“要牢牢守住人民法院工作的初心，把‘努力让人民群众在每一个司法案件中感受到公平正义’记在心里、扛在肩上、落实在行动上... 【详情】人民法院新闻传媒总社招聘新媒体工作人员公告全国法院优秀微电影微视频新剧本征集启事主题教育专访：在找差距抓落实...“案例大讲坛”探讨未成年人权...各地法院：坚定改革决心增强改...庭审直播点击排行李鹏同志逝世享年91岁新政出炉高校第二学士学位本...强奸幼女并强迫卖淫的罪犯何龙...河北省张家口市怀来县发生有害...孙小果再审一案的观察与分析孙小果案再审彰显法治力量国家能源局原局长努尔·白克力...香港示威者冲击中央驻港机构...周强：为推动全面停止军队有偿...中国庭审公开网庭审直播突破40...图文直播7月29日9：30称拖欠玻璃货款数万元销售商诉采购者返还7月29日9：15称哺乳期被辞退诉求支付赔偿金7月26日9：15称未支付提成款公司被诉至法院7月25日10：00两辆自行车相撞损失要如何处理7月25日9：15上班时员工斗殴受伤诉求返还垫付医药费联系我们|广告服务|网站地图|法律声明|建网须知|招聘中国法院国际互联网站版权所有，未经协议授权禁止下载使用或建立镜像 Copyright©2019bywww.chinacourt.orgAllRightsReserved.京公网安备11010102003813号|互联网新闻信息服务许可证(1012006040)|网上传播视听节目许可证(0108276)|京ICP备17032772号中国互联网举 报 中 心浅谈人工智能时代下的工程伦理问题
浅谈人工智能时代下的工程伦理问题一、引言近年来，随着大数据基础设施建设以及人工智能技术的发展，社会中涌现出许多新技术，给人们带来更便捷的生活。但与其共生的道德风险问题也日益显著。人工智能道德风险即人工智能技术带来的伦理结果的不确定性，其既有主观因素也有客观因素，具体表现有道德算法风险、道德决策风险、隐私数据泄露风险等。风险主要成因有技术主体、政治、经济、文化等社会因素。结合当下大数据驱动的人工智能算法特点，如何运用风险治理思想分析其背后的工程伦理问题对人工智能领域发展具有重要意义。
二、人工智能时代的当下在1956年达特茅会议中AI这个概念被提出，经历数次低谷与发展浪潮，人工智能再次活跃在大众的视野中，并且以更完备的生态以及更强的活力积极改变我们的生活。在如今的人工智能浪潮中，深度学习因为其能够胜任更复杂、更庞大的场景而成为主流。
在AI的应用层面，随着大数据基础设施建设的日趋完备，人工智能孕育出许多产业，如：数据挖掘、人脸识别、语音识别、自动驾驶等。同时医疗卫生、交通运输、仓储物流、游戏等行业都已经或正在接受人工智能的优化。
2019年11月11日24时整，“双11”全天的物流订单量达到创纪录的12.92亿元，物流订单量迎来了“爆炸式”的增长。“双11”全天各邮政、快递企业共处理5.35亿快件，是二季度以来日常处理量的3倍，同比增长28.6%，再创历史新高。而在其背后做支撑的是一套完整的基于大数据的人工智能系统。
目前，百度、阿里、腾讯、谷歌等主流互联网公司正在大力投资人工智能相关产业与技术，而与此同时全球正有上千家公司全力押注人工智能，并且这个趋势依旧保持稳定增长的速度。
三、人工智能伦理问题日益凸显显然，在当下这个人工智能技术飞速发展的时代，人工智能技术的广泛应用为人类带来了显而易见的好处。但技术的进步不但扩大了人类对于技术的恐慌，同时也放大了由于某些技术缺陷和忽略道德伦理问题而带来的负面影响。
3.1忽略伦理问题下产生的算法歧视问题外卖作为当下快节奏生活的必需品，在其背后做支撑的是数以百万的外卖员和强大的人工智能系统。2020年9月8日，一篇名为《外卖骑手，困在系统里》的文章在互联网上被热议，文章指出：2016至2019年间，美团多次向配送站站长发送加速通知，3公里的送餐距离最长时限一再被缩短至38分钟；而根据相关数据显示，2019年中国全行业外卖订单单均配送时间较3年前减少了10分钟。外卖骑手在系统算法与数据的驱动下疲于奔命，逐渐变成高危职业——骑手为在算法规定的最长送餐时限内完成送餐任务无视交通规则，不断提高车速。
许多伦理问题都是由于实践主体缺乏必要的伦理意识造成的，而外卖平台算法使得外卖骑手被“困在系统里”显然是工程的决策者以及管理者没有考虑相关的伦理问题所导致的。外卖平台作为一项服务消费者、向社会提供就业岗位的工程，其目的与其他类型的工程类似，均为满足人类在某方面的需求，但工程在向社会提供服务的同时不应当忽略工程风险问题。
3.2从风险与安全角度分析外卖平台工程风险的防范与安全分为工程的质量监理与安全、意外风险控制与安全和事故应急处置与安全三个方面，分析外卖平台的工程风险主要从意外风险控制和事故应急处置两方面展开。
3.2.1意外风险控制维度的工程风险外卖平台作为服务大众的工程项目，其受众人数巨大——外卖市场规模超6500亿元，覆盖4.6亿消费者，工程一旦出现意外风险控制不当的情况则对其受众造成无法估量的损失。在基于大数据的人工智能算法的训练过程中，算法训练结果会随着数据重心的整体偏移，从而导致外卖骑手不得不加快派送的速度进而风险增加。因此，为避免人工智能系统追求极致地无限制缩短派送最长时限，工程师和程序设计者在程序设计之初应当添加阈值以保证外卖平台背后的外卖骑手能够在遵守交通规则的前提下及时、安全地完成任务。
3.2.2事故应急处置维度的工程风险事故应急处理体现着工程负责人、相关利益反对工程的理解程度。应对工程事故，应当事先准备一套完整的事故应急预案，保证迅速、有序地开展应急与救援行动，降低人员伤亡和经济损失。外卖骑手因忽视交通规则造成伤亡的事件并非最近才发生——2017年上半年，上海市公安局交警总队数据显示，在上海，平均每2.5天就有1名外卖骑手伤亡。同年，深圳3个月内外卖骑手伤亡12人。2018年，成都交警7个月间查处骑手违法近万次，事故196件，伤亡155人次，平均每天就有1个骑手因违法伤亡。2018年9月，广州交警查处外卖骑手交通违法近2000宗，美团占一半，饿了么排第二。而外卖平台除口头告诫骑手之外并没有推出从根本处解决问题的措施，直到《人物》发表《外卖骑手，困在系统里》一文后外卖平台才相继推出多等5分钟的政策。
3.3从工程四要素角度分析外卖平台工程包括技术要素、利益要素、责任要素、环境要素以及伦理要素，接下来将从工程四要素中的技术、利益与责任这三个方面来展开。
3.3.1技术维度的道德风险基于算法和大数据的人工智能技术背后隐藏着风险。算法体现着工程师和程序设计者的思想，其政治立场和社会偏见都会不可避免的嵌入程序中。从大数据中诞生的人工智能系统通常会存在基于数据采样偏差带来的问题，而这类问题在后续的训练中不会被消除甚至可能被放大。因此，为消除算法与数据采用带来的偏见，工程师以及程序设计者在程序设计之初就应当消除主观偏见；同时在数据的处理方法中，应当极尽全力保证数据的准确，降低数据偏差带来的风险。
3.3.2利益维度的道德问题人工智能存在威胁、侵犯人类利益的风险。从安全角度来说，人工智能应当对人类来说是安全的、可靠的、不作恶的。以外卖平台派单系统为例，外卖骑手在系统的算法歧视下被迫忽视交通规则，对骑手、对行人已经构成严重的安全隐患。因此，如何通过人工智能系统，在权衡各方利益、兼顾效率、保证安全的前提下实现利益最大化是人工智能系统需要解决的核心问题。
3.3.3责任维度的道德风险人工智能在价值选择困境与责任承担困境中存在风险。外卖平台派单系统在消费者对于外卖的时间要求与外卖骑手在派送过程中的风险问题之间面临抉择，系统应当尽量满足消费者的需求而忽视外卖骑手的安全，还是应当在尽量保护骑手的安全的前提下提高派送效率？在人工智能系统作为自主行为主体的情况下，系统会逐渐压缩骑手的安全空间。而在发生事故之后的责任鉴定中，系统并没有能力为自己的决策承担其相应的责任。
四、总结为避免人工智能出现无节制的追求极致从而导致技术、利益、责任等方面的道德风险，实现人类社会可持续发展的目标，人工智能的设计应当秉承着将人类健康、安全和福祉放在首位的原则。由外卖平台人工智能系统这一例所引发出来的思考，进一步提出以下建议：
1、工程设计之初应当强化工程负责人、管理者、工程师以及程序设计者的伦理意识。由于算法、工程体现着设计人员的思想，而相关人员对伦理方面的意识缺失必将导致缺乏伦理思想的工程存在缺陷。
2、强化工程相关人员的风险与安全意识。风险与安全始终是工程无法逃避的问题，针对风险可接受性进行完备分析与评估，并对一系列不可控意外风险制定相关预警机制与应急机制是控制风险、规避风险、妥当处理事故的唯一途径。
3、强化人类主导和监督能力。人类主导以及人为监督有助于人工智能系统不会走向极端，从而出现逻辑上无比正确却存在人类伦理问题的缺陷。
4、明确人工智能系统的责任归属。程序设计之初应当对程序设计者针对不同模块的设计明确责任归属，当下人工智能的发展远远没有达到成熟阶段，相应的人工智能系统也没有能力对其发展的不良后果负责，这个责任很自然的需要其背后的软件工程师、程序设计者、工程负责人以及管理者共同承担；人工智能系统在设计阶段明确责任归属有利于工程事故发生之后的责任归属划分；有利于在程序设计阶段强化工程师们的工程伦理意识。
从技术发展的角度来看，人工智能系统因其发展历史较短、技术成熟度低等原因远未达到可以完全信赖的地步。人工智能系统在设计中应考虑预防性安全措施来防范风险，减少不可接受的伤害。