人工智能民事主体地位探究
人工智能时代已然来临，诸如人脸识别、无人驾驶、智能机器人越来越受到人们的青睐。人们一方面享受着人工智能所带来的便利，一方面对人工智能技术的滥用产生了担忧，特别是法律方面，人工智能的立法规制、人工智能侵权责任的承担等问题引起了学者们的广泛关注。当务之急，需要深入探究人工智能是否具有民事主体地位，以此作为思考的逻辑起点，推动人工智能立法进程。本期文萃对不同学者关于人工智能民事主体地位的研究进行了汇编，学者们从不同角度对这一主题进行了有益的探索。
人工智能对传统民事法律主体带来挑战
马佳在《法治与社会》2019年29期《民法视域下人工智能法律主体地位之辨思》一文中认为，依我国目前法律，传统民事主体经历了由非全部的自然人，到全部的自然人，再到法人与自然人的二元主体的过程，人工智能对传统民事主体的挑战主要集中在人工智能应被视为民事主体还是客体问题。如果视为民事主体，传统民事主体的二元制结构是否被打破；还是类比法人，赋予其有限法律人格？
不仅是理论层面，实践中人工智能也向传统民事法律主体提出了新的挑战。一是人工智能对知识产权保护所带来的挑战。微软公司曾推出智能机器人“微软小冰”进行写诗，那么“微软小冰”对其作品是否享有版权？是否承认其著作权人的地位？微软公司为避免争议，宣布“微软小冰”放弃版权。二是人工智能对侵权责任的认定也带来了挑战。我们无法回避无人驾驶汽车在这方面可能带来的问题，无人驾驶机器造成他人损害，由谁承担侵权责任和产品责任？随着科学技术发展，当拥有高度自控能力，超越其自身算法设计的强人工智能实施的致害行为，是否仍应由机器人的所有者承担，这也是人工智能对民事侵权责任提出的新课题。
从功能主义的角度来看，没有必要赋予人工智能民事主体地位
王艳慧在《华东政法大学学报》2020年第4期《人工智能民事主体地位的论证进路及其批判》一文中认为，人工智能的发展所带来的著作权归属、智能合约、智能侵害责任等都能被现行法规范所涵摄，从功能主义的角度来看，没有必要赋予人工智能民事主体地位。通过对民事主体确立的思想史考察可以发现，自然人民事主体地位的确立伴随着世界观上人的主体地位的确立，与独立、自由、平等等天赋的自然权利观念的广泛传播密不可分。伦理人的意义在于不需依靠任何外在的力量而是人自身的意志能力即可确定人之为人，这种意志能力具有规范性认知，“应当”具有辨别和选择的能力。对于人如何看待自己与世界的关系的演进历程，其间经过了客观法向主体法、义务法向权利法、本体论向认识论的重大转向，是人本主义的实践，是人的尊严与价值的确立过程。因此，民事主体制度的设计不是单纯的立法技术的使用问题，而是具有深刻的伦理内涵。
一旦赋予人工智能民事主体地位，意味着两种智能主体的并存，以自然人为民事主体建立的法律关系大厦将面临倾覆的危险，主体法时代的法律框架将可能坍塌，人的历史将被改写。人工智能依赖于思维的机械化，是模仿人的认知，是理性的思辨运用，与意志支配行动的实践理性不同，实践理性依据道德律令以实现“善的意志”为最高目的，寄望于赋予人工智能民事主体地位是对理性不同运用方式的混淆。近代以来，科学主义的工具性思维渗透进人类活动的各个领域，尤其是科技对伦理的僭越，已经造成了人的生命的无“意义”感。人的历史是社会活动的历史，人通过生产实践来确证自身，但人也可能被自己实践活动的产品所奴役。面对人工智能等新科技的发展，人应当坚持保守主义态度，这对于法哲学的重大意义在于：从人类独有的理性出发，推导出人在与外部世界的对立统一关系中作为主体的自由属性，并将其设定为法权体系展开的逻辑条件和终极目标。
人工智能获得主体资格并非解决现实问题的唯一路径
石冠彬在《西南民族大学学报》（人文社会科学版）2019年第12期《人工智能民事主体资格论：不同路径的价值抉择》一文中认为，赋予人工智能以民事主体资格并不存在与主体能力的本质相冲突、将贬低人的主体地位、有违伦理道德等所谓的法理障碍，且在立法方案的设计上具有可行性，可通过类比公司注册资本设立强制保险赔偿金，作为建构人工智能独立民事主体地位的责任财产基础，能有效解决人工智能创作物、自动驾驶侵权责任等具体问题。但人工智能获得主体资格并非解决现实问题的唯一路径，人工智能所引起的法律难题在现行法框架内尚能解决，肯定人工智能民事主体资格暂无迫切性。最终则取决于能否更好地实现人类利益，是人类功利主义价值衡量的结果。即使如此，也应当强化构建人工智能民事主体资格的理论研究，为未来可能的立法提供理论补给。
现阶段在法律上赋予人工智能主体地位，人类或将失去保护自身地位的法律武器
陈嘉敏、朱健在《惠州学院学报》2020年第1期《人工智能的民事主体资格探究》一文中认为，发明人工智能并不是为了让人工智能与人类等同或者说是取代人类，发明人工智能最初以及最后的目的应当且只能是为了解放人类的双手，与人类智能进行互补，让人类过上美好的生活。因此，作为“好帮手”的人工智能是不应当被认定为民事主体，至少现阶段是不适宜的。其次，人工智能发展迅速，其未来是我们无法预料的，即使法律曾经有过超前立法，但是从总体来看，法律明显是滞后的，不可能通过法律来规制将来发生的事情，从这一点上看，也不应当赋予人工智能以法律主体地位。最后，法律作为人类主体特有的调整人与人之间关系的社会规范，它可以说是保护人类的最后防线，如果人类为了一时的方便，而将人工智能作为法律主体纳入保护的范围，其不仅将面临着国内法的重新规划，还有全球国际法的重构，我们无法预料将来人工智能会发展到哪个阶段，如果现阶段在法律上赋予人工智能主体地位，没有在一定程度上对人工智能这一类新生事物进行法律限制，那么人类或将失去保护自身地位的法律武器。
（栏目主持：赵鑫）
王水兴：人工智能的马克思劳动价值论审思
人工智能能不能完全代替人类劳动，这关涉对“什么是人工智能”和“人的本质是什么”两个根本问题的理解和把握。在马克思劳动价值论论域中，承认人工智能完全代替人的劳动，意味着对马克思劳动价值论的否定。否定马克思劳动价值论则意味着对经典马克思主义理论根基的否定。以马克思劳动价值论立场、观点和方法，阐明人工智能的本质、价值及其对人类社会的影响，形成科学的人工智能观，对坚定马克思主义信仰，校准人工智能发展理念，调适社会公众对人工智能的认知具有重要理论和现实意义。
一、人工智能不创造价值
2020年1月，广东省深圳市南山区人民法院一审审结，原告深圳市腾讯计算机系统有限公司诉被告上海盈讯科技有限公司侵害著作权及不正当竞争纠纷一案，认定人工智能生成的文章构成作品。此案系全国首例认定人工智能生成的文章构成作品案件。这是否意味着在法律上首次确认了人工智能著作权，赋予人工智能独立的法律主体地位，在一定程度上赋予了人工智能的独立人格权利。这对智能时代促进社会创新发展具有重要意义，同时又对知识创造工作是人类专属能力的传统认知形成冲击。人工智能具有知识创造能力在一定程度上意味着作为知识创造主体的人的地位受到挑战。
人工智能作为人类创造的“技术存在”发展至今，理论上在几乎全部领域都可以代替人类劳动。如果人工智能具有自主意识并获得独立的人格地位，那就意味着人类创造了自己的“同类”。智能社会发展，劳动是否不再是人类专属的活动？未来人类可以不再需要劳动吗？马克思劳动价值论会过时吗？劳动如何才能成为“人们生活的第一需要”？
其一，必须明确，人工智能本质是“人类智能的弥补、延伸、增强，是人类智能在人工机器中的技术再现的智能……人工智能是对人类智能的模仿，是以人类智能为原型的技术再现”。人工智能载体主要是一种自主学习、图像识别、语音识别、神经网络等综合技术合成的计算机程序系统。上述案例中的人工智能本质是科研人员研发的计算机程序系统。确认人工智能生成作品具有著作权，本质是确认该计算机程序系统所有者对该著作具有其排他性所有权，与承认人工智能可以创造价值不具有等同意义。
在数据化、网络化、智能化条件下，“创新（创造）有时候就是相关要素的重组，而人工智能排列这种组合甚至比人类具有更大的优势”。但是，人工智能能够进行的这种“排列组合”的目的（劳动目的）和材料（数据资源）仍然依赖人类劳动创造。人工智能的劳动资料核心是数据。“人工智能应用的过程实质是计算机处理数据的过程。没有数据就没有计算的材料，就无法实现所谓的智能。”而人工智能运行所需要的、能够进行计算的、合规的数据都源自人类社会创造。先有人的劳动赋予机器可感知、能够被机器获取、研判和分析的数据，人工智能才形成与人类类似的“智能”进而可以代替人“劳动”。“有多少人工,就有多少智能”是人工智能内在的逻辑，否则就不会被称作人工智能。
质言之，人工智能只是“人工”的，而不是“机器”本身的。人工化的“智能”本质上是工程师设计出来的。人工智能本质上是人类劳动形成的技术存在物。人工智能“劳动”目的、劳动材料本质上都源自人类劳动创造。人工智能仍然从属于人类智能。人工智能“劳动”过程只是人类劳动过程的一个部分或片段。归根到底，“机器和人工智能都是人所创造出来的技术现象，也都是人类器官的延长、对人的能力的增强……今天所说的‘人工智能’，就是应用电子计算机这一科技手段来对人的智力加以模仿和增强”。人工智能“创造”的价值根本上是研发和使用它的工人创造的。
马克思劳动价值论的核心要义是，人的活劳动是商品价值的唯一源泉。凝结在商品中的价值来自工人的活劳动。商品的价值量是由生产商品的社会必要劳动时间决定的。商品交换关系实质是商品生产者之间的劳动交换关系。
如果人工智能完全代替人，那就意味着在人类之外，在地球上出现了一种至少与人类地位平行的“新物种”。问题在于，如果人工智能与人具有等同地位，就像我们已经看到的一样，人工智能在个别国家取得了“公民权”，那么人工智能也会像人一样结婚、生子、购物和旅游消费吗？如果人工智能完全和人一样了，那人工智能是否也会要求增加工资、改善劳动环境，甚至联合起来“革命”以反抗人类的管治？如此，人类还敢用人工智能吗？那种能够完全取代人的劳动的人工智能即使被造出来也不能保证商品生产者愿意使用。人工智能如果能完全取代人的劳动就完全有可能形成反人类“意识”。
其二，没有生产就没有消费，没有消费就没有生产。在社会化大生产中，商品生产要能够持续进行下去，一是需要有维持生产的持续存在的劳动力，二是需要有持续存在的消费市场，二者缺一不可。人工智能如果只需要像人一样劳动而不需要像人一样的消费，现实的劳动者又大规模失业，那基于人工智能形成的发达生产力生产的商品谁来消费呢？智能技术赋能物质生产形成的极致生产力以及由此形成的庞大的商品如果只在有产者之间消费，很快就容易导致商品市场饱和，商品生产就无法正常运转。但实际上人工智能嵌入商品生产过程一直在全球范围持续发展。
合理的解释只能是，人工智能的应用没有改变凝结在商品中的价值来源的本质。对此，马克思在《资本论》中早有洞见：“随着机器在同一生产部门内普遍应用，机器产品的社会价值就降低到它的个别价值的水平，于是下面这个规律就会发生作用：剩余价值不是来源于资本家用机器所代替的劳动力，而是相反地来源于资本家雇来使用机器的劳动力。”因此，归根到底，人工智能是人的创造性劳动的结果，是人对诸如电力、磁力、热力等自然力的应用，是人的创造力的外化和创造性劳动能力的直观体现。对人类而言，人工智能是对人的本质的确证，是“人的手创造出来的人脑的器官”，“是对象化的知识力量”。凝结在商品中的价值只能来自人的活劳动。无论是否使用人工智能，同一劳动在同样的时间内创造的价值量是相同的，变化的只是商品的使用价值量。
可以预见，在相当长的时期内，任何人工智能的成功运行都离不开进行复杂劳动的工程师的维护。没有工程师的前置性劳动，人工智能就不能代替人的活劳动。人工智能投入“劳动”后，经过一段时间的使用后最终归于报废（计算机程序系统会因为不符合生产要求的变化而被淘汰），其价值转移到了其自身生产的商品中了。尽管随着技术迭代发展，人工智能“劳动”场景会不断得到丰富和发展，但是，人工智能的“劳动”终究离不开人类社会生产有机体。
综上，人工智能代替人类劳动过程实质是人类劳动能力通过智能工具系统延展的过程。智能工具系统承载了人的劳动的意志和动机。通过预先的设计，人实现了对人工智能的控制，从而人工智能表现为“脱离”人的、“自主”的劳动样式。人工智能的“劳动”只是人类劳动力的延展形式，是人类劳动能力通过数字化、网络化、智能化技术系统拓展至人的身体之外的过程。人工智能“劳动”过程实质是人的体能和智能的延展，是人的复杂劳动成果的集中应用和体现。在商品经济中，人工智能作为商品的本质仍然是人类活动的对象化、人类劳动的外化，是工人制造的一种能够代替人执行特定劳动任务的新的商品形态。人工智能代替人的劳动，是数字化、网络化和智能化技术加持下人类劳动形态演化发展的结果。人工智能技术深度发展，越来越多的人类劳动实现了从人的“具身化”向“离场化”转变。人工智能使人类在越来越多的劳动场景中“离场”，只是人类创造的汇聚性技术体系构造的劳动表象，劳动创造价值的本相没有改变。商品的价值创造过程中劳动者没有也不可能“离场”。
二、人工智能不会使劳动阶级成为“无用阶级”
在马克思劳动价值论论域中，人的本质决定了人工智能永远不可能具备人的社会生产者和消费者的双重主体地位。人工智能的复杂性、科学性终究难以取代和超越人的社会主体性和历史主体性。提出人类终将迎来机器智能超越人类智能的“奇点论”的库兹韦尔也承认：“即便计算机的复杂性和容量与人脑相当，也仍然无法与人类智能的灵活性相媲美。”
从人类智能进化的角度，恩格斯提出：“人在怎样的程度上学会改变自然界，人的智力就在怎样的程度上发展起来。”因此，从技术和人的相互建构和共同进化角度看，人工智能由弱向强发展，必然也伴随着人类智力水平由低到高的发展。近年来，人工智能、物联网、大数据、区块链、脑机接口技术的融合已经触发人类智能革命浪潮。脑机接口技术已经实现人脑的电信号的部分解析。微型芯片无创伤植入人脑技术研发和应用正展现“脑联网”的现实可能。智能增强技术的发展及其应用表明，人类智能正处在加速跃升时期。基于脑机接口技术的人机混合智能、基于脑联网的群体智能有望催生更强大的人类个体和人类群体智能。未来，随着脑联网开发和应用，人机融合技术将塑造全新的人类智能和人类本身。弗朗西斯·福山认为基因工程技术应用将极有可能改造人类特性，“我们将通过基因遴选决定哪些传递给我们的下一代”。基于数字技术和生物技术融合发展和应用前景的预判，克劳斯·施瓦布认为，“定制人类”将成为第四次工业革命带来的定制化社会需求技术引爆点之一。质言之，技术进化趋向中，人工智能在何种意义上能取代人的劳动取决于我们如何定义处在技术和社会双重进化中的“人类智能”和“人类”。从根本意义上讲，人工智能时代，劳动阶级将成为“无用阶级”是伪命题。
但是，历史也表明，技术的进化和应用不可能在所有社会成员中同时发挥积极效应。因此，人工智能时代来临，绸缪技术性失业问题仍然具有重要意义。人工智能技术迅猛发展，在许多工作岗位上替代了人的劳动，不仅大量的体力劳动岗位，连文学创作、新闻写作、音乐制作、司法审判、教育教学等原先只能由人来承担的工作也可以被人工智能取代。伴随着人工智能技术狂飙发展的是人类对自身主体地位丧失的深度忧虑和恐惧。如何解析人工智能代替人类劳动的过程，阐明人类和人工智能的对立统一关系，是当下亟待回答的理论和实践问题。这就必须从理论上阐明：人的劳动与人工智能的“劳动”二者之间在何种程度上可以实现替代或融合？
在马克思劳动价值论论域中，“劳动首先是人和自然之间的过程，是人以自身的活动来中介、调整和控制人和自然之间的物质变换的过程……劳动过程的简单要素是：有目的的活动或劳动本身，劳动对象和劳动资料”。劳动作为人和人类社会的存在和发展方式，是由劳动对人和社会存在和发展的意义决定的。
劳动之所以是人的特有的活动，是因为人的活动是有意识的、有目的的活动。马克思通过比较蜜蜂的活动和人的劳动过程认为，“最蹩脚的建筑师从一开始就比最灵巧的蜜蜂高明的地方，是他在用蜂蜡建筑蜂房以前，已经在自己的头脑中把它建成了。劳动过程结束时得到的结果，在这个过程开始时就已经在劳动者的表象中存在着，即已经观念地存在着”。
马克思从人和其他生命体活动的差异的视角阐明了“人的劳动”本质内涵。劳动是人之为人的活动。人怎样思考和劳动，人就以怎样的方式存在和发展。人工智能的出现是社会生产力发展的产物。人的劳动能力是人通过社会化实践习得的，而人工智能的“劳动”能力是人借助人工系统生成的。人工智能的“劳动”过程主要表现为获取数据、算法建模，完成既定的工作任务。无人驾驶汽车能够投入使用，依赖研发和维护它的工程师的劳动。离开工程师的劳动，无人汽车无法实现“自动驾驶”。真正的“无人工厂”是不存在的。在智能化工厂中，生产现场可以无人，但是在其数据控制中心和技术研发中心却积聚了大批工程师和技术研发人员。对人类而言，本质上，人类开发的人工智能与工业文明时代人类开发的蒸汽机、发电机等机器体是同等属性的，它们要发挥替代或减少人类劳动功用，离不开有知识的劳动阶级。人工智能“劳动”与“人的劳动”内涵的差异确证了人对人工智能的主体地位。
科技革命的发展以及科学技术与人类劳动的结合，使人类创造了大量的能够增强人类劳动能力的工具和机器。在人工智能技术诞生前，“人工体能”技术早已被人类应用在生产生活中。汽车比人跑得快，飞机比人飞得高，但我们不会认为飞机、汽车能取代人的行走。我们用计算机进行信息处理，同时我们也不会停止运用大脑进行信息处理。“人工智能即使再发达，人也不会因此不再使用自己的智能，而是将智能转向更有意义的领域。”实际上，工业革命以来，一部分劳动形态消失，同时也伴随着更多的劳动形态被新的社会需求创造出来。人类劳动技术进化的历史，也是人类劳动形态进化的历史。人工智能归根到底是对人类体能和智能的模仿和模拟，二者之间不具有等同意义。
智能时代，大规模人工智能的应用，特别是人工智能与实体经济相结合，引发传统的劳动形式和劳动形态的变化，对劳动者的要求不是削弱了，而是更高了。随着智能社会的深度发展，劳动者从事的劳动将是需要融入人的情感、智慧、灵感和社会经验以及人之为人的不可或缺的价值观、责任感、审美能力等特质的劳动。质言之，人工智能条件下，人类劳动将主要体现为人的创造性活动。富有创造力以及善于与他人或机器协同工作的人将成为智能社会最需要的人。
可以预见，随着智能社会的深度发展，人工智能将可能完全代替人类为了生存而进行的劳动，人机融合劳动是未来人类劳动形态演进的方向。到整个社会劳动成为丰富和发展人的本质活动的时候，劳动就成为“人们生活的第一需要”。“在一切生产工具中，最强大的一种生产力是革命阶级本身。”智能科技赋能人类社会发展，人的创造性活动成为发达的生产力源泉。这种人的“活动”必然是与人的休闲、工作、劳动融合为一体的人的本质的活动。人工智能大规模应用，只会使不劳而获的剥削阶级和食利阶层成为多余的人。劳动阶级不会成为“无用阶级”。
马克思站在批判资本主义生产方式的立场，认为在机器体系的资本主义应用中，“只要工人的活动不是[资本的]需要所要求的，工人便成为多余的了”。就是说，工人“多余”是相对于机器体系的资本应用而言的。马克思关于共产主义高级阶段的预见认为，作为生产力的科学一旦摆脱资本的束缚，“以交换价值为基础的生产便会崩溃，直接的物质生产过程本身也就摆脱了贫困和对立的形式……那时，与此相适应，由于给所有的人腾出了时间和创造了手段，个人会在艺术、科学等等方面得到发展”。可以预见，随着人工智能越来越多地代替人类为了生存而进行的劳动，人类社会就可能在科学、教育、艺术等等一切能丰富和实现人的本质领域充分全面发展起来。劳动阶级不仅不会成为多余阶级，反而会成为创造新社会的主力军。
三、人工智能不能自发消解资本主义雇佣劳动制度
人类劳动技术与人类劳动形态之间是相互建构和塑造的。有什么样的劳动技术，就有什么样的劳动形态。人工智能的应用日益使人的劳动过程智能化。劳动的智能化又不断推动人工智能发展。人工智能嵌入商品生产过程，不仅引发劳动组织、劳动格局的变革，还或快或慢引发整个社会劳动关系的重构。但是，这种重构不是人工智能自发实现的，归根到底是由应用人工智能的人实现的。作为人类创造的技术存在，人工智能本身是超越社会制度体系的。人工智能的资本主义应用和人工智能的社会主义应用都是对人的劳动的模拟和模仿。在商品经济条件下，一定的、具体的生产商品的劳动形态总是存在于具体的社会制度形态中的。
“提高劳动生产力和最大限度否定必要劳动，正如我们已经看到的，是资本的必然趋势。劳动资料转变为机器体系，就是这一趋势的实现。”一方面，人工智能是资本逻辑蔓延的必然结果，是社会生产力发展到新的水平的标志。人工智能应用能够极大提高资本有机构成，作为资本形态，其融入商品生产后必然以“吞噬活劳动”为最大职能。另一方面，“黑人就是黑人。只有在一定的关系下，他才成为奴隶。纺纱机是纺棉花的机器。只有在一定的关系下，它才成为资本”。人工智能并不天然就是资本。人工智能的资本主义应用带来的创造性破坏，既在一定程度上强化这个制度，又在一定程度上为消解这个制度创造条件。人工智能要发挥撬动人类文明跃升的“历史杠杆”作用，关键在于它能否在先进社会制度和价值体系中被人们自觉应用。
正如原子能可以造福人类也可以毁灭人类一样，人工智能的应用也有两面性。一方面，人工智能只有受到人类制定的法律、伦理制度的规约，才会被人类大规模正常应用。在相当大的程度上，当今人类恐惧的不是人工智能本身，而是它的滥用，包括各种垄断资本对人工智能的利用。即使在资本逻辑框架中，人工智能也被限定在一定的规约中。欧美日等发达资本主义国家都相继制定了各自的人工智能应用法律。这些人工智能的立法总体上能够促进人工智能在资本主义社会的发展。由此，人工智能的应用在一定程度上推动资本主义生产力继续发展，从而起到了巩固和延续资本主义雇佣劳动制度的作用。
另一方面，人工智能的资本主义应用是新的技术条件下资本逻辑向社会各领域蔓延的又一动能。“智能化生产技术在资本主义劳动过程中的应用，颠覆了车间内部的分工协作方式，改变了传统的雇佣方式。但是，这种改变只是一种形式变化，就本质而言，资本无偿占有劳动者所生产的剩余价值的本质没有变化……智能化技术的资本主义利用方式意味着新技术革命无法解决资本主义社会的内在矛盾，不可能实现工人的真正解放。”人工智能可以无限类似人，但永远不可能与人等量齐观。资本家投资人工智能是看好智能技术赋能商品生产过程可以提高资本有机构成，从而攫取更多的剩余价值。人工智能的资本主义应用实质上是资本主义生产方式新的发展形式，是资本逻辑使然，不能改变资本主义雇佣劳动制度的实质。
人工智能的资本主义应用一方面创造了极致生产力，另一方面这种生产力不是由全社会共同占有，而是由资本家阶级占有。人工智能的资本主义应用，只会在新的基础上累积劳动与资本之间的不可调和的矛盾。人工智能应用的资本逻辑决定了，人工智能时代，资本主义经济危机、政治危机和社会危机不仅不能消除，反而会在新的基础上趋向激烈。“资本逻辑的宰制扩大了人工智能风险的可能性……正是技术与资本共谋，使资本在实现价值增值的过程中，能够‘天然地’发挥技术优势。”人工智能的资本主义应用，只能进一步制造更多的“异化劳动”，形成更多的劳动成果的占有和分配的不公和矛盾，从而累积更加激烈的阶级分化和阶级斗争。这就是为什么以人工智能为代表的第四次工业革命以来，伴随着生产力的极致增长，资本主义经济危机不仅没有消除，而且还显露出向更大范围蔓延的态势。人工智能的资本主义应用不尊重劳动创造价值的事实，劳动人民的历史主体地位没有随着智能时代的发展而彰显，资本主义经济和社会危机就不可避免。
新冠肺炎疫情发生以来，人工智能的资本主义应用与社会主义应用的对比，鲜明地反映了整个社会是围绕“资本”旋转还是围绕“劳动”旋转。一些发达资本主义国家，一方面受感染的病患数量不断攀升，另一方面为了维持所谓经济运转依然不采取严格抗疫措施，充分暴露了资本主义社会的异化。疫情期间，一些资本主义国家呈现的经济比人命更重要的社会运行逻辑，直观演绎了资本主义制度的历史局限，彻底暴露了资本的狰狞面目及其所宰制社会的本质。
科技革命的历史发展表明：只要资本主义雇佣劳动制度还存在，包括人工智能在内的技术的资本主义应用就会在更深更广的历史范围累积资本主义社会的基本矛盾。在资本主义雇佣劳动制度中，“劳动对工人来说是外在的东西，也就是说，不属于他的本质；因此，他在自己的劳动中不是肯定自己，而是否定自己，不是感到幸福，而是感到不幸，不是自由地发挥自己的体力和智力，而是使自己的肉体受折磨、精神遭摧残”。随着人工智能的资本主义应用大规模发展，资本主义社会日益呈现出经济空心化、政治金钱化和大众文化反智化的发展情势。
人工智能与私人垄断资本联姻，不仅宰制了人的主体性和社会性，还在更广阔的领域放大了资本的逐利性和垄断性。人工智能的资本主义应用生成了更严重的科学技术异化、政治异化和社会异化，从而使资本主义社会人的异化到达了新的历史高度。在“人工智能武器化是不可避免的”现实背景下，这种人工智能应用带给人类的不是一般意义上的风险，而是生存性隐忧。
人工智能的大规模应用，不仅在宏观上可能影响全球政治经济发展格局和发展走向，还在微观上改变人类的自我认知、心理和价值观。“一方面数据的采集与智能算法的应用并非完全客观与无偏见，其中必然负载着相关主体的价值取向……另一方面合成智能和人造劳动等人工智能应用一般是通过人机协同来实现的，相关主体的价值选择必然渗透其中。”算法驱动的人工智能在“劳动”中执行的价值观可以是社会主义的，也可以是独裁主义的，也可能是极端民族主义的或其他什么主义的。这完全取决于人工智能由谁来应用和怎样应用。人工智能资本主义应用的普遍化，直接的后果是资本对劳动的粗暴否定和对劳动新的更隐秘的、更强力的统治，是社会彻底的撕裂和系统性社会危机的爆发。
实践证明，仅有科技和产业革命，没有发生发达的生产力由社会共同占有的社会革命，私有制商品经济中的各种资本体系“吞噬活劳动”就无法避免。人工智能本身不会自发消解资本主义雇佣劳动制度。人工智能在多大程度上发挥消解资本主义雇佣劳动制度的“历史杠杆”作用，取决于人工智能时代工人阶级和劳动人民的历史自觉意识和历史主体意识的发展。
信息革命的发展，尤其是随着以物联网、区块链和人工智能技术为代表的新一轮信息革命的发展，资本主义实现了智能化生产大规模代替传统机械化生产的巨大转变。一方面，伴随着“物质生产方式”的转变，资本操控的“马克思主义过时论”“中国崩溃论”“社会主义失败论”等资本主义话语甚嚣尘上。另一方面，事情的实质并没有改变：人工智能归根到底是人类劳动创造的“技术现象”。新一轮科技革命和产业革命发生以来，几乎同时伴随着全球性资本主义经济危机。2008年以来资本主义制度在西方受到广泛质疑，在资本主义内部同时出现了“反思马克思主义”“重新认识马克思主义”“回归马克思”的思潮。人工智能时代的发展不仅没有动摇马克思劳动价值论，反而在更广阔的历史空间确证了马克思劳动价值论的科学洞见。
四、智能时代马克思劳动价值论的“变”与“不变”
“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应。在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术的驱动下，加上经济社会发展对信息技术的需求旺盛，人工智能加速发展，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征，正在对经济发展、社会进步、国际政治经济格局等方面产生重大而深远的影响。”有人认为，在资本主义生产方式没有消除的情势下，倘若人工智能能完全代替人，资本家设定算法使人工智能永远服从资本家指令，那么资本家就可以不用担心工人阶级的反剥削反压迫的斗争，只要投资购买（制造）人工智能即可，然后再利用人工智能生产人工智能，占有人工智能创造的剩余价值，从而发财致富，而工人阶级和劳动人民就真正成为“无用阶级”了——这样认识人工智能是荒谬的。
从马克思劳动价值论中汲取智慧，是校准和调适人们对人工智能认识的重要方法。马克思说：“任何一个民族，如果停止劳动，不用说一年，就是几个星期，也要灭亡”。恩格斯说：“劳动和自然界在一起才是一切财富的源泉，自然界为劳动提供材料，劳动把材料转变为财富。但是劳动的作用还远不止于此。”
人工智能代替人的劳动，使人的劳动形态面临颠覆性变化。但是，人的活劳动作为价值唯一源泉没有改变。改变的是，参与价值创造的生产要素及其对价值创造过程贡献的大小。科技、创意、灵感、数据资源等非物能形态的生产要素在劳动过程中的作用正在凸显。数据资源成为智能社会最重要的生产要素之一。劳动者高阶的能力对促进智能社会的发展具有决定性意义。自由协作、人机协同、互利共享成为智能时代劳动内涵丰富和发展的方向。劳动者自由全面发展成为促进智能时代社会高质量发展的内在要求。
“资本主义的生产或雇佣劳动制度，正是在资本和劳动之间的这种交换的基础上建立的，这种交换必然不断地造成这样的结果：工人作为工人再生产出来，资本家作为资本家再生产出来。”人工智能的资本主义应用逻辑中，人工智能既不会生产自身，更无法生产资本家。人工智能的资本主义应用只是改变了生产剩余价值的手段，而不是剩余价值的源泉。人工智能嵌入资本主义商品生产，工人劳动形态的改变，表现为资本主义雇佣劳动制度借助人工智能改变了运行方式。但是，资本主义生产资料私有制下的商品经济固有的基本矛盾和资本主义生产方式的本质并没有改变。人工智能的资本主义大规模应用和资本有机构成的提高，进一步累积生产社会化和生产资料私人占有之间的矛盾。因人工智能的加持，私人劳动和社会劳动之间的资本主义商品经济基本矛盾正逐渐演变为资本主义总体性矛盾。
概言之，人工智能的资本主义应用，可以改变资本主义存在和发展方式，但是改变不了其存在和发展的历史暂时性和被社会主义取代的历史必然性。智能革命、智能经济、智能社会愈深入发展，愈要求整个社会接受科学社会主义原则。建设人类智能共同体、实现技术进化和人类智能进化的同向发展，进而全人类共同走向社会主义，是消除人工智能应用对人类构成生存性隐忧的必由之路。
马克思劳动价值论及以其为理论基础的剩余价值论简明地揭示了资本家对于工人的剥削机制，从而体现了无产阶级和资产阶级之间利益的根本对立和不可调和的矛盾。人工智能的发展及其大规模应用到社会物质生产、精神生产进程中，为无产阶级的解放开辟了新的宏观环境和技术条件。智能革命的深度发展，极致生产力的获得，将为每个人的自由而全面发展创造日益充分的条件。智能经济和智能社会的发展，劳动复归为人的本质活动已经成为人工智能时代的经验性现实。
当代中国大规模人工智能的社会主义应用，特别是人工智能融入社会主义物质生产、精神生产过程，引发了传统劳动形态的变化，在一定意义上已经晓示了马克思的预见。人工智能的社会主义大规模应用，为当代中国经济社会高质量发展创造了广阔空间。智能社会的深度发展，劳动者将迎来更多的自由全面发展的主客观条件。这既是中国社会自觉坚持和贯彻马克思劳动价值论的结果，又是对马克思劳动价值论科学性的生动诠释。在建设社会主义现代化强国的历史进程中，坚持以人民为中心的发展思想指引中国人工智能应用场景及其社会效用的治理，体现了人工智能应用的社会主义根本性质和方向。“发展人工智能，将为我国构建现代化经济体系、实现高质量发展提供重要支撑，为民生改善提供重要保障。”
中国战“疫”斗争中，丰富的人工智能应用，体现了科技的社会主义应用的价值导向和宏观效用。历史以一场全球规模的“社会实验”的方式，确证了包括人工智能在内的科学技术应用于不同社会制度形成的不同效应。由于人工智能的核心机制是信息的交互性和互组织性，从信息文明的本性出发，智能时代的社会主体越参与信息共享，就越具有创构新文明的能力。因此，人工智能的社会主义应用能够极大地促进社会生产力的增长、增进社会的公共福利和满足人民美好生活需要。在劳动逻辑中，人工智能的应用越充分，意味着人的自由劳动就越具有发展的空间，从而就越能增强和丰富人的本质、肯定和发展人的本质，从而体现出比资本主义社会制度的更多优势。当代中国人工智能应用已经并将继续确证这一发展趋势。
人工智能的社会主义应用为人的自由全面发展提供了新的动能。“人类支配的生产力是无法估量的……资本日益增加，劳动力随着人口的增长而增长，科学又日益使自然力受人类支配。这种无法估量的生产能力，一旦被自觉地运用并为大众造福，人类肩负的劳动就会很快地减少到最低限度。”人工智能的社会主义应用创造的生产力属于社会共同占有的生产力，体现的是共同劳动、共享劳动成果的宏观社会价值导向。人工智能的社会主义应用不仅能加快劳动的解放进程，更重要的意义在于劳动作为人的本质活动得到历史的自觉尊重和主动发展，劳动光荣和劳工至上成为社会共识。人工智能凝结的发达的生产力置于人民共同的集体运用中，协同、互利、合作蕴含的生产力将进一步得到开掘和应用。在社会主义生产方式中，人工智能等科学技术凝结的人类智慧实现了自觉造福整个社会的效用。人工智能的社会主义应用具有比资本主义显著的优越性，必将在科技革命和产业革命进程中开拓世界社会主义新的发展机遇和前景。
“手推磨产生的是封建主的社会，蒸汽磨产生的是工业资本家的社会。”可以预判，“智能磨”将产生社会主义和共产主义社会。人类迈向智能时代的社会发展表明，人工智能代替人的劳动不仅不能加持资本主义制度，反而加速暴露资本主义制度的历史局限性和过渡性。从科技角度而言，人工智能的发展意味着消除人类必要劳动具有现实的可能。人工智能时代，劳动解放的生产力条件已具有经验性现实基础。劳动正义、劳动创造历史的理论逻辑与实践逻辑正趋向统一。整个社会自觉尊重劳动人民历史主体地位成为推动智能时代世界社会主义复兴的根本力量。
人工智能时代，仍然是马克思主义所指明的历史时代。不改变资本主义私有制及其雇佣劳动制度，人工智能就无法给社会带来普惠发展。智能社会的发展再次确证了资本主义无法容纳它自己创造的生产力。马克思劳动价值论不仅没有过时，而且更加显示出真理性力量。
参考文献:
[1]肖峰：《作为哲学范畴的延展实践》，《中国社会科学》2017年第12期。
[2]孙伟平：《马克思主义唯物史观视域中的“智能社会”》，《哲学分析》2020年第6期。
[3]蒋红群：《无产阶级会沦为无用阶级吗？》，《马克思主义研究》2018年第7期。
[4]王天恩：《人类解放的人工智能发展前景》，《马克思主义与现实》2020年第4期。
[5]刘伟兵：《过时还是证明：人工智能时代的马克思劳动价值论》，《毛泽东邓小平理论研究》2020年第6期。
[6]靳辉明、李崇富主编：《马克思主义若干重大问题研究》，北京：社会科学文献出版社，2011年。
[7]姜辉：《21世纪世界社会主义的新特点》，北京：社会科学文献出版社，2016年。
[8]〔美〕梅拉妮·米歇尔：《AI3.0》，王飞跃等译，成都：四川科学技术出版社，2021年。
（作者系江西师范大学马克思主义学院副教授）
网络编辑：同心
来源：《马克思主义研究》2021年第5期
【闫坤如】人工智能机器具有道德主体地位吗?
人工智能先驱图灵(AlanTuring)在论文《计算机器与智能》中提出“机器是否能够思维?”的疑问，同时提出机器可能具有智能的特征。“一台没有肢体的机器所能执行的命令，必须像上述例子(做家庭作业)那样，具有一定的智能特征”〔1〕。强人工智能就是让机器实现人类智能，并且机器不仅仅是实现人类智能的工具，机器具有人类智能，那么计算机或者机器是否能够成为像人类一样的道德主体呢?这引发学者思考。我们通过学者对道德主体研究的嬗变以及对于道德主体标准的界定来分析。
一、道德主体的研究嬗变
1．道德主体从人到生命体的拓展
人工智能是否具有道德主体地位涉及到对道德主体研究的溯源。道德主体(Moralagent)法律术语译为“道德代理人”，指的是能够具有主观判断且能够承担法律责任的人。道德主体指的是具有自我意识，能够进行道德认知、能够进行推理并形成自我判断、能够进行道德选择与实施道德行为且承担道德责任的道德行为体。从这个意义来讲，只有具有理性思维能力的人类才具有道德主体地位。婴幼儿、精神病患者等理性有限的人群虽然具有某些基本的道德能力，但不能完全对自己的行为负责，不能称其为道德主体。康德(Kant)把道德看作是理性当事人之间的关系，因此，婴幼儿、精神病患者以及其它动物应排除在道德主体的范畴之外。动物伦理学家彼得·辛格(PeterSinger)反对这样的观点，辛格提倡动物解放，认为动物具有与人同样的主体地位;在费因伯格(JoelFeinburg)看来，动物与人都是生物进化的结果，动物具有人类的意识与欲望，应该享有人类主体一样的生存权与自主权，应该赋予动物与人类一样的道德主体地位。植物因为不具备动机、意识、冲动等，所以植物不可能具有人类权益与道德身份。环境伦理学之父罗尔斯顿(HolmesＲolston)主张自然内在价值的合理性，环境包括动物、植物在内都具有道德主体地位。自然界的自然属性中包含的一切生命体都具有道德主体地位。
2．道德主体从生命体到技术人工物的转变
1992年，拉图尔(BrunoLatour)提出技术人工物可以执行人类道德，且执行道德规则的方式与人类相似，技术人工物可以看作道德主体。比如，人工设计的道路减速带作为一种道德媒介执行道德规则，对汽车驾驶员的道德行为产生影响，从而避免车辆超速驾驶，这样，调节主体行为的技术人工物具有潜在的道德主体地位。2004年，维贝克(Pe-ter－paulVerbeek)提出“道德物化(materializationof morality)”的观点，所谓“道德物化”指的是把抽象的道德理念通过恰当的设计，在人工物的结构和功能中得以体现，从而对人的行为产生道德意义上的引导和规范作用。维贝克承认了技术人工物具有道德主体地位，人工物与人一样成为道德主体。技术不能简单地被看成是人与世界中介的工具，人工物在人与世界的关系中发挥着主动性作用。技术的调节具有道德维度，技术物是道德承载者。技术人工物等技术装置也显示出道德意蕴，应该把客体的道德维度以及客体对主体道德的调节都纳入道德范畴。阿特胡斯(HansAchterhuis)主张“将装置道德化”，比如，验票闸门规范逃票行为，人工物的行为影响人类行为主体的道德自主性，可以看作是道德主体。人工物不是道德中立的，它们可以引导人类的道德行为以及影响人类的道德结果，技术人工物可以通过使人类行为合乎道德来促进或加强道德。例如，如果一辆汽车在驾驶员不系安全带的情况下发出警告，它就会触发驾驶员的“系安全带”这一个道德行为。在这个意义上来讲，技术人工物具有道德主体地位。
3．道德主体从人工物到智能人工物的转变
机器是否具有道德主体地位涉及到机器与人的区别问题，2006年约翰逊(DeborahG．Johnson)在《计算机系统:道德实体非道德主体》〔2〕一文中围绕意向性展开对于道德主体的讨论。意向性是人区别于机器的根本特征之一，即使机器与人具有同样的行为，但机器不具有意向性，人具有意向性。如果智能机器不具有意向性，那么人工系统能否成为道德主体呢?1978年，斯洛曼(AaronSloman)在《哲学中的计算机革命———哲学、科学与心灵模式》〔3〕一书中论述了“未来机器人能够思考和具有感知力”的可能性场景，因此，应该把机器纳入道德主体的范畴，关注机器的伦理地位。丹尼尔森(Pe-terDenielson)在其著作《人工道德:虚拟游戏的道德机器人》〔4〕和霍尔(JoshStorrshall)在其著作《超越AI:让机器产生良知》〔5〕都承认智能机器具有道德主体地位，关注设计道德机器。科林·艾伦(ColinAllen)、瓦纳(GaryVarner)与泽欣尔(JasonZinser)在文章《未来的人工道德主体原型》〔6〕引入“人工道德主体(ArtificialMoralagents，简称AMAs)”这个术语，直接承认了技术人工物的道德主体地位。机器与人对比是独立的道德主体，机器能够自我推理与自我决策，能够触犯人类的利益，就如同一个人可以触犯到另外一个人利益一样。因此，可以把机器作为道德主体来看待。人工智能专家福斯特(HeinzvonFoerster)认为现有的机器人不仅仅是伦理规则的被动中转者，还在现有道德生态中与其他施事者互动，应该把智能机器作为道德主体来规范。智能机器这种高度进化的技术人工物具有自主行为和智能信息处理能力的，可以称为之道德智能主体。按照这种观点，道德主体的类别除了人类之外，还包括自主机器人和软件主体。
纵观学者对于道德主体的研究，经历了从具有自由意志的人类到生命体、然后到不具有生命体征的人工物最后到智能人工物的研究范畴的转变过程。
二、智能机器的道德主体标准分析
按照博施特罗姆(NickBostrom)和尤德科夫斯基(EliezerYudkowsky)的观点:“制造会思考的机器的可能性可能引发一系列的伦理问题，这些问题既与确保机器不伤害人类有关，也与其他道德上关联的存在者有关，也与机器本身的道德地位有关。〔7〕”机器是不是具有道德主体地位，这涉及到对于道德主体标准的界定。
瓦拉赫(WendellWallach)与科林·艾伦在《道德机器:如何让机器人明辨是非》〔8〕一书中专门花一章的笔墨讨论机器的道德主体地位问题，他们认为应该对道德主体进行不同层次的划分，他们提出三种不同类型的道德主体:操作性道德(operational morality)、功能性道德(functionalmorality)与完全道德主体(fullmoralagency)。所谓操作性道德指的是工程师意识到自身的价值观对于设计的影响以及他们对他人价值的敏感度。就像装有防止儿童使用的安全设置的枪支，这种机器虽然缺乏自主性与敏感性，但在设计中包含了美国国家专业工程师学会(NationalSocietyofProfessionalEngineers，简称NSPE)道德准则以及其他的行业规范所包含的价值理念。功能性道德指的是能够评估自身行为的道德意义的智能系统，这种机器是具有伦理敏感性的机器。完全道德主体指的是具有自主决策系统及其情感交互能力的机器系统。
在笛卡尔看来，机器智能的想法在形而上学上是荒谬的，因为心灵与身体是不同的物质，机器是实物，是人类身体的延伸，在空间与时间上有广延性，心灵则是有意识的精神原子。具有实物的机器不能具有心灵的智能特征。按照人工智能先驱钮厄尔(AllenNewell)与西蒙(HerbertSimon)的观点，计算机程序是一系列的形式化符号，人工智能的符号进路趋向于把机器学习当成是对一套预先确定的概念重新组合的过程，除非工程师有意去设计系统，否则，计算机智能就是建立在一个没有欲望、动机与目标的逻辑平台上，不可能具有操作性道德和功能性道德，更不可能具有完全的道德主体地位，这种观点遭到机器伦理学家的反对。例如，阿萨罗(PeterAsaro)在智能机器伦理中提到三点:“首先，如何设计机器人的行为伦理;其次，人类如何在人工智能伦理中承担责任;再次，从理论上讲，机器人能成为完全的道德主体吗?”〔9〕阿萨罗的第三点涉及到对于机器的道德主体地位的思考。如果技术人工物想成为道德主体，需要满足以下两个条件:首先，技术人工物必须具有道德身份;第二，技术人工物具有道德判断，具有道德选择、行为以及承担责任的能力。按照阿萨罗的观点，理性人具有道德主体地位，人工物只是具有道德调节作用，还不具有完全的道德主体地位。泰勒(PaulTailor)认为道德主体的必备条件要满足以下五点:“第一，判断道德上正确或错误的能力;第二，权衡赞成和反对某些选择的道德理据的能力;第三，依据这种权衡的结果做出决定的能力;第四，拥有实现这些决定所需的意志和能力;第五，为自己那些未能履行义务的行为做出解释的能力等等。”〔10〕按照泰勒对于道德主体的界定，机器不具有道德主体地位。塞尔(JohnSearle)设计著名的“中文屋(ChineseＲoom)”思想实验，显示计算机可以在没有理解与智能的情况下通过“图灵测试”。荷兰特温特理工大学的布瑞(PhilipBrey)提出“准道德主体(quasi－morala-gents)”概念，他认为智能机器是准道德主体，作为道德主体应该符合以下三个特征:“有能力根据对与错进行推理、判断和行动的生物;对自己的行为应当遵守道德规范;对自己的行为负责，对自己的后果负责。”〔11〕这三个特征共同构成了道德主体的界定标准。只有理性的人才有能力进行道德推理，只有理性的人才有道德行为，只有理性的人才有道德责任感。不能分辨是非的成年人通常不被认为具有道德主体能力，智能机器可能具有道德决策能力，但大多数智能主体不具备道德思考的能力，因此，智能机器只能算“准道德主体”，不具有完全道德主体地位。塞拉斯(JohnSullins)提出人工道德主体的必要条件是机器具有自主性、意向性与责任。如果机器具有人类一样的自主性、意向性，并且能够像人类一样承担责任，就具有道德主体地位。
从上述道德主体的界定标准来看，只有具有理性思维决策能力、能够独立的承担责任的理性主体才具有道德主体地位，而现在人工智能的发展只处于弱人工智能阶段，人类还不能设计出具有人类情感、具有独立意识、选择自由以及能够独立承担责任的机器。所以，机器不具有道德主体地位。这种思路是以人是唯一道德主体的思路来分析的，但目前学者对于道德主体的研究已经从人类拓展到动物甚至是技术人工物，对于道德主体应该具有新的界定与发展。
弗洛里迪(LucianoFloridi)与桑德斯(Sanders)直接承认智能机器的道德主体地位，进一步给出了人工道德主体的标准。按照弗洛里迪与桑德斯的观点人工道德主体应该具有交互性(interactivity)、自主性(autonomy)与适应性(adaptability)的特征。弗洛里迪与桑德斯提出对于所有X，X是一个道德主体，当且仅当X具有以下内容属性:“第一，X及其环境能够相互作用(交互性)属性;第二，X能够在没有与外部世界交互的刺激的情况下改变其状态(自主性);第三X能够改变其转换规则(属性)‘适应性’;第四，X能够起作用，例如道德上对世界的重大影响。”〔12〕机器如果在没有刺激的情况下具有改变状态的能力、具有改变“转换规则”的能力，就可能具有道德主体地位。按照这种说法，强人工智能机器符合这些条件，因此可以称之为人工道德主体。弗洛里迪与桑德斯认为道德主体的概念并不一定表现出人类主体的自由意志、精神状态或责任，机器可能具有道德主体地位。
通过以上分析，关于道德主体的标准是不一致的，关于机器是否具有道德主体地位也有不同意见，考虑到机器具有自主学习能力、可能具有自我意识、自由意志、人类情感与人类智能，因此，必须在智能机器的设计之初嵌入道德，设计者不能袖手旁观，应该关注机器的道德模型的构建，“赋予机器人伦理原则或者促进机器人解决可能预见的伦理困境，在机器人自主做决定的时候，提高他们的道德考量比重。”〔13〕
三、人工道德主体模型的构建
瓦拉赫与艾伦提出“道德图灵测试”，关注机器设计中的道德嵌入，他们提出“道德图灵测试”的两种进路，即“自上而下进路(top－downapproach)”与“自下而上进路(bottom－upapproach)”，所谓自上而下进路就是把德性论(virtuetheory)、义务论(deontologicaltheory)、功利主义(utilitariantheory)、正义论(justiceasfairnesstheory)等伦理学理论的伦理标准、规范与原则嵌入到人工智能体的设计中，在此基础上，构建人工道德主体模型。阿西莫夫三定律是“自上而下”道德主体模型的模板，“任何讨论‘自上而下’式的机器人道德设计不能不谈阿西莫夫三定律。”〔14〕“自下而上进路”立足于创造一种环境能够让智能机器摸索自我判断的行为模式，比如，像“电车难题”思想实验就是根据不同的情境做出不同的道德选择。“自下而上进路”与“自上而下进路”的道德主体模型构建都坚持道德上“善”的行为标准，不同之处在于“自上而下进路”关注普遍性伦理学理论基础上的道德构建，而“自下而上进路”获得道德的方法是把规范化的价值当作机器隐含的内容。
弗洛里迪与桑德斯在承认机器的道德主体地位的基础上，提出人工道德主体构建的前提是区分道德问题与责任问题。人类能够避免“责任+道德行为=规定行为”和“没有责任就没有道德行为，所以就没有规定行为”的二分法。没有责任，只有道德行动的能力也是道德主体，环境与动物也可以具有道德主体地位，智能机器聪明、自主、能够独立于人类之外执行与道德相关的行为，因此存在“善的人工智能”与“恶的人工智能”的区别。所以道德主体构建要区分人类、智能机器、动物以及环境，这种道德主体的构建方式称之为人工智能的“分布式道德(distributedmorality)”。
美国计算机学家迈克尔·安德森(MichaelAn-derson)、哲学家苏珊·安德森(SusanAnderson)夫妇与克里斯·阿尔曼(ChrisArman)从经典伦理学理论提出道德主体构建模型，他们认为机器伦理不同于计算机伦理，机器伦理关注的是机器对人类用户及其他机器的行为，因此，必须为机器添加道德维度，为了给机器增加道德维度，需要可操作的道德理论与道德原则，在此基础上，他们给出两个道德主体模型:基于边沁(Bentham)的功利主义的伦理主体模型和基于罗斯(Ｒoss)义务论直觉主义伦理学的伦理主体模型。行为功利主义道德主体模型基于边沁的道德算术构建比人类规范的模型，把伦理原则编程为算术，让机器像人一样遵循行为功利主义理论。直觉主义者罗斯满足于将决策权交给决策者的直觉，但罗斯的理论强调表面责任，他认为没有义务是绝对的，也没有给出义务的明确等级，因此，在罗斯的理论下，如何做出道德决策是不清楚的。安德森夫妇与阿尔曼立足于为机器伦理奠定理论基础，他们基于行动的道德理论开发计算机系统，他们结合行为功利主义与义务论直觉主义的理论构建机器学习决策程序，他们的计算机模型克服了罗斯模型的不确定性，使用一种学习算法来调整对责任的判断，既考虑了表面责任，也考虑了过去对涉及这些责任的类似或不相似案例的直觉。
为了构建人工智能的道德主体模型，哲学家与伦理学家积极尝试，致力于在机器中嵌入人类“善”的道德。不同于悲观主义者认为人工智能将不可避免地制造出拥有巨大力量、行为不道德的机器人的观点。乐观主义者坚持用伦理学方法来排除恶意机器人的产生以及发挥作用。例如，鲍尔斯(ThomasPowers)在《康德机器的前景》〔15〕中意欲制造出康德式机器(Kantianmachine)确保机器人行为符合道德规范;阿寇达斯(KonstantineArkoudas)和布林斯乔德(SelmerBringsjord)在《机械化道义逻辑向伦理机器人迈进〔16〕中论证了道义逻辑应用于制造道德机器的可能性;格劳(ChristopherGrau)在论文《“机器人”中没有“我”:机器人功利主义者和功利主义机器人》〔17〕中讨论了功利主义模式下的机器人，格劳运用逻辑学理论或者伦理学理论在人工智能的设计之初嵌入人类道德。“理性机器嵌入了道德元素，如程序规则的行为，可能构成人工道德主体所需的理性。”〔18〕智能机器设计者应该在设计之初保持设计理性，对所设计的智能机器可能存在的伦理问题提前预判与评估，虽然有的学者反对智能机器具有意向性或者具有道德主体地位但均未否认技术物具有道德调节作用，也不否认技术可以通过设计改变人类的道德行为。
总之，智能机器具有不确定性，不管智能机器是否具有人类的道德主体地位，都应该对人工智能可能带来的危害做出防范，人类在智能机器设计之初把“善”的理念嵌入到人工智能中，使得人工智能操作系统不仅要遵守法律，还要遵守社会的道德规范，减少智能机器危害人类的可能性，发挥其对人类进步以及社会发展的作用。
参考文献
〔1〕TuringAM．ComputingMachineryandIntelligence［J］．Mind，1950，59(236):433－460．
〔2〕JohnsonDG．Computersystem:Moralentitiesbutnotmoralagents［J］．EthicsandInformationTechnology，2006:195－204．
〔3〕SlomanA．TheComputerＲevolutioninPhilosophy:Philosophy，ScienceandModelsofMind［J］．TheBritishJournalforthePhilos-ophyofScience，1978:1－14．
〔4〕DanielsonP．ArtificialMorality:VirtuousＲobotsforVirtualGames［M］．Ｒoutledge，1992．
〔5〕HallJS．BeyondAI:CreatingtheConscienceoftheMachine［J］．I-sis，2008，99(4):872．
〔6〕AllenC，VarnerG，ZinserJ．Prolegomenatoanyfutureartificialmor-alagent［J］．JournalofExperimental＆TheoreticalArtificialIntelli-gence．2000，12(3):251–261．
〔7〕BostromN，YudkowskyE．TheEthicsofArtificialIntelligence［C］//FrankishK，ＲamseyW．CambridgeHandbookofArtificialIntelli-gence．NewYork:CambridgeUniversityPress，2014:316－334．
〔8〕WallachW，AllenC．MoralMachines:TeachingＲobotsＲightfrom Wrong［M］．Oxford:OxfordUniversityPress，Inc．2008:91．
〔9〕AsaroPM．WhatShouldWeWantFromaＲobotEthics?［J］．IＲIEIntＲevInfEthics，2006，6(12):9－16．
〔10〕TaylorP．ＲespectofNature:ATheoryofEnvironmentalEthics［M］．Princeton:PrincetonUniversityPress，1986:14．
〔11〕BreyP．FromMoralAgentstoMoralFactors:TheStructuralEthics Approach［J］．MoralStatusofTechnicalArtifacts，2014(17):125－142．
〔12〕FloridiL，SandersJW．OntheMoralityofArtificialAgents［J］．Minds＆Machines，2004，14(3):349－379．
〔13〕AndersonM，AndersonS．MachineEthics［M］．Cambridge:Cam-bridgeUniversityPress，2011:1．
〔14〕WallachW，AllenC．MoralMachines:TeachingＲobotsＲightfrom Wrong［M］．Oxford:OxfordUniversityPress，2008:91．
〔15〕PowersTM．ProspectsforaKantianMachine［J］．IEEEIntelli-gentSystems，2006，21(4):46－51．
〔16〕ArkoudasK，BringsjordS，BelloP．Towardethicalrobotsviamech-anizeddeonticlogic［EB/OL］//M．Anderson，S．L．Anderson＆C．Armen(Eds．)．AssociationfortheAdvancementofArtificialIn-telligenceFallSymposium(Vol．FS－05－06)．MenloPark，Cali-fornia:TheAAAIPress．Ｒetrievedfromhttp://www．aaai．org/Li-brary/Symposia/Fall/fs05－06．2005．
〔17〕GrauC．Thereisno＇I＇in＇Ｒobot＇:ＲoboticUtilitariansandUtilitar-ianＲobots［C］//MachineEthics:PapersfromtheAaaiFallSympo-siumMenloPark，2006:52－55．
〔18〕AndersonM，AndersonSL．MachineEthics:CreatinganEthical IntelligentAgent［J］．AIMagazine，2007，28(4):15－26．
(原载《自然辩证法研究》2019年05期)