人工智能可否成为刑事责任主体
技术领域发展日新月异。人工智能（下称AI）是具有智能行为模仿能力的机器，它是在电脑中，模拟人类的行为和认知程序，自然地学习所有知识的智能大脑。它正在越来越多地取代人类的活动，同时也给人类带来危险，对此，AI所产生的现代性问题是：要将这些越发智能的AI实体和其他法律主体一样纳入法律社会控制体系中来吗？
在20世纪50年代，美国科幻学家阿西莫夫为了预防AI可能产生的威胁，设定了著名的机器人三条原则：第一条：机器人不能对人类产生危害。且不能因为忽略这种危险，而导致危及人类安全。第二条：机器人必须要服从人类所发出的命令。但是，所发出的命令如果违反第一条的话，不在此限。第三条：机器人只要在不违反前两条规定的前提下，必须保护自己。
但是，这显然并不能消除人类对于AI的恐惧。为了防止未来AI对人类法益产生侵害，国内外很多学者提出“人工智能独立承担刑事责任”的观点（下称“独立责任承担说”）。这种观点认为AI的运算法则可能拥有很多的特质，且这些特质远超于一个普通的人。但是这些特质并不是施加刑事责任所必备的。当一个人或者企业同时满足外部（危害行为）和内部（自由意志）要素，就可以被追究刑事责任。如果AI也可以满足这些要素，且事实上满足的话，则毫无疑问也要追究AI的刑事责任。“独立责任承担说”的核心依据是AI符合施加刑事责任的内部要素，即独立的“控制能力与可培养的辨认能力”。而外部要素的满足并不成为“独立责任承担说”的阻碍，他们认为，随着技术的发展，让“危害行为”脱离“生命体要素”“突破传统理论显然不足为奇且无可厚非”。只要AI能够机械地控制其肢体动作，则任何动作都可以被认为是AI的行为。
在此基础上，“独立责任承担说”为AI设定了有针对性的刑罚措施。这包括对AI惩处罚金刑；对AI施以自由刑；对AI施加死刑，包括对躯体的永久销毁和对AI的数据予以删除。
但笔者认为，人工智能独立承担刑事责任不具有理论自洽性，理由是：
第一，AI的行为与自由意思密切关联。刑法上的行为被理解为通过意思而被控制的举止，所以，AI的举止在外观上看起来像是自己进行的行为。确实，AI会通过四肢做出动作、通过系统发出语音、通过中央控制系统对周边环境施加影响等等，但是不能因此肯定地说这些举止是基于自由意思进行的控制。这其中的“意思”更可能是对AI进行程序设计的人或者使用AI的人的意思。这样的话，就会将AI的举止归属于机器背后的人，而不是AI本身。要承认AI的“行为”满足刑法上的行为的要素，就必须要在AI自身当中找到和人类意思完全相当的意思。
第二，AI不具备与人类等同评价的自由意思。自由意思这一概念是为实现一定社会目的而设计的归责产物。但是，责任并不是没有限制地任意地予以归责。对于自身当前以及过去的自我决定，无法通过伦理的评价基准体系进行评价的人，也即，没有善恶判断的人是无法进行伦理上的对话的，因为他不能对伦理的非难进行回应，也即其不具有作为责任必要条件的自我反省能力。因此，将AI作和人类伦理的自我控制同样的评价，还为时过早。
而且，即便AI具备了和人类同样的伦理控制系统，也未必就具有了自由意思。德国联邦最高法院曾就刑事责任作过如下经典表述：“责任非难的内在根据在于人道德上的成熟，与此同时，只要自由且道德地自我决定的能力没有因为病理而短时间受到麻痹，抑或长时间受到阻碍，那么就是有自由、答责且道德地自我决定的能力。因此，其就能够决定遵循合法行为，抵抗不法行为，使得自己的态度符合法律的当为性规范，回避法律所禁止的行为。”
那么何为道德上的成熟？道德的成熟需要社会认同。我们在认定刑法上的责任的时候，现实的社会关系中的期待和归责被认为非常重要。今后随着AI技术的进化，存在给人类认为AI完全可以自由进行决定的印象之可能性。但是，AI是否实际能够通过自由意思进行行为并不重要。即便是人类的自由意思当中，实际上我们也不知道自己是否真的处于自由意思当中，我们不过是透过周围第三者的评价，来判断一个人是否有自由意思。因此，对于机器人来说，从第三者的观点来看，该如何评价才是最重要的问题。因此，在AI达到能够被人类社会所接纳，进行同等交流，被评价为和人类完全无差异的状态之前，尽管AI具备“控制和辨认”能力，也无法被人类评价为具有自由意思。
第三，对AI施加刑罚不具备可行性。首先，关于对AI的罚金刑，有学者提出，对AI施以罚金可通过强制让AI的制造者和使用者履行诸如购买保险等法律义务来最终实现。这实际上是将对AI的处罚转嫁给了制造者、使用者，违背了刑法的责任原则。其次，关于对AI的自由刑，对AI处以自由刑并不会获致与人类同样的效果。人类虽然能够理解自由的意义，但是AI自身却无法理解该处分的意义。最后，关于对AI的“死刑”，如果将AI视其为与人类一样的主体，则对AI施加“死刑”是有违人道主义的。我们尊重人的生命权，主张废除死刑，就同样不能对与人类具备同等地位的AI施加死刑。
“未来已来，但不是说来就来”，对于AI时代的法律检讨应立足于当下，对于AI可能产生的威胁所做的刑法对策，应当根源于刑法的基本理论。当然，AI时代给我们带来福利的同时，我们需要关注其可能出现的潜在危险。而预防这种技术风险，更应从伦理的角度高瞻远瞩，尽早确立严格的AI研发、生产技术伦理规则和法律标准，保障AI技术和产品的人类可控性，或许是当下更急需的时代命题。
（作者为安徽大学法学院副教授）
人工智能的法律三问 人工智能侵权责任如何认定
原标题：人工智能的法律三问（数字化时代的法治问题②）“你怎么知道自己是机器人？”
“索菲亚”回答：“你不必担心我们机器人，你们人类又怎么知道自己就是人类呢？”去年，人工智能机器人“索菲亚”成为全球首位被赋予法律公民身份的机器人。
当前，科学技术巨大进步推动人工智能迅猛发展。人工智能带来的生产生活方式深刻变革，给法律制度带来哪些挑战？现行法治体系又该如何调整和应对？
人工智能生成物是否具有知识产权？
“微明的灯影里，我知道她的可爱的土壤，使我的心灵成为俘虏了……”这段诗句的创作者不是传统意义上的“人”，而是人工智能产品“微软小冰”。2017年5月，“微软小冰”创作诗集《阳光失了玻璃窗》出版，作为历史上第一部完全由人工智能创作的诗集，它的出版带来一个新问题――人工智能生成物是否具有知识产权？
中南财经政法大学知识产权研究中心主任曹新明认为，根据现行法律，知识产权成果是指“人类创造出来的成果”，人工智能并不能成为知识产权意义上的权利主体。“但是，如果将‘人工智能’创造活动类同于科学研究的‘电脑’，即把人工智能生成物视为通过人工智能创造的智慧成果，那么人工智能生成物又确实具备‘知识产权作品’的某些属性。”
“问题的关键在于对‘人工智能’的法律定性。”曹新明表示，目前学界对这一问题主要有“工具”和“虚拟人”两种观点。“工具”即把人工智能视为人的创造物和权利客体；“虚拟人”是法律给人工智能设定一部分“人”的属性，赋予其能够享有一些权利的法律主体资格。
“即便承认人工智能生成物具有知识产权，其权利归属也是一个亟待解答的问题。”曹新明认为，如果将人工智能视为“工具”，人工智能生成物的权利可归属于设计开发者，或者所有权人，或者使用权人以及多个权利人共有。如果将人工智能视为“虚拟人”，则可以把人工智能生成物看作民法意义上的“孳息”，比如将人工智能视为“母鸡”，那么人工智能生成物就是“母鸡”下的“蛋”，“蛋”自然归“母鸡”所有者拥有。
此外，创造人工智能生成物，往往会通过一些程序进行“深度学习”，其中可能收集、储存大量的他人已享有的知识产权信息，这就可能构成对他人知识产权的侵害。曹新明认为，“在这种涉嫌构成侵害知识产权的情形下，究竟应当由谁承担责任，也是一个新问题。”
人工智能可以替代司法者吗？
近年来，人工智能在司法领域的应用逐渐深入：2016年12月，名为“睿法官”的北京法院智能研判系统上线，为法官提供办案规范和量刑分析等精准信息，用大数据推进法律适用和裁判尺度的统一；2017年5月，全国首个“刑事案件智能辅助办案系统”在上海诞生，在对上海几万份刑事案件的卷宗、文书数据进行“深度学习”后，已具备初步的证据信息抓取、校验和逻辑分析能力……
“利用人工智能，可以帮助司法者得到类似案件的全部先例以及法律、法规、司法解释等裁判规则，从而减轻他们的工作负累、促进准确适用法律。”中国社会科学院法学研究所研究员支振锋认为，通过数据采集、整理、分析、综合，人工智能在促进司法者依法、全面、规范收集和审查证据，统一司法尺度、助力司法公正等方面，的确大有可为。
但是，这是否意味着人工智能将替代司法者，实现独立断案？显然不可以。
“人工智能只是实现司法正义的辅助手段，切不可本末倒置，这是我们始终应该铭记的一条基本原则。”在上海交通大学凯原法学院院长季卫东教授看来，如果过分依靠人工智能自动生成判决、根据大数据矫正法律决定的偏差等，难免形成审判主体的多重结构，事实上形成程序员、软件工程师、数据处理商等主体和司法者共执司法的局面。
“此外，如果让人工智能超出辅助性手段范畴，全面应用于审判案件，那就有可能把司法引入歧途。”季卫东认为，在案件事实曲折、人际关系复杂、掺杂伦理和感情因素的场合，如何依据法理、常识和人情做出判断并进行妥善裁决，其实是一种微妙的艺术，需要依靠法官的理性综合分析。“即使人工智能嵌入了概率程序，具有深度学习能力，也难以保证做出公正合理、让人信服的个案裁判。”
支振锋也认为，就目前的发展情形看，人工智能还没有取代司法者的可能，尤其是作为涉及情感与理性、规范与价值的法律诉讼，如果交给人工智能，这在法律和伦理上，都很难得到支持。“应防范对人工智能形成‘路径依赖’，人工智能越发达，越应强调司法者的职业伦理。”支振锋说。
人工智能侵权责任如何认定？
2016年11月，在深圳举办的第十八届中国国际高新技术成果交易会上，一台名为“小胖”的机器人突然发生故障，在没有指令的情况下，自行砸坏了部分展台，并导致一人受伤。
人工智能应用范围的日益普及，其引发的侵权责任认定和承担问题，是对现行侵权法律制度提出的又一个新的挑战。
“从现行法律上看，侵权责任主体只能是民事主体，人工智能本身还难以成为新的侵权责任主体。即便如此，人工智能侵权责任的认定也面临诸多现实难题。”在清华大学法学院教授程啸看来，侵权发生后，谁是人工智能的所有者，就应当由谁负责，在法律上似乎并不存在争议。“然而人工智能的具体行为受程序控制，发生侵权时，到底是由所有者还是软件研发者担责，值得商榷。”
与之类似的，当无人驾驶汽车造成他人损害侵权时，是由驾驶人、机动车所有人担责，还是由汽车制造商、自动驾驶技术开发者担责？法律是否有必要为无人驾驶汽车制定专门的侵权责任规则？这些问题都值得进一步研究。
“现实中，人工智能侵权责任的归责原则，可能更多涉及危险责任或无过错责任。”程啸认为，例如无人驾驶汽车致害，无论从产品责任还是机动车交通事故责任上看，都可以适用无过错责任。但未来需要考虑的是，人工智能技术的运用，其本身是否属于高度危险作业（如无人机），从而决定了是否适用高度危险作业致害责任。
“当前，人工智能侵权责任中的因果关系、过错等要件的判断也变得日趋复杂。”程啸还举例说，此前曝光的一些APP“大数据杀熟”和“算法歧视”，由于代码的不透明，加之算法本身的自我学习和适应能力，使得“将算法歧视归责于开发者”变得很困难。
在程啸看来，针对人工智能带来的新问题、新挑战，在法律制度的研究方面未雨绸缪，将为以后的司法实践赢得主动。“人工智能已经到来，只是在生产生活的各个领域分布不均。我们不应等到未来分布均匀、人工智能已完全融入生产生活的方方面面时，才想起来从法律进行规范。”程啸说。
(责编：赵光霞、宋心蕊)分享让更多人看到
人工智能时代的社会责任思考
人类即将要进入的人工智能时代是一个什么样的生活场景呢？
简单地讲，人工智能将会成为我们日常生活不可或缺的一部分。人工智能就像互联网、就像水和电一样渗透到生活和工作的每一个方面。当然也要渗透到社会责任工作的每个方面。据有关专家研究，人工智能将会使社会责任履行变得更加容易和高效，比如区块链技术跟供应链结合起来就会让供应链社会责任履行变得更加透明，并且履责的行为和绩效将被记录并不可更改。
在带来巨大好处的时候，这也会存在潜在的风险和不利影响。而且这种潜在的风险和不利影响，如果不加以管理，可能完全超出我们的想象。如刚刚离世的著名学者史蒂芬•霍金曾说：“人工智能的崛起可能是人类文明的终结”。这说明人工智能的发展对我们人类的影响将会非同一般。人工智能的影响究竟几何？有的专家认为人工智能的发展要么让人类永生，要么让人类灭亡。可以说，人类每一次技术的飞跃，都会带来人类的大发展，同时也给人类自身带来巨大的风险和问题。这也说明要重视人工智能影响的管理，将成为摆在社会责任业界的新课题。
人工智能发展的三阶段
从技术发展层面来讲，人工智能发展一般可分为弱人工智能、通用人工智能和超级人工智能三个阶段。弱人工智能还无法达到人类的智力水平，即人工智能在人类的控制下在特定领域使用，解决特定问题。但弱人工智能同样影响巨大。比如人工智能在工业上大规模使用，将会导致工作岗位被机器人取代。如果像有的专家预测的那样，将来95%的工作岗位都会被人工智能取代。如果大部分人在大部分时间都没有工作，这个社会是一个怎样的状态，显然我们自己还没准备好。再如，在军事化用途上，将人工智能用于生产更高效的无人机杀人武器，追求的是不再需要人来指出攻击目标即可自动判定目标并执行攻击。
在通用人工智能阶段，人工智能将从狭窄的、特定领域的智能迈向更通用的智能，这个时候这些机器能在没有编码特定领域知识的情况下解决不同种类的问题，甚至能像人一样做出判断和决策。比如，谷歌Alphabet旗下的子公司DeepMind开发的AlphabetZero作为围棋弈者从零开始，面对的只是一张空白棋盘和游戏规则，通过自学使自己的游戏技能得以提高，而不是通过输入人类的对弈棋谱来训练自己。这代表着人类在建造真正智能化机器方面向前迈进了一步，因为即使在没有大量训练数据的情况下，机器也能根据规则和目的需要找出解决困难问题的方法。这在某种程度上似乎具备了所谓的“自觉意识”。有的专家认为，即使没有像人一样的自觉意识，但人类也面临将这个世界的管理权让渡给人工智能。随着人工智能的进化，他们终将认识到人类是这个世界的负担，最后理性的结果或许是清除行尸走肉的人类。一份最近的专家调查显示，可能是2040-2050年左右，有50%的概率实现人类水平的通用智能。
从技术发展的终极层面来讲，如果人的思维也是从无思维的物质开始生成的，人的意识又是从思维开始的，那么从纯理论上来讲，人工智能零部件也是无思维的物质，而这些无思维的物质最终也可能会像人一样有思维，进而也可能会像人一样具有自我意识。从而最终可能成为像人一样的一个智能物种。这就是所谓的超级人工智能时代。这个时候人类面临的挑战就更加不可预测了。因为有的专家预计，这种超级的人工智能有可能反叛人类，而跟人类来竞争、来较劲，甚至发生超级智能和人类之间的战争。这种超级智能甚至能思考人类存在于地球的必要性和合理性。
综上所述，无论是弱人工智能，还是通用智能以及超级人工智能，其潜在的风险巨大。作为发展这种人工智能主体的人来讲有责任管理好潜在风险和负面影响。在弱人工智能阶段，人工智能的各相关方是责任主体。这样看来，涉及到人工智能的各个相关方的社会责任问题。人工智能研发者、相关产品和服务的生产者、销售和服务者，也包括使用者以及政府监管部门等各相关方都肩负着重要的社会责任，防范人工智能的风险和负面作用。
应遵循的九项原则
首先，要遵循有益于人类的原则。树立人工智能要服务于人们美好生活的理念和意识。也就是人工智能的研究与开发要着眼于有益的智能方向去做。
第二，研发人工智能要遵循透明度原则。特别是研究的目的、目标和功能要向相关方和社会公开公布，以便接受社会责任监督，防止人工智能的研发走偏方向。
第三，利益相关方原则。要加强相关方之间的交流和信任，尊重回应利益相关方的利益和所求。比如研发者与政策制定部门要加强交流，适时出台相关的政策和要求，对人工智能的研发加以引导和规范；在利用大数据时要尊重相关方的合法权益和隐私，还要做到责权利相匹配。
第四，担责原则。人工智能的研发和生产者是人工智能的权益人，更重要的是其责任人，对人工智能的滥用要承担责任。确保人工智能的质量，一是要避免明显的安全缺陷；二是发生人工智能故障或者损害时，应当可以查明原因。这样一方面防止意外发生，另一方面，也能促进业界共享，防止类似的错误或者损害发生。
第五，道德伦理原则。人工智能的开发者要赋予人工智能以与人类相同的价值观。这样人工智能的目的和行为是在可以控制的范围。
第六，审慎原则。对于在要开发的人工智能的潜在风险和负面影响不能有效评估的情况下，要采取谨慎的态度，不能冒昧地推进。
第七，尊重人权的原则。人工智能的设计和运作应尊重人权，要符合人类尊严，权利，自由和文化多样性的理念。
第八，共享的原则。人工智能技术应该尽可能地使更多人受益，要尽量让更多人更广泛的共享，造福全人类。
第九，双主体责任原则。在通用人工智能以及超级人工智能阶段，除了人工智能相关方承担相应的社会责任外，人工智能系统本身作为一个智能体也应作为责任主体加以规范。