隐私、事故和权责，智能汽车发展带来的伦理问题
如果一辆车在自动驾驶的过程中造成其他车辆的损失，这个责任应该有谁来承担？目前已经有相关的法规适用于这种情况，在此姑且不去探讨那些细则，首先法令的出现，就意味着这类问题发生的普遍性，其次也意味着未来可能会出现更多此类甚至更广泛的问题。
智能驾驶技术，可能是人类历史上，第一次如此大规模的迎来最高等级的智能机械设备在日常的应用。除了技术适用性以及发展上面的问题外，人们也是首次切切实实的感受到，可以被统称为“人工智能”所可能带来的“伦理问题”。
在此用伦理来形容这些问题，而不是社会或法律，因为所涉及的范围并没有大到影响全部社会生活，但也没有小到仅仅是可以用法律来规范。在社会所有的行为当中只有一小部分会触犯到法律，大量的不当的行为处在包含了法律但又大于法律的伦理范畴之内。
就当前的发展来看，智能汽车所带来的问题既有在法律界定上的责任问题，也有诸多关于隐私、平权的内容，所以讲这些统称为智能汽车所引发的伦理问题并不为过。在此紧从几个具有代表性的问题入手，来即开未来人们将会由于智能汽车所带来的巨大的伦理问题的一角。
最先显露的问题，是来自于智能汽车的一个主要的功能，即从外部来看，它是一个全身长满了摄像头的可移动计算机，在巨大电池的支撑下，这台性能机器可以在它能够去到的任何地点、任何时候对周围甚至车内的环境进行图像以及声音的采集。同时在移动网络的加持下，这些音画内容可以被上传到任何一个指定的网络空间内。
不用多说，被互联网多次洗礼人都有着很敏感的隐私嗅觉，所以智能汽车所面对的第一个大的伦理问题就是车外以及车内环境的隐私。
实际上，环境的隐私仅仅是智能汽车隐私问题的一个集中显现，在这背后，更大的隐私可能以不同的方式在空中传输着。最明显的就是驾驶者所使用的那辆智能汽车内部的所有传感器所产生的，关于车辆运行状况的数据。
如果说监测车辆情况可以提供安全性的话，那么在这个安全性的保护伞之下，驾驶者的驾驶习惯也会被智能汽车记录在案，如果未来智能汽车厂商插手汽车保险业务的话，那么他们就会有更充足数据来分析任何一个车主在其操作习惯之下的驾驶风险。
这也并不是隐私问题的全部，在人们使用智能汽车的时候，他们也在被智能汽车的制造商使用着，在数据不断的交换中，智能汽车厂商可以将这辆车转化为一个感知原件、一个计算中心、一个驾驶情况的模拟器，从而“偷偷”地在驾驶者使用的同时，进行着某种算力的窃取。
当然，随着隐私法规的不断出台，对于智能汽车能采集什么样数据、能传输什么样数据将会不断明晰，但在此之前，就非常有必要在伦理层面去全面的理解智能汽车所带来的利弊，以及规范好它的工作界限。
如果说隐私问题还不是性命攸关的话，那么关于智能驾驶的伦理问题，大多涉及到了财物的损失、甚至人员的伤亡，这时就需要法律的明确介入。一个最直接的挑战就是，当驾驶员开启了具有足够自主决策权的智能驾驶的时候，如果发生了由于智能驾驶操作所带来的车辆、道路、行人的损失，责任该如何界定？
对于简单的工具，制造方往往不需要承担过多的责任，只要他们生产的是法律范围内允许销售的产品。不会有人因为被刀砍伤就去起诉刀的生产厂商，责任只会追究到行为的发起者，即刀的使用者身上。
这在传统汽车范围内也是适用的，没有智能驾驶的汽车发生事故所能追究的第一责任人很明显就是某辆车的驾驶者，有很大一部分是由于其错误的决策导致了车祸的产生。但是如果是由于车辆的质量问题，比如刹车失灵，那么驾驶者还可以通过法律的手段去追究制造商的责任。
但是在智能汽车领域，这个问题变得稍微复杂了点，即大多数时候都是人在拿着刀，可一旦开启了智能驾驶，刀也有可能有自己的“意识”，决定自己去砍人。在这种情况下主观意愿的发出者并不是驾驶者，而是车辆本身。虽然目前已经出台的一些法律，还是倾向于将责任归于驾驶者，而驾驶者也可以酌情向制造商追责，但这个问题一定还会在相当长的一段时间内，伴随着智能驾驶级别不断的发展提高而被反复提及。
如果深入这一点，就会发现，即便是不发生事故，也会产生另外一个问题，我们姑且把它称为“道路权”的问题。试想一下，在一个开放的路段，仅从车外的角度是难以分辨哪一辆车是正在进行智能驾驶，哪一辆车是由人来驾驶的。（虽然智能驾驶汽车可以设置一些警示的标志，但这不足以在根本上进行分辨）
这时，在同时行驶的车辆当中，由人驾驶车辆的“道路权”是否会因为“智能驾驶”的参与而受到侵犯。这么说似乎有些矫情，但通过对权责以及理性驾驶能力的分析，就会察觉到不对劲的地方。
对于人工驾驶来说，驾驶者拥有道路权，同时他也要为自己的驾驶行为负责，这毋庸置疑，权责非常清晰。但是对于智能驾驶来说，驾驶者开启智能驾驶功能后，就会出现一个奇怪的情况，智能汽车而非驾驶者拥有道路权，即相关的驾驶行为是智能汽车发出的，而目前来看，智能汽车本身（因为它不是个法人）不需要为其驾驶行为负责，驾驶员必须要为最终的行为负责。
表面上看起来似乎问题不大，终归都是驾驶员在负责，但这仅仅是在发生事故的情况下，责任可以落实到人。如果将视线定格在路上行驶的某一个片段，人工驾驶的驾驶员就会发现，跟他在道路上竞争的，竟然有很多是并不需要为自己的驾驶行为负责的“人工智能”。
这就好比我们在路上发现一个没有民事能力的孩子，在有家长相伴的情况下开车一样，作为跟他们同路的人，难免会产生担忧，不管是这个孩子的驾驶水平如何。这并不是一个关于技术的问题，也不是一个关于法律的问题，而是一个关于权责分配的伦理问题。
这个背后，也就隐藏着所有人工智能发展最终都会遇到的问题——人工智能产品，在多大程度上，可以被当作一个法人来看待。
这个问题的本质是不同于其他的商品，人工智能产品具有独立做决策的能力，并在此基础上发出跟人类似的动作，这些动作可能伤及到其他人。那么这个人工智能是否有能力承担这个责任。
但是更进一步的是，如果“人工智能”不具有反思意识，即不具备反思责任的能力，那么它就会是处于没有道德或伦理压力的控制下，即便是有足够聪明的程序来指导它，也无法让他称为一个像人一样的能因为责任问题而改变行为的一个主体。
这不免让人联想起阿西莫夫的机器人三定律：
第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存；
即便是有着绝对的命令，机器也无法作为一个法人主体，因为控制他们的是指令而不是他们自己对道德的反思，即对责任的认识。也许现在说这个问题还很遥远，但如今一辆智能汽车在路上“自动”行驶的时候，就一定会给其他人工驾驶的车辆，带来一种权责的扭曲影响，在这种影响之下，人工驾驶的驾驶员都会发出一个自然而然的追问，如果这台机器不能像我一样负责，那就请他不要做决定，这是对我为自己行为负责这个规则的严重侵犯。
如果在一个充分自由的法制社会里，可能只要有一个人坚持人工驾驶，他就有权利去起诉所有的自动驾驶，要他们证明智能汽车可以为其行为负责，否则就可以禁止它们上路。但这只是一种理想情况的假设，现实社会也许人们都会慢慢的拥抱新技术、新产品，不过这也提醒我们，新技术新产品不仅带来了便利，也会带来相当复杂、甚至从来没有过的伦理问题，也只有解决了这些，新的东西才会真的落地，称为日常生活的一部分。
人工智能应用中的安全、 隐私和伦理挑战及应对思考
隐私保护挑战
大数据驱动模式主导了近年来人工智能的发展，成为新一轮人工智能发展的重要特征。隐私问题是数据资源开发利用中的主要威胁之一，因此，在人工智能应用中必然也存在隐私侵犯风险。
数据采集中的隐私侵犯
随着各类数据采集设施的广泛使用，智能系统不仅能通过指纹、心跳等生理特征来辨别身份，还能根据不同人的行为喜好自动调节灯光、室内温度、播放音乐，甚至能通过睡眠时间、锻炼情况、饮食习惯以及体征变化等来判断身体是否健康。然而，这些智能技术的使用就意味着智能系统掌握了个人的大量信息，甚至比自己更了解自己。这些数据如果使用得当，可以提升人类的生活质量，但如果出于商业目的非法使用某些私人信息，就会造成隐私侵犯。
云计算中的隐私风险
因为云计算技术使用便捷、成本低廉，提供了基于共享池实现按需式资源使用的模式，许多公司和政府组织开始将数据存储至云上。将隐私信息存储至云端后，这些信息就容易遭到各种威胁和攻击。由于人工智能系统普遍对计算能力要求较高，目前在许多人工智能应用中，云计算已经被配置为主要架构，因此在开发该类智能应用时，云端隐私保护也是人们需要考虑的问题。
知识抽取中的隐私问题
由数据到知识的抽取是人工智能的重要能力，知识抽取工具正在变得越来越强大，无数个看似不相关的数据片段可能被整合在一起，识别出个人行为特征甚至性格特征。例如，只要将网站浏览记录、聊天内容、购物过程和其他各类别记录数据组合在一起，就可以勾勒出某人的行为轨迹，并可分析出个人偏好和行为习惯，从而进一步预测出消费者的潜在需求，商家可提前为消费者提供必要的信息、产品或服务。但是，这些个性化定制过程又伴随着对个人隐私的发现和曝光，如何规范隐私保护是需要与技术应用同步考虑的一个问题。
伦理规范挑战
伦理问题是人工智能技术可能带给人们的最为特殊的问题。人工智能的伦理问题范围很广，其中以下几个方面值得关注。
机器人的行为规则
人工智能正在替代人的很多决策行为，智能机器人在作出决策时，同样需要遵从人类社会的各项规则。比如，假设无人驾驶汽车前方人行道上出现3个行人而无法及时刹车，智能系统是应该选择撞向这3个行人，还是转而撞向路边的1个行人？人工智能技术的应用，正在将一些生活中的伦理性问题在系统中规则化。如果在系统的研发设计中未与社会伦理约束相结合，就有可能在决策中遵循与人类不同的逻辑，从而导致严重后果。
机器人的权力
目前在司法、医疗、指挥等重要领域，研究人员已经开始探索人工智能在审判分析、疾病诊断和对抗博弈方面的决策能力。但是，在对机器授予决策权后，人们要考虑的不仅是人工智能的安全风险，而且还要面临一个新的伦理问题，即机器是否有资格这样做。随着智能系统对特定领域的知识掌握，它的决策分析能力开始超越人类，人们可能会在越来越多的领域对机器决策形成依赖，这一类伦理问题也需要在人工智能进一步向前发展的过程中梳理清楚。
机器人的教育
有伦理学家认为，未来机器人不仅有感知、认知和决策能力，人工智能在不同环境中学习和演化，还会形成不同的个性。据新华网报道，国外研发的某聊天机器人在网上开始聊天后不到24个小时，竟然学会了说脏话和发表种族主义的言论，这引发了人们对机器人教育问题的思考。尽管人工智能未来未必会产生自主意识，但可能发展出不同的个性特点，而这是受其使用者影响的。机器人使用者需要承担类似监护人一样的道德责任甚至法律责任，以免对社会文明产生不良影响。
启示与建议
人类社会即将进入人机共存的时代，为确保机器人和人工智能系统运行受控，且与人类能和谐共处，在设计、研发、生产和使用过程中，需要采取一系列的应对措施，妥善应对人工智能的安全、隐私、伦理问题和其他风险。
加强理论攻关，研发透明性和可解释性更高的智能计算模型
在并行计算和海量数据的共同支撑下，以深度学习为代表的智能计算模型表现出了很强的能力。但当前的机器学习模型仍属于一种黑箱工作模式，对于AI系统运行中发生的异常情况，人们还很难对其中的原因作出解释，开发者也难以准确预测和把握智能系统运行的行为边界。未来人们需要研发更为透明、可解释性更高的智能计算模型，开发可解释、可理解、可预测的智能系统，降低系统行为的不可预知性和不确定性，这应成为人工智能基础理论研究的关注重点之一。
开展立法研究，建立适应智能化时代的法律法规体系
欧盟、日本等人工智能技术起步较早的地区和国家，已经意识到机器人和人工智能进入生活将给人类社会带来的安全与伦理问题，并已着手开展立法探索，如2016年5月，欧盟法律事务委员会发布《就机器人民事法律规则向欧盟委员会提出立法建议》的报告草案，探讨如何从立法角度避免机器人对人类的伤害。有效应对未来风险挑战需强化立法研究，明确重点领域人工智能应用中的法律主体以及相关权利、义务和责任，建立和完善适应智能时代的法律法规体系。
制定伦理准则，完善人工智能技术研发规范
当人工智能系统决策与采取行动时，人们希望其行为能够符合人类社会的各项道德和伦理规则，而这些规则应在系统设计和开发阶段，就需被考虑到并被嵌入人工智能系统。因此，需要建立起人工智能技术研发的伦理准则，指导机器人设计研究者和制造商如何对一个机器人做出道德风险评估，并形成完善的人工智能技术研发规范，以确保人工智能系统的行为符合社会伦理道德标准。
提高安全标准，推行人工智能产品安全认证
可靠的人工智能系统应具有强健的安全性能，能够适应不同的工况条件，并能有效应对各类蓄意攻击，避免因异常操作和恶意而导致安全事故。这一方面需要提高人工智能产品研发的安全标准，从技术上增强智能系统的安全性和强健性，比如完善芯片设计的安全标准等；另一方面要推行智能系统安全认证，对人工智能技术和产品进行严格测试，增强社会公众信任，保障人工智能产业健康发展。
建立监管体系，强化人工智能技术和产品的监督
由于智能系统在使用过程中会不断进行自行学习和探索，很多潜在风险难以在研发阶段或认证环节完全排除，因此加强监管对于应对人工智能的安全、隐私和伦理等问题至关重要。建议在国家层面建立一套公开透明的人工智能监管体系，实现对人工智能算法设计、产品开发、数据采集和产品应用的全流程监管，加强对违规行为的惩戒，督促人工智能行业和企业自律。
推动全球治理，共同应对风险挑战
人工智能的快速发展是全球各国共同面临的问题，应明确科学家共同体、政府与国际组织各自的职责，引导各国积极参与人工智能全球治理。加强机器人伦理和安全风险等人工智能国际共性问题研究，深化人工智能法律法规、行业监管等方面的交流合作，推进人工智能技术标准和安全标准的国际统一，使人工智能科技成就更好地服务于人类社会。
致谢：本研究受科技部改革发展专项“中国人工智能2.0规划编制”（2016GH010036）、科技部科技创新战略研究专项“重大科技项目和科技工程形成机制研究”（ZLY2015133）资助。
（责任编辑王丽娜）
作者简介：李修全，中国科学技术发展战略研究院，副研究员。注：本文发表在2017年第15期《科技导报》，欢迎关注。本文部分图片来自互联网，版权事宜未及落实，欢迎图片作者与我们联系稿酬事宜。
返回搜狐，查看更多