我国关于物联网安全的法律法规，你了解吗
原标题：我国关于物联网安全的法律法规，你了解吗？在过去的2019年，基于物联网，让所有物体都能实现互联互通的物联网被广泛采用，企业开始意识到物联网设备收集的数据能够带来的好处。但同时，与数据安全一样，物联网安全仍然是整个科技行业以及政府内部的头等大事。
物联网发展进程中的忧与患近年来，围绕危险的物联网（IoT）设备引发了很多关注和争议。近日，外国媒体“ThreatPost”的相关工作人员就发布了“2019年的十大物联网灾难”，盘点过去一年中物联网行业内最糟糕的灾难性事件：
与此同时，我国媒体于上月初也报道了一起重大物联网信息泄露事件，数十万只家用摄像头遭破解，用户数据被廉价出售。据报道，不法分子通过App破解工具对全国数十万只家用摄像头进行非法控制，再将这些摄像头的账号密码、破解工具或拍摄的私密视频进行售卖，以此获取利益。目前该案件虽然已经告破，但是也让更多民众担心物联网设备的安全问题。
因此在未来的很长一段时间里，物联网安全威胁都将是全球网络安全行业关注的焦点，同时，也出现了很多要求加强建设物联网行业监管制度的声音。
我国针对物联网安全的立法物联网时代，信息安全涉及到个人隐私、企业商业秘密以及国家和社会的重大利益，亟需立法保护。为此，近2年各国立法机关不断推出各种法律法规来保护物联网安全：
1、日本政府2018年底至2019年初，频频针对物联网安全修法。主管机关总务省在2019年1月底对《电气通信事业法》进行修正，于2020年4月起要求联网终端设备须具有防非法登录功能，例如能切断外部控制、要求变更初期默认ID和密码、可时常更新软件等，且唯有满足标准、获得认定的设备才能在日本上市。
2、2020年初，美国加州立法委员会颁布的《加利福尼亚州的物联网网络安全法案》（SB327）开始实施该法律要求所有的连接设备都具有“合理的安全功能”，目的在于保护用户数据免遭未经授权的访问，修改或公开。
3、2020年1月30日，英国政府立法加强物联网安全。这些与英国国家网络安全中心联合制定的举措，将要求消费者物联网的制造商采用独一无二的密码，而非默认的出厂设置；提供一个公开的接入点来报告漏洞；并说明设备获得安全更新的最短时长。
展开全文与此同时，我国也积极推进物联网信息安全立法：
《中华人民共和国宪法》（以下简称《宪法》）第四十条规定：“中华人民共和国公民的通信自由和通信秘密受法律的保护。除因国家安全或者追查刑事犯罪的需要，由公安机关或者检察机关依照法律规定的程序对通信进行检查外，任何组织或者个人不得以任何理由侵犯公民的通信自由和通信秘密。”这一规定为物联网时代信息安全保护提供了根本依据。
除了《宪法》之外，《中华人民共和国国家安全法》《中华人民共和国保守国家秘密法》《中华人民共和国电子签名法》和《中华人民共和国著作权法》等法律对网络安全问题均有涉及。另外，在刑法领域，《中华人民共和国刑法》也规定了五种网络犯罪，将信息安全问题纳入了刑法保护范畴。
目前，我国物联网信息安全保护立法仍然存在不足。首先是法规分散、不成体系。我国关于信息安全的规定分布在多部法律法规之中，至今没有一部专门针对物联网信息安全问题的基本法，没有形成一个完整的法律体系，并且相关规定，过于繁杂。（人民论坛网）
伴随着物联网的广泛应用，站在维护国家安全、社会稳定以及保障公民权益的高度，为“物联网安全”立法，是未来物联网发展的必经之路。除此之外，还需企业、政府、个人多方从监管、自律等方面共同努力，共同创造一个安全高效的物联网技术发展环境。返回搜狐，查看更多
责任编辑：政策综述 关于智能网联汽车相关政策法规分析
问题的提出
2021年9月25日，工信部党组书记、部长肖亚庆出席2021世界智能网联汽车大会并致辞。肖亚庆表示，党中央、国务院高度重视汽车产业发展，习近平总书记强调，要成为制造业强国，就要做汽车强国。我们要认真贯彻落实，牢牢把握汽车产业变革趋势，把发展智能网联汽车作为重要战略方向，坚持单车智能和网联赋能并行发展路径，推动智能网联汽车产业实现高质量发展。 近年来，我国推动汽车网联化、智能化与电动化协同发展，智能网联汽车呈现强劲发展势头。智能网联汽车作为汽车领域重要发展方向，已上升为国家战略。国家多次出台配套政策标准推动行业发展。2021年10月10日，中共中央国务院印发的《国家标准化发展纲要》在关于加强关键技术领域标准研究中提出，研究制定智能船舶、高铁、新能源汽车、智能网联汽车和机器人等领域关键技术标准，推动产业变革。目前，我国智能网联汽车发展正在从测试验证转向多场景示范应用新阶段，下一步要不断完善政策法规，积极探索融合监管模式，通过准入管理、标准制定、安全监管、产品召回等方式，促进智能网联汽车加快创新、安全应用。因此，有必要对智能网联汽车发展相关政策法规进行分析，并提出意见建议。我国智能网联汽车发展情况一、我国智能网联汽车市场规模逐步扩大
目前，我国企业已经布局智能网联汽车各个产业链环节中的大部分生产环节，从而引领我国智能网联汽车产业实现由大变强。随着智能网联技术的进步、产品持续迭代升级，以及整车电子电气架构发展颠覆性改变，大批互联网公司涌入国内市场，以跨界合作方式切入智能网联汽车领域，上汽、北汽、长安、广汽等传统汽车生产企业正加快推进研发、测试和推出智能网联汽车车型。在乘用车领域，2020年我国智能网联乘用车（L2级）销量为303.2万辆，较2019年的146.3万辆增长107%。其中，运动型乘用车、轿车、多用途乘用车和其他车型L2级销量分别为162万辆、119万辆、22万辆和0.4万辆。2021年上半年，新车市场渗透率由已2020年的15%上升到20%。 在商用车领域，已出现了5G智能重卡在港口运输场景的运用，可以实现诸如在港区内的高级别的自动驾驶以及高精的定位和停车等。一汽解放、东风汽车、陕汽、福田等重点企业生产的重卡和轻卡智能网联汽车产品，以及宇通、金旅、苏州金龙、中车电动、安凯等企业生产的智能网联客车产品，纷纷亮相2020国际智能网联汽车大会。中国重汽智能网联重卡项目已正式投产。二、我国智能网联汽车技术水平不断提升目前，我国智能网联汽车的技术水平主要表现在以下三个方面。一是关键核心技术取得一定突破。环境感知技术方面，车载多线束激光雷达、应用于智能驾驶功能的车载视觉芯片已实现量产。决策技术方面，国内推出多款自主研发的自动驾驶计算平台，国产芯片陆续搭载装车应用。控制执行技术方面，辅助驾驶系统实现量产搭载，自动驾驶系统搭载的车辆已在园区、机场、矿山等封闭、半封闭场景示范应用。二是信息交互技术达到国际水平。在平台与大数据技术方面，架构与标准化、平台关键技术方面取得积极进展，开展了大规模网联应用实时协同计算环境的大数据云控基础平台关键技术研究，与国际相比，我国提出的大数据云控基础平台架构具有先进性。三是基础支撑技术进一步落地。高精度地图实现了商业化落地，在采集范围与地图制作领域达到国际先进水平。高精度定位方面，基于我国北斗卫星通信实时动态差分定位技术，已实现在开阔道路上的亚米级定位，与国际先进水平保持一致。测试评价方面，模拟仿真、封闭场地、实际道路等测试技术取得一定进展，积极推进建设中国典型驾驶场景数据库。三、我国智能网联汽车道路示范应用有序开展近年来，在国家相关政策引导下，我国各省市积极推动载人载物智能网联汽车示范应用，港口、矿区等特定场景率先开展试点运营，自动驾驶出租车、无人物流、无人环卫等限定区域开放道路示范应用有序开展。最近，工业和信息化部装备工业发展中心发布的《中国汽车工业发展年报（2021）显示：截至2020年底，国家相关部门已累计授牌智能网联汽车测试示范区（场）16家。其中，工业和信息化部授牌9家，工业和信息化部和公安部联合授牌1家，工业和信息化部和交通运输部联合授牌3家，交通运输部授牌3家；工业和信息化部授牌先导区4家。其中2020年批复天津（西青）、重庆（两江新区）、湖南（长沙）3家。截至2020年底，全国20多个省市开放超过3200公里测试道路，共计70余家企业申请近700张道路测试牌照、载人载物测试许可等，安全测试里程超过530万公里。整车企业、科技企业、初创企业、科研机构等均获得智能网联汽车道路测试牌照。目前，全国开放测试区域超过5000平方公里，大型港口货运车辆自动驾驶应用占比达到50%，L3级自动驾驶车型在特定场景下开展测试验证，测试示范纵深发展进入应用新阶段。我国智能网联汽车相关政策法规分析一、智能汽车创新发展战略
2020年2月10日，国家发展改革委等十一部委联合印发《智能汽车创新发展战略》。《战略》的主要内容包括发展态势、总体要求、主要任务、保障措施共四部分。战略愿景：到2025年，中国标准智能汽车的技术创新、产业生态、基础设施、法规标准、产品监管和网络安全体系基本形成。实现有条件自动驾驶的智能汽车达到规模化生产，实现高度自动驾驶的智能汽车在特定环境下市场化应用。智能交通系统和智慧城市相关设施建设取得积极进展，车用无线通信网络（LTE-V2X等）实现区域覆盖，新一代车用无线通信网络（5G-V2X）在部分城市、高速公路逐步开展应用，高精度时空基准服务网络实现全覆盖。同时，展望了2035到2050年的战略愿景。 对于如何实现上述愿景，《战略》提出要完成六个方面共二十项关键任务，涉及二十五项具体政策措施。六大重点任务和具体政策包括：1、构建协同开放的智能汽车技术创新体系。三项政策：突破关键基础技术研发投入的财税金融支持政策；建立健全智能汽车测试评价体系及测试基础数据库；开展特定区域智能汽车测试运行及示范应用，支持优势地区创建国家车联网先导区的相关政策。2、跨界融合的智能汽车产业生态体系。四项政策：推进建设智能汽车关键零部件产业集群、培育有竞争力的智能汽车品牌的支持政策；整合优势资源，组建智能汽车产业联合体和联盟的支持政策；优先在重点城市封闭区域探索开展智能汽车出行服务的支持政策；推动车辆电子控制、高性能芯片、激光/毫米波雷达、微机电系统、惯性导航系统等自主知识产权军用技术的民用转化的支持政策。 3、先进完备的智能汽车基础设施体系。两项政策：建立健全中央和地方各级财政投入保障制度，鼓励采用多元化市场融资方式拓宽融资渠道，促进交通、通信、网络等机构共同构建先进完备的智能汽车基础设施体系建设；制定鼓励有条件的地方和企业在构建先进完备的智能汽车基础设施体系建设中先行先试的支持政策。4、系统完善的智能汽车法规标准体系。三项政策：开展智能汽车“机器驾驶人”认定、责任确认、网络安全、数据管理等法律问题及伦理规范研究等；推动出台规范智能汽车测试、准入、使用、监管等方面的法律法规规范，促进法律法规修订完善；构建智能汽车中国标准体系。5、科学规范的智能汽车产品监管体系。一是产品管理方面的五项政策：完善智能汽车生产、准入、销售、检验、登记、召回等管理规定；研究制定智能汽车相关产品安全审核和管理办法；加强智能汽车产品研发、生产制造、进出口等监管，完善智能汽车道路交通违法违规行为取证和处置、安全事故追溯和责任追究相关规定；明确车用无线通信设备型号核准和进网许可办理流程；完善智能汽车场地测试标准和管理办法。二是使用管理方面的四项政策：颁布智能汽车标识管理办法，强化智能汽车的身份认证、实时跟踪和事件溯源；建立公开透明的智能汽车监管和事故报告机制，运行监管体系；加强道路基础设施领域联网通信设备进网许可管理；制定智能汽车软硬件升级更新、售后服务、质量担保、金融保险等领域管理规定，积极推进智能汽车商业化应用。 6、全面高效的智能汽车网络安全体系。三项政策：严格落实国家网络安全法律法规和等级保护，完善智能汽车网络安全管理制度等；搭建多层纵深防御、软硬件结合的安全防护体系等；按照国家网络安全等级保护相关标准规范，建设智能汽车网络安全态势感知平台，提升应急处置能力。二、国家车联网产业标准体系建设指南（车辆智能管理）2020年4月15日，工业和信息化部、公安部、国家标准化管理委员会联合发布《国家车联网产业标准体系建设指南（车辆智能管理）》，旨在发挥标准在车联网产业生态环境构建中的引领和规范作用，加快制造强国、网络强国和交通强国建设步伐。《通知》要求各地有关主管部门、行业协会、专业机构等与近年来已发布的《国家车联网产业标准体系建设指南（智能网联汽车）》（工信部联科〔2017〕332号）、《系列文件》（工信部联科〔2018〕109号）配套使用，认真贯彻执行。 《车联网产业标准体系建设指南（车辆智能管理）》标准的主要内容除前言外，包括总体要求、构建方法、标准体系、组织实施等共四部分。主要针对车联网环境下的车辆智能管理工作需求，指导智能网联汽车登记管理、身份认证与安全、道路运行管理及车路协同管控与服务等领域标准化工作，推动公安交通管理领域车联网技术应用与发展，提升我国智能网联汽车与智慧交通水平，并逐步与《建设指南》其它部分共同形成统一、协调的国家车联网产业标准体系架构。三、新能源汽车产业发展规划（2021—2035年）涉及智能网联汽车发展部分
2020年10月20日，国务院办公厅通知印发《新能源汽车产业发展规划（2021—2035年）》。 《规划》中与智能网联汽车发展直接相关的内容有以下五个方面：一是发展愿景中提出，到2025年，高度自动驾驶汽车实现限定区域和特定场景商业化应用。力争经过15年的持续努力，高度自动驾驶汽车实现规模化应用。二是专栏1“新能源汽车核心技术攻关工程”中提出，实施智能网联技术创新工程。以新能源汽车为智能网联技术率先应用的载体，支持企业跨界协同，研发复杂环境融合感知、智能网联决策与控制、信息物理系统架构设计等关键技术，突破车载智能计算平台、高精度地图与定位、车辆与车外其他设备间的无线通信（V2X）、线控执行系统等核心技术和产品。三是推动新能源汽车与信息通信融合发展中提出，开展特定场景、区域及道路的示范应用。四是专栏4“智慧城市新能源汽车应用示范行动”中提出，支持以智能网联汽车为载体的城市无人驾驶物流配送、市政环卫、快速公交系统（BRT）、自动代客泊车和特定场景示范应用。五是保障措施中提出，加快完善适应智能网联汽车发展要求的道路交通、事故责任、数据使用等政策法规。四、关于促进道路交通自动驾驶技术发展和应用的指导意见2020年12月20日，交通运输部以2020年第22号令公布《关于促进道路交通自动驾驶技术发展和应用的指导意见》，自2021年4月1日起施行。《指导意见》主要内容包括总体要求、发展目标、主要任务、保障措施共四个方面。发展目标是，到2025年，自动驾驶基础理论研究取得积极进展，道路基础设施智能化、车路协同等关键技术及产品研发和测试验证取得重要突破；出台一批自动驾驶方面的基础性、关键性标准；建成一批国家级自动驾驶测试基地和先导应用示范工程，在部分场景实现规模化应用，推动自动驾驶技术产业化落地。主要任务包括四个方面十二项具体要求。一是加强自动驾驶技术研发。加快关键共性技术攻关，完善测试评价方法和测试技术体系，研究混行交通监测和管控方法，持续推进行业科研能力建设。二是提升道路基础设施智能化水平。加强基础设施智能化发展规划研究，有序推进基础设施智能化建设。三是推动自动驾驶技术试点和示范应用。支持开展自动驾驶载货运输服务，稳步推动自动驾驶客运出行服务，鼓励自动驾驶新业态发展。四是健全适应自动驾驶的支撑体系。强化安全风险防控，加快营造良好政策环境，持续推进标准规范体系建设。五、智能网联汽车道路测试与示范应用管理规范（试行）2021年7月27日，工业和信息化部、公安部、交通运输部联合发布《智能网联汽车道路测试与示范应用管理规范（试行）》。《规范》主要包括总则，道路测试与示范应用主体、驾驶人及车辆，道路测试申请，示范应用申请，道路测试与示范应用管理，交通违法与事故处理及附则等七个章节。该《规范》是对2018年4月旧版本《规范》的修订。为适应新技术新模式新业态发展，加快智能网联汽车产业化进程，主要在以下四个方面进行了修订和完善：一是在道路测试基础上增加示范应用，允许经过一定时间或里程道路测试、安全可靠的车辆开展载人载物示范应用，并将测试示范道路扩展到包括高速公路在内的公路、城市道路和区域。二是测试车辆范围增加了专用作业车，以满足无人清扫车等使用需求，对测试示范主体则增加了网络安全、数据安全等方面的保障能力要求。三是完善智能网联汽车自动驾驶功能通用检测项目，推动实现测试项目和标准规范的统一，明确在一个地方通过检测后进行异地测试时对于通用项目不需重复检测，进一步减轻企业负担。四是取消“道路测试/示范应用通知书”的发放要求，将相关安全性要求调整为企业安全性自我声明，简化办理程序。六、关于加强智能网联汽车生产企业及产品准入管理的意见
2021年7月30日，工业和信息化部发布《关于加强智能网联汽车生产企业及产品准入管理的意见》。《意见》包括总体要求、加强数据和网络安全管理、规范软件在线升级、加强产品管理、保障措施共五个方面、十一项内容。一是明确管理范围、强化企业主体责任。明确管理范围为智能网联汽车生产企业及其产品。明确企业应落实主体责任，加强汽车数据安全、网络安全、软件升级、功能安全和预期功能安全管理，保证产品质量和生产一致性。二是加强数据和网络安全管理能力。从数据安全和网络安全两个方面对智能网联汽车的数据作出了明确的规定。三是规范软件在线升级。明确企业生产具有在线升级功能的汽车产品的，应当建立与汽车产品及升级活动相适应的管理能力。四是加强产品管理。提出企业生产具有驾驶辅助和自动驾驶功能的汽车产品的，应当明确告知车辆功能及性能限制、驾驶员职责、人机交互设备指示信息、功能激活及退出方法和条件等信息。五是完善保障措施。明确企业应当建立自查机制，发现产品存在数据安全、网络安全、在线升级安全、驾驶辅助和自动驾驶安全等严重问题的，应立即停止相关产品的生产、销售，采取措施进行整改，并及时报告。七、汽车数据安全管理若干规定（试行）2021年8月18日，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、交通运输部联合发布《汽车数据安全管理若干规定（试行）》，自2021年10月1日起施行。
《规定》共十九条。在汽车数据安全管理领域出台有针对性的规章制度，明确汽车数据处理者的责任和义务，规范汽车数据处理活动，有利于促进汽车数据依法合理有效利用和汽车行业健康有序发展。同时，《规定》聚焦汽车领域个人信息和重要数据的安全风险，就若干重点问题作出规定。
《规定》将汽车充电网的运行数据、人脸、车牌等定义为重要数据，对智能网联汽车相关企业在数据的收集与管理过程中的合规工作具有重要影响。
智能网联汽车产业对数据需求量巨大，其采集的数据包括车辆数据、用户数据、地图数据、位置数据、视觉数据、路况数据、业务数据和第三方数据等。《规定》倡导个人信息和重要数据的车载端本地化存储及本地化处理，确有必要向车外提供的，应本着脱敏处理原则，尽可能地进行匿名化和脱敏处理，这将对车载芯片计算能力及车辆本地存储能力提出了更高的要求。
人工智能的法律管制
人工智能的法律管制时间：2017-11-21最近两三年内，科学家对人工智能研究收获了丰盛的果实。谷歌的提供的服务已有超过2700项使用人工智能引擎，图像处理的错误率大大降低；云计算明显降低神经网络的运算成本；自动驾驶的商业应用已经近在眼前；微软的Skype语音通信服务可以实现不同语言之间的实时自动翻译；Facebook已经实现自动向盲人描述图片内容。这些技术发展也因其巨大的社会和经济效益权力而得到各国重视。据估计，到2024年全球运用人工智能解决方案的市场将达到300亿美元。普华永道估计2030年的人工智能将为全球经济贡献高达15.7万亿美元产值，超过中国和印度目前的产值之和。
与人工智能带来的经济的飞速发展相对的是法律规制的相对滞后。如果说工业革命的发生与现代社会制度的齐头并进带来了人类的进步，人工智能的进展尚未有相应的道德、法律、社会的变迁与之相协调。哈贝马斯认为，发展的知识基础不仅包括认知与科技意识（cognitive-technicalconsciousness）的结构，还包括道德与实践意识（moral-practicalconsciousness）的结构。回顾现代化的过程，固然工业革命及其背后的科技知识的更新功不可没，社会组织方式及其背后的道德和法律制度的变迁也不可或缺。哈贝马斯认为，就现代化过程而言，科技知识起到的作用在全社会有一般意义的共识，而道德和法律的进步，特别是一个更开放和普遍性本位的道德和法律规范体系（权利本位、法治、社会契约、自由平等和基于共识的治理）同样重要。如果现代社会的进步，不单单是在科技知识上取得突破，也是在道德和实践智慧层面的进步，那么今天讨论法律管制问题，对于人工智能所开创的新时代而言，同样具有根本性的意义。
合理设置人工智能的法律管制需要综合多个领域的知识：立法者不仅需要了解人工智能技术的机理，还需要了解其背后的道德、经济和社会基础。故此，法律对人工智能的管制不仅需要计算机科学、哲学、经济学和法学的传统资源，还要参照人工意识、机器道德等新兴领域的研究。作者认为，法律对人工智能的管制应着眼于人工智能的构成机制（技术内在蕴含的决策架构）和人工智能的发展与运行机制（支持技术发展的商业模式）。
人工智能的构成机制的管制需要明确管制什么的问题。如果将人工智能对人类社会带来什么样的挑战的讨论仅限于就业等风险，会远远低估人工智能会带来的影响。
与之前的技术相比，人工智能最大的特征是能够实现无人类干预的自主决策。这种自主决策分为不同的程度。处理简单的情境我们无须担忧，因为编写人工智能的程序的开发者可以直接把如何处理简单情境包括在程序里。但是在面对更加复杂的挑战时，自主决定系统需要更高级的能力去采取合适的行动，从而将伤害最小化并将道德的考虑最大化，求得解决问题的最有方式。而这种更高级的能力随着不同情景而调整，使得人类难以准确预测人工智能所有的具体行动。而机器自主决定的权利可能随技术的发展而扩大，激化已有的利益、观念冲突。设计者在开发人工智能的过程中亦难以准确预测人工智能存在的所有风险，因此，法律应当进行管制以控制人工智能带来的风险。
通过法律管制来保障人工智能的安全，要充分考虑到人工智能和传统技术的区别。传统的对于公共安全形成威胁的技术通常需要强大的基础设施作为支撑，例如核技术。通常而言，只有国家、大企业或者是获得雄厚资金支持的个人才能造成对安全造成实质性威胁。但是，人工智能以电脑和互联网为依托，无需昂贵的基础设施就能造成安全威胁。技术人员可以在任何时间，地点在没有协助的情况下做出人工智能产品。相关知识可能来源于图书馆或者是开源网络，也有来自不同公司的硬件和软件可供选择，而且人工智能的程序运行并非公开可追踪的，其扩散途径和速度也难以控制。这就要求对人工智能技术的管制考虑更为深层的伦理问题，对人工智能技术本身和它的应用均应符合伦理要求。
从人工智能技术本身看，由于人工智能的目标的实现受其初始设定的影响，如果能够保障人工智能设计的目标与大多数人类的利益和伦理道德一致，就算在决策过程中面对不同的环境，人工智能也能做出的相对安全的决定。比如经典的“电车难题”，当不得不作出决策时，面对着是杀死车上乘客，还是杀死面前的五个路人的两难处境，一辆无人驾驶汽车应该怎么选择？根据某咨询公司对美国民众的调查显示，美国民众中有50%的认为应该先救乘客，另外50%的人认为先救路人，但是只有三分之一的美国人表示愿意乘坐可能会牺牲乘客生命的无人驾驶汽车。汽车厂商面对这个问题的态度也不同。奔驰汽车的高级行政人员ChristophVonHugo表示，奔驰汽车公司一定会把乘客的生命安全放在第一位，即使这样意味着可能伤害路人。这样的人工智能决策设定会或许更迎合消费者的心理，也带来企业利润的增加，但给社会总体造成的损失如何处理，这是立法者必须考量的。
人工智能做出的无人类干预的自主决策还让基于个人责任的社会治理陷入困境。以人工智能的决策导致的安全事故为例，我们无法通过找到责任人并令其承担责任来防止这样的事故。对过错的惩罚在对自然人的管制上是有效的，因为自然人自动会因避免再次受罚而改变行为模式。而对人工智能而言，其“道德心智”的学习和匡正无法通过设定各个相关主体的权利和责任来完成。必须考虑将人类的伦理道德嵌入人工智能系统。
从人工智能技术的应用方面看，要充分考虑到人工智能开发和部署过程中的责任和过错问题，通过为人工智能技术开发者、产品生产者或者服务提供者、最终使用者设定权利和义务的内容来落实伦理要求。在侵权行为发生后，对于人工智能侵权的责任划分至关重要。人工智能自身研究、发展的特点使得受害人在受到侵权后难以索赔，大量个人、企业的参与使得责任承担主体多样。有的人工智能的元素原本不是为人工智能设计的，不成为责任承担主体。而人工智能程序的预设性和不透明性也让使用者承担侵权责任的正当性存在疑问。各国在人工智能管理上的不统一加重了管理的难度。法院应该认定某一具体案件的侵权责任，适用过错责任或者严格责任标准，其最重要的职责是在设计者、生产者、投资者、使用者之间进行责任分配，责任分配的标准与一般侵权责任一致。
对人工智能的发展与运行机制的法律管制需要首先明确管制谁、如何进行管制的问题。人工智能的发展涉及商业平台、技术开发主体（大公司、个体程序员）、数据提供方（个人、商业公司、政府）等。固然管制多个主体并非易事，法律也并非第一次遇到：在公司法中，管制自然人组成的公司就是很好的先例，特别是从公司的合同束理论或者利益相关者理论来看看待公司时我们就更加确信终有一天我们的制度能够达到目的。对公司而言，尽管公司参与人众多，通过对治理结构、责任的诸多规制，法律仍然能够实现整体的管制效果。
在对人工智能的发展路径进行法律管制的思考中，数据特别应该引起我们的注意。数据是人工智能做出决策的基础，而数据并不是直接由公司或者政府产生，而是来自于每个个体。既然人工智能能够直接分析和利用数据，每个个体至少有权利选择以怎样的方式存储、管理和使用他们的数据。企业或者是技术提供方不能够以提供了更高级的产品或者更便利的服务为理由，而不加限制的使用个人的数据，而使得牺牲人们的隐私权成为技术发展的必要代价。人工智能语境下的个人数据的获取和知情同意应该重新进行定义。第一，政策和法律应直接对数据的收集和使用进行规制，而不能仅仅征得数据所有者的同意；第二，应当建立实用、可执行的、适应于不同使用场景的标准流程以供设计者和开发者保护数据来源的隐私；第三，对于利用人工智能可能推导出超过公民最初同意披露的信息的行为应该进行规制。第四，对于个人数据管理应该采取延伸式保护。在实践中，欧盟将于2018年5月25日开始实施的欧盟“通用数据保护规范”(GDPR)，对于如何使用数据进行了规定。该条例制定的目的，是想借赋予欧盟公民个人信息保护的基本权利，来增加消费者对在线服务和电子商务的信心。（当然，对于该条例的规定如何在实践中应用，学界已有相当有力的质疑和批评。）
就法律管制如何促进人工智能的发展而言，法律难以直接在人们应该在哪些领域增加、减少投入做出强制规定。但是法律可以对各个领域中的发展给予必要的指引，比如说对人工智能作为基础的数据的使用做出规定，增强数据的透明度的同时，加强对于个人隐私的保护。同时，针对已有管制的不足之处，法律至少可以允诺未来进行合理调整。
法律对人工智能的发展与运行机制管制的最终的目的应该是促进人类命运共同体的美好发展，而不应让个别科技巨头公司或者是国家独享发展的成果。如何用人工智能促进公平发展在政治，经济和社会结构上都对人类提出挑战。对企业而言，例如谷歌等公司，它们已经掌握着巨大的数据，而且可以利用现有的市场地位和掌握的科学技术进一步获得更多的数据。就算谷歌将自己的一些算法开源，使得公众可以获得其技术。但是其他相对弱势的企业就算能够获得技术，也无法拥有如此海量的数据去进行进一步的研发工作。这样一来，“马太效应”不断强化，某些科技巨头公司的垄断地位一经形成将难以动摇。在此原则下，政策和法律应致力于人工智能发展的外部社会环境的构建，推动对社会个体的人工智能伦理和安全意识教育，让社会警惕人工智能技术被滥用的风险。
法律管制人工智能的问题，考虑到人类对现有技术和制度认知的局限性，立法者和政策制定者当前提出的对人工智能的管制必然需要经过提出、试错和总结经验才可能完善。现阶段我国如何开展和推进对人工智能的法律管制？可行的步骤是先从发现和确认全世界应当共同遵守的原则开始。比如2017年签署的阿西洛马人工智能原则就为设计一套保障人类价值观一致的AI安全发展指南做出了有益的尝试。目前全世界已经有1200名以上的人工智能/机器人研究人员和其他数以千计的人签名支持该原则。（在制定原则的会议中，只有超过90%的与会者同意才能被写入最后确定的原则。）阿西洛马原则在道德标准和价值观念方面强调了以下十二点，分别是：安全性、故障透明、审判透明、职责、价值观一致、人类价值观、个人隐私、自由与隐私、共享利益、共享繁荣、人类控制、非颠覆、避免人工智能军备竞争。在建立了共同原则的基础上，政府和业界共同建立人工智能安全测试规范和认证机构。这些应当作为我们思考的起点，也提醒我们：在制订政策和法律时，我们应当摆脱肤浅的新闻炒作和广告式的热点，促进对人工智能更深层理解，聚焦新技术给我们的社会带来的真正难以应对的挑战。
作者：郭锐（中国人民大学法学院副教授、哈佛大学法学博士）、刘雅洁（中国人民大学法学院2016级知识产权方向法律硕士）
相关阅读：
上一篇：大数据时代更要讲契约精神下一篇：人工智能伦理设计中的中国传统伦理