上海立法为人工智能产业发展设置“信号灯”
《上海市促进人工智能产业发展条例》22日经上海市十五届人大常委会第四十四次会议表决通过，将于2022年10月1日起施行。作为人工智能领域的一部省级地方法规，它有哪些亮点，将如何促进产业发展，随着未来技术迭代要如何“打补丁”，从而推动技术与经济、生活、城市治理等深度融合，备受业内关注。
赋能千行百业，产业路线图更明晰
无人驾驶、灯塔工厂、手术机器人……人工智能不仅为经济社会发展注入新动能，也日益改变人们的生产生活。作为上海重点发展的三大先导产业之一，上海人工智能产业规模从2018年1340亿元提升到2021年的3056亿元，同期产业人才从10万提升到23万，实现“双倍增”。
图片说明：9月1日在上海召开的2022世界人工智能大会上，工作人员（左一）向参观者介绍手术机器人。（新华社记者方喆摄）
上海市人大常委会法工委主任阎锐表示，这是上海继《上海市数据条例》后的第二部数字经济领域地方法规，将有力支撑城市全面数字化转型，助力建成具有国际影响力的人工智能“上海高地”。此次立法注重创新性和引领性，充分发挥有效市场和有为政府的作用，采取各种激励措施推动人工智能产业高质量发展。
这部地方立法的立足点从名称中即可看出：促进人工智能产业发展。条例包括总则、基本要素与科技创新、产业发展、应用赋能、产业治理与安全、附则等六章共七十二条。其中，对人工智能和人工智能产业都提出了相关定义和范畴。
上海市人大常委会基层立法联系点新江湾城街道落户了不少人工智能企业，也参与了立法的过程。在街道办事处主任杨福韬看来，条例最大的特点和创新在于其促进基础要素的流通、使用和运营，在此过程中推动相关主体的权益保护，从而更好地调动激发市场活力，促进人工智能产业生态发展和完善。
划出“不可为”，为创新“预留白”
人工智能不仅具有技术属性，还具有强烈的社会属性。业内认为，从全球范围看，虽然以立法促进人工智能发展备受重视，但大多处于探索阶段，并未有成熟经验，上海这部地方立法将为相关国家工作、国际合作破题。
参与此次立法工作的同济大学法学院副教授陈吉栋表示，已经记不得为这部立法前前后后开了多少次会议，大家在反复商讨中寻求最大公约数，比如人工智能三大要素的算法、算力、数据被不断优化、加强，人工智能电子人格制度则被取消等。最终，这部条例既聚焦促进产业发展的立法目的，审慎对待科技创新的风险隐患，支持与保障科技创新和相关产业活动探索；又关注新技术及其研发应用所致的复杂风险，引导与规范相关行为依法依规进行。
条例中有不少创新“干货”：比如第九条规定，上海市经济信息化部门会同有关部门探索建立人工智能科研、应用等领域的负面清单；第六十五条规定，探索分级治理和沙盒监管，激发各类主体创新活力，拓展人工智能发展空间。并且，上海市有关部门可以就人工智能产业发展过程中的轻微违法行为等制定依法不予行政处罚清单。
上海市人大财经委立法监督处处长张震表示，人工智能许多领域发展快、变化快，通过负面清单、分级治理等方式，划出“不可为”的范围，能够更好释放活力，鼓励各类主体大胆探索。此外，算力有高耗能属性，对中小企业来说往往成本难以负担。条例规定，推动公共算力资源平台建设与利用，保障中小企业获得普惠的公共算力。
促创新、守底线，推动人工智能可信向善
随着人工智能应用层出不穷，未来产业或将面临一些新的风险，也可能对社会治理秩序构成新的挑战。
图片说明：7月18日，两辆上汽友道智途旗下的5G+L4智能重卡（右）列队行驶在东海大桥上（无人机照片）。（新华社记者方喆摄）
条例在吸收多方意见建议基础上，不仅为产业发展预留创新空间，还注重构建体系化治理框架，维护产业发展与安全。此外，条例明确上海市人民政府及有关部门应当针对人工智能新技术、新产业、新业态、新模式，顺应人工智能快速迭代的特点，制定、修改或者废止相应的监管规则和标准。
上海市经济和信息化委员会副主任张英表示，在落实条例中将进一步注重促进创新与防范风险相统一，一方面研究出台并动态调整高风险人工智能产品和服务清单等，另一方面制定人工智能领域伦理规范指南，开展相关伦理安全教育和宣传，促进人工智能产业在规范中发展，在发展中规范。
陈吉栋表示，推动人工智能可信向善，朝着更有利于人类社会发展的方向前行，是一项兼具科学性、社会性、治理性的系统性事业，需要政府、企业、高校等各方力量探索协同。未来，期待更为具体的配套规范出台，激发产业活力，推动人工智能深度赋能。（记者龚雯、郭敬丹、周琳）
人工智能的三次浪潮与三种模式
■史爱武
谈到人工智能，人工智能的定义到底是什么？
达特茅斯会议上对人工智能的定义是：使一部机器的反应方式就像是一个人在行动时所依据的智能。
百度百科上对人工智能的定义是：它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。
尽管人工智能现在还没有非常严格准确或者所有人都接受的定义，但是有一些约定俗成的说法。通常人工智能是指机器智能，让机器达到人智能所实现的一些功能。人工智能既然是机器智能，就不是机械智能，那么这个机器是指什么呢？是指计算机，用计算机仿真出来的人的智能行为就可以叫作人工智能。
2017年7月，国务院印发了《新一代人工智能发展规划》。2017年12月，人工智能入选“2017年度中国媒体十大流行语”。这一国家级战略和社会流行趋势标志着，人工智能发展进入了新阶段，我国要抢抓人工智能发展的重大战略机遇，构筑人工智能发展的先发优势，加快建设创新型国家和世界科技强国。
人工智能的三次浪潮
自1956年开始，人工智能经历了三起三落，出现了几次浪潮，现在人工智能已经是处于第三次浪潮了。
第一次浪潮（1956-1976年，20年），最核心的是逻辑主义
逻辑主义主要是用机器证明的办法去证明和推理一些知识，比如用机器证明一个数学定理。要想证明这些问题，需要把原来的条件和定义从形式化变成逻辑表达，然后用逻辑的方法去证明最后的结论是对的还是错的，也叫做逻辑证明。
早期的计算机人工智能实际上都是沿着这条路在走。当时很多专家系统，比如医学专家系统，用语言文字输入一些症状，在机器里面变换成逻辑表达，用符号演算的办法推理出大概得了什么病。所以当时的主要研究都集中在逻辑抽象、逻辑运算和逻辑表达等方面。
在第一次浪潮中，数学定理证明实际上是实现效果最好的，当时有很多数学家用定理思路证明了数学定理。为了更好地完成定理证明工作，当时出了很多和逻辑证明相关的逻辑程序语言，比如很有名的Prolog。
虽然当时的成果已经能够解开拼图或实现简单的游戏，却几乎无法解决任何实用的问题。
第二次浪潮（1976—2006年，30年），联结主义盛行
在第一次浪潮期间，逻辑主义和以人工神经网络为代表的联结主义相比，逻辑主义是完全占上风的，联结主义那时候不太吃香。然而逻辑主义最后无法解决实用的问题，达不到人们对它的期望，引起了大家的反思，这时候人工神经网络（也就是联结主义）就慢慢占了上风。
在70年代末，整个神经元联结网络、模型都有突飞猛进的进步，最重要的是BP前馈神经网络。1986年BP前馈神经网络刚出来的时候解决了不少问题，后来大家往更大的领域应用，实现了比较大的成果。在很多模式识别的领域、手写文字的识别、字符识别、简单的人脸识别也开始用起来，这个领域一下子就热起来，一时之间，人们感觉人工智能大有可为。随后十几年人们发现神经网络可以解决一些单一问题，解决复杂问题却有些力不从心。训练学习的时候，数据量太大，有很多结果到一定程度就不再往上升了。
这时期所进行的研究，是以灌输“专家知识”作为规则，来协助解决特定问题的“专家系统”为主。虽然有一些实际的商业应用案例，应用范畴却很有限，第二次热潮也就慢慢趋于消退。
第三次浪潮（2006—现在），基于互联网大数据的深度学习的突破
如果按照技术分类来讲，第二次和第三次浪潮都是神经网络技术的发展，不同的是，第三次浪潮是多层神经网络的成功，也就是深度学习取得突破。这里既有硬件的进步，也有卷积神经网络模型与参数训练技巧的进步。
若观察脑的内部，会发现有大量称为“神经元”的神经细胞彼此相连。一个神经元从其他神经元那里接收的电气信号量达某一定值以上，就会兴奋（神经冲动）；在某一定值以下，就不会兴奋。兴奋起来的神经元，会将电气信号传送给下一个相连的神经元。下一个神经元同样会因此兴奋或不兴奋。简单来说，彼此相连的神经元，会形成联合传递行为。我们透过将这种相连的结构来数学模型化，便形成了人工神经网络。
经模型化的人工神经网络，是由“输入层”“隐藏层”及“输出层”等三层构成。深度学习往往意味着有多个隐藏层，也就是多层神经网络。另外，学习数据则是由输入数据以及相对应的正确解答来组成。
为了让输出层的值跟各个输入数据所对应的正解数据相等，会对各个神经元的输入计算出适当的“权重”值。通过神经网络，深度学习便成为了“只要将数据输入神经网络，它就能自行抽出特征”的人工智能。
伴随着高性能计算机、云计算、大数据、传感器的普及，以及计算成本的下降，“深度学习”随之兴起。它通过模仿人脑的“神经网络”来学习大量数据的方法，使它可以像人类一样辨识声音及影像，或是针对问题做出合适的判断。在第三次浪潮中，人工智能技术及应用有了很大的提高，深度学习算法的突破居功至伟。
深度学习最擅长的是能辨识图像数据或波形数据这类无法符号化的数据。自2010年以来，Apple、Microsoft及Google等国际知名IT企业，都投入大量人力物力财力开展深度学习的研究。例如AppleSiri的语音识别，Microsoft搜索引擎Bing的影像搜寻等等，而Google的深度学习项目也已超过1500项。
深度学习如此快速的成长和应用，也要归功于硬件设备的提升。图形处理器（GPU）大厂英伟达（NVIDIA）利用该公司的图形适配器、连接库（Library）和框架（Frame⁃work）产品来提升深度学习的性能，并积极开设研讨课程。另外，Google也公开了框架TensorFlow，可以将深度学习应用于大数据分析。
人工智能的3种模式
人工智能的概念很宽泛，根据人工智能的实力可以分成3大类，也称为3种模式。
（1）弱人工智能：擅长于单个方面的人工智能，也叫专业人工智能。比如战胜世界围棋冠军的人工智能AlphaGo，它只会下围棋，如果让它下国际象棋或分辨一下人脸，它可能就会犯迷糊，就不知道怎么做了。当前我们实现的几乎全是弱人工智能。
（2）强人工智能：是指在各方面都能和人类比肩的人工智能，这是类似人类级别的人工智能，也叫通用人工智能。人类能干的脑力活，它都能干，创造强人工智能比创造弱人工智能难得多，目前我们还做不到。
（3）超人工智能：知名人工智能思想家NickBostrom把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能”。超人工智能可以是各方面都比人类强点，也可以是各方面都比人类强很多倍。超人工智能现在还不存在，很多人也希望它永远不要存在。否则，可能像好莱坞大片里面的超级智能机器一样，对人类也会带来一些威胁或者颠覆。
我们现在处于一个充满弱人工智能的世界。比如，垃圾邮件分类系统是个帮助我们筛选垃圾邮件的弱人工智能；Google翻译是可以帮助我们翻译英文的弱人工智能等等。这些弱人工智能算法不断地加强创新，每一个弱人工智能的创新，都是迈向强人工智能和超人工智能的进步。正如人工智能科学家AaronSaenz所说，现在的弱人工智能就像地球早期软泥中的氨基酸，可能突然之间就形成了生命。如世界发展的规律看来，超人工智能也是未来可期的！
张震｜地方立法促进人工智能产业发展的思考
原创张震上海市法学会东方法学收录于合集#核心期刊996个
张震
上海市人大财经委立法监督处处长
要目
一、寻找准确的立法定位
二、注意人工智能的“双重属性”
三、构筑人工智能发展的“产业生态”
四、市场主导、政府引导
人工智能的迅猛发展将深刻地改变人类社会，各国都非常重视人工智能产业的发展。为把握这个重大的发展机遇，我们有必要未雨绸缪，对人工智能产业的发展及时提供强有力的法治保障。近期，深圳市在全国率先开展了人工智能的地方立法，国内其他地方也敏锐地察觉到了其中的战略价值，陆续开展了立法调研。鉴于人工智能是一个新生事物，从地方立法的角度，如何促进人工智能产业更好的发展，有几个问题需要认真思考。
一、寻找准确的立法定位
现阶段对“人工智能”进行立法的条件并不具备
人工智能是引领未来的战略性技术，世界主要发达国家都将其视为提升国家竞争力、维护国家安全的重大战略。之所以如此重视，一方面是因为人工智能具有改变社会、改变世界的能力，另一方面也是因为人工智能超级复杂，其包含了深度学习、跨界融合、人机协同、群智开放、自主操控等等，在理论和科技上都呈现不断突破的态势，这就给立法带来了巨大的挑战。如若立法，需要界定人工智能的前沿科技，明确人工智能法律地位、行为后果以及必要的伦理约束等，而地方立法恰恰因为立法权限问题，对其中的核心要点，如可否给予人工智能民事主体法律地位，其行为的法律效力等，是无权规定的。另一方面当前很多前沿科学与伦理问题，不确定性因素过多，地方立法在短期内也难以判定。因此，在地方立法层面是很难针对“人工智能”进行规制的。
立法的切入点应当是促进产业发展
虽然“人工智能”本身难以规制，但人工智能的产业现在已经蓬勃发展起来了。如何加快人工智能关键技术转换应用，促进技术集成与商业模式创新，推动重点领域智能产业创新，培育人工智能产业新业态，都是地方立法可以做，而且能够做好的。因此，地方立法要抓住人工智能产业刚刚崛起的这一战略机遇期，从产业促进的角度予以立题，便可找到合适的切入点。
二、注意人工智能的“双重属性”
立法对人工智能产业进行促进，仍需在本质上对“人工智能”的属性予以准确把握，对产业的促进效果才有可能达到最优。人工智能具有技术属性和社会属性高度融合的特点，比如要发展智能网联汽车产业，就必须要解决通信协议、设备技术（LTE-V2X技术、5GeV2X技术、卫星通信、导航与定位、车载无线通信系统、路况判断与系统控制等）以及数据收集、数据安全等诸多方面纯粹科学技术上的难题。同时，还要解决原有法律法规滞后性的规定，对车辆运行管理问题、衍生的民事责任分担问题，以及自动驾驶产生的伦理道德问题等，这些都要进行周延的考虑；此外，还要考量推广应用智能驾驶汽车怎么改造道路、调整配套设施等相关问题。所以，我们在看到人工智能科技属性的同时，绝不能忽略人工智能还具有强烈的社会属性。
促进人工智能产业的发展，必须从“科技”和“社会”两个面向予以统筹考虑
在地方立法中，一方面既要制定规则，加大本区域人工智能研发和应用的力度，最大程度发挥人工智能的潜力；另一方面，也要准确预判人工智能可能给社会带来的挑战，协同产业政策、创新政策和社会政策，实现激励发展与合理规制的协同，最大限度防范风险。
立法要注重突出科技引领
人工智能产业要发展，必须要以科技为引领，找准人工智能发展技术的突破口和主攻方向，通过立法整合资源，予以重点扶持。要注意在以下两点均衡发力。一是加强人工智能基础理论的研究，基础理论投入大、见效慢，但却是整个产业发展的基石，现实中某些领域忽视基础研究带来的窘境要引起我们的深思。因此，应当通过立法统筹资源，加强对大数据智能理论、跨媒体感知计算理论、混合增强智能理论、群体智能理论、自主协同控制与优化决策理论、类脑智能计算理论、量子智能计算理论等人工智能基础理论方面的研究，努力突破理论研究的瓶颈。二是注重掌握人工智能关键共性技术。人工智能所涉领域超级广泛，要在所有领域都均衡发力是很难做到的，在技术投入上，一定要找到关键点。这个关键点就应当是共性技术。比如知识计算引擎与知识服务技术、跨媒体分析推理技术、群体智能关键技术、混合增强智能新架构与技术、自主无人系统智能技术、虚拟现实智能建模技术、智能计算芯片与系统、自然语言处理技术等。要特别注意的是，人工智能领域的竞争，是全球领域的竞争，相关科学技术的研发应用，必须以自主掌握核心科技为基础，以免被人卡脖子。
立法要注意解决社会应用的难题
人工智能的应用，无处不有、无处不在。离开了社会应用，人工智能产业犹如无源之水、无本之木，断然不能发展起来。因此，要重视解决人工智能社会应用中的问题。一是要在地方立法框架内，积极探索建立保障人工智能健康发展的法规范式和伦理道德框架，加强隐私和产权保护，推动建立人工智能产品研发设计人员的道德规范和行为守则；加强对人工智能潜在危害与收益的评估，建立人工智能复杂场景下突发事件的解决方案。二是推进社会治理的智能化，通过在行政管理、司法管理、城市管理、环境保护等领域导入人工智能产品和服务，带动社会管理层面接受人工智能技术和人工智能理念，为人工智能真正走向社会奠定必要的认知基础。三是在人工智能地方立法中要有“呼吸”条款，即人工智能发展很迅猛，必定会遇到很多与现有法规规定相冲突的情况，从保护新生事物的角度，从无法一一对每一个具体条款随时进行修改的现实考虑，应当在立法中赋权：人工智能在发展中与现有地方性法规规定不一致的，法规规定可以调整适用。如此，可以为人工智能的发展“留一口气”，但却是关键的一口气。
三、构筑人工智能发展的“产业生态”
一个产业的发展，从来不是孤立的。任何一个蓬勃发展的产业，都离不开一个完好的发展生态，对于新兴的人工智能产业来说，更是如此。这种产业生态，既有产业的主体（骨干企业、配套企业），也有产业链（上下游生产的配套）；既包括产品和服务的不断推陈出新，也包括创新基地、人才培育、资金扶持等多个方面。地方立法应当在如下几点构筑人工智能产业生态。
发展重点产业集群
只有推动重点产业形成集群，才能真正发挥产业发展的最大优势，要根据人工智能发展的现状和未来，合理布局智能软硬件、智能机器人、智能运载工具、虚拟现实与增强现实、智能终端、物联网基础器件等产业集群，培育骨干型企业，在激烈的国际竞争中站住脚。
培育完整产业链
人工智能产业链很长，单个点上的企业一家独大是解决不了整个产业发展的问题的。必须构筑完整的产业链，形成上下游配套结合的最优布局，促进整个人工产业的健康、可持续发展。地方立法在其中的作用，就是针对当前本地人工智能产业链的实际短板，进行政策措施的补强。
发展智能企业和园区
不是只研发或者生产人工智能产品或者服务的企业，才是人工智能产业的促进对象，人工智能产业的发展要站在更高远宏阔的战略位置，审视人工智能整体的应用与发展，理解和部署建设人工智能产业生态的重要意义。从这个角度说，推动智能企业和园区的发展，就是人工智能再上新台阶的关键。因此，要立法推动企业智能化升级、推广应用智能工厂，加强科技、人才、金融等要素的优化配置，推动建设智能产业园区。
合理配置要素资源
算法、算力和数据是人工智能产业发展的三个基本要素，立法要注重数据要素价值的充分发挥，加强数据治理，合理布局算力，对算法研发和算法开源以有力措施进行实际鼓励。
完善人工智能技术标准，创新知识产权保护
人工智能是一个全新的领域，掌握标准实质上就是掌握话语权，应当坚持安全、可用、互操作性、可追溯性的原则，推动人工智能地方标准的建设，形成人工智能基础共性、互联互通、行业应用、网络安全、隐私保护等方面的标准。同时，健全人工智能领域技术创新的保护，探索新型知识产权的赋权形式，如算法模型的登记保护制度等。
四、市场主导、政府引导
产业立法应当克服一种倾向，即“政府包打天下”。政府不是万能的，立法不是让政府解决产业发展的所有问题，立法是合理划分政府和市场的边界，并且明确将市场作为配置资源的决定性因素。所以，人工智能产业立法要坚持市场的主体作用，政府的角色就是做好“最后的守夜人”。
“法无禁止皆可为”
对于产业主体，各类企业、科研机构和相关行业协会、组织来说，在这部人工智能产业立法里应当是“法无禁止皆可为”，只要是法律法规没有明文禁止的，都可以积极尝试、积极探索。人工智能领域实在是太新了，既有的法律法规是跟不上人工智能的发展的，所以必须要用一种“向前看”的观念看待人工智能及其产业的发展，要承认法律的滞后性。对于产业的主体来说，他们当然具有创新的权利，只有给予他们充分的自由，才可能有企业、有产业的生长空间。这一点是极为重要的。
包容审慎监管
对于政府来说，管理上要积极变通，对人工智能的发展采取包容审慎监管。比如根据当前疫情防控的需要，企业积极研发智能机器人进行核酸采样，相关部门可以不必拘泥于旧有的医疗器械管理审批程序，而采取更开放包容的态度，或者优化相关标准、程序，或者通过智能机器人方面的监管流程解决采样机器人的实际应用问题。只有我们的监管与时俱进，才能跟得上人工智能产业发展的趋势，人工智能产业的发展才能真正迎来春天。
原标题：《张震｜地方立法促进人工智能产业发展的思考》