欧盟《人工智能法案》：人工智能发展的紧箍咒还是拦路虎
张钦昱（中国政法大学教授、经济法研究所所长）全文3600余字，阅读约需7分钟
随着技术进步，强人工智能系统已具有高度复杂的学习和决策能力，早就超出传统监管机构的理解和控制范围。
2023年6月14日，《人工智能法案》授权草案在欧洲议会高票通过，正式进入最终谈判阶段。若成员国投票顺利，草案预计2024年生效。作为全球首部通过议会程序、专门针对人工智能的综合性立法，草案从安全、隐私、透明度以及非歧视等方面制定了缜密规则，将欧盟一直以来秉持的权利与价值观展现得淋漓尽致。
《人工智能法案》授权草案以风险为逻辑主线，规定了严格的前置审查程序和履行合规义务，重点对具有高风险的人工智能产品和服务实施治理，要求人工智能公司对其算法保持人为控制，向监管机构提供技术文件，并为“高风险”应用建立风险管理系统。
草案提出人工智能禁令，被禁止的风险分别包括利用人的潜意识、利用特定群体的脆弱性、社会信用分级以及实时的远程生物识别技术。其中，实时远程生物识别技术的禁用，意味着一般公司不得再利用人工智能技术在欧盟国家的公共场合进行人脸识别。此外，欧盟立法者对人工智能基础模型、可以构建其他人工智能系统的大型语言模型作出严苛的限制。法案特别加强惩罚力度，对于违法行为，可处以开发者高达全球年营业额的6%或4500万欧元的巨额罚款。
《人工智能法案》授权草案在世界各国对人工智能监管日渐焦虑但举棋不定的情况下横空出世，不可阻挡地成为世界关注的焦点。无论其最终是否通过，授权草案将对欧盟和全球的人工智能产业的未来走势造成不可估量的影响。抛去繁杂的授权草案带来的直观冲击，思忖其底层逻辑，授权草案是否能如立法者预期般为人工智能上一个“紧箍咒”，还是会过犹不及成为科技创新的“拦路虎”？
▌再次踏进同一条河流？
《人工智能法案》从技术稳健性和安全性、隐私和数据治理、透明度、多样性、非歧视和公平以及社会和环境福祉出发，构建全面系统的诸项机制，并要求欧盟成员国设立监督机构，以确保这些规则得到遵守。这样面面俱到、无微不至的法案设计，在欧盟领域早已不是第一次，可从欧盟数字经济立法中，预演人工智能立法的后续影响。
自1997年，欧盟陆续颁布数部法令，包括《欧盟电子商务行动方案》、《关于远距离合同订立过程中对消费者保护的指令》、《关于信息社会服务的透明度机制的指令》、《电子商务指令》以及《增值税指导》等，其中GDPR被称为“史上最严数据立法”，囊括了所有新数据保护所必须的相关要求，并建立了严格的处罚机制。欧盟对数字技术的立法启动早、义务规范全、责任约束严，但实践效果适得其反，对欧盟数字经济的发展产生冷却的意外后果。
据统计，全球电子商务市场的13%属于亚马逊，而在亚洲和许多欧洲国家，市场份额被亚洲公司占据，尤其是阿里巴巴[1]。在欧洲主要电商平台中，美国亚马逊拥有11318万的月活跃用户，中国全球速卖通拥有7969万月活跃用户，均远高于欧洲活跃度最高的本土电商平台“OZON”的3725万[2]。企业合规耗费了欧洲本土电商公司过多的精力，令它们蒙受过重负担，导致欧盟电商的竞争力远低于中国和美国的竞争对手。
无独有偶，我国在制定《电子商务法》时也遇到过类似问题。围绕《电子商务法》第38条第2款电子商务平台经营者应承担何种性质的安全保障义务，社会各界对电子商务平台经营者的义务强弱程度，我国在《电子商务法》中设立“电子商务促进”章节，奠定了保障电子商务各方主体的合法权益，规范电子商务行为，维护市场秩序，促进电子商务持续健康发展的基调，使得我国电子商务行业在受到基本监管的同时实现飞速，一跃成为全球最活跃的电子商务国家。
在人工智能技术迅速发展的时代浪潮下，《人工智能法案》继承了欧盟对数字经济一贯的严格立法态度，从具体制度到处罚力度均体现出高压的一面。《人工智能法案》要求系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。还针对生成式人工智能设立专门监管制度，对人工智能生成的内容引入强制性标签，并强制披露受版权保护的训练数据。对于违反规定者，监管机构会迫使企业从市场上撤回应用程序，企业还可被处以高额罚款。
可以预见，这部法案所带来的苛刻监管环境，或使得世界范围内最为先进的科技企业退出欧盟市场，将影响欧盟企业开发自己独特人工智能模型的能力，让欧盟企业无力追赶美国以及中国的竞争对手，影响欧盟在人工智能领域的话语权，其制定的人工智能标准也会失去实际效用。
▌“新布兰代斯法学派”的翻版？
《人工智能法案》作为世界范围内首份人工智能法案，强调人工智能规范的道德属性是其突出特点之一。法案明确指出，“促进以人为本和可信任人工智能应用，并保证对于健康、安全、基本权利、民主以及法治的高度保护”，“人工智能可能导致虐待和有害影响，应予禁止，因为违背了欧盟尊重人类尊严、自由、平等、民主和法治的价值观以及欧盟的基本权利，包括不受歧视的权利、数据保护和隐私以及儿童权利。”
为追求欧盟价值观而制定的人工智能制度标准，是否有违技术中立的一般理念？
正在发生类似巨变的美国反垄断法，可以给出上述问题的些许答案，并从中得到启示。美国反垄断的执法在经历哈佛学派（编者注：哈佛学派主张，为了保持有效竞争，获得令人满意的市场结果，必须运用竞争政策对市场结构和市场行为进行干预、调节）的检讨后，一直秉持芝加哥学派（编者注：芝加哥学派特别注重判断集中及定价结果是否提高了效率，而不是像结构主义者那样只看是否损害竞争，认为即使市场是垄断的或高集中寡占，只要市场绩效是良好的，政府规制就没有必要）与后芝加哥学派（编者注：后芝加哥学派主张在广泛的反垄断问题上采取更多的干预主义立场，例如掠夺性定价，搭售和纵向合并）。近年来，则有被新崛起的“新布兰代斯学派”取代的趋势。美国“新布兰代斯学派”将政治与反垄断挂钩，提出竞争政策应回应社会问题,意图对于科技巨头企业采取极为严厉的反垄断规制，以消除竞争损害，减少贫富差距。毫不夸张地说，“新布兰代斯学派”下的反垄断法逐渐沦为政客通过打压科技巨头，获取大量选票的工具。
《人工智能法案》授权草案，或也成为一场表面风光的政治宣言。法案限制、禁止的人工智能系统的内容，部分仍然停留在原则层面，并不具有实际可操作性。例如，法案规定生成式人工智能系统要接受培训、设计、改善，以确保其生成的内容符合有关欧盟法律，但对改进行为、接受范围等并未进行具体规定。
此外，欧盟《人工智能法案》仍然囿于传统监管思维，试图用行政之手暴力介入。
例如，法案将人工智能系统按照现有使用方式分层监管，并在第69、71条指出，“应要求高风险人工智能系统的供应者在欧盟数据库中备案他们的高风险人工智能系统和基础模型。”
应当看到，随着技术进步，强人工智能系统已具有高度复杂的学习和决策能力，早就超出传统监管机构的理解和控制范围。人工智能已然通过自我训练，实现技术的自主迭代。例如，OpenAI通过让模型与环境互动，自我生成并标记数据来训练模型，使得其可以不断地从自身经验中学习，提高其性能。监管强人工智能的最佳方法只能依靠发展更为强大的人工智能技术，就像现在的人工智能都是由人工智能训练一样，也应当用“魔法打败魔法”，即用人工智能监管人工智能。
▌后发劣势陷阱？
人工智能技术发展浪潮席卷全球，欧盟在此时制定《人工智能法案》，释放出欧盟正强化其在数字领域内建规立制的强烈信号，试图继续维持欧盟规范的“布鲁塞尔效应”（编者注：布鲁塞尔效应指欧盟凭借市场力量单方面监管全球市场的能力）。作为人工智能领域的追赶者，《人工智能法案》的急于出台，是为了未雨绸缪地添补后发劣势的陷阱，还是会就此陷入无法摘取人工智能发冠的长期劣势？
数据显示，2019年美国人工智能风险投资和私募股权融资达到14345百万美元，大幅度领先欧盟的3207百万美元。2020年，美国获得超过100万美元的人工智能公司数量2130家，相比之下，欧盟仅有890家[3]。可以预料，在欧盟强监管理念的指引下，欧盟将很难拥有自己的明星企业，面临着沦为“全球互联网巨头数字殖民地”的危险。
当前，人工智能技术发展仍处在探索期，距离成熟的人工智能技术还有很长的一段距离。技术创新和制度创新并不存在简单的因果和线性关系，两者需要注意平衡与衔接，方能彼此促进，实现科技的可持续发展。如果过早地约束技术研发和运用范围，反而会对实现创新和成熟应用人工智能技术造成不必要的束缚。正所谓，皮之不存毛将焉附？
2023年4月11日，我国互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见。与欧盟相似，我国也站在人工智能领域立法的十字路口，在强化人工智能监管抑或放任其野蛮发展中踟蹰徘徊。鉴于欧盟数字经济领域的前车之鉴、授权草案过于价值观的宣传、人工智能技术发展的现实背景，我国立法者是否可以让子弹再飞一会儿，审慎决定我国人工智能的强化规制？我国可以静待欧盟《人工智能法》授权草案的不断修改演化、立法中演绎出的争议焦点与通过后的立法后评估，再以欧盟《人工智能法》为蓝本，统筹设计我国的人工智能立法。
具体而言，面对如火如荼的人工智能产业，我国可采取“阶梯式”监管模式。在人工智能发展初期，制定以促进人工智能产业健康发展为主的监管条款，待我国人工智能发展较为成熟，充分了解其技术特点、潜在风险和社会影响后，制定更为精准和适应的监管政策。螺旋上升的立法模式可以平衡监管的紧迫性和技术发展的需求，也给予监管机构时间进行充分的研究，立足于我国数字经济发展的根本需要，在利益衡量的基础上，制定出更为系统和具有针对性的监管规则，构成我国特色人工智能治理方案。
注释
[1]《电子商务趋势报告：2022年行业状况》https://www.dataapplab.com/ecommerce-trend-report-the-state-of-the-industry-in-2022/，访问日期：2023年6月19日。
[2]《2022年全球电商深度研究全球电商市场特点分析》https://www.vzkoo.com/read/2022102046dedd64ca3806ebde3f83fe.html,访问日期：2023年6月20日。[3]DanielCastroandMichaelMclaughlin:《WhoIsWinningtheAIRace:China,theEUortheUnitedStates——2021Update》,January2021,centerfordatainnovation.
抢占监管先机 欧盟《人工智能法案》进入最终谈判
□法治日报记者王卫
据德新社近日报道，欧洲议会全体会议以499票赞成、28票反对、93票弃权的压倒性优势表决通过了《人工智能法案》授权草案。这意味着，法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段，欧洲议会、欧盟委员会和成员国将进行“三方”谈判，以确定法案的最终条款。德国《商报》称，《人工智能法案》预计将在今年年底获得最终批准，不过距离完全生效可能还需数年时间。
做好谈判准备
报道称，欧洲议会决定对ChatGPT等生成式人工智能工具增加更多安全控制措施，以确保人工智能的研发和应用符合欧盟相关法律法规。
作为全球首部通过议会程序、专门针对人工智能的综合性立法，草案从安全、隐私、透明度以及非歧视等方面制定了详细规则。据欧洲议会网站消息，欧洲议会“为制定史上首部人工智能法案已经做好谈判准备”。按照立法议程，欧洲议会将就这一授权草案与欧盟委员会和成员国进行“三方”谈判，欧洲立法者希望在今年年底前就法案的最终版本达成共识。
今年5月，欧洲议会市场委员会和公民自由委员会通过欧盟委员会于2021年4月提出的《人工智能法案》提案的谈判授权草案。此前，欧洲议会和欧盟理事会已就草案进行多轮修订和讨论，并且在ChatGPT等生成式人工智能应用横空出世后，欧盟立法者紧急商讨了原版本草案中未涵盖的问题。欧洲议会声明，这部提案如正式获得批准，将成为全世界首部有关人工智能的法规。
草案将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体（无论该实体是在欧盟境内还是在第三国）、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统，但系统的输出用于欧盟境内或对欧盟境内人员产生影响的实体。
风险分类监管
《人工智能法案》授权草案的一个突出特点是注重基于风险来制定监管制度，以平衡人工智能的创新发展与安全规范。草案将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。其中高风险人工智能的使用必须受到严格监管，系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。对于违反规定者，草案设定了最高3000万欧元（1欧元约合人民币7.895元）或全球年营业额6%的罚款。
草案严格禁止对人类安全造成不可接受风险的人工智能系统，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统，并扩大了人工智能高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统，还针对ChatGPT等生成式人工智能设立专门监管制度。每个欧盟成员国都将设立一个监督机构。
此外，引进监管沙盒（指通过设立限制性条件和制定风险管理措施，允许企业在真实的市场环境中，以真实的个人用户与企业用户为对象测试创新产品、服务和商业模式）机制以管控风险和促进创新，在人工智能系统入市或投入使用前，对人工智能系统进行开发、测试和验证降低风险。草案还提出，这一机制同样被允许用于在现实条件下测试创新人工智能，以鼓励人工智能企业持续创新。
面临重要挑战
欧盟试图建立一个统一的人工智能法律监管框架，是全球人工智能发展进程中一个重要的标志性事例。欧盟对人工智能进行有效法规约束的探讨和尝试都将产生全球性影响，可能引发越来越多的国家尝试跟进相关法规的探索。
对于欧洲议会的决定，德国社民党表示支持：“人工智能的潜力和风险应得到全社会关注。”但也有反对者担心监管过度可能给欧洲人工智能公司带来更高成本和过重负担。
在人工智能开发方面处于领先地位的公司，某种程度上也是过去十年中面临反垄断违规风险、违反现行法律以及造成信息泄露危害的科技公司。基于此，OpenAI公司首席执行官萨姆·阿尔特曼表示，如果《人工智能法案》对AI进行过度监管，他将带领团队撤出欧洲市场。
专家称，欧盟推动人工智能立法，有利于维护欧盟在数字主权和科技领域的领导地位，并通过这样一部综合性立法抢占全球人工智能监管先机。但其本身具有局限性。它采用的是横向立法，并非针对特定人工智能应用领域，而是试图把所有人工智能都纳入监管范围，在执行层面将面临大量的解释问题。
有声音进一步指出，欧盟并未就人工智能技术可能给人类带来什么样的影响形成共识。从辩证的角度看，人工智能既能造福和服务人类，但如若用之不善，也会给人类带来威胁或伤害，如何平衡创新和约束是欧盟立法机构面临的一个非常重要的挑战。此外，统一的法律框架并未涉及具体法律规范，实际的执行效果可能“大打折扣”。
国际社会认为，当前，人工智能技术发展仍处在探索期。欧盟此时制定《人工智能法案》，释放出欧盟正在强化其在数字领域内建规立制的强烈信号。如何更好地平衡与衔接技术创新和制度创新，还需在实践中不断修正。
2023世界人工智能大会筹备工作进入冲刺阶段，高科技企业将带来哪些AI绝活
原标题：2023世界人工智能大会筹备工作进入冲刺阶段，高科技企业将带来哪些AI绝活2023世界人工智能大会（WAIC2023）将于下周四拉开帷幕，目前各项筹备工作已进入冲刺阶段。各路企业将带来什么绝活？昨天，部分企业提前剧透新品，其中大部分与生成式人工智能、自动驾驶等热门赛道相关。
大模型集结登场，重技术也重应用
ChatGPT“出圈”激起人工智能领域“千层浪”，今年世界人工智能大会将汇聚国内外大模型明星团队，集结大模型领域大咖嘉宾。记者获悉，百度文心、阿里通义、华为盘古、讯飞星火、商汤日日新等30余个大模型悉数登场，背后的核心开发团队还将带来大模型路径的相关探讨。
今年4月，商汤“日日新SenseNova”大模型体系亮相，“士别三月”是否会带来令人刮目相看的新成果？商汤科技相关负责人透露，“商汤日日新SenseNova”的全新版本将在WAIC上揭晓，届时，语言大模型“商汤商量SenseChat”、AI内容创作社区平台“商汤秒画SenseMirage”都将迎来新功能、新特性。“今年我们将在现场设置378平方米的体验展区，展现AI与艺术、文娱、商业、出行等多领域的跨界成果。”相关负责人介绍，参与者届时可体验“商汤如影”2D/3D数字人生成，坐进商汤智能汽车未来展示舱，体会未来出行新姿势。
大模型正与企业应用迅速结合，重塑人与数据的交互方式。星环科技市场部总经理谭彬介绍，今年是星环科技第六次参加世界人工智能大会，作为大会的“老面孔”，企业将在大会期间全球首发金融领域大模型星环无涯产品，“在金融量化领域，‘无涯’可回答研报分析，能对个股、债券、基金等各类市场事件进行复盘和推演，有力辅助分析师、研究员和投资经理的日常工作。”他透露，企业也会展示大数据分析大模型“求索”，“用户通过自然语言即可生成可执行SQL语句，快速获取数据库查询结果，大幅度降低数据科学家门槛。”
国际“朋友圈”再扩大，首次参展企业134家
东浩兰生会展集团副总裁裘皓明透露，大力引荐国际化的优质资源，今年世界人工智能大会共吸引数十家国际机构、国际学术圈顶会与外资企业参会，包括联合国工发组织、联合国教科文组织、IJCAI、IEEE元宇宙标准协会、SWITCH新加坡科技创新周、微软、谷歌、英特尔、OpenAI等，其中多数都是首次参与。此外，大会还将推动新加坡、澳大利亚等国际展团以及葡萄牙、巴西、瑞士等国际参观团组参会参展，大会国际合作“朋友圈”不断扩大。
从另一个视角看，国际“朋友圈”的不断扩大，也让“政产学研用投”不断推动前沿科技成果产业化。裘皓明表示，通过联合清华大学、复旦大学、上海交通大学、麻省理工学院、卡耐基梅隆大学、斯坦福大学、加州大学伯克利分校、剑桥大学等国内外顶尖学府，云集上海人工智能实验室、上海期智研究院、鹏城实验室等权威科研机构，汇聚中金、上海产业投资基金、启明创投等知名投资机构，今年世界人工智能大会将展现创新应用落地的突破性成果。
而在展览展示空间方面，400家企业将释放行业新声。记者获悉，今年首次参展企业134家，首发首展新品达36款，参展企业数量、展览面积均创历届之最。上汽智己已确认带来新世界驾控旗舰智己L7和中大型智能纯电豪华SUV智己LS7两款车。“新能源汽车的竞争已进入智能化决战的下半场。”智己汽车用户主理人焦樵透露，企业正在和AI行业头部机构进行不同程度的定制预研，“今年第四季度，智己汽车将成为行业首个接入GPT大模型的智能汽车品牌，创造虚实融合的多维出行场景”。
作者：徐晶卉
编辑：范菁返回搜狐，查看更多
责任编辑：更智能更实用更安全 我国智能网联汽车产业发展进入新应用阶段
央视网消息：第七届世界智能大会5月18日至21日在天津举行。在本届世界智能大会期间，2023世界智能驾驶挑战赛也于昨天（5月19日）正式开赛。记者注意到，本次大赛更注重对实际应用场景的测试。
这次智能驾驶挑战赛共设置智能网联实车赛、信息安全挑战赛、元宇宙虚拟仿真赛和智能驾驶量产赛，150支参赛队伍创造了历史新高。
中国汽车技术研究中心副总经理吴志新：智能（驾驶）挑战赛是（对）当前新技术、最前沿技术的一个比拼和验证。通过这样的一种比赛，我们可以发现许多新的研究方向。
除了增加了线上的比赛外，在线下比赛环节，记者注意到，这届大赛更多地贴近真实的道路场景，考核车辆的性能。记者在现场看到，比赛车辆以每小时80公里的速度行驶，突然遇到前方静止的事故车辆，车辆智能刹车系统瞬时激活，及时减速并刹停。这辆比赛车辆模拟的是突然遇到前方车辆加塞、前车突然变道等场景，参赛车辆可以智能识别前方的危险，提前预判，有效避让并减速行驶，对车内乘员安全起到了有效的保护。
在智能泊车比赛项目中，主要考核的是车辆的硬件与决策感知和控制系统的相互协作、加速、减速及转向等动作，车辆自动停入车位。而在极限复杂路况的比赛中，驾驶员极难作出快速反应。这辆车模拟遇到雨中前方急停车辆以及视觉盲区中的行人，通过智能操控系统可以有效躲避危险。
关注智能网联汽车：智能网联汽车产业发展进入新应用阶段
此外，记者从国家智能网联汽车创新中心也了解到，我国智能网联汽车产业的车、路、云一体化应用，已经从小规模的测试阶段进入到了新的应用阶段。
这是国家智能网联汽车创新中心刚刚发布的《车路云一体化智能网联汽车发展白皮书》。专家指出，目前我国智能网联汽车产业开始进入到技术快速发展、生态加快构建新的应用阶段，我国需要有一个技术顶层设计的路线图。
国家智能网联汽车创新中心主任郑继虎：根据我们的研究，智能网联（汽车）产业到2025年整个新增的产值会达到1.06万亿元，而到2030年，我们新增的产值会到2.8万亿元，这么大的一个产值需要一套技术路线图来支撑。
专家指出，智能网联汽车产业新的发展阶段是一个复杂的系统工程，它需要车辆、路侧基础设施、云控平台、通信网络、高精地图定位、安全防护系统等融合协同运行。比如，车辆能够通过无线通信网络提供运行动态信息，同时汽车也可以接收来自云控的信息。
专家同时指出，由于我国在通信领域及新能源汽车领域具有领跑优势，未来智能网联汽车产业的新应用将促进汽车、交通、通信、云计算等多行业的跨领域融合发展。