第一部AI监管法案要来了欧洲议会通过《人工智能法案》草案
当地时间6月14日，欧洲议会（EuropeanParliament）以499票赞成、28票反对和93票弃权的压倒性结果通过了《人工智能法案》（AIAct）草案。若通过立法，或成为全球首个关于人工智能的法案。但欧洲媒体随后评论称，它完全生效还需数年时间。
当地时间2023年6月14日，法国斯特拉斯堡，欧洲议会全体会议上，欧洲议会议员参加投票。视觉中国图
据德新社14日报道，该草案的通过意味着，欧洲议会、欧盟成员国和欧盟委员会将开始“三方谈判”，以确定法案的最终条款。
德国《商报》15日对此评论称，《人工智能法案》预计将在今年年底获得最终批准，但距离完全生效可能还需数年时间。
欧盟委员会希望在今年年底前达成协议，新的法案将可能在2026年对相关公司产生影响。法案通过后，在极端情况下，违规公司可能被处以高达3000万欧元（合3300万美元）的罚款，或公司全球年收入的6%，也就是说对于谷歌和微软等大型科技公司而言，其罚款可能高达数十亿欧元。
2021年，欧盟委员会提出全球首部监管人工智能的法律草案，此后欧洲议会和欧盟理事会就草案进行多轮修订和讨论。在ChatGPT等生成式人工智能应用横空出世后，欧盟立法者紧急商讨了原版本草案中未涵盖的问题。
根据该草案，欧盟应将人工智能系统（如ChatGPT等）划分为不同的风险组。应用程序越危险，适用的规则就越严格。同时，欧盟还应制定全面的人工智能禁令，比如禁止鼓励危险行为的交互式对话工具，以及用于预测谁将犯罪的预测性警务工具等。值得注意的是，欧洲议会官网显示的最新草案中，实时远程生物识别技术从“高风险”级别调整为“被禁止”级别，这意味未来公司不能利用AI技术在欧盟国家的公共场合进行人脸识别。
对于欧盟这一立法加强监管的行为，美国《时代》杂志评论称，欧盟并不是尖端人工智能开发的重要参与者，这个角色由美国和中国扮演，但欧盟经常扮演引导潮水的角色，其法规往往成为事实上的全球标准，并已成为针对大型科技公司力量的先驱。
看世界｜欧盟《人工智能法案》进入最终谈判阶段
14日，欧洲议会全体会议表决通过了《人工智能法案》授权草案，该法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。
欧洲议会当天投票决定禁止实时远程生物识别技术，如不能在公共场合进行实时人脸识别，并对ChatGPT等生成式人工智能工具增加更多安全控制措施，提出新的透明度要求，以确保人工智能的研发和应用符合欧盟权利和价值观。
据欧洲议会网站消息，欧洲议会“为制定史上首部人工智能法案已经做好谈判准备”。按照立法议程，欧洲议会将就这一授权草案与欧盟委员会和成员国进行“三方”谈判，欧洲立法者希望在今年年底前就法案的最终版本达成共识。
今年5月，欧洲议会内部的市场委员会和公民自由委员会通过欧盟委员会于2021年4月提出的《人工智能法案》提案的谈判授权草案。欧洲议会声明，这部提案如正式获得批准，将成为全世界首部有关人工智能的法规。
该法案将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体（无论该实体是在欧盟境内还是在第三国）、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统但系统的输出用于欧盟境内或对欧盟境内人员产生影响的实体。
该法案草案的一个突出特点是注重基于风险来制定监管制度，以平衡人工智能的创新发展与安全规范。草案将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。其中高风险人工智能的使用必须受到严格监管，系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。对于违反规定者，草案设定了最高3000万欧元或全球年营业额6%的罚款。
最新草案严格禁止对人类安全造成不可接受风险的人工智能系统，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统，并扩大了人工智能高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统，还针对ChatGPT等生成式人工智能设立专门监管制度。每个欧盟成员国都将设立一个监督机构。
此外，引进监管沙盒机制以管控风险和促进创新，在人工智能系统入市或投入使用前，对人工智能系统进行开发、测试和验证降低风险。最新草案文本还提出，这一机制同样被允许用于在现实条件下测试创新人工智能，以鼓励人工智能企业持续创新。
清华大学自动化系教授陶建华在接受记者采访时说，欧盟试图建立一个统一的人工智能法律监管框架，是全球人工智能发展进程中一个重要的标志性事例。其对人工智能进行有效法规约束的探讨和尝试都会产生全球性的影响，可能引发越来越多的国家尝试跟进相关法规的探索。
竞天公诚律师事务所合伙人袁立志认为，欧盟推动人工智能立法，有利于保护基本人权、维护欧盟在数字主权和科技领域的领导地位，并通过这样一部综合性立法抢占全球人工智能监管先机。但其本身具有局限性。它采用的是横向立法，并非针对特定人工智能应用领域，而是试图把所有人工智能都纳入监管范围，在执行层面将面临大量的解释问题。
陶建华指出，欧盟并未就人工智能技术可能会给人类带来什么样的影响形成共识。从辨证的角度看，人工智能既能造福和服务人类，但如若用之不善，也会给人类带来威胁或伤害。因此，如何平衡创新和约束是欧盟立法面临的一个非常重要的挑战。但在追求创新和管控创新可能带来的危害之间寻求一个有效平衡，很大程度上是使用者的问题。如何对使用者进行有效监管，也是欧盟人工智能立法面临的一大挑战。此外，统一的法律框架并未涉及具体的法律规范，因此实际的执行效果上可能会“大打折扣”。
欧盟《人工智能法案》进入最终谈判阶段
14日，欧洲议会全体会议表决通过了《人工智能法案》授权草案，该法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。
欧洲议会当天投票决定禁止实时远程生物识别技术，如不能在公共场合进行实时人脸识别，并对ChatGPT等生成式人工智能工具增加更多安全控制措施，提出新的透明度要求，以确保人工智能的研发和应用符合欧盟权利和价值观。
据欧洲议会网站消息，欧洲议会“为制定史上首部人工智能法案已经做好谈判准备”。按照立法议程，欧洲议会将就这一授权草案与欧盟委员会和成员国进行“三方”谈判，欧洲立法者希望在今年年底前就法案的最终版本达成共识。
今年5月，欧洲议会内部的市场委员会和公民自由委员会通过欧盟委员会于2021年4月提出的《人工智能法案》提案的谈判授权草案。欧洲议会声明，这部提案如正式获得批准，将成为全世界首部有关人工智能的法规。
该法案将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体（无论该实体是在欧盟境内还是在第三国）、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统但系统的输出用于欧盟境内或对欧盟境内人员产生影响的实体。
该法案草案的一个突出特点是注重基于风险来制定监管制度，以平衡人工智能的创新发展与安全规范。草案将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。其中高风险人工智能的使用必须受到严格监管，系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。对于违反规定者，草案设定了最高3000万欧元或全球年营业额6%的罚款。
最新草案严格禁止对人类安全造成不可接受风险的人工智能系统，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统，并扩大了人工智能高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统，还针对ChatGPT等生成式人工智能设立专门监管制度。每个欧盟成员国都将设立一个监督机构。
此外，引进监管沙盒机制以管控风险和促进创新，在人工智能系统入市或投入使用前，对人工智能系统进行开发、测试和验证降低风险。最新草案文本还提出，这一机制同样被允许用于在现实条件下测试创新人工智能，以鼓励人工智能企业持续创新。
清华大学自动化系教授陶建华在接受记者采访时说，欧盟试图建立一个统一的人工智能法律监管框架，是全球人工智能发展进程中一个重要的标志性事例。其对人工智能进行有效法规约束的探讨和尝试都会产生全球性的影响，可能引发越来越多的国家尝试跟进相关法规的探索。
竞天公诚律师事务所合伙人袁立志认为，欧盟推动人工智能立法，有利于保护基本人权、维护欧盟在数字主权和科技领域的领导地位，并通过这样一部综合性立法抢占全球人工智能监管先机。但其本身具有局限性。它采用的是横向立法，并非针对特定人工智能应用领域，而是试图把所有人工智能都纳入监管范围，在执行层面将面临大量的解释问题。
陶建华指出，欧盟并未就人工智能技术可能会给人类带来什么样的影响形成共识。从辨证的角度看，人工智能既能造福和服务人类，但如若用之不善，也会给人类带来威胁或伤害。因此，如何平衡创新和约束是欧盟立法面临的一个非常重要的挑战。但在追求创新和管控创新可能带来的危害之间寻求一个有效平衡，很大程度上是使用者的问题。如何对使用者进行有效监管，也是欧盟人工智能立法面临的一大挑战。此外，统一的法律框架并未涉及具体的法律规范，因此实际的执行效果上可能会“大打折扣”。（刁泽）
欧洲议会通过人工智能法案，能成为全球标准吗
欧盟的人工智能法案距离生效只差临门一脚。当地时间周三，欧洲议会以499票赞成、28票反对的压倒性结果通过了《人工智能法案》草案，为最终落地生效扫清了一个关键障碍。接下来的程序将进入成员国、欧洲议会和欧盟委员会的三方谈判。在此过程中，最终文本的法案可能会有一些措辞方面的改变。法案的最终审批预计将在今年年底前通过。不过，这些规则距离正式生效还有一段时间。法案最终审批通过后，将会为企业和组织留出一段宽限适应期，通常为两年左右。值得注意的是，为了填补法案正式生效前的这段空白期，欧洲和美国正在联合起草一份自愿行为准则。双方官员在5月底承诺将在“几周内”起草，并可能扩大到其他“志同道合的国家”。这是全球首个全面的人工智能规则法案。该法案在2021年就已着手制定，但是随着去年底生成式人工智能的快速发展，制定过程更加紧迫。针对新情况，周三通过的法案做了部分调整。法案内容这项法案的框架在2021年首次提出，旨在对任何使用人工智能系统的产品或服务进行管理。根据风险的高低，人工智能系统的使用场景被划分为四个级别：低风险、有限风险、高风险和不可接受的风险。对于风险较高的应用程序，如针对儿童的招聘或技术，将面临更严格的要求，包括提高透明度和使用准确的数据等。违反规则的应用程序可能被要求下架，具体执行尺度将取决于欧盟27个成员国自身的判断。在最严重的情况下，违规行为可能会被处以最高4000万欧元的罚款，或公司全球年营业收入的7%左右。如谷歌和微软这样体量的科技巨头而言，罚款可能高达数十亿欧元。欧盟委员会表示，大多数人工智能系统，如视频游戏或垃圾邮件过滤器，都属于低风险或无风险类别。法案对人工智能的使用场景划定了禁忌区，比如利用儿童等弱势群体，或使用可能导致伤害的潜意识操纵的人工智能，或鼓励危险行为的互动对话玩具。而对于那些预测性警务工具，比如通过分析数据来预测谁会犯罪，也被禁止。另外，在周三的投票中，一项允许利用人工智能寻找失踪儿童，或防止恐怖主义威胁等执法例外的修正条款没有被通过。对于部分领域，最新的法案收紧了要求。比如，实时远程生物识别技术在最初的提案中是“高风险”，但在最新投票中被调整为“不可接受的风险”，即人工智能在该领域的应用是被禁止的。该法案最初的内容并不包括聊天机器人，为了应对近几个月该领域的最新进展，法案增加了一些条款，比如要求明确标注出聊天机器人，以便用户知道他们正在与机器进行交互。另一个重大补充是要求全面记录用于训练人工智能系统的人类作品（文本、图像、视频和音乐）的任何版权材料。这将让内容创作者知道自己的作品是否被用于训练算法，进而决定自己是否被抄袭，并寻求赔偿。而考虑到人工智能在就业和教育等领域的应用可能会影响个人生活和工作，因此这些应用面临更严格的监管要求，比如需要对用户保持高度透明，并采取措施评估和减少算法产生偏见的风险等。成为全球标准？欧盟并不是尖端人工智能发展领域的重要参与者，这个角色由美国和中国扮演。但是有分析认为，在监管的法规方面，欧盟往往扮演着引领潮流的角色，制定的规定经常会成为事实上的全球标准。原因之一在于欧盟是巨大的单一市场，拥有4.5亿消费者。对于公司来说，他们不需要为不同地区开发不同产品，更容易遵守规定。另外，欧洲在监管步伐方面也确实走在最前列，已经基本定型的《人工智能法案》是全球首个综合性的可以强制执行的此类法案。对于用户来说，这相当于一颗“定心丸”，方便公司拓展市场。爱尔兰公民自由委员会（ICCL）的技术专家KrisShrishak说，欧盟的法案是可以强制执行的，违规公司将被追究责任，这一事实“意义重大”，因为美国、英国等其他地方目前只是提供了指导和建议，“其他国家可能想要适应和复制欧盟的规则”。而企业和行业组织则警告称，欧洲在监管方面需要取得适当的平衡。比如，OpenAI首席执行官SamAltman在支持对人工智能发展设置一些规则的同时，也明确表示“现在就对该领域实施严格监管是一个错误”。科技公司游说团体“计算机和通信行业协会”（CCIA） 的政策经理BonifacedeChampris指出，欧盟将成为监管人工智能的领导者，但它是否会引领人工智能创新仍有待观察。因为它需要有效地解决风险，同时也要为开发人员提供足够的灵活性。已经脱离欧盟的英国也正在争夺人工智能领导的领导地位。首相苏纳克计划在今年秋天主办一次人工智能安全的全球峰会。他在本周的一次科技会议上表示，英国不仅希望成为人工智能技术发展的据点，同时也想成为安全监管的全球中心。炒股开户享福利，送投顾服务60天体验权，一对一指导服务！海量资讯、精准解读，尽在新浪财经APP责任编辑：周唯
中信证券：欧洲人工智能法案出炉，关注基础软件机会
中信证券：欧洲人工智能法案出炉，关注基础软件机会2023-06-1908:42:08
每经AI快讯，中信证券表示，近日欧洲议通过了《人工智能法案》（AIAct）草案。如果该法案能通过后续的立法步骤，将成为全球首个关于人工智能的法案。展望未来，法案可能会从人工智能应用所使用的算力规模以及交互模式出发，做出更好量化的标准界定，大算力模型可能会受到更加严格的监管标准，并对训练所使用的数据进行额外审查，最终为全球其他地区人工智能产业的监管提供重要的参考和借鉴。当前监管法案对于闭源模型将更为严格，这将提供给开源模型以及垂直行业的人工智能应用更大的发展空间。此外，法案重点关注大模型底层的训练数据处理，对训练数据的筛选流程、底层训练数据的存放模式以及训练数据的安全规范将会受到更多重视。美股基础软件行业中的数据库以及信息安全板块料将在未来人工智能大语言模型的训练过程中显著受益。
禁止在公共场合进行人脸识别！欧洲议会通过人工智能法案草案，有何深远影响
0分享至当地时间2023年6月14日，法国斯特拉斯堡，欧洲议会全体会议上，欧洲议会议员参加关于人工智能法案的投票会议。视觉中国图欧盟的人工智能立法进入最终阶段，或将影响其他国家的规则制定。当地时间6月14日，欧洲议会（EuropeanParliament）以499票赞成、28票反对和93票弃权的压倒性结果通过了《人工智能法案》（AIAct）草案，若通过立法，或成为全球首个关于人工智能的法案。据彭博社报道，欧洲议会的投票是正式立法前的最后步骤之一，接下来将进入三方“谈判”阶段——欧洲议会、欧盟成员国（EUmemberstates）和欧盟委员会（EuropeanCommission）。欧盟委员会希望在今年年底前达成协议，新的法案将可能在2026年对相关公司产生影响。法案通过后，在极端情况下，违规公司可能被处以高达3000万欧元（合3300万美元）的罚款，或占公司全球年收入的6%，也就是说对于谷歌和微软等大型科技公司而言，其罚款可能高达数十亿欧元。禁止人脸识别，加强通用AI控制该法案遵循“基于风险”（risk-basedapproach）的方法，将AI及其相关应用划分为四种等级，分别为被禁止（Prohibited）、高风险、有限风险以及低风险，并针对不同类型制定相应的监管规则。值得注意的是，欧洲议会官网显示的最新草案中，实时远程生物识别技术从“高风险”级别调整为“被禁止”级别，这意味未来公司不能利用AI技术在欧盟国家的公共场合进行人脸识别。来源：欧洲议会官网此外，欧洲议会也对通用AI（generalpurposeAI）提出了新的透明度要求——基于这些模型的生成式AI（例如ChatGPT）必须对AI生成的内容进行标注，以帮助用户区别“深度伪造信息”；此外其还必须披露用于训练模型的数据，声明是否使用受版权保护的材料来训练其模型。来源：欧洲议会官网欧盟委员会于2021年首次提出“基于风险”的《人工智能法案》，其最初的想法是规范AI的使用，并为如何在“高风险”情况下使用该技术制定标准。不过，自ChatGPT引起新一轮技术热潮后，通用AI也逐渐引起欧盟警惕，并被纳入法案，连带着基础模型（foundationalmodels）的控制也随之加强，因为这些大型语言模型是ChatGPT等聊天机器人的底层支柱。欧盟内部市场专员ThierryBreton在一份声明中表示，“我预计，关于生成式AI的相关条款将成为‘三方谈判’的关键讨论点之一。我们需要对AI生成的内容提出透明度要求，并针对‘深度造假内容’制定严格的规则。”欧盟AI法案或影响其他立法者对于《人工智能法案》，一些科技公司及其支持者认为，该法案可能会阻碍技术创新。根据《华尔街日报》的报道，他们认为政府的干预应侧重于特定的AI应用，而不是像欧盟那样过度限制AI的开发方式。不过，也有技术人员及学术界对这一法案表示支持，认为该法案能够通过规范AI技术的开发，有效地减缓公司在推出新型AI工具方面的竞争。对于生成式AI的开发者而言，这些法律将产生巨大的影响，但一些大型科技公司仍然表示愿意“拥抱”法案。据路透社的报道，微软和IBM对欧盟的最新举措表示欢迎，不过它们仍然期待对方能够对内容进行进一步的完善。微软发言人表示，“我们认为AI需要立法监管、国际层面的协调努力，同时也需要开发公司采取自愿行动。”在AI领域的监管方面，欧盟一直走在世界前列。《华尔街日报》表示，欧盟试图将自己定位为，在AI领域设置“护栏”的领跑者。《华盛顿邮报》同样认为，此次投票将巩固欧盟在科技监管方面的全球领导地位，因为其他国家政府（包括美国国会）才刚开始应对人工智能所带来的威胁，尤其美国对于科技公司的监管一直停滞不前。如果该法案最终被采纳，其可能会影响全球的政策制定者。“（这一法案）是可以强制执行的法规，（违反规定的）公司将被追究责任，这一点非常重要。”爱尔兰公民自由委员会的高级研究员KrisShrisak说道，因为美国、新加坡等其他地方仅仅是提供“指导和建议”，他认为“其他国家可能会去适应和复制”欧盟的法案。根据《时代》周刊，欧盟市场规模庞大，拥有约4.5亿消费者。有专家认为，欧盟举措将促使开发公司更愿意遵守规定，而不是为不同地区开发不同的产品。欧盟立法者DragosTudorache同样认为，欧盟的法案“将为全球AI的发展和治理定下基调”。“今天我们创造了历史，”负责人工智能法案的欧洲议会成员BrandoBenifei在新闻发布会上表示，他认为欧洲立法者为全球各地就构建“负责任的人工智能”进行沟通，“铺平了道路”。特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端法国争当欧洲大陆人工智能中心
新华社北京6月20日电美国媒体18日报道，法国正大力推动人工智能产业发展，争当欧洲大陆人工智能中心。
法国总统埃马纽埃尔·马克龙上周告诉美国消费者新闻与商业频道(CNBC)记者：“我认为我国的人工智能实力在欧洲大陆排第一。我们必须加速发展。”
6月1日，在摩尔多瓦布尔博阿克，法国总统马克龙在第二届欧洲政治共同体领导人会议后参加新闻发布会。新华社记者连漪摄
马克龙说，法国在人工智能领域具有人才优势，而且已有一些初创企业，“我们将在训练和研发方面大力投资”。
CNBC的报道称，上周在法国举行的“科技万岁”科技创新展上，与会人员无论来自初创企业、成熟技术企业，还是美妆业和银行业，“人工智能被每个人挂在嘴边”。马克龙和法国经济、财政及工业、数字主权部长布鲁诺·勒梅尔出席创新展，显示法国政府力挺本国技术行业发展。
6月15日，在法国巴黎凡尔赛门展览中心，人们在“科技万岁”科技创新展上参观。新华社记者高静摄
只是，法国虽在这一领域雄心勃勃，但想在欧洲独拔头筹，仍面临来自德国和英国的激烈竞争。
英国首相里希·苏纳克上周宣称，英国要成为全球人工智能中心。英国政府4月宣布，向负责构建英国版人工智能基础模型的团队提供1亿英镑（约合9.2亿元人民币）起始资金，以推动英国加速发展人工智能技术。
美国约翰斯·霍普金斯大学“可靠自动化”学院联席院长安东·达赫布拉说，法国想要成功，需要让人工智能技术在制造业、制药业等本国优势行业实现应用落地。
马克龙说，虽然法国现在没有美国微软公司这样的人工智能巨头，但希望能在这一领域形成两三家“国际级”企业。
在这一领域，法国初创企业获得资本大力支持。米斯特拉尔人工智能公司仅成立4周，已成功融资1.05亿欧元（7.8亿元人民币）。（卜晓明）