欧盟《人工智能法案》进入最终谈判阶段
14日，欧洲议会全体会议表决通过了《人工智能法案》授权草案，该法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。
欧洲议会当天投票决定禁止实时远程生物识别技术，如不能在公共场合进行实时人脸识别，并对ChatGPT等生成式人工智能工具增加更多安全控制措施，提出新的透明度要求，以确保人工智能的研发和应用符合欧盟权利和价值观。
据欧洲议会网站消息，欧洲议会“为制定史上首部人工智能法案已经做好谈判准备”。按照立法议程，欧洲议会将就这一授权草案与欧盟委员会和成员国进行“三方”谈判，欧洲立法者希望在今年年底前就法案的最终版本达成共识。
今年5月，欧洲议会内部的市场委员会和公民自由委员会通过欧盟委员会于2021年4月提出的《人工智能法案》提案的谈判授权草案。欧洲议会声明，这部提案如正式获得批准，将成为全世界首部有关人工智能的法规。
该法案将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体（无论该实体是在欧盟境内还是在第三国）、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统但系统的输出用于欧盟境内或对欧盟境内人员产生影响的实体。
该法案草案的一个突出特点是注重基于风险来制定监管制度，以平衡人工智能的创新发展与安全规范。草案将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。其中高风险人工智能的使用必须受到严格监管，系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。对于违反规定者，草案设定了最高3000万欧元或全球年营业额6%的罚款。
最新草案严格禁止对人类安全造成不可接受风险的人工智能系统，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统，并扩大了人工智能高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统，还针对ChatGPT等生成式人工智能设立专门监管制度。每个欧盟成员国都将设立一个监督机构。
此外，引进监管沙盒机制以管控风险和促进创新，在人工智能系统入市或投入使用前，对人工智能系统进行开发、测试和验证降低风险。最新草案文本还提出，这一机制同样被允许用于在现实条件下测试创新人工智能，以鼓励人工智能企业持续创新。
清华大学自动化系教授陶建华在接受记者采访时说，欧盟试图建立一个统一的人工智能法律监管框架，是全球人工智能发展进程中一个重要的标志性事例。其对人工智能进行有效法规约束的探讨和尝试都会产生全球性的影响，可能引发越来越多的国家尝试跟进相关法规的探索。
竞天公诚律师事务所合伙人袁立志认为，欧盟推动人工智能立法，有利于保护基本人权、维护欧盟在数字主权和科技领域的领导地位，并通过这样一部综合性立法抢占全球人工智能监管先机。但其本身具有局限性。它采用的是横向立法，并非针对特定人工智能应用领域，而是试图把所有人工智能都纳入监管范围，在执行层面将面临大量的解释问题。
陶建华指出，欧盟并未就人工智能技术可能会给人类带来什么样的影响形成共识。从辨证的角度看，人工智能既能造福和服务人类，但如若用之不善，也会给人类带来威胁或伤害。因此，如何平衡创新和约束是欧盟立法面临的一个非常重要的挑战。但在追求创新和管控创新可能带来的危害之间寻求一个有效平衡，很大程度上是使用者的问题。如何对使用者进行有效监管，也是欧盟人工智能立法面临的一大挑战。此外，统一的法律框架并未涉及具体的法律规范，因此实际的执行效果上可能会“大打折扣”。（刁泽）
DeepMind 的人工智能系统 AlphaDev 发现的排序算法可能彻底改变计算基础
站长之家(ChinaZ.com)6月8日消息: 谷歌的人工智能研究实验室DeepMind通过其最新的AI系统AlphaDev，在计算机科学领域取得了一项重大成就。AlphaDev是AlphaZero的一个专门版本，通过发现更快的排序和散列算法，为全球开发人员在数据排序、存储和检索方面提供了必不可少的处理过程，每天使用数万亿次。
DeepMind在今天发表在科学杂志《自然》上的一篇论文中表示，与C++库中的算法相比，AlphaDev的新算法在对短序列元素进行排序时效率提高了70%，对超过250，000个元素的序列提高了约1.7%。因此，当用户提交搜索查询时，AlphaDev的算法可以更快地对结果进行排序，从而在大规模应用时节省大量时间和能源。
此外，该系统还发现了一种更快的散列算法，在数据中心中将哈希函数应用于9到16字节范围内时，效率提高了30%。
革新计算机科学
DeepMind认为这一重大成就将彻底改变计算机科学，并带来效率和效果的提升。
DeepMind的研究员表示：「AlphaDev发现了改进的排序算法，包括AlphaDev复制和交换移动等新颖创新。」他还说：「类似于AlphaGo著名的『37手』给围棋这个古老游戏带来了一套新的策略，AlphaDev独特的算法发现希望能激发出优化基础计算机科学算法的新视角和策略，并使其更快。」
Mankowitz说，这是强化学习的一个重要里程碑，因为它提供了更多证据证明其有能力做出新发现，尤其是在代码优化领域。
该公司还宣布打算通过LLVMlibc++标准排序库将新算法提供给数百万开发人员和各行各业的公司。值得注意的是，这次更新是排序库这一部分十年来的首次修订，也是通过强化学习开发的算法的首次纳入。
Mankowitz表示：「我们估计，我们公开发布的排序算法每天在全球被调用数万亿次，可以提供2%到70%的速度提升，这些算法可以为调用这些函数的开发人员和公司提供资源节省。我们相信这些算法将激发研究人员和实践者开发出更多的新方法，从而发现新的和改进的算法。」
利用强化学习增强传统算法开发
DeepMind表示，目前大多数计算算法已经达到人类专家无法进一步优化的阶段，导致了计算瓶颈的不断加剧。该公司强调，使用深度强化学习可以通过生成精确高效的算法来增强开发方法。在进行更有效的搜索和考虑准确和快速程序的空间的同时，它通过优化CPU指令级别的实际测量延迟来实现。
排序算法是系统地对项目按指定顺序进行排列的基础。它们是计算机科学教育的基石。同样，散列在数据存储和检索中有广泛应用，比如在客户数据库中。散列算法通常使用一个键（比如用户名称「JaneDoe」）生成与所需数据值（比如「订单号164335-87」）相对应的唯一散列值，以便进行检索。类似于图书管理员利用分类系统迅速找到特定书籍，散列系统使计算机能够事先知道所需信息及其准确位置。
虽然开发人员主要使用C++等用户友好的高级语言编写代码，但将这些语言转化为低级汇编指令对于计算机理解来说是必不可少的。DeepMind的研究人员认为，在低级别存在许多改进的空间，而在高级编程语言中揭示这些改进可能面临挑战。汇编级别提供了计算机存储和操作的灵活性，为能够显著影响速度和能源效率的改进提供了巨大潜力。
为了在C++中运行算法，首先将其编译成称为汇编指令的低级CPU指令，这些指令在CPU上的内存和寄存器之间操作数据。
Mankowitz表示：「这提供了算法操作的更加细致的概述，因此更容易找到改进算法的优化方式。通过在汇编中进行优化，我们发现了AlphaDev复制和交换移动。这些是一系列汇编指令，当应用于一个汇编程序时，可以通过减少一个指令来减小程序的大小。」
DeepMind发现更快算法的独特方法
DeepMind的AlphaDev采用了一种非常规的方法，通过探索人类鲜有涉足的计算机汇编指令领域，发现更快的算法。为了训练AlphaDev发现新算法，研究团队将排序重新构想为「单人汇编游戏」。AlphaDev利用强化学习观察和生成算法，并结合CPU的信息。
在每一步中，AI系统主动选择一个指令并将其纳入算法中，这是一个复杂且具有挑战性的过程，因为潜在的指令组合数目庞大。
AlphaDev逐步构建算法的同时，还通过将算法的输出与预期结果进行比较来验证每一步的正确性。这种方法的最终目标是发现一个正确且更快的程序，从而在游戏中取得胜利。
DeepMind的AI系统发现了新颖的排序算法，使LLVMlibc++排序库取得了显著的改进。研究主要集中在提高短序列的排序算法，这些算法通常被应用于更大的排序函数中，提高它们的效率可以改善排序任意数量的项目时的整体速度。
为了提高可用性，DeepMind对发现的算法进行了逆向工程，并将其转化为C++代码。
超越排序算法的领域
这些改进主要针对对数字进行排序的sort3.sort4和sort5程序。Mankowitz解释说：「每当开发人员或应用程序需要对这些数据类型进行排序时，都可以调用我们的排序算法。根据要排序的项目数量，速度提升范围在2%到70%之间。由于这些函数每天被调用数万亿次，开发人员和用户将能够在消耗更少资源的情况下运行其应用程序/使用各种服务。」
此外，AlphaDev的能力超越了排序算法的领域。DeepMind还探索了系统的潜力，将其方法泛化并改进其他重要的计算机科学算法，包括散列算法。将AlphaDev的方法应用于9到16字节范围内的散列算法，其速度提高了30%。
DeepMind表示，AlphaDev是朝着创建能够优化整个计算生态系统并应对各种社会挑战的多功能AI工具的进展中的重要里程碑。尽管优化低级汇编指令已经显示出巨大的威力，但该公司表示，他们正在积极探索AlphaDev直接优化高级语言（如C++）中的算法的潜力，这对开发人员来说将更加有价值。他们还在尝试优化在运行应用程序和服务时更有效地调度资源，例如优化YouTube的视频压缩流程以及优化系统和应用程序运行的底层硬件。
Mankowitz表示：「我们希望这些算法能够为研究人员和实践者提供一种不同的视角，看待如何构建算法。」