人工智能如何“向善”
0分享至本文转自：人民日报海外版本报记者刘峣《人民日报海外版》（2023年06月19日第09版）学生在河北省邯郸人工智能教育基地参观。郝群英摄（人民视觉）一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。通用人工智能路途尚远“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。加强安全治理领域国际合作根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。推动大模型共建共享当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。（实习生张伟纳对本文亦有贡献）特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端DeepMind 的人工智能系统 AlphaDev 发现的排序算法可能彻底改变计算基础
站长之家(ChinaZ.com)6月8日消息: 谷歌的人工智能研究实验室DeepMind通过其最新的AI系统AlphaDev，在计算机科学领域取得了一项重大成就。AlphaDev是AlphaZero的一个专门版本，通过发现更快的排序和散列算法，为全球开发人员在数据排序、存储和检索方面提供了必不可少的处理过程，每天使用数万亿次。
DeepMind在今天发表在科学杂志《自然》上的一篇论文中表示，与C++库中的算法相比，AlphaDev的新算法在对短序列元素进行排序时效率提高了70%，对超过250，000个元素的序列提高了约1.7%。因此，当用户提交搜索查询时，AlphaDev的算法可以更快地对结果进行排序，从而在大规模应用时节省大量时间和能源。
此外，该系统还发现了一种更快的散列算法，在数据中心中将哈希函数应用于9到16字节范围内时，效率提高了30%。
革新计算机科学
DeepMind认为这一重大成就将彻底改变计算机科学，并带来效率和效果的提升。
DeepMind的研究员表示：「AlphaDev发现了改进的排序算法，包括AlphaDev复制和交换移动等新颖创新。」他还说：「类似于AlphaGo著名的『37手』给围棋这个古老游戏带来了一套新的策略，AlphaDev独特的算法发现希望能激发出优化基础计算机科学算法的新视角和策略，并使其更快。」
Mankowitz说，这是强化学习的一个重要里程碑，因为它提供了更多证据证明其有能力做出新发现，尤其是在代码优化领域。
该公司还宣布打算通过LLVMlibc++标准排序库将新算法提供给数百万开发人员和各行各业的公司。值得注意的是，这次更新是排序库这一部分十年来的首次修订，也是通过强化学习开发的算法的首次纳入。
Mankowitz表示：「我们估计，我们公开发布的排序算法每天在全球被调用数万亿次，可以提供2%到70%的速度提升，这些算法可以为调用这些函数的开发人员和公司提供资源节省。我们相信这些算法将激发研究人员和实践者开发出更多的新方法，从而发现新的和改进的算法。」
利用强化学习增强传统算法开发
DeepMind表示，目前大多数计算算法已经达到人类专家无法进一步优化的阶段，导致了计算瓶颈的不断加剧。该公司强调，使用深度强化学习可以通过生成精确高效的算法来增强开发方法。在进行更有效的搜索和考虑准确和快速程序的空间的同时，它通过优化CPU指令级别的实际测量延迟来实现。
排序算法是系统地对项目按指定顺序进行排列的基础。它们是计算机科学教育的基石。同样，散列在数据存储和检索中有广泛应用，比如在客户数据库中。散列算法通常使用一个键（比如用户名称「JaneDoe」）生成与所需数据值（比如「订单号164335-87」）相对应的唯一散列值，以便进行检索。类似于图书管理员利用分类系统迅速找到特定书籍，散列系统使计算机能够事先知道所需信息及其准确位置。
虽然开发人员主要使用C++等用户友好的高级语言编写代码，但将这些语言转化为低级汇编指令对于计算机理解来说是必不可少的。DeepMind的研究人员认为，在低级别存在许多改进的空间，而在高级编程语言中揭示这些改进可能面临挑战。汇编级别提供了计算机存储和操作的灵活性，为能够显著影响速度和能源效率的改进提供了巨大潜力。
为了在C++中运行算法，首先将其编译成称为汇编指令的低级CPU指令，这些指令在CPU上的内存和寄存器之间操作数据。
Mankowitz表示：「这提供了算法操作的更加细致的概述，因此更容易找到改进算法的优化方式。通过在汇编中进行优化，我们发现了AlphaDev复制和交换移动。这些是一系列汇编指令，当应用于一个汇编程序时，可以通过减少一个指令来减小程序的大小。」
DeepMind发现更快算法的独特方法
DeepMind的AlphaDev采用了一种非常规的方法，通过探索人类鲜有涉足的计算机汇编指令领域，发现更快的算法。为了训练AlphaDev发现新算法，研究团队将排序重新构想为「单人汇编游戏」。AlphaDev利用强化学习观察和生成算法，并结合CPU的信息。
在每一步中，AI系统主动选择一个指令并将其纳入算法中，这是一个复杂且具有挑战性的过程，因为潜在的指令组合数目庞大。
AlphaDev逐步构建算法的同时，还通过将算法的输出与预期结果进行比较来验证每一步的正确性。这种方法的最终目标是发现一个正确且更快的程序，从而在游戏中取得胜利。
DeepMind的AI系统发现了新颖的排序算法，使LLVMlibc++排序库取得了显著的改进。研究主要集中在提高短序列的排序算法，这些算法通常被应用于更大的排序函数中，提高它们的效率可以改善排序任意数量的项目时的整体速度。
为了提高可用性，DeepMind对发现的算法进行了逆向工程，并将其转化为C++代码。
超越排序算法的领域
这些改进主要针对对数字进行排序的sort3.sort4和sort5程序。Mankowitz解释说：「每当开发人员或应用程序需要对这些数据类型进行排序时，都可以调用我们的排序算法。根据要排序的项目数量，速度提升范围在2%到70%之间。由于这些函数每天被调用数万亿次，开发人员和用户将能够在消耗更少资源的情况下运行其应用程序/使用各种服务。」
此外，AlphaDev的能力超越了排序算法的领域。DeepMind还探索了系统的潜力，将其方法泛化并改进其他重要的计算机科学算法，包括散列算法。将AlphaDev的方法应用于9到16字节范围内的散列算法，其速度提高了30%。
DeepMind表示，AlphaDev是朝着创建能够优化整个计算生态系统并应对各种社会挑战的多功能AI工具的进展中的重要里程碑。尽管优化低级汇编指令已经显示出巨大的威力，但该公司表示，他们正在积极探索AlphaDev直接优化高级语言（如C++）中的算法的潜力，这对开发人员来说将更加有价值。他们还在尝试优化在运行应用程序和服务时更有效地调度资源，例如优化YouTube的视频压缩流程以及优化系统和应用程序运行的底层硬件。
Mankowitz表示：「我们希望这些算法能够为研究人员和实践者提供一种不同的视角，看待如何构建算法。」