人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
（实习生张伟纳对本文亦有贡献）
(责编：杨光宇、牛镛)关注公众号：人民网财经分享让更多人看到
加快发展新一代人工智能
理解提问，快速给出回答；训练声音，翻唱经典歌曲；根据描述，绘出趣味画作……近期，基于大模型研发的生成式人工智能，展示了在语言理解和内容生成等方面的出色能力，引发社会关注。
大模型赋能，生成式人工智能正在引发新一轮智能化浪潮。得益于拥有庞大的数据、参数以及较好的学习能力，大模型增强了人工智能的通用性。从与人顺畅聊天到写合同、剧本，从检测程序安全漏洞到辅助创作游戏甚至电影……生成式人工智能本领加速进化。随着技术迭代，更高效、更“聪明”的大模型将渗透到越来越多的领域，有望成为人工智能技术及应用的新基座，变成人们生产生活的基础性工具，进而带来经济社会发展和产业的深刻变革。人工智能大模型强大的创新潜能，使其成为全球竞争的焦点之一。
经过多方努力，我国人工智能大模型已具有一定基础。在2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，中国人工智能大模型正呈现蓬勃发展态势。据不完全统计，截至目前，10亿级参数规模以上的大模型全国已发布了79个。我国在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力。也应看到，人工智能大模型离不开多项技术的融合创新。在前沿基础理论和算法上，我国与国际先进水平还存在差距。筑牢智能时代的根基，需要瞄准短板，着力推动大模型领域生成式算法、框架等原创性技术突破。同时，还应发挥我国应用场景优势，进一步深耕垂直领域，以行业专有训练数据集为基础，打造金融、医疗、电力等领域的专业大模型。要以高质量应用和数据反馈技术优化，帮助大模型迭代升级。
数据质量影响大模型“智商”。国际上一些大模型之所以领先，与大量公开高质量数据的训练息息相关。我国有海量数据和丰富应用场景，应逐步开放共享优质数据，通过制定共享目录和共享规则等方式，推动数据分级分类有序开放，让流动数据激发创新活力。例如，前不久印发的《深圳市加快推动人工智能高质量发展高水平应用行动方案（2023—2024年）》提出，“建立多模态公共数据集，打造高质量中文语料数据”。期待各地各行业从实际出发，加强高质量数据供给，为大模型成长提供充足“养料”。
人工智能大模型研发周期长、投入大、风险高。经过数年持续研发，国际领先的大模型聚集了较好的资源和人才。当前，我国不少高校院所、企业正在做研发工作，在大模型、大数据、大算力等方面各有侧重，研发力量较为分散。作为追赶者，有必要进一步强化企业科技创新主体地位，整合优势创新资源，推动形成大模型产学研攻坚合力。
人工智能大模型带来的治理挑战也不容忽视。营造良好创新生态，需做好前瞻研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。为促进生成式人工智能技术健康发展和规范应用，今年4月，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》。新技术应用往往先于规范。着眼未来，在重视防范风险的同时，也应同步建立容错、纠错机制，努力实现规范与发展的动态平衡。
人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。从战略高度着手，凝聚合力、攻坚克难、勇于创新，努力拓展理论和技术应用空间，必能更好培育壮大新动能，构筑发展新优势。（喻思南）
滕泰：人工智能对经济增长的影响被低估
中新经纬6月15日电题：人工智能对经济增长的影响被低估
作者滕泰万博新经济研究院院长
滕泰
人工智能是一次前所未有的技术革命，现有的关于人工智能对经济增长的影响被低估，其影响不仅局限于GDP。未来10-20年，互联网、数字经济、元宇宙、人工智能，这些信息态财富将成为全球经济的主要推动力量。人工智能将改变各行各业，但其对就业的影响尚未大规模出现。当前的主要投资机会主要在通用人工智能大模型，AI算力和存储，以及AI产品创新、内容创新、场景创新、体验创新等方面。
一、人工智能的影响绝不仅体现在GDP增长方面
根据高盛的预测，人工智能在未来10年将带来7万亿美元的价值，也就是累计带动全球增长7%以上。另根据麦肯锡的一项研究，人工智能将会对中国经济带来6000亿美元以上的经济增长。这两个预测虽然令人印象深刻，但却是基于农业和工业经济的线性变化规律和牛顿世界观的一种机械的预测。在数字经济、元宇宙、人工智能这些领域，大部分变化是非连续、非线性的，甚至是量子跃迁式的。
因此，关于人工智能对未来经济增长的所有确定性的、线性变化的、精确的预测，都是不科学和不可信的，因为AI对全球经济的影响是量子跃迁式的，而且其影响结果并不是确定的，只是一个概率。前文提到的两个预测结果，总体上严重低估了人工智能对经济增长的影响。
人工智能不仅对经济增长有影响，还能替代和改变原有的生产方式——大部分这种改变和替代效应，可能并不带来经济增长。例如互联网电商取代传统门店，增加了消费者福利，促进了社会分工，但不一定增加商业总量。
如果AI提高生产效率但总需求不增加，则不会带来GDP增长，反而可能导致相关产品价格的大幅下跌。因此，AI对经济的影响是复杂的，但可以提高生产效率和人类福利。新供给需要创造新需求才会带来真正的经济增长，AI也需要创造新的生产和生活方式以带来新需求和经济增长。
二、人工智能对全球经济周期的影响是康波级别的
当前全球主要经济体增速下行，美国、欧洲因为要控制通胀，2022年以来连续大幅加息造成经济轻微衰退。
人工智能对全球经济周期的影响堪比历史上的技术革命，但时间可能比之前更短。人工智能技术革命将会给全球经济带来10-20年的增长动力，成为引领全球经济增长的新动力。
三、人工智能改变未来经济形态，信息态财富控制物质态财富
人工智能经济属于信息态的财富创造，类似互联网经济、数字经济、元宇宙经济等。
但是在农业和工业时代，信息态财富不是经济的主体，物质态财富才是经济的主体。互联网革命以后，数字经济、元宇宙和人工智能时代，信息态财富已经成了全球经济的主体构成。放眼全球，那些万亿美元、千亿美元市值的大公司，比如苹果、微软、英伟达、谷歌等，大部分都是信息态财富创造者，即便是那些制造业的公司，比如说特斯拉，它的主要的创造价值的方式也是以研发创造软价值。
传统的以物质财富为中心、以生产为中心的时代，研发是为生产服务的；而在这样一个数字经济、元宇宙和人工智能时代，在信息财富为主体的时代，研发不再是为生产服务，而是生产是为研发服务。比如，硅谷的苹果公司，在全球有成百上千家零件制造商、装备商，生产为研发服务——苹果公司的研发创造了软价值，而生产和装配者只是兑现这些价值；研发创造的价值占80%，而制造环节创造的硬价值只占经济价值的20%，这种“二八现象”今后是全球经济价值分布的一个常态。
互联网、数字经济、元宇宙、人工智能，都是信息态财富发展的高级形态，这些信息态经济不但可以独立运行、独立存在，还会反过来控制物质财富的创造。我们不知道未来人工智能会不会控制人类，但是有一点是确定的，就是信息态财富一定会控制全球物质态财富的创造。
所以，我们传统上一直非常重视物质财富，重视制造业，这没有错。但是我们也要更重视芯片，更要重视互联网、数字经济、虚拟现实技术，更要重视人工智能技术。
四、人工智能带来的就业挑战还没开始
这次技术对就业的影响跟前面50年、100年的技术革命不一样，这次技术革命叫人工智能革命，它会改变生产函数，对劳动的作用产生本质的影响。
经济学中的生产函数，最简单的是两要素的生产函数，一个要素是资本，一个是劳动，资本和劳动是可以相互替代的，可以多用一点资本，少用一点劳动，也可以多用一点劳动，少用一点资本。按照这个生产函数推演下去，大家可以想象，通用人工智能时代的到来，一定会让资本对经济增长的贡献和作用越来越大，劳动对经济增长的贡献和作用会越来越小，一定无法阻止资本替代劳动，因为人工智能的成本低、效率高。如果劳动本身的作用和贡献变小了，那么未来就业人数总体上一定是萎缩的，不管这个过程怎么曲折。
当然，人工智能对就业的冲击是逐步展开的，其影响可能会分为三个阶段：
第一个阶段，AI将起到辅助就业的作用，使一些工作变得更简单和更有效。
第二个阶段，当AI在某个工作中的贡献超过50%时，它将成为主体，而人类则成为辅助工具。这个工作岗位存在的必要性恐怕就大大减少了，这就是人工智能替代就业的效应。未来5-10年，人工智能对就业的主要影响应该是就业替代效应。
第三个阶段，人工智能本身的发展和人工智能在各行各业的广泛应用，又创造出很多新的社会分工和新的工作岗位，这个当前还很难预见。
我们没有必要，也没有办法阻挡AI的技术进步和广泛使用，因此不仅中国经济，全球经济都要面对这次人工智能革命带来的就业冲击，因为不管过程多么曲折，人工智能导致生产函数的变化，总体就是指向这样一个劳动贡献减少、就业减少的结果。
如果AI能够在不降低生产力的情况下创造更多的财富，并解放大量人力资源，那么AI对于人类社会的影响也可能是正面的。挑战在于如何去管理一个由大量有闲阶层组成的社会，大部分人不用工作的社会，这是未来每个国家都要应对的挑战。
五、人工智能带来前所未有的投资机遇
就像互联网和数字经济对各行各业的影响一样，人工智能一定会对各行各业的生产方式带来革命性的变革，因此人工智能带来的投资机遇也是广泛的、无处不在的。从短期来看，人工智能带来的投资机会主要集中在以下三个方面。
第一个方面是人工智能大模型的历史机遇。在OpenAI公司之后，短短的半年时间，美国已经出现了80多个人工智能大模型，中国也已经涌现79个AI大模型，有通用大模型，也有垂直大模型。未来这些人工智能大模型，就像之前的互联网平台一样，将成为几十亿人新的流量入口。在未来的通用人工智能时代，如果几千万人、几亿，甚至更多人的工作和生活至少都依赖于某几个大模型，那大浪淘沙之后留下来的大模型公司，也难免会聚集大部分收入和利润，并且具有公共产品性质。
第二个方面的投资机遇可能在与人工智能相关的算力和算法领域。这么多人工智能大模型，数不清的数据和参数，一定会对人工智能相关的算力、算法、尤其上游的AI算力芯片、存储芯片、数据中心产生巨大的、爆炸式的需求增长，并带来新的增长机会。在美国，英伟达公司的市值已突破万亿，超威公司(AMD)也正在迎头赶上，中国的算力和存储产业也正在以前所未有的速度迅速增长。
第三个方面是人工智能带来的新产品、新内容、新场景、新体验。如前文所述，AI对经济的影响分为两个方面，一是新供给不创造新需求，只是替代老供给、满足老需求，它带来效率的提高、价格的下降，增加人类的福利，但是未必带来行业和企业利润的提高；二是人工智能作为新供给创造新需求，引领和改变生活方式，带来新的经济增长——这部分，也就是用AI产品创新、内容创新、场景创新、体验创新，来创造新需求的企业，才是可以真正蛋糕做大、迅速成长的黄金投资领域。(中新经纬APP)
本文由中新经纬研究院选编，因选编产生的作品中新经纬版权所有，未经书面授权，任何单位及个人不得转载、摘编或以其它方式使用。选编内容涉及的观点仅代表原作者，不代表中新经纬观点。
责任编辑：宋亚芬实习生张可